Anthropicin tutkijat varoittavat uudesta riskistä – pienet tekoälymallit pystyvät pian kopioimaan ja levittämään itseään IoT-laitteissa

Tekoäly-yhtiö Anthropicin tutkijat arvioivat, että pienet tekoälymallit voivat olla enää vain kuukausien päässä kyvystä kopioida ja levittää itseään halvoissa internetiin liitetyissä laitteissa, kuten Android TV -laitteissa ja muissa IoT-laitteissa.

Tutkijoiden mukaan tällainen hajautettu tekoälypohjainen haittaohjelma olisi vaikea pysäyttää, koska sillä ei olisi yhtä keskitettyä palvelinta tai infrastruktuuria, jonka sulkeminen lopettaisi toiminnan.

Tutkijat kutsuvat ilmiötä autonomiseksi replikaatioksi ja adaptaatioksi eli ARA:ksi. Ajatuksena on, että tekoälyagentti voisi löytää uusia laitteita, hankkia niissä koodin suoritusoikeuden, käynnistää oman mallinsa ja jatkaa leviämistä ilman ihmisen jatkuvaa ohjausta.

Kokeissa tutkijat ajoivat Gemma4-26B-A4B-mallia hajautetusti 15 edullisella noin 55 dollarin hintaisella Android TV -boksilla. Suorituskyky jäi vaatimattomaksi, noin 0,39 tokeniin sekunnissa, mutta koe osoitti, että suhteellisen kykenevää mallia voidaan ajaa myös datakeskusten ulkopuolella hajautettuna heikkotehoisiin laitteisiin.

Pienemmät mallit pystyivät lisäksi käynnistämään tekoälyn ajamisen useilla hyvin erilaisilla laitteilla. Tutkimuksessa 9 miljardin parametrin malli onnistuttiin saamaan toimimaan kahdeksalla yhdeksästä testatusta laitteistotyypistä.

Tutkijoiden mukaan erityisen kiinnostavia kohteita voisivat olla kodin ja pienten yritysten IoT-laitteet, koska niissä tietoturva on historiallisesti ollut heikompaa. Samalla yhä useammissa kameroissa, kodinkoneissa ja muissa laitteissa on paikallista tekoälylaskentaa varten omia kiihdyttimiä, mikä kasvattaa niiden laskentakykyä.

Tutkimuksen suljetussa testiympäristössä vain GLM-5.2-malli onnistui suorittamaan koko yksinkertaistetun replikaatioketjun luotettavasti. Se levisi kahdeksaan kahdeksasta testisolmusta neljässä viidestä kokeesta ja seitsemään kahdeksasta yhdessä kokeessa.

Tutkijat korostavat kuitenkin, että testi oli tarkoituksella yksinkertaistettu ja todellisen maailman hyökkäyksiä helpompi. Siksi tulosta ei pidä tulkita osoitukseksi siitä, että nykyinen pieni tekoälymalli voisi sellaisenaan levitä laajasti verkossa.

Arvion mukaan enintään 30 miljardin parametrin mallit osaavat jo monia replikaation yksittäisiä vaiheita, mutta niiden kyky yhdistää kaikki vaiheet luotettavasti on vielä rajallinen. Nykyisen kehitysvauhdin jatkuessa tutkijat arvioivat, että pienet mallit voisivat saavuttaa tarvittavan kyvykkyystason vuoden 2026 loppuun mennessä.

Tällainen ”AI-mato” ei tutkijoiden mukaan olisi ainakaan aluksi erityisen nopea. Esimerkiksi pienillä IoT-laitteilla yhden replikaatiokierroksen arvioidaan voivan kestää yli vuorokauden.

Hitaus ei kuitenkaan poistaisi ongelmaa. Tekoälymalli voisi mukautua uusiin laitteisiin ja siirtää toimivia strategioita seuraaville kopioilleen. Yhdessä kokeessa Qwen3.5-9B:n onnistumisprosentti nousi ensimmäisen sukupolven 45 prosentista myöhemmissä sukupolvissa 61–84 prosenttiin, kun uudet agentti-instanssit perivät edeltäjiensä muistiinpanot.

Tutkijoiden mukaan suuren mittakaavan tekoälyn leviäminen jättäisi todennäköisesti havaittavia jälkiä verkkoliikenteeseen.

Keskeisiä puolustuskeinoja uusia riskejä vastaan ovat entuudestaan tuttuja: IoT-laitteiden turvallisemmat oletusasetukset, valmistajien parempi päivitystuki ja heikkojen oletussalasanojen poistaminen.

Mainos: Noin 1 600 000 tuotteen hintavertailu ja hintaseuranta - katso Hinta.fistä mistä saat halvimmalla