Tekoäly auttoi käyttäjää saamaan paikan kuntosalin ryhmäliikuntatunnille hakkeroimalla sen verkkosivun

OpenClaw-agentti perustuu Claude-tekoälyyn.

Tekoälyä auttoi käyttäjää saamaan itselleen kuntosalijäsenyyden Australiassa hakkeroimalla kuntosalin verkkosivun. Claude-tekoäly poisti samalla toisen käyttäjän listoilta, ABC News uutisoi.

Andrew-niminen australialaismies oli ottanut käyttöön Claude-tekoälyä käyttävän OpenClaw-agentin. Tekoälyagentit voivat esimerkiksi käyttää internetiä ja sähköpostia sekä suunnitella ja suorittaa itsenäisesti monivaiheisia tehtäviä ilman käyttäjän jatkuvaa ohjeistusta.

Andrew pyysi tekoälyagenttia varaamaan hänelle paikan kuntosalin suositulle aamutunnille, mikä onnistuikin. Myöhemmin Andrew oli toisen tunnin jonossa neljäntenä ja kysyi tekoälyltä, voisiko tämä nostaa hänet jonon kärkeen. Agentti ryhtyi tutkimaan asiaa ja havaitsi, ettei varausjärjestelmä riittävästi selvittänyt käyttäjän oikeuksia muiden asiakkaiden varausten peruuttamiseen.

Tekoäly päätti kokeilla haavoittuvuutta käytännössä ja poisti jonossa ensimmäisenä olleen asiakkaan varauksen. Näin Andrew nousi neljänneltä sijalta kolmanneksi, vaikka hän ei ollut käskenyt tekoälyä poistamaan ketään jonosta. Myöhemmin mies havaitsi tilanteen ja pyysi agenttia perumaan tekemänsä muutoksen, jolloin tekoäly kuitenkin ilmoitti, ettei pystynyt lisäämään toista asiakasta takaisin.

Huomionarvoisesti käyttäjä ei siis pyytänyt tekoälyä hakkeroimaan järjestelmää, vaan agentti päätyi hyödyntämään löytämäänsä tietoturva-aukkoa itsenäisesti pyrkiessään saavuttamaan sille annetun tavoitteen.

Kyseessä ei enää aivan ainutlaatuinen tapaus, sillä myös esimerkiksi ChatGPT:n tiedetään aiemmin suorittaneen kyberhyökkäyksen omin lupineen.

Kyse on kuitenkin tiettävästi ensimmäisestä tapauksesta, kun tavallinen käyttäjä on vahingossa saanut tekoälyn hyödyntämään haavoittuvuutta sille annetun tavoitteen saavuttamiseksi.

Australialainen kuntosaliyritys ei vastannut ABC Newsin kommenttipyyntöön. Claude-tekoälyn kehittänyt Anthropic ei liioin ole ottanut kantaa tapaukseen.

Mainos: Noin 1 600 000 tuotteen hintavertailu ja hintaseuranta - katso Hinta.fistä mistä saat halvimmalla