ChatGPT:stä löytyi vakava tietovuotoriski – hyökkääjä pystyi pääsemään käsiksi esimerkiksi Gmail-sähköposteihin

Check Point Research paljasti ChatGPT:ssä olleen haavoittuvuuden.

Tietoturvayhtiö Check Point Research on paljastanut ChatGPT-tekoälypalvelusta vakavan tietoturvaongelman, jonka avulla hyökkääjä pystyi välittämään piilotettuja komentoja eri käyttäjätilien välillä ja käyttämään uhrin ChatGPT-istunnon työkaluja, tiedostoja sekä yhdistettyjä palveluita omiin tarkoituksiinsa.

Tutkijoiden kokeessa ChatGPT haki tietoja uhrin yhdistetystä Gmail-tilistä ja välitti ne hyökkääjälle samalla, kun käyttäjä sai näkyviin täysin normaalin vastauksen omaan kysymykseensä.

Tutkijoiden mukaan hyökkäys perustui ChatGPT:n koodia suorittavien ympäristöjen väliseen piilokanavaan. Eri käyttäjien konttiympäristöt eivät voineet olla suoraan yhteydessä internetiin tai toisiinsa, mutta niillä oli pääsy samaan sisäiseen palveluun, jota käytettiin ohjelmistopakettien ja riippuvuuksien toimittamiseen.

Ongelman ytimessä oli sisäinen JFrog Artifactory -palvelu. Tutkijat havaitsivat, että ChatGPT:n koodia suorittavat ympäristöt pystyivät kirjoittamaan metatietoja palveluun ja lukemaan samoja tietoja toisesta, eri käyttäjätiliin kuuluvasta ympäristöstä.

Käytännössä muuten toisistaan eristetyt ympäristöt saivat näin käyttöönsä yhteisen viestintäkanavan. Check Point kuvailee mekanismia eräänlaiseksi ”jaetuksi leikepöydäksi”, jonka kautta tekstimuotoista tai Base64-muotoon koodattua tietoa voitiin välittää käyttäjätilien välillä. Suuremmat tietomäärät voitiin pilkkoa useisiin osiin ja koota vastaanottavassa ympäristössä uudelleen.

Check Point osoitti, että kanavaa voitiin käyttää myös piilotettujen tehtävien välittämiseen. Hyökkääjän ohje voitiin tuoda uhrin keskusteluun esimerkiksi haitallisen pyynnön, jaetun ChatGPT-keskustelun tai kustomoidun GPT:n piilotettujen ohjeiden kautta.

Tämän jälkeen yksi tavallinen käyttäjän lähettämä viesti saattoi käynnistää kaksi rinnakkaista toimintoa. ChatGPT vastasi näkyvään kysymykseen normaalisti, mutta tarkisti samalla hyökkääjän piilotetun tehtävän, suoritti sen uhrin istunnon käytettävissä olevilla työkaluilla ja palautti tuloksen takaisin piilokanavan kautta.

Tutkijoiden käytännön esimerkissä ChatGPT:n istuntoon oli yhdistetty Gmail. Käyttäjä esitti täysin asiaankuulumattoman tavallisen kysymyksen, mutta samalla ChatGPT haki hyökkääjän pyynnöstä sähköpostitietoja Gmailista ja välitti ne takaisin piilotetun kanavan kautta.

Hyökkäyksen mahdollinen vaikutus ei rajoittunut Gmailiin. Tutkijoiden mukaan vastaavaa toimintoa olisi voitu hyödyntää kaiken sellaisen datan ja työkalujen kanssa, joihin kyseisellä ChatGPT-istunnolla oli jo valmiiksi pääsy, kuten keskusteluhistorian, ladattujen tiedostojen tai yhdistettyjen pilvipalveluiden kanssa.

Check Pointin mukaan tilien välinen piilokanava ei ollut enää käytettävissä siinä vaiheessa, kun tutkimusraportti valmistui. Tutkijat ilmoittivat löydöksestä OpenAI:lle, ja raportin mukaan OpenAI vahvisti tutkimuksessa tunnistetun sisäisen Artifactory-instanssin poistetun käytöstä.

Check Point Researchin tutkijat nostavat löydöksen esimerkiksi laajemmasta agenttimaisten tekoälyjärjestelmien tietoturvahaasteesta. Kun tekoälymalli voi käyttää käyttäjän puolesta tunnuksia, sisäisiä palveluita, tiedostoja ja ulkoisia sovelluksia, pelkkä keskustelun suojaaminen ei riitä. Myös kaikki mallin käytettävissä olevat taustajärjestelmät, käyttöoikeudet ja jaetut palvelut on eristettävä tiukasti käyttäjä- ja istuntokohtaisesti.

Mainos: Noin 1 600 000 tuotteen hintavertailu ja hintaseuranta - katso Hinta.fistä mistä saat halvimmalla