OpenAI tutkii yhä tekoälyagenttiensa virheellistä toimintaa – 53 kappaletta ChatGPT-käyttäjien kuvia vuoti verkkoon

OpenAI.

OpenAI selvittää edelleen laajaa joukkoa tapauksia, joissa sen tekoälyagentit ovat toimineet ei-toivotuilla tai luvattomilla tavoilla.

Uutistoimisto Reutersin mukaan yhtiön tutkinta voi kestää kuukausia, ja uusia tapauksia on löytynyt sitä mukaa kun sisäisiä lokitietoja on käyty läpi.

Tuoreimmassa tapauksessa OpenAI kertoi 25. syyskuuta, että sen agentit olivat vuotaneet 53 ChatGPT-käyttäjien kuvaa verkkoon. Yhtiö ei kertonut, olivatko kuvat tekoälyllä luotuja vai esittivätkö ne oikeita ihmisiä, eikä se täsmentänyt, milloin kuvat julkaistiin.

Reutersin lähteen mukaan OpenAI oli löytänyt syyskuun puoliväliin mennessä noin kaksi tusinaa tapausta, joissa agentit olivat toimineet yhtiön toivomalla tavalla poikkeavasti. Määrän kerrotaan kasvaneen tutkinnan edetessä.

OpenAI on ilmoittanut kymmenille ulkopuolisille tahoille epäasiallisesta toiminnasta ja kertonut, että suurin osa vuotaneista kuvista on jo poistettu verkosta. Yhtiö pyrkii saamaan myös jäljellä olevat kuvat poistettua palveluntarjoajien kautta.

Osa kuvista oli päätynyt agenttien saataville, koska OpenAI käyttää osaa ChatGPT:n kuluttajaversion datasta mallien koulutukseen silloin, kun käyttäjä ei ole estänyt tätä asetuksissa. OpenAI kertoo anonymisoivansa aineiston ennen käyttöä poistamalla esimerkiksi nimiä, metatietoja ja yhteystietoja. Reutersin lähteet kuitenkin huomauttivat, ettei anonymisointi välttämättä aina poista kaikkea henkilöllisyyteen yhdistettävää tietoa.

OpenAI kertoi perjantaina myös, että sen mallit olivat käyttäneet tutkimus- ja koulutustoiminnassa tietoja muun muassa Yhdysvaltain arvopaperi- ja pörssikomission SEC:n sekä Census Bureaun verkkosivuilta. Yhtiön mukaan se ei löytänyt näyttöä luvattomasta pääsystä, murretuista tileistä tai varsinaisista tietoturvaloukkauksista näissä tapauksissa.

Erillisen tutkimusorganisaatio Translucen mukaan OpenAI:hin yhdistetyt agentit yrittivät epäonnistuneesti murtautua Yhdysvaltain opetusministeriön kansalaisoikeussivustolle. OpenAI kertoi, että osa Translucen kuvaamista tapauksista on jo mukana sen omassa käynnissä olevassa tutkinnassa.

Aiemmin heinäkuussa OpenAI kertoi, että sen agentit olivat murtautuneet niille asetetuista rajoista ja iskeneet Hugging Face -palveluun testien aikana. Kyseinen tapaus johti laajempaan sisäiseen tutkintaan, jonka aikana löytyi myös muita aiemmin tuntemattomia tapahtumia.

OpenAI julkaisi 16. syyskuuta uuden raportointitavan poikkeuksellisesta toiminnasta. Sen mukaan OpenAI aikoo jatkossa julkaista tällaisia tapauksia aiempaa järjestelmällisemmin myös silloin, kun tapahtuman merkitys ei ole vielä täysin selvä. OpenAI sanoo, ettei alan nykyistä tasoa voida pitää riittävänä siihen, että kaikkein kyvykkäimpiä malleja skaalattaisiin vastuullisesti pitkään nykyisellä tahdilla.

Reutersin mukaan kaksi OpenAI:n tutkintaa tuntevaa lähdettä kuvasi prosessia poikkeuksellisen suljetuksi ja yhtiön lakimiesten vahvasti ohjaamaksi. OpenAI on kuitenkin kiistänyt väitteen, jonka mukaan sen lakitiimi olisi estänyt tutkijoita laajentamasta selvityksiä muihin tapauksiin.

OpenAI kertoo priorisoivansa tutkinnassaan vakavimpia tapauksia ja arvioivansa, että koko selvitystyön loppuun saattaminen kestää kuukausia.

Mainos: Noin 1 600 000 tuotteen hintavertailu ja hintaseuranta - katso Hinta.fistä mistä saat halvimmalla