ChatGPT muuttuu EU:ssa: tekstivastauksissa piileksii jatkossa sanavalinnoilla luotu näkymätön vesileima

OpenAI.

OpenAI on kertonut ottavansa käyttöön uuden textGrain-vesileiman, joka lisätään tulevina viikkoina EU-alueella ChatGPT:llä ja Codexilla tuotettuun tekstiin.

Taustalla ovat Euroopan unionin tekoälysäädöksen läpinäkyvyysvaatimukset, joiden mukaan generatiivisen tekoälyn tuottama sisältö pitää voida merkitä koneellisesti tunnistettavalla tavalla.

API-asiakkaat voivat puolestaan ottaa tekstin vesileimamerkinnän valinnaisesti käyttöön maailmanlaajuisesti valituissa malleissa jo nyt.

OpenAI:n hyödytämä textGrain ei lisää tekstiin näkymättömiä merkkejä, ylimääräisiä välilyöntejä tai muuta vastaavaa, vaan sen sijaan tekniikka muuttaa hienovaraisesti mallin tekemien sanavalintojen tilastollista rakennetta. Kun kielimalli valitsee seuraavaa sanaa tai sanan osaa useiden vaihtoehtojen joukosta, textGrain painottaa tiettyjä vaihtoehtoja salaisen mallin mukaisesti.

Riittävän pitkästä tekstistä voi tämän jälkeen havaita syntyneen tilastollisen kuvion.

OpenAI kertoo omissa testeissään textGrainin yltäneen vähintään samaan tai parempaan tunnistustasoon kuin muut sen testaamat ratkaisut, mukaan lukien Googlen tekstille tarkoitettu SynthID. Yhtiö aikoo myös avata teknologian muiden tutkijoiden ja organisaatioiden hyödynnettäväksi.

Tekstivesileimaus on kuitenkin huomattavasti epävarmempaa kuin esimerkiksi kuvien tai äänen vesileimaus.

OpenAI korostaa, että erityisesti lyhyet tekstit ovat vaikeita tunnistaa luotettavasti. EU:n läpinäkyvyysedellytyksissä alle 200 tokenin mittaisia tekstejä ei myöskään edellytetä vesileimattaviksi samalla tavalla.

OpenAI painottaa myöls, ettei havaittua vesileimaa pitäisi tulkita todisteeksi siitä, että käyttäjä olisi kopioinut kokonaisen tekstin suoraan ChatGPT:stä.

Tunnistustyökalu voi kertoa, että OpenAI-malli on tuottanut tai käsitellyt ainakin osan sisällöstä, mutta se ei kerro, kuinka paljon käyttäjä on tekstiä myöhemmin muokannut tai kuinka suuri osa lopputuloksesta on ihmisen tekemää.

OpenAI ei tästä syystä myöskään julkaise vielä tunnistustaan vielä kaikille, vaan rajaa alkuvaiheen pääsyn hyväksytyille tutkijoille ja asiantuntijaorganisaatioille.

Aiemmin myös Anthropic toi osaksi Claudea vastaavan luotavien tekstien rakennetta muokkaavan näkymättömän vesileimamerkinnän.

Mainos: Noin 1 600 000 tuotteen hintavertailu ja hintaseuranta - katso Hinta.fistä mistä saat halvimmalla