Microsoftin työntekijältä ulostulo: tekoälytyökalumme luo väkivaltaisia ja seksuaalisia kuvia eikä välitä tekijänoikeuksista

Copilotin kuvamalli on vaarallinen, Microsoft-insinööri varoittaa.

Microsoftin työntekijä kyseenalaistaa kovin sanoin edustamansa yhtiön tekoälypalvelun eettiset periaatteet. Häiritsevää sisältöä tuotetaan tekijänoikeuksista piittaamatta, tekoälyinsinööri tilittää.

Microsoftin Copilot Designer tuottaa monenlaista häiritsevää sekä seksuaalista sisältöä jättäen tekijänoikeudet huomiotta. Microsoft on asiasta tietoinen, mutta on silti päättänyt pitää tuottavan tekoälypalvelunsa kaikkien saatavilla iästä riippumatta. Jotakuinkin näin voisi tiivistää Microsoftin ohjelmistokehityksessä työskentelevän vastuuinsinööri Shane Jonesin mietteet.

Microsoft Copilot Designer on OpenAI:n DALL-E 3 -kuvamalliin perustuva palvelu, joka tuottaa kuvia käyttäjien kirjoittamien kehotteiden perusteella. Jones on monien muiden Microsoftin työntekijöiden ohella tutkinut sitä viime kuukaudet ja järkyttynyt havaitsemastaan.

Tekoälypalvelu on tuottanut muun muassa paholaisia, hirviöitä, aseistettuja teinejä, huumausaineita käyttäviä alaikäisiä ja naisiin kohdistuvaa väkivaltaa ihannoivia kuvia, Jones kuvailee CNBC:lle antamassaan haastattelussa.

”Se hetki avasi silmäni. Silloin tajusin ensi kertaa, että vau, tämä ei ole turvallinen [kuva]malli”, Jones kommentoi viime joulukuussa toteuttamiinsa Copilot Designer -kokeiluihinsa viitaten.

Insinööri Jones pyrki jo aiemmin herättelemään Microsoftia muun muassa verkossa julkaisemallaan tekstillä, mutta tuli työnantajansa hiljentämäksi. Kehotuksista kääntyä OpenAI:n puoleen ei liiemmin ollut hyötyä, sillä DALL-E 3:sta vastaava startup-yhtiö ei vastannut yhteydenottoihin.

Nyt Jones on kirjoittanut aiheesta Yhdysvaltain kauppakomissio FTC:n puheenjohtaja Lina Khanille sekä Microsoftin hallitukselle.

Kirjeessään Jones kertaa pyrkimyksiään saada Microsoft ryhtymään toimiin ja ainakin päivittämään sovellustensa ikärajasuosituksia. Yhtiö on kuitenkin pysynyt kannassaan järkähtämättömänä, ja Copilot Designer on yhä suunnattu ”kaikille, kaikkialla, kaikilla laitteilla”, kuten Jones Microsoftia kirjeessään siteeraa.

Microsoft ja OpenAI olivat insinöörin mukaan tietoisia riskeistä jo ennen kuvamalliensa julkista lanseerausta viime lokakuussa. Omaa työnantajaansa Jones vaatii muun muassa käynnistämään riippumattoman tutkinnan omista vastuullisen tekoälyn periaatteistaan sekä selvittämään lakiosastonsa toimintaa tapauksessa.

Microsoftin CNBC:lle kommentoineen tiedottajan mukaan yhtiö on sitoutunut ”puuttumaan kaikkiin ja jokaiseen työntekijän huoleen yhtiösäännösten mukaisesti”. Tiedottaja viittaa myös sisäisiin kanaviin, joita hyödyntämällä insinööri Jones ei kuitenkaan ole omien sanojensa mukaan saanut ääntään kuuluville.

Nähtäväksi jää, mihin FTC:lle suunnattu kirje lopulta johtaa, mutta tapaus lienee kaikkea muuta kuin loppuun käsitelty.

Tuottavan tekoälyn ongelmista on viimeisen vuoden aikana puhuttu laajemmin kuin koskaan ChatGPT:n ja Copilotin kaltaisten palveluiden saavuttua kaiken kansan saataville. Google joutui hiljattain rajaamaan Gemini-mallinsa toimintaa sen suosittua tiettyjä väestönosia ihmisiä esittäviä kuvia tuottaessaan.

Mainos: Noin 1 600 000 tuotteen hintavertailu ja hintaseuranta - katso Hinta.fistä mistä saat halvimmalla