Microsoft rajoitti tekoälytyökalunsa käyttöä Taylor Swiftistä väärennettyjen alastonkuvien jälkeen

Microsoft on joutunut puuttumaan kuvia tuottavaan tekoälyynsä. Väärinkäyttö nousi puheenaiheeksi, kun julkkiksista tehtaillut alastonkuvat alkoivat levitä.

Designer on Microsoftin ylläpitämä, generatiiviseen eli tuottavaan tekoälyyn perustuva palvelu, joka luo kuvia käyttäjien tekstikehotteiden perusteella. Viime päivinä palvelu on ollut esillä huonossa valossa julkisuudesta tuttujen henkilöiden tekaistujen alastonkuvien levittyä eri alustoilla.

Muun muassa laulaja Taylor Swiftin väärennettyjä alastonkuvia levisi nopeasti niitä jakaneesta Telegram-ryhmästä muuallekin, aiheesta kirjoittava 404 Media kuvailee, mikä sai Microsoftin ryhtymään toimenpiteisiin.

Microsoft on nyt mukauttanut Designerin toimintaa tavalla, jonka tulisi tehdä käyttösääntöjen vastaisten sisältöjen luomisesta entistä vaikeampaa. Esimerkiksi tekaistujen alastonkuvien tehtailu on tähän saakka onnistunut pieniä kirjoitusvirheitä hyödyntämällä, mikä on saanut tekoälymallin toimimaan omien säännöstensä vastaisesti.

Kirjoittamalla esimerkiksi Taylor Swiftin nimi väärin ja käyttämällä suorien käsitteiden asemasta monitulkintaisia vihjauksia on Designer hämätty rikkomaan omia rajojaan. Nyt moisen ei pitäisi enää onnistua.

Tarkemmin Microsoft ei tekemiään muutoksia avannut, mutta tuottavan tekoälyn säätelyssä lienee vielä runsaasti aukkoja, minkä ohjelmistojätti itsekin tunnistaa.

Microsoftin toimitusjohtaja Satya Nadella kuvaili tekaistujen alastonkuvien tapausta NBC:n radio-ohjelmassa ”hälyttäväksi ja kaameaksi” viitaten mahdollisina ratkaisuina ”lakeihin ja viranomaistoimiin yhdessä teknologia-alustojen kanssa”, aiheesta kirjoittava The Verge siteeraa.

On mielenkiintoista nähdä, kuinka erittäin nopeasti uutta sisältöä tuottavien tekoälymallien ja sääntelyn välinen kilpajuoksu etenee. Vaikka Nadellan kaipaamaa sääntelyä kiristettäisiinkin, löytänevät kekseliäät Internet-kansalaiset yhä uusia keinoja puijata kylmän loogiset tekoälymallit puolelleen – tarkoitusperästä huolimatta.

Mainos: Noin 1 600 000 tuotteen hintavertailu ja hintaseuranta - katso Hinta.fistä mistä saat halvimmalla