Apple poisti vaatteet kuvista poistavan sovelluksen – levisi Metan palveluissa esitetyillä mainoksilla

Alastonkuvia luovia sovelluksia levisi App Storessa.

Apple on poistanut App Storesta tekoälysovelluksen, jolla pystyi luomaan ihmisistä seksuaalissävytteisiä syväväärennöksiä. Sovellusta mainostettiin Metan palveluissa kymmenillä mainoksilla.

Kyseessä oli Kromix-niminen sovellus, jota markkinoitiin tekoälyyn perustuvana kuvankäsittelytyökaluna. Verkkolehti Wiredin selvityksen mukaan sovelluksella pystyi myös luomaan oikeista ihmisistä pornografisia syväväärennöksiä.

Kromixia mainostettiin Metan alustoilla kampanjalla, johon kuului yhteensä 32 mainosta. Ne oli kohdennettu yksinomaan mieskäyttäjille, ja niissä sovellusta kutsuttiin palveluksi, ”jota miehet todella käyttävät”

Yhdessä mainoksista esiintyi tunnettua yhdysvaltalaista naispoliitikkoa läheisesti muistuttava tekoälyllä luotu hahmo, Wired taustoittaa. Toisissa mainoksissa alastomista hahmoista tehtiin myös videosisältöjä.

Sekä Apple että Meta ryhtyivät toimiin Wiredin otettua niihin yhteyttä. Apple poisti Kromixin App Storesta, kun taas Meta lopetti sovelluksen mainoskampanjan.

Applen mukaan Kromix ei kuitenkaan sisältänyt kiellettyjä ominaisuuksia vielä siinä vaiheessa, kun sovellus kävi läpi App Storen alkuperäisen tarkastuksen. Kielletty sisältö onkin hyvin todennäköisesti lisätty sovellukseen vasta myöhemmin.

Apple korostaa kieltävänsä pornografian luomiseen, levittämiseen tai kuluttamiseen tarkoitetut sovellukset sovelluskaupassaan. Myös tekoälyllä ihmisiä alastomiksi muuttavat sovellukset rikkovat yhtiön App Store -sääntöjä. Apple kertoo pyrkivänsä poistamaan sekä tällaiset sovellukset että tarkastusprosessia kiertävät kehittäjätilit.

Kromix ei kuitenkaan ole ainoa vastaavanlainen tapaus. Wired löysi erillisessä selvityksessään myös MaskAI-nimisen sovelluksen, jonka avulla käyttäjät pystyivät lisäämään valokuvissa esiintyvien ihmisten kasvoja seksuaalisiin tilanteisiin.

Mainos: Noin 1 600 000 tuotteen hintavertailu ja hintaseuranta - katso Hinta.fistä mistä saat halvimmalla