Facebookin tekoäly luokitteli tummaihoiset eläimiksi – yhtiö: ”mahdotonta hyväksyä”

Erilaiset tekoälymallit voivat vahingossa tuottaa ikäviäkin lopputuloksia. Viimeisin esimerkki tästä on saatu Facebookin osalta.

Facebook on joutunut pahoittelemaan tilannetta sen jälkeen, kun sen videoita luokitteleva tekoälyohjelmisto määritteli tummaihoisia miehiä sisältävän videon merkinnällä, joka kertoi videolla esiintyvän eläimiä, tarkemmin kädellisiä (englanniksi primates). Kädelliset on nisäkkäiden lahko. Ihmisetkin toki lukeutuvat kädellisiin nisäkkäisiin, mutta tavallisesti termillä on tarkoitettu muita eläimiä, kuten erilaisia apinoita.

Facebookin mukaan kyse on virheestä, jota on mahdotonta hyväksyä ja yhtiön tutkivan tapoja estää vastaavan toistuminen. Ensimmäisenä asiasta kertoi The New York Times ja sittemmin muun muassa The Verge. Kohu lähti liikkeelle brittiläisen Daily Mailin 27. kesäkuuta julkaisemasta videosta, jolla esiintyi tummaihoisia miehiä ja jonka katsomisen jälkeen käyttäjiltä kysyttiin, haluavatko he katsoa lisää videoita kädellisistä.

Facebook on toistaiseksi poistanut käytöstä koko aihesuositustoimintonsa tajuttuaan tapahtuneen.

”Kuten olemme kertoneet, vaikka olemme tehneet parannuksia tekoälyymme se ei ole täydellinen ja meillä on edessämme vielä lisäkehitystä. Esitämme pahoittelut kaikille, jotka ovat voineet nähdä näitä loukkaavia suosituksia.”

Tekoälyyn liittyvät tunnistamishaasteet esimerkiksi tummaihoisten ihmisten osalta eivät kosketa vain Facebookia. Esimerkiksi vuonna 2015 Googlen Kuvat-palvelu merkitsi tummaihoisia ihmisiä gorilloiksi.

Twitterin kuvarajausalgoritmin havaittiin myös aiemmin suosineen valkoihoisia kasvoja kuvia rajatessaan. Lisäksi viime aikoina on raportoitu vielä Twitterin algoritmin suosineen vielä myös hoikkua, nuoremman näköisen kasvoja.

Mainos: Noin 1 600 000 tuotteen hintavertailu ja hintaseuranta - katso Hinta.fistä mistä saat halvimmalla