OpenAI julkaisi uudet suuntaviivansa tekoälyn kehitykseen – hallitus voi estää uudet julkaisut turvallisuussyistä

OpenAI ei halua antaa kaikkea päätäntävaltaa yhden henkilön käsiin. Uusien suuntaviivojen mukaan hallituksella on viimeinen sana.

Generatiivisen eli tuottavan tekoälyn esiinmarssi käynnistyi toden teolla noin vuosi sitten, kun OpenAI julkaisi sittemmin suureen suosioon nousseen ChatGPT-palvelunsa. Sittemmin myös muun muassa Amazonin, Applen, Googlen ja Microsoftin kaltaiset teknologiajätit ovat kilvan kehittäneet omia ratkaisujaan, mikä on nostattanut sekä suurta innostusta että huolta tekoälyn tulevaisuudesta.

Uhkakuvissa tekoäly kehittyy ihmistä viisaammaksi muuttuen niin sanotuksi yleiseksi tekoälyksi (engl. AGI, Artificial General Intelligence), jota sen kehittäjät eivät enää kykene hallitsemaan. Huolia rauhoitellakseen OpenAI on nyt julkaissut uudet suuntaviivansa tekoälyn kehittämisen varalle.

Päivitettyjen säännösten mukaan OpenAI:n hallitus voi tarvittaessa kumota yhtiön johdon päätökset. Esimerkiksi uudenlaisten, yhä kehittyneempien tekoälymallien julkaisu voidaan siis estää, vaikka toimitusjohtaja Jack Altman olisikin moiseen jo valmis.

OpenAI ajautui hiljattain myrskyn silmään yhtiön hallituksen pyrittyä savustamaan toimitusjohtaja Altmanin ulos luottamuspulaan vedoten. Hetkellisesti tämä onnistuikin, mutta sittemmin kiista rauhoittui, Altman palasi pestiinsä ja hallituksen kokoonpanoa päivitettiin.

AIheesta kirjoittavan Bloombergin mukaan OpenAI:n uusi hallitus on entistä myötämielisempi toimitusjohtaja Altmania kohtaan. Onkin mielenkiintoista spekuloida, toimisiko se todella yhtiön johdon toiveiden vastaisesti, vaikka havaitsisikin jotakin huolestuttavaa.

Tiedotteessaan OpenAI kuitenkin painottaa pyrkivänsä kehittämään tekoälyä mahdollisimman eettisesti ja turvallisesti. Uudet suuntaviivatkin kielivät osaltaan tästä: valtaa mahdollisesti riskialttiin teknologian julkaisemisesta ei haluta antaa yhden henkilön käsiin.

Uusien suuntaviivojensa mukaan OpenAI aikoo myös muun muassa tutkia ja arvioida tekoälyratkaisujensa turvallisuutta aktiivisesti. Näin pyritään tekemään riskien hallinnoinnista ja ennakoinnista aiempaa helpompaa ja samalla lisäämään ratkaisujen luotettavuutta.

Mainos: Noin 1 600 000 tuotteen hintavertailu ja hintaseuranta - katso Hinta.fistä mistä saat halvimmalla