Anthropic-pomo haluaa hidastaa tekoälyn kehitystä – Kiinan mukanaolo suurin haaste

Anthropicin toimitusjohtaja Dario Amodei pitää tekoälyn kehitysvauhdin hidastamista tarpeellisena, mutta myöntää, että suurin ongelma on kansainvälisen yhteistyön onnistuminen.

Anthropic-poimon mukaan erityisen vaikea kysymys on se, mitä tapahtuu, jos Yhdysvallat ja muut hidastavat kehitystä mutta Kiina ei tee samoin.

Amodei julkaisi viikonloppuna kirjoituksen, jossa hän kehotti johtavia tekoäly-yhtiöitä hidastamaan kaikkein edistyneimpien mallien kehitystä. Ehdotus tuli samaan aikaan, kun alan turvallisuudesta käydään yhä kiivaampaa keskustelua ja entinen Anthropic-tutkija Jacob Coxon ilmoitti hiljattain jättäneensä yhtiönsä vakavien turvallisuushuolien vuoksi ja totesi tekoäly-yhtiöiden pelaavan uhkapeliä ihmisten elämillä.

Anthropicin perustaja-toimitusjohtajan Dario Amodein ehdotus perustuu kolmeen vaiheeseen. Ensimmäisessä Anthropic antaa riippumattomille arvioijille työntekijätasoisen pääsyn yhtiön sisäisiin järjestelmiin, jotta nämä voivat tarkastaa turvallisuuskäytäntöjä ja raportoida ongelmista.

Toisessa vaiheessa johtavien tekoäly-yhtiöiden pitäisi demokraattisissa maissa sopia yhteisistä turvallisuusstandardeista. Kolmannessa vaiheessa mukaan tarvittaisiin myös hallitustason yhteistyötä maailman eri valtioiden välillä. Anthropic kertoo sitoutuneensa ensimmäiseen vaiheeseen jo yksipuolisesti.

Amodein mukaan pitkän aikavälin tavoitteena voisi olla eräänlainen yhteinen ”nopeusrajoitus” tekoälyn kehitykselle. Hän kuitenkin korostaa, että tämä on vaikeaa, koska valtioilla ja yrityksillä on voimakas kannustin pyrkiä kilpailijoiden edelle etenkin mahdollisten sotilaallisten etujen vuoksi.

Kiinalaisten tekoäly-yhtiöiden mallit ovat viime kuukausina nousseet lähemmäs yhdysvaltalaisten OpenAI:n ja Anthropicin tasoa, mikä on lisännyt huolta teknologiakilpailusta Yhdysvalloissa.

Kiinan presidentti Xi Jinping puolestaan vaati viikonloppuna BRICS-maiden kokouksessa yhteisymmärrykseen perustuvaa maailmanlaajuista tekoälyn hallintamallia ja ilmoitti Kiinan tukevan BRICS-maiden avoimen lähdekoodin tekoäly-yhteisön perustamista.

Amodein mukaan juuri tällainen kansainvälinen ulottuvuus ratkaisee sen, voidaanko kehitystahtia todellisuudessa hidastaa ilman, että joku toinen toimija käyttää tilaisuuden hyväkseen.

Ajatus tekoälykehityksen hidastamisesta on saanut tukea Anthropicin kilpailijoilta.

OpenAI:n toimitusjohtaja Sam Altman ilmoitti olevansa samaa mieltä siitä, että tekoälyn eturintaman kehitystä pitäisi tahdittaa. Myös Google DeepMindin Demis Hassabis katsoi Amodein osoittavan oikeaan suuntaan, vaikka yksityiskohdat vaativat vielä työstämistä.

Elon Musk puolestaan kannatti jonkinlaista alan sisäistä valvontaa ja vertaisarviointia. Hän katsoi, että tekoäly-yhtiöiden olisi mahdollista aloittaa hidastaminen ilman, että ne ensin odottavat laajaa sääntelykehystä.

Samoin Microsoftin toimitusjohtaja Satya Nadella otti kantaa tekoälykehityksen hidastamiseen. Nadellan mukaan olennaisinta on varmistaa, että tekoälyä kehitetään vastuullisesti ja ihmisten etujen mukaisesti.

Myös Metan tekoälyjohtaja Alexandr Wang on kertonut yhtiön kasvattavan tekoälyn linjaamiseen ja turvallisuuteen käytettävien resurssien osuutta mallien kehittyessä.

Amodein ehdotus tekoälykehityksen hidastamisesta osuu aikaan, jolloin tekoälyalan turvallisuus, datakeskusten kiihtyvä rakentaminen ja mahdollinen sääntely ovat nousseet aiempaa näkyvämmin poliittiseen keskusteluun. Samalla sekä Anthropic mahdollisesti jo tänä vuonna että OpenAI kenties vuonna 2027 valmistautuvat tuleviin pörssilistautumisiin, mikä lisää painetta osoittaa, että nopeasti kehittyvän teknologian riskit ovat hallinnassa.

Mainos: Noin 1 600 000 tuotteen hintavertailu ja hintaseuranta - katso Hinta.fistä mistä saat halvimmalla