Tekoälyn kehitystä johtava Anthropic haluaisi taas hidastaa tai keskeyttää kehityksen kokonaan – itsekehittyvä tekoäly uusi huolenaihe

Anthropic tunnetaan Claude-tekoälypalveluistaan.

Tekoäly-yhtiö Anthropic on julkaissut jälleen kannanoton, jossa se ehdottaa mahdollisuutta hidastaa tai jopa väliaikaisesti keskeyttää kaikkein kehittyneimpien tekoälymallien kehitystä maailmanlaajuisesti.

Anthropicin mukaan tekoälyn kehitys on edennyt niin nopeasti, että tekoäly voi lähivuosina saavuttaa kyvyn parantaa itseään ilman ihmisten apua. Anthropicin mukaan tällainen kehitysvaihe, jota kutsutaan rekursiiviseksi itseparantamiseksi, voisi olla yksi merkittävimmistä teknologisista käännekohdista ihmiskunnan historiassa.

Anthropicin julkaisussa yhtiö kertoo analysoineensa omien huippumalliensa kehitystä ja havainneensa, että niiden kyvykkyydet ovat kasvaneet erittäin nopeasti.

”Maailman kannalta olisi hyvä asia, jos meillä olisi mahdollisuus hidastaa tai väliaikaisesti pysäyttää huipputason tekoälyn kehitys, jotta yhteiskunnalliset rakenteet ja turvallisuustutkimus ehtisivät mukaan teknologian kehitykseen”, Anthropicin julkaisussa esitetään.

Julkaisun takana ovat Anthropic Institute -tutkimusyksikön johtaja Marina Favaro sekä Anthropicin perustajajäseniin lukeutuva Jack Clark.

Nykyiset tekoälymallit tarvitsevat edelleen ihmisiä suunnittelemaan uusia versioita, keräämään dataa ja kouluttamaan järjestelmiä.

Jatkossa näin ei välttämättä enää ole, vaan tekoäly voisi itsenäisesti suunnitella uusia tekoälymalleja, kehittää omaa ohjelmakoodiaan, optimoida koulutusmenetelmiä sekä nopeuttaa omaa kehitystään ilman ihmisen osallistumista. Teoriassa tällainen kehityskierre voisi johtaa erittäin nopeaan älykkyyden kasvuun.

Anthropic korostaa, että mahdollinen tauko tai hidastaminen tekoälyn kehityksessä toimisi vain, jos kaikki merkittävät toimijat noudattaisivat sitä samanaikaisesti.

Anthropicin taholta ei itse asiassa ehdoteta tekoälykehityksen lykkäämistä nyt ensi kertaa, vaan samanlainen viesti on kuultu jo aiemmin. Sittemmin tekoälyn kehitystyö kuitenkin jatkui vauhdikkaana, ja ainakin liiketoiminnallisen suosion kannalta Anthropic on noussut johtavaksi tekoäly-yhtiöksi Claude Coden ja muiden viimeaikaisten julkaisujen siivittämänä.

Anthropicin ehdotus tekoälykehityksen rauhoittamisesta voisi siis toisaalta jäädyttää tilanteen tällä hetkellä kehitystä johtavan Anthropicin eduksi.

Anthropicilla taustalla nähdään kuitenkin jalommat perusteet, ja Anthropic ehdottaa kansainvälistä sopimusjärjestelmää, joka muistuttaisi ydinaseiden valvontaa. Samalla se kuitenkin myöntää, että tekoälykehityksen valvonta olisi huomattavasti vaikeampaa.

Anthropic on perustamisestaan lähtien korostanut tekoälyn turvallisuutta, mutta samalla kriitikot ovat jo vuosia väittäneet, että turvallisuuspuhe toimii myös kilpailustrategiana.

Anthropic on saanut viime kuukausina kritiikkiä myös uudesta Claude Mythos -tekoälymallistaan. Yhtiö rajoitti mallin saatavuutta vain valituille kumppaneille, kuten suurolle teknologiayhtiöille, vedoten turvallisuushuoliin. Osittain tätä on kuitenkin pidetty julkisuustemppuna, vaikka Claude Mythos onkin todella paljastanut ohjelmistoista runsaasti uusia haavoittuvuuksia.

Joka tapauksessa Anthropic kertoo järjestävänsä nyt tulevien kuukausien aikana keskusteluja tutkijoiden, päättäjien ja muiden sidosryhmien kanssa. Tavoitteena on selvittää, kuinka lähellä itseään parantava tekoäly todella on, miten mahdollista hidastamista voitaisiin valvoa ja millaisia kansainvälisiä sopimuksia tarvittaisiin.

Mainos: Noin 1 600 000 tuotteen hintavertailu ja hintaseuranta - katso Hinta.fistä mistä saat halvimmalla