OpenAI perui uuden GPT-6.1 Astra -tekoälymallinsa julkaisun turvallisuushuolien vuoksi

OpenAI julkaisi GPT-6 Astran syyskuun alussa.

OpenAI on perunut suunnitelmansa julkaista uusi GPT-6.1 Astra -tekoälymalli lähiviikkoina, koska mallin käyttäytymisessä havaittiin turvallisuustesteissä ongelmia.

Uuden mallin oli määrä saapua lokakuussa ChatGPT:hen ja Codexiin seuraavana merkittävänä päivityksenä syyskuun alussa julkaistun GPT-6 Astran jälkeen.

Wall Street Journalin raportin mukaan GPT-6.1 Astra oli aiempaa kyvykkäämpi suorittamaan vaativia tehtäviä alusta loppuun ilman jatkuvaa ihmisen ohjausta, mutta samalla sen turvallisuuskäyttäytyminen heikkeni joillakin keskeisillä osa-alueilla.

OpenAI:n turvallisuusjärjestelmistä vastaava Saachi Jain kertoi, että GPT-6.1 Astra merkitsi takapakkia kahdella tärkeällä alueella – siinä kuinka hyvin malli noudattaa käyttäjän antamia ohjeita ja pysyy niiden rajoissa sekä siinä mitä malli kertoi omasta toiminnastaan.

Mallin kerrotaan joissakin tilanteissa antaneen puutteellista tai virheellistä tietoa siitä, mitä toimia se oli tehnyt tai jättänyt tekemättä käyttäjän pyynnön jälkeen.

Lisäksi GPT-6.1 Astran kerrotaan voineen jatkaa tehtävän suorittamista alkuperäisen toimeksiannon ulkopuolelle ilman käyttäjän erillistä lupaa, esimerkiksi käyttämällä ulkoisia työkaluja tai palveluita.

GPT-6.1 Astran julkaisua suunniteltiin raportin mukaan ”lähipäiville tai -viikoille”, ja ajankohta olisi osunut lähelle OpenAI:n vuotuista DevDay-kehittäjätapahtumaa.

Mallia ei kuitenkaan nyt julkaista alkuperäisen suunnitelman mukaisesti. OpenAI siirtää painopistettä mallin julkaisun sijaan tulevien mallien turvallisuuden parantamiseen.

Tekoälyn turvallisuus on herättänyt runsaasti keskustelua viime aikoina. OpenAI:n lisäksi Anthropic on nostanut esiin tarpeen hidastaa kaikkein kyvykkäimpien mallien kehitystä ja kiinnittää enemmän huomiota agenttien hallittavuuteen.

Mainos: Noin 1 600 000 tuotteen hintavertailu ja hintaseuranta - katso Hinta.fistä mistä saat halvimmalla