OpenAI ostaa tekoälyn tietoturvaan keskittyvän Promptfoon

OpenAI.

Tekoäly-yhtiö OpenAI on ilmoittanut sopineensa tekoälyjärjestelmien tietoturvaan ja testaukseen keskittyvän Promptfoon ostamisesta.

Yrityskaupan tavoitteena on vahvistaa OpenAI:n Frontier-alustan kykyjä erityisesti tekoälyagenttien turvallisuuden, arvioinnin ja valvonnan osalta.

OpenAI kertoi integroivansa Promptfoon teknologian suoraan Frontier-alustaansa, jota käytetään tekoälyagenttien rakentamiseen ja operointiin yrityksissä

Kaupan toteutuminen edellyttää vielä tavanomaisten ehtojen täyttymistä.

OpenAI:n mukaan organisaatiot tarvitsevat järjestelmällisiä tapoja testata tekoälyagenttien toimintaa, havaita mahdolliset riskit ennen käyttöönottoa sekä dokumentoida järjestelmien toimintaa valvontaa ja vastuullisuutta varten.

Promptfoo on kehittänyt työkaluja, joiden avulla yritykset voivat tunnistaa ja korjata tekoälyjärjestelmien haavoittuvuuksia jo kehitysvaiheessa. Yhtiön ratkaisuja käyttää OpenAI:n mukaan yli 25 prosenttia yhdysvaltalaisista Fortune 500 -listan suuryrityksistä.

Lisäksi Promptfoo tarjoaa laajasti käytettyä avoimen lähdekoodin komentorivityökalua ja kirjastoa suurten kielimallien sovellusten testaamiseen ja niin sanottuun red teaming -turvatestaukseen.

”Promptfoo tuo mukanaan syvällistä teknistä asiantuntemusta tekoälyjärjestelmien arvioinnissa, suojaamisessa ja testaamisessa yritystasolla. Heidän työnsä auttaa yrityksiä ottamaan käyttöön turvallisia ja luotettavia tekoälysovelluksia, ja olemme innoissamme voidessamme tuoda nämä ominaisuudet suoraan Frontieriin”, kommentoi OpenAI:n B2B-sovellusten teknologiajohtaja Srinivas Narayanan.

OpenAI aikoo integroida Promptfoon keskeiset ominaisuudet Frontieriin. Alustaan tuodaan muun muassa automaattista tietoturvatestausta ja red teaming -työkaluja, joiden avulla voidaan havaita erilaisia hyökkäyksiä.

Frontieriin on tulossa myös raportointi- ja jäljitettävyystyökaluja, joiden avulla yritykset voivat seurata muutoksia, dokumentoida testauksia ja täyttää kasvavia tekoälyn hallintaan, riskeihin ja sääntelyyn liittyviä vaatimuksia.

”Perustimme Promptfoon, koska kehittäjät tarvitsivat käytännöllisen tavan suojata tekoälyjärjestelmiä. Tekoälyagenttien ollessa yhä enemmän yhteydessä todelliseen dataan ja järjestelmiin, niiden suojaaminen ja validointi on haastavampaa ja tärkeämpää kuin koskaan. Liittymällä OpenAI:n tiimiin voimme nopeuttaa tätä työtä ja tuoda vahvempia tietoturva-, suojaus- ja hallintaominaisuuksia reaalimaailman tekoälyjärjestelmiä rakentaville tiimeille”, sanoo Promptfoon perustaja ja toimitusjohtaja Ian Webster.

OpenAI:n mukaan Promptfoon tiimi jatkaa myös avoimen lähdekoodin projektin kehittämistä osana OpenAI:ta samalla, kun se rakentaa Frontier-alustaan uusia yrityskäyttöön suunnattuja ominaisuuksia.

Mainos: Noin 1 600 000 tuotteen hintavertailu ja hintaseuranta - katso Hinta.fistä mistä saat halvimmalla