Arvio: ChatGPT:n toiminta voi maksaa jopa yli 700 000 dollaria päivässä – Microsoft kehittää uutta piiriä alentamaan kustannuksia

OpenAI:n marraskuussa 2022 julkaisema ChatGPT saavutti heti valtaisan suosion. Palvelun suuri käyttömäärä on johtanut myös korkeisiin toimintakustannuksiin.

ChatGPT:n arvioitiin aiemmin helmikuun alussa saavuttaneen ennätysajassa 100 miljoonaa käyttäjän rajan kaikkien aikojen nopeimmin kasvaneena verkkopalveluna.

ChatGPT:n taustalla toimivien, kysymyksiin ja muihin pyyntöihin vastaavien tekoälymallien hyödyntäminen vaatii merkittävästi laskentakapasiteettia, joka näkyy korkeina palvelinkuluina. SemiAnalysisin pääanalyytikko Dylan Patel arvioi The Information -julkaisulle ChatGPT:n toiminnan maksavan jopa 700 000 dollaria eli lähemmäs 640 000 euroa päivässä – ja kenties vieläkin enemmän nykyisin.

Insiderille Patel nimittäin kertoi aiemman arvionsa perustuneen OpenAI:n GPT-3-malliin, kun viimeisin ja sittemmin myös ChatGPT:nkin perustana hiljattain käyttöön otettu GPT-4-malli voi vaatia vielä enemmän laskentatehoa ollen näin ollen vielä kalliimpi.

OpenAI:n palvelut toimivat sen yhteistyökumppanin ja rahoittajan Microsoftin pilvipalveluissa.

ChatGPT:stä OpenAI on toistaiseksi kehittänyt liiketoimintaa helmikuussa julkaistulla maksullisella Plus-versiolla, joka tarjoaa palvelun käyttöön suorituskykyisemmin ja luotettavammin.

Lisäksi yritykset maksavat OpenAI:lle sen tekoälymallien hyödyntämisestä omissa palveluissaan. Esimerkiksi tekoälyperustaisen pelin kehittäjä Latitude on kertonut pelin toiminnan OpenAI:n mallien käytön yhdessä Amazon Web Services -pilvipalvelujen kanssa maksaneen sille 200 000 dollaria kuukaudessa vuonna 2021. Latitude on sittemmin siirtynyt AI21 Labsin malleihin, jolloin se sai painettua kustannuksensa 100 000 dollariin kuukaudessa,

The Information raportoi, että kustannusten alentamiseksi Microsoft on jo vuodesta 2019 alkaen kehittänyt omaa tekoälylaskentaan erikoistunutta piiriään, jonka koodinimi on Athena.

The Informationin mukaan Microsoftin johto oli tajunnut yhtiön jääneen Googlesta ja Amazonista mitä tulee omien piirien kehittämiseen. Samanaikaisesti Microsoftin kerrottiin myös etsivän keinoja kustannusten laskemiseen verrattuna Nvidian GPU-grafiikkasuorittimiin, joilla tekoälymallit toistaiseksi pääosin toimivat.

Tällä hetkellä yli 300 Microsoftin työntekijän kerrotaan työskentelevän piirin parissa, ja sen julkaisu voi tapahtua Microsoftin sisäiseen ja OpenAI:n käyttöön ensi vuoden aikana.

Mainos: Noin 1 600 000 tuotteen hintavertailu ja hintaseuranta - katso Hinta.fistä mistä saat halvimmalla