Nvidia esitteli henkilökohtaisen AI-supertietokoneen – mahdollistaa jopa 200 miljardin parametrin tekoälymallien käytön

Näytön alla vasemmalla puolella näkyvä Nvidia Project Digits on kompakti kooltaan.

Tekoälyn siivittämänä maailman arvokkaimpien yritysten joukkoon noussut Nvidia laajentaa tarjontaansa tekoälytietokoneisiin.

Nvidia esitteli tällä viikolla Las Vegasin CES-messujen yhteydessä Project Digits -nimeä kantavan henkilökohtaisen tekoälysupertietokoneen. Kohderyhmänä uutuudelle ovat tekoälytutkijat, datatieteilijät sekä opiskelijat.

Nvidia on tuomassa Project Digits -tietokoneen saataville toukokuusta alkaen 3 000 dollarin lähtöhinnalla.

Kompakti pöytätietokone Project Digits on varustettu Nvidian uudella GB10 Grace Blackwell Superchip -järjestelmäpiirillä, joka tarjoaa 1 petaflopin verran (FP4) laskentatehoa tekoälytehtäviin, kuten uusien tekoälymallien tutkimiseen, hienosäätämiseen ja ajamiseen.

”Tekoäly tulee olemaan valtavirtaa kaikissa sovelluksissa kaikilla toimialoilla. Project DIGITSin myötä Grace Blackwell Superchip tulee miljoonien kehittäjien käyttöön”, kommentoi Nvidian perustaja ja toimitusjohtaja Jensen Huang. ”Tekoälysupertietokoneen sijoittaminen jokaisen datatieteilijän, tekoälytutkijan ja opiskelijan työpöydälle antaa heille mahdollisuuden osallistua tekoälyn aikakauteen.”

Nvidia on kehittänyt Digitsin sisältämän uuden GB10 Superchip -piirin yhteistyössä taiwanilaisen MediaTekin kanssa. GB10:n osana on Nvidian Blackwell GPU -suoritin viimeisimmän sukupolven CUDA-ytimillä ja viidennen sukupolven Tensor Core -ytimillää, jotka on yhdistetty NVLink-C2C -yhteydellä Nvidia Grace CPU -keskussuorittimeen, joka sisältää 20 Arm-arkkitehtuurin mukaista suoritinydintä.

Project Digits -tietokoneella riittää tavallisesta pistorasiasta saatava virta.

Nvidia Project Digitsin ominaisuuksia.

GB10 Superchipin lisäksi tietokoneessa on 128 gigatavua yhteistä käyttömuistia sekä 4 teratavua NVME SSD -tallennusmuistia.

Project Digits mahdollistaa 200 miljardin parametrin tekoälymallien käytön. Lisäksi Nvidia ConnectX:n avulla kaksi Digits-tietokonetta yhdistämällä on mahdollista ajaa 405 miljardin parametrin malleja. Metan avoimen koodin Llama-tekoälymalleista suurin on kooltaan juurikin 405 miljardia parametria (Meta Llama 3.1 405B).

Tekoälymalleja kehittävät yritykset ja tutkijat voivat luoda prototyyppejä, hienosäätää ja testata tekoälymallejaan Digitsillä paikallisesti toimivalla Linux-pohjaisella Nvidia DGX OS -käyttöjärjestelmällä ja tämän jälkeen ottaa mallit käyttöön Nvidia DGX Cloud -pilvipalvelussa tai muissa datakeskusratkaisuissaan.

Perusidea henkilökohtaisesta tekoälytietokoneesta ja paikallisesti laitteessa ajettavasta tekoälystä Nvidian Project Digitsissä on sama kuin suomalaisen Jollan Mind2:ssa, mutta tehoja ja samalla hintaa on monin verroin enemmän. Lisäksi Nvidian kohderyhmänä ovat ainakin toistaiseksi lähinnä tekoälymallien luomisen parissa työskentelevät. Nvidia ei ole valottanut tarkemmin tulevaisuuden suunnitelmiaan mahdollisten laajemmin kuluttajille suunnattujen tekoälytietokoneiden suhteen.

Nvidian toimitusjohtaja Jensen Huang vihjasi sijoittajaesityksen yhteydessä Nvidialla kuitenkin olevan suunnitelmia GB10 Superchipin jatkon kannalta, mutta totesi, että hänen täytyy odottaa niistä keromista. ”Tiedättehän, tietenkin meillä on suunnitelmia”, Huang totesi tulevaisuudesta.

Huangin mukaan MediaTek voi myydä Nvidian ja MediaTekin yhteistyön syntynyttä piiriä muille laitevalmistajille.

Mainos: Noin 1 600 000 tuotteen hintavertailu ja hintaseuranta - katso Hinta.fistä mistä saat halvimmalla