Nvidia esitteli Chat with RTX:n – tekoälybotti, joka toimii suoraan PC:ssä

Chat with RTX on tietokoneelle asennettava, tuottavaan tekoälyyn perustuva botti.

Nvidia Chat with RTX on tekoälybotti, joka toimii täysin paikallisesti. Se haastaa ChatGPT:n hieman erilaisella reseptillä.

Generatiiviseen eli tuottavaan tekoälyyn perustuvat palvelut ovat viimeisen vuoden aikana yleistyneet räjähdysmäisesti muun muassa Googlen, Microsoftin ja Metan lisättyä panostustaan kasvavaan alaan. Pelilaitteistostaan tunnettu Nvidia on nyt julkaissut oman vaihtoehtonsa, Chat with RTX:n, joka toimii paikallisesti.

Käytännössä Chat with RTX on siis tietokoneeseen asennettava tekoälybotti. Asennuksen jälkeen sen kanssa voi rupatella ja hoitaa muun muassa paikallisten tiedostojen käsittelyyn liittyviä tehtäviä.

Chat with RTX:lle voi niin ikään jakaa vaikkapa taulukoita tai asiakirjoja, minkä ohella se osaa vaikkapa tulkita YouTube-videoita sille jaettujen URL-osoitteiden perusteella.

Chat with RTX:n käyttöliittymä muistuttaa keskustelunäkymää.

Nvidian botti perustuu Python-arkkitehtuuriin sekä tietokoneelle asennettavaan palvelimeen. Itse tekoälymalleina puolestaan ovat käytössä ranskalaisen startupin kehittämä Mistral ja Facebook-yhtiö Metan Llama 2, joita se hyödyntää Nvidian omia Tensor-ytimiä käyttäen.

Paikallisen asennuksen ansiosta Chat with RTX toimii viiveettä, eikä esimerkiksi ChatGPT:stä tuttua muutamien sekuntien odottelua tulisi juuri esiintyä, aiheesta kirjoittava The Verge kuvailee.

Selaimen kautta käytettävä Chat with RTX edellyttää toimiakseen RTX 30- tai 40-malliston GPU:ta ja vähintään kahdeksaa gigatavua video RAM -muistia (VRAM). Itse botin koko asennettuna on noin 40 gigatavua, ja RAM-muistia se vaatii aktiivisessa käytössä noin kolme gigatavua.

Nvidia Chat with RTX on yhä kehitysasteella, ja palvelua on määrä kehittää tulevina kuukausina. Nähtäväksi jää, haastavatko paikallisesti toimivat tekoälybotit hiljalleen verkossa pyörivät vastineensa.

Chat with RTX:n kokeiluversio on ladattavissa ilmaiseksi Nvidian verkkosivuilta.

Mainos: Noin 1 600 000 tuotteen hintavertailu ja hintaseuranta - katso Hinta.fistä mistä saat halvimmalla