PrismML julkaisi Bonsai 27B:n – startup-yhtiö keksi tavan suuren tekoälymallin ajamiseksi iPhonessa

PrismML.

Startup-yhtiö PrismML on julkaissut Bonsai 27B -tekoälymallinsa, jonka yhtiö kertoo toimivan natiivisti Applen laitteilla, kuten iPhonella, iPadilla ja Macilla.

Samalla PrismML:n toimitusjohtaja Babak Hassibi on kertonut CNBC:lle, että Apple arvioi yhtiön teknologiaa.

PrismML nousi esiin jo viime viikolla, kun The Information raportoi Applen käyneen keskusteluja startupin kanssa siitä, miten sen teknologiaa voitaisiin hyödyntää.

Bonsai 27B:n keskeinen lupaus on suuren mallin tarjoaminen pienellä muistivaatimuksella. PrismML:n mukaan 1-bittinen Bonsai 27B mahtuu noin 4 gigatavuun, mikä tekee siitä mahdollisen ajaa myös mobiililaitteessa.

Käyttömuistin määrä rajoittaa tekoälymallien käytettävyyttä laitteissa.

Esimerkiksi 12 gigatavun RAM-käyttömuistilla varustetuissakin iPhoneissa sovellukselle käytettävissä on vain noin 6 gigatavua. Tähän muistimäärään pitää mahtua tekoälymallin KV-välimuisti ja aktivoinnit. PrismML:n mukaan tavallisesti 27 miljardin parametrin malli ei olisi lähelläkään iPhonen muistiin mahtumista, mutta sen ratkaisulla käyttö on mahdollista.

Bonsai 27B:n mallipainot ovat saatavilla Apache 2.0 -lisenssillä. PrismML tarjoaa lisäksi rajoitetun ajan kehittäjille ilmaisen esikatselu-API-rajapinnan, jonka avulla mallia voi testata.

PrismML:n toimitusjohtaja Babak Hassibi kertoi CNBC:lle, että Apple ja muut yhtiöt arvioivat startupin malleja. Arvioinnissa tarkastellaan muun muassa nopeutta, energiatehokkuutta ja suorituskykyä laitteissa. Keskusteluja Applen kanssa Hassibi kuitenkin kuvaili hyvin varhaisiksi ja sanoi, ettei vielä ole selvää, mihin ne johtavat.

Apple ei kommentoinut asiaa CNBC:lle.

Toimitusjohtajan puheiden jälkeen Apple-viittauksia on lähinnä pidetty tyhjänä markkinointina, sillä jos Apple todella olisi kiinnostunut yhteistyöstä PrismML:n kanssa, olisi se todennäköisesti tyypillisen toimintatapansa mukaisesti edellyttänyt PrismML:ltä asian pitämistä salassa.

Sinällään Applen kannalta PrismML:n teknologia olisi kiinnostavaa juuri siksi, että Apple on rakentanut tekoälystrategiaansa yksityisyyden ja laitteessa tapahtuvan tietojenkäsittelyn pohjalle. Mitä enemmän tekoälyä voidaan ajaa suoraan iPhonessa, sitä vähemmän käyttäjän dataa tarvitsee lähettää pilveen.

PrismML:n sijaan Apple voi kuitenkin edetä itsenäisesti ja muilla yritysostoilla

Apple itse on kirinyt viime aikoina tekoälykyvyissä, kun se esitteli uudistuneen Siri AI:n, jonka pohjalla toimivat Googlen Gemini-mallien pohjalta kehitetyt Apple Foundation Models -mallit.

Apple esitteli kesäkuun alussa WWDC-tapahtuman yhteydessä yhteensä viisi uutta tekoälymallia. Mukana tässä joukossa on myös AFM 3 Core Advanced, joka on Applen tehokkain laitteessa toimiva malli. Se on natiivisti multimodaalinen ja tukee esimerkiksi ilmeikkäämpiä ääniä sekä tarkempaa sanelua. Mallissa on 20 miljardia parametria, mutta se käyttää harvaa arkkitehtuuria, jossa vain noin 1–4 miljardia parametria aktivoituu kerrallaan pyynnöstä riippuen.

Vuoden 2026 alussa raportoitiin myös Applen ostaneen salamyhkäisen israelilaisen Q.ai-tekoäly-yhtiön lähes 2 miljardilla dollarilla.

Mainos: Noin 1 600 000 tuotteen hintavertailu ja hintaseuranta - katso Hinta.fistä mistä saat halvimmalla