Multiverse Computing aduce modelele AI comprimate în prim-plan

Multiverse Computing și Modelele AI Comprimate

Într-o perioadă în care instabilitatea financiară afectează lanțul de aprovizionare AI, Lux Capital a sfătuit companiile să își confirme în scris angajamentele de capacitate de calcul. Cu toate acestea, există și o altă opțiune: renunțarea completă la infrastructura externă de calcul. Modelele AI mai mici, care rulează direct pe dispozitivele utilizatorilor, fără a necesita centre de date sau furnizori de cloud, devin din ce în ce mai performante. Multiverse Computing, un startup spaniol, își face simțită prezența în acest context.

Startup-ul spaniol a păstrat un profil mai discret până acum, dar cererea pentru eficiență AI crește. După comprimarea modelelor de la laboratoare majore de AI, inclusiv OpenAI și Meta, Multiverse a lansat o aplicație și un portal API care permit accesul și dezvoltarea cu aceste modele comprimate.

CompactifAI și Tehnologia de Compresie

Aplicația CompactifAI, care împrumută numele tehnologiei de compresie inspirate de quantum a Multiverse, este un instrument de chat AI similar cu ChatGPT. Diferența constă în modelul Gilda, care este suficient de mic pentru a rula local și offline. «Pentru utilizatorii finali, aceasta este o experiență de AI la margine, cu date care nu părăsesc dispozitivele lor», a declarat compania.

Cu toate acestea, există un avertisment: dispozitivele mobile trebuie să aibă suficient RAM și stocare. Dacă nu, aplicația trece la modele bazate pe cloud prin API, pierzând astfel avantajul principal de confidențialitate. Sistemul care gestionează această rutare automată se numește Ash Nazg, un nume inspirat din inscripția Inelului Unic din „Stăpânul Inelelor”.

Obiectivele și Viitorul Multiverse Computing

Deși CompactifAI nu este încă pregătit pentru adoptarea în masă, compania vizează mai degrabă afacerile. Multiverse lansează un portal API self-service care oferă acces direct la modelele comprimate, fără a fi necesar AWS Marketplace. CEO-ul Enrique Lizaso a subliniat că «portalul API CompactifAI oferă dezvoltatorilor acces direct la modele comprimate cu transparența și controlul necesare pentru a le rula în producție».

Monitorizarea utilizării în timp real este una dintre caracteristicile cheie ale API-ului, iar costurile mai mici de calcul sunt un motiv principal pentru care companiile iau în considerare modelele mai mici ca alternativă la modelele de limbaj mari (LLM). Multiverse susține că modelul său comprimat recent, HyperNova 60B 2602, oferă răspunsuri mai rapide la un cost mai mic decât modelul original de la OpenAI.

Provocarea de a face modelele suficient de mici pentru a funcționa pe dispozitive mobile rămâne semnificativă. Cu toate acestea, Multiverse demonstrează că modelele locale, precum Gilda, au avantaje care depășesc economiile de costuri. În domenii critice, un model care poate rula local și fără conectare la cloud oferă mai multă confidențialitate și reziliență.

Compania servește deja peste 100 de clienți globali, inclusiv Bank of Canada și Bosch, și plănuiește extinderea bazei de clienți pentru a atrage finanțare suplimentară. După ce a strâns 215 milioane de dolari într-o rundă de finanțare de Serie B anul trecut, se zvonește că acum caută să strângă 500 de milioane de euro la o evaluare de peste 1,5 miliarde de euro.