Fondatorii Reface și Prisma inovează AI pe dispozitive cu Mirai

Inovația AI pe Dispozitive cu Mirai

Într-o lume în care discuțiile despre inteligența artificială se concentrează adesea pe capacitatea cloud și centrele de date masive, Mirai, o companie din Londra, își propune să revoluționeze modul în care modelele AI rulează pe telefoane și laptopuri. Cu o echipă tehnică de 14 persoane, Mirai lucrează pentru a îmbunătăți performanța modelelor pe dispozitivele utilizatorilor finali.

Fondată de Dima Shvets și Alexey Moiseenkov, Mirai a atras o finanțare de $10 milioane într-o rundă de seed condusă de Uncork Capital. Shvets, cunoscut pentru co-fondarea aplicației Reface, și Moiseenkov, fost CEO și co-fondator al aplicației Prisma, au experiență vastă în dezvoltarea de aplicații pentru consumatori. «Când ne-am întâlnit în Londra, am realizat că, în mijlocul entuziasmului pentru AI generativă, toată lumea vorbește despre cloud și servere, dar lipsește componenta AI pe dispozitive pentru hardware-ul de consum», a declarat Shvets.

Tehnologia din Spatele Mirai

Mirai dezvoltă un cadru pentru modele care să îmbunătățească performanța pe dispozitive. Compania a construit un motor de inferență pentru Apple Silicon, optimizând astfel fluxul de date pe dispozitive. Cu SDK-ul său viitor, dezvoltatorii vor putea integra acest runtime în aplicațiile lor cu doar câteva linii de cod, oferind o experiență de integrare similară cu Stripe, «practic mergi pe platforma noastră, integrezi cheia și începi să lucrezi cu sumarizare, clasificare sau orice caz de utilizare ai», a explicat Shvets.

Motorul de inferență al Mirai este construit în Rust, ceea ce poate crește viteza de generare a modelelor cu până la 37%. Compania subliniază că, în timp ce ajustează modelul pentru o platformă, nu modifică greutățile modelului pentru a asigura calitatea ieșirii.

Viitorul AI pe Dispozitive

Mirai se concentrează în prezent pe îmbunătățirea modalităților de text și voce pe platforma sa, cu planuri de a sprijini și viziunea în viitor. Echipa colaborează cu furnizori de modele de frontieră pentru a ajusta modelele lor pentru utilizarea la margine și este în discuții cu diferiți producători de cipuri. În plus, Mirai intenționează să lanseze benchmark-uri pe dispozitive, astfel încât creatorii de modele să poată testa performanța acestora.

Andy McLoughlin, partener de management la Uncork Capital, a remarcat că «datorită costului inferenței în cloud, ceva trebuie să se schimbe... La un moment dat, oamenii se vor concentra pe economia de bază a acestor afaceri și vor realiza că ceva trebuie să se schimbe». McLoughlin consideră că Mirai este bine poziționată pentru a capta cererea de inferență la margine.

Runda de seed a Mirai a atras și participarea unor persoane notabile, inclusiv David Singleton, CEO Dreamer, Francois Chaubard, partener YC, și Marcin Żukowski, co-fondator Snowflake, printre alții.