RadixArk se lansează cu o evaluare de 400 milioane $

RadixArk: O Nouă Stea în Infrastructura AI

În lumea infrastructurii AI, un nou model devine tot mai evident: instrumentele open source populare se transformă în startup-uri susținute de capital de risc, evaluându-se la sute de milioane de dolari. Cel mai recent exemplu este RadixArk, compania comercială care stă în spatele SGLang, un instrument din ce în ce mai popular care ajută modelele AI să ruleze mai rapid și mai ieftin.

RadixArk a fost recent evaluată la aproximativ 400 de milioane de dolari într-o rundă de finanțare condusă de Accel, conform a două persoane familiare cu situația, o sumă notabilă pentru un startup anunțat doar în august trecut. TechCrunch nu a putut confirma dimensiunea exactă a finanțării.

Evoluția SGLang și Rolul lui Ying Sheng

Această știre vine pe fondul tranziției unor membri ai echipei responsabile pentru întreținerea SGLang, folosit de companii precum xAI și Cursor pentru a accelera antrenarea modelelor AI, către noul startup comercial. RadixArk a început ca SGLang în 2023, în laboratorul UC Berkeley al co-fondatorului Databricks, Ion Stoica.

Startup-ul a atras anterior capital de la investitori angel, inclusiv CEO-ul Intel, Lip-Bu Tan, conform surselor.

Ying Sheng, un contribuitor cheie la SGLang și fost inginer la xAI, a părăsit startup-ul AI al lui Elon Musk pentru a deveni co-fondator și CEO al RadixArk, conform unui anunț pe LinkedIn făcut luna trecută. Sheng a fost anterior cercetător la Databricks.

Optimizarea Procesării de Inferență

Atât SGLang, cât și RadixArk se concentrează pe optimizarea procesării de inferență — permițând modelelor să ruleze mai rapid și mai eficient pe același hardware. Împreună cu antrenarea modelelor, inferența reprezintă o mare parte din costurile serverelor asociate cu serviciile AI. Drept urmare, instrumentele care optimizează procesul pot genera economii enorme aproape imediat.

RadixArk nu este singura companie care face această tranziție de la proiect open source la startup bine finanțat. vLLM, un proiect mai matur pentru optimizarea inferenței, a făcut de asemenea acest salt. Noua companie a avut discuții despre strângerea a peste 160 de milioane de dolari la o evaluare de aproximativ 1 miliard de dolari, a raportat Forbes luna trecută.

Proiecte și Dezvoltări Viitoare

RadixArk continuă să dezvolte SGLang ca un motor open source pentru modele AI. Startup-ul construiește, de asemenea, Miles, un cadru specializat destinat învățării prin întărire, care permite companiilor să antreneze modele AI pentru a deveni mai inteligente în timp.

În timp ce majoritatea instrumentelor sale rămân gratuite, RadixArk a început să perceapă taxe pentru serviciile de găzduire, conform unei persoane familiare cu compania, a declarat TechCrunch.

Start-up-urile care oferă infrastructură de inferență pentru dezvoltatori au înregistrat o creștere a finanțării în ultimele luni, subliniind importanța continuă a stratului de inferență pentru AI. Recent, Baseten a obținut 300 de milioane de dolari la o evaluare de 5 miliarde de dolari, a raportat The Wall Street Journal marți. Aceasta urmează unei mișcări similare de către rivalul Fireworks AI, care a strâns 250 de milioane de dolari la o evaluare de 4 miliarde de dolari în octombrie trecut.