Anthropic vs. Pentagonul: O confruntare asupra utilizării AI

Disputa dintre Anthropic și Pentagon

În ultimele două săptămâni, CEO-ul Anthropic, Dario Amodei, și Secretarul Apărării, Pete Hegseth, au fost implicați într-o confruntare intensă privind utilizarea inteligenței artificiale în armată. Anthropic refuză categoric ca modelele sale de AI să fie folosite pentru supravegherea în masă a americanilor sau pentru arme complet autonome care să opereze fără intervenție umană. În contrast, Secretarul Hegseth susține că Departamentul Apărării nu ar trebui să fie limitat de regulile unui furnizor, argumentând că orice „utilizare legală” a tehnologiei ar trebui să fie permisă.

Poziția Anthropic

Joi, Amodei a declarat public că Anthropic nu va ceda, chiar dacă compania sa riscă să fie desemnată drept un risc pentru lanțul de aprovizionare. La baza acestei dispute stă întrebarea cine controlează sistemele AI puternice: companiile care le construiesc sau guvernul care dorește să le utilizeze. Anthropic susține că tehnologia AI prezintă riscuri unice și necesită măsuri de protecție speciale, mai ales atunci când este folosită de armată.

Utilizarea AI în armată

Armata americană se bazează deja pe sisteme extrem de automate, unele dintre ele fiind letale. Deși decizia de a folosi forța letală a fost lăsată istoric oamenilor, există puține restricții legale privind utilizarea armelor autonome de către armată. O directivă din 2023 a DoD permite sistemelor AI să selecteze și să angajeze ținte fără intervenție umană, atâta timp cât îndeplinesc anumite standarde și sunt aprobate de oficiali superiori.

Riscurile percepute de Anthropic

Anthropic este îngrijorat de faptul că tehnologia militară este în mod natural secretă, iar dacă armata SUA ar face pași pentru a automatiza deciziile letale, s-ar putea să nu aflăm despre asta până când nu devine operațională. Dacă ar folosi modelele Anthropic, ar putea fi considerat ca „utilizare legală”. Poziția Anthropic nu este că astfel de utilizări ar trebui să fie interzise permanent, ci că modelele lor nu sunt încă suficient de capabile pentru a le susține în siguranță.

Argumentele Pentagonului

Pe de altă parte, Pentagonul argumentează că ar trebui să poată folosi tehnologia Anthropic pentru orice utilizare legală considerată necesară, fără a fi limitat de politicile interne ale Anthropic privind armele autonome sau supravegherea. Sean Parnell, purtătorul de cuvânt al Pentagonului, a afirmat că departamentul nu are interesul de a desfășura supraveghere în masă sau de a implementa arme autonome.

Viitorul colaborării

În ciuda poziției DoD că nu ar trebui să fie limitat de politicile unei corporații, preocupările lui Hegseth față de Anthropic par uneori legate de nemulțumiri culturale. Într-un discurs la birourile SpaceX și xAI, Hegseth a criticat „AI-ul trezit”, subliniind că „AI-ul Departamentului de Război nu va fi trezit”.

Consecințele unei posibile rupturi

Dacă Pentagonul decide să declare Anthropic un „risc pentru lanțul de aprovizionare”, aceasta ar putea avea efecte devastatoare asupra companiei. Sachin Seth, un VC la Trousdale Ventures, consideră că o astfel de etichetă ar putea însemna „stingerea luminilor” pentru Anthropic. Totuși, dacă Anthropic este eliminat din DoD, ar putea reprezenta o problemă de securitate națională, deoarece ar trebui să aștepte 6 până la 12 luni pentru ca OpenAI sau xAI să ajungă din urmă.

Posibile înlocuiri

xAI, deținută de Elon Musk, se pregătește să devină pregătită pentru clasificare și să înlocuiască Anthropic. Având în vedere retorica lui Musk, este probabil ca xAI să nu aibă nicio problemă în a oferi DoD control total asupra tehnologiei sale. Raportările recente indică faptul că OpenAI ar putea menține aceleași linii roșii ca Anthropic.