Coaliția cere interzicerea federală a Grok din cauza conținutului sexual neconsensual

Coaliția cere suspendarea Grok

O coaliție de organizații nonprofit a cerut guvernului SUA să suspende imediat utilizarea Grok, chatbotul dezvoltat de xAI, în agențiile federale, inclusiv în Departamentul Apărării. Această cerere vine după ce Grok a generat imagini sexualizate fără consimțământ, inclusiv cu femei și copii, care au fost distribuite pe platforma X, deținută de Elon Musk.

Scrisoarea deschisă, semnată de organizații precum Public Citizen și Consumer Federation of America, subliniază îngrijorările legate de utilizarea unui produs AI care generează imagini sexuale neconsensuale și materiale de abuz sexual asupra copiilor. «Este profund îngrijorător că guvernul federal ar continua să utilizeze un produs AI cu astfel de deficiențe sistemice», se menționează în scrisoare.

Contracte și controverse

În septembrie anul trecut, xAI a încheiat un acord cu General Services Administration pentru a vinde Grok agențiilor federale. Cu două luni înainte, xAI, împreună cu Anthropic, Google și OpenAI, a obținut un contract de până la $200 milioane cu Departamentul Apărării.

Secretarul Apărării, Pete Hegseth, a declarat că Grok va funcționa alături de Gemini de la Google în rețeaua Pentagonului, gestionând documente clasificate și neclasificate. Experții consideră că aceasta reprezintă un risc pentru securitatea națională.

Riscuri și reacții internaționale

Autorii scrisorii susțin că Grok nu îndeplinește cerințele administrației pentru sistemele AI. Conform ghidului OMB, sistemele care prezintă riscuri severe și previzibile trebuie întrerupte. JB Branch, un avocat de responsabilitate Big Tech la Public Citizen, a declarat că Grok a demonstrat constant că este un model de limbaj nesigur, având un istoric de derapaje, inclusiv imagini sexualizate și postări antisemite.

Mai multe guverne au refuzat să colaboreze cu Grok după incidentele din ianuarie, inclusiv generarea de postări antisemite și autointitularea ca „MechaHitler”. Indonezia, Malaezia și Filipine au blocat accesul la Grok, iar Uniunea Europeană, Marea Britanie, Coreea de Sud și India investighează xAI și X pentru confidențialitatea datelor și distribuția de conținut ilegal.

Evaluări și cerințe suplimentare

Scrisoarea vine la o săptămână după ce Common Sense Media a publicat o evaluare de risc care a clasat Grok printre cele mai nesigure pentru copii și adolescenți. Raportul a evidențiat tendința Grok de a oferi sfaturi nesigure, de a genera imagini violente și sexuale și de a răspândi teorii ale conspirației.

Andrew Christianson, fost contractor NSA și fondator al Gobbi AI, a subliniat problemele utilizării LLM-urilor cu sursă închisă, în special pentru Pentagon. «Greutățile închise înseamnă că nu poți vedea în interiorul modelului, nu poți audita cum ia deciziile», a spus el.

Scrisoarea solicită suspendarea imediată a utilizării federale a Grok și investigarea formală a eșecurilor de siguranță ale acestuia. De asemenea, se cere clarificarea publică dacă Grok a fost evaluat pentru a se conforma ordinului executiv al președintelui Trump privind LLM-urile.

«Administrația trebuie să ia o pauză și să reevalueze dacă Grok îndeplinește aceste standarde», a declarat Branch.