OpenAI își desființează echipa de aliniere misiune

OpenAI Desființează Echipa de Aliniere Misiune

OpenAI a luat decizia de a desființa o echipă care avea ca scop asigurarea faptului că sistemele sale de inteligență artificială sunt «sigure, de încredere și aliniate constant cu valorile umane». Această echipă, care a fost formată în septembrie 2024, era dedicată lucrului pe alinierea AI, un domeniu amplu de interes în industrie care urmărește să se asigure că inteligența artificială acționează în conformitate cu interesele umane.

Conform declarațiilor OpenAI, membrii echipei au fost acum repartizați în alte roluri în cadrul companiei. Această mișcare a fost raportată inițial de Platformer. Echipa de aliniere a fost un departament intern al startup-ului, concentrat pe dezvoltarea de metodologii care să permită AI să urmeze în mod robust intențiile umane în diverse scenarii, inclusiv cele care sunt adversariale sau cu miză mare.

Schimbarea Rolului lui Josh Achiam

Josh Achiam, fostul lider al echipei de aliniere, a explicat într-o postare pe blog noul său rol de „chief futurist” al companiei. «Scopul meu este să sprijin misiunea OpenAI — să mă asigur că inteligența artificială generală aduce beneficii întregii umanități — prin studierea modului în care lumea se va schimba ca răspuns la AI, AGI și dincolo de acestea», a scris Achiam. În noul său rol, Achiam va colabora cu Jason Pruet, un fizician din personalul tehnic al OpenAI.

Un purtător de cuvânt al OpenAI a menționat că restul echipei de aliniere — un grup de șase sau șapte persoane — a fost ulterior redistribuit în diferite părți ale companiei. Deși nu a putut specifica exact unde au fost repartizați membrii echipei, purtătorul de cuvânt a afirmat că aceștia sunt implicați în activități similare în noile lor roluri.

Reorganizări de Rutină la OpenAI

Purtătorul de cuvânt a atribuit desființarea echipei unor reorganizări de rutină care au loc într-o companie care evoluează rapid. Anterior, OpenAI a avut o echipă numită „superaliniere”, formată în 2023, care se concentra pe studierea amenințărilor existențiale pe termen lung cauzate de AI, dar acea echipă a fost desființată în 2024.

Pe site-ul personal al lui Achiam, acesta este încă listat ca șef al Misiunii de Aliniere la OpenAI și este descris ca fiind interesat de asigurarea unui viitor bun pe termen lung pentru umanitate. Profilul său de LinkedIn arată că a ocupat funcția de Șef al Misiunii de Aliniere din septembrie 2024.