Meta implementează AI avansat pentru moderarea conținutului

Meta adoptă AI avansat pentru moderarea conținutului

Meta a anunțat joi că începe să implementeze sisteme AI mai avansate pentru a gestiona aplicarea regulilor de conținut, în timp ce intenționează să reducă dependența de furnizorii terți. Aceste sarcini includ identificarea și eliminarea conținutului legat de terorism, exploatarea copiilor, droguri, fraude și escrocherii. Meta a precizat că va implementa aceste sisteme AI avansate în aplicațiile sale odată ce acestea vor depăși constant metodele actuale de aplicare a regulilor de conținut.

Meta a explicat într-o postare pe blog: «Deși vom avea în continuare oameni care să revizuiască conținutul, aceste sisteme vor putea prelua sarcini mai potrivite pentru tehnologie, cum ar fi revizuirile repetitive ale conținutului grafic sau domeniile în care actorii adversari își schimbă constant tacticile, cum ar fi vânzările ilicite de droguri sau escrocheriile.»

Eficiența și precizia AI în detectarea încălcărilor

Meta crede că aceste sisteme AI pot detecta mai multe încălcări cu o precizie mai mare, pot preveni mai bine escrocheriile, pot răspunde mai rapid la evenimentele din lumea reală și pot reduce aplicarea excesivă a regulilor. Testele timpurii ale sistemelor AI au fost promițătoare, acestea fiind capabile să detecteze de două ori mai mult conținut de solicitare sexuală adultă decât echipele de revizuire, reducând în același timp rata de eroare cu peste 60%.

De asemenea, Meta a declarat că sistemele pot identifica și preveni mai multe conturi de impersonare care implică celebrități și alte persoane de profil înalt, precum și să oprească preluările de conturi prin detectarea semnalelor precum conectările din locații noi, schimbările de parole sau modificările făcute la un profil.

Rolul experților și lansarea unui asistent AI de suport

Meta a subliniat că «experții vor proiecta, antrena, supraveghea și evalua sistemele noastre AI, măsurând performanța și luând cele mai complexe decizii cu impact ridicat». Oamenii vor continua să joace un rol cheie în luarea deciziilor cu cel mai mare risc și cele mai critice, cum ar fi apelurile de dezactivare a conturilor sau rapoartele către forțele de ordine.

Această mișcare vine în contextul în care Meta a relaxat regulile de moderare a conținutului în ultimul an, după ce președintele Donald Trump a preluat al doilea mandat. Anul trecut, compania a încheiat programul de verificare a faptelor de către terți în favoarea unui model de tip Community Notes. De asemenea, a ridicat restricțiile privind „subiectele care fac parte din discursul mainstream” și a declarat că utilizatorii vor fi încurajați să adopte o abordare „personalizată” a conținutului politic.

În plus, Meta a anunțat joi că lansează un asistent de suport AI care va oferi utilizatorilor acces la suport 24/7. Asistentul este lansat la nivel global în aplicațiile Facebook și Instagram pentru iOS și Android, precum și în Centrul de Ajutor pe Facebook și Instagram pe desktop.