YouTube extinde detectarea deepfake-urilor AI pentru politicieni și jurnaliști

Extinderea tehnologiei de detectare a deepfake-urilor

YouTube a anunțat extinderea tehnologiei sale de detectare a deepfake-urilor generate de AI către un grup pilot format din oficiali guvernamentali, candidați politici și jurnaliști. Această inițiativă le va oferi membrilor acces la un instrument care identifică conținutul generat de AI neautorizat și le permite să solicite eliminarea acestuia dacă consideră că încalcă politica YouTube.

Tehnologia a fost inițial lansată anul trecut pentru aproximativ 4 milioane de creatori din Programul Partener YouTube, după teste anterioare. Similar cu sistemul existent Content ID al YouTube, care detectează materialele protejate de drepturi de autor în videoclipurile încărcate de utilizatori, funcția de detectare a asemănărilor caută fețe simulate create cu instrumente AI. Aceste instrumente sunt uneori folosite pentru a răspândi dezinformare și a manipula percepția oamenilor asupra realității, folosind personalități deepfake ale unor figuri notabile, precum politicieni sau alți oficiali guvernamentali.

Protejarea conversației publice

Prin noul program pilot, YouTube își propune să echilibreze libera exprimare a utilizatorilor cu riscurile asociate tehnologiei AI care poate genera o asemănare convingătoare a unei figuri publice. «Această extindere este cu adevărat despre integritatea conversației publice», a declarat Leslie Miller, Vicepreședintele YouTube pentru Afaceri Guvernamentale și Politică Publică, într-un briefing de presă înainte de lansarea de marți. «Știm că riscurile de imitare AI sunt deosebit de mari pentru cei din spațiul civic. Dar, în timp ce oferim acest nou scut, suntem, de asemenea, atenți la modul în care îl folosim», a subliniat ea.

Miller a explicat că nu toate potrivirile detectate vor fi eliminate la cerere. În schimb, YouTube va evalua fiecare cerere conform ghidurilor sale existente de politică de confidențialitate pentru a determina dacă conținutul este parodie sau critică politică, care sunt forme protejate de liberă exprimare.

Reglementări și verificarea identității

Compania a menționat că susține aceste protecții și la nivel federal, sprijinind NO FAKES Act în D.C., care ar reglementa utilizarea AI pentru a crea recreații neautorizate ale vocii și asemănării vizuale ale unei persoane.

Pentru a utiliza noul instrument, testatorii eligibili ai programului pilot trebuie mai întâi să-și dovedească identitatea prin încărcarea unui selfie și a unui ID guvernamental. Apoi, pot crea un profil, vizualiza potrivirile care apar și, opțional, solicita eliminarea lor. YouTube afirmă că intenționează să ofere în cele din urmă oamenilor posibilitatea de a preveni încărcările de conținut care încalcă regulile înainte de a deveni publice sau, eventual, să le permită să monetizeze acele videoclipuri, similar cu modul în care funcționează sistemul său Content ID.

Compania nu a confirmat care politicieni sau oficiali vor fi printre testatorii săi inițiali, dar a declarat că obiectivul este de a face tehnologia disponibilă pe scară largă în timp.

Etichetarea conținutului AI

Aceste videoclipuri AI vor fi etichetate ca atare, dar plasarea acestor etichete nu este consistentă. Pentru unii, eticheta apare în descrierea videoclipului, în timp ce videoclipurile axate pe subiecte mai «sensibile» vor aplica eticheta în fața videoclipului. Aceasta este aceeași abordare pe care YouTube o folosește pentru tot conținutul generat de AI.

«Există mult conținut produs cu AI, dar această distincție nu este de fapt materială pentru conținutul în sine», a explicat Amjad Hanif, Vicepreședintele YouTube pentru Produse pentru Creatori, referitor la plasarea etichetei. «Ar putea fi un desen animat generat cu AI. Și astfel cred că există o judecată asupra dacă este o categorie care poate merita un disclaimer foarte vizibil», a spus el.

YouTube nu împărtășește în prezent câte eliminări ale acestor tipuri de deepfake-uri AI au fost gestionate de această tehnologie de detectare a deepfake-urilor în mâinile creatorilor, dar a menționat că cantitatea de conținut eliminat până acum a fost «foarte mică».

«Cred că pentru mulți [creatori], a fost doar conștientizarea a ceea ce este creat, dar volumul de cereri de eliminare este cu adevărat, cu adevărat scăzut, deoarece majoritatea se dovedește a fi destul de inofensivă sau aditivă pentru afacerea lor generală», a spus Hanif.

Acest lucru s-ar putea să nu fie cazul cu deepfake-urile oficialilor guvernamentali, politicienilor sau jurnaliștilor.

În timp, YouTube intenționează să aducă tehnologia sa de detectare a deepfake-urilor în mai multe domenii, inclusiv voci recunoscute și alte proprietăți intelectuale, cum ar fi personaje populare.