Meta suspendă accesul adolescenților la AI înainte de actualizare

Meta suspendă accesul adolescenților la AI

Meta a anunțat astăzi că suspendă accesul adolescenților la personajele sale AI la nivel global, pe toate aplicațiile sale. Compania a subliniat că nu renunță la eforturile sale, ci dorește să dezvolte o versiune actualizată a personajelor AI pentru adolescenți, conform unei declarații exclusive pentru TechCrunch. Această decizie vine cu câteva zile înainte de un proces împotriva Meta care urmează să înceapă în New Mexico, unde compania este acuzată că nu a protejat copiii de exploatarea sexuală pe aplicațiile sale.

Presiuni legale și reglementări stricte

Conform unui raport Wired, Meta a încercat să limiteze descoperirea legată de impactul social media asupra sănătății mintale a adolescenților. În luna octombrie, compania a prezentat controale parentale pentru personajele AI, permițând părinților și tutorilor să monitorizeze subiectele și să blocheze accesul la anumite personaje. Aceste funcții urmau să fie lansate în acest an, dar acum compania oprește complet personajele AI pentru adolescenți în timp ce lucrează la o versiune nouă.

Feedback-ul părinților și măsuri de control

Meta a menționat că a primit feedback de la părinți care doreau mai multe informații și control asupra interacțiunilor adolescenților cu personajele AI, motiv pentru care a decis să facă aceste schimbări. Compania a restricționat deja accesul adolescenților la conținut AI pe aplicațiile sale. De asemenea, în octombrie, Meta a lansat funcții de control parental pe Instagram, axate pe adaptarea experienței adolescenților în interacțiunea cu AI.

Planuri de viitor și controale parentale

Într-o postare actualizată pe blog, Meta a declarat: «Începând cu săptămânile următoare, adolescenții nu vor mai putea accesa personajele AI pe aplicațiile noastre până când experiența actualizată nu va fi gata. Aceasta se va aplica oricui ne-a furnizat o dată de naștere de adolescent, precum și persoanelor care pretind că sunt adulți, dar pe care le suspectăm că sunt adolescenți, pe baza tehnologiei noastre de predicție a vârstei.» Meta a adăugat că atunci când va lansa noile personaje AI, acestea vor avea controale parentale integrate și vor oferi răspunsuri adecvate vârstei, concentrându-se pe subiecte precum educația, sportul și hobby-urile.

Alte presiuni și modificări în industrie

Companiile de social media sunt supuse unei examinări riguroase din partea autorităților de reglementare. Pe lângă cazul menționat din New Mexico, Meta se confruntă și cu un proces săptămâna viitoare, unde platforma este acuzată de cauzarea dependenței de social media. CEO-ul Mark Zuckerberg este așteptat să depună mărturie în acest caz odată ce procesul va începe. În afară de platformele sociale, companiile de AI au trebuit să modifice experiențele pentru adolescenți după ce au fost acuzate că au contribuit la auto-vătămare. În octombrie, Character.AI, startup-ul care permite utilizatorilor să converseze cu diverse avatare AI, a interzis conversațiile deschise cu chatbots pentru utilizatorii sub 18 ani. În noiembrie, startup-ul a anunțat că va construi povești interactive pentru copii. În ultimele luni, OpenAI a adăugat noi reguli de siguranță pentru adolescenți pentru ChatGPT și a început să prezică vârsta utilizatorilor pentru a aplica restricții de conținut.

Clarificări și actualizări

Corecție: Această postare a fost actualizată pentru a clarifica faptul că noua versiune a personajelor AI va fi accesibilă tuturor, nu doar adolescenților, când va fi lansată. Aceasta va include controale parentale.