Roblox introduce reformularea AI în timp real pentru chat

Roblox îmbunătățește siguranța chatului cu AI

Roblox a anunțat lansarea unei noi funcții de reformulare a chatului în timp real, bazată pe inteligență artificială, care înlocuiește automat cuvintele interzise cu un limbaj mai respectuos. Această inovație depășește filtrul de text existent al Roblox, care înlocuia cuvintele și expresiile interzise cu simbolul „#”. Potrivit companiei, utilizarea excesivă a simbolului „#” poate perturba conversațiile și le poate face greu de urmărit.

Noua funcție reformulează textul filtrat într-un limbaj mai respectuos, păstrând intenția originală a utilizatorului. De exemplu, un mesaj precum „Hurry TF up!” ar fi apărut anterior ca „####”, dar acum va fi reformulat ca „Hurry up!”. Roblox informează toți participanții la chat că mesajul a fost reformulat pentru a menține conversația civilizată.

Importanța chatului pentru comunitatea Roblox

Rajiv Bhatia, vicepreședinte al User and Discovery Product la Roblox, a declarat: «Chatul este central pentru modul în care oamenii se conectează, coordonează și joacă pe Roblox. Reformularea în timp real ajută la menținerea jocului și a conversațiilor pe drumul cel bun, ghidând limbajul către ceea ce este adecvat. Această abordare reduce fricțiunile din chat, menținând în același timp standardele care ajută la păstrarea comunității noastre civilizate.»

Roblox subliniază că, deși reformularea reduce unele dintre perturbările din chat, sistemul său de siguranță rămâne activ pentru comportamente mai grave. Noua funcție este disponibilă în toate limbile suportate de instrumentele de traducere automată ale Roblox.

Îmbunătățiri în detectarea limbajului interzis

Compania îmbunătățește, de asemenea, sistemul de filtrare a textului pentru a detecta mai bine variațiile limbajului interzis. Roblox afirmă că rezultatele preliminare arată că sistemul devine mai eficient în detectarea leetspeak și a încercărilor mai sofisticate de a ocoli filtrele. Aceasta a permis companiei să reducă prevalența rezultatelor fals negative în partajarea sau solicitarea informațiilor personale de 20 de ori.

Anunțul de joi vine la scurt timp după ce Roblox a introdus verificarea facială obligatorie pentru accesul la chat-urile de pe platforma sa, în urma unui val de procese legate de siguranța copiilor, inițiate de procurorii generali din Texas, Kentucky și Louisiana, printre alții. Procesele au fost depuse ca răspuns la rapoartele conform cărora Roblox expunea utilizatorii tineri la riscuri periculoase, cum ar fi grooming-ul și conținutul explicit.