Citații inventate descoperite la conferința NeurIPS: O ironie în lumea AI
100 de citații false în 51 de lucrări la NeurIPS, descoperite de GPTZero
GPTZero a descoperit 100 de citații false în lucrările NeurIPS, subliniind provocările și ironia utilizării AI în cercetare.
Puncte Cheie
- GPTZero a analizat 4,841 de lucrări acceptate la NeurIPS.
- 100 de citații false au fost găsite în 51 de lucrări.
- NeurIPS este o conferință prestigioasă în domeniul AI.
- Citațiile false nu invalidează cercetarea lucrărilor.
- Citațiile sunt importante pentru cariera cercetătorilor.
- Problema volumului mare de lucrări și revizuiri la conferințe.
Descoperirea GPTZero la NeurIPS
Startup-ul de detectare AI, GPTZero, a analizat toate cele 4,841 de lucrări acceptate la prestigioasa Conferință pe Sisteme de Procesare a Informațiilor Neurale (NeurIPS), desfășurată luna trecută în San Diego. În urma acestei analize, compania a identificat 100 de citații inventate, răspândite în 51 de lucrări, pe care le-a confirmat ca fiind false, conform declarațiilor făcute pentru TechCrunch.
A avea o lucrare acceptată la NeurIPS reprezintă o realizare notabilă în lumea cercetării AI. Având în vedere că participanții sunt lideri în cercetarea AI, s-ar putea presupune că aceștia ar utiliza modelele de limbaj mari (LLM) pentru a gestiona sarcina plictisitoare de a scrie citații.
Impactul Citațiilor False
Totuși, există câteva avertismente legate de această descoperire: 100 de citații false confirmate în 51 de lucrări nu reprezintă un număr semnificativ din punct de vedere statistic. Fiecare lucrare conține zeci de citații. Astfel, din zecile de mii de citații, acest număr este, statistic, nesemnificativ.
Este de asemenea important de menționat că o citație inexactă nu invalidează cercetarea lucrării. După cum a declarat NeurIPS pentru Fortune, care a fost prima publicație ce a raportat cercetarea GPTZero, «Chiar dacă 1.1% din lucrări au una sau mai multe referințe incorecte din cauza utilizării LLM-urilor, conținutul lucrărilor nu este neapărat invalidat.»
Importanța Citațiilor pentru Cercetători
Cu toate acestea, o citație falsificată nu este lipsită de importanță. NeurIPS se mândrește cu «publicarea academică riguroasă în domeniul învățării automate și al inteligenței artificiale», conform declarațiilor proprii. Fiecare lucrare este revizuită de mai multe persoane care sunt instruite să identifice astfel de erori.
Citațiile servesc și ca o formă de monedă pentru cercetători. Ele sunt folosite ca metrică de carieră pentru a arăta cât de influentă este munca unui cercetător în rândul colegilor săi. Atunci când AI le inventează, valoarea lor este diluată.
Provocările Revizuirii la Conferințe
Nimeni nu poate învinovăți evaluatorii pentru că nu au identificat câteva citații fabricate de AI, având în vedere volumul imens implicat. GPTZero subliniază rapid acest aspect. Scopul exercițiului a fost de a oferi date specifice despre cum «erorile AI se strecoară printr-un tsunami de depuneri» care a «solicitat până la punctul de rupere conductele de revizuire ale acestor conferințe», conform raportului startup-ului. GPTZero chiar face referire la o lucrare din mai 2025 intitulată „Criza de Revizuire la Conferințele AI” care a discutat problema la conferințe de top, inclusiv NeurIPS.
Cu toate acestea, de ce nu au putut cercetătorii înșiși să verifice acuratețea muncii LLM-urilor? Cu siguranță, ei trebuie să cunoască lista reală de lucrări pe care le-au utilizat pentru cercetarea lor.
Concluzie Ironică
Ceea ce subliniază întreaga situație este o concluzie mare și ironică: Dacă cei mai buni experți AI din lume, cu reputațiile lor în joc, nu pot asigura acuratețea utilizării LLM-urilor în detalii, ce înseamnă asta pentru restul dintre noi?
Abonează-te la StiriX
Primește cele mai noi știri tech direct pe email.