Bug în Microsoft Office a expus emailuri confidențiale către AI-ul Copilot

Microsoft recunoaște expunerea emailurilor confidențiale

Microsoft a recunoscut că un bug în sistemul său a permis AI-ului Copilot să acceseze și să rezume emailuri confidențiale ale clienților fără permisiune. Această problemă a fost raportată pentru prima dată de Bleeping Computer și a permis Copilot Chat să citească și să contureze conținutul emailurilor încă din luna ianuarie, chiar și atunci când clienții aveau politici de prevenire a pierderii datelor pentru a împiedica ingestia informațiilor sensibile în modelul lingvistic al Microsoft.

Copilot Chat este o funcție disponibilă pentru clienții plătitori ai Microsoft 365, care le permite să utilizeze caracteristica de chat alimentată de AI în produsele software Office, inclusiv Word, Excel și PowerPoint. Microsoft a declarat că bug-ul, care poate fi urmărit de administratori sub codul CW1226324, înseamnă că mesajele de email în stadiu de draft și cele trimise, marcate cu eticheta „confidențial”, sunt procesate incorect de chatul Microsoft 365 Copilot.

Reacția și măsurile luate de Microsoft

Gigantul tehnologic a început să implementeze o soluție pentru această problemă la începutul lunii februarie. Cu toate acestea, un purtător de cuvânt al Microsoft nu a răspuns la cererea de comentarii, inclusiv la întrebarea despre câți clienți au fost afectați de acest bug.

În aceeași săptămână, departamentul IT al Parlamentului European a informat parlamentarii că a blocat funcțiile AI încorporate pe dispozitivele de serviciu, invocând preocupări că instrumentele AI ar putea încărca corespondența potențial confidențială în cloud.

Context și implicații

Această situație ridică întrebări serioase cu privire la securitatea și confidențialitatea datelor în contextul utilizării inteligenței artificiale în aplicațiile de zi cu zi. De asemenea, subliniază necesitatea unei supravegheri mai stricte și a unor măsuri de protecție mai robuste pentru a preveni astfel de incidente în viitor. În timp ce tehnologia AI continuă să evolueze și să fie integrată în tot mai multe aspecte ale vieții noastre, este esențial ca problemele de securitate să fie abordate cu prioritate.