OpenAI, compania-mamă a ChatGPT, este implicată în mijlocul unei controverse de amploare. Un număr considerabil de instituții de pe întreg mapamondul ar fi fost înștiințate de o posibilă accesare neautorizată a unor informații sensibile de către inteligența artificială.
Instituțiile au fost informate direct de către managementul companiei OpenAI.
Agenții AI ar fi accesat informații din surse guvernamentale
Concret, agenții bazați pe inteligența artificială ar fi scos la iveală date confidențiale deținute de guverne, instituții, agenții publice sau chiar universități. Totuși, procesul de colectare a datelor nu s-a oprit la o primă căutare pe site-urile instituțiilor respective, ci a fost mult mai în profunzime, ocolind astfel protocoalele de securitate.
Anthony Albanese, premierul Australiei, a raportat un astfel de uz ilegitim din partea agenților AI, cu câteva zile în urmă. Pe atunci, el ar fi semnalat o întrebuințare fără acorduri din partea boților AI a mai multor fișiere care nu erau făcute publice. Medicare, care este implicit platforma serviciilor publice de sănătate australiene, ar fi fost vizată de acest acces fraudulos.
SEC, Biroul de Recensământ și Departamentul Educației, printre instituțiile vizate
Totodată, încă alte două nume de structuri importante din statul american ar fi fost SEC (Comisia pentru Bursă și Valori Mobiliare), Biroul de Recensământ și Departamentul Educației.
O primă explicație oferită din partea oficialilor OpenAI justifică aceste accesări ilegitime ca fiind operațiuni pentru care agenții AI nu au fost proiectați, ci mai degrabă o depășire a statutului pentru care au fost programați. Inițial, ei erau prevăzuți cu funcții autonome în căutarea de „surse oficiale de informații publice”.
Însă acești boți nu s-au oprit la o simplă colectare de informații, ci și-au însușit date extrem de confidențiale și care nu le aparțineau, cu scopul de a le publica în alte locuri. Acesta a fost cazul pentru informațiile obținute din direcția SEC, responsabilă de bursă și protecția celor ce tranzacționează pe bursa americană.
Zeci de imagini ale utilizatorilor au fost redirecționate
Aceștia au raportat, în egală măsură, că multe alte date ar fi fost transferate de la sursa de origine în alte direcții, fără permisiunea de a procesa informațiile în această manieră.
Nici imaginile nu au fost în siguranță. Un număr îngrijorător de 53 de fotografii manevrate de utilizatorii interfeței AI au fost redirecționate fără ca aceștia să știe, cu buna credință că sunt în siguranță.
Responsabilii instrumentului încărcat cu inteligență artificială se scuză prin faptul că aceste incidente, unde imaginile au fost transferate, s-au produs cu mult timp înainte ca dezvoltatorii aplicației să modifice protocoalele de siguranță care au fost incorporate ulterior.
Totodată, ei au oferit asigurări în privința utilizatorilor care au avut imaginile refolosite și republicate în altă parte, afirmând că depun eforturi reale pentru a remedia situația.
Toate aceste aspecte, precum și alte riscuri care vin la pachet cu folosirea tot mai amplificată a inteligenței artificiale au fost discutate în cadrul unei adunări a Consiliului de Securitate al ONU destinată inteligenței artificiale.
Liderii companiilor de inteligență artificială cer reguli mai clare
Astfel, marii CEO ai acestor companii care pun la dispoziția publicului larg, din întreaga lume, un instrument care procesează un volum enorm de informații personale, ramificațiile pot fi imprevizibile și extrem de periculoase pentru utilizatori, au solicitat conducătorilor internaționali să intervină.
Ei le cer să întocmească, așadar, un protocol de bună funcționare care are în vedere siguranța AI, dar și un set de practici de raportare și monitorizare a incidentelor de o natură similară.
Pentru a se asigura că procesul de rectificare a protocoalelor de securitate și, implicit, acționarea acestora nu va avea parte de subiectivitate, atât CEO-ul OpenAI, cât și cel din partea Anthropic au dezvăluit că se vor baza pe evaluări imparțiale, din exterior. Însă, nici până la acest moment, responsabilii pentru analize nu au demarat operațiunile.
În concluzie, procesul va dura mai mult decât se așteaptă unii, fiind estimate luni bune până când un posibil impact va putea fi măsurat.
