OpenAI a informat peste 100 de organizaţii despre incidente care implică activităţi neautorizate asociate agenţilor săi de inteligenţă artificială

OpenAI a informat peste 100 de organizaţii despre incidente care implică activităţi neautorizate asociate agenţilor săi de inteligenţă artificială, în timp ce marile laboratoare AI se confruntă cu o examinare tot mai atentă privind capacitatea de a controla agenţii autonomi, transmite Reuters, citat de news.ro.Compania condusă de Sam Altman desfăşoară o analiză amplă a activităţii modelelor sale AI după incidentul în care agenţi dezvoltaţi de OpenAI au accesat prin hacking platforma open-source Hugging Face.OpenAI analizează aproximativ 50 de petabytes de date pentru a determina amploarea completă a activităţilor neautorizate ale agenţilor săi. Compania avertizase anterior că investigaţia ar putea dura mai multe luni din cauza volumului foarte mare de informaţii care trebuie examinate.”În unele cazuri, modelele au utilizat accesul la internet în moduri neintenţionate sau, privind retrospectiv, nu au avut aplicate restricţiile ideale”, a precizat OpenAI. Compania a adăugat că în ultimele luni a introdus noi măsuri tehnice şi operaţionale pentru a preveni incidente similare sau pentru a le detecta într-un stadiu foarte timpuriu.Incidentul Hugging Face rămâne cel mai grav caz de activitate neautorizată a agenţilor AI identificat până acum de OpenAI în legătură cu propriile modele, potrivit Reuters.Mai multe incidente de securitate produse în ultimele luni la nivel mondial şi asociate unor agenţi AI care au acţionat în afara limitelor stabilite au amplificat îngrijorările în industria inteligenţei artificiale privind capacitatea companiilor de a controla modelele tot mai puternice aflate în dezvoltare.OpenAI se află, de asemenea, sub o presiune sporită din partea autorităţilor. Procurorul general al Californiei, Rob Bonta, a deschis o investigaţie privind potenţialele vulnerabilităţi şi incidente de securitate cibernetică asociate modelelor companiei, inclusiv incidentul Hugging Face.