OpenAI, scuze în fața Parlamentului australian după ce un agent AI a ajuns pe un site guvernamental

Un angajat al OpenAI a recunoscut marţi în faţa parlamentarilor australieni că gigantul american a gestionat în mod defectuos incidentul în care un agent AI al său autonom s-a infiltrat pe un site guvernamental în luna iunie, transmite AFP, conform Agerpres.Directorul de strategie al OpenAI, Jason Kwon, a fost audiat la Sydney de o comisie parlamentară specială pentru inteligenţa artificială.”Vreau mai întâi să îmi cer iertare”, a declarat Jason Kwon.Un agent autonom al OpenAI s-a infiltrat în iunie pe site-ul serviciului de statistici de sănătate australian, unde a reuşit să acceseze diverse fişiere, publice şi private.Modelul în cauză era un IA intern al OpenAI care nu a fost creat pentru a fi comercializat. Evaluatorii săi l-au eliberat de restricţii pentru a putea evalua mai bine capacităţile sale reale în domeniul securităţii cibernetice.OpenAI a recunoscut că produsul său a vizat patru platforme guvernamentale australiene şi a afirmat că şi-au dat seama de acest lucru în luna august.”În timpul formării şi evaluării interne, modelele noastre au accesat site-uri web guvernamentale australiene într-un mod care nu le-a fost solicitat. Aceasta nu ar fi trebuit să se întâmple. Ar fi trebuit, de asemenea, să gestionăm mai bine reacţia noastră”, a explicat el.Prim-ministrul australian Anthony Albanese a criticat compania pentru că a alertat guvernul abia în luna septembrie, trimiţând un email care descria incidentul către o adresă generică, destinată publicului larg, unde corespondenţa este verificată doar o dată pe zi.”Ne pare rău. Ştim că avem muncă de făcut pentru a recâştiga încrederea poporului australian. Ne angajăm să ducem la bun sfârşit această sarcină”, şi-a cerut din nou scuze Kwon.Cu un potenţial uriaş în domeniul energiei regenerabile şi vaste terenuri nepopulate, Australia se prezintă ca un loc de top pentru centrele de date necesare funcţionării IA.OpenAI participă la construirea unui centru uriaş de date în suburbia oraşului Sydney, dar companiile specializate în IA se confruntă cu o opoziţie locală tot mai mare deoarece mulţi australieni ridică semne de întrebare în privinţa eticii şi a amprentei de mediu a centrelor de date, mari consumatoare de energie.