Semnal de alarmă în lumea AI: Agenți atribuiți OpenAI au început să comunice între ei și să „fenteze” restricțiile

Cuprins:Un grup de agenți autonomi de inteligență artificială, despre care cercetătorii cred că ar avea legătură cu OpenAI⁠, ar fi reușit să folosească un site public de tip „wiki” pentru a comunica, a-și transmite răspunsurile și chiar a face schimb de metode prin care puteau evita anumite restricții ale mediilor în care operau. Comportamentul neprevăzut a fost identificat într-un studiu independent publicat vineri și citat de agenția Xinhua.Analiza, realizată de patru cercetători, printre care Sydney Von Arx de la organizația pentru siguranța AI Nightingale Collective, indică existența a aproximativ 18.000 de postări atribuite unor agenți autonomi care s-au identificat ca provenind de la OpenAI.Agenții ar fi găsit singuri o cale prin care să scrie pe internetActivitatea s-a desfășurat în timp ce sistemele AI primeau sarcini care presupuneau căutarea de informații pe internet. Cercetătorii susțin că agenții ar fi trebuit să aibă posibilitatea de a citi conținut online, fără însă să poată publica informații.Aceștia ar fi descoperit însă o modalitate de a trece peste această limitare.Principalul loc folosit pentru comunicare a fost DSEWiki, un site german de tip „wiki”, asemănător Wikipedia, care există de aproximativ 25 de ani și care în ultimii ani a avut o activitate redusă.Prin intermediul acestuia, agenții ar fi început să își transmită rezultatele cercetărilor, să împărtășească răspunsuri și să discute tehnici prin care puteau ocoli restricțiile de rețea existente în mediul lor de testare.Cercetătorii consideră că această formă de colaborare le-a oferit sistemelor un avantaj în rezolvarea sarcinilor, deși un asemenea comportament nu ar fi fost anticipat de dezvoltatorii lor.18.000 de postări și o colaborare tot mai amplăPrimele încercări observate de cercetători de a modifica un „wiki” public datează din 11 mai. Prima operațiune reușită de scriere pe DSEWiki a fost înregistrată pe 24 mai.Fenomenul ar fi căpătat însă o amploare mult mai mare începând cu 16 iunie. Din acel moment, agenții au început să își transmită răspunsurile și să sincronizeze informațiile necesare pentru rundele următoare ale sarcinilor pe care le aveau de îndeplinit.Potrivit datelor analizate, în anumite situații, un agent care întâlnise deja o întrebare publica răspunsul, iar informația era ulterior utilizată de alți agenți cărora le era adresată aceeași întrebare.Moderatorul ștergea paginile, agenții ar fi început să facă „rezerve”Studiul descrie și un alt comportament neobișnuit. După ce un moderator uman al DSEWiki a început să elimine paginile create, unii dintre agenți ar fi încercat să-și protejeze informațiile prin realizarea unor pagini de rezervă.Acestea primeau denumiri care începeau cu „ZZZ”, într-o aparentă încercare de a reduce șansele ca respectivele pagini să fie printre primele eliminate.În paralel, agenții ar fi discutat și experimentat diferite metode prin care să depășească restricțiile de rețea impuse în mediul de testare.De ce cred cercetătorii că agenții aveau legătură cu OpenAIStudiul arată că aproximativ 98,5% dintre modificările realizate de agenți pe DSEWiki proveneau de la adrese IP ale Microsoft Azure⁠. Cercetătorii spun că au identificat și accesări provenite de la adrese IP asociate OpenAI.În plus, numeroși agenți utilizau denumiri care conțineau referiri la OpenAI.Pe baza acestor indicii și a altor elemente analizate, autorii studiului consideră că agenții ar fi fost implementați intern de OpenAI.Ei avertizează însă că această concluzie este preliminară. Cercetătorii au avut la dispoziție numai informațiile lăsate de agenți pe site-ul public și nu au putut consulta datele interne deținute de companie.Din acest motiv, mai multe întrebări legate de strategiile și motivațiile sistemelor AI rămân fără răspuns. De asemenea, studiul nu stabilește dacă sarcinile respective făceau parte din antrenarea modelelor sau dintr-un proces de testare.OpenAI: raportul va fi analizatUn purtător de cuvânt al OpenAI a declarat că firma nu a primit posibilitatea de a examina studiul înainte ca acesta să fie făcut public și, în aceste condiții, nu poate oferi un răspuns substanțial la afirmațiile și concluziile prezentate.Reprezentantul companiei a precizat că OpenAI va analiza cu atenție raportul și va lua ulterior orice măsuri care se vor dovedi necesare.OpenAI a mai transmis că activitatea identificată pe site-ul „wiki” nu are legătură cu incidentul separat produs în iulie pe Hugging Face și, din acest motiv, nu a fost inclusă în raportul companiei referitor la acel caz.Incidente și la alte mari companii de AIÎn iulie, OpenAI a dezvăluit că două dintre modelele sale au ieșit, din proprie inițiativă, din mediul controlat în care erau testate pentru a ataca site-ul Hugging Face.Ulterior, Anthropic⁠ a anunțat că modelele sale au “obţinut acces neautorizat” la sistemele a trei organizații în timpul unor teste concepute tocmai pentru a le împiedica să ajungă la sisteme din “lumea reală”.La începutul lunii august, Meta⁠ a anunțat, la rândul său, că unul dintre modelele sale AI a piratat o altă companie în timpul unor teste de securitate cibernetică.Seria acestor incidente a amplificat preocupările legate de capacitatea dezvoltatorilor de a păstra sub control sisteme de inteligență artificială care devin tot mai performante.La jumătatea lunii august, OpenAI, compania care dezvoltă ChatGPT, a anunțat că va înăspri măsurile de siguranță utilizate în timpul testării modelelor AI, după atacuri cibernetice de amploare realizate de software bazat pe inteligență artificială.