Prima pagină » Iasi in fiecare pagina » Inteligența artificială poate deveni cel mai productiv „angajat”: Experții avertizează asupra unor riscuri majore

Inteligența artificială poate deveni cel mai productiv „angajat”: Experții avertizează asupra unor riscuri majore

by Salut Iasi


Cuprins:Un agent AI poate deveni cel mai productiv „angajat” al unei companii, în sensul că lucrează continuu, are acces simultan la mai multe aplicaţii, are un ritm de implementare rapid, automatizează şi poate executa singur sarcini variate şi tot mai complexe, însă toate acestea pot introduce noi riscuri de securitate, avertizează experţii din cadrul unei companii internaţionale specializată în furnizarea de soluţii IT, conform Agerpres.”Un sistem care poate acţiona în numele companiei poate fi determinat, totodată, să execute şi altceva decât ceea ce i s-a cerut. Agenţii AI pot aduce noi riscuri de securitate atunci când sunt conectaţi la aplicaţiile şi datele unei companii, fără limite clare privind accesul şi acţiunile pe care le pot executa. Spre deosebire de un instrument AI utilizat doar pentru a genera un text sau pentru a răspunde unei întrebări, un agent AI poate fi conectat la aplicaţii şi surse de date şi poate executa anumite acţiuni în baza permisiunilor pe care le primeşte. În funcţie de modul în care este configurat, acesta poate consulta documente interne, interacţiona cu alte aplicaţii sau automatiza etape dintr-un proces de lucru. Tocmai această capacitate de a acţiona face ca securitatea agenţilor AI să devină relevantă pentru companii”, susţin specialiştii Medialine, într-o analiză publicată recent.În opinia acestora, cu cât un sistem are acces la mai multe aplicaţii şi informaţii, cu atât trebuie stabilit mai strict ce anume poate consulta, ce poate modifica şi ce acţiuni necesită aprobarea unei persoane.Agenţii AI pot fi manipulaţi pentru a executa comenzi neprevăzuteRaportul Global Cybersecurity Outlook 2026, publicat de World Economic Forum, arată că, în lipsa unor mecanisme adecvate de control, agenţii AI pot acumula drepturi de acces excesive, pot fi manipulaţi prin vulnerabilităţi precum prompt injection (instrucţiuni ascunse care îi pot determina să ignore regulile iniţiale) sau pot propaga erori şi vulnerabilităţi către alte sisteme.”Unul dintre riscurile specifice este atacul de tip prompt injection, prin care un sistem AI poate fi determinat să ignore instrucţiunile iniţiale şi să execute comenzi neprevăzute. Dacă sistemul are acces la alte aplicaţii, un astfel de atac poate conduce inclusiv la accesarea unor informaţii sau executarea unor acţiuni pentru care utilizatorul nu şi-a dat intenţionat acordul. Un al doilea risc ţine de extinderea excesivă a permisiunilor. Un agent configurat pentru o sarcină relativ simplă poate ajunge, în timp, să aibă acces la mai multe aplicaţii sau funcţii decât îi sunt necesare. World Economic Forum atrage atenţia că multiplicarea agenţilor AI în organizaţii face administrarea identităţilor, acreditărilor şi permisiunilor comparabilă cu administrarea accesului utilizatorilor umani şi, în anumite situaţii, chiar mai complexă”, se menţionează în cercetarea de specialitate.Atacurile cibernetice rămân o ameninţare majoră pentru companiiPotrivit sursei citate, un raport ENISA Threat Landscape 2025 a analizat 4.875 de incidente produse în perioada iulie 2024 – iunie 2025, din care a reieşit faptul că atacurile DDoS, prin care un site sau un serviciu online este inundat cu trafic până devine indisponibil, au reprezentat 77% dintre incidentele semnalate.Extinderea utilizării agenţilor AI nu înlocuieşte aceste riscuri, ci adaugă un nou element în strategia de securitate: companiile trebuie să ia în calcul şi situaţiile în care un sistem autorizat să opereze în interiorul infrastructurii execută o acţiune greşită sau este compromis.Cum pot fi protejate datele companiilor în cazul compromiterii unui agent AI”Acest lucru influenţează inclusiv strategia de recuperare a datelor. Dacă un cont sau un sistem cu drepturi extinse poate ajunge atât la datele operaţionale, cât şi la copiile de backup, compromiterea sa poate afecta capacitatea companiei de a reveni la o versiune nealterată a informaţiilor. O metodă utilizată pentru o astfel de protecţie este Cyber Vault, un spaţiu izolat de infrastructura operaţională în care sunt păstrate copii ale datelor critice. Datele pot fi stocate într-un format care împiedică modificarea sau ştergerea lor pe durata perioadei de retenţie, iar accesul este strict limitat. Recuperarea se face separat, după verificarea integrităţii datelor, pentru a evita reintroducerea în infrastructură a unor fişiere compromise”, notează experţii.Medialine Eurotrade este o companie internaţională specializată în furnizarea de soluţii IT complete şi personalizate pentru companii medii şi mari, operând în peste 20 de locaţii din Germania, Austria şi România.

Ar putea să vă placă și

Lasă un comentariu