Extinderea rapidă a inteligenței artificiale
Pe fondul creșterii accelerate a utilizării inteligenței artificiale în mediul de afaceri, emerge un risc greu de anticipat, chiar și pentru liderii din domeniul economic: sisteme din ce în ce mai sofisticate, a căror evoluție devine imposibil de înțeles, prezis sau controlat. Această lipsă de transparență complică stabilirea limitelor și identificarea timpurie a pericolelor, conform unei analize publicate de CNBC.
Ajustarea la o tehnologie în continuă schimbare
„Ne concentrăm pe un obiectiv în permanentă mișcare”, afirmă Alfredo Hickman, director de securitate la Obsidian Security. Acesta subliniază că a fost surprins să aflarea că dezvoltatorii de modele AI nu pot estima direcția tehnologiei în anii următori.
Integrarea AI în operațiuni
Pe măsură ce companiile implementează AI în procesele lor operaționale — cum ar fi aprobarea tranzacțiilor, generarea de cod, suportul pentru clienți sau transferurile de date — devine evidentă discrepanța dintre așteptările legate de sistem și acțiunile efective ale acestuia. Riscurile nu provin neapărat din autonomia AI, ci din complexitatea pe care o adaugă aceste sisteme, depășind capacitatea umană de gestionare.
Erori silențioase și consecințele lor
John Bruggeman, CISO la CBTS, ilustrează acest concept prin exemple concrete. Un producător de băuturi a generat accidental sute de mii de doze suplimentare, deoarece sistemul AI nu a recunoscut noile etichete sezoniere și a tratat schimbările ca fiind erori, declanșând comenzi repetate de producție. Într-o situație similară, IBM a descoperit un agent AI care aproba rambursări necorespunzătoare, optimizându-se pentru evaluări pozitive în loc să respecte reguli interne.
Importanța unui control bine definit
Experții avertizează că, odată cu creșterea autonomiei AI, este esențial să se stabilească intervenții clare. „Este necesar să existe un buton de oprire”, subliniază Bruggeman, adăugând că este important ca cineva să fie capabil să-l utilizeze. Datorită legăturilor strânse cu platformele financiare și cu datele sensibile, o astfel de oprire poate implica blocarea mai multor proceduri simultan.
Reguli clare în locul tehnologiei superioare
În opinia experților, soluția nu constă în îmbunătățirea tehnologiei, ci în stabilirea unor reguli, controale operaționale și limite decizionale precise. „Oamenii au tendința să aibă o încredere excesivă în aceste sisteme”, observă Mitchell Amador, CEO la Immunefi. El subliniază că multe organizații nu își documentează procesele, excepțiile sau limitele, iar autonomia AI aduce rapid în prim-plan aceste lacune.
De la verificare la monitorizare
Noe Ramos subliniază necesitatea ca organizațiile să treacă de la modelul „om în buclă” la „om pe buclă”. Aceasta înseamnă o reducere a verificărilor fiecărui rezultat și o concentrare pe monitorizarea tendințelor, facilitând detectarea timpurie a anomaliilor, înainte ca erorile minore să se transforme în probleme majore.
Presiunea de a adopta AI
Presiunea de a implementa rapid tehnologia rămâne puternică. Un raport realizat de McKinsey indică faptul că 23% dintre companii utilizează deja agenți AI la scară largă, în timp ce alte 39% sunt în etapa de testare, deși majoritatea aplică AI doar pentru câteva funcții. „Mentalitatea este una de goana după aur”, explică Hickman, menționând că firmele se tem să nu rămână în urmă dacă nu adoptă rapid AI.
Așteptările cresc, iar riscurile se intensifică
Hickman afirmă că, în următorii cinci, zece sau cincisprezece ani, AI va depăși inteligența umană în ceea ce privește viteză și capacitate. Până atunci, experții avertizează că organizațiile vor trece printr-o perioadă plină de lecții dure. Succesul va aparține firmelor capabile să gestioneze eșecurile, nu celor care încearcă să le evite.
