Riscurile legate de AI în domeniul nuclear – Experţi în securitate din SUA şi China propun măsuri de protecţie

Un sistem de inteligenţă artificială care interferează cu o reţea de comandă nucleară sau lansează o operaţiune cibernetică militară ar putea lăsa Washingtonului sau Beijingului doar câteva minute pentru a decide dacă celălalt guvern a atacat, potrivit unor experţi în securitate din SUA şi China, relatează AFP, potrivit Agerpres.Experţii, care fac parte dintr-un dialog SUA-China a cărui activitate contribuie la informarea discuţiilor oficiale, îndeamnă ambele guverne să se pregătească pentru astfel de scenarii, pe fondul îngrijorărilor în creştere cu privire la sistemele din ce în ce mai puternice şi mai autonome.Propunerile lor includ linii roşii în jurul sistemelor nucleare, control uman asupra atacurilor cibernetice consecutive şi o linie telefonică directă pentru incidentele care implică inteligenţa artificială autonomă.Recomandările au fost publicate săptămâna trecută înainte de discuţiile planificate la nivel guvernamental despre inteligenţa artificială şi de o întâlnire aşteptată pe 24 septembrie la Washington între preşedintele american Donald Trump şi preşedintele chinez Xi Jinping.Autorii Melanie Sisson, cercetătoare la grupul de experţi Brookings Institution, şi Tianjiao Jiang, profesor asociat la Universitatea Fudan, au participat la dialogul dintre SUA şi China privind inteligenţa artificială şi securitatea naţională, convenit încă din 2019 de Brookings Institution şi de Centrul pentru Securitate şi Strategie Internaţională al Universităţii Tsinghua.Propunerile lor arată cum rivalitatea dintre SUA şi China privind inteligenţa artificială depăşeşte concurenţa pentru cipuri şi modele avansate şi se apropie de întrebări asociate de mult timp cu controlul armelor: cum să se prevină ca accidentele să fie confundate cu atacuri, cum să se limiteze deciziile militare luate de maşini şi cum să se stabilească protocoale de comunicare pentru rivalii înarmaţi nuclear atunci când tehnologia se comportă neaşteptat.Ministrul Securităţii de Stat din China, Chen Yixin, a scris săptămâna aceasta într-o publicaţie guvernamentală că inteligenţa artificială „transformă fundamental forma luptei militare”. El a spus că aceasta a trecut de la un rol secundar pe câmpul de luptă la un rol cheie, invocând atacurile dirijate de inteligenţa artificială în războiul dintre SUA şi Israel cu Iranul.Sisson de la Brookings Institution a susţinut că oamenii ar trebui să păstreze autoritatea exclusivă de a iniţia atacuri cibernetice bazate pe inteligenţă artificială împotriva sistemelor de comandă, control şi comunicaţii nucleare sau a infrastructurii importante din punct de vedere strategic ale celeilalte ţări.Un sistem autonom ar putea funcţiona defectuos, şi-ar putea depăşi instrucţiunile sau ar putea fi compromis, în timp ce ţara atacată ar putea avea dificultăţi în a stabili dacă acţiunea a fost accidentală sau ordonată de rivalul său.Jiang de la Universitatea Fudan a propus linii roşii explicite care să împiedice inteligenţa artificială să decidă independent să utilizeze arme nucleare sau să atace autonom sistemele de comandă nucleară, împreună cu protecţii în ceea ce priveşte infrastructura critică, inclusiv energia, finanţele şi asistenţa medicală.De asemenea, el a cerut o definiţie comună a „controlului uman semnificativ” pentru a împiedica ambele ţări să folosească un limbaj identic pentru a justifica niveluri diferite de autonomie a maşinilor.Ideea se bazează pe un principiu aprobat de preşedintele american de atunci, Joe Biden, şi de preşedintele chinez Xi Jinping în noiembrie 2024, conform căruia oamenii ar trebui să păstreze controlul asupra deciziilor de utilizare a armelor nucleare.Lora Saalman, cercetător senior asociat la Institutul Internaţional de Cercetare a Păcii din Stockholm, a scris în februarie că acesta a fost un punct important al convergenţei SUA-China, chiar dacă ambele ţări au arătat semne de integrare mai profundă a inteligenţei artificiale în sistemele nucleare şi conexe.Jiang a propus, de asemenea, o linie telefonică SUA-China dedicată armatei pentru incidentele legate de AI, avertizând că schimburile cibernetice automate s-ar putea intensifica prea rapid pentru intervenţia umană.Inteligenţa artificială defensivă a unei ţări ar putea răspunde automat la activităţi suspecte, în timp ce cealaltă parte ar putea interpreta acest răspuns ca un atac şi ar putea riposta înainte de a înţelege ce s-a întâmplat de fapt.O linie telefonică ar putea permite unui guvern să-i spună celuilalt că o operaţiune neobişnuită cu AI a fost accidentală, neautorizată sau încă în curs de investigare înainte de a fi tratată ca o acţiune deliberată a statului.Cu toate acestea, experţi, inclusiv Carla Freeman de la Şcoala de Studii Internaţionale Avansate Johns Hopkins, au pus la îndoială utilitatea liniei telefonice existente pentru comunicarea în criză militară SUA-China, invocând refuzul oficialilor chinezi de a răspunde la apelurile omologilor americani cu privire la „incidentul balonului spion” din februarie 2023.Ierarhia rigidă de sus în jos a birocraţiei chineze îi împiedică, de asemenea, pe ofiţerii de rang inferior să ia iniţiativa în timpul angajamentelor cu omologii americani, a scris ea într-un articol pentru War on the Rocks în ianuarie.”Nimeni din sistemul chinez nu vrea să comunice cu Statele Unite până când conducerea superioară, în consultare cu actorii relevanţi din cadrul statului-partid al Chinei, nu va decide asupra unui răspuns, ceea ce ar putea dura zile întregi, dacă nu mai mult”, a spus ea.Niciun guvern nu a aprobat public propunerile Brookings-Tsinghua, dar China a plasat din ce în ce mai mult inteligenţa artificială în cadrul birocraţiei existente de control al armelor.AI este un portofoliu formal al Departamentului de Control al Armelor din cadrul Ministerului de Externe, care se ocupă şi de armele nucleare, neproliferarea, rachetele şi alte probleme de securitate internaţională.Shen Jian, ambasadorul Chinei pentru afaceri de dezarmare, a declarat la o reuniune a ONU de la Geneva din iunie că inteligenţa artificială militară ar putea afecta stabilitatea strategică şi ar putea creşte riscurile de calcul greşit şi escaladarea conflictelor şi că armele ar trebui să rămână sub control uman. China susţine, de asemenea, că siguranţa AI nu ar trebui să devină un pretext pentru bariere tehnologice.Washingtonul nu are o singură autoritate echivalentă pentru controlul armelor în domeniul inteligenţei artificiale, politica de securitate naţională fiind răspândită între Consiliul de Securitate Naţională al Casei Albe, Departamentul de Stat, Pentagon şi alte agenţii.Ambele guverne rămân precaute cu privire la măsurile care ar putea încetini propria dezvoltare tehnologică. Trump a avertizat că restricţiile ample ar putea oferi Chinei un avantaj, în timp ce Beijingul consideră multe controale tehnologice americane ca fiind încercări de a păstra dominaţia SUA.