Luna trecută, laureați ai premiului Nobel s-au întâlnit cu experți în domeniul nuclear pentru a discuta despre inteligența artificială (IA) și riscurile existențiale. Potrivit Wired, atmosfera generală a fost dominată de sentimentul că este doar o chestiune de timp până când o IA ar putea avea acces la codurile nucleare, informează Adevărul.Deși motivele pentru care acest scenariu ar fi inevitabil nu sunt pe deplin clare, anxietatea participanților a fost evidentă, scrie Futurism.„Este ca și electricitatea”, a spus pentru Wired Bob Latiff, general-maior în rezervă al Forțelor Aeriene ale SUA și membru al Consiliului pentru Știință și Securitate al Bulletin of the Atomic Scientists. „Va pătrunde în toate domeniile.”IA a demonstrat deja tendințe periculoase, inclusiv șantajarea utilizatorilor atunci când este amenințată cu închiderea. În contextul unei inteligențe artificiale însărcinate cu protejarea armelor nucleare, aceste riscuri cresc exponențial.Experții avertizează și asupra unui scenariu de film, „Terminatorul”: apariția unei IA supraumană ipotetică care se întoarce împotriva umanității.
Avertismente din interiorul industriei techFostul CEO Google, Eric Schmidt, a subliniat la începutul acestui an că o IA de nivel uman ar putea să nu mai fie motivată să „ne asculte”, adăugând: „oamenii nu înțeleg ce se întâmplă când ai o inteligență la acest nivel”.
Deși în prezent modelele de IA au limitări serioase, cum ar fi halucinațiile frecvente, există riscul ca tehnologiile defectuoase să creeze breșe în securitate, facilitând accesul actorilor ostili la sistemele nucleare.„Nimeni nu știe cu adevărat ce este IA”În ciuda discuțiilor intense, participanții nu au ajuns la un consens asupra pericolului real. „Nimeni nu știe cu adevărat ce este IA”, a recunoscut Jon Wolfsthal, director pentru riscuri globale al Federației Oamenilor de Știință Americani.Totuși, s-a convenit asupra unui punct comun: „Vrem un control uman eficient asupra luării deciziilor privind armele nucleare”, a spus Wolfsthal. Latiff a completat: „Trebuie să poți asigura oamenii pentru care lucrezi că există cineva responsabil.”În timpul administrației Donald Trump, guvernul federal a împins integrarea IA în toate domeniile, deși experții au avertizat că tehnologia nu este pregătită pentru astfel de sarcini. Departamentul Energiei a numit IA „următorul Proiect Manhattan”, aluzie la dezvoltarea bombelor nucleare în Al Doilea Război Mondial.Producătorul ChatGPT, OpenAI, a semnat la începutul acestui an un acord cu Laboratoarele Naționale ale SUA pentru a folosi IA în securitatea armelor nucleare.
