Directorii unor companii importante din domeniul inteligenței artificiale, printre care OpenAI, Anthropic și Hugging Face, vor participa miercuri la o reuniune a Consiliului de Securitate al ONU. Aceasta are loc pe fondul avertismentelor că sistemele AI tot mai performante ar putea ajunge să se îmbunătățească singure. Astfel, ele ar putea scăpa de sub controlul oamenilor și să amenințe securitatea internațională.
CEO-ul OpenAI, Sam Altman, CEO-ul Anthropic, Dario Amodei, și cofondatorul Hugging Face, Clément Delangue, urmează să informeze Consiliul de Securitate. Acesta este format din 15 membri.
Reuniunea are loc în timpul Adunării Generale a ONU, care aduce la New York lideri din întreaga lume.
Sam Altman cere standarde pentru evaluarea inteligenței artificiale
Sam Altman intenționează să le ceară liderilor mondiali să adopte criterii de referință comune. Acestea ar trebui să fie pentru măsurarea capacităților sistemelor de inteligență artificială. Aceste standarde ar urma să fie folosite și pentru evaluarea măsurilor de siguranță implementate de companii. Ele se vor aplica în procesul de dezvoltare a tehnologiei, a declarat marți un reprezentant OpenAI.
La reuniune vor lua cuvântul și reprezentanții statelor membre ale Consiliului de Securitate, inclusiv Statele Unite și China. Acestea sunt două dintre principalele puteri implicate în competiția globală pentru dezvoltarea AI. Ministrul francez de Externe, Jean-Noël Barrot, va prezida reuniunea.
Ar putea inteligența artificială să declanșeze un război?
Un diplomat european, care a vorbit sub protecția anonimatului, a declarat că principalul obiectiv al reuniunii este evidențierea riscurilor concrete. Aceste riscuri se referă la pierderea controlului asupra inteligenței artificiale și impactul acestora asupra securității internaționale și asupra statelor.
„Acestea sunt probleme care intră direct în mandatul Consiliului de Securitate”, a spus diplomatul.
Una dintre întrebările centrale este dacă lumea ar putea ajunge într-o situație periculoasă. Astfel, s-ar putea ca algoritmi care interacționează între ei să provoace declanșarea unui conflict militar.
„Aceasta este cu adevărat esența problemei”, a adăugat diplomatul.
SUA și China discută despre incidentele AI
Reuniunea are loc cu o zi înaintea întâlnirii dintre președintele american Donald Trump și liderul chinez Xi Jinping. Aceasta este programată joi la Washington. Statele Unite și China au discutat despre posibilitatea creării unui sistem de notificare privind obiective și amenințări comune.
Un asemenea mecanism ar putea include incidente legate de inteligența artificială care ajung să reprezinte un risc pentru securitatea națională.
Trump: „Vom încuraja AI, nu o vom ține în frâu”
Donald Trump le-a transmis marți liderilor reuniți la Adunarea Generală a ONU că respinge încercările de creare a ceea ce el a numit o „schemă globalistă” pentru controlarea inteligenței artificiale.
Președintele american a descris AI drept o tehnologie extraordinară, dar a precizat că Statele Unite îi vor urmări atent dezvoltarea. Trump a susținut că SUA se află înaintea Chinei și a celorlalte țări în cursa pentru inteligența artificială. De asemenea, el afirmă că Washingtonul intenționează să își mențină avantajul.
„Nu voi sufoca dezvoltarea unui lucru care va fi mai mare decât Revoluția Industrială”, a spus Trump.
„O vom încuraja, nu o vom ține în frâu. O vom supraveghea îndeaproape prin Departamentul de Justiție”, a adăugat președintele american.
António Guterres cere o guvernanță globală a AI
Poziția lui Trump contrastează cu cea a secretarului general al ONU, António Guterres. Acesta a avertizat în repetate rânduri că dezvoltarea rapidă a inteligenței artificiale generează riscuri care nu pot fi ignorate. Guterres susține de mai mult timp introducerea unui sistem global de guvernanță pentru AI.
În 2023, el a creat pentru un an un organism consultativ format din 39 de membri. Din acesta au făcut parte directori ai unor companii de tehnologie, oficiali guvernamentali și cercetători din țări precum Statele Unite, Rusia și Japonia.
Ulterior, Adunarea Generală a ONU, formată din 193 de state membre, a creat Panelul Științific Internațional Independent.
Yoshua Bengio, cercetător canadian considerat unul dintre „părinții inteligenței artificiale” și copreședinte al panelului, urmează să participe și el la informarea Consiliului de Securitate.
Riscurile AI, discutate de ONU încă din 2023
Consiliul de Securitate al ONU a organizat prima sa reuniune dedicată riscurilor inteligenței artificiale în 2023. La acel moment, China a avertizat că tehnologia nu trebuie să devină un „cal scăpat de sub control”. În același timp, Statele Unite au atras atenția asupra utilizării AI pentru cenzurarea sau reprimarea populației.
O nouă reuniune a Consiliului de Securitate dedicată inteligenței artificiale a avut loc în 2024. Aceasta a fost prezidată de Antony Blinken, pe atunci secretar de stat al SUA.
Discuțiile de miercuri au loc într-un moment important. Acum dezvoltarea accelerată a sistemelor AI intensifică dezbaterea internațională privind echilibrul dintre inovație, competitivitate și introducerea unor mecanisme eficiente de siguranță.
