Organizația Națiunilor Unite și Comitetul Internațional al Crucii Roșii avertizează că lumea se apropie de o „linie roșie morală”. Aceasta este utilizarea armelor capabile să identifice și să atace oameni fără intervenție umană. Cele două organizații cer începerea urgentă a negocierilor pentru adoptarea unor norme internaționale obligatorii privind sistemele de arme autonome.
Secretarul general al Organizației Națiunilor Unite, António Guterres, și președinta Comitetului Internațional al Crucii Roșii, Mirjana Spoljaric, au lansat marți un apel comun pentru accelerarea negocierilor internaționale.
Cei doi avertizează că tehnologia militară evoluează atât de rapid încât armele capabile să selecteze și să lovească ținte fără o decizie umană directă ar putea ajunge în curând să fie utilizate împotriva oamenilor.
„Periculos de aproape” de o linie roșie
Guterres și Spoljaric consideră că statele trebuie să negocieze un instrument juridic internațional obligatoriu. Acesta ar trebui să stabilească interdicții și restricții clare pentru armele autonome.
Problema centrală este nivelul de control pe care oamenii trebuie să îl păstreze asupra deciziei de a folosi forță letală.
Inteligența artificială este deja utilizată pentru analizarea unor volume uriașe de informații, identificarea potențialelor ținte și operarea diferitelor sisteme militare. O armă complet autonomă ar merge însă mai departe. Astfel, ar putea selecta și ataca o țintă fără aprobarea directă a unui operator uman.
Războaiele actuale accelerează utilizarea AI
Apelul apare înaintea unei noi reuniuni a statelor la Geneva privind posibile reguli internaționale. Îngrijorările au crescut pe fondul utilizării sistemelor semi-autonome și asistate de inteligență artificială în conflicte precum cele din Ucraina, Sudan, Gaza, Iran și regiunea Golfului.
Discuțiile internaționale privind armele autonome au început încă din 2014. Însă evoluția tehnologiei a fost mult mai rapidă decât negocierile diplomatice. Dronele, sistemele computerizate de identificare a țintelor, senzorii avansați și algoritmii AI sunt acum mult mai performanți decât în urmă cu un deceniu.
Arme autonome există deja
Unele forțe armate utilizează deja sisteme cu un grad foarte ridicat de autonomie. Un exemplu îl reprezintă sistemele defensive instalate pe nave militare. Acestea pot detecta și intercepta automat rachete sau alte amenințări atunci când timpul disponibil pentru reacție este extrem de scurt.
Totuși, potrivit informațiilor disponibile, armele complet autonome nu sunt cunoscute ca fiind utilizate în prezent pentru selectarea și uciderea directă a oamenilor fără intervenție umană.
Aceasta este limita pe care ONU și Crucea Roșie încearcă să o protejeze înainte ca tehnologia să o depășească.
Ce se întâmplă dacă AI identifică greșit o persoană?
Una dintre cele mai dificile probleme este capacitatea algoritmilor de a interpreta corect situații complexe de pe câmpul de luptă. Un sistem autonom ar trebui, de exemplu, să poată diferenția între un combatant activ și:
- un civil;
- un militar rănit care nu mai participă la luptă;
- un soldat care încearcă să se predea;
- o persoană care doar seamănă cu ținta identificată de sistem.
Organizațiile pentru drepturile omului avertizează că sistemele bazate pe AI nu sunt întotdeauna suficient de previzibile și că erorile pot avea consecințe fatale.
Cine răspunde pentru o crimă comisă de o armă autonomă?
Apare și o problemă juridică fundamentală. Dacă un soldat sau comandant ordonă un atac ilegal, există un lanț de responsabilitate care poate fi investigat.
Situația devine mult mai complicată dacă algoritmul decide singur asupra țintei. Responsabilitatea ar putea fi atribuită operatorului, comandantului militar, producătorului sistemului, programatorilor sau statului care utilizează arma. Lipsa unui răspuns clar poate îngreuna inclusiv investigarea viitoarelor crime de război.
Negocieri decisive cerute pentru Geneva
ONU și Crucea Roșie solicită statelor să treacă de la discuțiile graduale purtate în ultimul deceniu la negocieri concrete pentru un acord obligatoriu. Un moment important este așteptat în noiembrie, când este programată la Geneva o conferință majoră pe această temă.
Miza depășește actualele conflicte. Odată dezvoltate și produse la scară largă, armele autonome ar putea deveni mai ieftine și mai accesibile. Această situație ar putea transforma modul în care sunt purtate războaiele.
Mesajul ONU și al Crucii Roșii este că regulile trebuie stabilite înainte ca mașinile să primească pe scară largă puterea de a decide singure cine devine o țintă letală.
