Inteligența artificială avansată ar putea reprezenta un „risc existențial” pentru omenire dacă dezvoltarea sa nu este însoțită de măsuri solide de siguranță, avertizează Volker Türk, Înaltul Comisar al ONU pentru Drepturile Omului. De aceea, oficialul cere statelor și companiilor tehnologice să stabilească rapid limite clare pentru sistemele AI. Aceste măsuri trebuie luate înainte ca sistemele AI să devină prea puternice pentru mecanismele actuale de control.
Declarațiile au fost făcute luni, la Geneva, în primul discurs susținut de Türk în fața Consiliului ONU pentru Drepturile Omului. Discursul a avut loc după obținerea unui nou mandat de patru ani.
Oficialul a abordat și războiul din Ucraina, armele autonome, situația din centrele americane pentru imigranți. În plus, a prezentat detalii despre numărul ridicat de conflicte armate din întreaga lume.
„Înainte să fie prea târziu”
Volker Türk a declarat că împărtășește îngrijorările unor specialiști din industria tehnologică privind pericolele asociate sistemelor AI foarte avansate.
„Împărtășesc preocupările celor din industrie potrivit cărora inteligența artificială avansată ar putea reprezenta un risc existențial pentru omenire”, a spus oficialul ONU.
El a cerut un efort internațional pentru introducerea unor „garanții de neclintit” privind siguranța și securitatea inteligenței artificiale. Acestea ar trebui introduse înainte ca riscurile să devină imposibil de gestionat.
Türk nu a detaliat scenariile care ar putea genera un pericol existențial. Biroul său a explicat însă că defecțiunile sau comportamentele necontrolate ale unor sisteme AI puternice ar putea afecta infrastructura critică. De asemenea, se pot produce efecte asupra serviciilor, comunicațiilor și instituțiilor democratice.
ONU avertizează că tehnologia avansează mai repede decât măsurile de protecție
Un purtător de cuvânt al Biroului ONU pentru Drepturile Omului a invocat un incident din luna iulie asociat platformei open-source Hugging Face. Potrivit explicațiilor oferite de biroul ONU, un grup de agenți AI ai OpenAI ar fi compromis platforma în cadrul unui experiment. Acest comportament a fost prezentat drept un semnal privind evoluția rapidă a capabilităților sistemelor avansate.
Oficialii ONU consideră că astfel de situații sugerează că performanțele inteligenței artificiale de frontieră pot evolua mai rapid decât mecanismele create pentru controlarea lor.
„O mână de oameni” controlează o putere uriașă
Türk a avertizat și asupra concentrării puterii în industria AI. Potrivit acestuia, numai câțiva oameni dețin o influență aproape nelimitată asupra dezvoltării inteligenței artificiale. Înaltul Comisar nu a indicat persoane sau companii.
El a cerut statelor care găzduiesc companii AI, precum și țărilor implicate în lanțurile de aprovizionare ale industriei, să stabilească împreună „linii roșii” care nu trebuie depășite.
Alarmă privind armele care pot ucide fără intervenția oamenilor
O altă temă majoră a discursului a fost folosirea inteligenței artificiale în război. Türk a condamnat intensificarea atacurilor Rusiei asupra Ucrainei și s-a declarat „îngrozit” de informațiile potrivit cărora forțele ruse ar fi utilizat drone complet autonome. Potrivit relatărilor menționate de oficialul ONU, astfel de sisteme ar fi ucis trei persoane în august.
Reuters precizează că nu a putut verifica independent aceste informații. Misiunea diplomatică a Rusiei nu a oferit imediat un răspuns.
„Mă alătur apelurilor pentru interzicerea urgentă a armelor care pot lua vieți fără implicarea oamenilor”, a declarat Türk.
Peste 60 de războaie implică în prezent cel puțin un stat
Șeful ONU pentru drepturile omului a atras atenția și asupra amplorii conflictelor internaționale. În prezent, peste 60 de războaie implică cel puțin un stat. Acesta este cel mai ridicat nivel înregistrat după Al Doilea Război Mondial, potrivit datelor prezentate în discurs. Türk a promis că instituția pe care o conduce va analiza mai atent inclusiv companiile și interesele economice care contribuie la alimentarea conflictelor.
„Nu vom ezita să-i expunem pe cei care acționează din umbră și să cerem tragerea lor la răspundere”, a spus el.
Critici privind decesele din custodia autorităților americane
Discursul a vizat și Statele Unite. Türk a cerut tragerea la răspundere a celor responsabili în legătură cu aproximativ 23 de decese despre care a spus că s-au produs în custodia autorităților americane pentru imigrație de la începutul anului. El s-a declarat preocupat și de planurile privind echiparea unor agenți cu mănuși capabile să administreze șocuri electrice.
Departamentul american pentru Securitate Internă a afirmat anterior că urmărește asigurarea unui mediu „sigur, securizat și uman” în centrele de detenție.
Inspectorul general al instituției analizează decesele produse în custodie începând din octombrie 2021.
Iranul și coloniile israeliene, alte teme abordate
Volker Türk a criticat și creșterea numărului de execuții din Iran. Biroul ONU pentru Drepturile Omului urmează, de asemenea, să publice în această lună o listă cu firme care desfășoară activități în coloniile israeliene din Cisiordania. ONU consideră aceste colonii ilegale. Israelul respinge această caracterizare.
Consiliul ONU pentru Drepturile Omului se reunește până pe 7 octombrie și urmează să analizeze mai multe crize internaționale. În centrul mesajului lui Türk s-a aflat însă nevoia unor reguli mai ferme pentru tehnologiile care pot avea consecințe directe asupra vieții oamenilor. În cazul inteligenței artificiale și al armelor autonome, avertismentul său este că reglementarea trebuie să țină pasul cu dezvoltarea tehnologică.
