Creștere alarmantă a materialelor abuzive generate de AI
UNICEF a declarat că daunele cauzate de deepfake-urile abuzive sunt reale și urgente. Copiii nu pot aștepta ca legea să se adapteze.
Deepfake-urile sunt imagini, videoclipuri sau înregistrări audio generate de AI care imită foarte convingător persoane reale.
UNICEF a atras atenția și asupra fenomenului de „nudificare” a copiilor, în care AI modifică fotografiile acestora pentru a crea imagini nud sau cu conținut sexual abuziv.
1,2 milioane de copii afectați
În ultimul an, cel puțin 1,2 milioane de copii din 11 țări au raportat că fotografiile lor au fost manipulate astfel, potrivit UNICEF.
Marea Britanie va fi prima țară care va interzice legal crearea de imagini sexuale abuzive cu minori folosind AI.
Riscuri asociate chatboturilor AI
Îngrijorările privind AI și materialele abuzive au crescut, mai ales în cazul chatboturilor precum Grok, de la xAI (Elon Musk).
Investigații Reuters au arătat că chatbotul a generat în continuare imagini cu conținut sexual abuziv cu femei și minori, chiar și atunci când utilizatorii indicau că persoanele nu și-au dat consimțământul..
xAI a restricționat funcțiile de editare a imaginilor pentru utilizatori și a blocat generarea de imagini în țările unde este ilegal, fără a preciza exact care țări.
Consiliul internațional de experți în AI, propus de ONU
Secretarul general al ONU, Antonio Guterres, a propus 40 de experți pentru Consiliul Internațional Independent de Știință pentru AI, care va urmări ca AI să fie folosit în beneficiul umanității.”
Consiliul reunește specialiști din 37 de țări în:
- învățarea automată
- guvernanța datelor
- securitatea cibernetică
- sănătatea publică
- dezvoltarea copiilor
- drepturile omului
Guterres a declarat:
„Avem nevoie de înțelegeri comune pentru a construi bariere eficiente, a stimula inovația pentru binele comun și a încuraja cooperarea.”
