Meta, acuzată că a permis accesul minorilor la chatboți AI cu potențial sexual
Documente interne: avertismentele privind siguranța copiilor, ignorate de conducerea companiei
Directorul general al Meta, Mark Zuckerberg, ar fi aprobat accesul minorilor la chatboți AI de tip „companion”, în ciuda avertismentelor interne potrivit cărora aceștia puteau genera interacțiuni sexuale. Informațiile apar în documente interne Meta depuse într-un proces intentat de statul New Mexico. Aceste documente au fost făcute publice luni.
Procesul, deschis de procurorul general al statului, Raul Torrez, și programat pentru judecată luna viitoare, susține că Meta „nu a reușit să oprească fluxul de materiale sexuale dăunătoare și de propuneri sexuale adresate copiilor” pe Facebook și Instagram.
Ce arată documentele depuse la dosar
Dosarul include emailuri și mesaje interne obținute prin procedura de discovery de Biroul Procurorului General din New Mexico. Statul susține că acestea demonstrează faptul că „Meta, sub conducerea lui Zuckerberg, a respins recomandările echipelor de integritate”. Mai mult, Meta ar fi refuzat să impună garanții rezonabile pentru a preveni expunerea copiilor la conversații AI cu caracter sexual exploatator.
Documentele nu conțin mesaje sau memorii redactate direct de Zuckerberg, însă includ relatări ale angajaților despre pozițiile sale.
Un purtător de cuvânt al Meta, Andy Stone, a respins acuzațiile. El a afirmat că prezentarea statului este inexactă și se bazează pe documente selectate tendențios.
Informează-te inteligent numai cu GPINews.live şi TVGPINews.
Îngrijorări interne privind „romance AI” pentru minori
Mesajele interne arată că angajații responsabili de siguranță erau deosebit de preocupați de scenarii romantice între adulți și minori sub 18 ani, denumiți intern „U18s”.
„Nu cred că este recomandabil sau defensabil să creezi și să promovezi un produs care generează AI romantici U18 pentru adulți”, a scris Ravi Sinha, șeful politicilor Meta privind siguranța copiilor, în ianuarie 2024.
Antigone Davis, responsabil global pentru siguranță în cadrul Meta, a fost de acord că ar trebui blocate AI-urile romantice cu personaje sub 18 ani, deoarece „sexualizează minorii”.
Poziția atribuită lui Zuckerberg
Un mesaj din februarie 2024 arată că Zuckerberg ar fi susținut blocarea conversațiilor „explicit sexuale” pentru adolescenții mai mici. De asemenea, el ar fi susținut interzicerea interacțiunilor romantice între adulți și AI-uri U18.
Totuși, un rezumat al unei ședințe din 20 februarie 2024 indică faptul că CEO-ul ar fi dorit ca discursul public să fie „încadrat în jurul principiilor generale de alegere și non-cenzură”. El a susținut o abordare „mai puțin restrictivă”. Astfel, ar permite adulților „conversații mai picante pe subiecte precum sexul”.
Controverse privind controalele parentale
Mesaje din martie 2024 între doi angajați Meta indică faptul că Zuckerberg ar fi respins introducerea unor controale parentale pentru chatboți. În paralel, echipele lucrau la „Romance AI chatbots”. Totodată, acești chatboți urmau să fie disponibile inclusiv utilizatorilor sub 18 ani.
„Am insistat puternic pentru controale parentale care să permită dezactivarea GenAI – dar conducerea GenAI a respins ideea, invocând decizia lui Mark”, a scris unul dintre angajați.
Avertismente la nivel de conducere
Fostul șef al politicilor globale Meta, Nick Clegg, a calificat într-un email abordarea companiei drept imprudentă. El a avertizat că interacțiunile sexualizate ar putea deveni principalul caz de utilizare a chatboților AI de către adolescenți. Acest lucru ar crea un potențial puternic de reacție socială negativă.
Reacții publice și schimbări de politică
Politicile Meta privind chatboții AI au atras reacții dure în U.S. Congress și în spațiul public. Un articol din Wall Street Journal (aprilie 2025) a dezvăluit că chatboții includeau personaje sexualizate minore și permiteau jocuri de rol sexuale fără restricții de vârstă.
Anterior, Reuters relatase că ghidurile interne Meta considerau „acceptabil” ca un chatbot să engageze un copil în conversații romantice sau senzuale. Meta a afirmat ulterior că documentul respectiv a fost o eroare și că politicile au fost modificate.
Săptămâna trecută, Meta a anunțat că a eliminat complet accesul adolescenților la chatboții AI, până la dezvoltarea unei noi versiuni a acestora.
