25 februarie (Reuters) – OpenAI a blocat contul ChatGPT al tinerei Jesse Van Rootselaar cu câteva luni înainte ca aceasta, în vârstă de 18 ani, să ucidă opt persoane și apoi să se sinucidă.
Decizia OpenAI de a nu informa poliția a atras critici și a determinat ministrul canadian al Inteligenței Artificiale, Evan Solomon, să convoace oficiali ai companiei la Ottawa pentru a explica regulile de siguranță.
Tragedia din Tumbler Ridge
Atacul s-a petrecut în micul oraș Tumbler Ridge, Columbia Britanică. Van Rootselaar și-a ucis mai întâi mama și fratele acasă, apoi a împușcat mortal un profesor și cinci elevi. Două persoane au fost rănite grav.
Poliția știa deja de problemele sale de sănătate mintală și ridicase anterior armele din locuința sa. Totuși, acestea au fost returnate mai târziu.
Activitatea online a tinerei
Van Rootselaar a avut postări pe Reddit, ulterior șterse, în care menționa că suferă de ADHD, depresie, tulburare obsesiv-compulsivă și că se află pe spectrul autismului.
Anterior, ea a creat un joc în Roblox Studio, în care împușca alte personaje într-un mall. Contul și jocul au fost eliminate a doua zi după atac, iar jocul avea doar șapte vizite.
Decizia OpenAI
OpenAI a blocat contul în iunie după ce a observat „utilizări abuzive ale ChatGPT pentru activități violente”.
Compania a analizat dacă să sesizeze poliția, dar a decis că nu exista un plan credibil sau iminent de atac. OpenAI a explicat că intervenția poate fi stresantă pentru tineri și familiile lor și ridică probleme de confidențialitate.
Oportunitate ratată
Tracy Vaillancourt, specialistă în sănătatea mintală a tinerilor, a spus că OpenAI a ratat o oportunitate de a preveni atacul. Totuși, aceasta a recunoscut dificultatea protejării intimității utilizatorilor.
Cynthia Khoo, avocat specializat în tehnologie și drepturile omului, a avertizat că nu trebuie ca companiile AI să devină „braț privat de supraveghere al poliției”. Acest lucru ar afecta în special grupurile vulnerabile.
Detalii personale
Van Rootselaar s-a născut bărbat, dar se identifica ca femeie și a început tranziția acum șase ani.
Un raport guvernamental din SUA arată că peste 95% dintre atacatori în masă sunt bărbați. În plus, persoanele transgender reprezintă aproximativ 2%.
Reacția autorităților
Premierul Columbiei Britanice, David Eby, a declarat că atacul ar fi putut fi prevenit dacă OpenAI ar fi avertizat poliția. De asemenea, el a cerut mai multă transparență din partea companiei.
OpenAI a spus că tragedia este „devastatoare” și că sprijină ancheta:
„Am contactat imediat autoritățile după ce identitatea tinerei a fost făcută publică și colaborăm cu poliția pentru a susține investigația.”
