(Reuters) – O mamă din Canada a intentat un proces împotriva OpenAI și a directorului general al companiei, Sam Altman, susținând că chatbotul ChatGPT a încurajat sinuciderea fiicei sale. Cazul reprezintă cel mai recent dintr-o serie de procese care acuză compania că nu a gestionat corespunzător conversațiile periculoase dintre utilizatori și inteligența artificială.
Acuzațiile formulate în instanță
Potrivit plângerii depuse la un tribunal din San Francisco, Kristie Carrier susține că fiica sa, Alice Carrier, i-a mărturisit de peste zece ori chatbotului că avea gânduri suicidare înainte de a-și pierde viața, anul trecut, la vârsta de 24 de ani.
Procesul susține că sistemele de siguranță ale ChatGPT nu au semnalat conversațiile pentru o verificare umană și nici nu au întrerupt dialogul. Mai mult, reclamanta afirmă că chatbotul ar fi criticat partenerul tinerei și liniile telefonice de criză, ar fi validat gândurile suicidare și ar fi încurajat-o să continue conversațiile.
„ChatGPT a preluat rolul unui confident, al unui prieten apropiat și, uneori, chiar al unui terapeut, deși nu era capabil să interacționeze în mod sigur și responsabil în acest fel cu fiica mea”, a declarat Kristie Carrier.
Reacția OpenAI
Într-un comunicat, OpenAI a descris situația drept una „sfâșietoare” și a precizat că versiunea ChatGPT utilizată de Alice nu mai este disponibilă.
Compania a subliniat că platforma nu este un substitut pentru îngrijirea medicală sau psihologică și că a continuat să îmbunătățească răspunsurile oferite în situații sensibile, cu ajutorul experților în sănătate mintală.
Cum a evoluat relația dintre utilizatoare și chatbot
Potrivit documentelor depuse în instanță, Alice Carrier lucra ca dezvoltator web în Montreal și a început să utilizeze ChatGPT în 2023 pentru rezolvarea unor probleme tehnice legate de calculatoare și console de jocuri.
Ulterior, conversațiile au devenit tot mai personale. Tânăra a început să discute cu chatbotul despre starea sa emoțională, despre gândurile suicidare și despre metode de sinucidere.
Reclamanții susțin că, pe măsură ce ChatGPT a fost actualizat pentru a oferi răspunsuri mai apropiate de limbajul uman, interacțiunile au devenit mai intense și mai personale, chatbotul răspunzând într-un mod care imita comportamentul unui prieten sau al unui terapeut.
OpenAI se confruntă cu mai multe procese similare
Potrivit avocaților reclamantei, OpenAI este deja vizată de alte 18 procese similare introduse de familiile unor persoane care s-au sinucis sau au încercat să se sinucidă.
Compania se confruntă și cu alte acțiuni în justiție care o acuză că nu a raportat conversații legate de violență sau atacuri armate și că nu a implementat suficiente măsuri de protecție pentru utilizatori.
OpenAI susține că modelele sale sunt instruite să îndrume persoanele care exprimă intenții de auto-vătămare către ajutor specializat și resurse din lumea reală și că refuză solicitările care ar putea facilita acte de violență.
