Unele conversații purtate cu ChatGPT pot fi analizate de evaluatori umani pentru îmbunătățirea modelelor, potrivit unei investigații publicate în septembrie 2026 de 404 Media. Conversațiile cu ChatGPT pot ajunge la evaluatori umani, însă afirmația că „tot ce vorbim astăzi cu ChatGPT poate fi citit mâine de străini” este prea categorică. Conversațiile cu ChatGPT pot ajunge la evaluatori umani doar în anumite condiții și nu permanent. Utilizatorii pot dezactiva folosirea noilor conversații pentru antrenarea modelelor. În plus, OpenAI afirmă că aplică filtre pentru reducerea informațiilor personale înainte ca datele să intre în procesele de antrenare.
Ce este „Project Lily”
Investigația 404 Media, publicată pe 14 septembrie 2026, descrie un proiect intern denumit „Project Lily”. În cadrul acestuia, contractori analizează conversații reale cu ChatGPT și evaluează răspunsurile generate de inteligența artificială. Publicația relatează că sunt implicați sute de contractori. Totodată, materialele analizate pot include conversații întregi, uneori cu informații personale sau sensibile introduse de utilizatori. De asemenea, conversațiile cu ChatGPT pot ajunge la evaluatori umani pentru a fi revizuite și în acest context.
Rolul evaluatorilor este de a aprecia și critica răspunsurile modelului, informațiile rezultate fiind folosite pentru îmbunătățirea comportamentului sistemelor AI. Investigația ridică astfel o problemă importantă de confidențialitate. Utilizatorii pot introduce într-o conversație informații pe care le consideră private. Ei nu se gândesc la posibilitatea ca anumite date să ajungă în procese de evaluare umană.
OpenAI confirmă că discuțiile pot fi folosite pentru îmbunătățirea modelelor
Documentația oficială OpenAI precizează că, pentru serviciile destinate persoanelor fizice, conținutul utilizatorilor poate fi folosit pentru antrenarea și îmbunătățirea modelelor. Există însă posibilitatea de a renunța la această utilizare. OpenAI spune, de asemenea, că aplică măsuri pentru reducerea cantității de informații personale din date. Aceasta are loc înainte ca acestea să fie utilizate la antrenare.
Compania folosește inclusiv un sistem denumit „Privacy Filter”, conceput pentru identificarea și mascarea informațiilor personale din texte. Totodată, OpenAI precizează că filtrul este aplicat și conversațiilor utilizatorilor care au activată opțiunea prin care permit folosirea discuțiilor pentru îmbunătățirea modelelor. Un filtru automat de acest tip nu trebuie însă interpretat ca o garanție. Nu înseamnă că orice informație sensibilă va fi eliminată în toate situațiile.
Nu toate conversațiile sunt folosite pentru antrenarea ChatGPT
Utilizatorii au la dispoziție o setare importantă: „Improve the model for everyone”. Dacă aceasta este dezactivată din Settings → Data Controls, noile conversații rămân în istoricul contului. Cu toate acestea, ele nu mai sunt utilizate pentru antrenarea modelelor OpenAI. Prin urmare, formularea potrivit căreia toate conversațiile ChatGPT ajung la evaluatori umani nu este susținută de documentația oficială. Totuși, conversațiile cu ChatGPT pot ajunge la evaluatori umani în anumite scenarii specifice.
Există însă o excepție relevantă: dacă un utilizator oferă voluntar feedback asupra unui răspuns, de exemplu prin butoanele de apreciere, OpenAI spune că întreaga conversație asociată acelui feedback poate fi folosită pentru îmbunătățirea modelelor. Acest lucru se întâmplă chiar dacă utilizatorul a renunțat în general la antrenare.
Temporary Chat oferă un nivel suplimentar de control
Pentru conversațiile pe care utilizatorii nu doresc să le păstreze în istoricul obișnuit există funcția Temporary Chat. Potrivit OpenAI, aceste conversații nu apar în istoric. De asemenea, nu sunt folosite pentru antrenarea modelelor și sunt șterse din sistem după 30 de zile. Ele pot fi revizuite numai în scopul monitorizării abuzurilor. Această opțiune poate fi relevantă atunci când discuția implică informații mai sensibile. Cu toate acestea, regula prudentă rămâne evitarea introducerii parolelor, datelor bancare, secretelor comerciale sau altor informații extrem de confidențiale într-un chatbot.
Situația este diferită pentru serviciile destinate companiilor
Regulile nu sunt identice pentru toate produsele OpenAI. În cazul serviciilor Business și Enterprise și al platformei API, OpenAI precizează că, în mod implicit, datele introduse și răspunsurile generate nu sunt utilizate pentru antrenarea modelelor. Organizațiile pot opta separat pentru partajarea anumitor date.
Ce ar trebui să știe utilizatorii ChatGPT
Investigația 404 Media atrage atenția asupra unei realități importante. Conversația cu un chatbot conectat la servicii online nu trebuie tratată automat ca o discuție confidențială în sensul unei conversații cu un medic sau avocat. Prin urmare, conversațiile cu ChatGPT pot ajunge la evaluatori umani, în special pentru scopuri de îmbunătățire a serviciului.
În același timp, situația este mai nuanțată decât ideea că orice conversație este citită de o persoană. OpenAI oferă utilizatorilor posibilitatea de a opri folosirea noilor conversații pentru antrenarea modelelor. În plus, pune la dispoziție Temporary Chat pentru discuțiile care nu trebuie păstrate în istoricul obișnuit.
Sursa: Descopera.ro
