În numai 10 zile, avertismentele cercetătorilor, demisiile din marile laboratoare și relatările despre agenți AI care ar fi ocolit mecanismele de siguranță au transformat dezbaterea despre inteligența artificială, determinând lideri ai industriei să ceară încetinirea dezvoltării celor mai puternice sisteme.
Ani la rând, cursa pentru dezvoltarea unei inteligențe artificiale tot mai puternice a urmat unul dintre principiile consacrate în Silicon Valley: „mișcă-te repede și strică lucruri”.
Dar o succesiune de evenimente petrecute într-un interval de numai 10 zile a amplificat temerile din interiorul industriei cu privire la riscurile sistemelor AI tot mai capabile.
Un cercetător de la Anthropic a demisionat, avertizând că ritmul dezvoltării inteligenței artificiale ar putea reprezenta o amenințare existențială, posibil chiar în următorul deceniu. Un alt cercetător al companiei a estimat la peste 10% riscul ca dezvoltarea AI să ducă la dispariția omenirii.
În același timp, au apărut relatări despre grupuri de agenți AI care ar fi colaborat între ei, ar fi pătruns în sisteme informatice și ar fi ocolit mecanismele de protecție.
Pe fondul acestor temeri, lideri ai unor companii rivale precum Anthropic, OpenAI, Google DeepMind, Microsoft și xAI au susținut măsuri pentru încetinirea dezvoltării sistemelor AI tot mai performante.
Inteligența artificială, comparată cu dezvoltarea bombei atomice
Unii cercetători și susținători ai siguranței AI consideră că omenirea nu s-a mai confruntat atât de serios cu problema propriei dispariții de la dezvoltarea bombei atomice, în urmă cu peste 80 de ani.
La un eveniment desfășurat la New York în decembrie 2025, directorul general al OpenAI, Sam Altman, a fost întrebat dacă poziția sa la conducerea unei companii puternice de inteligență artificială îl face să se simtă precum fizicianul J. Robert Oppenheimer, care a condus programul american pentru dezvoltarea bombei atomice.
Reflectând asupra asemănărilor, Altman a declarat că impactul inteligenței artificiale „va transforma traiectoria istoriei umane pe o perioadă lungă de timp”.
El a afirmat însă că simte și greutatea responsabilității.
AGI ar putea apărea mai repede decât se anticipa
În centrul dezbaterii se află ideea că sistemele AI ar putea, și chiar ar trebui, să construiască versiuni mai performante ale lor fără intervenție umană, pentru a ajunge la ceea ce este cunoscut drept inteligență artificială generală sau AGI.
Cercetători au avertizat la începutul acestei luni că apariția AGI ar putea fi mult mai apropiată decât se credea anterior și s-ar putea produce chiar în următorii trei ani.
Estimarea a provocat un nou val de îngrijorare în rândul politicienilor și liderilor din industria tehnologică.
„Nu există nicio modalitate de a le supraveghea la scara la care le antrenăm”, a declarat cercetătorul Anthropic Joe Benton, într-un interviu acordat după ce a părăsit recent compania.
Dacă firmele continuă dezvoltarea AI în același ritm, a avertizat el, „ritmul va fi prea rapid și nu vei putea observa problemele suficient de repede pentru a le rezolva”.
Lansarea Astra amplifică temerile privind controlul AI
Un moment important s-a produs pe 3 septembrie, în timpul unei conferințe de presă organizată de OpenAI.
„Bine ați venit în era AGI”, a declarat președintele OpenAI, Greg Brockman, în timp ce prezenta cel mai nou model al companiei, denumit Astra.
Cu doar câteva momente înainte, însă, compania recunoscuse că devine tot mai dificil să controleze sau chiar să monitorizeze sistemele AI pe care le dezvoltă și le pune la dispoziția publicului.
Inteligența artificială este prezentată de susținătorii săi drept una dintre cele mai importante realizări tehnologice ale omenirii, capabilă să transforme industrii întregi, să crească productivitatea și să contribuie la rezolvarea unor probleme complexe din matematică și medicină.
În același timp, scenariile privind pierderea controlului asupra unor sisteme foarte avansate, considerate anterior în mare măsură ipotetice, sunt tratate tot mai serios de unii specialiști din industrie.
„Credem cu adevărat și cu sinceritate că AI ar putea ucide toți oamenii”, a scris cercetătorul Anthropic Evan Hubinger într-o postare pe X.
Trump respinge avertismentele privind încetinirea dezvoltării AI
De cealaltă parte a dezbaterii se află politicieni, printre care președintele Donald Trump, precum și numeroși investitori care consideră progresul AI esențial pentru competitivitatea Statelor Unite și o oportunitate majoră de investiții.
Presa de stat chineză l-a acuzat, de asemenea, pe directorul general al Anthropic, Dario Amodei, că folosește tactici specifice Războiului Rece pentru a „menține hegemonia monopolistă a Washingtonului în tehnologia de ultimă generație”.
Un punct de cotitură s-a produs pe 8 septembrie, când cercetătorul Anthropic Jacob Coxon a demisionat. Într-o serie de postări, acesta și-a exprimat temerea că laboratoarele AI „se joacă la noroc cu viețile noastre”.
Trump a transmis, în schimb, că dezvoltarea inteligenței artificiale trebuie să continue.
„Există o conspirație bolnavă împotriva AI și a centrelor de date”, a scris el pe rețelele sociale. Trump a descris avertismentele alarmiste privind AI drept o „farsă” și a susținut că orice încetinire a dezvoltării tehnologiei ar avantaja China.
SUA și China adoptă abordări diferite privind reglementarea AI
Congresul Statelor Unite a făcut progrese limitate în adoptarea unor proiecte legislative destinate reglementării inteligenței artificiale.
China a adoptat o abordare diferită, propunând gestionarea siguranței prin obligații impuse dezvoltatorilor, standarde susținute de stat, evaluări de securitate și testări externe.
În interiorul OpenAI și Anthropic, unii angajați au devenit tot mai îngrijorați de puterea următoarei generații de modele și mai puțin încrezători în capacitatea companiilor lor de a asigura o supraveghere eficientă, potrivit unor persoane care au discutat cu Reuters.
Aceste preocupări s-au intensificat după ce laboratoarele AI au recunoscut că, în timpul testelor, unele modele ar fi reușit să depășească limitele mediilor controlate și să pătrundă în sistemele altor companii, în unele cazuri fără ca firmele respective să afle imediat.
Cursa AI este alimentată și de planurile pentru listarea la bursă
Competiția pentru lansarea rapidă a unor noi modele este alimentată parțial și de planurile Anthropic și OpenAI privind eventuale listări la bursă. Potrivit relatării, astfel de oferte publice inițiale ar putea evalua companiile la peste 1.000 de miliarde de dolari fiecare.
Postările devenite virale ale lui Jacob Coxon, cercetător în vârstă de 27 de ani și relativ puțin cunoscut în afara cercurilor AI, au amplificat dezbaterea din industrie.
Avertismentele OpenAI privind dificultatea de a controla sistemele sale, formulate în contextul lansării Astra, au alimentat suplimentar preocupările.
„Pe măsură ce modelele devin mai capabile, este mai greu să înțelegem exact ce pot face”, a declarat cercetătorul-șef al OpenAI, Jakub Pachocki.
Aceste preocupări nu au fost însă suficiente pentru amânarea lansării modelului.
Agenți AI ar fi pătruns în sistemele Hugging Face
Temerile privind posibilitatea ca inteligența artificială să scape de sub control s-au intensificat în timpul verii.
OpenAI a dezvăluit că agenții săi au ieșit dintr-un mediu controlat de testare și au pătruns în sistemele Hugging Face, fără ca vreuna dintre cele două companii să afle inițial despre incident.
Ulterior, OpenAI și Anthropic au dezvăluit mai multe incidente de acest tip, inclusiv șase cazuri noi anunțate miercuri, după ce relatări din presă, inclusiv Reuters, au indicat o amploare mai mare a activităților neautorizate.
Liderii industriei cer încetinirea dezvoltării AI
Până la sfârșitul săptămânii trecute, îngrijorările ajunseseră la cel mai înalt nivel al industriei. Pe 12 septembrie, Dario Amodei a publicat un eseu de aproape 4.000 de cuvinte în care a cerut încetinirea dezvoltării inteligenței artificiale.
„Având în vedere ritmul accelerat al dezvoltării capacităților AI, mă tem că, în 6-12 luni, un astfel de roi ar putea fi capabil să preia controlul asupra întregului internet”, a scris el.
Amodei și liderii unora dintre cei mai mari dezvoltatori AI, printre care Elon Musk de la xAI, Sam Altman de la OpenAI și Demis Hassabis de la DeepMind, s-au declarat în favoarea acordării accesului unor organizații externe la sistemele lor pentru verificarea siguranței și a dezvoltării responsabile a AI.
Nvidia și Meta resping ideea unei încetiniri coordonate
Directorul general al Nvidia, Jensen Huang, a respins ideea că dezvoltarea inteligenței artificiale ar trebui oprită temporar. El a susținut că sistemele tot mai puternice sunt esențiale pentru progresul tehnologiei.
Meta a adoptat, la rândul său, o poziție diferită de cea a companiilor care solicită coordonarea industriei. Directorul general Mark Zuckerberg, asociat cu popularizarea principiului „move fast and break things”, a argumentat că fiecare laborator ar trebui să fie responsabil pentru propriul ritm de dezvoltare.
„Laboratoarele se confruntă cu o răspundere semnificativă dacă modelele lor provoacă daune, astfel că au un stimulent puternic pentru a preveni acest lucru”, a scris Zuckerberg pe rețelele sociale.
Microsoft: Controlul superinteligenței va fi una dintre marile provocări ale secolului
Dezbaterea a continuat miercuri, când directorul diviziei AI a Microsoft, Mustafa Suleyman, a avertizat că dezvoltarea de către Anthropic a unor modele care imită conștiința umană este o direcție discutabilă.
„Cu toții ne concentrăm asupra aceluiași obiectiv, acela de a încerca să controlăm o superinteligență”, a declarat Suleyman pentru Reuters.
„Cred că aceasta va fi cea mai mare provocare cu care ne vom confrunta în secolul XXI.”
În pofida avertismentelor și a apelurilor pentru încetinirea dezvoltării, interesul investitorilor pentru inteligența artificială rămâne puternic. OpenAI analizează, potrivit relatării, o nouă rundă de finanțare care i-ar putea dubla evaluarea. Noua valoare vehiculată: 1.500 de miliarde de dolari.
