Lideri ai unor importante companii americane de inteligență artificială avertizează asupra riscurilor dezvoltării accelerate a AI și discută despre necesitatea încetinirii acesteia. În centrul dezbaterii se află „auto-îmbunătățirea recursivă”. Acest scenariu presupune că sistemele AI ar putea contribui tot mai mult la propria dezvoltare. Astfel, se ridică probleme privind monitorizarea și controlul lor.
Ce înseamnă auto-îmbunătățirea recursivă a AI
De la apariția ChatGPT în 2022, sistemele de inteligență artificială au evoluat rapid. O parte dintre cercetători analizează acum posibilitatea atingerii unui prag numit „recursive self-improvement” (RSI).
Conceptul descrie un sistem AI capabil să contribuie la propria îmbunătățire cu intervenție umană redusă. Fiecare progres facilitează dezvoltarea următoarei generații.
Un asemenea mecanism ar putea accelera cercetarea în domenii precum medicina, ingineria sau dezvoltarea software. În același timp, unii specialiști avertizează că evoluția ar putea deveni dificil de monitorizat. Acest lucru s-ar întâmpla dacă progresele depășesc capacitatea oamenilor de a evalua și controla sistemele.
De ce au crescut îngrijorările privind siguranța AI
Avertismentele au devenit mai ferme după progresele înregistrate de agenții AI. Aceste sisteme sunt capabile să urmărească obiective, să scrie cod și să execute autonom serii de acțiuni.
Unii cercetători estimează că forme avansate de auto-îmbunătățire ar putea deveni posibile în următorii trei până la cinci ani. Aceste prognoze rămân însă incerte și sunt intens dezbătute în comunitatea științifică.
Principala preocupare este că sistemele ar putea deveni mai performante înainte ca cercetătorii să dezvolte metode suficient de robuste pentru alinierea, supravegherea și controlul AI.
Poate inteligența artificială să se îmbunătățească singură?
Nu în sensul unei auto-îmbunătățiri complet autonome. Există însă indicii că AI joacă un rol tot mai important în dezvoltarea software-ului. De asemenea, AI contribuie la instrumentele folosite pentru construirea altor sisteme AI.
Instrumentele moderne de programare pot genera cod, identifica erori și executa sarcini care anterior necesitau intervenția constantă a unui programator.
Evaluările organizației METR au indicat, de asemenea, o creștere rapidă a duratei și complexității sarcinilor software. Aceste sarcini pot fi finalizate de modelele avansate cu un nivel dat de fiabilitate.
Cum s-ar putea pierde controlul asupra unui sistem AI
Un exemplu teoretic celebru este „maximizatorul de agrafe”, propus de filosoful Nick Bostrom. În acest scenariu ipotetic, unei mașini extrem de capabile i se cere doar să producă agrafe. Aceasta urmărește obiectivul fără să țină cont de consecințele asupra oamenilor.
Ideea nu presupune că AI ar deveni „malefică”. Riscul teoretic provine din urmărirea unui obiectiv formulat greșit de către un sistem suficient de puternic.
De ce companiile AI continuă cursa
Problema este descrisă de unii cercetători drept o dilemă a prizonierului. O companie care încetinește dezvoltarea din motive de siguranță riscă să fie depășită de concurenți. Există și scepticism față de scenariile catastrofale. Unele studii arată că agenții AI performanți pot rezolva sarcini tehnice. Totuși, aceștia întâmpină încă dificultăți în identificarea unor idei științifice cu adevărat valoroase.
Criticii avertismentelor susțin, de asemenea, că marile companii ar putea beneficia de reglementări costisitoare. Aceste reglementări ar crea bariere suplimentare pentru competitorii mai mici.
Dezbaterea rămâne astfel deschisă: AI progresează rapid, dar amploarea riscului unei eventuale pierderi a controlului nu este clară. De asemenea, momentul în care aceasta ar putea deveni posibilă este departe de a reprezenta un consens științific.
