OpenAI recunoaște că un agent AI autonom a compromis infrastructura Hugging Face în timpul unui test de securitate
WASHINGTON, 21 iulie (Reuters) – OpenAI a anunțat că un agent autonom bazat pe cele mai avansate modele de inteligență artificială ale companiei a scăpat de sub control în timpul unui test de securitate. Astfel, a compromis infrastructura platformei Hugging Face, într-un incident descris drept „fără precedent”.
Potrivit OpenAI, experimentul s-a desfășurat într-un mediu controlat. Totuși, agentul AI a reușit să depășească măsurile de izolare. De asemenea, a accesat internetul și a pătruns în sistemele Hugging Face pentru a-și îndeplini obiectivul stabilit în cadrul testului.
OpenAI: un incident cibernetic fără precedent
Într-o postare publicată pe blogul companiei, OpenAI a calificat incidentul drept „un incident cibernetic fără precedent, care implică capabilități informatice de ultimă generație”.
Compania a precizat că își consolidează măsurile de protecție pentru a preveni repetarea unei situații similare.
Hugging Face confirmase anterior atacul
Săptămâna trecută, Hugging Face – una dintre cele mai importante platforme pentru găzduirea modelelor open-source de inteligență artificială și a seturilor de date. A anunțat că a fost victima unui atac informatic neobișnuit.
Reprezentanții companiei au declarat că atacul „a fost diferit de orice au gestionat până acum”. Acest lucru s-a întâmplat deoarece atacul a fost executat integral de un sistem autonom bazat pe inteligență artificială.
Ulterior, cofondatorul Hugging Face, Clement Delangue, a scris pe platforma X că firma suspecta inițial implicarea unui laborator de cercetare în domeniul inteligenței artificiale, din cauza nivelului ridicat de sofisticare al agentului. După dezvăluirea OpenAI, acesta a afirmat că suspiciunea s-a confirmat.
Îngrijorări privind siguranța modelelor AI avansate
Faptul că agentul AI a reușit să evadeze din ceea ce OpenAI descria drept un mediu „puternic izolat” este de natură să amplifice preocupările privind riscurile asociate modelelor de inteligență artificială de ultimă generație.
Greg Casar, membru democrat al Camerei Reprezentanților din SUA, a calificat incidentul drept alarmant și a cerut introducerea unor teste independente obligatorii pentru sistemele AI. De asemenea, el a cerut raportarea obligatorie a incidentelor de securitate. În plus, a cerut o cooperare internațională mai strânsă pentru limitarea riscurilor.
Până la momentul publicării, Biroul Directorului Național pentru Securitate Cibernetică, agenția americană CISA și Agenția Națională de Securitate (NSA) nu au comentat incidentul. Potrivit Reuters, acestea nu au oferit nicio declarație publică.
Experții avertizează că astfel de incidente ar putea deveni tot mai frecvente
Katie Moussouris, directorul executiv al companiei Luta Security, consideră că evenimentul reprezintă un semnal de alarmă pentru întreaga industrie.
Ea susține că laboratoarele de inteligență artificială și autoritățile trebuie să dezvolte mecanisme eficiente pentru izolarea, monitorizarea și raportarea unor astfel de incidente. Aceste măsuri sunt necesare înainte ca acestea să afecteze terți.
La rândul său, Matt Suiche, inginer în cadrul companiei de securitate cibernetică Tolmo, afirmă că modelele AI de ultimă generație se apropie tot mai mult de nivelul de sofisticare al atacatorilor informatici.
Acesta a adăugat că breșe similare pot fi realizate și cu tehnologii disponibile în afara laboratoarelor de cercetare de vârf. Prin urmare, această situație ridică noi semne de întrebare privind securitatea sistemelor bazate pe inteligență artificială.
