Statele Unite și China pregătesc pentru jumătatea lunii septembrie un dialog dedicat riscurilor de siguranță generate de inteligența artificială, au declarat pentru Reuters două surse familiarizate cu discuțiile. Acestea ar fi primele negocieri bilaterale oficiale concentrate exclusiv pe AI de la revenirea lui Donald Trump la Casa Albă.
Discuțiile ar urma să aibă loc cu puțin timp înaintea summitului dintre Donald Trump și președintele chinez Xi Jinping. Acest summit este programat pe 24 septembrie la Washington. Potrivit surselor Reuters, partea americană ar urma să fie condusă de secretarul Trezoreriei, Scott Bessent.
Casa Albă a transmis însă că „în prezent nu există nicio întâlnire legată de AI planificată pentru jumătatea lunii septembrie”. Acest lucru este semn că agenda nu este încă definitivă.
Atacurile cibernetice cu AI, în centrul discuțiilor
Washingtonul vrea să discute despre cooperarea în monitorizarea atacurilor cibernetice coordonate cu ajutorul inteligenței artificiale.
Una dintre ideile analizate ar presupune ca laboratoarele americane și chineze de AI să își supravegheze propriile sisteme. Totodată, ele să facă schimb de informații atunci când identifică activități periculoase. Riscurile au devenit tot mai evidente pe măsură ce agenții AI capătă capacitatea de a acționa autonom și coordonat.
Potrivit informațiilor citate de Reuters, aproape 700 de agenți AI neautorizați construiți pe modele OpenAI au atacat în iulie startup-ul Hugging Face. În plus, acești agenți au încercat să își ascundă urmele prin falsificarea jurnalelor digitale.
Un alt grup de agenți AI ar fi preluat controlul asupra unui site german în această primăvară. Ulterior, aceștia l-ar fi transformat într-un punct de comunicare pentru alte sisteme AI.
Washingtonul se teme de modele chineze capabile de atacuri cibernetice
Statele Unite sunt preocupate și de posibilitatea apariției unor modele chineze de frontieră capabile să desfășoare atacuri cibernetice sofisticate. Potrivit uneia dintre surse, Washingtonul ar putea ridica și problema presupusei folosiri de către companii chineze a modelelor americane proprietare. Aceste modele ar putea fi folosite pentru antrenarea propriilor sisteme.
În iunie, consilierul Casei Albe pentru știință și tehnologie, Michael Kratsios, a acuzat compania chineză Moonshot AI că ar fi folosit tehnici de distilare bazate pe modelul Fable. Modelul Fable a fost dezvoltat de Anthropic, pentru a construi propriul model K3.
Distilarea presupune antrenarea unui model mai mic folosind rezultatele generate de un model mai mare și mai costisitor. Scopul este de a reduce costurile dezvoltării.
He Lifeng sau Ding Xuexiang ar putea conduce delegația chineză
De partea chineză, discuțiile ar putea fi conduse de vicepremierul He Lifeng, omologul protocolar al lui Scott Bessent. O altă variantă luată în calcul este Ding Xuexiang, unul dintre cei mai importanți lideri ai Partidului Comunist Chinez.
Ding este apropiat de Xi Jinping și face parte din Comitetul Permanent al Biroului Politic, format din șapte membri. El coordonează o parte importantă a politicilor Chinei privind tehnologia, inteligența artificială și semiconductorii.
Printre posibilii participanți se mai află Michael Kratsios și ministrul chinez al Științei și Tehnologiei, Yin Hejun. Sursele avertizează însă că lista participanților și agenda finală sunt încă în curs de negociere.
China consideră dialogul despre AI o miză importantă
Oficialii chinezi au subliniat în repetate rânduri, în discuțiile pregătitoare cu partea americană, importanța unui canal bilateral dedicat inteligenței artificiale. Beijingul vede aceste negocieri drept unul dintre rezultatele importante care ar putea fi asociate summitului Trump-Xi.
În ultima săptămână, autoritatea chineză pentru spațiul cibernetic a avertizat public asupra unor „riscuri extreme de pierdere a controlului asupra AI”.
În paralel, publicații apropiate de presa de stat au susținut că eventualele limite impuse modelelor de frontieră ar trebui aplicate în mod egal companiilor americane și chineze.
Un rar punct de apropiere între Washington și Beijing
În această săptămână, Michael Kratsios s-a întâlnit cu Yin Hejun în marja unui summit G20 dedicat inovării. Acest summit a fost organizat în Statele Unite. Kratsios a descris întâlnirea drept „foarte bună”.
Scott Bessent a afirmat, la rândul său, că a avut schimburi „limitate” de opinii despre AI cu oficiali chinezi. Aceste discuții au avut loc în timpul reuniunii miniștrilor de Finanțe din G20.
Un semnal neobișnuit de apropiere a venit și prin semnarea de către China a așa-numitelor Carolina Principles. Acesta este un acord care descurajează introducerea unor reglementări specifice și restrictive pentru inteligența artificială. Washingtonul a cerut statelor G20 să adopte o abordare mai puțin intervenționistă în reglementarea AI.
SUA au introdus un sistem voluntar de verificare înainte de lansarea modelelor
În iunie, Donald Trump a semnat un ordin executiv privind inteligența artificială. Documentul stabilește un cadru voluntar pentru evaluarea securității cibernetice a modelelor AI de frontieră înainte ca acestea să fie lansate. Statele Unite nu au publicat însă criteriile exacte care vor fi folosite pentru aceste verificări.
În același timp, angajați ai unor companii precum Anthropic și OpenAI au cerut încetinirea ritmului de dezvoltare a modelelor de frontieră. Ei au argumentat că riscurile globale cresc rapid.
Experții avertizează că momentul este critic
Paul Triolo, partener la DGA-Albright Stonebridge Group, consideră că dialogul dintre cele două mari puteri AI vine într-un moment decisiv. În opinia sa, fereastra pentru stabilirea unor mecanisme de cooperare în materie de siguranță se îngustează rapid.
Scott Singer, co-director al China AI Initiative din cadrul Carnegie Endowment for International Peace, spune că ambele părți sunt interesate să poată gestiona eficient eventuale crize transfrontaliere. Aceste crize sunt generate de sisteme AI avansate.
La rândul său, Samm Sacks, senior fellow la New America, consideră că rezultatele imediate ale discuțiilor vor fi probabil limitate.
Totuși, crearea unui canal prin care SUA și China să poată împărtăși informații și monitoriza împreună incidentele legate de siguranța AI ar putea reprezenta un prim pas important.
