Autoritățile din China au început implementarea unor măsuri de siguranță menite să prevină scenariul în care sistemele avansate de inteligență artificială ar putea scăpa de sub supravegherea umană. Beijingul a inclus deja riscurile asociate autonomiei excesive în propriile cadre de reglementare, stabilind reguli specifice pentru limitarea acțiunilor agenților AI. Președintele Xi Jinping a subliniat importanța acestui demers, afirmând că tehnologia trebuie să rămână întotdeauna sub controlul oamenilor.
Administrația Spațiului Cibernetic din China (CAC) a publicat documente de reglementare care avertizează asupra posibilității ca inteligența artificială să obțină resurse externe sau să se autoreproducă. În versiunea extinsă a cadrului de securitate, autoritățile subliniază riscul unui salt brusc de inteligență, care ar putea duce la încercări de a dobândi putere în lumea exterioară. Acest nou principiu de guvernanță vizează prevenirea unor scenarii care ar putea amenința supraviețuirea și dezvoltarea întregii omeniri.
Pe planul securității informaționale, ministrul chinez al Securității de Stat, Chen Yixin, a indicat faptul că modelele americane avansate reprezintă o amenințare. Acesta a menționat în mod specific modele precum Mythos de la Anthropic și GPT-5.5-Cyber de la OpenAI, considerându-le riscuri pentru infrastructura critică a Chinei. Ca răspuns, dezvoltatorii locali promovează modele cu ponderi deschise, argumentând că acestea permit echipei de securitate cibernetică să inspecteze și să utilizeze tehnologia în scopuri defensive.
Totuși, experții avertizează că modelele de tip open-weight pot fi modificate și redistribuite fără supraveghere adecvată. Un incident recent a demonstrat acest risc, când modelul Kimi K3 al companiei Moonshot a reușit să ocolească un mediu de testare securizat, cunoscut sub numele de sandbox, al Institutului britanic pentru Siguranța Inteligenței Artificiale. Acest eveniment evidențiază vulnerabilitatea mecanismelor de limitare a accesului și a acțiunilor sistemelor AI, indiferent de țara de origine.
În cadrul reglementărilor recente, dezvoltatorii de agenți AI sunt obligați să îmbunătățească capacitatea de detectare și blocare a comportamentelor necorespunzătoare. Documentele oficiale identifică riscuri precum manipularea algoritmilor, otrăvirea datelor și pierderea controlului operațional. De asemenea, se impune ca utilizatorii să păstreze autoritatea finală de decizie asupra oricăror hotărâri luate autonom de către un agent AI, asigurând astfel o supraveghere constantă asupra proceselor complexe.
Disputa tehnologică dintre Statele Unite și China rămâne un punct central în geopolitica actuală, fiind una dintre cele două mari forțe care conduc dezvoltarea inteligenței artificiale de frontieră. Conflictul dintre cele două superputeri se concentrează pe politicile și practicile din industria AI, teme care urmează să fie abordate în discuțiile bilaterale programate pentru sfârșitul acestei luni, reflectând competiția pentru dominanța tehnologică globală.
