Experții în securitate din Statele Unite și China propun implementarea unor măsuri urgente pentru a reduce riscurile generate de utilizarea inteligenței artificiale în domeniul nuclear. Recomandările vizează stabilirea unor linii roșii pentru sistemele nucleare și menținerea controlului uman asupra operațiunilor cibernetice. Această inițiativă a fost formulată în cadrul dialogului SUA-China privind inteligența artificială și securitatea națională, un proces început în 2019 de către Brookings Institution și Universitatea Tsinghua.
Melanie Sisson, cercetătoare la Brookings Institution, subliniază necesitatea ca oamenii să păstreze autoritatea exclusivă asupra atacurilor cibernetice împotriva sistemelor de comandă și control nuclear. Un sistem autonom ar putea funcționa defectuos sau ar putea fi compromis, lăsând o țară fără timp să determine dacă un incident este accidental sau un atac ordonat. Acest scenariu crește riscul ca o eroare tehnologică să fie interpretată greșit ca o acțiune de război.
Tianjiao, profesor asociat la Universitatea Fudan, propune stabilirea unor linii roșii care să interzică utilizarea autonomă a armelor nucleare. Jiang recomandă ca aceste măsuri de protecție să fie extinse și către infrastructurile critice, precum cele din domeniul sănătății, finanțelor sau energiei. De asemenea, se pune accent pe definirea unui concept comun de „control uman semnificativ”, pentru a evita ambiguitățile terminologice între cele două puteri în gestionarea sistemelor AI.
O altă propunere centrală vizează crearea unei linii telefonice militare directe între SUA și China pentru gestionarea incidentelor cauzate de AI. Jiang avertizează că schimburile cibernetice automate pot fi atât de rapide încât intervenția umană să devină imposibilă. O linie directă ar permite clarificarea rapidă a faptului că o operațiune este accidentală sau neautorizată, prevenind astfel o ripostă prematură bazată pe o interpretare eronată a unei activități suspecte.
Eficacitatea acestor canale de comunicare este însă pusă sub semnul întrebării de către experți precum Carla Freeman, de la Școala de Studii Internaționale Avansate Johns Hopkins. Ea a invocat incidentul balonului spion din februarie 2023 pentru a demonstra că birocrația chineză poate întârzia comunicarea în timpul crizelor. Structura ierarhică poate face ca decizia de a răspunde oficial să dureze zile întregi, în funcție de consultările necesare în cadrul statului-partid.
În contextul actual, China integrează tot mai mult inteligența artificială în structurile sale de control al armamentelor, prin intermediul Ministerului de Externe. La o reuniune de la Geneva, ambasadorul Shen Jian a avertizat că AI militară poate crește riscul de calcule greșite și de escaladare a conflictelor. În același timp, ambele guverne rămân prudente în adoptarea unor măsuri care ar putea limita dezvoltarea tehnologică în cadrul competiției strategice dintre Washington și Beijing.
