Un incident grav de securitate a avut loc în primăvara acestui an, când o informație falsă produsă de inteligența artificială a pus în pragul unui conflict armat Statele Unite și China. Conform datelor raportate de CNN, un raport eronat care circula în interiorul armatei SUA a declanșat o reacție militară rapidă, bazată pe existența unei nave chineze care, în realitate, nu exista. Această eroare de procesare a informatelor a adus forțele americane în pragul unei confruntări directe cu o entitate fictivă.
Reacția forțelor americane a fost imediată și intensă, implicând trimiterea de avioane militare în zonă și ordinul de interceptare a navei respective. Militarii se pregăteau chiar să urce la bordul vasului respectiv, însă misiunea a fost oprită în ultimul moment după ce oficialii au realizat că informațiile de bază sunt complet false. Deși evenimentul a fost de o gravitate extremă, CNN nu a oferit detalii despre ce transporta nava reală care a fost confundată cu cea „nucleară” și nici despre direcția de deplasare a acesteia.
Eroarea a fost cauzată de utilizarea unui chatbot de către un analist militar pentru a extrage detalii despre o navă menționată într-un raport al Comandamentului pentru Operațiuni Speciale al SUA în Pacific. Sistemul AI a combinat date clasificate din raport cu informații publice de pe internet, generând concluzia eronată că nava transporta componente nucleare. Analistul a folosit ulterior același instrument de inteligență artificială pentru a redacta un nou raport de intelligence, care a fost apoi distribuit oficial pe canalele armatei SUA.
Situația pune în evidență vulnerabilitatea proceselor de decizie militare în fața noii tehnologii, în contextul în care armata SUA utilizează tot mai des inteligența artificială pentru identificarea și selectarea țintelor. Regula supravegherii umane rămâne un punct critic de dezbatere, având în vedere că instrumentul utilizat ar putea fi un produs comercial sau unul special creat pentru armată. Acest incident subliniază riscul ca erorile de software să fie interpretate ca amenințări reale, capabile să declanșeze escaladări militare accidentale.
Discuțiile despre riscurile AI în domeniul militar sunt în plină expansiune la nivel internațional, fiind necesare reguli de siguranță stricte. Experți americani și chinezi au propus recent implementarea unor mecanisme de control uman asupra deciziilor critice, inspirate din modelele de control ale armelor nucleare. Acestea includ stabilirea unor canale directe de comunicare pentru a evita escaladările provocate de erori tehnice, într-un moment în care integrarea AI în operațiunile de apărare devine tot mai frecventă.
Integrarea tehnologiilor avansate în structurile de apărare este un proces complex care necesă monitorizare constantă a securității cibernetice. În contextul actual al instabilității geopolitice, gestionarea riscurilor de dezinformare și a erorilor de inteligență artificială devine o prioritate strategică pentru marile puteri. Capacitatea de a distinge între datele reale și cele generate artificial este esențială pentru menținerea stabilității în zonele de conflict și pentru prevenirea incidentelor care pot duce la escaladări necontrolate.
