O eroare de procesare a datelor de către un sistem de inteligență artificială a pus SUA în situația de a planifica o operațiune militară împotriva unei nave chineze în Orientul Mijlociu. Raportul de intelligence, care a fost generat eronat, a indicat în mod fals că embarcațiunea transporta componente ale unui program de arme nucleare. Evenimentul a avut loc în contextul tensiunilor de pe câmpul de luptă, când armata americană pregătea deja interceptarea navei și ridicarea avioanelor militare de la sol.
Incidentul a fost descoperit abia în momentul în care oficialii americani au analizat în detaliu documentul înainte de execuția operațiunii. Un analist din cadrul Comandamentului pentru Operații Speciale utilizase un chatbot pentru a interoga informații despre manifestul navei, provenite din Pacific. Acest instrument a combinat date din surse deschise cu informații secrete obținute prin interceptarea semnalelor, ajungând la o concluzie decisivă, însă complet eronată, privind natura încărcăturii.
O sursă a declarat că raportul era „în întregime fals” și că acesta a pus în pericol relațiile dintre cele două mari puteri, fiind aproape să declanșeze un conflict armat. Analistul a folosit instrumentul de AI pentru a sintetiza constatările într-un raport de informații standard, formatul acestuia fiind unul care beneficia de încrederea oficialilor militari. Nu a fost clar dacă tehnologia utilizată este un produs comercial sau unul de uz guvernamental, însă eroarea a fost critică.
Problema nu este un incident izolat în cadrul comunității de intelligence, de când aceste instrumente sunt implementate la nivel guvernamental. Implementarea AI în armată are scopul de a accelera deciziile de pe câmpul de luptă, precum alegerea țintelor, însă unii oficiali avertizează că presiunea pentru rapiditate favorizează erorile. Analiștii tineri, fiind utilizatori nativi, tind să aibă o încredere mai mare în aceste instrumente, fără a aplica o analiză critică suficientă.
Erorile de tip „halucinație” ale modelelor de limbaj sunt o problemă emergentă în procesul de analiză a datelor de intelligence. În timp ce tehnologia promite o viteză sporită în identificarea resurselor militare și a pozițiilor, riscul de a genera rapoarte care par oficiale, dar sunt bazate pe premise false, rămâne ridicat. Această dependență de automatizare poate duce la decizii militare bazate pe informații care nu reflectă realitatea din teren.
În contextul actual de instabilitate globală, unde Rusia gestionează o mobilizare digitalizată și pierderile sale de soldați sunt raportate la niveluri ridicate, securitatea informațiilor devine critică. Tensiunile dintre marile puteri sunt amplificate de riscul ca erorile tehnologice să fie interpretate ca acte de agresiune. Capacitatea de a distinge între datele reale și rezultatele eronate ale inteligenței artificiale este esențială pentru evitarea escaladării conflictelor internaționale.
