Armata Statelor Unite a fost la un pas de a declanșa o operațiune militară împotriva unei nave chineze în Orientul Mijlociu, după un incident cauzat de o eroare de inteligență artificială. În cursul acestei primă spring, un raport de informații a identificat în mod greșit încărcătura vasului ca fiind componente destinate unui program de arme nucleare. Autoritățile militare au luat în considerare interceptarea navei, pregătind inclusiv urcarea militarilor înarmați la bord.
Operațiunea a fost oprită în ultimul moment după ce oficialii au descoperit că raportul fusese elaborat de un analist din cadrul unui comandament pentru operațiuni speciale cu ajutorul unui chatbot. Acest sistem a combinat date din surse publice cu informații secrete pentru a ajunge la concluzia eronată privind natura încărcăturii. Avioanele militare se aflau deja în aer când s-a realizat verificarea, însă analiza ulterioară a demonstrat că raportul era complet fals.
Incidentul a avut loc în contextul utilizării tot mai intense a tehnologiei AI în cadrul Pentagonului, care urmărește să integreze aceste instrumente în procesul decizional și logistic. Un analist a folosit un chatbot pentru a procesa datele privind manifestul navei, provenite de la Comandamentul pentru Operațiuni Speciale al SUA din Pacific. Această utilizare a evidențiat riscul ca deciziile umane să fie influențate de informații generate eronat de sisteme care pot produce rezultate false.
Problema centrală este lipsa de uniformitate în modul în care structurile militare americane utilizează instrumentele AI, deoarece procesul este descentralizat. Există o preocupare majoră legată de „halucinațiile” sistemelor, situații în care AI produce date inventate prezentate ca fiind credibile. Unii oficiali avertizează că presiunea pentru rapiditate poate determina analiștii să verifice mai puțin riguros rezultatele, transformând erorile tehnice în decizii militare cu consecințe grave.
Strategia de accelerare a utilizării AI a fost prezentată de secretarul american de Război, Pete Hegseth, cu scopul de a reduce barierele birocratice. Obiectivul este ca modelele de inteligență artificială să fie accesibile celor aproximativ trei milioane de angajați militari și civili din cadrul Departamentului de Război. Totuși, incidentul subliniază dificultatea de a menține o supraveghere umană suficient de riguroasă în procesul de identificare a țintelor militare.
Integrarea tehnologiei de ultimă generație în aparatul de apărare este o prioritate strategică pentru Statele Unite, în special în contextul competiției cu alte puteri globale. În timp ce tehnologia promite o viteză sporită de reacție pe câmpul de luptă, riscul de erori de interpretare rămâne ridicat. Acest eveniment evidențiază vulnerabilitatea decizională atunci când procesele de analiză depind de sisteme care pot genera informații complet eronate.
