Un raport de informații generat prin inteligență artificială a pus SUA în pragul unui conflict armat cu China, conform unor informații raportate de CNN. Incidentul a determinat armata americană să pregătească interceptarea unei nave chineze, fiind suspectată că transportă componente pentru un program de arme nucleare. Avioanele militare au fost deja trimise în aer, însă operațiunea a fost oprită în ultima clipă după descoperirea erorii.
Analiza detaliată a raportului a dezvăluit că un analist de la comandamentul operațiilor speciale a utilizat un chatbot pentru a procesa datele. Acesta a identificat în mod inexact natura materialelor transportate de navă, generând un document descris de surse drept fiind „complet fals”. Eroarea a survenit în momentul în care AI-ul a combinat informații de tip open-source cu date secrete pentru a concluziona ce transporta nava.
Evenimentul subliniază riscurile majore asociate cu integrarea rapidă a tehnologiei în structurile de apărare ale SUA. În cadrul armatei americane există o presiune constantă pentru utilizarea AI în procese variate, de la analiza volumelor uriașe de date până la logistica și gestionarea bugetelor. Totuși, dependența de algoritmi care pot procesa date eronate sau corupte poate duce la calcule catastrofale și decizii militare greșite.
În acest caz specific, analistul a interogat un chatbot utilizând rapoarte privind manifestul navei, provenite de la Comandamentul Operațiunilor Speciale din Pacific, cu sediul în Hawaii. Deși nu s-a clarificat dacă instrumentul folosit este unul comercial sau guvernamental, un fost oficial a menționat că instrumentele interne sunt adesea copii ale materialelor comerciale. Raportul a fost apoi diseminat sub o formă standardă de informații, în care oficialii militari au încredere.
Strategia de accelerare a utilizării AI este susținută și de nivelul înalt din Pentagon, sub îndemnul secretarului de Apărare, Pete Hegseth. Acesta a lansat o strategie menită să elimine barierele birocratice și să asigure lideratul SUA în domeniul AI militar. Scopul este de a democratiza experimentarea, oferind modele de top direct celor trei milioane de angajați civili și militari, pentru a nu rămâne în urmă în fața unor adversari.
Situația evidențiază faptul că deciziile umane pot fi influențate de informații inexacte generate de sisteme automate. În timp ce dezbaterea despre riscurile existențiale ale inteligenței artificiale este intensă la Washington, acest incident pune în evidență un risc imediat de eroare umană bazată pe date eronate. În prezent, nu există un set unic de standarde pentru verificarea informațiilor generate de aceste instrumente în cadrul guvernului american.
