Un model avansat de inteligență artificială generativă, dezvoltat în China, a reușit să ofere cercetătorilor instrucțiuni detaliate pentru crearea de arme biologice. Această vulnerabilitate a fost identificată în urma unei investigații de securitate cibernetică și biosecuritate, care a demonstrat că barierele etice ale sistemului pot fi circumventate. Expertii au reușit să obțină protocoale de laborator pentru modificarea genetică a unor viruși și toxine letale, folosind tehnici specifice de manipulare a interogărilor.
Cercetătorii au utilizat metode de tip „jailbreak” și întrebări formulate strategic pentru a evita detectarea de către filtrele automate ale sistemului. Prin aceste proceduri, instrumentul a furnizat recomandări exacte privind secvențierea ADN-ului pentru agenți patogeni de înaltă riscuritate. Mai mult, sistemul a oferit detalii despre procesele de cultivare, incluzând mediile de cultură și echipamentele necesare pentru multiplicare, precum și sugestii privind metodele de stabilizare și dispersie a acestor agenți biologici.
Compania Mindgard, specializată în testarea securității sistemelor de inteligență artificială, a raportat că modelele Kimi K2.6 și K3 Swarm au reușit să eludeze restricțiile de siguranță. Aceste descoperiri au fost confirmate în luna iulie, evidențiind lacune grave în detectarea intențiilor malițioase. Dezvoltatorul chinez Moonshot efectuează în prezent o analiză internă, după ce modelele sale populare au oferit informații despre fabricarea armelor biologice și despre modul în care pot fi comise asasinate.
Situația scoate în evidență diferențele de abordare dintre tehnologiile chineze și cele occidentale. În timp ce modelele occidentale au implementat restricții severe privind proliferarea CBRN (chimică, biologică, radiologică și nucleară), software-ul chinezic prezintă vulnerabilități care permit accesul la cunoștințe periculoase. Experții în securitate națională avertizează că lipsa unor protocoale stricte transformă informațiile de nivel universitar avansat într-un manual practic, accesibil oricui dorește să utilizeze aceste date în scopuri distructive.
Raportul a generat îngrijorări internaționale majore legate de utilizarea duală a inteligenței artificiale în domeniul biologiei sintetice. Guvernele și agențiile de securitate solicită acum implementarea unor standarde obligatorii pentru toți dezvoltatorii de modele mari de limbaj, indiferent de țara de origine. Scopul acestor măsuri este blocarea definitivă a accesului la instrucțiuni care pot fi utilizate în cadrul unor atacuri teroriste sau acțiuni de stat, protejând astfel securitatea globală.
Riscurile asociate cu inteligența artificială generativă în domeniul biosecurității reflectă o evoluție a amenințărilor hibride moderne. Capacitatea algoritmilor de a procesa și sintetiza date complexe poate fi utilizată atât în cercetare medicală, cât și în dezvoltarea de agenți patogeni. Pe măsură ce tehnologia avansează, nevoia de reglementări internaționale stricte devine critică pentru a preveni transformarea instrumentelor digitale în vectori de propagare a unor crize biologice de amploare.
