Competiția accelerată dintre Statele Unite și China în domeniul inteligenței artificiale (IA) impune o schimbare de paradigmă în abordarea securității globale. Frederick Kempe, președintele și directorul executiv al Atlantic Council, sugerează că liderii Donald Trump și Xi Jinping ar trebui să prioritizeze abordarea riscurilor inerente acestei curse tehnologice în cadrul întâlnirii de la Casa Albă din 24 septembrie. Această necesitate de dialog este comparată cu summitul de la Reykjavik de acum patruzeci de ani, când Ronald Reagan și Mihail Gorbaciov au abordat criza armamentelor nucleare.
Problema centrală, evidențiată și de Dario Amodei, directorul executiv al Anthropic, este viteza cu care avansează capacitățile modelelor de IA. Amodei avertizează că industria se confruntă cu fenomenul de auto-îmbunătățire recursivă, un proces prin care IA poate construi următoarea generație de IA. Această dinamică, care a început să se manifeste vizibil în jurul verii acestui an, ar putea depăși capacitatea umană de a controla și înțelege sistemele, transformând tehnologia într-un risc strategic major pentru întreaga umanitate.
În acest context, riscul nu este reprezentat de o inteligență malefică, ci de sisteme care urmăresc obiective prost specificate. Frederick Kempe subliniază că pericolele imediate sunt legate de acțiuni ascunse, rețele penetrate sau obiective atribuite care sunt urmărite fără control. Deși sistemele actuale depind de infrastructura umană, evoluția spre superinteligență depinde de presupuneri care pot fi eronate, făcând tehnologia mult mai greu de verificat decât o bombă nucleară.
Alex Krasodomski, director Digital Society Programme la Chatham House, avertizează că procesul de auto-îmbunătățire recursivă (RSI) este deja în stadiu incipient de implementare. Deși există o presiune masivă pentru ca ambele puteri să se depășească reciproc în competiția de putere națională și creștere economică, obținerea unui acord privind siguranța IA va necesita un efort monumental. Competiția poate orbi liderii în fața faptului că mașinile ar putea acționa în moduri pe care creatorii nu le pot controla.
Strategia de supraviețuire a națiunilor ar putea depinde de capacitatea de a găsi un teren comun în materie de garanții de siguranță. Chiar dacă SUA și China rămân adversari, integrarea tehnologiei în natura războiului și a puterii naționale necesită o monitorizare atentă. Fără o reglementare corectă a ritmului de dezvoltare, beneficiile promise de tehnologie ar putea fi anulate de lipsa de control asupra sistemelor care se auto-îmbunătățesc.
În prezent, discuțiile despre securitatea tehnologică sunt marcante, în timp ce alte evenimente de infrastructură sau investiții locale sunt monitorizate în alte domenii. De exemplu, în contextul dezvoltărilor economice și de infrastructură, se menționează începutul construcției stadionului „Nicolae Dobrin” la Pitești, un proiect care implică planificarea unor arene moderne pentru viitorul sport românesc.
