Sam Altman, liderul companiei OpenAI, va participa la o reuniune a Consiliului de Securitate al ONU pentru a discuta despre inteligența artificială și securitatea internațională. Evenimentul are loc în cadrul adunării anuale a liderilor mondiali de la New York, prezența sa fiind confirmată de un purtător de cuvânt al companiei. Reuniunea vizează analiza modului în care noile tehnologii pot influența stabilitatea globală și necesitatea unor mecanisme de control.
În cadrul discuțiilor, Altman va pune accent pe importanța coordonării internaționale și pe stabilirea unor standarde comune de siguranță pentru dezvoltarea AI. Acesta va prezenta măsurile implementate de OpenAI pentru reducerea riscurilor tehnologice, precum și strategii prin care beneficiile acestui sistem ar putea fi distribuite la nivel global. La această întâlnire de înalt nivel ar putea fi prezenți și reprezentanți ai companiei Anthropic, dezvoltatorul modelului Claude.
Reuniunea este convocată de Franța, care deține președinția Consiliului în luna septembrie, și este condusă de ministrul de Externe, Jean-Noël Barrot. Documentele de pregătire consultate indică avertismentele Parisului privind utilizarea AI în scopuri malițioase, solicitând măsuri urgente pentru o dezvoltare sigură. Discuțiile vor include scenarii în care modelele avansate ar putea fi utilizate pentru pregătirea sau desfășurarea unor acțiuni care afectează direct pacea internațională.
Contextul actual este marcat de un număr tot mai mare de avertismente privind capacitatea sistemelor avansate de a executa atacuri cibernetice sau de a deveni imposibil de controlat. Liderii din industria tehnologică au solicitat o colaborare mai strânsă cu guvernele pentru a gestiona aceste amenințări. Discuțiile de la ONU au evoluat de la impactul asupra educației către riscuri majore, precum manipularea la scară largă sau pierderea controlului asupra sistemelor autonome.
Istoricul acestor dezbateri la nivelul Consiliului de Securitate include poziții divergente, precum cele exprimate de China în 2023, care avertiza asupra unei tehnologii care ar putea scăpa de sub control. În același timp, SUA au subliniat riscul ca AI să fie utilizat pentru cenzură și represiune. Altman a menționat anterior, încă din 2015, că o inteligență artificială supraomenească ar putea reprezenta o amenințare existențială pentru întreaga umanitate.
La nivel european, reglementările privind acest domeniu sunt dictate de AI Act, care începe să fie aplicat în mare parte din 2 august 2026. Acest cadru juridic impune obligații de transparență pentru modelele de uz general și vizează limitarea riscurilor sistemice, inclusiv atacurile cibernetice și manipularea informațiilor. În România, gestionarea acestui sector este reglementată de Strategia Națională în domeniul Inteligenței Artificiale pentru 2024-2027, aprobată prin HG 832/2024.
