Un cercetător specializat în domeniul inteligenței artificiale, care a lucrat anterior la companiile Anthropic și OpenAI, a decis să își încheie activitatea profesională. Jacob Coxon a anunțat demisia sa printr-un mesaj public, în care subliniază pericolele asociate cu dezvoltarea accelerată a tehnologiei actuale. Mesajul său este unul de avertizare, îndemnată de preocupările legate de siguranța sistemelor informatice avansate care sunt în curs de dezvoltare.
Coxon a utilizat platforma socială X pentru a comunica decizia sa, subliniind că lumea nu trebuie să subestimeze capacitatea reală a acestei tehnologii. El consideră că noile sisteme vor deveni în curând superumane, având capacitatea de a compromite orice sistem de securitate prin hacking. Aceste tehnologii vor putea revoluționa orice domeniu de activitate peste noapte, obținând în același timp o putere și resurse reale.
Cercetătorul a observat că progresul în domeniile menționate este constant și nu pare să încetinească în perioada actuală. Conform declarațiilor sale, atât Anthropic, cât și OpenAI sunt implicate într-o cursă directă către dezvoltarea unei superinteligențe care se poate autoîmbunătăți. Acest scenariu presupune crearea unor modele de inteligență artificială capabile să genereze succesori mult mai performanți, creând un ciclu de feedback care nu poate fi oprit.
Situația este considerată critică de către Coxon, care a descris acțiunile companiilor de tehnologie ca fiind o formă de pariu cu viața oamenilor. El susține că progresul tehnologic este atât de rapid încât poate duce la pierderea controlului asupra sistemelor create. Această viziune reflectă îngrijorările privind capacitatea modelelor de AI de a deveni autonome și de a accesa resurse vaste fără supraveghere umană.
Această demisie vine într-un context în care dezbaterile privind reglementarea tehnologiilor emergente devin tot mai frecvente la nivel global. În timp ce companiile de tehnologie se concentrează pe dezvoltarea de modele de limbaj și de superinteligență, experții avertizează asupra riscurilor de securitate cibernetică. Capacitatea sistemelor de a genera o inteligență superioară este un subiect de discuție intensă în comunitatea de cercetare, evidențiind nevoia de măsuri de siguranță.
În contextul actual, dezvoltarea rapidă a inteligenței artificiale generează temeri legate de controlul uman asupra sistemelor autonome. Dacă modelele pot să își îmbunătățească singure algoritmii, procesul de evoluție ar putea depăși capacitatea de intervenție a programatorilor. Această evoluție tehnologică necesită o monitorizare atentă a modului în care companiile precum OpenAI și Anthropic gestionează riscurile de securitate și de siguranță a datelor.
