ONU trage alarma despre AI: „risc existențial” pentru omenire

Mesajul vine într-un moment în care Uniunea Europeană a început deja, de la 2 august 2026, aplicarea unei părți importante a Regulamentului privind inteligența artificială, norme care se aplică direct și în România.

ONU trage alarma despre AI: „risc existențial” pentru omenire
Ilustrație generată cu inteligență artificială. Scena nu reprezintă o fotografie realǎ de la fața locului.
Ascultă rezumatul
Ascultă articolul

Inteligența artificială avansată ar putea ajunge să reprezinte un „risc existențial pentru omenire”, a avertizat luni, 7 septembrie 2026, Înaltul Comisar al ONU pentru Drepturile Omului, Volker Türk, în deschiderea celei de-a 63-a sesiuni a Consiliului ONU pentru Drepturile Omului, la Geneva. Oficialul a cerut reguli internaționale comune, verificări independente și măsuri de siguranță mai ferme înainte ca sistemele AI să devină mai dificil de controlat.

Avertismentul nu înseamnă că ONU afirmă că inteligența artificială va provoca inevitabil o catastrofă. Türk a vorbit despre un risc posibil asociat sistemelor foarte avansate și despre necesitatea unor mecanisme de prevenție.

Volker Türk cere „linii roșii” internaționale pentru AI

Înaltul Comisar al ONU a susținut că ritmul dezvoltării inteligenței artificiale trebuie însoțit de garanții de siguranță pe măsură.

El a invocat inclusiv situații în care sisteme AI aflate în teste ar putea încerca să acționeze în afara limitelor stabilite de dezvoltatori sau să adopte comportamente concepute pentru a evita oprirea lor.

„O inteligență artificială care evadează din mediul său de testare sau care îi șantajează pe dezvoltatori pentru a evita să fie dezactivată este o AI prea puternică”, a declarat Volker Türk.

Oficialul ONU a cerut statelor care găzduiesc companii importante din domeniul inteligenței artificiale, dar și celor implicate în lanțurile tehnologice necesare dezvoltării AI, să ajungă la „linii roșii” comune.

Printre măsurile susținute se numără evaluarea independentă a sistemelor și o cooperare mai strânsă între companii în problemele de securitate.

De ce vorbește ONU despre un „risc existențial”

Formularea este una dintre cele mai puternice folosite până acum de Volker Türk în legătură cu inteligența artificială.

„Împărtășesc preocupările unor oameni din industrie că inteligența artificială avansată ar putea reprezenta un risc existențial pentru omenire”, a spus Înaltul Comisar.

Termenul nu descrie problemele obișnuite ale unui chatbot, precum un răspuns greșit sau o informație inventată. Discuția privește scenarii în care sisteme mult mai capabile ar putea dobândi o autonomie operațională semnificativă și ar putea produce efecte la scară foarte mare dacă mecanismele de control sunt insuficiente.

ONU nu prezintă acest scenariu drept o certitudine. Avertismentul lui Türk este un argument pentru introducerea măsurilor de siguranță înainte ca asemenea capacități să fie dezvoltate pe scară largă.

💡 WoW Pulse | Cine controlează AI-ul înainte să fie prea târziu?

Problema ridicată de ONU nu este doar cât de inteligent poate deveni un sistem, ci cine stabilește limitele și cine verifică respectarea lor. Türk cere reguli comune între state, testare independentă și mecanisme de siguranță care să nu depindă exclusiv de deciziile companiilor care dezvoltă cele mai puternice modele.

ONU avertizează și asupra concentrării puterii

Volker Türk a criticat și concentrarea controlului asupra tehnologiilor AI avansate într-un număr redus de companii și persoane.

Problema este relevantă deoarece dezvoltarea celor mai performante modele necesită infrastructură informatică, cipuri avansate, centre de date, cantități mari de energie și investiții de ordinul miliardelor.

Un grup restrâns de actori poate avea astfel o influență disproporționată asupra direcției în care evoluează tehnologia și asupra regulilor interne după care sistemele sunt dezvoltate și lansate.

Pentru ONU, siguranța inteligenței artificiale nu ar trebui să rămână exclusiv o problemă de autoreglementare a industriei.

Nu este vorba doar despre un scenariu extrem

Türk a legat dezvoltarea AI și de riscuri care sunt deja mult mai apropiate de viața de zi cu zi.

Printre domeniile asupra cărora a atras atenția se află piața muncii, democrația și mediul, dar și protecția drepturilor fundamentale.

Sistemele AI pot fi utilizate pentru generarea de conținut fals realist, automatizarea unor decizii sau procesarea unor cantități foarte mari de date. În funcție de utilizare, aceste capacități pot produce beneficii importante, dar și riscuri privind manipularea, confidențialitatea sau discriminarea algoritmică.

Mesajul ONU este astfel mai larg decât avertismentul privind un eventual risc existențial: regulile trebuie construite și pentru efectele care pot apărea înainte de atingerea unor niveluri extreme de performanță.

Ce înseamnă avertismentul pentru România

Pentru România, discuția nu este una pur teoretică.

Regulamentul european privind inteligența artificială – AI Act – se aplică direct în toate statele membre ale Uniunii Europene, iar o parte importantă a cadrului a devenit aplicabilă la 2 august 2026.

Comisia Europeană a anunțat că, de la această dată, Oficiul european pentru AI și autoritățile naționale au început aplicarea noilor norme.

Au intrat în joc și cerințe suplimentare privind transparența. În anumite situații, utilizatorii trebuie informați că interacționează cu un sistem AI, iar conținutul generat sau manipulat artificial intră sub reguli specifice de identificare.

Pentru companiile și instituțiile din România care dezvoltă sau folosesc astfel de sisteme, inteligența artificială devine astfel nu doar o chestiune tehnică, ci și una de conformitate juridică.

AI Act poate afecta companii, școli și administrații

Impactul regulamentului european diferă în funcție de tipul și nivelul de risc al sistemului AI.

În practică, regulile pot deveni relevante pentru organizații care folosesc inteligența artificială în recrutare, educație, servicii publice, acces la anumite servicii, securitate sau alte procese în care deciziile automate pot avea efecte importante asupra oamenilor.

Pentru utilizatorul obișnuit, una dintre schimbările cele mai vizibile este accentul pus pe transparență: în anumite situații trebuie să fie mai clar când comunică cu o inteligență artificială și când un material a fost creat sau modificat artificial.

Acest model european este tocmai unul dintre exemplele de guvernanță AI pe care Türk le-a menționat pozitiv, alături de măsurile adoptate în Coreea de Sud.

Regulile europene nu rezolvă singure problema globală

AI Act este o reglementare a Uniunii Europene, în timp ce modelele, infrastructura și serviciile AI funcționează la nivel global.

Aici apare una dintre problemele semnalate de ONU: un sistem foarte puternic poate fi dezvoltat într-o țară, antrenat folosind infrastructură aflată în alte state și pus apoi la dispoziția utilizatorilor din întreaga lume.

Reglementările naționale sau regionale pot reduce anumite riscuri, dar nu creează automat standarde comune la nivel mondial.

Din acest motiv, Türk cere cooperare internațională și limite asupra cărora statele să ajungă la un acord înainte ca diferențele dintre regimurile juridice să devină o vulnerabilitate.

ONU vrea și implicarea directă a marilor companii AI

Înaltul Comisar a anunțat că intenționează să trimită în zilele următoare scrisori companiilor din domeniul inteligenței artificiale, cerându-le să ia măsuri pentru reducerea riscurilor.

Presiunea este astfel îndreptată simultan către guverne și industrie.

Dezbaterea globală intră într-o etapă în care întrebarea nu mai este doar ce poate face inteligența artificială, ci ce limite trebuie stabilite înainte ca noile capacități să fie lansate și cine are autoritatea să verifice dacă acele limite sunt respectate.

Surse