Inteligența artificială ar putea ajunge în următorii ani într-un punct critic: sistemele AI să contribuie tot mai mult la dezvoltarea propriilor versiuni viitoare, reducând rolul oamenilor în procesul de control și verificare. Este avertismentul analizat de The Economist, într-un articol publicat pe 7 iunie 2026. (economist.com)
Ce înseamnă riscul real
Marea temere nu este că AI-ul actual „devine conștient”, ci că modelele viitoare ar putea ajunge să își îmbunătățească singure performanțele. Anthropic avertizează că acest fenomen, numit auto-îmbunătățire recursivă, ar putea aduce beneficii uriașe în știință și medicină, dar și riscul ca oamenii să piardă controlul asupra unor sisteme foarte puternice. (anthropic.com)
Experții cer reguli și teste independente
Compania Anthropic a cerut pe 10 iunie 2026 reguli federale puternice în SUA și testare independentă obligatorie pentru cele mai avansate modele AI, invocând inclusiv riscuri catastrofale. (Reuters)
Raportul internațional privind siguranța AI din 2026 notează că sistemele actuale nu au încă nivelul necesar pentru scenarii de pierdere totală a controlului, dar devin tot mai capabile în zone precum autonomia și luarea deciziilor. (International AI Safety Report)
De ce contează acum
Pe măsură ce AI-ul este folosit pentru scriere de cod, cercetare, proiectare și verificare, oamenii riscă să devină doar supraveghetori ai unui proces tot mai automatizat. Scenariul cel mai sensibil este apariția unor modele antrenate de alte modele, testate de alte modele și optimizate după obiective stabilite tot de sisteme AI. (LinkedIn)
Între alarmă și realitate
Specialiștii nu spun că AI-ul a scăpat deja de sub control. Avertismentul este că viteza dezvoltării poate depăși capacitatea guvernelor, companiilor și societății de a impune limite clare.
În acest moment, cele mai urgente riscuri rămân folosirea AI în dezinformare, supraveghere, atacuri cibernetice, pierderi de locuri de muncă și decizii automate greu de contestat. Dar discuția despre pierderea controlului arată că miza tehnologiei a depășit zona aplicațiilor spectaculoase și a intrat în zona securității globale.
