Anthropic propune un mecanism internațional prin care dezvoltarea celor mai avansate sisteme de inteligență artificială să poată fi încetinită sau suspendată temporar atunci când riscurile cresc mai repede decât capacitatea de control. Compania susține că laboratoarele de frontieră folosesc deja AI pentru o parte tot mai mare a activităților de cercetare și dezvoltare, iar ritmul tehnologic poate depăși viteza cu care guvernele și instituțiile construiesc reguli de siguranță.
Propunerea apare într-o analiză a Anthropic Institute dedicată conceptului de „recursive self-improvement” — situația în care un sistem AI contribuie la proiectarea, testarea și dezvoltarea unor sisteme AI mai capabile. Anthropic precizează că acest scenariu complet nu s-a produs încă și că nu este inevitabil, dar avertizează că evoluția ar putea avea loc mai repede decât sunt pregătite instituțiile. (Anthropic)
Ce înseamnă „AI care construiește AI”
Conceptul nu descrie neapărat un sistem care își creează singur un succesor fără nicio intervenție umană. În forma sa actuală, el se referă la folosirea modelelor AI pentru activități precum scrierea și verificarea codului, testarea experimentelor, identificarea erorilor și accelerarea cercetării.
Potrivit Anthropic, dezvoltarea modelelor era în trecut condusă în principal de oameni, etapă cu etapă. În prezent, compania spune că deleagă o parte tot mai mare a muncii interne către propriile sisteme AI. Această schimbare poate scurta ciclurile de dezvoltare, însă nu înseamnă automat că un model își poate proiecta, antrena și valida complet succesorul.
Distincția este importantă: datele prezentate de Anthropic descriu o creștere a rolului AI în activitatea unui laborator, nu dovada că a fost atinsă autoîmbunătățirea autonomă deplină. Tocmai această posibilă trecere de la asistarea cercetătorilor la accelerarea sistematică a următoarei generații de modele este miza avertismentului companiei. (Anthropic)
Propunerea unei pauze coordonate
Anthropic pledează pentru un plan comun între laboratoarele care dezvoltă sisteme AI avansate. În viziunea companiei, o eventuală pauză ar trebui să fie declanșată pe baza unor criterii clare, verificată de o structură credibilă și ridicată numai după ce sunt îndeplinite condiții de siguranță.
Reuters relatează că propunerea urmărește să ofere timp pentru dezvoltarea unor reguli, metode de monitorizare și instrumente de cercetare a siguranței. Nu este vorba despre o decizie deja adoptată la nivel internațional, ci despre ideea unui mecanism care să poată fi activat dacă sistemele devin prea riscante. (Reuters)
Compania avertizează că o oprire unilaterală nu ar rezolva problema. Dacă un singur laborator își încetinește activitatea, iar rivalii continuă dezvoltarea, avantajul competitiv s-ar putea muta către actorii care acceptă riscuri mai mari. De aceea, Anthropic susține că orice măsură eficientă ar avea nevoie de participarea mai multor laboratoare bine finanțate și de reguli care să poată fi verificate în practică.
Cifrele prezentate de Anthropic
Anthropic indică mai multe măsurători interne pentru a ilustra cât de mult a crescut rolul AI în activitatea sa. Compania afirmă că, în mai 2026, Claude a generat peste 80% din codul integrat în baza internă de cod.
Anthropic mai susține că, în trimestrul al doilea din 2026, un inginer tipic din companie integra aproximativ de opt ori mai mult cod pe zi decât în 2024. Compania precizează însă că numărul de linii de cod nu reprezintă, de unul singur, o măsură completă a productivității sau a calității software-ului. Cifrele sunt, prin urmare, indicatori ai modului în care Anthropic își descrie propria activitate internă, nu o măsură universală pentru întreaga industrie. (Anthropic)
În aceeași analiză, compania afirmă că durata sarcinilor complexe pe care modelele le pot finaliza autonom s-a dublat aproximativ la fiecare patru luni. Această estimare se referă la capacitatea modelelor de a lucra pe sarcini mai lungi, nu la o demonstrație că AI își îmbunătățește deja singur arhitectura sau obiectivele.
De ce verificarea contează mai mult decât viteza
Pe măsură ce modelele pot executa mai multe etape fără intervenție umană permanentă, supravegherea devine mai dificilă. Un sistem care scrie cod, rulează teste și propune modificări poate accelera cercetarea, dar rezultatele sale trebuie evaluate pentru erori, vulnerabilități și efecte neașteptate.
O pauză credibilă ar presupune mai mult decât un anunț public. Ar trebui stabilit ce nivel de capabilitate sau ce tip de risc declanșează măsura, cine verifică respectarea ei, ce activități sunt suspendate și ce criterii permit reluarea dezvoltării. Fără aceste elemente, o „pauză” ar rămâne dificil de comparat și de aplicat între companii și jurisdicții.
În același timp, o astfel de coordonare ar trebui să țină cont de competiția comercială și geopolitică. Laboratoarele investesc masiv în modele mai performante, iar o măsură aplicată doar de câțiva actori ar putea modifica echilibrul pieței fără să reducă riscul general.
Companiile cer reguli, dar decizia aparține guvernelor
Associated Press relatează că Anthropic susține necesitatea unei metode coordonate pentru încetinirea dezvoltării sistemelor avansate, în contextul temerilor privind pierderea controlului uman asupra unor modele tot mai capabile.
AP notează și poziția exprimată de OpenAI într-un raport separat: regulile și mecanismele de responsabilitate ar trebui stabilite, în cele din urmă, de guverne democratice, nu de companii private care acționează singure. Diferența indică una dintre problemele centrale ale dezbaterii: laboratoarele pot propune măsuri tehnice și standarde voluntare, dar legitimitatea și aplicarea unor restricții extinse depind de autorități publice. (AP News)
Ce urmează pentru propunerea Anthropic
Anthropic Institute a anunțat că va analiza mecanismele necesare pentru o încetinire verificabilă și că intenționează să aducă la aceeași discuție decidenți politici, cercetători, organizații civice și companii rivale. Obiectivul este examinarea riscurilor asociate cu „recursive self-improvement”, nu anunțarea unei opriri deja convenite. (Reuters)
Miza imediată nu este dacă AI a început deja să-și construiască singur succesorul, ci dacă instituțiile pot crea metode de măsurare, verificare și intervenție înainte ca laboratoarele să opereze într-un ritm pe care regulile existente nu îl mai pot urmări.
