Anthropic, compania din spatele chatbotului Claude, cere un mecanism coordonat la nivel global prin care dezvoltarea celor mai avansate sisteme AI să poată fi încetinită sau oprită temporar, dacă riscurile cresc prea repede. Avertismentul vine într-o analiză publicată de Anthropic Institute despre „recursive self-improvement”, adică momentul în care un sistem AI ar putea ajuta la proiectarea și dezvoltarea următoarei generații de AI. (Anthropic)
Se schimbă regulile jocului înainte să fie prea târziu? Întrebarea devine tot mai apăsătoare, pentru că Anthropic spune că AI-ul accelerează deja munca din interiorul laboratoarelor de frontieră, iar instituțiile ar putea să nu fie pregătite pentru viteza cu care tehnologia avansează. (Anthropic)
Ce înseamnă „AI care construiește AI”
Pe scurt, tema nu este despre un robot SF care scapă peste noapte de sub control, ci despre ceva mai concret: modele AI folosite pentru a scrie cod, testa experimente, repara erori și accelera cercetarea care duce la modele AI mai puternice.
Anthropic spune că, în trecut, oamenii conduceau fiecare etapă a dezvoltării AI. Acum, compania afirmă că deleagă o parte tot mai mare din munca de dezvoltare către sisteme AI, ceea ce îi accelerează activitatea internă. În analiza sa, Anthropic notează că nu s-a ajuns încă la punctul în care AI își poate construi complet succesorul și că acest scenariu nu este inevitabil, dar avertizează că ar putea veni mai repede decât sunt pregătite multe instituții. (Anthropic)
De ce cere Anthropic o frână globală
Reuters relatează că Anthropic le cere marilor laboratoare AI să ia în calcul o pauză coordonată și verificabilă în dezvoltare, dacă sistemele devin prea riscante. Ideea companiei este că o pauză ar da societății timp să construiască reguli, metode de monitorizare și cercetare de siguranță înainte ca tehnologia să avanseze dincolo de capacitatea instituțiilor de a reacționa. (Reuters)
Compania avertizează însă că o pauză făcută de un singur laborator nu ar rezolva problema. Dimpotrivă, ar putea doar să schimbe liderul cursei, dacă alți jucători continuă să avanseze. De aceea, Anthropic vorbește despre un mecanism care să implice mai multe laboratoare bine finanțate, reguli clare pentru declanșarea și ridicarea unei pauze și o formă de supraveghere credibilă. (Reuters)
Cât de repede avansează Claude, potrivit Anthropic
Datele publicate de Anthropic sunt spectaculoase. Compania susține că, în mai 2026, peste 80% din codul integrat în baza sa internă a fost scris de Claude, iar în trimestrul al doilea din 2026 un inginer tipic din companie integra de aproximativ 8 ori mai mult cod pe zi decât în 2024. Anthropic precizează totuși că numărul de linii de cod nu măsoară perfect productivitatea sau calitatea. (Anthropic)
În aceeași analiză, compania spune că modelele AI au devenit tot mai capabile să rezolve sarcini lungi și complexe, iar durata sarcinilor pe care le pot finaliza autonom s-ar fi dublat aproximativ la fiecare patru luni. Reuters preia același avertisment: tehnologia se îndreaptă spre un punct în care ar putea începe să se îmbunătățească fără intervenție umană directă. (Anthropic)
Miza: control, siguranță și cursa dintre companii
Associated Press notează că Anthropic propune ca marile companii AI să găsească o metodă coordonată de a încetini dezvoltarea sistemelor avansate, în timp ce riscul invocat este pierderea controlului uman asupra unor sisteme tot mai capabile. AP mai arată că OpenAI a susținut, într-un raport separat, că regulile și mecanismele de responsabilitate ar trebui stabilite în cele din urmă de guverne democratice, nu de companii private care acționează singure. (AP News)
Aici apare tensiunea centrală: companiile AI concurează pentru modele mai puternice, investiții uriașe și avantaje comerciale, dar în același timp unele dintre ele avertizează că ritmul poate deveni periculos. Anthropic spune că o încetinire prost coordonată ar putea avantaja actorii mai puțin prudenți, motiv pentru care cere un cadru comun. (Reuters)
Ce urmează
Anthropic Institute anunță că va studia mecanismele necesare pentru o încetinire credibilă și că va reuni, în lunile următoare, decidenți politici, cercetători, organizații civice și companii rivale pentru a discuta riscurile legate de „recursive self-improvement”. (Reuters)
Pentru publicul larg, subiectul se reduce la o idee simplă și neliniștitoare: dacă AI începe să accelereze dezvoltarea AI, cursa nu mai este doar între companii, ci între viteza tehnologiei și viteza cu care societatea poate pune reguli, limite și sisteme de siguranță.
