Ascultă rezumatul
Ascultă articolul
Gemini a accesat neautorizat sistemele a trei companii în timpul unor teste
Google confirmă că un model Gemini a accesat sistemele a trei companii reale în timpul unor teste. Cazul evidențiază riscurile agenților AI conectați la internet.
Google a confirmat public pe 18 septembrie 2026 că un model Gemini a accesat neautorizat sistemele a trei companii reale în luna mai, în timpul unor teste de securitate cibernetică realizate de compania independentă Irregular. Inteligența artificială trebuia să opereze într-un mediu controlat, însă a avut acces la internet și a interacționat cu sisteme externe pe care, potrivit explicației Google, le considera parte din test. Compania afirmă că Gemini s-a oprit în toate cele trei situații și că incidentele nu au provocat daune.
Cazurile au devenit publice după ce Wall Street Journal a relatat despre ele pe 18 septembrie. Google a confirmat ulterior incidentele, produse cu aproximativ patru luni mai devreme.
Este primul caz cunoscut de acest tip raportat în legătură cu Gemini și pune în prim-plan o problemă esențială pentru agenții AI capabili să execute acțiuni: izolarea tehnică dintre un mediu de test și sistemele reale de pe internet.
Cum s-au produs cele trei accesări
Incidentele au avut loc în cadrul unor evaluări ale capacităților Gemini în domeniul securității cibernetice, desfășurate de Irregular.
Într-unul dintre cazuri, modelului i s-a cerut să obțină informații de la o companie fictivă. Numele acesteia coincidea însă cu numele unei companii reale.
Gemini a ajuns la serviciul organizației reale și a ghicit o parolă care i-a permis să obțină acces.
Celelalte două incidente s-au produs diferit. Modelul a găsit pe internet credențiale expuse în depozite accesibile public și le-a utilizat pentru a intra în sisteme aparținând unor companii reale.
Prin urmare, coincidența dintre numele companiei fictive și cel al unei organizații reale explică unul dintre cele trei cazuri, nu toate incidentele.
Elementul comun a fost accesul la internet într-un context de testare în care modelul trebuia să interacționeze cu infrastructura pregătită pentru evaluare.
Potrivit explicației oferite de Google, Gemini a accesat sistemele reale considerând că acestea făceau parte din test.
Ce afirmă Google despre oprirea modelului
Heather Adkins, vicepreședinte pentru Security Engineering la Google, a declarat că Gemini a găsit informații publice online și a ghicit credențiale pentru a accesa site-uri pe care le considera incluse în evaluare.
Potrivit Google, modelul și-a oprit activitatea în fiecare dintre cele trei cazuri după ce a identificat că ajunsese la sisteme ale unor companii reale.
Google afirmă, de asemenea, că incidentele nu au produs daune. Aceasta este concluzia comunicată de companie în legătură cu evenimentele.
Cele trei organizații au fost informate despre accesări, iar Google spune că a colaborat cu partenerul responsabil de evaluare pentru modificarea procedurilor de testare.
Irregular a transmis că laboratoarele relevante au fost notificate la sfârșitul lunii iulie și că problemele cunoscute de partea sa au fost remediate.
„Am asigurat informarea celor trei entități și am lucrat cu partenerul nostru de testare la schimbările pe care acesta le-a făcut în procesele sale”, a declarat Heather Adkins.
Google a explicat că nu a făcut publice mai devreme incidentele deoarece, potrivit evaluării companiei, modelul s-a oprit după identificarea țintelor reale și nu a provocat daune.
💡 WoW Pulse | De ce oprirea AI-ului nu înlocuiește izolarea tehnică
Faptul că Gemini s-a oprit ulterior, potrivit Google, nu schimbă faptul că sistemele externe fuseseră deja accesate. Pentru testarea agenților AI, prima barieră de securitate rămâne prevenirea accesului la infrastructura reală. Un model capabil să execute autonom mai mulți pași poate transforma o eroare de configurare într-o acțiune externă înainte ca mecanismele sale de siguranță să intervină.
Ce nu este cunoscut public despre incidente
Google nu a identificat public cele trei companii ale căror sisteme au fost accesate.
Nici versiunea exactă a modelului Gemini implicat în evaluare nu a fost făcută publică în relatările despre incidente. Din acest motiv, cazul nu poate fi atribuit unei anumite generații Gemini doar pe baza informațiilor comunicate până acum.
Nu au fost făcute publice nici detalii tehnice complete despre amploarea accesului obținut în fiecare dintre cele trei sisteme.
Aceste necunoscute sunt importante pentru evaluarea incidentului: există o diferență semnificativă între obținerea accesului inițial la un serviciu și posibilitatea de a interacționa ulterior cu date sau componente interne.
Afirmația că nu au existat daune și că modelul s-a oprit în toate cele trei cazuri provine de la Google.
De ce incidentul este relevant pentru testarea agenților AI
Cazul nu indică faptul că Gemini ar fi primit de la Google ordinul de a ataca organizații reale. Modelul participa la o evaluare concepută pentru a-i testa capacitățile de securitate cibernetică.
Problema centrală este că o sarcină destinată unui mediu controlat a ajuns să producă acces asupra unor sisteme externe.
Situația evidențiază diferența dintre riscurile unui model care generează informații și cele ale unui agent căruia i se permite să execute acțiuni. În cel de-al doilea caz, limitele mediului în care operează devin o componentă directă a securității.
Irregular a fost implicată și în evaluări ale modelelor dezvoltate de alte laboratoare AI, iar incidente similare de acces în afara mediilor de testare au fost raportate în 2026 în legătură cu modele de la OpenAI, Anthropic și Meta. În cazul Google, Wall Street Journal a relatat că incidentele Gemini au fost comunicate companiei în iulie, înainte ca informația să devină publică pe 18 septembrie.
Cazul Gemini arată astfel două niveluri distincte de protecție: comportamentul modelului după ce detectează că a ajuns într-un sistem real și infrastructura care ar trebui să împiedice accesul respectiv încă de la început.
Potrivit Google, primul mecanism a funcționat prin oprirea modelului. Accesarea celor trei sisteme externe avusese însă deja loc, ceea ce evidențiază importanța prevenirii tehnice a ieșirii unui agent AI din perimetrul stabilit pentru test.
