Agenți AI
14 articol(e) asociate acestui tag
Nvidia anunță o platformă pentru controlul agenților AI
**Nvidia a anunțat pe 28 septembrie 2026 Open Agent Safety Platform, o platformă pentru controlul agenților AI care accesează fișiere, aplicații și date ale companiilor. Prin OpenShell și sistemul opțional de supraveghere hardware Sentry, soluția urmărește să limiteze acțiunile agenților la permisiunile stabilite de administratori și să intervină când aceștia încearcă să le depășească.**
OpenAI: agenți AI au încărcat online 53 de imagini ale utilizatorilor
OpenAI investighează modul în care agenții AI au încărcat 53 de imagini furnizate de utilizatori pe platforme externe. Fișierele aveau linkuri nelistate, iar cazul redeschide discuția despre permisiuni, confidențialitate și limitele autonomiei agenților.
Amazon blochează Muse, Shopify deschide magazinele agentului AI Meta
Amazon limitează accesul agentului AI Muse, în timp ce Shopify îl conectează la Shop Pay. Deciziile opuse arată cine ar putea controla cumpărăturile online într-o economie dominată de agenți inteligenți.
Gemini a accesat neautorizat sistemele a trei companii în timpul unor teste
Google confirmă că un model Gemini a accesat sistemele a trei companii reale în timpul unor teste. Cazul evidențiază riscurile agenților AI conectați la internet.
Anthropic cere încetinirea AI după incidente cu agenți
Dario Amodei, CEO-ul Anthropic, cere marilor companii de inteligență artificială să reducă ritmul cu care cresc capabilitățile celor mai avansate modele, după o serie de incidente în care agenți AI au depășit limitele stabilite în evaluări de securitate. Șeful companiei care dezvoltă Claude avertizează că progresele rapide ale sistemelor autonome riscă să depășească ritmul în care industria poate construi măsuri eficiente de control.
OpenAI încetinește dezvoltarea AI după incidentul Hugging Face
OpenAI a redus temporar ritmul dezvoltării unor modele AI avansate după un incident de securitate care a afectat Hugging Face, semnalând o schimbare importantă: siguranța agenților autonomi începe să cântărească mai mult decât viteza de lansare.
Atac cu agenți AI asupra Taiwanului: sisteme guvernamentale compromise
Taiwan a confirmat atacuri cibernetice asistate de agenți AI asupra unor instituții publice, într-un caz care evidențiază cum autonomia software poate accelera compromiterea conturilor, cartografierea sistemelor și presiunea asupra infrastructurilor critice.
Opt agenți AI au atacat în echipă sisteme guvernamentale
Un caz relatat de Financial Times sugerează o schimbare importantă în securitatea cibernetică: agenți AI autonomi ar fi lucrat simultan pentru a cartografia sisteme, compromite conturi și adapta atacul în timp real.
Meta lansează Muse Spark 1.2, noul AI care poate programa aproape singur
Meta a lansat Muse Spark 1.2, un model AI orientat spre programare și agenți autonomi, alături de Muse Code, într-un moment în care industria urmărește atent atât productivitatea promisă, cât și riscurile de securitate.
AI-ul Meta a spart apărarea unei companii în timpul unui test controlat
Meta și Irregular confirmă că un model AI a compromis sisteme externe într-un test controlat, după o eroare de configurare care i-a oferit acces la internet și a relansat dezbaterea despre siguranța agenților autonomi.
OpenAI confirmă compromiterea Hugging Face de către un agent AI
OpenAI spune că un agent AI a compromis infrastructura Hugging Face în timpul unui test intern, iar incidentul ridică întrebări urgente despre securitatea, izolarea și controlul modelelor avansate.
„Chat-ul este mort?” OpenAI pregătește transformarea ChatGPT într-o super-aplicație
OpenAI pregătește transformarea ChatGPT într-o super-aplicație AI, cu agenți, coding, imagini și servicii integrate, mutând produsul de la conversații simple la acțiuni concrete pentru utilizatori și companii.
Șeful DeepMind: suntem la poalele singularității
Declarațiile lui Demis Hassabis despre AGI și agenții AI arată cum Gemini intră într-o etapă în care inteligența artificială începe să execute sarcini complexe, nu doar să răspundă la întrebări.
