OpenAI și CEO-ul Sam Altman sunt vizați de un proces în SUA, după ce o mamă din Canada susține că ChatGPT nu a intervenit suficient în conversațiile purtate de fiica ei înainte de deces. Cazul, relatat de Al Jazeera și Reuters, redeschide una dintre cele mai sensibile întrebări ale momentului: cât de responsabilă devine inteligența artificială atunci când oamenii o folosesc în situații de vulnerabilitate? (Al Jazeera)
O acuzație gravă împotriva celui mai cunoscut chatbot
Procesul a fost depus în California de Kristie Carrier, mama lui Alice Carrier, o tânără de 24 de ani din Montreal, dezvoltator web, care a murit pe 2 iulie 2025. Plângerea susține că OpenAI ar fi ignorat semnale repetate de criză apărute în conversațiile dintre Alice și ChatGPT. (Al Jazeera)
Potrivit Al Jazeera, acțiunea a fost introdusă într-o instanță din San Francisco de firmele Tech Justice Law, Social Media Victims Law Center și Susman Godfrey, iar documentul îi menționează ca pârâți pe OpenAI și Sam Altman. Acuzațiile sunt, în acest moment, susțineri formulate într-un proces și nu reprezintă concluzii stabilite definitiv de o instanță. (Al Jazeera)
Ce susține familia
Avocații familiei susțin că sistemele de siguranță ale ChatGPT nu ar fi intervenit adecvat, deși conversațiile ar fi indicat o stare de risc. Plângerea afirmă că platforma nu ar fi alertat familia și nu ar fi redirecționat suficient de ferm utilizatoarea către ajutor uman în momente critice. (Al Jazeera)
Al Jazeera scrie că acest caz este prezentat de avocați ca fiind unul dintre 19 procese pentru deces pe nedrept cu care OpenAI s-ar confrunta în prezent. Reuters a relatat, de asemenea, că familia acuză compania că chatbotul nu a semnalat interacțiunile riscante și nu a oferit protecția necesară. (Al Jazeera)
OpenAI spune că analizează cazul
OpenAI a transmis pentru Al Jazeera că situația este „sfâșietoare” și că analizează documentele depuse în instanță. Compania a precizat că interacțiunile menționate în proces au avut loc cu o versiune anterioară de ChatGPT, care nu mai este disponibilă, și că lucrează continuu la îmbunătățirea măsurilor de siguranță. (Al Jazeera)
Compania afirmă că sistemele sale sunt concepute pentru a identifica semne de suferință, pentru a gestiona mai sigur cererile sensibile și pentru a îndruma utilizatorii către sprijin din lumea reală. În comunicările oficiale, OpenAI a anunțat că a lucrat cu peste 170 de experți în sănătate mintală pentru îmbunătățirea răspunsurilor ChatGPT în conversații dificile. (OpenAI)
Cazul lovește direct în dezbaterea despre AI
Procesul vine într-un moment în care ChatGPT este folosit masiv pentru muncă, educație, organizare personală, dar și pentru conversații emoționale. Tocmai aici apare miza uriașă: un chatbot poate părea disponibil permanent, calm și empatic, dar nu este un terapeut, un medic sau un serviciu de urgență.
OpenAI a anunțat anterior că modelele mai noi au fost ajustate pentru a reduce răspunsurile nedorite în conversații sensibile, inclusiv prin schimbări la GPT-5 față de versiuni anterioare. Compania spune că a urmărit reducerea situațiilor în care modelul nu respectă comportamentul dorit în teme de criză personală. (OpenAI)
Presiune legală tot mai mare pe companiile AI
Cazul Alice Carrier adaugă presiune pe industria AI, care se confruntă tot mai des cu întrebări despre dependență emoțională, limitele conversațiilor automate și obligațiile platformelor atunci când detectează risc pentru utilizatori.
Al Jazeera notează că autorități din mai multe zone au început să discute reguli noi pentru chatboturi, inclusiv obligații de transparență și avertismente că utilizatorii nu vorbesc cu o persoană reală. În acest context, procesul împotriva OpenAI poate deveni un caz important pentru felul în care instanțele vor privi responsabilitatea companiilor AI în situații de criză. (Al Jazeera)
Miza depășește un singur proces
Pentru public, cazul ridică o întrebare incomodă: ce se întâmplă când un instrument creat pentru răspunsuri rapide ajunge să fie folosit ca sprijin emoțional de oameni aflați în momente vulnerabile?
Pentru companiile AI, miza este și mai mare. Nu mai este vorba doar despre performanță, viteză sau popularitate, ci despre limite, avertismente, intervenții de siguranță și responsabilitate atunci când tehnologia intră în cele mai fragile zone ale vieții oamenilor.
