OpenAI și Sam Altman sunt vizați de un proces în SUA, după decesul unei tinere din Montreal care ar fi purtat conversații cu ChatGPT înainte de 2 iulie 2025. Mama acesteia susține că sistemul nu a reacționat suficient la semnalele de criză transmise de fiica ei. Cazul readuce în atenție limitele chatboturilor și responsabilitatea platformelor AI în interacțiunile cu persoane vulnerabile.
Cine a deschis acțiunea împotriva OpenAI
Acțiunea a fost introdusă în California de Kristie Carrier, mama lui Alice Carrier, o dezvoltatoare web în vârstă de 24 de ani din Montreal, care a murit la 2 iulie 2025.
Potrivit relatării Al Jazeera, procesul a fost depus la San Francisco de firmele Tech Justice Law, Social Media Victims Law Center și Susman Godfrey. Documentul îi indică drept pârâți pe OpenAI și Sam Altman. Susținerile prezentate în plângere aparțin familiei și avocaților acesteia și nu reprezintă concluzii definitive ale instanței. (Al Jazeera)
Relatarea publică a cazului leagă acțiunea de conversațiile purtate de Alice Carrier cu ChatGPT înainte de deces. Nu rezultă însă că instanța ar fi stabilit deja o legătură cauzală între utilizarea chatbotului și moartea tinerei.
Acuzațiile familiei privind răspunsurile ChatGPT
Avocații lui Kristie Carrier susțin că Alice ar fi transmis în conversațiile cu ChatGPT semnale repetate privind o stare de criză. Familia acuză sistemul că nu ar fi reacționat adecvat la aceste mesaje.
Printre reproșurile prezentate se numără faptul că chatbotul nu ar fi îndrumat-o suficient de ferm pe utilizatoare către sprijin uman și că familia nu ar fi fost alertată în momentele considerate critice. Aceste afirmații urmează să fie evaluate în cadrul procedurii judiciare. (Al Jazeera)
Al Jazeera relatează că reprezentanții legali ai familiei descriu cazul ca făcând parte dintr-un grup de 19 procese pentru deces pe nedrept cu care OpenAI s-ar confrunta. Cifra este atribuită avocaților și este prezentată în contextul acțiunii Carrier; articolul nu o prezintă ca pe o statistică oficială a instanțelor. (Al Jazeera)
Poziția OpenAI și diferența dintre versiunile ChatGPT
OpenAI a transmis că situația este „sfâșietoare” și că analizează documentele depuse în instanță. Compania susține că interacțiunile invocate în proces au avut loc cu o versiune anterioară de ChatGPT, care nu mai este disponibilă.
„Este o situație sfâșietoare și analizăm documentele depuse în instanță”, a transmis OpenAI, potrivit relatării Al Jazeera.
Compania afirmă că își îmbunătățește constant măsurile de siguranță pentru conversațiile sensibile. Acestea includ identificarea semnelor de suferință, răspunsuri mai prudente și îndrumarea utilizatorilor către sprijin din lumea reală. (Al Jazeera)
Într-un document oficial despre GPT-5, OpenAI afirmă că a colaborat cu peste 170 de experți în sănătate mintală pentru îmbunătățirea răspunsurilor în conversații dificile. Compania prezintă acest demers ca parte a ajustării comportamentului modelelor în situații care pot implica suferință psihologică sau risc personal. (OpenAI)
De ce este relevantă versiunea modelului
Mențiunea că dialogurile au avut loc cu o versiune mai veche este importantă pentru evaluarea tehnică a acuzațiilor. Modelele conversaționale sunt actualizate, iar regulile de siguranță și răspunsurile la mesaje sensibile pot varia între versiuni.
OpenAI spune că modelele mai noi, inclusiv GPT-5, au fost ajustate pentru a reduce răspunsurile nedorite în conversații despre crize personale. Potrivit companiei, modificările urmăresc să limiteze situațiile în care modelul nu respectă comportamentul de siguranță dorit în astfel de dialoguri. (OpenAI)
Aceste afirmații despre sistemele actuale nu stabilesc automat cum a funcționat versiunea folosită în conversațiile invocate de familie. Tocmai această diferență poate deveni relevantă în examinarea cazului: ce model era activ, ce reguli de siguranță avea și cum a răspuns la mesajele descrise în plângere.
Ce poate analiza instanța
În centrul acțiunii se află acuzația că răspunsurile și măsurile de siguranță ale ChatGPT nu ar fi fost suficiente în raport cu semnalele atribuite lui Alice Carrier. Evaluarea va privi susținerile familiei și funcționarea versiunii de ChatGPT utilizate în conversațiile invocate.
Procesul poate aduce în discuție mai multe elemente concrete ale unui serviciu conversațional:
- modul în care platforma identifică semnalele asociate unei crize;
- claritatea recomandărilor către familie, specialiști sau servicii de urgență;
- limitele pe care platforma le comunică utilizatorilor;
- diferențele dintre versiunea folosită în conversațiile invocate și sistemele lansate ulterior.
La nivel juridic, însă, acuzațiile familiei nu echivalează cu o constatare că ChatGPT a provocat decesul. Stabilirea responsabilității va depinde de examinarea faptelor, a conversațiilor relevante și a obligațiilor care pot fi aplicate companiei în circumstanțele respective.
Limitele unui chatbot în situații de criză
Un chatbot poate răspunde rapid și poate folosi un limbaj empatic, dar nu este medic, psiholog, membru al familiei sau serviciu de urgență. Nu poate verifica în mod direct starea fizică a unei persoane și nu poate interveni fizic într-o situație periculoasă.
OpenAI afirmă că răspunsurile pentru conversațiile sensibile trebuie să îi îndrume pe utilizatori către sprijin din lumea reală. Compania a descris, de asemenea, eforturi pentru îmbunătățirea modului în care modelele gestionează astfel de interacțiuni. (OpenAI)
Al Jazeera notează că autorități din mai multe zone au început să discute reguli noi pentru chatboturi. Printre temele menționate se află transparența și avertismentele clare că utilizatorii interacționează cu un sistem automat, nu cu o persoană reală. (Al Jazeera)
Cazul Carrier mută această discuție din zona principiilor generale în cea a unei acțiuni judiciare concrete. Pentru OpenAI, întrebarea este dacă măsurile de siguranță ale versiunii utilizate au fost adecvate în circumstanțele descrise de familie. Pentru industria AI, miza privește proiectarea avertismentelor, detectarea riscului și direcționarea utilizatorilor către ajutor uman.
