Pozele create cu AI trebuie etichetate în Uniunea Europeană

Conținutul care poate păcăli publicul că prezintă persoane, locuri ori evenimente reale trebuie identificat clar drept artificial, iar sistemele care îl produc trebuie să includă și marcaje digitale detectabile automat.

Măsurile fac parte din Regulamentul european privind inteligența artificială – AI Act, adoptat în 2024 și aplicat etapizat. Sursa juridică principală este articolul 50 al regulamentului, care stabilește obligațiile pentru companiile ce dezvoltă instrumentele AI și pentru organizațiile ori persoanele care publică anumite materiale generate cu acestea. (EUR-Lex)

Ce poze sunt afectate de noile reguli

Regulamentul vizează în special imaginile care constituie un deepfake. Legea definește deepfake-ul drept o imagine, o înregistrare audio sau un videoclip generat ori manipulat cu AI, care seamănă cu persoane, obiecte, locuri sau evenimente existente și poate părea în mod fals autentic. (EUR-Lex)

În această categorie pot intra:

• o fotografie falsă în care un politician pare că participă la o întâlnire care nu a avut loc;

• o imagine realistă cu o celebritate promovând un produs pe care nu l-a recomandat;

• o poză modificată astfel încât o persoană să apară într-un loc unde nu a fost;

• o imagine artificială prezentată drept fotografie de la un protest, incendiu sau război;

• un videoclip în care chipul ori vocea unei persoane sunt înlocuite;

• o reclamă cu un model virtual care pare o persoană reală;

• o imagine de produs generată integral de AI, dacă este prezentată ca fotografie autentică.

Cel care publică un asemenea material trebuie să informeze publicul, într-o formă clară și vizibilă, că acesta a fost generat sau manipulat artificial. Informarea trebuie oferită cel târziu la prima expunere a utilizatorului la conținut. (EUR-Lex)

Nu orice fotografie retușată trebuie marcată

Regulile nu transformă orice editare banală într-un deepfake.

Articolul 50 prevede o excepție pentru sistemele care îndeplinesc doar o funcție de asistență în editarea standard și care nu modifică substanțial datele inițiale sau sensul imaginii. (EUR-Lex)

În general, nu ar trebui să necesite etichetare separată:

• reglarea luminozității sau contrastului;

• corectarea culorilor;

• reducerea zgomotului;

• decuparea fotografiei;

• eliminarea efectului de ochi roșii;

• îmbunătățirea clarității;

• comprimarea ori redimensionarea;

• mici retușuri care nu schimbă realitatea prezentată.

Diferența este dată de efectul modificării. Dacă AI doar îmbunătățește tehnic fotografia, obligația poate să nu se aplice. Dacă adaugă persoane, schimbă acțiuni, mută subiectul într-un alt loc sau creează o scenă care nu a existat, conținutul intră mult mai probabil sub regulile de transparență.

Două tipuri de etichetare

Noua legislație introduce două niveluri distincte de informare.

Marcajul digital

Companiile care dezvoltă sisteme generative trebuie să proiecteze instrumentele astfel încât rezultatele să conțină un marcaj detectabil automat. Acesta poate lua forma:

• metadatelor;

• unui filigran digital;

• unei semnături criptografice;

• unei informații privind originea fișierului;

• unei amprente tehnice integrate în conținut.

Marcajul nu trebuie neapărat să fie vizibil cu ochiul liber. Rolul său este să permită platformelor și programelor de verificare să detecteze dacă materialul a fost creat sau modificat cu AI. Soluția trebuie să fie, în limitele posibilului tehnic, eficientă, robustă și interoperabilă. (Digital Strategy)

Eticheta pentru public

Atunci când este publicat un deepfake, persoana sau organizația care îl folosește trebuie să anunțe clar publicul.

Formularea poate fi, de exemplu:

• „Imagine generată cu inteligență artificială”;

• „Conținut modificat cu AI”;

• „Reconstituire vizuală realizată cu AI”;

• „Personaj virtual”.

O simplă informație ascunsă în datele tehnice ale fișierului nu este suficientă pentru materialele care trebuie declarate publicului.

Ce se întâmplă cu imaginile artistice și satirice

AI Act nu interzice filmele, arta digitală, satira, ficțiunea sau creațiile vizuale realizate cu AI.

Pentru materialele evident artistice, creative, satirice ori fictive, informarea poate fi făcută într-o manieră care să nu strice experiența publicului. De exemplu, precizarea poate apărea în descriere, în generic sau lângă lucrare, fără să fie aplicat un mesaj mare peste fiecare cadru. (EUR-Lex)

Astfel, o ilustrație fantastică prezentată clar drept operă artistică nu este tratată la fel ca o fotografie falsă publicată pentru a convinge cititorii că un eveniment real a avut loc.

Sunt afectate și reclamele

Da, dacă folosesc imagini generate ori modificate cu AI care pot fi percepute drept autentice.

Exemple:

• un magazin folosește modele virtuale care par persoane reale;

• o agenție creează cu AI fotografia unui hotel care nu arată astfel în realitate;

• un producător prezintă un produs generat digital ca și cum ar fi fost deja fabricat;

• o companie folosește imaginea sau vocea artificială a unei persoane cunoscute.

Companiile europene din retail au cerut Comisiei să limiteze aplicarea regulilor în publicitate, avertizând că foarte multe materiale comerciale folosesc deja AI în diferite etape. Comisia nu a introdus însă o excludere generală pentru reclame. (Reuters)

Ce reguli se aplică presei și textelor

Și textele generate sau modificate cu AI pot intra sub obligațiile de transparență atunci când sunt publicate pentru informarea publicului asupra unor chestiuni de interes general.

Există însă o excepție importantă: etichetarea nu este obligatorie în aceeași formă dacă materialul a trecut printr-un proces real de verificare umană ori control editorial, iar o persoană sau o companie își asumă răspunderea editorială pentru publicare. (EUR-Lex)

Pentru presă, diferența este între:

• publicarea automată a unui text AI fără control, care trebuie declarată;

• folosirea AI ca instrument de lucru, urmată de verificare, rescriere și asumare editorială umană.

Comisia Europeană precizează că deepfake-urile și anumite texte AI despre subiecte de interes public trebuie etichetate clar, tocmai pentru reducerea manipulării și dezinformării. (Digital Strategy)

Chatboții trebuie să spună că sunt sisteme AI

Noile reguli nu se limitează la poze.

Un utilizator trebuie informat atunci când discută direct cu un sistem AI, cu excepția situațiilor în care acest lucru este evident. Obligația poate viza:

• chatboții magazinelor;

• asistenții bancari;

• sistemele automate de rezervări;

• operatorii vocali artificiali;

• conturile virtuale de relații cu clienții.

Compania nu poate prezenta în mod înșelător robotul conversațional ca pe un angajat uman. (Digital Strategy)

Ce se schimbă din 2 august 2026

Regulamentul AI Act a intrat în vigoare în 2024, însă obligațiile privind transparența conținutului se aplică de la 2 august 2026. (EUR-Lex)

De la această dată:

1. sistemele AI noi trebuie să poată marca tehnic materialele generate;

2. deepfake-urile trebuie declarate publicului;

3. utilizatorii trebuie informați când interacționează cu un chatbot;

4. anumite texte despre probleme de interes public trebuie identificate drept generate cu AI;

5. autoritățile pot verifica respectarea obligațiilor.

Pentru sistemele introduse pe piață înainte de 2 august 2026, Parlamentul European a aprobat o perioadă suplimentară de adaptare a marcajelor tehnice până la 2 decembrie 2026. (Europarl)

Cine răspunde pentru o poză falsă

Responsabilitatea poate reveni unor actori diferiți.

Furnizorul sistemului AI trebuie să integreze marcajele digitale și mecanismele de detectare.

Compania, instituția, publicația sau persoana care folosește și publică deepfake-ul trebuie să îl eticheteze clar pentru public.

O rețea socială poate avea, separat, obligații de moderare și transparență potrivit altor reguli europene, precum Digital Services Act.

Pentru utilizatorul obișnuit, problema apare mai ales atunci când distribuie public conținut realist și înșelător, în special în contexte comerciale, politice sau de interes public. Legea este orientată în principal către furnizori și operatori economici, iar sancțiunea nu se aplică automat oricărei fotografii private trimise între prieteni.

Amenzi de până la 15 milioane de euro

Încălcarea obligațiilor de transparență din articolul 50 poate fi sancționată cu până la:

• 15 milioane de euro;

• sau 3% din cifra de afaceri globală anuală a companiei, dacă această valoare este mai mare.

Pentru întreprinderile mici și startup-uri se aplică limita mai redusă dintre suma fixă și procentul din cifra de afaceri. Autoritățile trebuie să analizeze gravitatea, durata și caracterul intenționat al încălcării înainte de stabilirea sancțiunii. (EUR-Lex)

Amenzile de până la 35 de milioane de euro sau 7% din cifra de afaceri privesc folosirea unor practici AI interzise, nu simpla omisiune a unei etichete de pe o fotografie. (EUR-Lex)

Ce trebuie să facă un site sau o companie

Pentru reducerea riscurilor, organizațiile care publică imagini ar trebui să păstreze evidența modului în care au fost create și să diferențieze între editarea tehnică și modificarea substanțială.

O procedură minimă poate include:

• verificarea dacă imaginea este reală, generată sau modificată;

• păstrarea fișierului original;

• menționarea instrumentului AI folosit;

• aplicarea unei etichete vizibile când materialul poate părea autentic;

• păstrarea metadatelor și a marcajelor tehnice;

• verificarea umană înainte de publicarea în presă;

• evitarea prezentării unei reconstituiri drept fotografie documentară.

Regulamentul nu interzice folosirea inteligenței artificiale. El obligă însă companiile și creatorii să nu lase publicul să creadă că o scenă artificială este o dovadă fotografică reală.

Surse

• Parlamentul European – regulile principale ale AI Act (Europarl)

• EUR-Lex – Regulamentul UE 2024/1689 și articolul 50 (EUR-Lex)

• Comisia Europeană – ghidul privind transparența conținutului AI (Digital Strategy)

• Comisia Europeană – Codul de practică pentru marcarea materialelor generate cu AI (Digital Strategy)

• Reuters – efectele regulilor asupra publicității generate cu AI (Reuters)