Inteligența artificială a extins problema dezinformării: astăzi pot fi imitate nu doar textele, ci și vocile, imaginile, videoclipurile și declarațiile unor persoane reale. Un material sintetic nu devine automat credibil, însă poate părea suficient de autentic pentru a fi distribuit înainte ca originea și contextul să fie verificate.
În România, ca în restul mediului online, riscul este amplificat de circulația rapidă a conținutului pe rețele sociale și în grupuri de mesagerie. Miza nu este doar identificarea unui fals, ci păstrarea unei metode de verificare într-un moment în care imaginile și înregistrările nu mai pot fi tratate, prin ele însele, ca dovezi suficiente.
De ce imaginea și vocea nu mai sunt dovezi suficiente
O fotografie, o înregistrare audio sau un videoclip pot fi generate, modificate ori scoase din context. Un politician poate fi prezentat spunând ceva ce nu a spus, o persoană publică poate apărea într-o scenă fabricată, iar o înregistrare poate imita vocea unei persoane reale.
Uneori, falsul este creat integral cu ajutorul inteligenței artificiale. Alteori, materialul este autentic, dar este editat prin tăierea unor secvențe, adăugarea unei subtitrări false sau asocierea cu un eveniment diferit de cel în care a fost realizat.
De aceea, analiza unor detalii precum mișcarea buzelor, expresia feței ori calitatea sunetului poate ridica întrebări, dar nu poate stabili singură autenticitatea. Un videoclip de calitate slabă poate fi real, în timp ce un fals bine realizat poate să nu prezinte erori vizibile.
Ce efecte poate produce un deepfake
Un deepfake poate afecta reputația unei persoane, poate alimenta o dispută politică sau poate induce panică într-o comunitate. Consecințele pot fi personale, financiare ori sociale, în funcție de subiect și de publicul care primește mesajul.
Zonele cu risc ridicat includ politica, sănătatea, războiul, sistemul bancar, accidentele, prețurile și scandalurile locale. În astfel de cazuri, un mesaj emoțional poate determina reacții înainte ca publicul să verifice cine l-a creat și de unde provine.
Un conținut fals nu trebuie să convingă pe toată lumea pentru a produce efecte. Este suficient să ajungă la un grup relevant, să provoace o reacție sau să fie preluat de alte conturi înainte ca o corecție să circule în același ritm.
Cercetările despre ceea ce este numit liar’s dividend descriu un efect suplimentar: atunci când publicul știe că există falsuri convingătoare, o persoană poate respinge și o înregistrare autentică susținând pur și simplu că a fost generată cu inteligență artificială. Fenomenul este analizat în studiul „Deep Fakes: A Looming Challenge for Privacy, Democracy, and National Security”, semnat de Robert Chesney și Danielle Citron.
Astfel, tehnologia nu produce doar conținut fals, ci poate slăbi încrederea în dovezile reale. Într-o dezbatere publică, afirmația „este făcut cu AI” nu reprezintă o verificare, ci doar o ipoteză care trebuie susținută prin dovezi.
România: contextul poate transforma un material vechi într-o „știre” nouă
În spațiul online românesc, o imagine sau un videoclip poate fi redistribuit cu o descriere nouă, fără ca publicul să poată vedea imediat sursa inițială. Un material real, filmat cu ani în urmă, poate fi prezentat ca fiind de la un eveniment recent. La fel, o declarație autentică poate fi decupată astfel încât să pară că susține o concluzie diferită.
Un prim test nu este întrebarea „pare real?”, ci „ce anume dovedește?”. Dacă materialul nu are autor identificabil, dată, locație și legătură clară cu evenimentul prezentat, valoarea sa ca probă este limitată, indiferent cât de convingătoare pare imaginea.
Pentru verificări în limba română, cititorii pot consulta și Factual, o platformă locală de fact-checking. O analiză de acest tip trebuie citită integral: titlul, eticheta sau fragmentul distribuit pe rețele sociale nu înlocuiesc argumentele și documentele din materialul complet.
Ce prevede Regulamentul european privind inteligența artificială
Regulamentul (UE) 2024/1689 privind inteligența artificială stabilește, la articolul 50, obligații de transparență pentru anumite sisteme și utilizări. Printre acestea se află marcarea într-un format lizibil automat a anumitor rezultate generate artificial și informarea publicului atunci când sunt publicate sau distribuite deepfake-uri.
Aceste prevederi au domenii de aplicare și excepții distincte. Ele nu înseamnă că orice material creat sau modificat cu AI va fi automat detectabil și nici că o platformă ori un utilizator poate trata eticheta tehnică drept dovadă completă a autenticității sau falsității unui conținut.
În cazul anumitor materiale artistice, satirice sau ficționale, regulamentul prevede informarea într-o manieră adecvată, astfel încât să nu fie afectată natura operei. Există, de asemenea, situații exceptate sau reglementate distinct, inclusiv anumite utilizări autorizate pentru detectarea, prevenirea, investigarea ori urmărirea penală a infracțiunilor.
Regulamentul a intrat în vigoare la 1 august 2024. Aplicarea sa este etapizată, iar obligațiile prevăzute la articolul 50 sunt programate să se aplice de la 2 august 2026. Regulile pot îmbunătăți transparența, dar nu înlocuiesc verificarea informației înainte de distribuire.
Pericolul mai greu de măsurat: neîncrederea generalizată
Riscul nu este doar ca oamenii să creadă falsurile. La fel de important este să ajungă să respingă informațiile autentice pentru că orice imagine sau înregistrare poate fi declarată „făcută cu AI”.
În acest scenariu, discuția publică se mută de la dovezi la impresii. Fiecare tabără poate accepta doar materialele care îi confirmă poziția și poate respinge automat informațiile nefavorabile, fără o analiză a sursei sau a contextului.
Corectarea devine astfel mai dificilă. Un articol sau o dezmințire poate ajunge la public, dar nu neapărat la aceiași oameni care au văzut mesajul inițial. De aceea, verificarea înainte de distribuire este mai eficientă decât corectarea făcută după ce un material a devenit viral.
Cum verifici un videoclip sau o imagine
Nicio metodă individuală nu poate confirma toate tipurile de conținut sintetic. O verificare solidă combină sursa, contextul, data și confirmările independente.
- Identifică sursa inițială. Un cont anonim, o captură de ecran sau un videoclip redistribuit fără link nu oferă suficiente informații despre proveniență. Caută prima publicare și verifică dacă autorul poate fi identificat.
- Verifică data și locul. Caută indicii despre momentul filmării, vreme, clădiri, indicatoare, îmbrăcăminte și alte elemente care pot arăta dacă materialul aparține evenimentului prezentat.
- Separă materialul de descriere. O fotografie poate fi autentică, în timp ce textul atașat ei poate fi fals sau înșelător. Fișierul și afirmația făcută despre fișier trebuie verificate separat.
- Caută confirmări independente. Pentru un eveniment important, compară informația cu comunicate oficiale și relatări distincte. Mai multe conturi care copiază aceeași postare nu reprezintă confirmări separate.
- Folosește căutarea inversă cu prudență. Aceasta poate găsi apariții mai vechi ale unei imagini, dar absența rezultatelor nu dovedește că fotografia este nouă sau autentică. Imaginile modificate, decupate ori distribuite inițial în spații închise pot să nu fie indexate.
- Verifică existența unei dezmințiri documentate. Platformele de fact-checking pot fi utile, însă trebuie consultat materialul complet, nu doar titlul sau eticheta afișată într-o postare.
- Nu distribui sub presiune. Formule precum „distribuie urgent”, „presa ascunde adevărul” sau „trimite tuturor” sunt semnale pentru o verificare suplimentară, nu dovezi de autenticitate.
Ce nu pot face instrumentele automate
Detectoarele de conținut sintetic pot oferi indicii, dar rezultatul lor nu trebuie tratat ca un verdict universal. Evaluările tehnice, inclusiv cadrul NIST privind reducerea riscurilor asociate conținutului sintetic, arată că performanța acestor metode depinde de model, de calitatea fișierului, de editările aplicate și de tipul conținutului analizat.
Un rezultat pozitiv sau negativ al unui detector nu dovedește singur nici că materialul este fals, nici că este autentic. Instrumentele pot avea rezultate diferite pentru același fișier, iar modificările, compresia și redimensionarea pot influența analiza.
Marcajele digitale, metadatele și sistemele de proveniență pot ajuta la urmărirea originii unui fișier, dar nici acestea nu rezolvă toate cazurile. Metadatele pot lipsi după redistribuire, iar o imagine autentică poate fi asociată cu o descriere falsă. Verificarea trebuie să analizeze atât fișierul, cât și afirmația făcută despre el.
Întrebările care trebuie puse înainte de distribuire
Un reflex util este să înlocuiești „am văzut, deci este adevărat” cu câteva întrebări simple: cine a publicat, când a apărut, care este sursa originală, cine confirmă și ce context lipsește?
Cu cât un material este mai șocant, mai convenabil pentru o tabără sau distribuit cu presiune emoțională, cu atât merită verificat mai atent. Emoția poate explica viteza cu care circulă o informație, dar nu îi dovedește autenticitatea.
Surse
- Uniunea Europeană – Regulamentul (UE) 2024/1689 privind inteligența artificială
- National Institute of Standards and Technology – Reducing Risks Posed by Synthetic Content
- Robert Chesney și Danielle Citron – Deep Fakes: A Looming Challenge for Privacy, Democracy, and National Security
- Factual – platformă românească de fact-checking
