Organizația Națiunilor Unite a pus pe agenda dialogului global privind guvernanța inteligenței artificiale, desfășurat la Geneva în perioada 6–7 iulie 2026, nevoia unor reguli internaționale mai rapide și a unor protecții speciale pentru copii. Mesajul vine într-un context în care dezvoltarea sistemelor AI avansează mai repede decât armonizarea standardelor de siguranță și responsabilitate.
Discuția are efecte directe asupra școlilor, familiilor și platformelor online. Pentru Europa și România, miza nu este doar stabilirea unor principii internaționale, ci aplicarea lor în educație, protecția datelor, siguranța online și utilizarea concretă a aplicațiilor bazate pe inteligență artificială.
Ce urmărește apelul ONU pentru protecția copiilor
Secretarul general al ONU, António Guterres, a susținut necesitatea unor reguli globale pentru inteligența artificială și a unor măsuri dedicate minorilor. În acest context a fost prezentată și ideea unui „AI Child Safety Pledge”, descrisă ca un angajament pentru îmbunătățirea protecției copiilor în relația cu sistemele AI.
Un astfel de angajament nu echivalează automat cu o lege internațională. Pentru a produce efecte concrete, principiile ar trebui transformate în standarde tehnice, obligații pentru furnizori, proceduri de evaluare și mecanisme de control aplicabile în jurisdicțiile participante.
Diferența dintre un apel politic și o obligație juridică este esențială. Un apel poate orienta negocierile și politicile publice, în timp ce o regulă obligatorie presupune un act normativ, un domeniu de aplicare clar și autorități capabile să verifice respectarea sa.
De ce protecția minorilor a devenit o prioritate
Copiii folosesc sisteme AI pentru educație, comunicare și divertisment, însă nu pot evalua întotdeauna corect modul în care funcționează acestea. Un chatbot poate părea o autoritate, o recomandare automată poate influența comportamentul, iar o aplicație aparent gratuită poate solicita date personale.
Riscurile relevante pentru minori includ:
- recomandarea repetată a unor materiale nepotrivite sau dificil de verificat;
- colectarea și profilarea datelor personale;
- răspunsuri incorecte, înșelătoare sau prezentate cu o certitudine nejustificată;
- conținut fals, manipulat sau generat pentru a influența utilizatorii;
- hărțuire, presiune socială și amplificarea unor comportamente nocive;
- lipsa unor explicații accesibile despre modul în care sunt luate deciziile automate.
Vulnerabilitatea nu rezultă doar din vârstă. Ea este legată și de lipsa experienței digitale, de dependența copiilor față de adulți și de faptul că multe servicii sunt proiectate pentru implicare cât mai îndelungată a utilizatorului.
Protecția eficientă nu înseamnă doar blocarea conținutului. Ea presupune proiectarea serviciilor ținând cont de vârstă, limitarea colectării de date, evaluarea riscurilor, raportarea accesibilă a abuzurilor și intervenții rapide atunci când un copil este expus unui pericol.
Ce s-a discutat la Geneva
Dialogul global din 6–7 iulie 2026 a fost prezentat ca un cadru de cooperare între state și alte părți implicate în guvernanța inteligenței artificiale. Tema are o dimensiune internațională deoarece aplicațiile AI și platformele digitale sunt folosite în mai multe țări, în timp ce regulile și capacitatea de control rămân în mare parte naționale sau regionale.
Direcțiile asociate reuniunii au fost:
- coordonarea regulilor privind dezvoltarea și utilizarea inteligenței artificiale;
- reducerea diferenței dintre ritmul tehnologic și cel al reglementării;
- protejarea copiilor și adolescenților ca grup de utilizatori vulnerabili;
- cooperarea dintre guverne, organizații internaționale și companii;
- transformarea principiilor generale în măsuri verificabile.
Calendarul, forma juridică și nivelul de obligativitate al unor eventuale angajamente ulterioare depind de negocierile dintre state. Până la adoptarea unor reguli aplicabile, responsabilitatea rămâne împărțită între legile existente, autoritățile de supraveghere și politicile furnizorilor de servicii.
Guvernanța AI înseamnă reguli, control și răspundere
Guvernanța inteligenței artificiale reunește legile, standardele, instituțiile și procedurile prin care sunt controlate dezvoltarea și utilizarea sistemelor AI. Ea stabilește nu doar ce pot face companiile, ci și ce drepturi au utilizatorii și ce responsabilități revin autorităților.
În cazul serviciilor utilizate de copii, o guvernanță funcțională trebuie să ofere răspunsuri la câteva întrebări concrete:
- Cine răspunde atunci când un sistem AI produce un prejudiciu?
- Ce informații trebuie să primească utilizatorii despre folosirea inteligenței artificiale?
- Ce date ale copiilor pot fi colectate și în ce scop?
- Cum poate fi contestat sau verificat un rezultat generat automat?
- Cât de repede trebuie eliminat conținutul abuziv și soluționată o sesizare?
- Ce sancțiuni se aplică furnizorilor care ignoră riscurile?
Fără cerințe compatibile între țări, aceeași aplicație poate oferi niveluri diferite de protecție în funcție de locul în care este utilizată. Cooperarea internațională urmărește să reducă aceste diferențe, dar nu înlocuiește legile și instituțiile naționale.
Ce reguli europene se aplică deja
În Uniunea Europeană, discuția despre protecția copiilor se desfășoară peste un cadru juridic deja existent. Regulamentul european privind inteligența artificială, cunoscut drept AI Act, stabilește obligații în funcție de nivelul de risc al sistemelor și interzice anumite practici considerate incompatibile cu valorile europene.
AI Act nu este singurul instrument relevant. Regulamentul general privind protecția datelor, GDPR, stabilește condițiile pentru prelucrarea datelor personale, inclusiv în cazul minorilor. Regulamentul privind serviciile digitale, DSA, introduce obligații pentru platformele online și urmărește reducerea riscurilor pentru utilizatori.
Aceste acte nu elimină automat problemele din practică. Respectarea formală a unei obligații nu garantează că un copil sau un părinte înțelege ce date sunt colectate, de ce apare o recomandare sau cum poate fi contestată o decizie automată. De aceea, transparența, controalele și mecanismele simple de plângere sunt la fel de importante ca existența normelor.
Impactul pentru școlile și familiile din România
În România, utilizarea AI în educație ridică probleme concrete privind datele elevilor, evaluarea temelor și verificarea informațiilor generate automat. O școală trebuie să știe ce date pot fi încărcate într-o aplicație externă, în ce scop sunt prelucrate și cine are acces la rezultate.
Regulile interne ar trebui să clarifice cel puțin:
- când poate fi folosit un instrument AI la teme sau proiecte;
- cum se verifică răspunsurile generate automat;
- ce informații despre elevi nu trebuie introduse în servicii externe;
- cum sunt marcate materialele produse cu ajutorul inteligenței artificiale;
- cui îi este raportat un răspuns nepotrivit sau un incident de siguranță.
Pentru familii, măsurile de bază sunt verificarea setărilor de confidențialitate, discutarea limitelor chatboturilor cu cei mici și raportarea conținutului abuziv. Fotografii, date medicale, parole, adrese și alte informații de identificare nu ar trebui introduse în aplicații necunoscute doar pentru a obține un răspuns mai personalizat.
Un răspuns generat de AI trebuie tratat ca material care necesită verificare, nu ca o autoritate. Această regulă este importantă mai ales în educație, unde o eroare prezentată convingător poate fi preluată de elevi înainte ca un adult să o observe.
De la angajament internațional la măsuri verificabile
Un angajament internațional poate stabili o direcție, dar protecția copiilor depinde de măsuri care pot fi verificate. Platformele și dezvoltatorii ar trebui să poată explica modul în care identifică riscurile, limitează colectarea datelor, testează produsele pentru utilizatori minori și reacționează la sesizări.
Întrebările decisive rămân cele legate de aplicare: vor deveni principiile comune standarde obligatorii sau vor rămâne recomandări, ce obligații vor reveni platformelor și cum va fi definită concret protecția specială pentru copii?
Dezbaterea de la Geneva nu pune în discuție utilitatea inteligenței artificiale, ci condițiile în care aceasta poate fi folosită în siguranță. Pentru utilizatorii tineri, diferența dintre un instrument util și unul riscant va depinde nu doar de performanța tehnologiei, ci și de garanțiile construite în jurul ei.
