25/08/2026
🤖 : ce obligații au implementatorii sistemelor de IA când generează sau modifică un conținut care constituie deepfake [art. 50 alin. (4)]?
🔎 Ce este un deepfake în sensul ? O imagine ori un conținut audio sau video generat sau manipulat de IA care prezintă o asemănare cu persoane, obiecte, locuri sau alte entități ori evenimente existente și care ar crea unei persoane impresia falsă că este autentic sau adevărat.
Un deepfake în sensul trebuie să îndeplinească cumulativ criteriile:
✅ conținut de tip imagine, audio sau video
✅ generat sau modificat cu IA
✅ asemănare cu persoane, obiecte, locuri sau entități (ex: animale, alte forme de viață) ori alte evenimente existente sau care ar putea sau ar fi putut exista în mod plauzibil
✅ aparență falsă de autenticitate sau de veridicitate
Exemple de deepfake :
🤖 imagine modificată cu IA cu doi fotbaliști profesioniști reali în fața unei clădiri care seamănă cu un stadion de fotbal
🤖 clonarea vocilor invitatului și a prezentatorului unei emisiuni cunoscute
🤖 video generat cu IA cu o persoană care seamănă cu un politician ce ține un discurs
🤖 video generat cu IA care prezintă un avatar sintetic realist al unui CEO, care felicită angajații
🤖 o imagine generată cu IA a unui produs ce poate afecta percepția publicului și poate induce în eroare cu privire la aspectul, caracteristicile sau utilizarea reală a produsului
Exemple care nu sunt deepfake :
✅ imagine cu un sfinx zburând deasupra Turnului Eiffel
✅ medii fictive generate de IA în jocuri video
✅ animație pornind de la o imagine existentă care ilustrează un eveniment istoric
✅ video cu prezentatorul unei emisiuni TV științifice care traversează o zonă muntoasă în timp ce vorbește despre retragerea ghețarilor, ilustrată printr-o animație de fundal ce arată cm s-au retras ghețarii de la nivelurile istorice la nivelurile actuale
📌 Obligațiile implementatorilor: să eticheteze imaginile, materialele audio sau video generate sau modificate cu ajutorul acestor sisteme și care constituie deepfake-uri și să dezvăluie originea lor artificială, astfel încât persoanele expuse conținutului să fie avertizate cu privire la originea acestuia sau a modificărilor aduse.
Etichetarea trebuie să fie ușor de identificat și de înțeles.
⚠️ Etichetare limitată pentru operele sau programele evident artistice, creative, satirice, fictive sau similare, astfel încât să nu afecteze afișarea sau experiența operei.
🔎 Implementatorul este o persoană fizică sau juridică, autoritate publică, agenție sau alt organism care utilizează un sistem de IA aflat sub autoritatea sa, cu excepția cazului în care sistemul de IA este utilizat în cursul unei activități personale, fără caracter profesional.
📅 Obligația de etichetare se aplică de la 2 august 2026. Detalii pe website-ul ANCOM: https://www.ancom.ro/category/ai/