Deepfake-urile: arma digitală care poate falsifica adevărul juridic și voința democratică
Analiză juridică privind riscurile generate de inteligența artificială în justiție, alegeri și protecția drepturilor fundamentale
Deepfake-urile nu mai sunt simple experimente tehnologice, glume vizuale sau efecte spectaculoase create pentru divertisment. Ele au devenit o amenințare concretă la adresa democrației, a justiției, a vieții private și a încrederii sociale.
Într-o lume în care imaginea, vocea și discursul pot fi imitate cu o fidelitate greu de distins de realitate, întrebarea esențială nu mai este doar „ce este adevărat?”, ci și „cum mai putem dovedi adevărul?”.
Aceasta este marea provocare juridică a erei inteligenței artificiale: tehnologia poate crea aparențe perfecte, dar dreptul trebuie să protejeze realitatea.
Ce sunt deepfake-urile?
Deepfake-urile sunt imagini, înregistrări video sau secvențe audio generate ori manipulate cu ajutorul inteligenței artificiale, astfel încât să pară autentice. Regulamentul european privind inteligența artificială — AI Act, Regulamentul (UE) 2024/1689 — definește deepfake-ul ca fiind conținut imagine, audio sau video generat ori manipulat de AI, care seamănă cu persoane, obiecte, locuri, entități sau evenimente existente și care poate apărea în mod fals ca autentic sau veridic.
Cu alte cuvinte, deepfake-ul este o ficțiune tehnologică prezentată sub aparența realității. Iar atunci când această ficțiune este folosită pentru fraudă, șantaj, manipulare electorală, defăimare sau compromiterea unei persoane, problema nu mai este una tehnologică, ci una juridică, socială și democratică.
De la divertisment la probă falsificată
În justiție, deepfake-urile ridică una dintre cele mai sensibile probleme: integritatea probelor digitale.
O înregistrare audio poate sugera o recunoaștere de datorie. Un video poate părea să surprindă o faptă ilicită. O imagine poate compromite reputația unei persoane. Dar dacă toate acestea sunt fabricate?
În cauzele civile, penale, comerciale sau de familie, probele digitale au devenit tot mai frecvente. Capturile de ecran, înregistrările audio, imaginile video, conversațiile online și fișierele multimedia sunt adesea folosite pentru a demonstra fapte, intenții, amenințări, consimțământ, abuzuri sau încălcări contractuale.
Deepfake-urile complică acest mecanism probator. Ele pot transforma o probă aparent convingătoare într-un instrument de manipulare procesuală. De aceea, instanțele, avocații, experții și organele judiciare vor fi obligate să trateze probele digitale cu un nivel crescut de prudență.
Nu mai este suficient să întrebăm dacă o probă „arată real”. Trebuie să verificăm dacă proba are trasabilitate, metadate, sursă verificabilă, lanț de custodie și suport tehnic de expertiză.
Deepfake-ul electoral: când votul poate fi manipulat printr-o voce falsă
Riscul devine și mai grav în materia proceselor electorale. O voce clonată, un discurs fals atribuit unui candidat sau o filmare fabricată pot influența percepția publică într-un interval foarte scurt, uneori chiar înainte ca autoritățile să poată reacționa.
Un exemplu relevant a fost cazul din New Hampshire, din ianuarie 2024, când alegătorii au primit apeluri telefonice automate care imitau vocea președintelui Joe Biden și îi îndemnau să nu voteze în alegerile primare. Autoritatea americană de reglementare în comunicații — FCC — a propus ulterior o amendă de 6 milioane de dolari pentru aceste robocall-uri ilegale care au folosit o voce generată prin AI.
Acest exemplu arată cât de fragilă poate deveni democrația atunci când tehnologia permite falsificarea identității vocale sau vizuale a unei persoane publice. În spațiul electoral, deepfake-ul nu este doar o minciună digitală. Este o posibilă formă de ingerință în exercitarea dreptului de vot.