ActiveWatch: Nu votați o variantă chinezească a Legii deepfake! / Textul actului normativ arată o înțelegere superficială a fenomenului

Organizația ActiveWatch critică legea care are ca scop combaterea fenomenului deepfake, care a ajuns astăzi pe ordinea de zi a plenului Camera Deputaților, pe care o consideră mai apropiată de modelul chinezesc decât de cel european.

„Nu votați o variantă chinezească a Legii deepfake!”, a transmis organizația, într-o scrisoare trimisă Camerei Deputaților, publicată pe site-ul său.

„Textul legii conține prevederi periculoase, cum ar fi sancțiuni cu închisoarea pentru crearea de conținut deepfake, iar conținut perfect legal, cum ar fi cel protejat de exercitarea dreptului la libertatea de exprimare, ar intra sub incidență penală, ceea ce ar reprezenta o încălcare a acestui drept fundamental”, subliniază ActiveWatch.

Mai mult, organizația consideră că textul conține o serie de neclarități și exprimări care indică faptul că inițiatorii legii au o „înțelegere superficială” a fenomenului deepfake.

Deepfake este definit ca un tip de conținut video trucat, generat cu ajutorul inteligenței artificiale (IA), care pare real. De exemplu, capul unei persoane poate fi pus pe corpul unui alt om care a săvârșit o faptă reprobabilă cu scopul de a afecta imaginea persoanei vizate de material. Un caz mediatizat recent de deepfake a fost cel care a avut-o în centru pe cântăreața americană Taylor Swift. Pe internet au apărut clipuri video trucate în care artista apare dezbrăcată. În România, recent au apărut imagini false cu ministrul Transporturilor, Sorin Grindeanu, care promova vânzarea de acțiuni Enel.

„De asemenea, proiectul nu ține cont de faptul că în acest moment instituțiile europene aproape au finalizat Artificial Intelligence Act (Regulamentul Inteligenţei Artificiale)”, mai arată ActiveWatch

Redăm mai jos integral textul scrisorii:

„În atenția Președintelui interimar al Camerei Deputaților, dl. Alfred – Robert Simonis

În atenția membrilor Comitetului Liderilor Grupurilor Parlamentare

În atenția Grupului Parlamentar al Partidului Social Democrat, Grupului Parlamentar al Partidului Național Liberal, Grupului parlamentar al Uniunii Salvaţi România, Grupului parlamentar AUR, Grupul parlamentar al Uniunii Democrate Maghiare din România, Grupului parlamentar al minorităţilor naţionale, Deputaţilor neafiliaţi

Stimată doamnă deputat,

Stimate domnule deputat,

Camera Deputaților are azi pe ordinea de zi a plenului, în calitate de cameră decizională, un proiect de lege ce are ca scop combaterea fenomenului deepfake. O inițiativă poate necesară, care răspunde unor realități sociale și unor provocări complexe generate de noile tehnologii, dar care a fost făcută fără a ține cont de legislația europeană relevantă în domeniu, care va intra în vigoare curând, și fără consultarea experţilor sau a societăţii civile.

Astfel, din păcate, modelul de reglementare pe care deputaţii, care au amendat proiectul, au ales să-l urmeze este cel al Chinei, un stat autoritar, în care puterea politică foloseşte tehnologia pentru a controla populaţia şi pentru a limita drepturile cetăţeneşti.

Proiectul de lege a fost adoptat în 2023 de Senat, dar într-o variantă care nu conținea pedepse cu închisoarea. În forma sa actuală, textul legii conține prevederi periculoase, cum ar fi sancțiuni cu închisoarea de la 6 luni la 2 ani pentru “crearea/realizarea conţinutului de tip deepfake”.

Distribuirea de conţinut deepfake va fi sancţionată cu 60-180 de zile amendă. Nu există niciun fel de excepţii prin care să fie protejate forme ale libertăţii de exprimare, cum ar fi utilizarea în scop de pamflet sau artistic a conţinutului de tip deepfake sau în producţii comerciale (reclame) sau în industria cinematografică, așa cum deja se întâmpla în practică și cum prevede legislația europeană ce urmează a intra în vigoare.

Textul conține o serie de neclarități și termeni/exprimări care arată o înțelegere superficială a fenomenului ce se dorește a fi reglementat, aşa cum reiese şi din punctele de vedere exprimate de Consiliul Legislativ şi Consiliul Naţional al Audiovizualului.

De exemplu, proiectul de lege impune creatorilor de conţinut deepfake obligaţia ca acesta să fie marcat un avertisment redat pe cel puţin 10% din suprafața expunerii și pe toată durata difuzării respectivului conținut vizual sau de un mesaj sonor la începutul şi la finalul conținutului audio: „Acest material conține ipostaze imaginare”. Însă ceea ce ignoră textul de lege este că 10% dintr-o imagine poate fi manipulată astfel încât acea parte să nu fie vizibilă, de facto, deci un creator malițios poate susține că a respectat legea, în timp ce, de fapt, el continuă să înșele publicul.

În plus, așa cum este formulat textul de lege propus, rezultă că orice material #deepfake poate fi folosit oriunde în mod legal, chiar dacă este “malițios” și ar “produce haos informațional”, dacă este marcat conform legii.

Mai mult, noile sancțiuni penale introduse de lege sunt, în fapt, mai blânde decât cele deja existente și pe baza cărora ar putea fi sancționat penal creatorul unui conținut cu adevărat ilegal. Din păcate însă, conținut perfect legal, cum ar fi cel protejat de exercitarea dreptului la libertatea de exprimare, ar intra sub incidență penală, ceea ce ar reprezenta o încălcare a acestui drept fundamental, așa cum este el consfințit de Constituția României, Carta Drepturilor Fundamentale a Uniunii Europene și de Convenția Europeană a Drepturilor Omului.

De asemenea, textul de lege nu ține cont de faptul că în acest moment instituțiile europene aproape au finalizat Artificial Intelligence Act (Regulamentul Inteligenţei Artificiale), având un acord politic pe text, iniţiativă demarată în 2021 și dezbătută timp de peste 3 ani, și al cărui text final va fi curând publicat în Jurnalul Oficial al UE.

Organizaţiile semnatare solicită Parlamentului să respingă acest proiect de lege, flagrant deficitar în forma sa actuală. În mod special, trebuie eliminate noile infracțiuni introduse prin acest proiect de lege (eliminarea art. 5 din proiect).

Având în vedere provocările generate de noile tehnologii şi riscurile majore pe care dezinformarea le are asupra societăţilor democratice, organizaţiile semnatare consideră că un nou proiect de lege va trebui să țină cont de forma finală a Regulamentul Inteligenței Artificiale ce va fi adoptată la nivelul Uniunii Europene, de cadrul legislativ existent (ex. Art. 362 din Codul Penal – Alterarea integrității datelor informatice), de comentariile transmise de Consiliul Legislativ şi de Consiliul Național al Audiovizualului. Mai mult, această legislație trebuie adoptată în urma unei consultări extinse, în care să fie implicate instituțiile competente, experți și societatea civilă.”