AI determină „ o explozie ” de nuduri false, în timp ce victimele spun că legea nu le ajută

Potrivit experților în daune online, a existat o creștere uriașă a falsurilor cu conținut sexual explicit, deoarece software-ul care transformă digital o fotografie îmbrăcată într-o fotografie goală este ușor de obținut, dar pentru victime, efectul poate fi devastator, scrie Sky News.

Militanții avertizează că utilizarea inteligenței artificiale (AI) pentru a crea imagini nud realiste, dar false, ale femeilor reale devine „normalizată”.

Este, de asemenea, o preocupare din ce în ce mai mare în școli. Un sondaj recent realizat de Internet Matters a arătat că 13% dintre adolescenți au avut o experiență cu nuduri false, în timp ce NSPCC a declarat pentru Sky News că „se dezvoltă un nou pericol”.

Ofcom va introduce în cursul acestei luni coduri de practică pentru companiile de internet pentru a reduce distribuția ilegală de nuduri false, dar Sky News a întâlnit două victime ale acestei tendințe relativ noi, care spun că legea trebuie să meargă mai departe.

La începutul acestui an, Cally Jane Beech, 33 de ani, influencer pe rețelele de socializare și fostă concurentă la „Insula iubirii”, a fost îngrozită când a descoperit că cineva a folosit inteligența artificială pentru a transforma o fotografie cu ea de la o marcă de lenjerie intimă într-un nud și că fotografia era distribuită online.

Imaginea originală a fost încărcată pe un site care utilizează un software pentru a transforma digital o fotografie îmbrăcată într-o fotografie nud.

Ea a declarat pentru Sky News: „Părea atât de realist, ca și cum nimeni în afară de mine nu ar fi știut. Era ca și cum te uitai la mine, dar în același timp nu la mine.”

Ea a adăugat: „Nu ar trebui să existe un astfel de lucru. Nu este o carte de colorat. Nu este un pic de distracție. Este vorba despre identitatea oamenilor și despre dezbrăcarea lor.”

Când Cally a raportat poliției cele întâmplate, a avut dificultăți în a-i convinge să trateze cazul ca pe o infracțiune.

„Nu prea știau ce ar putea face în această privință și, pentru că site-ul care a găzduit imaginea era global, au spus că nu este de competența lor”, a spus ea.

În noiembrie, agentul șef adjunct Samantha Miller, din cadrul Consiliului național al șefilor de poliție, s-a adresat unei comisii de parlamentari pe această temă și a concluzionat că „sistemul eșuează”, cu o lipsă de capacitate și inconsecvență a practicilor în cadrul forțelor.

ACC Miller a declarat comisiei pentru femei și egalitate că a vorbit recent cu un militant care a fost în contact cu 450 de victime și „doar două dintre acestea au avut o experiență pozitivă cu poliția”. Guvernul afirmă că anul viitor va fi adoptată o nouă legislație care va scoate în afara legii generarea de nuduri AI, deși este deja ilegal să faci nuduri false ale minorilor.

Între timp, problema este în creștere, mai multe aplicații fiind disponibile cu scopul de a dezbrăca persoanele din fotografii. Oricine poate deveni o victimă, deși aproape întotdeauna este vorba de femei. Profesorul Clare McGlynn, expert în prejudicii online, a declarat: „Am observat o creștere exponențială a utilizării deepfakes cu conținut sexual explicit. De exemplu, unul dintre cele mai mari și mai notorii site-uri dedicate acestui abuz primește aproximativ 14 milioane de accesări pe lună.

„Aceste aplicații nudify sunt ușor de obținut din magazinul de aplicații, sunt promovate pe Tik Tok, Deci, desigur, tinerii le descarcă și le folosesc. Am normalizat utilizarea acestor aplicații de nudificare.”

„Trădată de cea mai bună prietenă a mea”

Sky News a vorbit cu „Jodie” (nu este numele ei real) din Cambridge, care a fost informată printr-un e-mail anonim că apare în videoclipuri sexuale pe un site pornografic.

„Imaginile pe care le-am postat pe Instagram și Facebook, care erau complet îmbrăcate, au fost manipulate și transformate în material sexual explicit”, a spus ea.

Jodie a început să bănuiască că cineva pe care îl cunoștea posta fotografii și încuraja oamenii online să le manipuleze. Apoi a găsit o anumită fotografie, făcută în fața Colegiului King din Cambridge, pe care o avea o singură persoană. Aceasta era prietenul ei cel mai bun, Alex Woolf.

Ea îi trimisese doar lui  fotografia.

Woolf, care a câștigat odată premiul BBC pentru tânărul compozitor al anului, a fost ulterior condamnat pentru infracțiuni împotriva a 15 femei, în mare aprte datorită perseverenței și muncii de detectiv a lui Jodie.

Chiar și așa, condamnarea sa se referea doar la comentariile ofensatoare atașate imaginilor, deoarece, deși este ilegal să distribui imagini, nu este o infracțiune să le ceri altora să le creeze.

El a primit o pedeapsă cu suspendare și a fost obligat să plătească 100 de lire sterline fiecărei victime.

Jodie crede că este imperativ să fie introduse noi legi care să interzică crearea și solicitarea acestor tipuri de imagini.

„Abuzul meu nu este distracția ta”, a spus ea.

„Abuzul online are același efect psihologic pe care îl are abuzul fizic. Am devenit sinucigașă, nu am putut avea încredere în cei apropiați pentru că am fost trădată de cel mai bun prieten al meu. Iar efectul acestui lucru asupra unei persoane este monumental.”

„Un loc înspăimântător și singuratic”

Un sondaj realizat în octombrie de Teacher Tap a arătat că 7% dintre profesori au răspuns afirmativ la întrebarea: „În ultimele 12 luni, ați avut un incident în care un elev a folosit tehnologia pentru a crea o imagine falsă cu caracter sexual a unui coleg de clasă?” În campania lor, atât Cally, cât și Jodie au întâlnit exemple de eleve care au fost falsificate în profunzime.

Cally a spus: „Este folosit ca o formă de intimidare pentru că ei cred că este amuzant. Dar poate avea un impact mental și trebuie să fie un loc foarte înfricoșător și singuratic pentru o tânără fată să se confrunte cu asta.”