Inteligența artificială, o nouă armă alarmantă pentru pornografia infantilă

Pornografia infantilă online este în creștere odată cu dezvoltarea instrumentelor de inteligență artificială, trivializând violența sexuală împotriva copiilor și complicând activitatea autorităților responsabile de protejarea tinerelor victime reale, avertizează fundațiile din Europa, potrivit agenției AFP, citată de boursorama.com.

Videoclipuri cu copii virtuali violați sau imagini cu adolescente dezbrăcate, doar fețele fiind reale: inteligența artificială generativă face posibilă crearea unei cantități infinite de astfel de conținut care poate fi stocat pe un computer sau partajat online.

În septembrie 2023, în decurs de doar o lună, peste 20.000 de imagini generate de inteligența artificială au fost publicate pe un forum accesibil pe dark web, partea clandestină a internetului, informează Internet Watch Foundation (IWF), una dintre principalele asociații europene care luptă împotriva difuzării de astfel de conținuturi.

Organizația, care a primit 70 de rapoarte privind acest fenomen între aprilie 2023 și martie 2024, a primit deja 74 în decurs de șase luni, între aprilie și sfârșitul lunii septembrie 2024. Organizația consideră că această creștere este „înfricoșătoare”.

Fenomenul a luat amploare odată cu democratizarea IA generativă la răscrucea anilor 2022-23. În timp ce majoritatea software-urilor de consum au limitări privind utilizarea anumitor termeni și fac imposibile astfel de creații, nu este cazul altor software-uri accesibile prin dark web.

În iulie, Gabrielle Hazan, șefa Office des mineurs (Ofmin), un departament de investigații criminale dedicat combaterii violenței împotriva tinerilor, a declarat pentru France Inter: „În câțiva ani, 95% din imaginile pedofile postate pe internet vor fi rezultatul inteligenței artificiale”.

Riscul de a trece la fapte

Angèle Lefranc, responsabilă de advocacy la Fondation pour l’enfance (Fundația pentru copii), care tocmai a efectuat o cercetare pe această temă și a publicat marți rezultatele într-un raport, a declarat pentru AFP că, chiar dacă imaginile sunt editate, difuzarea în masă a unor astfel de materiale „este gravă deoarece contribuie la banalizarea practicilor pedofile și la obiectivarea copiilor”.

Proliferarea conținutului de pornografie infantilă „crește comportamentul de dependență al consumatorilor, cu imagini din ce în ce mai extreme, explicite și violente”, se arată în rezumatul raportului.

Iar consumul facil de conținut pornografic infantil crește riscul de a acționa în consecință.

Office des mineurs estimează că, în 40 % din cazuri, vizionarea de pornografie infantilă a determinat agresarea unui copil.

Fondation pour l’enfance face apel la actorii politici, juridici și tehnologici să pună în aplicare un „răspuns puternic, rapid și coordonat”.

Cadrul juridic

Principala „dificultate” constă în faptul că inteligența artificială este „în continuă evoluție”, iar persoanele „care consumă conținuturi pedocriminale, care sunt foarte familiarizate cu noile tehnologii, le preiau rapid”, explică Angèle Lefranc.

Fondation pour l’enfance recomandă sensibilizarea publicului larg.

„Oamenii nu-și dau seama că fotografiile cu copiii lor în costume de baie postate pe rețelele de socializare pot fi utilizate pentru a antrena inteligența artificială” în materie de pornografie infantilă, spune responsabilul cu advocacy.

Fundația solicită, de asemenea, autorităților publice să modifice Codul penal pentru a incrimina crearea de imagini sexuale ale minorilor. În prezent, „vidul juridic” în acest domeniu „permite intensificarea practicii”.

O altă consecință a proliferării imaginilor și videoclipurilor pornografice cu copii este că agențiilor de aplicare a legii le este din ce în ce mai greu să identifice și să protejeze copiii care sunt victimele reale ale violenței sexuale care apar în acest conținut.

Potrivit unui raport Europol publicat în iulie, pornografia infantilă generată de inteligența artificială este pe cale să devină o „problemă majoră în viitorul apropiat”.

Pornografia infantilă generată de inteligența artificială va deveni o „problemă majoră în viitorul apropiat”, potrivit unui raport Europol publicat în iulie.

„Acest lucru ridică provocări majore pentru serviciile specializate, atât în ceea ce privește identificarea victimelor, cât și în ceea ce privește cadrul juridic pentru investigații”, a subliniat agenția europeană.

Fundația recomandă încurajarea actorilor privați să coopereze în vederea creării de instrumente care să facă distincția între conținutul generat de inteligența artificială și conținutul real.