Progresele AI ar putea duce la apariția mai multor videoclipuri cu abuzuri sexuale asupra copiilor, avertizează un organism de supraveghere

Progresele în domeniul inteligenței artificiale sunt folosite de pedofili pentru a produce videoclipuri cu abuzuri sexuale asupra copiilor generate de inteligența artificială, care ar putea crește în volum pe măsură ce tehnologia se îmbunătățește, potrivit unui organism de supraveghere a siguranței, transmite The Guardian.

Majoritatea cazurilor de acest tip observate de Internet Watch Foundation implică manipularea unor materiale existente privind abuzurile sexuale asupra copiilor (CSAM) sau pornografie pentru adulți, cu chipul unui copil transplantat pe filmare. Mai multe exemple implică videoclipuri realizate în întregime de AI, cu o durată de aproximativ 20 de secunde, a declarat IWF.

Organizația, care monitorizează CSAM în întreaga lume, a declarat că este îngrijorată de faptul că ar putea apărea mai multe videoclipuri CSAM realizate de AI, pe măsură ce instrumentele din spatele acestora devin mai răspândite și mai ușor de utilizat.

Dan Sexton, director de tehnologie la IWF, a declarat că, în cazul în care utilizarea instrumentelor video AI urmează aceeași tendință ca și imaginile statice realizate de AI, al căror volum a crescut pe măsură ce tehnologia s-a îmbunătățit și a devenit mai disponibilă, ar putea apărea mai multe videoclipuri CSAM.

„Aș spune cu tentă că, dacă se urmează aceleași tendințe, atunci vom vedea mai multe videoclipuri”, a spus el, adăugând că viitoarele videoclipuri ar putea fi, de asemenea, de «calitate și realism superioare».

Analiștii IWF au declarat că majoritatea videoclipurilor văzute de organizație pe un forum dark web folosit de pedofili erau deepfakes parțiale, în care modele AI disponibile gratuit online sunt folosite pentru a impune fața unui copil, inclusiv imagini ale victimelor CSAM cunoscute, pe videoclipuri CSAM existente sau pornografie pentru adulți. IWF a declarat că a găsit nouă astfel de videoclipuri.

Potrivit analiștilor, un număr mai mic de videoclipuri realizate integral cu ajutorul inteligenței artificiale erau de o calitate mai slabă, dar aceștia au afirmat că acesta ar fi „cel mai rău” videoclip complet sintetic.

IWF a adăugat că imaginile CSAM realizate de AI au devenit mai realiste din punct de vedere fotografic în acest an comparativ cu 2023, când au început să apară astfel de conținuturi.