Imagini explicite cu Taylor Swift, generate de inteligența artificială, s-au răspândit rapid pe rețelele de socializare / Incidentul creează îngrijorări în legătură cu posibilitatea de a folosi AI pentru a dezinforma în campaniile electorale

Imagini pornografice, generate de inteligența artificială, ale celei mai faimoase vedete din lume s-au răspândit în această săptămână pe rețelele de socializare, subliniind potențialul dăunător pe care îl reprezintă tehnologia de inteligență artificială de tip mainstream: capacitatea acesteia de a crea imagini realiste și dăunătoare convingătoare, transmite CNN.

Imaginile false cu Taylor Swift au circulat cu precădere pe platforma de socializare X, cunoscută anterior sub numele de Twitter. Fotografiile – care o arată pe cântăreață în poziții sexuale sugestive și explicite – au fost vizualizate de zeci de milioane de ori înainte de a fi eliminate de pe platformele sociale. Dar nimic pe internet nu dispare cu adevărat pentru totdeauna, iar acestea vor continua, fără îndoială, să fie partajate pe alte canale mai puțin reglementate.

Purtătorul de cuvânt al lui Swift nu a răspuns la o solicitare de comentarii.

La fel ca majoritatea platformelor majore de socializare, politicile X interzic partajarea de „media sintetice, manipulate sau scoase din context care pot înșela sau confunda oamenii și pot duce la prejudicii”. Compania nu a răspuns la solicitarea de comentarii a CNN.

Incidentul are loc în contextul în care Statele Unite se îndreaptă spre un an electoral prezidențial, iar îngrijorările cresc cu privire la modul în care imaginile și videoclipurile înșelătoare generate de inteligența artificială ar putea fi folosite pentru a conduce eforturile de dezinformare și, în cele din urmă, pentru a perturba votul.

„Acesta este un prim exemplu al modurilor în care inteligența artificială este dezlănțuită pentru o mulțime de motive nefaste, fără a exista suficiente bariere de protecție pentru a proteja piața publică”, a declarat pentru CNN Ben Decker, care conduce Memetica, o agenție de investigații digitale.

Decker a spus că exploatarea instrumentelor de inteligență artificială generativă pentru a crea conținut potențial dăunător care vizează toate tipurile de personalități publice este în creștere rapidă și se răspândește mai repede ca niciodată în social media.

„Companiile de social media nu au cu adevărat planuri eficiente pentru a monitoriza neapărat conținutul”, a spus el.

X, de exemplu, și-a dezmembrat în mare parte echipa de moderare a conținutului și se bazează pe sisteme automate și pe raportarea utilizatorilor. (În prezent, în UE, X face obiectul unei anchete privind practicile sale de moderare a conținutului).

Meta, de asemenea, a făcut reduceri de personal în echipele sale care se ocupă de dezinformare și de campaniile coordonate de trolli și hărțuire pe platformele sale, au declarat pentru CNN persoane care cunosc direct situația, ceea ce ridică îngrijorări înainte de alegerile cruciale din 2024 din SUA și din întreaga lume.

Nu este clar de unde provin imaginile legate de Taylor Swift. Deși unele imagini au fost găsite pe site-uri precum Instagram și Reddit, acestea au fost o problemă larg răspândită în special pe X.

De asemenea, incidentul coincide cu creșterea instrumentelor de generare a inteligenței artificiale, precum ChatGPT și Dall-E. Cu toate acestea, există, de asemenea, o lume mult mai largă de modele de inteligență artificială nemoderate și nesigure pentru muncă în platformele open source, a declarat Decker.

„Acest lucru indică un tip mai larg de fracturare a moderării conținutului și a guvernanței platformei, deoarece dacă toate părțile interesate – companiile de inteligență artificială, companiile de social media, autoritățile de reglementare și societatea civilă – nu vorbesc despre aceleași lucruri și nu sunt pe aceeași lungime de undă în ceea ce privește modul de abordare a acestor probleme, acest tip de conținut va continua să prolifereze”, a adăugat el.

Cu toate acestea, Decker a spus că faptul că Taylor Swift este vizată ar putea atrage mai multă atenție asupra problemelor tot mai mari din jurul imaginilor generate de AI. Contingentul enorm de „Swifties” loiali lui Swift și-a exprimat indignarea pe rețelele de socializare în această săptămână, aducând problema în prim-plan. În 2022, o prăbușire a Ticketmaster înainte de concertul ei Eras Tour a stârnit furie pe internet, ceea ce a dus la mai multe eforturi legislative pentru a lua măsuri împotriva politicilor de ticketing neprietenoase pentru consumatori.

Poate că același lucru va fi valabil și pentru imaginile dăunătoare generate de AI, a sugerat Decker.

„Când ai figuri precum Taylor Swift [vizate] care sunt atât de mari, poate că acest lucru este ceea ce determină legiuitorii și companiile de tehnologie să acționeze, deoarece nu își pot permite ca iubita Americii să fie într-o campanie publică împotriva lor”, a spus el. „Aș spune că trebuie să o facă să se simtă mai bine pentru că ea are probabil mai multă influență decât aproape oricine altcineva pe internet”.

Acest tip de tehnologie a fost folosit pentru a crea ceea ce este cunoscut sub numele de „pornografie din răzbunare” – postarea online a unor imagini explicite ale unei persoane fără consimțământul acesteia – de ceva vreme, dar acum primește o atenție sporită din cauza fotografiilor jignitoare ale lui Swift.

Nouă state americane au în prezent legi împotriva creării sau partajării de fotografii deepfake fără consimțământ.