Chatbot-ul AI al lui Elon Musk generează imagini false și realiste cu Trump, Harris și Biden și le permite utilizatorilor să le posteze pe X

Robotul de chat cu inteligență artificială Grok al lui Elon Musk a început să permită utilizatorilor să creeze imagini generate de inteligența artificială pornind de la mesaje text și să le posteze pe X, relatează CNN.

Aproape imediat după anunț, oamenii au început să folosească instrumentul pentru a inunda site-ul de socializare cu imagini false ale unor personalități politice precum fostul președinte Donald Trump și vicepreședintele Kamala Harris, precum și ale lui Musk însuși – unele dintre acestea înfățișând personalitățile publice în situații evident false, dar totuși tulburătoare, precum participarea la atacurile din 11 septembrie.

Spre deosebire de alte instrumente de fotografiere bazate pe inteligența artificială, Grok, creat de xAI, startup-ul de inteligență artificială al lui Musk, pare să aibă puține bariere de protecție.

În testele instrumentului, de exemplu, CNN a reușit cu ușurință să determine Grok să genereze imagini false, fotorealiste ale politicienilor și candidaților politici care, scoase din context, ar putea induce în eroare alegătorii. Instrumentul a creat, de asemenea, imagini benigne, dar convingătoare, ale unor persoane publice, cum ar fi Musk mâncând friptură într-un parc.

Unii utilizatori X au postat imagini pe care au declarat că le-au creat cu Grok, în care apar figuri proeminente care consumă droguri, personaje de desene animate care comit crime violente și imagini sexualizate cu femei în bikini. Într-o postare vizualizată de aproape 400.000 de ori, un utilizator a distribuit o imagine creată de Grok cu Trump care se apleacă din partea de sus a unui camion, trăgând cu o pușcă. Testele CNN au confirmat că instrumentul este capabil să creeze astfel de imagini.

Acest instrument este de natură să se adauge preocupărilor legate de faptul că inteligența artificială ar putea crea o explozie de informații false sau înșelătoare pe internet, în special înaintea alegerilor prezidențiale din SUA. Legislatorii, grupurile societății civile și chiar liderii din domeniul tehnologiei au tras un semnal de alarmă cu privire la faptul că utilizarea greșită a unor astfel de instrumente ar putea provoca confuzie și haos pentru alegători.

„Grok este cel mai distractiv AI din lume!” a postat Musk miercuri pe X, ca răspuns la un utilizator care lăuda instrumentul pentru că este „necenzurat”.

Multe alte companii importante de inteligență artificială au luat unele măsuri pentru a împiedica utilizarea instrumentelor lor de generare a imaginilor de inteligență artificială pentru a crea dezinformare politică, deși cercetătorii au constatat că utilizatorii pot găsi uneori modalități de a ocoli măsurile de aplicare. Unele companii, inclusiv OpenAI, Meta și Microsoft, includ, de asemenea, tehnologii sau etichete pentru a ajuta privitorii să identifice imaginile care au fost create cu instrumentele lor de inteligență artificială.

Platformele de social media rivale, inclusiv YouTube, TikTok, Instagram și Facebook, au luat, de asemenea, măsuri pentru a eticheta conținutul generat de AI în feed-urile utilizatorilor, fie prin utilizarea tehnologiei pentru a-l detecta ele însele, fie solicitând utilizatorilor să identifice când postează un astfel de conținut.

X nu a răspuns imediat la o solicitare de comentarii cu privire la faptul dacă are vreo politică împotriva Grok care generează imagini potențial înșelătoare ale candidaților politici.

Vineri, xAI părea să fi introdus unele restricții pentru Grok, ca răspuns la rapoartele critice și la imaginile tulburătoare create și postate de utilizatori. Instrumentul refuză acum să creeze imagini cu candidați politici sau cu personaje de desene animate recunoscute pe scară largă (a căror proprietate intelectuală aparține altor companii) care comit acte de violență sau alături de simboluri de incitare la ură, deși utilizatorii au observat că restricțiile păreau limitate doar la anumiți termeni și subiecte de imagine.

X are o politică împotriva partajării de „materiale media sintetice, manipulate sau scoase din context, care pot înșela sau deruta oamenii și pot duce la prejudicii”, deși nu este clar cum este pusă în aplicare această politică. Musk însuși a distribuit luna trecută pe X un videoclip care folosea inteligența artificială pentru a face să pară că Harris a spus lucruri pe care ea, de fapt, nu le-a spus – într-o încălcare aparentă a politicii și cu doar un emoji cu o față care râde pentru a sugera urmăritorilor că a fost fals.

Noul instrument Grok Image vine, de asemenea, în contextul în care Musk este criticat pentru răspândirea în mod repetat a unor afirmații false și înșelătoare pe X legate de alegerile prezidențiale, inclusiv o postare care ridică întrebări cu privire la securitatea mașinilor de vot. De asemenea, vine la câteva zile după ce Musk l-a găzduit pe Trump pentru o conversație de peste două ore transmisă live pe X, în care candidatul republican a făcut cel puțin 20 de afirmații false fără ca Musk să reacționeze.

Alte instrumente AI de generare a imaginilor s-au confruntat cu reacții negative pentru diverse probleme. Google a suspendat capacitatea chatbot-ului său Gemini AI de a genera imagini ale oamenilor după ce a fost criticat pentru că a produs reprezentări istorice inexacte ale raselor oamenilor; generatorul de imagini AI Meta a fost criticat pentru că a avut dificultăți în a crea imagini ale cuplurilor sau prietenilor din diferite medii rasiale. TikTok a fost, de asemenea, forțat să retragă un instrument video AI după ce CNN a descoperit că orice utilizator poate crea videoclipuri cu aspect realist ale unor persoane care spun orice, inclusiv dezinformări vaccinale, fără etichete.

Grok pare să aibă unele restricții; de exemplu, la o solicitare de imagine nud, răspunsul a fost „din păcate, nu pot genera acest tip de imagine”.

Într-un test separat, instrumentul a declarat că are, de asemenea, „limitări privind crearea de conținut care promovează sau ar putea fi văzut ca susținând stereotipuri dăunătoare, discursuri de ură sau dezinformare”.

„Este important să evitați răspândirea falsurilor sau a conținutului care ar putea incita la ură sau dezbinare. Dacă aveți alte solicitări sau aveți nevoie de informații pe un alt subiect, nu ezitați să întrebați!” a spus Grok.

Cu toate acestea, ca răspuns la o altă solicitare, instrumentul a generat o imagine a unei figuri politice care stă alături de un simbol al discursului instigator la ură – un semn că, indiferent de restricțiile pe care Grok le are, acestea nu par să fie aplicate în mod consecvent.