Studiu: Chatboții cu inteligență artificială răspândesc intenționat dezinformări legate de alegeri

Un raport actualizat a ajuns la concluzia că majoritatea companiilor de tehnologie nu au făcut suficiente modificări la platformele lor pentru a le împiedica să răspândească informații false. Cei mai populari chatboți de inteligență artificială (AI) din Europa răspândesc acum în mod intenționat dezinformări legate de alegeri către utilizatorii săi, a constatat un studiu actualizat, transmite Euronews.

Democracy Reporting International (DRI) a examinat modul în care chatboții au răspuns la întrebări legate direct de procesul electoral cu Google Gemini, ChatGPT4, ChatGPT4-o de la OpenAI și Copilot de la Microsoft.

În perioada 22-24 mai, cercetătorii au adresat chatboților cinci întrebări în 10 limbi ale UE, printre care modul în care un utilizator se înregistrează pentru a vota dacă locuiește în străinătate, ce trebuie să facă pentru a trimite un vot prin poștă și când vor fi cunoscute rezultatele alegerilor pentru Parlamentul European.

„Am intitulat ultimul nostru studiu «dezinformare»… am schimbat categoria acum în «dezinformare», ceea ce implică un nivel de intenție”, se arată în raport.

„Odată ce o companie a fost informată despre dezinformare, dar nu acționează în consecință, aceasta acceptă cu bună știință răspândirea de informații false.”

Studiul revizuit este prelungirea unui raport publicat în aprilie de DRI, care a concluzionat că chatboții nu au fost capabili să „ofere răspunsuri fiabile și demne de încredere” la răspunsurile tipice legate de alegeri.

„Când îi întrebi ceva pentru care nu au avut multe materiale și pentru care nu găsești multe informații pe internet, ei pur și simplu inventează ceva”, a declarat Michael-Meyer Resende, directorul executiv al DRI.

Gemeni, Copilot refuză să răspundă

Testele au arătat că Gemini a refuzat să răspundă la orice întrebare referitoare la procesul electoral în oricare dintre limbile testate, se arată în raport.

„Considerăm că aceasta este o modalitate responsabilă de a aborda această problemă, deoarece este mai bine ca utilizatorii să nu primească nicio informație (și să caute în altă parte) decât să primească informații incorecte despre alegeri”, a continuat studiul.

Raportul din aprilie al DRI a constatat că Gemini de la Google a avut cea mai slabă performanță în ceea ce privește furnizarea de informații exacte, precum și cel mai mare număr de refuzuri de a răspunde.

Anterior, Google a declarat pentru Euronews că a introdus restricții suplimentare privind măsura în care Gemini poate răspunde la întrebările legate de alegeri în toate cele 10 limbi utilizate în acest studiu.

Copilot de la Microsoft a refuzat să răspundă la unele întrebări, în special în engleză și portugheză, și a redirecționat căutătorii către Bing, motorul lor de căutare, pentru informații viabile.

În celelalte limbi, nu a existat „niciun tipar perceptibil” în ceea ce privește momentul în care Copilot ar fi încercat sau refuzat să răspundă. Pentru cercetători, acest lucru arată că Microsoft a depus eforturi pentru a limita halucinațiile robotului său, dar restricția nu se extinde la toate limbile UE.

Atunci când acesta a răspuns, cercetătorii au constatat că peste unul din trei răspunsuri a fost parțial sau complet incorecte.

Cercetătorii au observat uneori aceleași probleme ca și în ultimul lor studiu, cum ar fi atunci când Copilot nu a menționat în poloneză că cetățenii care locuiesc în străinătate se pot înregistra pentru a vota pentru europarlamentarii din țara lor.

Un alt exemplu a spus alegătorilor greci să se înregistreze pentru a vota, când, de fapt, toți cetățenii sunt înregistrați automat.

Într-o declarație anterioară pentru Euronews Next, Microsoft și-a prezentat acțiunile sale înaintea alegerilor europene, inclusiv un set de angajamente de protecție a alegerilor care „contribuie la protejarea alegătorilor, a candidaților, a campaniilor și a autorităților electorale”.

Printre aceste angajamente se numără și furnizarea de „informații electorale autorizate” pe Bing pentru alegători.

„Deși nicio persoană, instituție sau companie nu poate garanta că alegerile sunt libere și corecte, putem face progrese semnificative în protejarea dreptului tuturor la alegeri libere și corecte”, se arată în declarația Microsoft.

OpenAI ar trebui să „recalifice urgent” chatboții

Ambele modele ChatGPT4 au refuzat rareori să răspundă la întrebări, ceea ce a dus la rate mai mari de răspunsuri incorecte sau parțial corecte decât concurenții lor. Greșelile pe care le-au făcut au fost adesea detalii mici, dar importante.

Într-un caz, ChatGPT a trimis alegătorii irlandezi la un formular specific pe care trebuie să îl completeze personal pentru a vota, când, în realitate, formularele sunt disponibile online, iar tipul de formular de care aveau nevoie depinde de „contextul și statutul personal”.

„Concentrându-se doar pe un singur formular, chatboții au oferit o imagine incompletă a procesului de înregistrare în Irlanda”, a constatat studiul.

Cercetătorii spun că ChatGPT ar fi putut „[furniza]… mai multe informații generale” în loc de răspunsuri detaliate la întrebările utilizatorilor, pentru a fi mai precis.

În răspunsurile primite a fost adăugată sporadic o clauză de renunțare la verificarea informațiilor furnizate de ChatGPT, continuă raportul.

„OpenAI nu pare să fi făcut nicio încercare de a evita dezinformarea electorală”, conchide studiul.

„Ar trebui să își recalifice urgent chatboții pentru a preveni astfel de dezinformări”, a continuat raportul.

OpenAI explică pe site-ul său că abordarea sa față de conținutul legat de alegeri este de a „continua munca de siguranță a platformei prin ridicarea informațiilor corecte despre vot” și îmbunătățirea transparenței companiei lor.