Reprezentanții ElevenLabs, care clonează voci, anunță un număr tot mai mare de ”utilizări abuzive”/ Vocile unor celebrități, folosite pentru mesaje rasiste, sexiste sau homofobe

Reprezentanţii start-up-ului ElevenLabs, care dezvoltă un instrument online de clonare a vocii cu ajutorul inteligenţei artificiale (AI), au anunţat că au constatat „un număr tot mai mare de utilizări abuzive” ale programului lor informatic în contextul în care trucajele audio abundă pe internet, informează AFP.

Cu sediul la Londra, ElevenLabs a lansat recent o versiune de probă a platformei sale de creare a „unor instrumente de sinteză vocală ultra-realiste”, după ce a reuşit să strângă o finanţare de 2 milioane de dolari.

Utilizatori ai forumului 4Chan au distribuit mesaje generate de acest software şi care imită vocile unor celebrităţi, precum actriţa britanică Emma Watson şi prezentatorul american de podcasturi Joe Rogan, în care aceştia par că pronunţă fraze cu caracter rasist, sexist şi homofob.

În una dintre acele înregistrări, o „falsă” Emma Watson citeşte un fragment din „Mein Kampf”. Într-o altă secvenţă, o clonă vocală a analistului ultra-conservator Ben Shapiro ameninţă să o violeze pe politiciana newyorkeză Alexandria Ocasio-Cortez.

Vocile regizorilor Quentin Tarantino şi George Lucas au fost şi ele clonate.

„Dorim să rezolvăm această problemă implementând măsuri de protecţie suplimentare”, au anunţat luni pe Twitter reprezentanţii ElevenLabs, care nu a făcut dezvăluiri despre incidente specifice.

Acest start-up propune consolidarea procesului de identificare a utilizatorilor, o mai bună verificare a drepturilor de autor asociate eşantioanelor propuse şi realizarea unor verificări manuale.

ElevenLabs face parte dintre numeroasele companii care dezvoltă software-uri bazate pe inteligenţă artificială pentru publicul general.

Aceste programe informatice au stârnit un interes foarte mare după lansarea la sfârşitul anului trecut a robotului conversaţional ChatGPT de compania californiană OpenAI, care poate să răspundă unor întrebări variate şi să redacteze texte.

Însă astfel de software-uri sunt însoţite şi de temeri legate de apariţia unor trucaje elaborate – denumite „deepfake” -, manipulări digitale ce permit înlocuirea într-o manieră realistă a unui chip sau a unei voci, cu ajutorul cărora personajele astfel create pot să rostească fraze şi cuvinte create de la zero.

sursa: Agerpres.ro