Cum se folosește primarul din New York de deepfake pentru a le vorbi locuitorilor în limbile lor natale, de la idiș și mandarină la cantoneză și spaniolă

Eric Adams, primarul din New York, se folosește de deepfake și inteligența artificială pentru a-i suna pe locuitorii orașului cu care vorbește în limbile lor natale. Nu vorbește spaniolă, mandarină, cantoneză (dialect din China) sau idiș (vorbită de evreii așkenazi) dar i-a sunat pe locuitorii din comunitate cu care a dialogat astfel.

Primarul orașului New York a recunoscut că a folosit falsuri audio pentru a suna locuitorii în limbi pe care nu le vorbește. A spus, însă, că este o modalitate de a ajunge la mai mulți oameni.

În cadrul unei conferințe de presă (în limba engleză), democratul a declarat că „robocall-urile” au fost folosite pentru a promova evenimente locale precum târguri de recrutare și concerte.

Primarul spune că s-a bucurat de un feedback pozitiv din partea locuitorilor și că unii dintre cei cu care a vorbit au fost „încântați” să își audă primarul în propria lor limbă.

”Devenim mai primitori prin utilizarea tehnologiei”, a adăugat el, care a fost întrebat de jurnaliști și dacă nu consideră că apelurile telefonice puteau induce oamenii în eroare.

Publicația locală de știri The City relatează că peste patru milioane de persoane au fost contactate până acum prin intermediul apelurilor, inclusiv mii de persoane în spaniolă și sute în idiș, mandarină și cantoneză.

Acestea sunt generate cu ajutorul firmei de tehnologie vocală ElevenLabs, care a fost criticată la începutul acestui an, când software-ul său a fost folosit pentru a genera voci de celebrități care citeau declarații nepotrivite. Spotify experimentează cu instrumente similare pentru a traduce podcasturile în alte limbi.

În urma conferinței de presă, primarul a fost criticat de unii oameni care au descris apelurile ca fiind „lipsite de etică”, deoarece nu includ nicio clarificare că vocea este generată artificial.

Albert Fox Cahn, de la Surveillance Technology Oversight Project, a declarat că este vorba despre un proiect ”de vanitate” înfiorător.

„Primarul se falsifică profund”, a spus el.

„Acest lucru este profund lipsit de etică, mai ales pe banii contribuabililor. Folosirea inteligenței artificiale pentru a-i convinge pe newyorkezi că vorbește limbi pe care nu le vorbește este profund orwelliană”.

Primarul nu va „fugi” de inteligența artificială, în ciuda riscurilor

Potențiala amenințare pe care tehnologia o reprezintă pentru democrație a fost recent subliniată de clipuri false care îl vizau pe liderul laburist britanic Sir Keir Starmer.

Adams a recunoscut îngrijorările legate de astfel de inteligență artificială generativă, inclusiv cele utilizate pentru a crea imagini și videoclipuri, dar a declarat că nu va „fugi” de aceste instrumente.

De asemenea, a folosit briefingul de presă pentru a promova un nou serviciu de chatbot pentru a ajuta proprietarii de mici afaceri.

Acesta este alimentat de tehnologia Microsoft, cu o interfață similară cu ChatGPT de la OpenAI, și permite utilizatorilor să pună întrebări legate de solicitarea de programe locale și sfaturi despre cum să administreze o companie.