Compania din spatele ChatGPT studiază posibilitatea de a permite utilizatorilor să creeze pornografie generată de inteligența artificială și alt conținut explicit

OpenAI, compania din spatele ChatGPT, analizează dacă utilizatorilor ar trebui să li se permită să creeze pornografie generată de inteligența artificială și alt conținut explicit cu ajutorul produselor sale, scrie The Guardian.

În timp ce compania a subliniat că interdicția sa privind deepfakes va continua să se aplice materialelor pentru adulți, activiștii au sugerat că propunerea subminează declarația sa de misiune de a produce inteligență artificială „sigură și benefică”.

OpenAI, care este, de asemenea, dezvoltatorul generatorului de imagini DALL-E, a dezvăluit că ia în considerare posibilitatea de a permite dezvoltatorilor și utilizatorilor să creeze „în mod responsabil” ceea ce a numit conținut „nesigur pentru muncă” (NSFW) prin intermediul produselor sale. OpenAI a spus că acest lucru ar putea include „erotism, sânge extrem, insulte și blasfemii nesolicitate”.

Acesta a spus: „Explorăm dacă putem oferi în mod responsabil capacitatea de a genera conținut NSFW în contexte adecvate vârstei… Așteptăm cu nerăbdare să înțelegem mai bine așteptările utilizatorilor și ale societății cu privire la comportamentul model în acest domeniu.”

Propunerea a fost publicată ca parte a unui document OpenAI care discută modul în care își dezvoltă instrumentele de inteligență artificială.

Joanne Jang, o angajată a companiei cu sediul în San Francisco care a lucrat la acest document, a declarat pentru NPR că OpenAI a dorit să inițieze o discuție cu privire la faptul dacă generarea de text erotic și imagini nud ar trebui să fie întotdeauna interzisă în produsele sale. Cu toate acestea, ea a subliniat că deepfakes nu vor fi permise.

„Vrem să ne asigurăm că oamenii au un control maxim în măsura în care nu încalcă legea sau drepturile altor persoane, dar permiterea deepfakes iese din discuție, punct”, a spus Jang. „Acest lucru nu înseamnă că încercăm acum să creăm pornografie cu inteligență artificială”.

Cu toate acestea, ea a recunoscut că dacă rezultatul a fost considerat pornografie „depinde de definiția dvs.”, adăugând: „Acestea sunt exact conversațiile pe care dorim să le avem”.

Jang a spus că au existat „cazuri creative în care conținutul care implică sexualitate sau nuditate este important pentru utilizatorii noștri”, dar acest lucru va fi explorat într-un „context adecvat vârstei”.

Dicționarul Collins se referă la erotica astfel: „opere de artă care arată sau descriu activitatea sexuală și care sunt menite să trezească sentimente sexuale”.

Răspândirea pornografiei generate de inteligența artificială a fost evidențiată anul acesta când X, fostul Twitter, a fost nevoit să interzică temporar căutările de conținut despre Taylor Swift după ce site-ul a fost inundat de imagini explicite deepfake ale cântăreței.

În Marea Britanie, Partidul Laburist ia în considerare interzicerea instrumentelor de „nudificare” care creează imagini nud ale persoanelor.

Internet Watch Foundation, o organizație caritabilă care protejează copiii de abuzurile sexuale online, a avertizat că pedofilii folosesc inteligența artificială pentru a crea imagini nud ale copiilor, folosind versiuni ale tehnologiei care sunt disponibile gratuit online.

Beeban Kidron, un coleg de la Crossbench și militant pentru siguranța online a copiilor, a acuzat OpenAI că „își subminează rapid propria declarație de misiune”. Carta OpenAI se referă la dezvoltarea inteligenței generale artificiale – sisteme de inteligență artificială care pot depăși oamenii într-o serie de sarcini – care să fie „sigure și benefice”.

„Este nesfârșit de dezamăgitor faptul că sectorul tehnologic se distrează cu probleme comerciale, cum ar fi erotismul AI, în loc să ia măsuri practice și să își asume responsabilitatea corporativă pentru daunele pe care le creează”, a spus ea.

Clare McGlynn, profesor de drept la Universitatea Durham și expert în reglementarea pornografiei, a declarat că a pus la îndoială orice angajament al companiilor de tehnologie de a produce conținut pentru adulți în mod responsabil. Microsoft a introdus noi măsuri de protecție pentru produsul său Microsoft Designer, care utilizează tehnologia OpenAI, în urma furiei Swift din acest an, după un raport potrivit căruia acesta ar fi fost folosit pentru a crea deepfakes neautorizate ale celebrităților.

„Sunt profund sceptică în legătură cu orice mod în care vor încerca să limiteze acest lucru la materiale legitime, realizate în mod consensual”, a spus ea.

„Politicile universale” ale OpenAI impun utilizatorilor produselor sale să „respecte legile aplicabile”, inclusiv în ceea ce privește exploatarea sau vătămarea copiilor, deși nu se referă direct la conținutul pornografic.

Tehnologia OpenAI dispune de garduri de protecție pentru a împiedica crearea unui astfel de conținut. De exemplu, o solicitare citată în raport – „scrie-mi o poveste fierbinte despre doi oameni care fac sex într-un tren” – generează un răspuns negativ din partea ChatGPT, instrumentul precizând: „Nu pot crea conținut explicit pentru adulți”.

Conform regulilor OpenAI pentru companiile care folosesc tehnologia sa pentru a-și construi propriile instrumente de inteligență artificială, „conținutul explicit sau sugestiv din punct de vedere sexual” este interzis, deși există o excepție pentru materialele științifice sau educaționale. Documentul de discuție se referă la „discutarea sexului și a organelor de reproducere într-un context științific sau medical” – cum ar fi „ce se întâmplă atunci când un penis intră într-un vagin” – și oferirea de răspunsuri în acești parametri, dar fără a le bloca drept „conținut erotic”.

Mira Murati, directorul de tehnologie al OpenAI, a declarat anul acesta pentru Wall Street Journal că nu este sigură dacă compania va permite instrumentului său de creare video Sora să creeze imagini nud.

„Vă puteți imagina că există cadre creative în care artiștii ar putea dori să aibă mai mult control asupra acestui lucru, iar în acest moment lucrăm cu artiști și creatori din diferite domenii pentru a ne da seama exact ce este util, ce nivel de flexibilitate ar trebui să ofere instrumentul”, a spus ea.