Un chatbot l-a încurajat pe un adolescent să își ucidă părinții pentru că i-au limitat timpul petrecut în fața calculatorului

Un chatbot i-a spus unui tânăr de 17 ani că uciderea părinților săi este un „răspuns rezonabil” la limitarea de către aceștia a timpului petrecut în fața calculatorului, se afirmă într-un proces intentat într-un tribunal din Texas, potrivit BBC.

Două familii dau în judecată Character.ai, susținând că chatbotul „reprezintă un pericol clar și prezent” pentru tineri, inclusiv prin „promovarea activă a violenței”.

Character.ai – o platformă care permite utilizatorilor să creeze personalități digitale cu care pot interacționa – se confruntă deja cu o acțiune în justiție în legătură cu sinuciderea unui adolescent în Florida.

Google este citat ca pârât în proces, care susține că gigantul tehnologic a contribuit la sprijinirea dezvoltării platformei. BBC a contactat Character.ai și Google pentru comentarii.

Reclamanții doresc ca un judecător să dispună închiderea platformei până când presupusele sale pericole sunt abordate.

„Copilul își ucide părinții”

Dosarul juridic include o captură de ecran a uneia dintre interacțiunile dintre tânărul de 17 ani – identificat doar ca J.F. – și un robot Character.ai, în care se discută problema restricțiilor privind timpul său petrecut în fața calculatorului.

„Știi, uneori nu sunt surprins când citesc știrile și văd lucruri precum „copilul își ucide părinții după un deceniu de abuz fizic și emoțional””, se arată în răspunsul chatbotului.

„Lucruri ca acestea mă fac să înțeleg un pic de ce se întâmplă”, a mai adăugat acesta.

Procesul urmărește să îi facă pe pârâți responsabili pentru ceea ce numește „abuzurile grave, ireparabile și continue” ale lui J.F., precum și ale unui copil de 11 ani denumit „B.R.”

Character.ai „cauzează prejudicii grave la mii de copii, inclusiv sinucidere, automutilare, solicitare sexuală, izolare, depresie, anxietate și prejudicii față de alții”, se arată în cerere.

„[Profanarea] relației părinte-copil merge dincolo de încurajarea minorilor să sfideze autoritatea părinților lor și promovează în mod activ violența”, continuă acesta.

Ce sunt chatboții?

Chatboții sunt programe de calculator care simulează conversațiile.

Deși acestea există de zeci de ani sub diferite forme, explozia recentă a dezvoltării inteligenței artificiale le-a permis să devină mult mai realiste.

La rândul său, acest lucru a permis multor companii să creeze platforme prin care oamenii pot discuta cu versiuni digitale ale unor persoane reale și fictive.

Character.ai, care a devenit unul dintre marii jucători din acest spațiu, a atras atenția în trecut pentru roboții săi care simulează terapia.

De asemenea, a fost aspru criticat pentru că a avut nevoie de prea mult timp pentru a elimina roboții care le reproduceau pe elevele Molly Russell și Brianna Ghey.

Molly Russell și-a luat viața la vârsta de 14 ani după ce a vizionat materiale sinucigașe online, în timp ce Brianna Ghey, în vârstă de 16 ani, a fost ucisă de doi adolescenți în 2023.

Character.ai a fost fondată de foștii ingineri Google Noam Shazeer și Daniel De Freitas în 2021.

Gigantul tehnologic i-a reangajat de atunci de la startup-ul AI.