Cum a prezis James Cameron, în urmă cu 40 de ani, temerile noastre cu privire la inteligența artificială, în filmul science-fiction The Terminator

Cu Arnold Schwarzenegger în rolul principal, blockbusterul din 1984 „Terminator” a devenit sinonim cu pericolele mașinilor superinteligente. Dar filmul „ajută și îngreunează” înțelegerea noastră a IA, relatează BBC. Cu roboții săi ucigași și sistemul său de inteligență artificială, Skynet, Terminator a devenit sinonim cu spectrul unei inteligențe artificiale care se întoarce împotriva creatorilor săi umani.

Editorii de imagini ilustrează în mod obișnuit articolele despre inteligența artificială cu capul de mort cromat al robotului „vânător-criminal” T-800 din film. Roboticianul Ronald Arkin a folosit secvențe din film într-o prelegere din 2013 intitulată Cum să NU construiești un Terminator.

Dar filmul este o binecuvântare mixtă. Filozoful Nick Bostrom, a cărui carte Superintelligence din 2014 a popularizat riscul existențial al „AI nealiniate” (AI care nu este aliniată cu valorile și bunăstarea umană) a recunoscut că soția sa „mă tachinează cu Terminator și armata de roboți”. În cartea sa The Road to Conscious Machines, Michael Woolridge, cercetător în domeniul IA, se plânge într-un capitol întreg de „povestea Terminator a IA”.

Există filme influente mai recente și mai plauzibile despre inteligența artificială, inclusiv Ex Machina și Her, dar când vine vorba de pericolele tehnologiei, Terminator domnește suprem la 40 de ani de la lansare. „Este aproape, într-un mod amuzant, mai actual acum decât a fost atunci când a fost lansat”, a declarat Cameron pentru The Ringer despre film și continuarea sa din 1991, «deoarece IA este acum un lucru real cu care trebuie să ne confruntăm, iar atunci era o fantezie».

„Anti-armă și anti-mașină

Aceasta este o adevărată realizare pentru un film care, de fapt, nu este interesat în mod deosebit de inteligența artificială. În primul și în primul rând, este un thriller slăbuț și murdar despre un „bărbat” de neoprit care urmărește o femeie speriată, dar plină de resurse. T-800 este un ucigaș implacabil în genul lui Michael Myers din Halloween. Cameron l-a numit „un film slasher science-fiction”. În al doilea rând, este un film despre călătoria în timp pe tema „destin vs voință”, după cum a spus Cameron.

Premisa schițată rapid este că, la un moment dat între 1984 și 2029, SUA au încredințat întregul lor sistem de apărare lui Skynet. Într-o zi, Skynet a dobândit superinteligență – o minte proprie – și a declanșat un război nuclear global.

Supraviețuitorii omenirii au dus apoi o rebeliune de zeci de ani împotriva armatei de roboți a lui Skynet. În 2029, rezistența umană este în pragul victoriei datorită liderului John Connor, așa că Skynet trimite un T-800 (Arnold Schwarzenegger) în 1984 pentru a o ucide pe Sarah (Linda Hamilton), viitoarea mamă a lui John, înainte ca aceasta să rămână însărcinată.

Rezistența răspunde trimițându-l înapoi pe Kyle Reese (Michael Biehn) pentru a opri T-800 și a o salva pe Sarah. Într-unul dintre acele paradoxuri temporale pe care spectatorii nu ar trebui să le examineze prea atent, Kyle se cuplează cu Sarah și se dovedește a fi tatăl lui John. Viitorul este salvat.

Așadar, Terminator este un thriller, o poveste de dragoste, o ruminație în timp asupra liberului arbitru și o satiră despre dependența noastră de tehnologie. Este împotriva corporațiilor, împotriva războiului, împotriva armelor și, în mare parte, împotriva mașinilor. Tehnologia, de la robotul telefonic la Walkman, este implicată atunci când oamenii sunt uciși în acest film. Dar are foarte puține de spus despre inteligența artificială în sine.

Terminator va deveni unul dintre cele mai profitabile filme din toate timpurile, cu încasări de 78,4 milioane de dolari, dar Cameron nu se aștepta să creeze o piatră de hotar culturală. El a scris scenariul într-un hotel neîngrijit din Roma, în 1982, după ce a fost concediat din primul său rol de regizor, Piranha II: The Spawning, iar producătoarea sa, Gale Ann Hurd, nu a putut obține decât un buget de 6,4 milioane de dolari.

Actorul său principal, un fost culturist cu un talent nedovedit, nu avea mari speranțe. Schwarzenegger i-a povestit unui prieten despre „un film de rahat pe care îl fac, durează câteva săptămâni”.

Cameron însuși se aștepta ca Terminator să fie „călcat în picioare” la box office de cele două epopei sci-fi ale toamnei: Dune al lui David Lynch și 2010 al lui Peter Hyams: The Year We Make Contact, o continuare curând uitată a lui 2001: A Space Odyssey. Există o sincronicitate atractivă aici: nu numai că Terminatorul a depășit 2010, dar Skynet a ajuns să suplinească computerul ucigaș HAL 9000 din 2001 ca imagine dominantă a IA care a mers prost.

Cu mult înainte ca domeniul inteligenței artificiale să existe, potențialele sale pericole s-au manifestat sub forma robotului, creat de Karel Čapek în piesa sa RUR din 1921 și popularizat de filmul Metropolis al lui Fritz Lang din 1927. În excelenta sa carte BFI despre Terminator, Sean French sugerează că cea mai memorabilă imagine a filmului – T-800 ieșind din flăcări, cu costumul său de carne topit pentru a-și expune endoscheletul metalic – a fost o aluzie la robotul în flăcări din Metropolis.

În anii 1920, era normal ca inteligența mașinilor să meargă și să vorbească, precum monstrul lui Frankenstein. Popularitatea roboților letali l-a determinat pe scriitorul de science-fiction Isaac Asimov să elaboreze, în 1942, „cele trei legi ale roboticii”: prima încercare de definire a inteligenței artificiale etice.

În lumea reală, domeniul inteligenței artificiale a început oficial în 1956, la o școală de vară de la Universitatea Dartmouth, organizată de informaticienii John McCarthy (care a inventat termenul) și Marvin Minsky. Ambiția lor a fost de a proiecta mașini care să poată gândi ca oamenii, însă acest lucru s-a dovedit mult mai dificil decât și-au imaginat.

Istoria inteligenței artificiale este una a boom-ului și a recesiunii: un ciclu de așa-numite „primăveri ale inteligenței artificiale” și „ierni ale inteligenței artificiale”. Promisiunile halucinante atrag atenția, finanțarea și talentul; eșecul lor de a se materializa le face pe toate trei să se prăbușească.

Perioada de boom din anii 1960, înainte ca amploarea obstacolelor tehnice să devină evidentă, este cunoscută drept Epoca de Aur a inteligenței artificiale. Vorbirea extravagantă despre „creierele electronice” i-a entuziasmat pe regizorul Stanley Kubrick și pe scriitorul Arthur C Clarke, care au integrat inteligența artificială în filmul 2001: Odiseea spațială din 1968 sub forma lui HAL 9000. Numele (care înseamnă Heuristically Programmed Algorithmic Computer) provine chiar de la Minsky, angajat ca consultant de Kubrick. Ochii roșii ai lui T-800 sunt cu siguranță un omagiu adus lui HAL – vizionarea filmului 2001 în copilărie l-a pus pe Cameron pe calea de a deveni cineast.

Daniel Crevier, un istoric al inteligenței artificiale, a comparat scenariul HAL (un computer prost programat care merge prost) cu scenariul din thrillerul Colossus al lui DF Jones din 1966 (computerul devine o nouă formă de viață asemănătoare unui zeu). În romanul lui Jones, guvernul SUA încredințează în mod nechibzuit întregul său aparat de apărare supercomputerului titular. Colossus devine conștient, își unește forțele cu omologul său sovietic și șantajează omenirea să se supună unei dictaturi tehnologice: predarea sau anihilarea nucleară. Colossus este un proto-Skynet.

Nici HAL, nici Colossus nu aveau – sau nu aveau nevoie de – corpuri. Inovația genială a lui Cameron a fost să combine computerul scăpat de sub control (Skynet) cu robotul ucigaș (T-800). T-800 este o formă de inteligență artificială cu un singur scop, care poate învăța din mediul înconjurător, poate rezolva probleme, poate efectua sarcini fizice sofisticate și poate falsifica vocile, însă se luptă să poarte o conversație. Skynet, se pare, poate face totul, mai puțin să se miște.

Skynet a fost un produs al celei de-a doua primăveri a inteligenței artificiale. În timp ce Cameron scria scenariul, informaticianul britanic-canadian Geoffrey Hinton regândea și relansa cercetările privind abordarea inteligenței artificiale prin rețele neuronale: modelarea inteligenței automate pe baza neuronilor din creierul uman. Skynet este inteligența artificială bazată pe rețele neuronale. Hinton, care tocmai a câștigat Premiul Nobel pentru fizică, a devenit recent un adept al IA („Intuiția mea este: suntem terminați. Acesta este adevăratul sfârșit al istoriei”), dar, potrivit unui profil din New Yorker, i-a plăcut Terminator în 1984: „Nu l-a deranjat faptul că Skynet… era o rețea neuronală; a fost încântat să vadă tehnologia descrisă ca fiind promițătoare”.

Este posibil ca numele Skynet să fi fost, de asemenea, o aluzie la Războiul Stelelor, visul sortit eșecului al președintelui Reagan de a crea un scut antinuclear în jurul SUA cu ajutorul laserelor spațiale. (Din fericire pentru viitorul francizei, numele a făcut, de asemenea, un ecou involuntar la internet – un cuvânt care exista în 1984, dar care nu a fost utilizat pe scară largă până în anii 1990). Numele portmanteau ale unor noi start-up-uri ambițioase precum IntelliCorp, Syntelligence și TeKnowledge l-au inspirat probabil pe Cameron să descifreze numele original al creatorului Skynet, Cyber Dynamics Corporation, în Cyberdyne Systems.
James Cameron plănuiește un nou film Terminator care să păstreze ideea de bază a oamenilor „neputincioși” împotriva AI

Revăzând acum Terminator, este surprinzător să constatăm că cuvântul Skynet este pronunțat doar de două ori. Potrivit lui Kyle Reese, acesta a fost: „Nou. Puternic. Conectat la tot. Încrezător să conducă totul. Se spune că a devenit inteligent… un nou ordin de inteligență. Apoi i-a văzut pe toți oamenii ca pe o amenințare, nu doar pe cei de pe partea cealaltă. Ne-a decis soarta într-o microsecundă… exterminarea”. Aceasta este măsura interesului filmului pentru inteligența artificială. După cum a spus adesea Cameron, filmele Terminator sunt mai degrabă despre oameni decât despre mașini.

Continuarea blockbusterului din 1991, Terminator 2: Judgment Day, a completat puțin povestea. Ea izvorăște dintr-un alt paradox temporal: unitatea centrală de procesare și brațul drept ale Terminatorului original au supraviețuit distrugerii acestuia și i-au permis omului de știință de la Cyberdyne Miles Bennett Dyson (Joe Morton) să conceapă Skynet. Sarcina eroilor nu este acum doar să îl salveze pe John Connor, în vârstă de 10 ani, de T-1000 care călătorește în timp, ci și să distrugă Skynet în leagănul digital. (Acesta a fost ultimul cuvânt al lui Cameron pe acest subiect până când a produs și a co-scris Terminator din 2019: Dark Fate. El a declarat recent revistei Empire că toate sequel-urile care au intervenit au fost „redutabile”).

În Terminator 2, un T-800 în formă de Schwarzenegger este mai degrabă protector decât vânător și, prin urmare, purtător de expunere: „Sistemul intră în funcțiune la 4 august 1997. Deciziile umane sunt eliminate din apărarea strategică. Skynet începe să învețe la o rată geometrică. Devine conștient de sine la ora 2:14 a.m., ora Europei de Est, pe 29 august. Panicați, ei încearcă să se deconecteze”. Skynet ripostează lansând rachete nucleare asupra Rusiei, știind că contraatacul va devasta SUA. Trei miliarde de oameni mor în 24 de ore: Ziua Judecății.

Aceasta este o relatare fundamental diferită de cea a lui Reese. În primul film, Skynet își suprainterpretează programarea considerând întreaga umanitate o amenințare. În al doilea film, Skynet acționează din interes propriu. Contradicția nu deranjează majoritatea spectatorilor, dar ilustrează un dezacord crucial cu privire la riscul existențial al IA.

Utilizatorii obișnuiți își vor imagina inteligența artificială nealiniată ca fiind rebelă și răuvoitoare. Dar oameni precum Nick Bostrom insistă că adevăratul pericol este reprezentat de programarea neglijentă. Gândiți-vă la mătura vrăjitorului din filmul Fantasia al lui Disney: un dispozitiv care își urmează instrucțiunile cu supunere până la extreme ruinătoare. Al doilea tip de inteligență artificială nu este suficient de umană, îi lipsesc bunul simț și judecata morală. Primul este prea uman – egoist, resentimentar, avid de putere. Teoretic, ambele ar putea fi genocidare.

Prin urmare, Terminator ne ajută și ne împiedică în același timp să înțelegem inteligența artificială: ce înseamnă ca o mașină să „gândească” și cum ar putea merge oribil de prost. Mulți cercetători în domeniul inteligenței artificiale nu sunt de acord cu obsesia Terminatorului pentru că exagerează riscul existențial al inteligenței artificiale în detrimentul unor pericole mai imediate, cum ar fi șomajul în masă, dezinformarea și armele autonome. „În primul rând, ne face să ne îngrijorăm în legătură cu lucruri care probabil nu trebuie să ne îngrijoreze”, scrie Michael Woolridge. „Dar, în al doilea rând, abate atenția de la acele probleme ridicate de inteligența artificială care ar trebui să ne îngrijoreze”.

Cameron a dezvăluit pentru Empire că plănuiește un nou film Terminator care va renunța la tot bagajul narativ al francizei, dar va păstra ideea de bază a oamenilor „neputincioși” împotriva AI. Dacă se va realiza, va fi fascinant să vedem ce are de spus regizorul despre IA, acum că este un subiect despre care vorbim – și ne facem griji – în fiecare zi. Poate că cel mai util mesaj al filmului The Terminator pentru cercetătorii din domeniul inteligenței artificiale este acela al „voinței versus destin”: deciziile umane determină rezultatele. Nimic nu este inevitabil.