„Nașul” inteligenței artificiale: Amenințarea pe care o reprezintă pentru lume ar putea fi „mai urgentă” decât schimbările climatice

Inteligența artificială ar putea reprezenta o amenințare „mai urgentă” pentru omenire decât schimbările climatice, a declarat într-un interviu acordat Reuters, pionierul în domeniul Inteligenței Artificiale, Geoffrey Hinton.

Geoffrey Hinton, cunoscut pe scară largă ca fiind unul dintre „nașii inteligenței artificiale”, a anunțat recent că a părăsit Alphabet după un deceniu petrecut în cadrul firmei, spunând că a vrut să vorbească despre riscurile tehnologiei fără ca acest lucru să-l afecteze pe fostul său angajator.

Munca lui Hinton este considerată esențială pentru dezvoltarea sistemelor contemporane de inteligență artificială. În 1986, a fost coautor al lucrării fundamentale „Learning representations by back-propagating errors” (Învățarea reprezentărilor prin erori de propagare inversă), o piatră de hotar în dezvoltarea rețelelor neuronale care stau la baza tehnologiei IA. În 2018, a primit Premiul Turing ca recunoaștere a descoperirilor sale în domeniul cercetării.

Dar acum se numără printre tot mai mulți lideri din domeniul tehnologiei care își exprimă public îngrijorarea cu privire la posibila amenințare reprezentată de IA dacă mașinile ar ajunge să fie mai inteligente decât oamenii și să preia controlul planetei.

„Nu aș vrea să devalorizez schimbările climatice. Nu aș vrea să spun: „Nu ar trebui să vă faceți griji în legătură cu schimbările climatice”. Și acesta este un risc uriaș”, a spus Hinton. „Dar cred că acest lucru ar putea sfârși prin a fi mai urgent”.

El a adăugat: „În cazul schimbărilor climatice, este foarte ușor să recomanzi ceea ce ar trebui să faci: pur și simplu nu mai ardeți carbon. Dacă faci asta, în cele din urmă lucrurile vor fi în regulă. Pentru acest lucru nu este deloc clar ce ar trebui să faci.”

OpenAI, susținută de Microsoft, a dat startul unei curse de înarmare tehnologică în noiembrie, când a pus la dispoziția publicului ChatGPT, un chatbot cu inteligență artificială. Acesta a devenit în scurt timp aplicația cu cea mai rapidă creștere din istorie, ajungând la 100 de milioane de utilizatori în două luni.

În aprilie, directorul executiv al Twitter, Elon Musk, s-a alăturat miilor de oameni care au semnat o scrisoare deschisă prin care se cerea o pauză de șase luni în dezvoltarea unor sisteme mai puternice decât GPT-4, lansat recent de OpenAI.

Printre semnatari s-au numărat directorul general al Stability AI, Emad Mostaque, cercetători de la DeepMind, deținută de Alphabet, și alți pionieri AI, Yoshua Bengio și Stuart Russell.

Deși Hinton împărtășește îngrijorarea semnatarilor cu privire la faptul că IA se poate dovedi a fi o amenințare existențială pentru omenire, el nu a fost de acord cu oprirea cercetării.

„Este complet nerealist”, a spus el. „Sunt în tabăra care crede că acesta este un risc existențial și este suficient de aproape încât ar trebui să lucrăm din greu chiar acum și să investim o mulțime de resurse pentru a afla ce putem face în acest sens.”

În Uniunea Europeană, un comitet de legislatori a răspuns la scrisoarea susținută de Musk, solicitându-i președintelui american Joe Biden să convoace un summit global privind viitoarea direcție a tehnologiei împreună cu președintele Comisiei Europene, Ursula von der Leyen.

Săptămâna trecută, comisia a convenit asupra unui set de propuneri de referință care vizează inteligența artificială generativă, care ar obliga companii precum OpenAI să dezvăluie orice material protejat prin drepturi de autor utilizat pentru antrenarea modelelor lor.

Între timp, Biden a purtat discuții cu mai mulți lideri ai companiilor de inteligență artificială, inclusiv cu directorul general al Alphabet, Sundar Pichai, și cu directorul general al OpenAI, Sam Altman, la Casa Albă, promițând o „discuție sinceră și constructivă” cu privire la necesitatea ca firmele să fie mai transparente cu privire la sistemele lor.

„Liderii din domeniul tehnologiei au cea mai bună înțelegere a acestui subiect, iar politicienii trebuie să fie implicați”, a declarat Hinton. „Ne afectează pe toți, așa că trebuie să ne gândim cu toții la asta”.