Inteligența artificială nu poate fi abandonată „capriciilor” pieței, avertizează experții ONU

Dezvoltarea inteligenței artificiale (IA) și riscurile asociate nu pot fi abandonate „capriciilor” pieței, au avertizat joi experții ONU, făcând apel la instrumente de cooperare internațională, fără a merge însă până la o agenție mondială de guvernanță, potrivit AFP.

În urmă cu aproape un an, secretarul general al ONU, Antonio Guterres, a înființat acest comitet format din aproximativ patruzeci de experți în domeniile tehnologiei, dreptului și protecției datelor cu caracter personal, proveniți din mediul academic, guverne și sectorul privat, precum Microsoft, Google-Alphabet și OpenAI.

Raportul lor final, publicat cu doar câteva zile înainte de „Summitul pentru viitor” de la New York, constată, fără surpriză, „lipsa unei guvernanțe mondiale în domeniul inteligenței artificiale” și excluderea virtuală a țărilor în curs de dezvoltare din discuțiile privind un subiect existențial.

Dintre cele 193 de state membre ale ONU, doar șapte sunt implicate în șapte inițiative majore de guvernanță în domeniul IA (în cadrul OCDE, G20 sau al Consiliului Europei), iar 118 sunt total absente, în special țările din Sud.

Cu toate acestea, însăși natura „transfrontalieră” a acestor tehnologii „necesită o abordare globală”, insistă comisia.

„Inteligența artificială trebuie să servească umanitatea în mod echitabil și sigur”, a reiterat Antonio Guterres săptămâna aceasta. „Dacă nu sunt controlate, pericolele reprezentate de inteligența artificială ar putea avea implicații grave pentru democrație, pace și stabilitate”.

Rolul „crucial” al guvernelor

În acest context, comitetul de experți face apel la statele membre ale ONU să pună în aplicare instrumente pentru o mai bună cooperare globală, pentru a încuraja progresul umanității și a evita orice derapaj.

Deoarece „nimeni” nu poate prevedea astăzi evoluția acestor tehnologii”, iar cei care iau deciziile nu sunt responsabili pentru dezvoltarea și utilizarea unor sisteme «pe care nu le înțeleg».

În aceste condiții, „dezvoltarea, implementarea și utilizarea acestor tehnologii nu pot fi lăsate exclusiv în seama capriciilor piețelor”, insistă aceștia, subliniind rolul „crucial” al guvernelor și al organizațiilor regionale.

Primul instrument propus este crearea unui grup internațional de experți științifici în IA, după modelul experților ONU în domeniul climei (IPCC), ale căror rapoarte reprezintă o referință în domeniu.

Acești oameni de știință ar urma să lumineze comunitatea internațională cu privire la riscurile emergente, să identifice domeniile în care sunt necesare cercetări suplimentare sau să identifice modul în care anumite tehnologii ar putea contribui la atingerea obiectivelor de dezvoltare durabilă (eliminarea foametei și a sărăciei, egalitatea de gen, clima etc.).

Această idee este inclusă în proiectul de Pact digital global, încă în discuție, care urmează să fie adoptat duminică de cele 193 de state membre ale ONU în cadrul „Summitului pentru viitor”.

Experții sugerează, de asemenea, instituirea unui dialog politic interguvernamental periodic pe această temă și a unui fond pentru a ajuta țările rămase în urmă.

„Luați prin surprindere”

Pentru a acționa ca un „liant” între diferitele instrumente, experții pledează pentru crearea unei structuri flexibile în cadrul secretariatului ONU.

Cu toate acestea, ei nu susțin ideea unei agenții internaționale de guvernanță cu drepturi depline, așa cum a sugerat Antonio Guterres, după modelul Agenției Internaționale pentru Energie Atomică (AIEA).

Chiar dacă mandatul lor le-a cerut să exploreze această posibilitate, „nu recomandăm înființarea unei astfel de agenții în acest stadiu”.

„În cazul în care riscurile IA devin mai grave și mai concentrate, ar putea deveni necesar ca statele membre să ia în considerare o instituție internațională mai solidă, cu puteri de monitorizare, raportare, verificare și aplicare”, au temperat ei.

Deși observă că întocmirea unei liste exhaustive a riscurilor este o „cauză pierdută” într-un sector care se dezvoltă ultrarapid și a cărui evoluție nimeni nu o poate prevedea, ei enumeră câteva dintre pericolele identificate: dezinformarea care amenință democrația, deepfakes mai personale (în special sexuale), încălcări ale drepturilor omului, arme autonome, utilizarea de către grupuri criminale sau teroriste etc.

„Având în vedere viteza, autonomia și opacitatea sistemelor AI, așteptarea apariției unei amenințări ar putea însemna că este deja prea târziu pentru a răspunde”, recunosc ei, bazându-se pe o evaluare științifică constantă și pe schimburi politice pentru a se asigura că «lumea nu este luată prin surprindere».