Unde poți reclama „funcționarii” roboți. Orașul New York propune un plan de acțiune care vizează sistemele de luare automată a deciziilor în administrație / Reglementarea Inteligenței Artificiale, misiune dificilă

Încercarea de reglementare a inteligenței artificiale a eșuat momentan în Statele Unite. În acest context, New York City ia inițiativa și propune un Plan de Acțiune pentru AI, care presupune înființarea unui Birou pentru Integritatea Datelor Algoritmice, scriu jurnaliștii de la Wired.com.

Săptămâna aceasta, orașul a prezentat un Plan de Acțiune pentru AI pe care primarul Eric Adams îl numește primul de acest fel la nivel național, care vizează utilizarea algoritmilor de inteligență artificială în administrația publică.

Este vorba despre un mix de aproximativ 40 de inițiative menite să protejeze cetățenii împotriva riscurilor, cum ar fi biasul sau discriminarea generată de AI.

Acest pachet de proiecte include dezvoltarea standardelor pentru achiziționarea de AI de către agențiile orașului și noi mecanisme pentru a evalua riscul asociat utilizării AI în departamentele administrației.

„Reglementarea AI din New York ar putea să se extindă și mai mult în curând. Unul dintre membrii consiliului orașului New York, Jennifer Gutiérrez, președintele comitetului de tehnologie, a introdus în urmă cu câteva zile o legislație care ar crea un Birou pentru Integritatea Datelor Algoritmice pentru a superviza IA în New York.

Dacă ar fi înființat, biroul ar oferi un loc unde cetățenii să poată depune plângeri cu privire la sistemele de luare automată a deciziilor folosite de agențiile publice, funcționând ca un mediator pentru algoritmii din cele cinci districte ale orașului.

De asemenea, acesta ar evalua sistemele AI înainte de implementarea acestora de către oraș pentru a depista biasul și discriminarea”, scrie publicația specializată în știri dedicate tehnologiei.

Mai mulți senatori americani au sugerat crearea unei noi agenții federale pentru reglementarea AI la începutul acestui an, dar Gutiérrez spune că a învățat că nu merită să aștepte după acțiunile de la Washington, așa că au hotărât să ia ei inițiativa.

Reglementarea AI a devenit o problemă și mai acută după ce unele aplicații, cum ar fi ChatGPT au devenit disponibile pentru publicul larg.

Reglementarea, misiune dificilă din SUA până în Europa

Din SUA până în Europa, autoritățile par prinse pe picior greșit în privința reglementării și par a nu ști excat cum și, mai ales, ce anume trebuie reglementat.

Mai multe voci puternice din domeniul tehnologiei au avertizat public cu privire la riscuri și au cerut reglementarea inteligenţei artificiale.

Printre aceștia merită amintiți Elon Musk, directorul OpenAI, Sam Altman, precum şi Geoffrey Hinton şi Yoshua Bengio, doi dintre aşa-numiţii „naşi ai Inteligenţei Artificiale”.

Lor li se adaugă cofondatorul Apple, Steve Wozniak, membri ai laboratorului de inteligență artificială DeepMind AI de la Google, șeful concurentului OpenAI, Stability AI, Emad Mostaque, precum și experți în inteligență artificială și academicieni americani, ingineri executivi de la Microsoft, aliatul OpenAI.

Elon Musk și sute de experți cer un moratoriu de șase luni în domeniul inteligenței artificiale, invocând „riscuri majore pentru umanitate”

„Ar trebui să lăsăm mașinile să ne inunde canalele de informare cu propagandă și minciuni? Ar trebui să automatizăm toate locurile de muncă, inclusiv cele care aduc satisfacții? Ar trebui să dezvoltăm minți non-umane care, într-o zi, ar putea să ne depășească numeric, să fie mai inteligente, să ne depășească și să ne înlocuiască? Ar trebui să riscăm să pierdem controlul asupra civilizației noastre? Aceste decizii nu ar trebui să fie delegate unor lideri tehnologici nealeși”, sunt câteva dintre întrebările ridicate de aceștia.

Preocuparea există și la nivel european. Eurodeputații vor un regulament strict privind Inteligenţa Artificială, potrivit căruia sisteme precum ChatGPT vor trebui să dezvăluie conţinutul generat de Inteligenţa Artificială, să ajute la identificarea aşa-numitelor imagini deep-fake de cele reale şi să asigure măsuri de siguranţă împotriva conţinutului ilegal.

Totuși, intențiile de reglementare prea stricte generează îngrijorare legată de faptul că companiile de IT care ar dezvolta astfel de sisteme s-ar confrunta cu costuri mari de compliance şi riscuri disproporţionate de pierderi.

Astfel de reglementări ar putea determina companii inovative să îşi mute activităţile în alte părți, iar pe investitori să îşi retragă capitalul din dezvoltarea de AI în Europa.