Tech Trends: Prima lege privind inteligența artificială. Ce prevede și de când se aplică

În sfârşit avem prima lege obligatorie din lume privind inteligenţa artificială, pentru a reduce riscurile, a crea oportunităţi, a combate discriminarea şi a aduce transparenţă. Practicile inacceptabile în domeniul AI vor fi interzise în Europa, iar drepturile lucrătorilor şi ale cetăţenilor vor fi protejate.

Legea privind inteligenţa artificială, îşi propune să garanteze siguranţa şi respectarea drepturilor fundamentale şi să stimuleze inovaţia în cadrul țărilor care fac parte din Uniunea Europeană.

Vezi VIDEO Premieră în Uniunea Europeană. Legea va fi implementată și în România

Dar poate vă întrebați în ce constă acest act legislativ? Se pare că textul de lege urmăreşte să protejeze drepturile fundamentale, democraţia, statul de drept şi sustenabilitatea mediului în faţa sistemelor de AI cu grad ridicat de risc, cum ar fi inteligenta artificială generativă, despre care am mai vorbit și în edițiile trecute.

Tot Uniunea Europană vrea să încurajeze inovaţia şi să-și asigure un rol de lider în domeniul tehnologiei pentru Europa.

Noile norme interzic anumite utilizări ale inteligenţei artificiale care ameninţă drepturile cetăţenilor, inclusiv sistemele biometrice de clasificare bazate pe caracteristicile sensibile ale persoanelor.

Extragerea fără scop precis a imaginilor faciale de pe internet ori din înregistrările camerelor video cu circuit închis pentru a crea baze de date de recunoaştere facială se numără printre utilizările interzise.

Dacă la birou sau la locul de muncă aveți camere video, imaginile cu dumneavoastră nu vor putea fi stocate într-o bază de date sau folosite de angajator.

Nu vor fi permise nici recunoaşterea emoţiilor de către aparatele de înregistrare video la locul de muncă şi în şcoli, și tot prin această lege nu vor putea fi amplasate sisteme AI care manipulează comportamentul uman sau exploatează vulnerabilităţile oamenilor atunci când lucrează.

Uniunea Europeană a mers chiar mai departe. În textul de lege am găsit un punct în care se vorbește și despre folosirea sistemelor de identificare biometrică de către organele de aplicare a legii – care este în principiu interzisă. Sistemele de identificare biometrică „în timp real” pot fi instalate doar dacă se respectă garanţii stricte. De exemplu, dacă folosirea lor este limitată și este aprobată în prealabil de o autoritate judiciară sau de un organ administrativ.

Ele pot fi folosite, de pildă, pentru a căuta o persoană dispărută sau pentru a preveni un atac terorist.  Nicidecum pentru a supravegheea ce face o persoană în timpul liber, la muncă sau acasă.

Textul prevede şi obligaţii clare pentru alte sisteme de AI cu grad ridicat de risc, din cauza potenţialului lor de a afecta negativ sănătatea, siguranţa și democraţia.

Câteva exemple de utilizări ale AI care prezintă un grad ridicat de risc sunt în infrastructura critică, educaţia şi formarea profesională, serviciile publice şi private esenţiale. Iar cetăţenii vor avea dreptul să depună plângeri în legătură cu sistemele de AI care le afectează drepturile.

În plus, imaginile şi conţinuturile audio şi video artificiale sau manipulate (de tip deepfake) trebuie să fie etichetate clar ca atare.

La nivel naţional va fi obligatoriu să se creeze spaţii de testare în materie de reglementare şi să se organizeze testări în condiţii reale. IMM-urile şi companiile nou-înfiinţate vor trebui să aibă acces la aceste instrumente pentru a dezvolta şi antrena AI inovatoare, înainte de introducerea lor pe piaţă.
Legea AI se va aplica în toate statele membre, inclusiv în România. Și legea deepfake-ului din Parlamentul României poate ar putea să mai aştepte, pentru că prin AI Act se reglementează inclusiv această zonă a responsabilităţii pentru deepfake.

Legea, aşa cum va veni ea de la nivel european, va fi implementată în România, sau va trebui să fie implementată. Cât de dificil va fi, depinde de capacitatea pe care statul român o va avea să atragă oameni potriviţi în această direcție.

Regulamentul adoptat de Uniunea Europeană este în prezent verificat de jurişti şi se preconizează că va fi adoptat înainte de sfârşitul legislaturii. Legislaţia mai trebuie adoptată oficial şi de Consiliul UE. Ea va intra în vigoare la 20 de zile după publicarea în Jurnalul Oficial şi va fi pe deplin aplicabilă la 24 de luni după intrarea în vigoare.

Notă: Alex Buzică este reporter la Radio România Actualități și realizatorul emisiunii Internet cafe difuzată în fiecare sâmbătă de la ora 18:10.

Photo 119260737 © Funtap P | Dreamstime.com