VIDEO INTERVIU Mihai Matei (Concordia), despre AI Act: „Stabilește un standard astfel încât tehnologiile să fie folosite etic, transparent, să ne asigurăm că nu apar abuzuri asupra drepturilor omului”

AI Act va stabili un standard de utilizare a tehnologiilor de tip Artificial Intelligence (AI / IA), astfel încât acestea să fie folosite etic și să nu existe abuzuri asupra drepturilor fundamentale ale omului, a declarat Mihai Matei, vicepreședinte al Confederației Patronale Concordia, într-un interviu pentru G4Media.ro.

„Mai concret, n-ai voie să folosești, spre exemplu, AI pentru a determina când să fie declanșată o armă. Dar, ai voie să folosești AI pentru a determina riscul bancar, dar în anumite condiții. Și ce mai face foarte interesant – e prima oară în legislația europeană când se definește noțiunea asta de sandbox, care le permite companiilor să inoveze, deci să încerce să folosească tehnologia AI, dar într-un spațiu controlat. Deci cumva Uniunea Europeană a lăsat zona asta de inovație, înțelegând că trebuie totuși să inovăm și să utilizăm tehnologiile astea. Dar trebuie să o facem într-un mod sigur”, a explicat Matei.

De asemenea, despre portofelul digital, care a fost aprobat în februarie de către Parlamentul European, el a afirmat că va fi o „extensie a identității electronice”.

„Înseamnă că fiecare cetățean al UE va avea o entitate electronică cu care va putea interacționa cu orice fel de serviciu online în spațiul Uniunii Europene. Ca analogie – simplu de înțeles pentru oameni – este contul de gmail, de Facebook, de Microsoft, cu care te poți autentifica în mai multe aplicații. Cu același cont și cu aceeași parolă poți să accesezi mult mai multe servicii. Ce face în plus digital wallet-ul este că vei avea la un loc documentele tale importante – carte de identitate, pașaport, ș.a.m.d.”, a mai spus fostul președinte al Asociației Patronale a Industriei de Software și Servicii (ANIS).

Întrebat dacă România este pregătită să implementeze aceste măsuri, Matei a precizat că „nu chiar, dar din fericire, fiind regulament, cumva va trebui să o facem”.

„Avem calitatea asta, noi, ca țară, de a ne mobiliza în ultimul moment și de a rezolva problema”, a adăugat el.

În legătură cu recuperarea decalajului de digitalizare al IMM-urilor, Mihai Matei a subliniat că „nu cred deloc în bani din elicopter și fonduri aruncate strict pentru a digitaliza”, ci „trebuie să creezi oportunitatea ca diverși actori să beneficieze, să facă acțiunea pe care ți-o dorești. Nu cred că poți să convingi pe cineva doar dându-i bani”.

Redăm mai jos interviul integral:

Rep: Care va fi impactul regulamentului AI Act, aprobat în primăvară la nivelul UE, asupra companiilor din IT&C? Mai exact asupra căror companii? Cum și ce se va schimba pentru cetățeni?

Mihai Matei: „Păi, AI Act-ul ăsta ce stabilește? Stabilește un standard de utilizare a tehnologiilor de tip Artificial Intelligence și are o abordare bazată pe risc. Spre exemplu, definește că în spațiul Uniunii Europene nu ai voie să folosești tehnologia AI în zone de risc inacceptabil. Astea sunt zone în care, spre exemplu, drepturile omului ar fi posibil afectate. Deci, zona asta de drepturi fundamentale, după care mai au zona de high risk. Este posibil ca companiile care implementează tehnologie AI să le ofere diferit în spațiul european. Ce companii vor fi, să spunem, afectate? Sunt, în principiu, furnizorii mari de tehnologie. Ca principiu, ce face AI Act-ul ăsta este să stabilească un standard astfel încât tehnologiile astea să fie folosite etic, transparent, să ne asigurăm că nu apar abuzuri. Mai concret, n-ai voie să folosești, spre exemplu, AI pentru a determina când să fie declanșată o armă. Dar, ai voie să folosești AI pentru a determina riscul bancar, dar în anumite condiții. Și ce mai face foarte interesant – e prima oară în legislația europeană când se definește noțiunea asta de sandbox, care le permite companiilor să inoveze, deci să încerce să folosească tehnologia AI, dar într-un spațiu controlat. Deci cumva Uniunea Europeană a lăsat zona asta de inovație, înțelegând că trebuie totuși să inovăm și să utilizăm tehnologiile astea. Dar trebuie să o facem într-un mod sigur. (Pentru cetățeni) Nu cred că se va schimba ceva imediat și oricum efectul va fi indirect. În principiu, va fi mai multă transparență. Spre exemplu, dacă în momentele în care ajungi să discuți cu un bot AI în cazul unui sistem de suport – când dai telefon la o companie de utilități sau la un retailer și fie vorbești, fie discuți text, e obligatoriu să fii informat că discuți cu un AI, nu cu un om (aflat) în spate”.

Rep: În februarie 2024, Parlamentul European a dat undă verde finală regulamentului privind portofelul digital, iar acesta va trebui aprobat în mod oficial de Consiliul de Miniștrii al UE pentru a deveni lege. Cum va fi implementat portofelul digital în România, dar și la nivelul UE? Este România pregătită să îl implementeze?

MM: „Partea bună cu regulamentele (UE) e că nu prea contează dacă ești pregătit sau nu, ele devin legi. Deci trebuie să le implementezi, punct. Și asta este un lucru extrem de bun. România va fi la un moment dat pregătită să să-l implementeze. Acum, ce e digital wallet-ul ăsta? Este, dacă vreți, o extensie a identității electronice? Înseamnă că fiecare cetățean al UE va avea o entitate electronică cu care va putea interacționa cu orice fel de serviciu online în spațiul Uniunii Europene. Ca analogie – simplu de înțeles pentru oameni – este contul de gmail, de Facebook, de Microsoft, cu care te poți autentifica în mai multe aplicații. Cu același cont și cu aceeași parolă poți să accesezi mult mai multe servicii. Ce face în plus digital wallet-ul este că vei avea la un loc documentele tale importante – carte de identitate, pașaport, ș.a.m.d. România urmează chiar în perioada asta să facă roll-out și să implementeze la scară largă noile cărți electronice de identitate. Și dacă (România) este pregătită? Nu chiar, dar din fericire, fiind regulament, cumva va trebui să o facem”.

Rep: Știm că România e pe ultimul loc la servicii publice digitale. Va influența semnificativ acest lucru legislația UE legată de eID?

MM: „Da, faptul că avem un regulament, deci se transpune direct într-o lege cu obligație clară pentru țări, adică vrei, nu vrei, trebuie să implementezi respectivul regulament. Altfel riști penalizări, astfel încât cred că ne vom mobiliza. Avem calitatea asta, noi, ca țară, de a ne mobiliza în ultimul moment și de a rezolva problema. Putem să o facem, nu e ceva imposibil. Și contextul e un pic mai bun – faptul că vom avea cărțile electronice de identitate implementate la scară largă deja. Încep să se așeze mai multe piese. Deci, lucrurile arată bine, plus că sigur va fi un termen în care țările trebuie să implementeze (măsurile) astea”.

Rep: Apelurile din PNRR pentru digitalizarea IMM-urilor sunt foarte întârziate. Putem recupera decalajul de digitalizare al companiilor mici? Și dacă da, cum?

MM: „Eu cred foarte tare în piață liberă și asta concret înseamnă că în momentul în care vrei ca ceva să se întâmple nu trebuie să acționezi direct pentru ca respectivul lucru să se întâmple, ci trebuie să creezi oportunitatea ca diverși actori să beneficieze, să facă acțiunea pe care ți-o dorești. Concret, înseamnă că, spre exemplu, nu cred deloc în bani din elicopter și fonduri aruncate strict pentru a digitaliza IMM-urile. Adică, ok, sunt bune fondurile astea, dar mai curând cred că dacă am avea servicii publice electronice mai curând, intervenția aia va favoriza adopția de tehnologie în zona IMM-ului. Sigur, ajută și fondurile, dar trebuie să meargă din ambele direcții. Deci, pe de o parte ar trebui ca IMM-urile să aibă fonduri pentru a implementa tehnologie, dar ar trebui ca și din partea instituțiilor publice să existe servicii online care să poată fi consumate, cumva să se creeze nevoia de digitalizare. Și în zona de IMM-uri mai e și o componentă importantă de educație, pentru că eu nu cred că poți să convingi pe cineva doar dându-i bani. Cumva omul trebuie să se convingă. În IMM-uri, în zona de antreprenoriat trebuie ca oamenii respectivi să ajungă la concluzia că au nevoie de tehnologii. Cumva vor ajunge, pentru că vor fi forțați de economie”.

Rep: Cloud-ul guvernamental a intrat anul acesta în procedura de licitație publică, dar a intrat, în același timp, într-o ceață în care este foarte greu să îi urmărim beneficiile. Când le-am putea vedea în mod practic pentru cetățeni?

MM: „Va mai dura, pentru că cloud-ul este o componentă importantă de infrastructură. Practic, ce se întâmplă odată cu cloud-ul guvernamental? Instituțiile publice vor avea infrastructura pe care să ruleze aplicații publice, fie că sunt aplicații folosite de instituții în interior, fie când sunt servicii online pentru cetățeni.

Problema, de fapt, este că se vor simți în viața cetățenilor în momentul în care aplicațiile alea încep să funcționeze. Și, mai exact, în momentul în care avem servicii online pentru cetățeni, în momentul în care, spre exemplu, vom putea să ne accesăm, să zicem, dosarul medical. Ar trebui să avem o aplicație în care să putem să vedem toate interacțiunile noastre cu sistemul medical sau cu sistemul de justiție. De-abia în momentul în care apar aplicațiile alea, în momentul în care aplicațiile alea încep să fie utilizate, de abia în momentul ăla se va simți ceva în viața noastră. Cloud-ul este doar fundația pe care se construiește”.