Poliția din Paris desfășoară o controversată supraveghere video cu inteligență artificială înainte de concertele lui Taylor Swift / De ce sunt îngrijorate organizațiile neguvernamentale

Autoritățile pariziene au autorizat utilizarea supravegherii video bazate pe inteligență artificială înaintea concertelor lui Taylor Swift, însă această tehnologie a stârnit îngrijorări legate de confidențialitate, transmite Euronews.

Poliția franceză implementează supraveghere video alimentată de inteligența artificială (AI) în două stații de metrou din Paris folosite de fanii care participă la concertele superstarului pop Taylor Swift în oraș.

Decretul, publicat de Prefectura de Poliție a capitalei la începutul acestei săptămâni, a justificat utilizarea tehnicii controversate prin faptul că, „în contextul actual, aceste concerte sunt evenimente deosebit de expuse riscului de acte de terorism”.

Operațiunea durează o săptămână, între 7 și 14 mai, la stațiile de metrou Nanterre Préfecture și La Défense Grande Arche, ambele care deservesc Paris La Défense Arena.

Un proiect de lege care a autorizat utilizarea supravegherii bazate pe inteligența artificială a fost votat de Adunarea Națională și de Senatul francez într-o procedură accelerată în mai 2023, înainte de Jocurile Olimpice 2024 de la Paris din această vară.

Cu toate acestea, mai mulți experți și-au exprimat deja îngrijorarea cu privire la utilizarea acestei tehnologii.

Ce este supravegherea video bazată pe inteligență artificială?

Cunoscută sub numele de „supraveghere video algoritmică” („vidéosurveillance algorithmique” în franceză sau VSA), această tehnică presupune utilizarea unui software algoritmic cu inteligență artificială pentru a analiza în timp real fluxul video provenit de la camerele de supraveghere.

Această sarcină ar necesita în mod normal mult mai multe resurse dacă ar trebui să fie efectuată de o echipă de oameni, deoarece necesită o atenție constantă.

Algoritmul este conceput pentru a recunoaște și a emite o alertă în cazul în care este detectat un comportament suspect, cum ar fi o valiză lăsată în urmă.

Cu toate acestea, aceste tipuri de dispozitive de supraveghere „nu utilizează niciun sistem de identificare biometrică, nu procesează nicio dată biometrică și nu utilizează nicio tehnică de recunoaștere facială”, conform cadrului juridic francez.

Însă unii critici se opun tehnicilor precum VSA, inclusiv grupul de apărare francez La Quadrature du Net, care și-a exprimat îndoielile cu privire la eficiența acestora în securizarea unui eveniment precum concertele Swift sau Jocurile Olimpice.

„Deoarece supravegherea video algoritmică funcționează cu ajutorul învățării automate, aveți nevoie de situații anterioare pentru a învăța algoritmul să detecteze acest tip de situație în viitor. Dar noi nu avem cantități foarte mari de imagini cu atacuri teroriste sau mișcări de mulțime”, a declarat pentru Euronews Bastien Le Querrec, un expert juridic care lucrează pentru acest grup.

„În realitate, ceea ce vedem este că această tehnologie este concepută, antrenată și eficientă pe o delincvență de nivel foarte scăzut.”

De ce este controversată?

Pentru oponenții săi, supravegherea algoritmică prezintă riscuri în ceea ce privește libertățile și drepturile individuale.

„Ceea ce spunem din 2019 este că această supraveghere video algoritmică este un nivel de supraveghere mai ridicat și aproape absolut”, a declarat Le Querrec.

„Prin automatizarea acestei supravegheri, îi creștem impactul de zece ori. Supravegherea are consecințe foarte puternice asupra libertăților fundamentale”, a adăugat el, menționând posibilele implicații pentru libertatea de exprimare și libertatea de asociere.

Asociația nu este singura care își face griji în legătură cu acest sistem. ONG-ul Amnesty International France a afirmat într-un comunicat că tehnologia se bazează pe colectarea de date personale „îngrijorătoare în ceea ce privește dreptul la viață privată”.

„Supravegherea video algoritmică atrage după sine riscul de a stigmatiza anumite grupuri de persoane și riscul de discriminare”, a adăugat ONG-ul.

Le Querrec a exprimat îngrijorări similare, de exemplu, cu privire la faptul că ar putea fi folosită pentru a discrimina persoanele fără adăpost.

Opozanții se tem, de asemenea, că utilizarea supravegherii video cu ajutorul inteligenței artificiale nu va fi o măsură temporară.

Legea din 2023 autorizează utilizarea acesteia pentru Jocurile Olimpice și Paralimpice de la Paris, dar prevede, de asemenea, utilizarea sa la evenimente sportive și culturale în mod experimental până la 31 martie 2025, la șase luni după încheierea Jocurilor.

Cu toate acestea, ministrul francez al sportului și al Jocurilor Olimpice, Amélie Oudéa-Castéra, a semnalat deja că guvernul ar putea extinde utilizarea sa pentru evenimente în viitor „dacă [tehnologia] își dovedește valoarea”.

„Legea privind Jocurile Olimpice este primul pas spre legalizarea supravegherii video bazate pe inteligență artificială”, a declarat Le Querrec, adăugând că un proiect de lege este deja în discuție, planificând implementarea acesteia în transportul public.

În textul oficial al legii se precizează că se intenționează „să se desfășoare procesarea algoritmică pentru a selecta și exporta imagini rechiziționate de către instanțe”.

Date stocate timp de un an

De la adoptarea legii, supravegherea video cu ajutorul inteligenței artificiale a fost implementată sporadic și testată în timpul unor întâlniri de amploare, cum ar fi concerte și meciuri de fotbal în Franța.

La Paris, aspectele tehnice sunt încredințate companiei Wintics – unul dintre start-up-urile care beneficiază de contractele de supraveghere acordate de Ministerul de Interne – și software-ului său Cityvision.

Pentru fiecare utilizare a tehnologiei, prefectura respectivă trebuie să publice un decret.

Cu toate acestea, mai multe voci au subliniat că, prin publicarea lor atât de târziu – cu o zi înainte de desfășurarea lor -, poliția încearcă să evite pe cât posibil contestațiile juridice.

„Persoanele care vor asista la concertele lui Taylor Swift nu vor putea acționa în justiție dacă vor considera că acest ordin este ilegal și încalcă în mod disproporționat drepturile protejate sau libertățile fundamentale”, a declarat Le Querrec.

„Există un fel de organizare a impunității din partea prefectului.”

Prefectura din Paris nu a răspuns imediat la solicitarea de comentarii a Euronews, dar în decretul său se precizează că Cityvision „a fost atestat ca fiind conform” de către Ministerul de Interne și că agenții „au primit formare în domeniul protecției datelor cu caracter personal”.

Datele vor fi stocate timp de un an, a adăugat decretul poliției.