Inteligența artificială: de ce chestiunea open source este o problemă determinantă

Meta, Mistral și Deepseek pe de o parte, OpenAI, Microsoft și Google pe de altă parte. În sectorul inteligenței artificiale, există două lumi opuse: IA cu sursă deschisă și IA cu sursă închisă. Această bătălie a fost foarte prezentă la Summitul de acțiune privind IA de la Paris, care s-a încheiat marți, 11 februarie, cu un acord între 58 de țări, inclusiv Franța, pentru o IA „deschisă”, „incluzivă” și „etică”, scrie BFM TV.

Dar chiar înainte de acest acord, start-up-ul chinez Deepseek a atras atenția asupra sursei deschise, dezvăluind o inteligență artificială la fel de puternică ca ChatGPT, dar a cărei formare a costat mult mai puțin. Acesta este unul dintre avantajele abordării „open source”. Aceste sisteme sunt mai puțin costisitoare de dezvoltat.

„Viitorul inteligenței artificiale”

Mai simplu spus, „open source” presupune punerea la dispoziția gratuită a oricui a codului de programare pentru un model de inteligență artificială, permițând oricui să îl consulte și să îl modifice pentru a-și crea propriile instrumente.

„Viitorul inteligenței artificiale se va baza pe platforme open source. Cu alte cuvinte, platforme care pot fi utilizate gratuit, descărcate și personalizate pentru aplicații de către companii, ONG-uri, guverne etc.”, a declarat pentru BFM Business Yann Le Cun, director științific pentru inteligență artificială la Meta, care administrează marele laborator FAIR (Facebook Artificial Intelligence Research) din Paris.

Meta militează de fapt pentru sursa deschisă în domeniul inteligenței artificiale, după ce a distribuit primul său model deschis, Llama 2, în vara anului 2023. „Acest lucru a contribuit la crearea unui ecosistem al industriei AI bazat pe aceste modele open source (familia de modele numită Llama, n.r.). Un număr mare de start-up-uri din Franța și din întreaga lume se bazează pe Llama”, a explicat Yann Le Cun. Cu alte cuvinte, acestea sunt ceea ce noi numim „modele de fundație”.

Pentru el, punctul forte al sursei deschise „este că nimeni nu deține monopolul ideilor bune și nimeni nu este semnificativ înaintea celorlalți”.

Acest lucru se datorează faptului că această abordare permite contribuțiilor să vină din întreaga lume, mai degrabă decât de la o singură companie.

După cum subliniază directorul științific al AI de la Meta, Deepseek a publicat un articol care explică toate tehnicile utilizate pentru dezvoltarea AI-ului său, permițând companiei americane să le reproducă „în câteva săptămâni (…) și, prin urmare, [să] contribuie la progresul în domeniu la nivel mondial”.

În plus față de acest avantaj, sursa deschisă este, de asemenea, o modalitate de a utiliza mai puține resurse. „Permițând reutilizarea modelelor open source înseamnă, de asemenea, că nu trebuie să pornim de la zero și să consumăm milioane de ore de calcul și cantități uriașe de energie electrică de fiecare dată când dorim să construim un nou model”, a declarat pentru Tech&Co Stéfane Fermigier, copreședinte al Conseil national du logiciel libre (CNLL).

O chestiune de transparență

În timp ce unele companii pretind că adoptă o abordare open source, altele nu o fac. Acest lucru se datorează faptului că această abordare implică nu numai transparență în ceea ce privește codul de programare, ci și în ceea ce privește datele de formare. În cazul Deepseek, de exemplu, nu știm ce date au fost utilizate pentru antrenarea inteligenței artificiale.

Potrivit lui Stéfane Fermigier, „foarte puține modele” sunt de fapt open source în sensul definiției stabilite de Open Source Initiative, o organizație dedicată promovării software-ului liber fondată în 1998.

Conform acesteia, un sistem de inteligență artificială este deschis dacă este posibil să fie utilizat „în orice scop și fără a fi necesară solicitarea permisiunii” și „pentru a studia funcționarea [acestuia] și a inspecta componentele sale”. De asemenea, trebuie să fie posibilă modificarea sa „în orice scop, inclusiv schimbarea rezultatelor sale” și partajarea sa „astfel încât alții să o poată utiliza, cu sau fără modificări, în orice scop”.

Pentru copreședintele CNLL, „numai modelele care respectă Open Source AI Definition pot pretinde că sunt cu adevărat transparente, în special în ceea ce privește originea datelor utilizate pentru formarea modelului”.

El consideră că transparența este cu adevărat fundamentală, deoarece poate explica o parte din răspunsurile date de un model. „Dacă îmi antrenez modelul pe forumul fasciștilor americani sau al fasciștilor francezi, voi obține răspunsuri rasiste. Dacă îl antrenez pe date feministe, voi obține răspunsuri feministe”, subliniază Stéfane Fermigier.

O abordare în evoluție la OpenAI

Spre deosebire de Mistral, Meta și Deepseek, OpenAI optează în prezent pentru modele cu sursă închisă. Cu alte cuvinte, startup-ul nu partajează codul de programare pentru ChatGPT și celelalte instrumente ale sale. Cu toate acestea, la începuturile sale, în 2015, a adoptat o abordare open source, de unde și cuvântul „open” din numele său. Dar s-a răzgândit în 2023, indicând că această abordare nu era cea potrivită din motive de securitate și concurență.

„Ne-am înșelat. Dacă credeți, așa cum credem noi, că la un moment dat inteligența artificială va fi extrem, incredibil de puternică, atunci pur și simplu nu are sens să deschideți codul sursă. Este o idee proastă”, a declarat Ilya Sutskever, cofondator al OpenAI, care a demisionat între timp.

Aceste riscuri sunt menționate și de Autoritatea franceză pentru protecția datelor (CNIL) într-o analiză a „practicilor open source în inteligența artificială”.

„În primul rând, contribuția deschisă la greutățile modelului introduce o cale de acces pentru atacatorii care doresc să otrăvească modelele și să introducă backdoors (…) În al doilea rând, distribuția OS prezintă în mod inerent riscul ca defectele modelului, odată făcute evidente, să fie exploatate de atacatori”, avertizează autoritatea.

Dar pentru Stéfane Fermigier, pericolele inteligenței artificiale sunt inerente acesteia. Cu alte cuvinte, „faptul de a fi sau de a nu fi open source nu va schimba mare lucru”. „A fost recunoscut de specialiștii în securitate informatică faptul că ceea ce se numește securitate prin obscuritate nu funcționează”, a adăugat copreședintele CNLL.

În ciuda pericolelor prezentate pentru a justifica schimbarea sa în 2023, OpenAI ar putea recurge din nou la sursa deschisă. La sfârșitul lunii ianuarie, în timpul unei sesiuni de întrebări și răspunsuri pe Reddit, șeful său Sam Altman a recunoscut că societatea sa se află pe „partea greșită a istoriei” deoarece modelul său de inteligență artificială nu este open source. „Trebuie să găsim o altă strategie open source”, a spus el.

Rămâne de văzut ce va însemna această „deschidere” pentru creatorul ChatGPT.