Un startup american care se asigură că modelele AI nu au „halucinații” sau scurgeri de date a atras o finanțare de peste 45 de milioane de dolari

Datorită popularității ChatGPT, companiile de pretutindeni injectează AI generativ în produsele lor. Dar Vikram Chatterji crede că există un lucru important care împiedică companiile să adopte pe deplin inteligența artificială și să implementeze instrumente în producție la scară largă: Companiile nu știu cu adevărat cât de bine vor funcționa instrumentele odată ce acestea sunt lansate, scrie revista Forbes.

„Dacă nu rezolvi această problemă, rămâi blocat pe un teren de aproape-producție”, a declarat Chatterji, CEO al Galileo, un startup axat pe evaluarea modelelor de inteligență artificială.

Chatterji dorește ca firma sa să fie cea care rezolvă această problemă. Galileo lucrează cu clienți precum Hewlett Packard, Comcast și Twilio pentru a-și testa instrumentele de inteligență artificială, asigurându-se că acestea nu au halucinații – termen folosit atunci când modelele AI inventează informații – sau nu divulgă date private. La începutul săptămânii compania a declarat pentru Forbes că a obținut o rundă de finanțare Seria B în valoare de 45 de milioane de dolari, ceea ce ridică totalul investițiilor la 68 de milioane de dolari de la înființarea sa în urmă cu trei ani.

Startup-ul are patru produse: Fine Tune, care ajută clienții corporativi să instruiască modelele existente pentru a se potrivi nevoilor lor, cum ar fi încorporarea datelor de proprietate; Evaluate, care permite companiilor să decidă rapid dacă un model este gata de lansare sau dacă mai are încă probleme de rezolvat; Observe, pentru întreținere și testare în timp real odată ce modelul este lansat; și Protect, pentru a atenua amenințările precum prompt injection, în cazul în care utilizatorii încearcă să manipuleze modelul pentru a dezvălui informații sensibile.

În iulie, Galileo a lansat Luna, propriul său model lingvistic pentru evaluarea performanțelor altor modele, inclusiv a exhaustivității răspunsurilor, a confidențialității datelor și a detectării erorilor produse de bias.

Anunțul vine pe măsură ce companiile din întreaga lume se întrec în a-și consolida ofertele de inteligență artificială. Dar acest lucru vine cu capcanele modelelor AI care fac greșeli stupide – cum ar fi Gemini de la Google care le spune utilizatorilor să facă o pizza cu lipici – sau scurgeri sensibile – cum ar fi codul sursă intern al Samsung care a fost împărtășit pe ChatGPT anul trecut, determinând gigantul electronic să interzică angajaților să folosească chatbotul.

Pe măsură ce modelele AI continuă să se dezvolte, pericolul că acestea pot prelua sau chiar crea informații eronate devine din ce în ce mai evident – spre exemplu, un studiu realizat în aprilie a arătat că modelele AI folosite pentru a transcrie texte pot suferi de „halucinații” auditive sau de alte probleme cauzate de factori precum accente diferite sau tulburări de limbaj, care pot duce la relatarea de informații greșite către utilizatori.

Inclusiv ChatGPT a atras, în ultimii doi ani, suspiciuni din partea utilizatorilor și a autorităților din anumite țări, din cauza potențialului său de a răspândi informații false, chiar și neintenționat. Există chiar temeri că aceste „halucinații” ar putea face companii precum OpenAI vulnerabile în fața proceselor de defăimare și a altor probleme legale.

Galileo nu este singurul startup de evaluare a inteligenței artificiale de pe piață. Săptămâna trecută, rivalul Braintrust, printre ai cărui clienți se numără Stripe și Notion, a anunțat că a strâns 36 de milioane de dolari în cadrul unei acțiuni de strângere de fonduri condusă de Andreessen Horowitz.

Chatterji și cofondatorul Yash Sheth sunt foști colegi la Google, care s-au alăturat gigantului tehnologic la o săptămână distanță unul de celălalt, în 2013. Chatterji a fost un manager de produs AI care a lucrat cel mai recent la BERT de la Google, un model AI implementat pentru a ajuta la înțelegerea intențiilor unui utilizator în timp ce utilizează motorul său de căutare. Sheth, în prezent COO al Galileo, a fost inginer și a lucrat la instrumentele de recunoaștere vocală ale Google. Atindriyo Sanyal, director tehnic și cofondator al Galileo, a deținut anterior funcții de conducere în domeniul ingineriei AI la Uber și Apple.

Cele 45 de milioane de dolari strânse recent de Galileo reprezintă o sumă modestă în comparație cu unele dintre rundele spectaculoase de finanțare pe care le-au anunțat recent alte companii. La începutul acestei luni, OpenAI a declarat că a strâns 6,6 miliarde de dolari. Compania xAi, a lui Elon Musk, este doar puțin în urma sa, cu 6 miliarde de dolari. Chiar și firme mai puțin cunoscute au parte de un succes impresionant – startup-ul Groq, spre exemplu, a atras o finanațtare de 640 de milioane de dolari în această vară.

Dar Galileo nu antrenează modele masive care au nevoie de armate de GPU-uri (compania nu a antrenat sau nu a reglat Luna de la zero) și nici nu construiește noi modele de cipuri cu costuri de producție ridicate. Ca urmare, Chatterji a spus că societatea nu are nevoie de atât de mulți bani pentru a funcționa. „Ar trebui să iei doar suma de bani de care ai nevoie cu adevărat”, a spus el. „Și să construiești o afacere care este sustenabilă pe termen lung.”