Huawei încearcă să acapareze cota de piață a cipurilor AI de la Nvidia în China

Huawei încearcă să obțină o cotă mai mare din piața chineză a cipurilor pentru inteligență artificială, dominată de Nvidia, ajutând companiile locale să adopte tehnologie rivală pentru așa-numitele sarcini de „inferență”, relatează Financial Times (FT).

Principalele companii de inteligență artificială din China se bazează pe unitățile de procesare grafică (GPU) produse de Nvidia pentru a „antrena” modele lingvistice de mari dimensiuni, produsele producătorului american de cipuri, în valoare de 3,4 miliarde de dolari, fiind considerate vitale pentru dezvoltarea tehnologiei. În loc să conteste Nvidia în ceea ce privește formarea, Huawei își poziționează cele mai recente procesoare Ascend AI ca fiind hardware-ul preferat pentru grupurile chineze care execută „inferența”, calculul efectuat de LLM pentru a genera un răspuns la o solicitare.

Gigantul tehnologic chinez pariază că inferența va fi o sursă viitoare mai mare de cerere în cazul în care ritmul de formare a modelelor încetinește și aplicațiile AI, cum ar fi chatbots, devin mai răspândite. „Instruirea este importantă, dar are loc doar de câteva ori”, a declarat Georgios Zacharopoulos, un cercetător senior în IA care lucrează la accelerarea inferenței în cadrul laboratorului Huawei din Zurich. „Huawei se concentrează în principal pe inferență, care în cele din urmă va servi mai mulți clienți”.

Conform angajaților companiei și clienților Ascend, aceasta se concentrează pe calea mai puțin dificilă din punct de vedere tehnic, dar potențial profitabilă, a adaptării modelelor AI antrenate pe produse Nvidia pentru a rula pe cipuri Ascend. Deoarece GPU-urile Nvidia și Ascend funcționează pe software diferit, Huawei ajută companiile să utilizeze un alt instrument software pentru a face cele două sisteme compatibile.

Demersul Huawei vine cu sprijinul guvernului de sus în jos. Oficialii chinezi au îndemnat giganții tehnologici locali să cumpere mai multe cipuri AI de la Huawei și să renunțe la Nvidia. O persoană familiarizată cu operațiunile Nvidia din China a declarat că Huawei a fost considerat pe plan intern drept cel mai serios concurent din țară, adăugând că capacitatea sa de proiectare a cipurilor este „avansată”.

Washingtonul a încercat să limiteze dezvoltarea inteligenței artificiale de către Beijing prin controale la export menite să împiedice dezvoltarea de tehnologii sensibile în China. Spre deosebire de rivalii lor americani, precum OpenAI și Google, companiile din China nu au acces la cele mai avansate GPU-uri. Cu toate acestea, chiar dacă grupurile chineze pot achiziționa numai cipurile Nvidia H20 mai puțin performante, adaptate pentru a respecta controalele la export, GPU-urile mai puțin puternice rămân la mare căutare, deoarece sunt considerate mai bune decât alternativele locale.

Analiștii și cercetătorii Huawei au declarat că Ascend nu este încă pregătit să înlocuiască Nvidia pentru formarea modelelor din cauza unor probleme tehnice, cum ar fi o defecțiune în modul în care cipurile interacționează între ele în cadrul unui „cluster” mai larg de cipuri AI atunci când se formează modele tot mai mari. „În timp ce cipurile Ascend funcționează bine per cip, există un blocaj în ceea ce privește conectivitatea între cipuri”, a declarat Lin Qingyuan, analistul Bernstein pentru semiconductoare din China.

„Atunci când antrenezi un model mare, trebuie să îl împarți în sarcini mai mici. Dacă un cip cedează, software-ul trebuie să găsească o modalitate prin care celelalte cipuri să preia controlul fără întârziere.” Cealaltă provocare pentru Huawei este să convingă dezvoltatorii să renunțe la software-ul Cuda de la Nvidia, cunoscut drept „sosul secret” al companiei pentru că este ușor de utilizat de dezvoltatori și capabil să accelereze foarte mult procesarea datelor. Dar este de așteptat ca și versiunea actualizată și lansată în curând de Huawei a cipului său AI, Ascend 910C, să abordeze aceste preocupări.

„Ne așteptăm ca această nouă generație de hardware să vină cu un software îmbunătățit care îl face mai accesibil pentru dezvoltatori”, a declarat un angajat Huawei, care a refuzat să fie numit. Huawei și Nvidia se confruntă cu o concurență acerbă. Grupul chinez de internet Baidu și designerul de cipuri Cambricon au făcut pași mari în dezvoltarea cipurilor AI. Între timp, în SUA, Amazon și Microsoft pariază, de asemenea, că pot obține o cotă de piață mai mare în domeniul cipurilor pentru inferență, pe măsură ce aplicațiile AI devin mai răspândite.

Estimările SemiAnalysis, o companie de consultanță în domeniul cipurilor, sugerează că Nvidia a obținut 12 miliarde de dolari din vânzări în China anul trecut, livrând 1 milion din cipurile sale H20 în țară, vânzând de două ori mai multe cipuri AI decât Huawei cu Ascend 910B. „GPU-urile H20 specifice Chinei ale Nvidia alcătuiesc majoritatea cipurilor AI vândute în China. Dar avansul se reduce rapid pe măsură ce Huawei crește capacitatea de producție”, a declarat Dylan Patel, analist șef la SemiAnalysis.

Surse din industrie au avertizat că avansul Huawei în domeniul cipurilor AI este, de asemenea, constrâns de oferta insuficientă, doi clienți potențiali declarând pentru Financial Times că nu au reușit să obțină cipurile.

Analiștii au declarat că producția Huawei se confruntă probabil cu provocări din cauza controalelor la export din SUA, care au făcut ca fabricile chineze să fie dependente de echipamente învechite de fabricare a cipurilor.

Accentul pus pe inferență indică, de asemenea, o dinamică în evoluție în IA chineză care diferă de cea din SUA. Controalele la export ale Washingtonului înseamnă că jucătorii chinezi din domeniul inteligenței artificiale nu sunt angajați în aceeași cursă ca rivalii din Silicon Valley, Meta, x.AI a lui Elon Musk și OpenAI, pentru a construi mega-clustere mari cu cele mai avansate GPU Nvidia. „Companiile chineze joacă un joc diferit. Acestea acordă mult mai multă atenție inferenței decât SUA, deoarece este posibil să obțină câștiguri mari de eficiență chiar și cu cipuri mai puțin puternice, ceea ce înseamnă, de asemenea, că pot ajunge mai repede la comercializare”, a declarat Lin, analist la Bernstein.

Companiile chineze pariază că pot rămâne competitive în domeniul inteligenței artificiale prin reducerea costurilor de inferență, ceea ce, la rândul său, face mai ieftină rularea aplicațiilor de inteligență artificială, a spus el.  Luna trecută, start-up-ul DeepSeek, cu sediul în Hangzhou și Beijing, și-a lansat modelul V3, care a atras atenția datorită costurilor scăzute de formare și inferență în comparație cu modelele comparative din SUA.

Compania a propus o nouă modalitate prin care un model AI să se concentreze selectiv asupra unor părți specifice ale datelor de intrare, ca modalitate de a reduce costurile de funcționare a modelului. Aceasta a utilizat, de asemenea, tehnica „amestecului de experți”, populară în cazul altor start-up-uri chineze de IA, care contribuie, de asemenea, la accelerarea inferenței, deoarece numai o parte a modelului este utilizată pentru a genera un răspuns. DeepSeek a declarat că Huawei a adaptat cu succes V3 la Ascend, furnizând instrucțiuni detaliate pentru dezvoltatori cu privire la modul de utilizare a cipului. FT a raportat anterior că Huawei a trimis ingineri pentru a ajuta clienții să migreze de la Nvidia la Ascend.