NVIDIA CORPORATION De regels beperkten de verzending van chips van Nvidia Corp en Advanced Micro Devices Inc. die de wereldwijde standaard voor de technologie-industrie zijn geworden voor de ontwikkeling van chatbots en andere AI-systemen.
Maar Nvidia heeft varianten van zijn chips gemaakt voor de Chinese markt die vertraagd zijn om aan de Amerikaanse regels te voldoen. Industrie-experts vertelden Reuters dat de nieuwste variant - de Nvidia H800, aangekondigd in maart - er waarschijnlijk 10% tot 30% langer over zal doen om sommige AI-taken uit te voeren en dat sommige kosten kunnen verdubbelen in vergelijking met Nvidia's snelste Amerikaanse chips.
Zelfs de langzamere Nvidia-chips zijn een verbetering voor Chinese bedrijven. Tencent Holdings, een van China's grootste technologiebedrijven, schatte in april dat systemen die gebruik maken van Nvidia's H800 de tijd die nodig is om haar grootste AI-systeem te trainen met meer dan de helft zullen verkorten, van 11 dagen tot vier dagen.
"De AI-bedrijven waarmee we praten lijken de handicap als relatief klein en beheersbaar te zien," zei Charlie Chai, een in Shanghai gevestigde analist bij 86Research.
Het heen en weer gepraat tussen de overheid en de industrie legt de uitdaging voor de VS bloot om de vooruitgang van China op het gebied van hightech af te remmen zonder Amerikaanse bedrijven te benadelen.
Een deel van de Amerikaanse strategie bij het opstellen van de regels was om te voorkomen dat de Chinezen de Amerikaanse chips helemaal zouden dumpen en hun eigen inspanningen voor de ontwikkeling van chips zouden verdubbelen.
"Ze moesten ergens een grens trekken, en waar ze die ook trokken, ze zouden voor de uitdaging komen te staan hoe ze niet onmiddellijk ontwrichtend konden zijn, maar ook hoe ze na verloop van tijd het vermogen van China konden verminderen," zei een leidinggevende uit de chipindustrie die om anonimiteit vroeg om over privégesprekken met regelgevers te kunnen praten.
De exportbeperkingen bestaan uit twee delen. Het eerste deel stelt een maximum aan het vermogen van een chip om extreem precieze getallen te berekenen, een maatregel die bedoeld is om supercomputers te beperken die gebruikt kunnen worden voor militair onderzoek. Bronnen in de chipindustrie zeiden dat dit een effectieve maatregel was.
Maar het berekenen van extreem precieze getallen is minder relevant bij AI-werk zoals grote taalmodellen, waarbij de hoeveelheid gegevens die de chip kan verwerken belangrijker is.
Nvidia verkoopt de H800 aan China's grootste technologiebedrijven, waaronder Tencent, Alibaba Group Holding Ltd en Baidu Inc, voor gebruik in dergelijk werk, hoewel het nog niet is begonnen met de verzending van de chips in grote volumes.
"De overheid is er niet op uit om de concurrentie of de Amerikaanse industrie te schaden en staat Amerikaanse bedrijven toe om producten te leveren voor commerciële activiteiten, zoals het leveren van clouddiensten voor consumenten," zei Nvidia vorige week in een verklaring.
China is een belangrijke markt voor Amerikaanse technologiebedrijven en de verkoop van producten daar helpt banen te creëren voor zowel Nvidia als haar partners in de VS, voegde het bedrijf eraan toe.
"De exportcontroles van oktober vereisen dat we producten maken met een groeiende kloof tussen de twee markten," zei Nvidia vorige week. "We voldoen aan de regelgeving en bieden tegelijkertijd zo concurrerend mogelijke producten aan op elke markt."
Bill Dally, de hoofdwetenschapper van Nvidia, zei deze week in een aparte verklaring dat deze kloof in de loop van de tijd snel zal groeien, omdat de opleidingseisen elke zes tot twaalf maanden blijven verdubbelen."
Een woordvoerder van het Bureau of Industry and Security, de tak van het Amerikaanse Ministerie van Handel die toezicht houdt op de regels, reageerde niet op een verzoek om commentaar.
VERTRAAGD MAAR NIET GESTOPT
De tweede Amerikaanse limiet heeft betrekking op de overdrachtssnelheden van chip naar chip, die wel van invloed zijn op AI. De modellen achter technologieën zoals ChatGPT zijn te groot om op één chip te passen. In plaats daarvan moeten ze verspreid worden over vele chips - vaak duizenden tegelijk - die allemaal met elkaar moeten communiceren.
Nvidia heeft de prestatiedetails van de alleen in China verkrijgbare H800-chip niet bekendgemaakt, maar een specificatieblad dat door Reuters is ingezien, toont een chip-naar-chipsnelheid van 400 gigabytes per seconde, minder dan de helft van de pieksnelheid van 900 gigabytes per seconde voor Nvidia's vlaggenschip H100-chip die buiten China verkrijgbaar is.
Sommigen in de AI-industrie zijn van mening dat dit nog steeds voldoende snelheid is. Naveen Rao, directeur van de startup MosaicML, die gespecialiseerd is in het helpen van AI-modellen om beter te draaien op beperkte hardware, schatte de systeemvertraging op 10-30%.
"Er zijn manieren om dit algoritmisch te omzeilen," zei hij. "Ik zie dit nog heel lang geen grens zijn - zo'n 10 jaar."
Geld helpt. Een chip in China die er twee keer zo lang over doet om een AI-trainingstaak te voltooien dan een snellere Amerikaanse chip, kan het werk nog steeds doen.
"Op dat moment moet je $20 miljoen uitgeven in plaats van $10 miljoen om het te trainen," zei een bron uit de industrie die om anonimiteit vroeg vanwege afspraken met partners. "Is dat klote? Ja, dat is zo. Maar betekent dit dat dit onmogelijk is voor Alibaba of Baidu? Nee, dat is geen probleem."
Bovendien proberen AI-onderzoekers de enorme systemen die ze hebben gebouwd af te slanken om de kosten van trainingsproducten zoals ChatGPT en andere processen te verlagen. Hiervoor zijn minder chips nodig, waardoor de chip-naar-chipcommunicatie afneemt.
Twee jaar geleden dacht de industrie dat AI-modellen steeds groter zouden worden, zei Cade Daniel, een software-ingenieur bij Anyscale, een startup in San Francisco die software levert om bedrijven te helpen bij het uitvoeren van AI-werk.
"Als dat vandaag nog zo zou zijn, zou deze exportbeperking veel meer impact hebben," zei Daniel. "Deze exportbeperking is merkbaar, maar het is niet zo verwoestend als het had kunnen zijn."
