De 20 bedrijven die de grootste AI-uitdagingen aanpakken

De opkomst van artificiële intelligentie (AI) gaat gepaard met steeds nieuwe uitdagingen, die op hun beurt nieuwe belangrijke spelers in de industrie onthullen. De problemen van vandaag kunnen ons helpen de sterren van morgen te ontdekken.

Net als bij elke technologische ontwikkeling gaan de vooruitgangen in AI gepaard met een reeks uitdagingen. Tegenwoordig staat AI voor steeds grotere hoeveelheden data en hogere eisen aan de snelheid van uitvoering. Drie kwesties komen daarbij cruciaal te staan: warmte, datastroombeheer en energie-efficiëntie. Hier zijn vier technologieën die concrete oplossingen bieden voor deze uitdagingen, en de bedrijven die volgens ons het beste gepositioneerd zijn in deze segmenten.

Silicium-fotonica

Silicium-fotonica (of SiPh) verwijst naar de toepassing van fotonica op siliciumhalfgeleiders. Het principe: vervang de technisch beperkte koperen kabels door optische verbindingen die gegevens kunnen verzenden via infrarode golflengten. In dit domein spelen met name zgn. co-packaged optics (CPO) een rol. Net als de overgang van ADSL naar glasvezel voor internet zou deze technologie het mogelijk maken meer gegevens te verzenden, terwijl de warmte en het energieverbruik worden beperkt. Een belofte die al de aandacht trekt van de grote spelers in de sector.

• Intel presenteerde de eerste volledig geïntegreerde bidirectionele optische chipset, voorzien van een Intel-processor, die 4 Tb/s over glasvezel tot 100 meter kan verzenden. Een technologie ontworpen om te voldoen aan de groeiende behoeften van AI-infrastructuur, zowel qua bandbreedte als qua energie-efficiëntie.
• Cisco hanteert een dubbele strategie: enerzijds insteekbare optische modules die hoge snelheden aankunnen; anderzijds actief werken aan de directe integratie van optische modules in de ASIC's van schakelaars, oftewel de beroemde CPO-technologie.
• Broadcom dan weer, leider in communicatiechips, is een onmisbare speler in silicium-fotonica. Het integreert deze technologie al in zijn Tomahawk-chips, met Ethernet-switches die acht optische motoren bevatten, voor een gemaximaliseerde dichtheid en bandbreedte-efficiëntie.
• Marvell, achterop in andere segmenten, investeert zwaar in geïntegreerde fotonische motoren, die in staat zijn elektrische interconnecties te vervangen door meer performante optische oplossingen.
• Nvidia onthulde tijdens de GTC 2025 twee reeksen fotonische netwerk-switches (Spectrum-X Photonics en Quantum-X Photonics), die de CPO-technologie integreren en elektronische en optische componenten in één behuizing samenvoegen.
• Lumentum Holdings, een pure speler in de optische sector, haalt 80 % van zijn inkomsten uit de cloud en netwerken. Zijn catalogus omvat onder andere transceivers en golflengtebeheerders.

De vierde generatie HBM

HBM-chips (High Bandwidth Memory) zijn essentieel geworden in de ontwikkeling van AI. Geïntegreerd in GPU's om moderne grafische kaarten te vormen, voldoen ze aan de groeiende behoefte aan massale gegevensverwerking. Drie grote spelers strijden om de eerste validatie door Nvidia van een HBM-chip van de vierde generatie.

• SK Hynix, ontwerper van de eerste HBM-chip in 2013, is vandaag de leider in de sector. Het profiteert van een indrukwekkende dynamiek, met +70 % in de afgelopen drie maanden.
• Micron, lang beschouwd als outsider, lijkt nu nek aan nek te staan met de Koreaan. Zijn beurskoers, met een stijging van +75 % in dezelfde periode, getuigt van zijn versterkte positie in de race.
• Samsung, aan de andere kant, beschikt over een solide geheugenafdeling, maar kampt met vertragingen. Zijn dynamiek blijft achter, maar zou kunnen omslaan als een strategische wending wordt genomen.

Geavanceerde verpakkingstechnieken

Het kopen van een Nvidia H100-chip is niet alleen het verwerven van een GPU, maar een complete kaart die GPU, HBM-geheugen, PCI Express-connectiviteit en andere componenten samenbrengt. Dit geheel vereist een verpakking van zeer hoog niveau, omdat deze direct invloed heeft op de warmteafvoer, bandbreedte en het verbruik. Verschillende bedrijven specialiseren zich in dit beslissende aspect van de productie.

• TSMC heeft de CoWoS-technologie ontwikkeld, die meerdere geheugenchips in de buurt van de processor stapelt. Het doel: de latentie verminderen, de warmteafvoer verbeteren en de bandbreedte verhogen. Een bijzonder goed doordachte structuur.
• Intel zet in op zijn EMIB- en Foveros-technologieën, die het mogelijk maken chiplets als een 3D-puzzel samen te stellen. Tegenover het einde van de traditionele schaalvergroting vertegenwoordigt deze modulaire verpakking een van zijn sterkste troeven tegen TSMC.
• Amkor biedt een breed scala aan geavanceerde technologieën. System-in-Package (SiP) maakt het mogelijk om processors, geheugens en antennes in één module te integreren. De Flip Chip zorgt voor een betere warmteafvoer, en het Wafer-Level Packaging (WLP) maakt een vergaande miniaturisatie mogelijk. Tot slot verbeteren de 2.5D/3D-stapelingen de prestaties in AI-toepassingen en autonome voertuigen.
• ASE Technology, een Taiwanese gigant in chipverpakking en -testen, exploiteert verschillende geavanceerde technieken: Fan-Out, 2.5D/3D IC, of SiP. Benaderingen die onmisbaar zijn geworden in AI, chiplets en smartphones.
• JCET, een van de Chinese leiders in de sector, ontwikkelt de XDFOI, zijn eigen versie van de high-density fan-out, ideaal voor AI en de auto-industrie. Het bedrijf zet ook in op SiP en 2.5D/3D-verpakking, terwijl het RF-modules produceert met geïntegreerde antennes die geschikt zijn voor 5G en IoT.

Koeloplossingen

Met steeds krachtigere en intensiever gebruikte GPU's wordt koeling een kritieke kwestie. Het speelt op verschillende niveaus: in de kern van de chip, in de racks die ze herbergen, en in de algehele omgeving van het datacenter. Hier zijn enkele namen om goed in de gaten te houden.

• Asetek, een Deens bedrijf dat gespecialiseerd is in vloeistofkoeling, ontwerpt systemen die ventilatoren vervangen door water voor een betere warmteafvoer. Zijn toonaangevende technologie, directe koeling op chip (D2C), richt zich met name op AI-servers.
• Schneider Electric, een Frans vlaggenschip opgericht in 1836, biedt complete oplossingen, van voeding tot vloeistofkoeling, via zijn merk Motivair. Het biedt ook een softwarepakket (EcoStruxure) om in real-time de energie-efficiëntie van infrastructuren te bewaken en te optimaliseren.
• Vertiv, een Amerikaans bedrijf opgericht in 2016, levert apparatuur voor directe of onderdompelingskoeling (CoolCenter Immersion, CoolChip CDU) en hybride oplossingen. Het begeleidt zijn producten met softwarematige bewakingstools en installatie- of onderhoudsdiensten.
• Carrier, een andere Amerikaanse speler, is gespecialiseerd in industriële koeling. Het concern biedt koelgroepen, oplossingen voor warmteterugwinning en een softwareplatform, QuantumLeap, gewijd aan real-time thermische optimalisatie.
• Dell beperkt zich niet tot pc's. Zijn PowerEdge-servers en "Integrated Rack Scalable Systems"-racks zijn ontworpen voor AI met hoge dichtheid. Luchtkoeling (Smart Flow), directe vloeistofkoeling (DLC), volledige thermische opvang met de PowerCool eRDHx-deur: het bedrijf streeft ver naar energieoptimalisatie, met tot 192 Blackwell Ultra GPU's per rack.