NVIDIA CORPORATION Een chip van Nvidia Corp presteerde het best in tests op een groot taalmodel, met een halfgeleider van Intel Corp op de tweede plaats.
De nieuwe MLPerf benchmark is gebaseerd op een groot taalmodel met 6 miljard parameters dat nieuwsartikelen van CNN samenvat. De benchmark simuleert het "inferentie"-gedeelte van AI data crunching, dat de software achter generatieve AI-tools aandrijft.
Nvidia's beste inzending voor de inferentiebenchmark is opgebouwd rond acht van haar vlaggenschip H100-chips. Nvidia heeft de markt voor het trainen van AI-modellen gedomineerd, maar heeft de markt voor inferentie nog niet veroverd.
"Wat je ziet is dat we over de hele linie toonaangevende prestaties leveren, en nogmaals, we leveren die toonaangevende prestaties op alle werklasten," zei Dave Salvator, marketingdirecteur voor versneld computergebruik bij Nvidia.
Het succes van Intel is gebaseerd op de Gaudi2-chips die geproduceerd worden door de Habana-eenheid die het bedrijf in 2019 overnam. Het Gaudi2-systeem was ongeveer 10% langzamer dan het systeem van Nvidia.
"We zijn erg trots op de resultaten van inferencing, (omdat) we het prijsprestatievoordeel van Gaudi2 laten zien," zei Habana's chief operating officer, Eitan Medina.
Intel zegt dat zijn systeem goedkoper is dan dat van Nvidia - ongeveer de prijs van Nvidia's laatste generatie 100 systemen - maar weigerde de exacte kosten van de chip te bespreken.
Nvidia weigerde de kosten van zijn chip te bespreken. Op vrijdag zei Nvidia dat het van plan was om binnenkort een software-upgrade uit te rollen die de prestaties van de MLPerf-benchmark zou verdubbelen.
De Google-eenheid van Alphabet gaf een voorproefje van de prestaties van de nieuwste versie van een op maat gemaakte chip die het bedrijf aankondigde op zijn conferentie over cloud computing in augustus. (Verslag door Max A. Cherney in San Francisco; Bewerking door Leslie Adler)
