SambaNova Systems, een startup op het gebied van kunstmatige intelligentiechips, heeft dinsdag een nieuwe halfgeleider aangekondigd die ontworpen is om klanten in staat te stellen AI-modellen van hogere kwaliteit te gebruiken tegen lagere totale kosten.

De SN40L-chip is ontworpen om AI-modellen te draaien die meer dan twee keer zo groot zijn als de geavanceerde versie van OpenAI's ChatGPT, aldus het bedrijf uit Palo Alto, Californië.

"SN40L is specifiek gebouwd voor grote taalmodellen die bedrijfsapplicaties draaien," zei Rodrigo Liang, CEO van SambaNova. "We hebben een volledige stack gebouwd die ons in staat heeft gesteld om de enterprise use case echt goed te begrijpen."

Grote bedrijven die AI op nieuwe manieren willen inzetten, hebben te maken met andere en complexere overwegingen dan consumentensoftware zoals ChatGPT, aldus Liang.

Beveiliging, nauwkeurigheid en privacy zijn allemaal gebieden waarop AI-technologie anders moet worden ontworpen om nuttig te zijn voor zakelijke klanten.

Nvidia domineert de markt voor AI-chips, maar een stijging in de vraag als gevolg van interesse in generatieve AI-software maakte het voor sommige bedrijven moeilijk om de felbegeerde chips te krijgen. Intel, Advanced Micro Devices en startups zoals SambaNova hebben actie ondernomen om de leegte op te vullen.

De nieuwe SambaNov-chip is in staat om een model met 5 biljoen parameters aan te sturen, en bevat twee geavanceerde vormen van geheugen. Geheugen kan soms een knelpunt zijn bij het kraken van AI-gegevens. Het bedrijf zei dat de combinatie van hardware klanten in staat stelt om grotere AI-modellen uit te voeren, zonder dat grootte voor nauwkeurigheid hoeft te wijken.

Taiwan Semiconductor Manufacturing Company produceert de chip voor SambaNova. (Verslag door Max A. Cherney in San Francisco; Bewerking door Michael Perry)