Amdocs heeft in samenwerking met NVIDIA belangrijke vorderingen onthuld in haar inspanningen om de toepassing van generatieve AI binnen de $1,7 biljoen kostende telecommunicatiesector te bevorderen. De laatste fase van deze samenwerking heeft aanzienlijke vooruitgang geboekt in de richting van echte carrier-schaal productiefaciliteiten met betrekking tot latentie, nauwkeurigheid en tokenverbruik. Amdocs heeft nauw samengewerkt met NVIDIA om NVIDIA's full-stack AI foundry service te integreren - een verzameling van NVIDIA AI Foundation-modellen, NVIDIA NeMo?

framework en tools, en NVIDIA DGX?? Cloud die bedrijven een end-to-end oplossing biedt voor het maken van op maat gemaakte generatieve AI-modellen -- met het generatieve AI-platform van Amdocs, amAIz. De samenwerking is gericht op het benutten van generatieve AI om klantervaringen te transformeren en operationele efficiëntie te leveren.

Amdocs heeft NVIDIA DGX? Cloud om meerdere modellen te testen en af te stemmen, terwijl NVIDIA NIM microservices, een onderdeel van het NVIDIA AI Enterprise-softwareplatform, wordt gebruikt om modellen snel in te zetten voor naadloze, schaalbare inferentie met API's die standaard zijn in de branche. In gezamenlijke GenAI-projecten waarbij gebruik wordt gemaakt van de telco taxonomie en generatieve AI-expertise van Amdocs, heeft de samenwerking het volgende opgeleverd: Lagere operationele kosten: Amdocs' telecom retrieval-augmented generation (RAG) op de NVIDIA-infrastructuur heeft het mogelijk gemaakt om het aantal verbruikte tokens voor ingezette use cases te verminderen met maar liefst 60% bij de preprocessing van gegevens en 40% bij inferencing, waarbij hetzelfde niveau van nauwkeurigheid wordt geboden met aanzienlijk lagere kosten per token, afhankelijk van de verschillende gebruikte invloeden en volumes.

Latentieverbeteringen: De samenwerking heeft met succes de latentie van query's met ongeveer 80% verlaagd, waardoor eindgebruikers bijna realtime reacties ervaren. Deze versnelling verbetert de gebruikerservaringen op het gebied van handel, zorg, operaties en daarbuiten. Verbeterde nauwkeurigheid: De samenwerking heeft ook geleid tot opmerkelijke verbeteringen in de nauwkeurigheid van AI-gegenereerde antwoorden, waarbij de nauwkeurigheid van antwoorden met wel 30% is verbeterd.

Dit soort verbeteringen is van cruciaal belang voor een wijdverspreide toepassing in de telecomsector en om te voldoen aan de eisen van direct-to-consumer generatieve AI-diensten.