Cloudera heeft haar uitgebreide samenwerking met NVIDIA aangekondigd. Cloudera Powered by NVIDIA integreert NVIDIA NIM microservices, onderdeel van het NVIDIA AI Enterprise softwareplatform, in Cloudera Machine Learning, een Cloudera Data Platform service voor AI/ML workflows, om snelle, veilige en vereenvoudigde end-to-end generatieve AI workflows in productie te leveren. Bedrijfsgegevens, in combinatie met een uitgebreid full-stack platform dat geoptimaliseerd is voor grote taalmodellen (LLM), spelen een cruciale rol in de ontwikkeling van generatieve AI-toepassingen van een organisatie van pilot tot productie.

Met NVIDIA NIM en NeMo Retriever microservices kunnen ontwikkelaars AI-modellen koppelen aan hun bedrijfsgegevens, inclusief tekst, afbeeldingen en visualisaties, zoals staafdiagrammen, lijndiagrammen en cirkeldiagrammen, om zeer nauwkeurige, contextueel relevante reacties te genereren. Ontwikkelaars die deze microservices gebruiken, kunnen toepassingen implementeren via NVIDIA AI Enterprise, dat geoptimaliseerde runtimes biedt voor het bouwen, aanpassen en implementeren van LLM's op bedrijfsniveau. Door gebruik te maken van NVIDIA microservices zal Cloudera Machine Learning klanten in staat stellen om de waarde van hun bedrijfsdata te ontketenen onder Cloudera-beheer door krachtige AI-workflows, AI-platformsoftware en versnelde computing naar de data te brengen - waar deze zich ook bevinden. Cloudera zal meerdere integraties met NVIDIA microservices introduceren.

Cloudera Machine Learning zal model- en applicatieservices integreren die worden aangestuurd door NVIDIA microservices om de inferentieprestaties van modellen voor alle workloads te verbeteren. Met deze nieuwe AI model-serving functionaliteit kunnen klanten fouttolerantie, low-latency serving en auto-scaling bereiken voor modellen die overal worden ingezet, zowel in publieke als private clouds. Daarnaast biedt Cloudera Machine Learning geïntegreerde NVIDIA NeMo Retriever microservices om de verbinding van aangepaste LLM's met bedrijfsgegevens te vereenvoudigen.

Met deze mogelijkheid kunnen gebruikers retrieval-augmented generation (RAG)-gebaseerde toepassingen voor productiegebruik bouwen. Cloudera werkte eerder al samen met NVIDIA om GPU-geoptimaliseerde gegevensverwerking in te zetten via de integratie van de NVIDIA RAPIDS Accelerator voor Apache Spark in het Cloudera Data Platform. Nu, met de geplande toevoeging van NVIDIA microservices en integratie met NVIDIA AI Enterprise, zal het Cloudera Data Platform op unieke wijze gestroomlijnde end-to-end hybride AI-pijplijnen leveren.