Oracle en NVIDIA hebben een uitgebreide samenwerking aangekondigd om soevereine AI-oplossingen te leveren aan klanten over de hele wereld. Oracle's gedistribueerde cloud, AI-infrastructuur en generatieve AI-diensten, gecombineerd met NVIDIA's versnelde computing en generatieve AI-software, stellen overheden en bedrijven in staat om AI-fabrieken te implementeren. Deze AI-fabrieken kunnen cloudservices lokaal uitvoeren en binnen de beveiligde gebouwen van een land of organisatie met een reeks operationele controles, ter ondersteuning van overheidsdoelen om de economische groei te diversifiëren en te stimuleren.

De combinatie van NVIDIA's full-stack AI-platform met Oracle's Enterprise AI ? dat kan worden ingezet in OCI Dedicated Region, Oracle Alloy, Oracle EU Sovereign Cloud en Oracle Government Cloud ? biedt klanten een AI-oplossing die meer controle biedt over operaties, locatie en beveiliging om digitale soevereiniteit te helpen ondersteunen.

Het gecombineerde aanbod van de bedrijven kan worden ingezet via de publieke cloud of in het datacenter van een klant op specifieke locaties, met flexibele operationele controles. Oracle is de enige hyperscaler die AI en volledige cloudservices lokaal en overal kan leveren. OCI-services en prijzen zijn consistent voor alle implementatietypes om planning, overdraagbaarheid en beheer te vereenvoudigen.

De cloudservices van Oracle maken gebruik van een reeks NVIDIA-stacks, waaronder de NVIDIA versnelde rekeninfrastructuur en het NVIDIA AI Enterprise-softwareplatform, inclusief de onlangs aangekondigde NVIDIA NIM? inferentiemicroservices, die gebouwd zijn op het fundament van inferentiesoftware van NVIDIA, zoals NVIDIA TensorRT?, NVIDIA TensorRT-LLM en NVIDIA Triton Inference Server? Om klanten te helpen de steeds toenemende behoeften van AI-modellen aan te pakken, is Oracle van plan om gebruik te maken van het nieuwste NVIDIA Grace Blackwell computing platform, vandaag aangekondigd op GTC, in OCI Supercluster en OCI Compute.

OCI Supercluster zal aanzienlijk sneller worden met nieuwe OCI Compute bare metal instances, RDMA-netwerken met ultralage latentie en krachtige opslag. OCI Compute zal zowel de NVIDIA GB200 Grace Blackwell Superchip als de NVIDIA Blackwell B200 Tensor Core GPU gebruiken. De NVIDIA GB200 Grace?

Blackwell Superchip zal een nieuw tijdperk van computergebruik inluiden. GB200 levert tot 30X snellere real-time inferentie van grote taalmodellen (LLM), 25X lagere TCO en verbruikt 25X minder energie in vergelijking met de vorige generatie GPU's, waardoor AI-training, gegevensverwerking en engineeringontwerp en -simulatie een superboost krijgen. NVIDIA Blackwell B200 Tensor Core GPU's zijn ontworpen voor de meest veeleisende AI, data analytics en high-performance computing (HPC) workloads.

NVIDIA NIM en CUDA-X? microservices, waaronder NVIDIA NeMo Retriever voor retrieval- augmented generation (RAG) inferentie-implementaties, zullen OCI-klanten ook helpen om meer inzicht en nauwkeurigheid te brengen in hun generatieve AI-copilots en andere productiviteitstools met behulp van hun eigen gegevens. Om tegemoet te komen aan de toenemende vraag van klanten naar steeds complexere AI-modellen, voegen de bedrijven NVIDIA Grace Blackwell toe aan NVIDIA DGX? Cloud op OCI.

Klanten krijgen toegang tot nieuwe GB200 NVL72 gebaseerde instances via deze gezamenlijk ontwikkelde supercomputingservice die is ontworpen voor energie-efficiënte training en inferentie in een tijdperk van biljoen-parameter LLM's. Het volledige DGX Cloud cluster zal meer dan 20.000 GB200 versnellers en NVIDIA CX8 InfiniBand netwerken omvatten, waardoor een zeer schaalbare en krachtige cloud-infrastructuur ontstaat. Het cluster zal bestaan uit 72 Blackwell GPU's NVL72 en 36 Grace CPU's met NVLink van de vijfde generatie? Beschikbaarheid: De soevereine AI-oplossingen van Oracle en NVIDIA zijn per direct beschikbaar.