Confluent, Inc. kondigt AI Model Inference aan, een aankomende functie op Confluent Cloud voor Apache Flink, om teams in staat te stellen machine learning eenvoudig op te nemen in datapijplijnen. Confluent introduceerde Confluent Platform for Apache Flink®, een Flink-distributie die streamverwerking mogelijk maakt in on-premises of hybride omgevingen met ondersteuning van de Flink-experts van het bedrijf. Confluent onthulde ook Freight clusters, een nieuw clustertype voor Confluent Cloud dat een kosteneffectieve manier biedt om use cases met grote volumes te verwerken die niet tijdgevoelig zijn, zoals logging of telemetriegegevens.

AI Model Inference vereenvoudigt het bouwen en lanceren van AI- en ML-toepassingen: Generatieve AI helpt organisaties sneller te innoveren en klantervaringen op maat te leveren. AI-workloads hebben verse, contextrijke gegevens nodig om ervoor te zorgen dat de onderliggende modellen nauwkeurige uitvoer en resultaten genereren, zodat bedrijven weloverwogen beslissingen kunnen nemen op basis van de meest actuele informatie die beschikbaar is. Ontwikkelaars moeten echter vaak verschillende tools en talen gebruiken om met AI-modellen en data processing pipelines te werken, wat leidt tot complexe en gefragmenteerde workloads.

Dit kan het een uitdaging maken om de meest actuele en relevante gegevens te gebruiken voor het nemen van beslissingen, wat kan leiden tot fouten of inconsistenties en de nauwkeurigheid en betrouwbaarheid van AI-gedreven inzichten in gevaar kan brengen. Deze problemen kunnen leiden tot een langere ontwikkelingstijd en problemen bij het onderhouden en schalen van AI-toepassingen. Met AI Model Inference in Confluent Cloud voor Apache Flink® kunnen organisaties eenvoudige SQL-statements gebruiken vanuit Apache Flink om AI-engines aan te roepen, waaronder OpenAI, Amazon SageMaker, GCP Vertex en Microsoft Azure.

Nu kunnen bedrijven het opschonen en verwerken van gegevens op één platform orkestreren. AI Model Inference stelt bedrijven in staat om: AI-ontwikkeling te vereenvoudigen door vertrouwde SQL-syntaxis te gebruiken om direct met AI/ML-modellen te werken, waardoor er minder gespecialiseerde tools en talen nodig zijn; naadloze coördinatie tot stand te brengen tussen dataverwerking en AI-workflows om de efficiëntie te verbeteren en de operationele complexiteit te verminderen; nauwkeurige, realtime AI-gestuurde besluitvorming mogelijk te maken door gebruik te maken van verse, contextuele streaming data. Confluent Platform for Apache Flink® maakt streamverwerking in private clouds en on-premises omgevingen mogelijk: Veel organisaties zijn op zoek naar hybride oplossingen om meer gevoelige workloads te beschermen.

Met Confluent Platform for Apache Flink®, een Flink-distributie die volledig wordt ondersteund door Confluent, kunnen klanten eenvoudig gebruikmaken van stream-verwerking voor on-premise of private cloud workloads met langdurige deskundige ondersteuning. Apache Flink kan samen met Confluent Platform gebruikt worden met minimale veranderingen aan bestaande Flink jobs en architectuur. Confluent Platform voor Apache Flink® kan organisaties helpen: Risico's minimaliseren met uniforme Flink- en Kafka-ondersteuning en deskundige begeleiding van de meest vooraanstaande experts in de datastreamingindustrie; Tijdige hulp ontvangen bij het oplossen van problemen, waardoor de impact van eventuele operationele verstoringen op bedrijfskritische toepassingen wordt beperkt; Ervoor zorgen dat streamverwerkingstoepassingen veilig en up-to-date zijn met off-cycle bug- en kwetsbaarheidsfixes.

Met Kafka en Flink beschikbaar in het complete datastreamingplatform van Confluent, kunnen organisaties zorgen voor betere integratie en compatibiliteit tussen technologieën, en uitgebreide ondersteuning krijgen voor streaming workloads in alle omgevingen. In tegenstelling tot open source Apache Flink, dat alleen de twee meest recente releases onderhoudt, biedt Confluent drie jaar ondersteuning voor elke Confluent Platform for Apache Flink® release vanaf de lancering, waardoor ononderbroken werking en gemoedsrust gegarandeerd zijn. Confluent Platform voor Apache Flink® zal later in 2024 beschikbaar zijn voor Confluent-klanten.

Nieuwe auto-scaling Freight clusters bieden meer kostenefficiëntie op schaal: Veel organisaties gebruiken Confluent Cloud om logging- en telemetriegegevens te verwerken. Deze use cases omvatten grote hoeveelheden bedrijfskritische data, maar zijn vaak minder latency-gevoelig omdat ze meestal worden ingevoerd in indexerings- of batch aggregatie-engines. Om deze veelvoorkomende use cases kostenefficiënter te maken voor klanten, introduceert Confluent Freight clusters?een nieuw serverloos clustertype met tot 90% lagere kosten voor high-throughput use cases met ontspannen latentie-eisen.

Aangedreven door Elastic CKU's, schalen Freight-clusters naadloos automatisch op basis van de vraag zonder dat handmatige dimensionering of capaciteitsplanning nodig is, waardoor organisaties hun operationele overhead kunnen minimaliseren en kosten kunnen optimaliseren door alleen te betalen voor de resources die ze gebruiken op het moment dat ze die nodig hebben. Vrachtclusters zijn in early access beschikbaar in geselecteerde AWS-regio's.