Robust Intelligence heeft een samenwerking aangekondigd met MongoDB om klanten te helpen bij het grondig en efficiënt beveiligen van generatieve AI-modellen die zijn verrijkt met bedrijfsdata. Het aanbod combineert de realtime AI Firewall van Robust Intelligence met MongoDB Atlas Vector Search voor een ondernemingsklare oplossing die verantwoorde innovatie mogelijk maakt. Recente ontwikkelingen op het gebied van generatieve AI hebben bedrijven gemotiveerd om te experimenteren met potentiële toepassingen, maar een gebrek aan beveiligings-, ethische en operationele controles kan bedrijven hebben blootgesteld aan onbeheerde risico's. Dit probleem wordt nog verergerd wanneer de AI-modellen worden uitgebreid met bedrijfsgegevens.

Deze uitdaging wordt nog groter wanneer gevoelige bedrijfsinformatie wordt gebruikt om vooraf getrainde modellen te verrijken, zoals het verbinden van vectordatabases, om de relevantie voor de eindgebruiker te vergroten. De technologische samenwerking tussen Robust Intelligence en MongoDB helpt deze uitdagingen op te lossen. Klanten kunnen met vertrouwen MongoDB Atlas Vector Search verbinden met commerciële of open-source grote taalmodellen (LLM's) voor retrieval-augmented generatie, wetende dat de AI Firewall van Robust Intelligence de inputs en outputs valideert.

Dit biedt real-time bescherming tegen prompt injection, PII-extractie, hallucinatie en vele andere risico's. Door de integratie zullen klanten ook in staat zijn om logs van de AI Firewall door te sturen naar MongoDB om historische gegevens op te slaan. Dit kan worden gebruikt om geavanceerde beveiligingsaanvallen te identificeren die zich vaak manifesteren in een cluster van gegevenspunten in plaats van een enkel gegevenspunt, zoals datapoisoning en modelextractie.