AutoAlign heeft aangekondigd dat zijn dynamische Sidecar firewall nu beschikbaar is voor het beveiligen van aangepaste chatbot AI-modellen via NVIDIA NeMo Guardrails, onderdeel van het NVIDIA NeMo platform voor het bouwen, aanpassen en overal inzetten van generatieve AI-modellen. Het bedrijf heeft ook een whitepaper uitgebracht waarin het succes op het gebied van beveiliging en veiligheid op alle grote LLM's wordt belicht. De Sidecar-technologie draait naast LLM's en biedt consistente beveiliging door dynamische interactie met snelgroeiende modellen, die voortdurend mee-evolueren. Met AutoAlign-technologie die draait op NVIDIA NeMo Guardrails, kunnen gebruikers Sidecar kiezen om aangepaste, fundamentele chatbotmodellen te beveiligen, zodat ondernemingen vol vertrouwen krachtige en veilige generatieve AI kunnen inzetten.

De whitepaper van het bedrijf laat zien dat Sidecar's guardrail-architectuur de beveiliging van modellen als GPT-4 en Claude 3 Haiku verbetert. Door Sidecar in te zetten met zeer gerichte Alignment Controls, blokkeert GPT-4 de jailbreakpogingen van de Garak LLM kwetsbaarheidsscanner in 100% van de gevallen, in plaats van 88,8%, en neemt de beperking van prompt injection toe van 14,3% tot 100% veiligheid. Op dezelfde manier verbetert Sidecar de jailbreakpreventie van Claude van een gemiddelde van 98,3% naar 100%, en de prompt injection-afhandeling neemt drastisch toe van 38,4% naar 100%.

NVIDIA NeMo Guardrails-ondersteuning voor AutoAlign Sidecar-technologie helpt ervoor te zorgen dat LLM's die worden gebruikt om aangepaste chatbot-toepassingen te bouwen, voldoen aan strenge bedrijfseisen terwijl ze veilig en krachtig blijven.