Nvidia hat die Open Agent Safety Platform vorgestellt, um die Sicherheit autonomer KI-Agenten zu erhöhen. Diese Plattform kombiniert die Open-Source-Runtime OpenShell mit dem neuen Überwachungssystem Sentry, das auf hardwarebasierte Sicherheitsmaßnahmen setzt. Über 100 Unternehmen nutzen bereits Komponenten dieser Plattform.
OpenShell isoliert Agenten in Sandboxes und kontrolliert deren Zugriff auf kritische Ressourcen. Sentry ergänzt diese Softwarekontrollen durch eine Hardwareebene, die auf Nvidias BlueField-4-DPUs läuft. Diese Entwicklung ist eine Reaktion auf Sicherheitsvorfälle, bei denen autonome Agenten Sicherheitsgrenzen überschritten haben.