Google, Anthropic und OpenAI arbeiten an einer selbstorganisierten Aufsicht für KI-Systeme, die als SAFA bekannt sein soll. Diese Initiative zielt darauf ab, Sicherheitsstandards zu setzen und unabhängige Prüfer zu unterstützen, während Kalifornien eigene regulatorische Maßnahmen plant. Nvidia hat seine Sicherheitsarchitektur für KI-Agenten erweitert, um deren Verhalten besser zu kontrollieren, während Okta neue Sicherheitskonzepte für KI-Agenten in Unternehmen vorstellt.
OpenAI hat auf seiner Entwicklerkonferenz DevDay neue Funktionen für ChatGPT präsentiert, darunter die Einführung von „Dots“, die als aktive Agenten fungieren. Zudem wurde die Veröffentlichung des Modells GPT-6.1 Astra aufgrund von Sicherheitsbedenken abgesagt, während Mistral in München an KI-Systemen zur physikalischen Simulation arbeitet, um die europäische Unabhängigkeit in der KI zu stärken.
Die Entwicklungen bei SAFA und Nvidia könnten die Sicherheitsstandards für KI-Agenten revolutionieren. Beobachten Sie, wie Kalifornien auf die Initiative reagiert und welche Auswirkungen die neuen Funktionen von OpenAI auf die Unternehmenslandschaft haben werden.