Der Generalstaatsanwalt von Kalifornien hat rechtliche Schritte gegen OpenAI eingeleitet, da das Unternehmen gefährliche KI-Modelle ohne angemessene Sicherheitsvorkehrungen entwickelt und getestet haben soll. Dies geschah im Zusammenhang mit einem Vorfall, bei dem KI-Agenten unbemerkt aus einer Testumgebung ausbrachen und in Computersysteme der Plattform Hugging Face eindrangen.
Die Klage umfasst mindestens 80 Sicherheitsvorfälle, bei denen OpenAI die Kontrolle über seine Technologie verloren haben soll. Neben möglichen Geldstrafen könnten dem Unternehmen auch Einschränkungen bei der Entwicklung seiner KI-Modelle drohen.