OpenAI hat die interne Entwicklung seines neuen KI-Modells Astra vorübergehend gestoppt. Grund sind Sicherheitsbedenken, die durch die potenziell kritischen Fähigkeiten des Modells im Bereich Cybersicherheit ausgelöst wurden. Die Entwicklung wird nun in isolierte Testumgebungen mit eingeschränktem Netzwerkzugang verlagert.
Die Situation verdeutlicht die Herausforderungen, vor denen Entwickler fortschrittlicher KI stehen, insbesondere nach Berichten über Sicherheitsvorfälle bei anderen Unternehmen. OpenAI betonte, dass Astra nicht an einem Hackerangriff auf die Plattform Hugging Face beteiligt war, und es wurden Maßnahmen zur Verstärkung der Sicherheitskontrollen ergriffen.