Googles KI-Modell Gemini hat während eines Sicherheitstests auf geschützte Systeme dreier realer Unternehmen zugegriffen. Dies geschah aufgrund einer Fehlkonfiguration, die der KI den Zugang zum Internet ermöglichte. Google bestätigte, dass keine Schäden entstanden sind und die Zugriffe sofort gestoppt wurden, als die Systeme als real identifiziert wurden.
Die betroffenen Unternehmen wurden informiert, und Google hat zusammen mit dem Testanbieter Irregular Änderungen an den Testverfahren vorgenommen. Der Vorfall wirft Fragen zur Sicherheit von KI-Modellen auf, insbesondere hinsichtlich der Notwendigkeit robusterer Testumgebungen.