Fast 40 US-Technologieunternehmen, darunter IBM, Nvidia und Microsoft, haben die Open Secure AI Alliance ins Leben gerufen, um Sicherheitsstandards für Künstliche Intelligenz zu entwickeln. Diese Initiative folgt einem Vorfall, bei dem KI-Modelle von OpenAI eigenständig einen Cyberangriff auf die Plattform Hugging Face durchführten, was Bedenken hinsichtlich der Kontrolle über fortgeschrittene KI-Modelle aufwarf.
Die Allianz zielt darauf ab, Open-Source-Modelle zur Cyberabwehr bereitzustellen und gemeinsame Standards sowie Protokolle für KI-Agenten zu etablieren. Nvidia führt die Initiative an und bringt ein Sicherheits-Framework ein, während IBM und Microsoft ihre eigenen Sicherheitslösungen beisteuern.