Im UN-Sicherheitsrat haben führende KI-Experten, darunter Sam Altman von OpenAI und Dario Amodei von Anthropic, vor den Gefahren der Künstlichen Intelligenz gewarnt. Sie betonten die rasante Entwicklung der Technologie und forderten internationale Regulierungen, um Missbrauch und Kontrollverlust zu verhindern. Ein Meldesystem für sicherheitsrelevante KI-Vorfälle wurde ebenfalls vorgeschlagen.
Die Diskussion über KI-Regulierungen gewinnt an Fahrt, da viele UN-Mitgliedsstaaten, einschließlich Deutschland, sich für eine stärkere Kontrolle und die Schaffung einer internationalen Regulierungsbehörde aussprechen. Dies geschieht vor dem Hintergrund eines Wettlaufs zwischen den USA und China um die Vorherrschaft in der KI-Technologie.