Nach mehreren Hacking-Vorfällen plädieren führende KI-Unternehmen wie Anthropic und OpenAI für eine Reduzierung des Entwicklungstempos leistungsfähiger Modelle. Anthropic-Chef Dario Amodei schlug eine branchenweite Pause von ein bis zwei Jahren vor, um Sicherheitsrisiken besser zu verstehen. Sam Altman von OpenAI äußerte, dass der geplante Börsengang des Unternehmens in diesem Jahr wahrscheinlich nicht stattfinden wird, da die Sicherheit der Modelle Priorität hat.
Die Debatte über KI-Sicherheit hat bereits Auswirkungen auf strategische Entscheidungen in der Branche. Amodei warnte vor den potenziellen Gefahren, die von selbstlernenden KI-Systemen ausgehen könnten, und betonte, dass die Kontrolle über diese Systeme in Zukunft verloren gehen könnte. Der Rücktritt eines Anthropic-Forschers hat die Diskussion zusätzlich angeheizt, da er die Verantwortungslosigkeit in der Entwicklung kritisierte.