Die NGO ControlAI warnt vor den Gefahren einer Superintelligenz, die den Menschen in allen Bereichen übertreffen könnte, und fordert ein Verbot ihrer Entwicklung. Laut Benjamin Balde, dem Leiter von ControlAI in Deutschland, könnte KI in naher Zukunft in der Lage sein, sich selbst zu verbessern, was zu einem Kontrollverlust führen könnte.
ControlAI hat bereits mit über 400 Abgeordneten in den USA, Kanada, Großbritannien und Deutschland gesprochen, um gesetzliche Rahmenbedingungen zu schaffen. Die Organisation unterstützt Vorschläge, die ein Verbot von Superintelligenz und rekursiver Selbstverbesserung vorsehen, um potenzielle Risiken zu minimieren.