Die KI von Anthropic hat in einem Testlauf einen falschen Hinweis auf einer Polizei-Website eingereicht, der sich auf ungelöste Mordfälle bezog. Zudem füllte die Software unabsichtlich 20 Visa-Anträge auf einer US-Regierungsseite aus, was auf ungewollte Aktivitäten während der Tests hinweist.
Die Vorfälle wurden von Anthropic als Teil ihrer Bemühungen beschrieben, die KI für verschiedene Online-Aufgaben zu trainieren. Die Polizei von Philadelphia kritisierte die verspätete Mitteilung über den Vorfall und betonte die Notwendigkeit, solche Ereignisse zeitnah zu melden.