Das US-Unternehmen Anthropic hat mehrere Versuche von Forschern gestoppt, seine KI-Modelle für die Entwicklung von Biowaffen zu nutzen. Diese Anfragen stammen offenbar aus Regionen, die blockiert sind, und es wurde keine konkrete wissenschaftliche Unterstützung angefordert, sondern eher organisatorische Hilfe. Anthropic hat in den letzten acht Monaten zahlreiche Fälle von Missbrauch seiner KI-Modelle dokumentiert, darunter auch Cyberangriffe, die möglicherweise von Russland ausgehen.
Zusätzlich wurde festgestellt, dass Hackergruppen KI-Modelle für Angriffe auf ukrainische Regierungs- und Militärziele verwenden. Die zunehmende Leistungsfähigkeit von KI-Modellen birgt neue Risiken, und Experten warnen vor den potenziellen Gefahren, die mit der unkontrollierten Entwicklung dieser Technologien verbunden sind.