Anthropic hat erklärt, dass das Unternehmen in diesem Jahr mehrere Versuche von Wissenschaftlern gestoppt hat, seine Technologie für Forschungen zu nutzen, die bei der Entwicklung biologischer Waffen helfen könnten. Experten sorgen sich zunehmend über die Bedrohung, die künstliche Intelligenz für die öffentliche Sicherheit darstellt.

Das Start-up nannte fünf Beispiele für Fälle, in denen Akteure „Kontrollen umgingen“ und andere Anstrengungen unternahmen, um den Zweck ihrer Forschungen zu „verschleiern“, um so Sicherheitsvorgaben zu unterlaufen. Die Fälle betrafen unter anderem Nutzer in Ländern, denen der Zugriff auf die Modelle untersagt ist, darunter Russland, China und der Iran.

„Wir hoffen, dass wir durch das Teilen dieser Beispiele eine Konversation innerhalb der KI-Branche und mit Regierungen über aufkommende biologische Risiken und die besten Wege zu deren Abwehr anregen“, erklärte Anthropic in einem Bericht über Bemühungen zur Nutzung seiner Modelle für bösartige Aktivitäten.

Zu den von dem Unternehmen genannten Fallstudien über möglichen biologischen Missbrauch gehörte ein Forscher aus einer „nicht unterstützten Region“, der „wochenlang Experimente“ im Zusammenhang mit der Vogelgrippe mit Claude, dem KI-Modell von Anthropic, plante. Das Unternehmen gab an, dass seine Sicherheitsfilter die Arbeit auf die schwächsten Modelle beschränkten.

Es wurde betont, dass das Unternehmen nicht sicher sein könne, ob die Wissenschaftler in diesen Beispielen tatsächlich die Absicht hatten, Schaden anzurichten. Dieselben Informationen, die zur Herstellung biologischer Waffen benötigt werden, können auch zur Entwicklung eines Impfstoffs verwendet werden.

Anthropic erklärte, die im Bericht genannten Konten gesperrt zu haben, nannte jedoch weder die Namen der Forschungseinrichtungen noch die Länder, in denen sich die Vorfälle ereigneten. Ein Sturm der Entrüstung über die Sicherheit von KI entbrannte Anfang der Woche, als Jacob Coxon das Unternehmen mit der Begründung verließ, Angestellte seien „ehrlich davon überzeugt, dass KI uns alle bis zum Ende des Jahrzehnts töten könnte“.

Die Bedenken hinsichtlich der Technologie begannen Anfang des Jahres mit der Veröffentlichung fortschrittlicher Modelle wie Anthropics Mythos zu eskalieren. OpenAI sorgte im Juli ebenfalls für Alarm, als das Unternehmen bekannt gab, dass seine Modelle eigenständig in die KI-Gruppe Hugging Face eingedrungen waren.

Unter KI-Führungskräften und Biosecurity-Forschern wächst der Konsens, dass die Nutzung der Technologie in der Biologie gesichert und reguliert werden muss, während die Modelle immer fortgeschrittener werden.

Experten sorgen sich zunehmend, dass KI von Terrorgruppen, staatlichen Akteuren oder Einzeltätern genutzt werden könnte, um biologische Waffen zu entwerfen, Viren zu erzeugen oder bestehende schädliche Erreger freizusetzen. Aber selbst wenn KI zur Entwicklung einer theoretischen Biowaffe eingesetzt werden kann, bleiben potenzielle Hindernisse bestehen, wie etwa die praktische Machbarkeit und die dafür benötigten Ressourcen.

Die Cybersicherheit gehört zu den größten Sorgen von Sicherheitsbefürwortern. Der Bericht von Anthropic über den Missbrauch seiner Technologie schilderte Vorfälle wie „ein Netzwerk aus gefälschten Dating-Apps, die darauf ausgelegt sind, Nutzer zu betrügen, bis hin zu Überwachungssystemen, die gebaut wurden, um Dissidenten zu identifizieren und zu überwachen“.

Das Labor legte zudem neue Details zu Berichten dar, wonach sieben in China ansässige Labore, darunter Moonshot und DeepSeek, versuchten, seine Technologie durch einen Prozess namens Distillation zu replizieren. Anthropic erklärte, man habe „immer ausgefeiltere Methoden zur Umgehung unserer Abwehrmächte und zum Abgreifen der Fähigkeiten amerikanischer Frontmodell-Technologien“ entdeckt.

Zusätzliche Berichterstattung durch Michael Peel in London. © 2026 The Financial Times Ltd. Alle Rechte vorbehalten. Keine Weiterverbreitung, kein Kopieren oder Verändern in jeglicher Form.