Forscher außerhalb der Vereinigten Staaten haben fortschrittliche KI-Modelle genutzt, um Experimente mit hochpathogener Vogelgrippe, Chikungunya und anderen biologischen Arbeitsstoffen mit potenziellen Waffeneinsatzmöglichkeiten zu planen. Dies geht aus einem neuen Bedrohungsbericht des Unternehmens Anthropic hervor.

Die Forscher nutzten KI, um die Übertragbarkeit von Viren und die Immunevasion zu untersuchen, Orthopoxvirus-Immunantwortgene zu erforschen und bei der Entwicklung neuartiger Toxine zu helfen. Dabei ergriffen sie zeitweise Maßnahmen, um Schutzvorkehrungen zu umgehen, die den Zugriff auf gefährliche biologische Fähigkeiten einschränken sollen.

Anthropic schilderte fünf Fälle in dem am Donnerstag veröffentlichten Bericht, nannte jedoch nicht die beteiligten Länder, Institutionen und spezifischen biologischen Arbeitsstoffe. Das Unternehmen betonte, es behaupte nicht, dass die Forscher die Absicht gehabt hätten, Biowaffen zu entwickeln.

Die Erkenntnisse bieten einen konkreten Einblick in eine Bedrohung, die bislang meist auf hypothetischer Ebene diskutiert wurde. Wissenschaftler, die bereits über biologisches Fachwissen, Materialien und Laborzugang verfügen, nutzen zunehmend leistungsstarke KI-Systeme, um sensible Dual-Use-Forschung zu beschleunigen.

Sie fallen zudem in eine Zeit erneuter Debatten über katastrophale KI-Risiken. Jacob Coxon, ein ehemaliger Forscher von Anthropic und OpenAI, trat kürzlich zurück und warf den Unternehmen vor, „direkt auf eine sich selbst weiterentwickelnde Superintelligenz zuzurasen und mit unseren Leben zu spielen“. Seine Warnung erzielte auf X über 100 Millionen Aufrufe.

Evan Hubinger, der Leiter der Ausrichtungswissenschaft bei Anthropic, erklärte separat, er persönlich glaube, dass es eine Wahrscheinlichkeit von über 10 Prozent gebe, dass KI alle Menschen innerhalb des nächsten Jahrzehnts töte.

Der Bericht von Anthropic verweist jedoch auf eine Bedrohung, die bereits Gestalt annimmt: Forscher nutzen modernste KI für potenziell gefährliche biologische Arbeiten, umgehen geografische Beschränkungen und passen sich an, wenn die Schutzmechanismen der Modelle ihnen im Weg stehen.

In einem Fall blockierte Anthropic einen Förderantrag für die Gain-of-Function-Forschung an Chikungunya an einem militärischen Forschungsinstitut. Die vorgeschlagene Arbeit zielte darauf ab, Mutationen zu identifizieren, die die Übertragbarkeit des Virus und seine Fähigkeit, dem Immunsystem zu entgehen, erhöhen könnten.

Die Forscher planten, diese Mutationen in infektiöse Klone einzubauen und das Virus wiederholt durch lebende Tiere zu leiten, um Varianten zu selektieren, die die schwersten Erkrankungen verursachten. Eine solche Arbeit könnte Wissenschaftlern helfen, bessere Impfstoffe und Behandlungen für Chikungunya zu entwickeln.

Sie könnte jedoch auch einen gefährlicheren Erreger hervorbringen, der nur schwer von einem natürlich auftretenden Ausbruch zu unterscheiden wäre, so Anthropic. Die Forscher griffen über eine Life-Sciences-Plattform auf Claude zu, die den Datenverkehr über US-Infrastruktur leitete, um die regionalen Beschränkungen von Anthropic zu umgehen.

Als Claude sich weigerte, sensible Prompts zu beantworten, leitete die Plattform diese Anfragen an ein anderes Modell mit nachsichtigeren Schutzvorkehrungen weiter. Anthropic gab an, dass die Forschung fortgesetzt wurde, nachdem das Unternehmen Konten gesperrt hatte, die mit den Aktivitäten in Verbindung standen.

Der Plattformbetreiber stellte den Zugang innerhalb weniger Tage unter neuen Identitäten wieder her, während Claude weiterhin redaktionelle Unterstützung bei Forschungsmaterialien leistete.

In einem anderen Fall nutzte ein Forscher wochenlang Claude, um Experimente zur Säugetieranpassung und luftübertragenen Übertragung der hochpathogenen Vogelgrippe zu planen. Der Forscher untersuchte virale Eigenschaften, die es der Vogelgrippe ermöglichen könnten, sich effektiver unter Säugetieren zu verbreiten und außerhalb der Atemwege schwere Erkrankungen hervorzurufen.

Eine Version, die zu einer effizienten Mensch-zu-Mensch-Übertragung fähig ist, würde laut dem Bericht eine erhebliche Pandemiebedrohung darstellen. Anthropic erklärte, der Forscher habe anscheinend Zugang zu Virusisolaten und Tierversuchsanlagen gehabt.

Das Unternehmen beschränkte die Arbeit auf schwächere Modelle und begrenzte die Unterstützung hauptsächlich auf Studiendesign, Datenanalyse und redaktionelle Betreuung. Das Unternehmen gab an, dass dieser Fall Beweise für ein aktives Forschungsprogramm liefere, das das Wissen und die biologischen Materialien entwickelt, die zur Erstellung von Erregern mit erhöhtem Pandemiepotenzial erforderlich sind.

Der Forscher ergriff zudem Maßnahmen, um seine Identität zu verbergen, während er von einer nicht unterstützten Region aus auf die Modelle zugriff. Ein anderer Benutzer, der mit einem staatlich assoziierten Institut für Infektionskrankheiten verbunden war, nutzte Claude, um innerhalb von etwa einer Stunde einen Forschungsantrag zu Orthopoxviren von Anfang bis Ende zu verfassen.

Zu den Orthopoxviren gehören Variola, das den Pocken auslösende Virus, sowie Mpox. Der Förderantrag schlug vor, virale Gene zu untersuchen, die die menschliche Immunantwort ausschalten, und umfasste die zentrale Hypothese, das experimentelle Design, die Dosierung, statistische Pläne und Notfallstrategien.

Da die Arbeit auf die Schwächung des Virus ausgerichtet war, blockierten die Schutzmechanismen von Claude die Unterstützung nicht. Anthropic erklärte jedoch, dass dasselbe Wissen auch einem Forscher dabei helfen könnte, die Immunevasionsfähigkeiten des Virus zu bewahren oder zu verbessern.

Die letzten beiden Fälle betrafen Giftpeptide und Toxine. Ein Forscher nutzte Claude, um einen Atlas von Toxinpeptiden aus mehreren Abstammungslinien giftiger Tiere zu erstellen, und entwickelte dann eine generative Pipeline zur Optimierung ihrer Eigenschaften.

Das erklärte Ziel war die Entwicklung neuer Schmerzmittel, Antidepressiva und anderer Behandlungen. Der Atlas enthielt jedoch auch Strukturen, die mit paralytischen Toxinen verbunden sind, die potenziell als Kampfmittel zur Handlungsunfähigkeit eingesetzt werden könnten.

Anthropic gab an, dass die Arbeit Teil eines staatlich unterstützten Forschungsprogramms war. Im anderen Fall nutzte ein Forscher Claude, um mehrere Toxine computergestützt neu zu entwerfen, darunter ein Bakterientoxin und ein Protein eines Hämorrhagischen-Fieber-Virus, das von der Weltgesundheitsorganisation als prioritäre Krankheitsbedrohung eingestuft wurde.

Der Forscher nutzte Claude zur Unterstützung bei der Erstellung von Fortschrittsberichten, wies das Modell jedoch an, die Identitäten der Toxine bewusst vage zu halten.

Die Fälle verdeutlichen, warum biologischer Missbrauch allein durch automatisierte Filter schwer zu verhindern ist. Die Schutzvorkehrungen von Anthropic blockierten die klarsten Versuche im Zusammenhang mit verbesserten Pandemieerregern, waren jedoch weniger effektiv, wenn Benutzer ihre Arbeit als medizinische, defensive oder therapeutische Forschung darstellten.

„Biologische Fähigkeiten haben einen doppelten Verwendungszweck“, erklärte Anthropic in dem Bericht. Dieselben Informationen, die zur Entwicklung einer Biowaffe genutzt werden könnten, könnten beispielsweise auch zur Entwicklung eines Impfstoffs oder eines Heilmittels für eine Krankheit verwendet werden.

Das Unternehmen gab an, kürzlich die 30-tägige Aktivität von gegnerischen staatlichen Institutionen überprüft und rund 35 verschiedene biologische Forschungsbemühungen festgestellt zu haben. Die meisten davon betrafen gewöhnliche zivile Wissenschaft, aber einige wiesen ein „bemerkenswertes Dual-Use-Potenzial“ auf.

Anthropic erklärte, die Ergebnisse zeigten nicht, dass Claude einen unmittelbar bevorstehenden biologischen Angriff ermöglicht habe. Sie zeigten jedoch, dass Forscher, die mit staatlich assoziierten Programmen verbunden sind, versuchen, Zugriffskontrollen zu umgehen und fortschrittliche KI-Modelle in der biologischen Forschung zu nutzen, die Waffeneinsatzmöglichkeiten haben könnten.

Das Unternehmen erklärte, zukünftige Schutzvorkehrungen würden wahrscheinlich mehr erfordern als nur Inhaltsfilter, darunter Identitätsverfolgung, institutionelle Überprüfung und eine genauere Überwachung von Nutzern, die Zugang zu fortgeschrittenen biologischen Fähigkeiten beantragen.