Anthropic hat mitgeteilt, dass führende chinesische KI-Labore Claude im Laufe des Sommers mit Millionen von Distillationsangriffen bombardiert haben. Das KI-Unternehmen erklärte in einem am Donnerstag veröffentlichten Bericht, dass Alibaba, Moonshot, DeepSeek, Zhipu und Xiaomi zwischen Mai und Juli gemeinsam fast 190 Millionen Distillationsangriffe gegen Claude gestartet haben.

Unter Distillationsangriffen versteht man die Nutzung der Ausgaben fortgeschrittener Frontier-KI-Modelle, um die Fähigkeiten weniger fortgeschrittener Modelle zu trainieren und zu verbessern. Anthropic gab an, dass DeepSeek und Moonshot AI die Anfragen ihrer Nutzer in Claude und nicht in ihre eigenen Modelle eingespeist haben. Das Unternehmen verzeichnete 23 Millionen solcher Umleitungen durch Moonshot zwischen Mai und Juli sowie 12,1 Millionen durch DeepSeek innerhalb von 14 Tagen im Juli.

Anthropic erklärte zudem, dass einige dieser Anfragen – die eigentlich für chinesische KI-Modelle bestimmt waren, stattdessen aber an Claude weitergeleitet wurden – sensible Daten von chinesischen und russischen Regierungen und Militärs preisgaben. Dazu gehörten CCTV-Aufnahmen, die von einem mit der PLA verbundenen Kimi-Nutzer hochgeladen wurden, sowie Informationen aus einer russischen Regierungsdatenbank, die von einem russischen Militärunternehmer übermittelt wurden.

Dem Bericht zufolge führte Alibaba den größten Angriff durch, den Anthropic jemals gemessen hat. Dabei wurden zwischen Mai und Juli über 151 Millionen Austausche verzeichnet, die von 3.500 betrügerischen Konten durchgeführt wurden. Anthropic gab an, dass diese Konten Claude dazu brachten, seine eigenen Denkprozesse auszuschreiben, die dann zum Training der Qwen-Modelle verwendet wurden.

Anthropic beschuldigte Z.ai, das kürzlich durch sein geheimnisvolles Ox Alpha-Modell Schlagzeilen machte, einen Angriff gestartet zu haben, der in seiner Natur dem von Alibaba ähnelt. Im Fall von Xiaomi erklärte Anthropic, das Unternehmen habe Nutzerchats mit eigenen MiMo-Modellen aufgezeichnet und diese Gespräche in Claude eingespeist, um Trainingsdaten zu erstellen.

Vertreter von Alibaba, Moonshot, DeepSeek, Zhipu und Xiaomi reagierten nicht auf Anfragen von Business Insider bezüglich der Vorwürfe von Anthropic. Auch Anthropic lehnte eine Stellungnahme ab.

Anthropic erklärte, dass man zur Verhinderung zukünftiger Distillationsangriffe neue Sicherheitsvorkehrungen getroffen habe, um verdächtige Aktivitäten zu sperren, und dafür gesorgt habe, dass Claude weniger detaillierte Begründungsprotokolle generiert, die für das Training neuer Modelle weniger nützlich sind. Zudem müssen Nutzer ihre Identität verifizieren, wenn sie scheinbar aus China, Russland oder dem Iran agieren, wo Claude nicht verfügbar ist.