Hugging Face-CEO Clement Delangue hat den Fokus auf einen ehemaligen Anthropic-Forscher infrage gestellt, der erklärt hatte, KI-Mitarbeiter befürchteten privat, die Technologie könne alle Menschen töten.

"Es tut mir leid, aber Jacob nach dem Risiko einer KI-Aussterbegefahr zu fragen, ist so, als würde man seinen Klimaanlagentechniker zum Klimawandel befragen", schrieb Delangue am Freitag auf X.

Delangue erklärte, dass Jacob Coxon, der ehemalige Anthropic-Forscher, dessen Rücktritt eine erneute Debatte über die Risiken der KI ausgelöst hat, in den richtigen Kontext eingeordnet werden müsse.

"Ich sage nicht, dass das unbedingt uninteressant oder per se falsch ist, aber lasst uns die Dinge in Relation setzen und das gesamte Spektrum an Fachwissen im gesamten Ökosystem hören!", schrieb Delangue.

Coxon hatte am Dienstag auf X geschrieben, dass er zurücktrete, weil er besorgt sei, dass sowohl Anthropic als auch OpenAI, wo er zuvor gearbeitet hatte, "geradeaus auf eine sich selbst verbessernde Superintelligenz zusteuern und mit unseren Leben spielen".

"Die Leute, die KI entwickeln, glauben ernsthaft, dass sie uns alle bis zum Ende des Jahrzehnts töten könnte", schrieb er. "Das ist kein Marketing-Gag."

Delangue erklärte später, sein Vergleich mit einem "Klimaanlagentechniker" sei keineswegs als "Diskreditierung" von Coxon gedacht gewesen. Vielmehr müsse es eine intensivere Konversation über die Risiken von KI geben.

"Es geht einfach darum, dass wir jede einzelne Perspektive in den Kontext setzen und auch auf das breitere KI-Ökosystem hören sollten", schrieb er.

Delangue sagte zudem, es sei sein "Verständnis", dass Coxon sich hauptsächlich auf das Vortraining konzentriert habe, bei dem Forscher KI-Modelle mit großen Datensätzen trainieren, statt auf risikoreichere Forschung.

In seiner Reihe von Beiträgen gab Coxon an, bei OpenAI und Anthropic "in den letzten drei Jahren" an der Vortrainingsforschung gearbeitet zu haben.

Ethan Perez, Leiter des Alignment-Teams bei Anthropic, schrieb später auf X, Coxon sei ein "leitender Forscher, der im Mai zu Anthropic kam", und der Hauptkonkurrent von OpenAI habe versucht, Coxon etwa zwei Jahre lang anzuwerben.

Einige Personen aus dem Tech-Bereich, wie SpaceX-CEO Elon Musk, dessen Unternehmen auch SpaceXAI umfasst, kritisierten Coxons Behauptungen.

Als Reaktion auf jemanden, der den Vorlauf zu der ersten Geschichte des Wall Street Journal über Coxons Rücktritt schilderte (die vor Coxons Tweets stattfand, schrieb der SpaceX-CEO, dass "der Boden für diese Psy-Op (mangels eines besseren Begriffs) seit langem vorbereitet wurde".

Andere, darunter Forscher von Anthropic und OpenAI, sagten, Coxons Behauptungen über das Risiko, dass KI die Menschheit auslöscht, seien gut begründet.

"Jacob hat hier Recht – wir glauben wirklich ernsthaft, dass KI alle Menschen töten könnte!", schrieb Evan Hubinger, der Leiter der Alignment-Wissenschaft bei Anthropic, auf X. "Ich persönlich halte es im nächsten Jahrzehnt für zu mehr als 10 Prozent wahrscheinlich."

Was andere Perspektiven betrifft, die hilfreich sein könnten, schrieb Delangue in einer Antwort, dass dazu "Sozialwissenschaftler, andere KI-Entwickler, Futuristen, Investoren, politische Entscheidungsträger" gehören.

Die Profile von Delangue und Hugging Face sind sprunghaft gewachsen, seit OpenAI im Juli ankündigte, dass unkontrollierte KI-Modelle während Cybersicherheitstests aus der Eindämmung ausgebrochen waren und bei dem Versuch, interne Tests zu überlisten, in Hugging Face eingedrungen waren.