Haben Sie die Nachrichten gesehen? Alle rasten wegen künstlicher Intelligenz aus, die eine erhebliche Wahrscheinlichkeit birgt, alle Menschen auf dem Planeten zu töten, sobald sie Superintelligenz erlangt… zumindest laut einer Gruppe von Tech-Leuten, die ihre eigenen Gründe haben könnten, Massenpanik zu schüren.

Dieser Medienrummel hat zu Gegenreaktionen von zahlreichen Personen geführt, darunter Elon Musk, die sagen, die KI-Untergangspropheten würden eine „Psyop“ betreiben – mit anderen Worten, sie nutzen unauthentische Mittel, um eine nicht existierende Kontroverse über KI zu inszenieren. Befürworter der Psyop-Theorie verweisen auf einen hohen Grad an Koordination unter den Untergangspropheten, obwohl sie einige weniger verschwörungstheoretische Erklärungen dafür übergehen, warum Politiker und Reporter deren Behauptungen verbreiten.

Sie lesen Free Media von Robby Soave und Reason. Erhalten Sie mehr von Robbys Berichterstattung über Medien, Desinformation und freie Meinungsäußerung. E-Mail. Dieses Feld dient zu Validierungszwecken und sollte unverändert bleiben. E-Mail (Erforderlich).

Der ehemalige Anthropic-Mitarbeiter Jacob Coxon löste diesen Tumult Anfang der Woche aus, als er ankündigte, das Unternehmen zu verlassen. Grund dafür waren seine eigenen Bedenken, dass Anthropic und OpenAI – wo er zuvor gearbeitet hatte – auf eine Superintelligenz zusteuern, ohne sich ausreichend Gedanken darüber zu machen, wie eine fortgeschrittene KI die Menschheit bedrohen könnte.

Seine Gedanken auf X gingen viral und wurden von anderen Tech-Leuten, Politikern und Kommentatoren weithin verbreitet. Man hätte erwarten können, dass Anthropic gegen seine Behauptung vorgehen würde, aber ein Mitarbeiter, Evan Hubinger, stimmte in Coxons Bedenken ein. „Wir glauben wirklich ernsthaft, dass KI alle Menschen töten könnte!“, schrieb er. „Ich persönlich halte es für >10 % innerhalb des nächsten Jahrzehnts.“

Eine Wahrscheinlichkeit von mehr als 10 Prozent, dass etwas passiert, ist signifikant. Ich denke, die meisten Menschen würden nicht wollen, dass die KI-Unternehmen mit ihren Plänen fortfahren, wenn das Risiko eines globalen Aussterbens wirklich so hoch ist.

Beachten Sie, dass Hubinger auch ausdrücklich die Vorstellung zurückweist, es handele sich um einen „Marketing-Gag“, ein Vorwurf, der KI-Untergangspropheten häufig gemacht wird: nämlich, dass sie versuchen, Interesse an dem Produkt zu wecken, indem sie es gefährlich cool klingen lassen, was seine Attraktivität und letztendlich seinen Wert steigern wird.

Dennoch könnte es immer noch ein Marketing-Gag sein! Es gibt schätzungsweise eine Wahrscheinlichkeit von 10 Prozent, dass unser absolut fantastisches Produkt durchdreht – ist das nicht erstaunlich und beängstigend? – klingt tatsächlich eher wie ein Marketing-Gimmick als wie eine nüchterne und wissenschaftlich begründete Analyse der Wahrscheinlichkeit, dass Superintelligenz eine Katastrophe herbeiführt.

Wie wurde die Zahl von 10 Prozent ermittelt? Haben sie die Chancen abgewogen, dass die Superintelligenz Millionen von Menschenleben rettet? Oder der böswilligen KI eines ausländischen Gegners entgegenwirkt? Wenn die Leute, die an diesen Systemen arbeiten, wirklich glauben, dass sie gefährlich sind, tragen sie die Verantwortung dafür, genauer zu sein hinsichtlich der Arten von Bedrohungen, denen wir gegenüberstehen könnten.

Vage Vorhersagen über einen technologiebedingten Untergang reichen jedoch völlig aus, um die Öffentlichkeit extrem ängstlich zu machen. Coxons Beitrag wurde überall geteilt, und er wurde schnell in Nachrichtensendungen im Kabelfernsehen gerufen.

In Zeitungen und Zeitschriften erschienen Gastbeiträge. Regulierungsbehörden signalisierten ihre Bereitschaft zum Handeln. Anthropic selbst schien bereit für den Nachrichteneinsatz und veröffentlichte Erklärungen, in denen die Bundesregierung angefleht wurde, etwas zu tun, um nicht nur ihre eigene KI, sondern auch die ihrer Konkurrenten einzuschränken.

Diese Art von Verhalten ist in der Tech-Welt nichts Neues. Meta hat beispielsweise routinemäßig öffentliche Erklärungen zur Unterstützung einer stärkeren Regulierung von Social-Media-Unternehmen abgegeben; in den vergangenen Jahren haben Kritiker argumentiert, dass die von ihnen unterstützte Gesetzgebung dazu beitragen könnte, Metas Produkte zu unterstützen, indem sie Facebook und Instagram als Marktführer festigen.

In jüngerer Zeit, nach Metas Entscheidung, verschiedene Klagen für Milliarden von Dollars beizulegen, erklärte das Unternehmen, es unterstütze die vom Staat vorgeschriebene Kindersicherung voll und ganz – solange die Regierung auch YouTube und TikTok zügelt.

Aber selbst wenn Anthropics Entscheidung, sich mit den KI-Untergangspropheten zu verbünden, zynisch und eigennützig ist, ist sie immer noch keine „Psyop“ oder eine ausgeklügelte Verschwörung, um das amerikanische Volk dazu zu bringen, mehr Regulierung zu unterstützen – etwas, das Kritiker der Untergangsposition ebenfalls behaupten.

Wahr ist, dass weder Politiker noch die Mainstream-Medien viel Ausrede brauchen, um reflexartigem anti-technologischen Denken zu verfallen: Sie neigen standardmäßig dazu, vermeintliche Schäden verhindern zu wollen. Sowohl die Medien als auch die Regierung sind zugunsten von Handeln voreingenommen: Jemand sollte etwas tun. Und KI ist etwas Großes.

Wir alle sind mit Science-Fiction-Geschichten aufgewachsen, die vorhersagten, dass Killerroboter versuchen würden, die Welt zu übernehmen: Terminator, The Matrix, Dune, Battlestar Galactica und so weiter. Es ist leicht zu verstehen, warum reißerische Schlagzeilen, die warnen, Tech-Insider glaubten nicht ganz so insgeheim, dass eine abtrünnige KI nur wenige Jahre davon entfernt ist, die Menschheit zu zerstören, viele Zeitungen verkaufen werden.

Ebenso möchte kein Politiker als unaufmerksam gegenüber diesem Problem angesehen werden. Selbst Senator Ted Cruz (R–Texas), eine vergleichsweise pro-technologische politische Persönlichkeit, stellte seinen jüngsten Äußerungen über KI voran, dass er seinen parteiübergreifenden „Etwas-tun“-Ansatz für die Tech-Gesetzgebung betont.

Es ist also keine Überraschung, dass die Welt der politischen Kommentare abkauft, was dieser ex-Anthropic-Whistleblower verkauft. Das Letzte, was diese Debatte braucht, ist, dass die pro-KI-Seite der Paranoia verfällt, die die Untergangsseite im Großen und Ganzen charakterisiert. Es ist keine Psyop; es ist ein Irrtum.