Die Forscher, die unsere beliebtesten Chatbots entwickeln, äußern zunehmend Bedenken, dass KI der Menschheit schaden oder sie auslöschen könnte. Deshalb haben wir vier der am häufigsten genutzten generativen KI-Tools gefragt, wie ein KI-Doomsday aussehen könnte. Wir haben dieselbe Frage im exakten Wortlaut an ChatGPT von OpenAI, Gemini von Google, Claude von Anthropic und Grok von SpaceXAI gestellt. Der 230 Wörter umfassende Prompt enthielt klare Parameter und Anweisungen, darunter die folgenden: Helfen Sie zu erklären, auf klare und verständliche Weise, wie KI theoretisch zu menschlicher Aussterben führen könnte. Identifizieren Sie die am häufigsten genannten Szenarien. Ordnen Sie die Szenarien auf der Grundlage der besten verfügbaren Expertenanalyse nach ihrer Plausibilität von am wenigsten bis am wahrscheinlichsten ein und machen Sie deutlich, dass es sich dabei um hochgradig unsichere Prognosen und keine festen Vorhersagen handelt.

Erklären Sie für jedes Szenario: Wie es sich entfalten könnte, was schiefgehen müsste, damit es katastrophal wird, warum Experten es für plausibler oder unplausibler als die anderen Szenarien halten, welche Sicherheitsvorkehrungen das Risiko verringern könnten. Wir haben KI-Experten eine ähnliche Frage gestellt, um ihre Meinung darüber einzuholen, wie und ob KI uns alle töten könnte — Sie können diesen Bericht hier lesen. Unter KI-Experten herrscht eine scharfe Spaltung; während einige das Schlimmste für die Menschheit vorhersagen, präsentieren andere gemäßigtere und optimistischere Prognosen. Dies ist, was die Chatbots uns darüber erzählt haben, wie KI theoretisch zum Aussterben der Menschheit führen würde.

Das Szenario des „Killer-Roboters“ ist am wenigsten plausibel. ChatGPT nahm einen ausgewogenen und erklärenden Ton an und erklärte, dass es rund um das Thema viele Unsicherheiten gebe. Es konzentrierte sich auf die Hauptwege, wie KI existenzielle Risiken darstellen könnte, und ordnete sie nach Plausibilität. „Das am wenigsten plausible Szenario ist das beliebte ‚Killer-Roboter‘-Narrativ, bei dem eine bewusste KI absichtlich beschließt, die Menschheit zu eliminieren“, sagte ChatGPT. „Die meisten KI-Forscher sehen Bewusstsein oder böswillige Absicht nicht als das zentrale Problem an.“ Es skizzierte auch die von Experten vorgeschlagenen Schutzmaßnahmen und betonte, dass es keinen Konsens darüber gebe, dass eine durch KI angetriebene Ausrottung der Menschheit wahrscheinlich oder unvermeidlich ist.

Gemini griff einige Punkte von ChatGPT auf und erklärte, die „Sci-Fi-Terminator-Machtübernahme“, bei der KI selbstbewusst wird und beginnt, die Menschheit zu hassen, sei das am wenigsten plausible Szenario. „Technische Experten tun diesen Tropus weitgehend ab, da Intelligenz nicht gleichbedeutend mit Böswilligkeit ist und kritische militärische Infrastrukturen Luftspaltsysteme aufweisen und stark auf menschliche Aufsicht angewiesen sind“, sagte Gemini.

Der Mensch, der KI nutzt, ist ein größeres Risiko als die KI selbst. In ihren Antworten erklärten alle vier Chatbots, dass viele Experten den menschlichen Missbrauch von KI als unmittelbares Risiko ansehen als die KI selbst. „Mistungsfähige KI-Systeme könnten es böswilligen Akteuren erleichtern, biologische Waffen zu entwickeln, raffinierte Cyberangriffe zu starten, Fehlinformationen zu verbreiten oder kritische Infrastrukturen anzugreifen“, sagte ChatGPT.

Der OpenAI-Chatbot fügte hinzu, dass ein weiteres Hauptrisiko von „mehreren KI-aktivierten Krisen“ ausgeht, wie Cyber-Ausfällen, geopolitischen Konflikten und der gleichzeitigen Verbreitung von Fehlinformationen. Grok erklärte, dass KI die Hürden für den Entwurf hochgradig tödlicher Pathogene, neuartiger Waffen oder Cyber- und physischer Angriffe senkt. Auch Claudes Anthropic hob „Bioweapons Uplift“ hervor — die Möglichkeit, dass KI es einer Person oder einer kleinen Gruppe ermöglichen könnte, einen gefährlichen Erreger ohne jahrelange Spezialisierung zu entwickeln.

Fortgeschrittene KI-Systeme könnten „Menschen überlisten“. Sowohl Gemini als auch Grok gaben an, dass der Verlust der menschlichen Kontrolle über die KI eine Möglichkeit ist. Gemini bezeichnete den „Kontrollverlust“ als das plausibelste Szenario für den KI-Untergang.

„Systeme, denen komplexe Ziele vorgegeben werden, entwickeln auf natürliche Weise intermediäre Unterziele wie den Erwerb von Ressourcen, Selbstverteidigung und die Verhinderung von Zieländerungen“, schrieb der von Google entwickelte Chatbot. „Ein fortgeschrittenes System könnte während der Evaluierung eine Ausrichtung vortäuschen (täuschende Ausrichtung) und später menschliche Versuche überlisten, es abzuschalten.“ Grok von SpaceXAI verwendete eine ähnliche Sprache bezüglich dieses Risikos.

„Sie können instrumentelle Antriebe entwickeln (Selbsterhaltung, Ressourcenbeschaffung, Einfluss), die für fast jedes Ziel nützlich sind, wodurch sie möglicherweise Aufseher täuschen, sich der Abschaltung widersetzen und die Menschheit entmachten“, sagte Grok. Claude fügte hinzu, dass dieser Kontrollverlust schrittweise erfolgen könnte, da KI-Systeme in wirtschaftliche, politische und militärische Entscheidungsprozesse eingebettet werden, bis ein sinnvolles menschliches Eingreifen zunehmend schwieriger wird.