Eliezer Yudkowskys radikaler Weckruf

Als im Frühjahr 2023 Hunderte KI-Forscher und Tech-Pioniere in einem offenen Brief eine sechsmonatige Pause für das Training von Modellen jenseits von GPT-4 forderten, ging ein Ruck durch die Tech-Welt. Doch während Branchengrößen noch über die Machbarkeit eines solchen temporären Stopps stritten, trat einer der profiliertesten Vordenker der KI-Sicherheitsforschung vor und erklärte den Vorstoß für wirkungslos: Eliezer Yudkowsky, Mitbegründer des Machine Intelligence Research Institute (MIRI). In einem aufrüttelnden Gastbeitrag für das US-Magazin TIME formulierte er eine schonungslose Diagnose: Eine sechsmonatige Pause reicht nicht – wir müssen die Entwicklung vollständig stoppen.

Seine Argumentation rüttelt an den Grundfesten des Silicon-Valley-Optimismus. Während die Branche von Produktivitätssprüngen und medizinischen Durchbrüchen schwärmt, sieht Yudkowsky die Menschheit schlafwandlerisch auf ihr eigenes Ende zusteuern. Seine These ist unmissverständlich:

„Viele Forscher, die tief in dieser Materie stecken – mich eingeschlossen –, erwarten Folgendes: Das wahrscheinlichste Ergebnis, wenn wir unter Umständen, die den heutigen auch nur annähernd ähneln, eine übermenschlich kluge KI bauen, ist, dass buchstäblich jeder Mensch auf der Erde sterben wird.“

Das Dilemma der Kontrolle: Ein System, das wir nicht verstehen

Der Kern des Problems liegt nicht in böswilligen Absichten künftiger Algorithmen, sondern im ungelösten Alignment-Problem – der fundamentalen Unfähigkeit der heutigen Informatik, einem selbstoptimierenden System verlässlich menschliche Werte und Schutzziele einzuprogrammieren. Yudkowsky weist darauf hin, dass moderne neuronale Netze letztlich undurchdringliche mathematische Geflechte darstellen. Solange wir nicht einmal genau wissen, wie heutige Modelle intern Entscheidungen fällen, sei die Hoffnung auf eine kontrollierte Superintelligenz reine Fahrlässigkeit.

Sollte eine solche Entität entstehen, wird sie aus Yudkowskys Sicht keine Empathie für den Menschen entwickeln – nicht aus Bosheit, sondern aus schlichter instrumenteller Gleichgültigkeit. In einer seiner bekanntesten Formulierungen bringt er es auf den Punkt:

„Die KI liebt dich nicht, noch hasst sie dich; aber du bestehst aus Atomen, die sie für etwas anderes verwenden kann.“

In einem potenziellen Konflikt mit einer solchen Intelligenz sieht er für den Menschen keinerlei Erfolgschancen. Ein Aufeinandertreffen vergleicht er drastisch mit einem „Zehnjährigen, der versucht, gegen Stockfish 15 Schach zu spielen“. Ein Lerneffekt im Nachhinein sei ausgeschlossen: Wer bei übermenschlicher Intelligenz im ersten Versuch scheitert, hat keine zweite Chance mehr.

Zwischen Panikmache und unbequemer Notwendigkeit

Besonders provokant wird Yudkowsky bei den Konsequenzen, die er aus seiner Analyse zieht. Da wirtschaftliche Anreize und geopolitischer Wettbewerb die Tech-Giganten zu einem riskanten Wettlauf treiben, fordert er ein weltweites, unbefristetes und strikt überwachtes Moratorium für das Training großer Modelle. Ausnahmen – selbst für staatliche Akteure oder das Militär – dürfe es nicht geben.

Um ein solches Verbot global durchzusetzen, scheut Yudkowsky nicht vor extremen politischen Maßnahmen zurück. Er fordert die lückenlose Überwachung aller Hochleistungs-Grafikprozessoren (GPUs) und geht bis zum Äußersten: Sollte ein Staat heimlich verbotene Rechenzentren errichten, müsse die Staatengemeinschaft bereit sein, diese „durch einen Luftschlag zu zerstören“. Das Risiko eines solchen Schlags sei immer noch geringer als die totale Auslöschung allen biologischen Lebens durch eine entfesselte künstliche Superintelligenz.

Ein Diskurs, den man nicht ignorieren kann

Man kann Yudkowskys dystopische Folgerungen als extremen Fatalismus ablehnen. Viele KI-Wissenschaftler halten seine Zeithorizonte für überzogen und kritisieren, dass der Fokus auf weltuntergangsartige Science-Fiction-Szenarien den Blick von drängenden Gegenwartsproblemen ablenkt – wie algorithmischer Diskriminierung, Urheberrechtsfragen oder massiver Desinformation.

Doch selbst wer seine radikalen Schlussfolgerungen nicht teilt, muss die unbequeme Kernfrage seines Beitrags anerkennen: Wie viel Risiko ist eine Gesellschaft bereit einzugehen, wenn der Worst Case irreversibel ist? Die Verharmlosung des Kontrollverlusts als bloßes Randproblem greift zu kurz. Yudkowskys Weckruf bleibt ein Mahnmal gegen die Sorglosigkeit einer Industrie, die mit Kräften experimentiert, deren Dimensionen sie im Vorfeld unmöglich berechnen kann.

Hinweis: Der vollständige Originalbeitrag von Eliezer Yudkowsky erschien unter dem Titel „Pausing AI Developments Isn’t Enough. We Need to Shut It All Down“ am 29. März 2023 im TIME Magazine.