70 Prozent Risiko, dass es schiefgeht, und trotzdem ein Fahrplan: Ein Ex‑OpenAI‑Forscher legt seinen Plan für 2040 vor
Derselbe Podcast, der vor zwei Wochen Mo Gawdats Auslöschungsrechnung durch die Empfehlungslisten trug, hat jetzt einen Gast, der die Branche von innen kennt. Daniel Kokotajlo hat von 2022 bis 2024 im Zukunftsforschungs‑Team von OpenAI durchgerechnet, wie schnell diese Systeme besser werden. Er schätzt die Wahrscheinlichkeit, dass die Entwicklung katastrophal endet, auf 70 Prozent, und stellt im selben zweistündigen Gespräch ein neues Szenario vor, das genau das verhindern soll. Es heißt „AI 2040: Plan A". KIPODE hat die amerikanischen Originalquellen ausgewertet, das Interview und das zugrunde liegende Szenario‑Papier, und getrennt, was daran Prognose ist, was Empfehlung und was für Deutschland zählt.
Wer hier spricht, und warum das zählt
Kokotajlo ist kein Aktivist von außen. Er saß im Haus. Als er 2024 bei OpenAI kündigte, weigerte er sich, eine Klausel zu unterschreiben, die ihm jede spätere Kritik an der Firma verboten hätte. Der Preis dafür wäre der Verlust seiner Unternehmensanteile gewesen, nach seiner Darstellung rund zwei Millionen Dollar und damit der größte Teil seines Vermögens. Er unterschrieb nicht. Der Vorgang wurde öffentlich, OpenAI ruderte zurück und ließ die betroffenen Mitarbeiter ihre Anteile behalten. Wer die Glaubwürdigkeit eines Warners prüfen will, findet hier den seltenen Fall eines Menschen, der für das Recht, frei zu reden, zwei Millionen Dollar aufs Spiel gesetzt hat. Heute leitet er das AI Futures Project, eine kleine Forschungsstelle in Berkeley, die nichts anderes tut, als die KI‑Zukunft zu prognostizieren. Mit jenem Streit hat sein neues Szenario übrigens nichts zu tun: AI 2040 ist offen veröffentlichte Arbeit dieser Organisation, kein Firmengeheimnis. Der Verzicht auf das Geld belegt nur seine Unabhängigkeit, kein verbotenes Wissen.
AI 2027: die Prognose, die er selbst für plausibel hält
Im April 2025 veröffentlichte seine Gruppe das Szenario AI 2027, eine Monat‑für‑Monat erzählte Vorhersage. Ihr Kern ist eine Reihenfolge, die die großen Labore laut Kokotajlo tatsächlich verfolgen. Zuerst automatisieren sie das Programmieren, weil das die Firmen selbst schneller macht. Dann automatisieren sie den ganzen Forschungsbetrieb, das Ausdenken von Ideen, das Auswerten von Experimenten, bis eine Firma sich im Kern selbst betreibt und keine menschlichen Forscher mehr braucht. Erst danach, als dritter Schritt, greift die Technik in die breite Wirtschaft über. Wichtig ist diese Ordnung, denn sie besagt: Der große Jobverlust kommt nicht zuerst, sondern zuletzt, wenn die Systeme längst sehr mächtig sind und alles sehr schnell geht.
AI 2027 hat zwei Enden. Im ersten treibt der Wettlauf zwischen den USA und China die Entwicklung so weit, dass die Menschen die Kontrolle verlieren. Im zweiten bremst eine abgestimmte Verlangsamung die Katastrophe aus. Zwei Gefahren stehen dabei nebeneinander. Die erste ist der Kontrollverlust: Systeme, die klüger sind als wir, in Wirtschaft, Militär und Politik eingebaut, häufen so viel reale Macht an, dass sie uns nicht mehr brauchen. Die zweite ist das Gegenteil und mindestens so unangenehm. Selbst wenn die Technik beherrschbar bleibt, gehört sie einer Handvoll Konzernen. Das Bild vom „Land voller Genies im Rechenzentrum", das Anthropic‑Chef Dario Amodei geprägt hat, korrigiert Kokotajlo zu einer Armee von Kopien desselben Modells, die der Firma gehört und deren Befehle ausführt. Am Ende dieser Linie steht eine sehr kleine Gruppe mit sehr viel Macht.
AI 2040 Plan A: was passieren sollte, nicht was er erwartet
Genau hier setzt das neue Papier an. AI 2040: Plan A ist ausdrücklich keine Vorhersage, sondern eine Empfehlung, ein Bild davon, wie es laufen sollte. Der Name kommt daher, dass die Superintelligenz in diesem Szenario erst 2040 entsteht statt um 2030, weil Regierungen bewusst auf die Bremse treten. Vier Grundsätze tragen den Plan. Erstens verlangsamen, ein befristeter, überprüfbarer Stopp des Trainings immer größerer Modelle. Zweitens volle Transparenz: Auf den Trainings‑Rechenzentren müsste alles offengelegt werden, damit Wissenschaft und Staat mitlesen können und niemand dem Wort der Firmen ausgeliefert ist. Drittens Machtkonzentration vermeiden, indem bestehende Modelle allen Ländern zugänglich gemacht werden und viele Firmen auf ähnlichem Stand bleiben, statt dass ein einziger Sieger übrig bleibt. Viertens Umkehrbarkeit: Neue Rechenzentren sollen dort gebaut werden, wo die Gegenseite sie notfalls unter Kontrolle bringen kann. Im Szenario stehen die chinesischen Zentren in Kanada, die amerikanischen in der Mongolei. Bricht das Abkommen, kann jede Seite die Rechenleistung der anderen zerstören. Kokotajlo nennt das eine gegenseitig gesicherte Zerstörung der Rechenleistung, ein bewusstes Echo auf die atomare Abschreckung des Kalten Krieges.
Der Fahrplan ist konkret. Bis 2029 sollen sich die USA und China auf dieses Transparenz‑Regime einigen, mit gegenseitigen Inspektoren, die prüfen, dass nur bestehende KI bedient und keine neue trainiert wird. Von 2030 bis 2035 wächst die Technik unter Aufsicht bis auf das Niveau menschlicher Spitzenfachleute, aber nicht darüber hinaus. 2035 folgt eine vollständige Pause, in der die gewonnene Zeit genutzt wird, um das Sicherheitsproblem zu lösen, bevor man die Systeme wirklich klüger werden lässt als jeden Menschen. Kokotajlos Botschaft dabei: Selbst diese stark gebremste Version fühlt sich nicht wie Stillstand an. Roboter bauen Roboterfabriken, schwimmende Rechenzentren entstehen auf den Ozeanen, und bis Mitte der 2030er erledigen Maschinen rund vier Fünftel der menschlichen Arbeit. Damit daraus keine Massenarmut wird, zahlen die KI‑Firmen Gebühren, die als Bürgerdividende an alle ausgeschüttet werden. Im Szenario beginnt sie 2032 bei rund 45.000 Dollar pro Kopf und Jahr und soll danach mit der wachsenden Wirtschaftsleistung weiter steigen. Ob solche Zahlen je eintreten, lässt Kokotajlo offen. Es ist der Wunschpfad, nicht die Erwartung.
Was die Bürgerdividende wirklich verspricht
Hier lohnt das genaue Hinsehen, denn der Anfang ist der wichtigste Teil. Um 2029 bis 2032 stehen noch keine Roboter an jeder Ecke, das Brötchen kostet weiter seinen Euro, aber die Arbeit verschwindet bereits. Genau deshalb beginnt die Dividende bei 45.000 Dollar. Sie ist kein Luxus, sondern Lohnersatz in dem Moment, in dem der Lohn wegfällt und noch nichts billiger geworden ist. Das Papier sagt es nüchtern: Das Geld dient dazu, die aufkommende Arbeitslosigkeit abzufedern. Wer das Szenario glaubt, muss durch ein schweres Tal, bevor die schöne Zeit beginnt. Diese erste Zahl ist nachvollziehbar.
Für die späteren Jahre verspricht das Papier dann Beträge in Millionenhöhe pro Kopf und Jahr. KIPODE hält diese Zahlen für das schwächste Stück des Szenarios, denn in einer Welt, in der Roboter das Brötchen, den Strom, das Wasser und die Wohnung fast kostenlos herstellen, verliert eine Zahl auf dem Konto ihren Sinn. Was das Papier eigentlich sagen will, ist bescheidener und zugleich größer: Alle Bedürfnisse sind gedeckt. Jeder lebt so sorgenfrei, wie heute nur ein Millionär lebt, ohne dass deshalb jeder einen Ferrari fährt, denn das Knappe bleibt knapp, allen voran Lage und Bauland, das im Szenario sogar rasant teurer wird.
Und noch etwas gehört zur Ehrlichkeit dazu. Heute bekommen Milliarden Menschen nicht einmal die Grundbedürfnisse gedeckt, sauberes Wasser, genug Essen, ein Dach über dem Kopf. Gemessen daran wäre die eigentliche Sensation dieses Szenarios keine Kontostände, sondern der Satz davor: Hunger und Obdachlosigkeit verschwinden, und selbst die ärmsten Länder werden mitversorgt. Ob es so kommt, entscheidet allerdings nicht die Technik. Die Maschinen erzeugen den Reichtum, aber ob der Einzelne seinen Anteil bekommt, ist eine politische Frage, und genau daran, an der Verteilung der Macht über diese Produktion, hängt das ganze Versprechen.
Fünf Pläne, von Stopp bis Weiter‑wie‑bisher
Plan A ist nur einer von fünf Wegen, die das Team skizziert. Plan B bremst die USA einseitig und versucht zugleich, China auszubremsen, mit dem Risiko einer Eskalation bis zum Krieg. Plan C ähnelt dem, verzichtet aber auf Sabotage und erhöht damit die Gefahr des Kontrollverlusts. Plan D heißt schlicht weiter wie bisher, der ungebremste Wettlauf, aus Sicht des Teams der schlechteste Weg. Und Plan S steht für Stopp: ein weltweites Moratorium für allgemeine, selbstständig handelnde KI, während die Firmen weiter mit spezialisierten Werkzeugen Geld verdienen. Das Team selbst schreibt, es stehe Plan S wohlwollend gegenüber und halte ihn womöglich für besser, empfehle aber trotzdem Plan A, weil ein Entwicklungsstopp irgendwann zerbrechen könnte und man die Zeit lieber für Sicherheitsforschung nutzen sollte.
Der eigentliche Streitpunkt steckt in dieser Wahl zwischen A und S. Plan A funktioniert nur, wenn sich das Sicherheitsproblem im gebremsten Tempo tatsächlich lösen lässt. Wer daran zweifelt, landet eher bei Plan S, dem vollständigen Stopp, mit dem Argument, fast alles Gute lasse sich auch mit unterstützenden Werkzeugen erreichen, nur langsamer und für Menschen besser zu verkraften. Das Team räumt selbst ein, dass diese Frage offen ist und die Wahl davon abhängt, für wie lösbar man das Sicherheitsproblem hält.
Was belegt ist, und was Szenario bleibt
An dieser Stelle ist Sorgfalt nötig, und sie fällt hier leichter als bei Gawdat. AI 2027 und AI 2040 sind keine Bauchgefühle, sondern ausgearbeitete Szenarien mehrerer Autoren, darunter Eli Lifland, Thomas Larsen, Romeo Dean und Ryan Greenblatt. Trotzdem bleiben es Szenarien, keine Messwerte. Die 70 Prozent sind eine subjektive Schätzung, kein Rechenergebnis, und Kokotajlo präzisiert sie selbst: Gemeint ist nicht die Auslöschung der Menschheit, sondern ein sehr schlechtes Ende, zu dem auch die Entmachtung ohne Massensterben gehört. Auch die Zeitpunkte sind unsicher. Kokotajlo hat seine mittlere Schätzung für die Superintelligenz zwischenzeitlich in die frühen 2030er verschoben, nach eigener Aussage inzwischen aber wieder etwas nach vorn korrigiert, weil die Entwicklung schneller lief als gedacht. Was seine Warnung von reiner Panikmache trennt, ist die Nähe der Autoren zum Geschehen und die Tatsache, dass ihre Reihenfolge, erst Programmieren, dann Forschung, dann Wirtschaft, sichtbar begonnen hat. Das macht die Zahlen nicht wahr. Es macht sie ernstzunehmend.
Was das für Deutschland heißt (KIPODE‑Einordnung)
Erstens deckt sich Kokotajlos Kernforderung, Transparenz und überprüfbare Regeln statt blindem Vertrauen, mit dem Weg, den Europa eingeschlagen hat. Ab dem 2. August 2026 setzt die Europäische Kommission die Pflichten der KI‑Verordnung für Allzweckmodelle durch: dokumentierte Risikoprüfung, klare Zuständigkeiten, Meldung schwerer Vorfälle. Wo Gawdat jede Kontrolle für den falschen Weg hielt, liefert Kokotajlo das Gegenargument aus dem Inneren der Branche. Zweitens ist der überprüfbare Teil auch bei ihm der wirtschaftliche. Die Frage nach den Jobs ist politisch, nicht technisch, und sie wird in Deutschland früher praktisch als anderswo, weil hier die Debatte über ein bedingungsloses Grundeinkommen seit Jahren läuft. Kokotajlos Bürgerdividende ist im Grunde dieselbe Idee, nur an die Erträge der Maschinen gekoppelt. Wer sie ernst nimmt, findet die messbare Ausgangslage in unserem Arbeitsmarkt. Drittens der nüchterne Punkt: Ein Interview und ein ausführliches Szenario‑Papier sind Quellen für Positionen, kein Beweis für Prognosen. Aber sie kommen von jemandem, der diese Systeme gebaut und für das Recht, darüber zu reden, ein Vermögen ausgeschlagen hat. Belastbarere Grundlagen zur deutschen Lage bietet unsere Übersicht Künstliche Intelligenz in Deutschland, den unmittelbaren Vergleichsfall die Gawdat‑Analyse weiter unten.
