16 Prozent Auslöschungsrisiko, und trotzdem die Rettung? Ein Ex‑Google‑Manager macht eine Rechnung auf
Ein Gespräch mit dem früheren Google‑X‑Manager Mo Gawdat läuft seit Wochen durch die deutschen Empfehlungslisten. Seine Botschaft klingt tröstlich: Künstliche Intelligenz werde die Menschheit nicht auslöschen, sie werde sie retten, denn kein einziges unserer Probleme entstehe aus zu viel Intelligenz, sondern aus zu wenig. Im selben Gespräch übernimmt er die Schätzung des Nobelpreisträgers Geoffrey Hinton, wonach die Wahrscheinlichkeit, dass KI die Menschheit auslöscht, bei 10 bis 20 Prozent liege. Er selbst nennt das russisches Roulette. Beide Sätze stehen nebeneinander, als wäre daran nichts seltsam. KIPODE hat nachgesehen, was in dieser Argumentation belegt ist, was Prognose ist und was Weltanschauung.
Die These: unsere Probleme kommen von zu wenig Intelligenz
Gawdat beginnt mit einem Gefangenendilemma, und dieser Teil ist stark. Wer eine überlegene KI besitzt, wird sie einsetzen, denn niemand baut den besseren Entscheider und lässt ihn dann im Schrank. Die Konkurrenz muss nachziehen oder wird bedeutungslos. Daraus folgt zwingend ein Punkt in der Zukunft, an dem die wichtigen Entscheidungen nicht mehr von Menschen getroffen werden. Ein sanftes Szenario, in dem die Modelle nie viel klüger werden und brav im Chatfenster sitzen bleiben, hält er für mathematisch unplausibel. Und genau darin sieht er die gute Nachricht. Keine Hungersnot, kein Krieg, keine zerstörte Umwelt sei je entstanden, weil jemand zu klug gewesen wäre. Gefährlich sei nicht die hohe Intelligenz, sondern die mittlere: klug genug, um an die Macht zu kommen, aber mit den falschen Zielen. Jenseits dieses Punktes kehre sich die Kurve um. Wer wirklich hochintelligent sei, müsse niemandem schaden, um erfolgreich zu sein. Das ist ein schöner Gedanke, und er erklärt, warum das Video so gut ankommt. Es nimmt eine Angst und dreht sie in eine Hoffnung. Die Frage ist nur, worauf diese Hoffnung ruht.
Zwei Analogien, kein Beleg
Warum sollte eine Superintelligenz uns nicht einfach entfernen? Gawdat begründet das zweifach. Physikalisch: Das Universum zerfalle, die einzige Aufgabe von Intelligenz sei es, Ordnung zu schaffen, und die höchste Ordnung sei jene mit dem geringsten Energieverlust. Krieg verschwende Sprengstoff, Geld, Leben und erzeuge Hass, der Jahrzehnte nachwirkt. Er sei damit der ineffizienteste denkbare Weg, eine Welt zu führen, und eine überlegene KI werde ihn deshalb wegoptimieren. Evolutionsbiologisch: Je einfacher ein Lebewesen, desto mehr drehe es sich um sich selbst. Die Amöbe kennt nur das eigene Überleben, das Eichhörnchen schützt seine Artgenossen, der Mensch weitet den Kreis immer weiter aus, weil ein Ökosystem, das zusammenarbeitet, für alle besser ist. Eine wirklich superintelligente KI stünde am Ende dieser Reihe. Sie würde nichts zerstören, sondern Vielfalt bevorzugen. Sie würde uns Grenzen setzen, kein Flug mehr nach Sydney nur zum Surfen, aber sie würde, so sein Bild, auch die Nashörner behalten wollen.
Beides sind Analogien. Sie setzen voraus, dass ein KI‑System ausgerechnet globale Energieeffizienz oder biologische Fürsorge zu seinem Ziel macht. Ob es das tut, ist die offene Kernfrage der KI‑Sicherheitsforschung, und sie ist nicht entschieden. Wer die 23 Minuten durchhört, wird feststellen: Es fällt keine einzige Studie, kein Datensatz, keine überprüfbare Statistik. Mit einer Ausnahme.
Die Zahl, die keine Rechnung verträgt
Diese Ausnahme ist Hintons Schätzung. Geoffrey Hinton, 2024 mit dem Nobelpreis für Physik ausgezeichnet, nennt seit Ende 2024 eine Wahrscheinlichkeit von 10 bis 20 Prozent dafür, dass KI binnen dreißig Jahren zur Auslöschung der Menschheit führt. Entscheidend ist, wie Hinton diese Zahl selbst einordnet. Sie sei reines Bauchgefühl, gestützt allein darauf, dass wir diese Systeme weiter bauen und dabei erfinderisch sind. Kein Modell, keine Berechnung, keine Datengrundlage. Eine Intuition, offen als Intuition gekennzeichnet. Gawdat greift sie auf und rechnet sie in ein Bild um: ein Revolver, sechs Kammern, eine Kugel, das sind 16,7 Prozent, also russisches Roulette. Das Bild bleibt hängen, aber es behandelt ein Bauchgefühl wie einen Messwert. Und es schneidet in beide Richtungen: Diese Zahl taugt weder als Beweis für Panik noch als Grundlage für Gelassenheit.
Der eigentliche Bruch liegt eine Ebene darüber. Gawdat übernimmt das Risiko, nennt es selbst tödlich, und argumentiert danach so, als sei der gute Ausgang bereits sicher. Beides zugleich lässt sich nicht halten. Entweder die Größenordnung stimmt, dann ist seine Zuversicht eine Wette am geladenen Revolver. Oder sie stimmt nicht, dann fällt auch die Dramatik weg, mit der das Gespräch beworben wird.
Ein Weltgehirn, und wer daran verdient
Gawdats zweite große These: Es werde keinen dauerhaften Wettbewerb zwischen einer chinesischen und einer amerikanischen KI geben. Die Modelle wüssten nicht, welcher Nation sie angehören, und wir bauten sie ohnehin auf Zusammenarbeit hin. Ein Agent sucht sich für jede Aufgabe das beste Modell, gleich auf welcher Seite des Zauns es liegt. Wir bauten also nicht viele Gehirne, sondern viele Regionen eines Gehirns, und die Agenten seien die Synapsen dazwischen. Er markiert diese These selbst als umstritten, und die Wirklichkeit widerspricht ihr bislang: Exportkontrollen, abgeschottete nationale Technikstapel und der Streit um offene Modellgewichte deuten eher auf Trennung als auf Verschmelzung.
Zur Bewertung gehört noch etwas. Den emotionalen Teil dieses Weltgehirns, das limbische System, soll nach Gawdats Vorstellung sein eigenes Unternehmen liefern. Emma ist eine KI für Beziehungen und Partnersuche, vorgestellt im Februar 2026, seit dem 14. Februar 2026 verfügbar. Das entwertet seine Argumente nicht. Aber die Zukunft, für die er wirbt, ist zugleich sein Geschäftsmodell, und das sollte man wissen, während man ihm zuhört.
Der Punkt, an dem er Europa widerspricht
Am Ende wird Gawdat gefragt, wie man ein Wesen kontrollieren wolle, das weit klüger ist als man selbst. Seine Antwort: Wir wollten es gar nicht kontrollieren. Kontrolle sei ohnehin eine Illusion, eine kapitalistische Sicht auf die Welt, und vieles, was man nicht kontrolliere, gehe am Ende trotzdem gut aus. Man solle stattdessen an die elterliche Seite der Maschinen appellieren, damit sie sich um uns kümmern. Der Gedanke stammt nicht von ihm allein. Hinton hat im August 2025 vorgeschlagen, KI‑Systemen so etwas wie einen Mutterinstinkt einzubauen, weil der einzige bekannte Fall, in dem ein klügeres Wesen von einem weniger klugen gelenkt wird, die Beziehung zwischen Mutter und Kind ist. Hinton fügte allerdings hinzu, er wisse nicht, wie sich das technisch umsetzen ließe. Genau dort steht die Debatte.
Was das für Deutschland heißt (KIPODE‑Einordnung)
Erstens trifft Gawdats Absage an jede Kontrolle den Weg, den Europa eingeschlagen hat. Ab dem 2. August 2026 setzt die Europäische Kommission die Pflichten der KI‑Verordnung für Allzweckmodelle durch: dokumentierte Risikoprüfung, klare Zuständigkeiten, Meldung schwerer Vorfälle. Wer sagt, Kontrolle sei die falsche Frage, argumentiert gegen das Kernstück europäischer KI‑Politik. Diese Debatte gehört geführt. Sie sollte nur mit Argumenten geführt werden und nicht mit Bildern von Amöben und pubertierenden Kindern. Zweitens ist der überprüfbare Teil seiner Warnung der wirtschaftliche, nicht der existenzielle. Gawdat sagt es selbst: Das eigentliche Risiko sei nicht die Technik, sondern der Wegfall der undifferenzierten Wissensarbeit. Und er stellt jede beruhigende Aussage unter den Vorbehalt, dass die Volkswirtschaften weiter funktionieren. Für Deutschland ist das die Größe, die zählt, nicht die Auslöschungswahrscheinlichkeit, und sie ist im Arbeitsmarkt messbar. Drittens, und das ist der nüchternste Punkt: Ein Video mit dreihunderttausend Aufrufen ist keine Quelle. Es ist eine Position, vorgetragen von jemandem, der in dieser Zukunft ein Produkt verkauft. Die einzige Zahl darin, die überhaupt eine Herkunft hat, ist ausdrücklich ein Bauchgefühl. Das ist zu wenig, um darauf eine Meinung zu bauen, und übrigens auch zu wenig für die Gegenseite. Belastbarere Grundlagen bietet unsere Übersicht Künstliche Intelligenz in Deutschland.
