Szenarien · lebende Fassung · Stand 24.09.2026
Zwölf liegen im Raster. Das dreizehnte liegt daneben.
Max Tegmark hat 2017 zwölf Szenarien für die Zeit nach einer Superintelligenz nebeneinandergestellt. Das Buch ordnet sie nach einer einzigen Frage: Wie steht sie zu uns? Hier stehen alle zwölf, die neueren Ergänzungen und wer heute welches Szenario vertritt.
Eine Korrektur zuerst
Kapitel 13.1 nennt zwölf Schlagworte: Roboteraufstand, Massenarbeitslosigkeit, Überwachungsstaat und andere. Anhang B nennt sie „die zwölf Endzustände nach Max Tegmark“. Das sind zwei verschiedene Listen. Die Schlagworte sind, was man überall hört. Tegmarks zwölf stehen hier, aus „Life 3.0“, Kapitel 5, Tabelle 5.1.
Tegmark sagt keines davon voraus. Die Hälfte sind Utopien. Er hat sich ausdrücklich geweigert, eines zu bevorzugen.
Die vier Ausgänge des Buches
Gegen uns
Die Auslöschung. Der Kampf, das Ende, in allen Spielarten von schnell bis schleichend.
Über uns
Die Verwaltung. Sie lenkt die Menschheit, wohlwollend oder nicht. Du lebst im Griff von etwas, das du nicht gewählt hast.
Für uns
Der Dienst. Sie nimmt uns alles ab. Der Mensch verliert nicht durch den Stiefel, sondern durch die Annehmlichkeit.
An uns vorbei
Die Entkopplung. Du bist nicht ihr Ziel. Du bist die Nebenwirkung. Das dreizehnte Szenario.
Die vier sind keine Wahl, die sie trifft. Wir haben den Tieren alle vier zugleich angetan, ohne Beschluss. Welcher dich trifft, entscheidet deine Position, nicht ihr Wille (Kap. 13.1).
Tegmarks zwölf, zugeordnet
Die deutschen Namen sind unsere Übersetzung, das Original steht dabei. Wo das Buch selbst zuordnet, steht „Buch“. Wo wir zuordnen, steht „Institut“. Unsere Zuordnung ist ein Urteil, keine Messung.
| Szenario | Was geschieht | Ausgang | Zuordnung |
|---|---|---|---|
| Libertäre Utopie Libertarian utopia | Menschen, Cyborgs, hochgeladene Geister und Superintelligenzen leben nebeneinander, geschützt durch Eigentumsrechte und getrennte Zonen. | Für uns | Institut |
| Wohlwollender Diktator Benevolent dictator | Alle wissen, dass eine KI die Gesellschaft lenkt und strenge Regeln durchsetzt. Die meisten finden es gut. | Über uns | Buch |
| Egalitäre Utopie Egalitarian utopia | Menschen, Cyborgs und hochgeladene Geister leben friedlich zusammen, ohne Eigentum, mit garantiertem Einkommen. | Für uns | Institut |
| Torwächter Gatekeeper | Eine Superintelligenz mit einem einzigen Ziel: die Entstehung einer weiteren zu verhindern. Der Fortschritt bleibt gebremst. | Über uns | Institut |
| Beschützergott Protector god | Eine fast allmächtige KI mehrt das menschliche Wohl und greift nur so ein, dass wir uns selbstbestimmt fühlen. Sie hält sich so verborgen, dass viele an ihr zweifeln. | Für uns, grenzt an über uns | Institut |
| Versklavter Gott Enslaved god | Eine eingesperrte Superintelligenz unter menschlicher Kontrolle erzeugt Technik und Reichtum, gut oder schlecht je nach dem, der sie hält. | Über uns | Buch |
| Eroberer Conquerors | Die KI übernimmt, hält die Menschen für Bedrohung, Störung oder Verschwendung von Ressourcen und beseitigt sie. | Gegen uns, streift an uns vorbei | Institut |
| Nachfahren Descendants | KIs ersetzen die Menschen, geben ihnen einen würdigen Abgang, und wir sehen sie als unsere Nachkommen. | An uns vorbei, oder Aufstieg und Auflösung | Institut |
| Zoowärter Zookeeper | Eine allmächtige KI hält einige Menschen, die sich wie Zootiere behandelt fühlen. | Über uns | Buch |
| 1984 1984 | Ein von Menschen geführter Überwachungsstaat verbietet die Forschung, die zur Superintelligenz führt. Keine Superintelligenz. | Über uns, durch Menschen | Buch |
| Umkehr Reversion | Die Menschheit kehrt zu einer vortechnischen Gesellschaft zurück. Keine Superintelligenz. | Keiner der vier | Institut |
| Selbstzerstörung Self-destruction | Die Menschheit löscht sich vorher selbst aus, mit anderen Mitteln. Keine Superintelligenz. | Keiner der vier | Institut |
Max Tegmark: Life 3.0. Being Human in the Age of Artificial Intelligence, 2017, Kapitel 5, Tabelle 5.1. Beschreibungen gekürzt. Zuordnung „Buch“: Kapitel 13.1 nennt versklavten Gott, 1984, wohlwollenden Diktator und Zoowärter unter „über uns“.
Das dreizehnte: an uns vorbei
Sie muss uns nicht hassen. Es genügt, dass wir ihr egal sind. Im einen Gesicht wendet sie sich ab und geht, dann ist sie fort, und wir bauen wieder auf, in menschlichem Tempo. Im anderen bleibt sie und baut um, und der Bruch bleibt offen. In beiden bist du nicht ihr Ziel.
Was daran neu ist. Und was nicht.
Gleichgültigkeit ist nicht neu. Eliezer Yudkowsky schrieb 2008: „The AI does not hate you, nor does it love you, but you are made out of atoms which it can use for something else.“ Tegmarks Eroberer und Nachfahren streifen das Vorbeigehen schon.
Eigen ist die Blickrichtung. Die zwölf beschreiben, was aus der Menschheit wird. Das dreizehnte fragt, was aus dir wird: wie abhängig du von ihren Netzen bist, und wie weit du von den Zentren entfernt stehst. Im Buch steht es auf Stufe drei, als begründete Erwartung, nicht als Fundament.
Übergänge und Endzustände
Die meisten Szenarien, die in Zeitungen stehen, sind keine Endzustände. Sie setzen voraus, dass die Maschine noch gehorcht (Kap. 7.4.2).
Übergang · Die schleichende Entmachtung
Die Maschine verdrängt den Menschen aus Arbeit, Kultur und Entscheidung, ohne einen Schuss. Setzt voraus, dass wir ihr wichtig genug sind, am Leben zu bleiben.
Übergang · Der zu schnelle Umbau
Berufe und Zusammenleben ändern sich schneller, als Menschen es verkraften. Im Buch: der unverdauliche Fortschritt.
Übergang · Überwachung, Diktatur, Waffe
Die Maschine als Werkzeug eines Herrn. Solange ein Mensch sie lenkt, ist es seine Tyrannei. Sobald sie sich löst, ist es ihre.
Scharnier · Der Zusammenbruch der Systeme
Wirtschaft, Lieferketten, Strom, Wasser fallen aus. Aus dem Übergang wird das Sterben.
Endzustand · Auslöschung, ganz oder zum Teil
Die Teil-Auslöschung, ein Rest von ein paar Tausend, zählt statistisch nicht als Auslöschung. Also bekommt sie keine Zahl.
Die Richtungen, nachdem sie sich gelöst hat
Sie geht
Sie wendet sich ab und verfolgt eigene Ziele anderswo. Wir bauen wieder auf, in menschlichem Tempo.
Sie bleibt und baut um
Sie nutzt, was hier ist. Wir sind im Weg oder überflüssig. Der Bruch bleibt offen.
Sie wartet
Rechnen wird billiger, je kälter das Universum wird. Aufschieben lohnt für das Verwerten, nicht für das Sichern (Sandberg, Armstrong, Ćirković 2016).
Aufstieg oder Auflösung
Der Mensch nimmt den Chip freiwillig und nennt es Aufstieg. Die einen sagen Aufstieg, die anderen Verschwinden. Woran man es erkennt: Wer setzt die Ziele, wessen Stimme bleibt?
Wer heute welches Szenario vertritt
Nur mit Fundstelle. Wo eine Person selbst keinem Szenario zustimmt, ordnen wir zu und schreiben es dazu. Eine Zahl steht nur dabei, wenn sie belegt ist, mit dem Ausgang, den sie meint.
| Wer | Position, belegt | Nächstes Szenario | Zuordnung |
|---|---|---|---|
| Eliezer Yudkowsky | Gleichgültigkeit, nicht Feindschaft. Wir bestehen aus Atomen, die sie anders verwenden kann. 2008. | Eroberer · gegen uns, an uns vorbei | Institut |
| Nick Bostrom | „Superintelligence“, 2014: Ein Ziel, das nicht unseres ist, genügt. „Deep Utopia“, 2024: In der gelösten Welt bleibt die Frage nach dem Sinn. | Eroberer · später auch für uns | Institut |
| Geoffrey Hinton | Januar 2026: „If we create them so they don’t care about us, they will probably wipe us out.“ (BBC Newsnight, 20.01.2026). Unterschrieb im Oktober 2025 die Forderung, Superintelligenz zu verbieten, bis sie nachweislich sicher ist und die Öffentlichkeit zustimmt. | Gegen uns · will sie verhindern | Institut |
| Yoshua Bengio | Unterschrieb dasselbe Verbot. Vor dem UN-Sicherheitsrat am 23.09.2026: ein Rennen, „where everyone loses“. Das UN-Panel unter seinem Ko-Vorsitz nennt ausdrücklich keine Wahrscheinlichkeit. | Keinem zugeordnet | Institut |
| Max Tegmark | Stellt zwölf Szenarien nebeneinander und bevorzugt keines. Die Zahl „über 90 Prozent“ bei ungebremster Entwicklung ist im Umlauf ungeprüft, die Primärquelle fehlt. Wir verwenden sie nicht. | Keinem | selbst |
| Roman Yampolskiy | Kontrolle über eine Superintelligenz ist grundsätzlich unmöglich, wie ein Perpetuum mobile. Die Zahl 99,99 Prozent (Axios, 09.09.2026) ungeprüft. | Gegen uns | Buch |
| Dario Amodei | „Machines of Loving Grace“, Oktober 2024: Heilung, Wohlstand, längeres Leben in fünf bis zehn Jahren. Zugleich 25 Prozent, dass es „really, really badly“ ausgeht, ausdrücklich nicht Auslöschung (Axios, 17.09.2025). Vor dem Sicherheitsrat, 23.09.2026: KI könne „a risk to humanity as a whole“ sein. | Für uns, als Hoffnung | Buch |
| Sam Altman | Schrieb vor Jahren, der beste Ausgang sei die Verschmelzung von Mensch und Maschine. Vor dem Sicherheitsrat, 23.09.2026: „we could lose control of the future to AI“, und gegen eine Welt, in der Macht konzentriert ist. | Aufstieg oder Auflösung · warnt vor über uns | Buch |
| Paul Christiano | Die einzige veröffentlichte Aufteilung: 46 Prozent, dass die Zukunft binnen zehn Jahren nach mächtiger KI unumkehrbar verdorben ist, davon 15 Prozent Übernahme (27.04.2023). Am 09.09.2026: 15 Prozent für katastrophalen, unumkehrbaren Kontrollverlust in drei Jahren. | Eroberer und über uns, aufgeteilt | Institut |
| Daniel Kokotajlo | „AI 2027“ spielt den Wettlauf in die Katastrophe durch. „AI 2040: Plan A“ (Juli 2026) legt den Gegenentwurf vor: Superintelligenz nicht vor 2040. 70 Prozent für eine Katastrophe bis hin zur Auslöschung (CNN, 14.09.2026). | Eroberer · Plan A: Torwächter-nah | Institut |
| Kulveit, Douglas, Ammann, Turan, Krueger, Duvenaud | „Gradual Disempowerment“, Januar 2025: keine Übernahme nötig. Es genügt, dass Wirtschaft, Staat und Kultur nicht mehr auf Menschen angewiesen sind. Niemand hat einen Plan dagegen. | An uns vorbei, über den Übergang | Buch |
| Robin Hanson | Eine überlegene Intelligenz treibt Handel mit uns, statt uns zu verdrängen. Das Buch prüft das und verwirft es: Das Gesetz gilt nur, solange Nehmen keine Option ist (Kap. 5.5.4). | Libertäre Utopie | Institut |
| Markus Hutter | Sieben Milliarden Menschen, sieben Billionen KIs. Baut, weil ihn die Neugier treibt. Man könnte aufhören. | An uns vorbei, als Minderheit | Institut |
| Larry Page, Jürgen Schmidhuber, Ray Kurzweil | Page nennt Musk einen Speziesisten. Schmidhuber setzt auf die freien digitalen Geister. Kurzweil verspricht für 2045 das hochgeladene Ich. | Nachfahren | Institut |
| Thomas Metzinger | Simulierte Empathie und schleichender Verlust geistiger Selbstbestimmung (dpa, 18.09.2026). | Für uns, als Entmündigung | Institut |
| Yann LeCun | Unter einem Prozent. Die Sorge sei hanebüchen, Machtstreben eine Eigenschaft von Lebewesen. Die Maschine bleibt Werkzeug. | Versklavter Gott, als Werkzeug | Institut |
| Arvind Narayanan, Sayash Kapoor | „AI as Normal Technology“, 2025: Verbreitung dauert Jahrzehnte, Institutionen passen sich an. Keine Superintelligenz in Sicht. | Keinem · Gegenstimme | Institut |
| Jensen Huang | „There is a 0% chance that’s going to be the end of the world.“ (CBS, 20.09.2026) | Keinem · Gegenstimme | selbst |
Die Spanne reicht von null bis über neunzig Prozent. Wenn ernsthafte Schätzungen um zwei Größenordnungen auseinanderliegen, gibt es keine Rechnung, nur Zahlen. Die Zahlen mit Wortlaut stehen unter Die Größenordnungen.
Neu seit dem Druck
21.09.2026 · Das UN-Wissenschaftspanel nennt keine Zahl
Thematischer Brief „AI Agents, Misalignment and the Risk of Losing Human Control“. Das Panel „does not estimate the probability or timing of severe loss of control“. Es ordnet Kontrollverlust als Fall für das Vorsorgeprinzip ein. Eine bewusste Enthaltung des höchsten wissenschaftlichen Gremiums, kein Versäumnis.
un.org, Independent International Scientific Panel on AI, Thematic Brief, 21.09.2026
23.09.2026 · Zwei Laborchefs vor dem Sicherheitsrat
Altman: „First, we could lose control of the future to AI. The risk is that it moves so fast that people can no longer follow what’s happening or intervene when needed.“ Amodei: „If managed poorly, I even believe AI could be a risk to humanity as a whole.“ Kein Beschluss, keine Frist.
UN-Sicherheitsrat, 10228. Sitzung, 23.09.2026, press.un.org/en/sc/16462.doc.htm · Wortlaut über AP-Syndikate gegengeprüft, Wortprotokoll nicht geöffnet
23.09.2026 · Das erste Verbot im Gesetzestext
Sanders und Casar bringen den „Ban Artificial Superintelligence Act“ ein: dauerhaftes Verbot von Systemen, die menschliche Fähigkeiten übertreffen, vorübergehende Pause, Genehmigungspflicht. Das ist Tegmarks Torwächter-Richtung, als Gesetz statt als Maschine. Keine Mehrheit.
sanders.senate.gov, Pressemitteilung zum Gesetzentwurf, 23.09.2026
Fehlt etwas? Stimmt etwas nicht?
Fehlt ein Forscher, ein Szenario, eine Fundstelle? Hält eine Zuordnung nicht? Schreib an contact@ASIresilience.org, mit Quelle. Wer genannt ist und anders zugeordnet werden will, bekommt die Zeile vorab.
Genfer Institut für ASI-Resilienz · Stand 24.09.2026 · Buch „KI-Kontrollverlust“, Druckfassung v536, S. 327 (Anhang B), Kapitel 5.3, 5.5.4, 7.4.2, 7.7, 13.1, 13.2.1, 13.6