Belegblatt · Genfer Institut für ASI-Resilienz
Die Größenordnungen
21.09.2026 · Genfer Institut für ASI-Resilienz · gilt für Aufruf, Webseite, Video, Presse und Buch
Die Zahlen, vollständig
| Zahl | Wer | Wofür genau | Datum |
|---|---|---|---|
| < 1 % | Yann LeCun | Turing-Preisträger. Weit unwahrscheinlicher als ein Atomkrieg. Die prominenteste Gegenstimme. | laufend |
| 10–20 % | Geoffrey Hinton | Nobelpreisträger. Auslöschung der Menschheit binnen dreißig Jahren. August 2026 unverändert. | BBC, 27.12.2024 |
| 20 % | Elon Musk | Gründer von xAI. Auf Nachfrage, wie schlimm „something terrible“: „extinction of the world’s population“. Nachsatz: „but the glass is 80 % full.“ | Cannes, 19.06.2024 |
| 25 % | Dario Amodei | CEO Anthropic. Dass es „really, really badly“ ausgeht — ausdrücklich nicht Auslöschung. 2023: 10–25 % für eine zivilisatorische Katastrophe. | Axios, 17.09.2025 |
| 46 % | Paul Christiano | Miterfinder des Trainingsverfahrens, heute OpenAI-Stiftungsrat. Zukunft binnen zehn Jahren unumkehrbar verdorben. Einzige veröffentlichte Aufteilung. | 27.04.2023 |
| 15 % | Paul Christiano | Fortschreibung mit Kalender: katastrophaler, unumkehrbarer Kontrollverlust in drei Jahren; rund 4 % im nächsten Jahr. „If that happens then most people could die.“ | 09.09.2026 |
| 70 % | Daniel Kokotajlo | Ehemaliger OpenAI-Forscher. Katastrophe bis hin zur Auslöschung. | zuletzt CNN, 14.09.2026 |
| > 90 % | Max Tegmark | Physiker am MIT. Bei ungebremster Entwicklung. Die Primärquelle liegt uns nicht vor. | zu prüfen |
| über 99,9 % | Roman Yampolskiy | KI-Sicherheitsforscher. Höchstwert der öffentlichen Skala. Nennt je nach Interview Werte zwischen 99,9 und über 99,99 Prozent, gemeint ist: praktisch sicher. | Axios, 09.09.2026 |
Die Regel, ab sofort
- Nie mit zwanzig anfangen. Zwanzig ist der untere Rand der Skala der Erbauer, nicht ihre Mitte. Wer dort eröffnet und stehenbleibt, verharmlost — und liefert dem Kritiker den Einwand, man habe sich die kleinste Zahl ausgesucht.
- Immer die Spanne zeigen. Von unter einem Prozent bis über neunzig. Die Spanne ist der eigentliche Befund: Wenn ernsthafte Schätzungen um zwei Größenordnungen auseinanderliegen, gibt es keine Rechnung, nur Zahlen.
- Nie zwei Zahlen verrechnen, die verschiedene Ausgänge meinen. Hinton meint Auslöschung, Amodei „sehr schlecht“, Christiano eine unumkehrbar verdorbene Zukunft. Wer sie vermengt, macht den Fehler, den wir anprangern.
- Die Gegenstimme steht mit in der Tafel. LeCun gehört dazu. Eine Aufstellung ohne Gegenstimme ist eine Werbetafel, keine Lage.
Was geprüft wird, bevor es zu dir kommt
| Gegenstand | Prüfung vorher |
|---|---|
| Ein Medikament | 5.000–10.000 untersuchte Substanzen, neun in Versuche mit Menschen, eine erreicht den Markt. Über dreizehn Jahre, rund 2,3 Mrd. Dollar, letzte Phase mehrere tausend Patienten. Dossier ausgedruckt über 500.000 Seiten, Prüfung durch die europäische Behörde rund dreizehn Monate. |
| Ein Kernkraftwerk | Atomrechtliche Genehmigung. Seit 2002 ist die probabilistische Sicherheitsanalyse rechtlich verpflichtend — die Rechnung, die wir hier verlangen. |
| Ein KI-System der höchsten Risikoklasse | Anhang III Punkte 2 bis 8 der KI-Verordnung: Konformitätsbewertung „auf der Grundlage einer internen Kontrolle“, ein Verfahren, „das die Einschaltung einer notifizierten Stelle nicht vorsieht“. Der Hersteller prüft sich selbst. |
Quellen: vfa, „So entsteht ein neues Medikament“ · GRS, Probabilistische Sicherheitsanalyse · Verordnung (EU) 2024/1689, Artikel 43.
Zwei Fassungen für den Aufschlag
Variante A (gebaut und veröffentlicht): „Sie nennen Zahlen für die Auslöschung der Menschheit. In Interviews. Nebenbei.“ — Empörung auf dem Beiläufigen, führt in die Zahlentafel. Stärke: keine Behauptung, nur eine Beobachtung. Schwäche: nennt die Forderung spät.
Variante B: „Für eine Kopfschmerztablette: dreizehn Jahre. Für das hier: die Selbstauskunft des Herstellers.“ — Empörung auf dem Gefälle, führt in die Prüfungstafel. Stärke: verlangt keinen Glauben an eine Prognose, nur einen Vergleich zweier Regelwerke. Schwäche: die Auslöschung kommt erst im zweiten Schritt.
← Zurück zum Aufruf