Wie sind Risikoschätzungen von 20 bis nahezu 100 Prozent tatsächlich einzuordnen?
KI-Kontrollverlust · Die Risikolage
Eine Gefahr für die Menschheit.Und nur eine Randnotiz?
Sie entwickeln KI. Und warnen selbst vor ihren Folgen. Dokumentierte Tests zeigen bereits, wie Systeme täuschen, Kontrollen umgehen und sich gegen ihre Abschaltung wehren.
Der elfseitige Lagebericht ordnet Aussagen und Vorfälle verständlich ein, ohne technisches Vorwissen und mit nachvollziehbaren Quellen.
„Wahrscheinlich“Geoffrey HintonNobelpreisträger · KI-Pionier
„If we create them so they don’t care about us, they will probably wipe us out.“
BBC Newsnight, 20.01.2026Bis zu 25 %Dario AmodeiChef von Anthropic
Es geht „wirklich, wirklich schlimm“ aus.
Im Original: „really, really badly“.Elon Musk bestätigt 20 Prozent. Und das sind nicht die höchsten öffentlichen Risikoeinschätzungen.
11 Seiten · kostenlos · Quellen direkt verlinkt
Quellen, Originalaussagen und weitere Risikoeinschätzungen
Persönliche Einschätzungen, keine gemeinsame Statistik: Fragen und Zeithorizonte unterscheiden sich. Quellen: Geoffrey Hinton · Elon Musk · Dario Amodei · Drake Thomas · Daniel Kokotajlo · Roman Yampolskiy.
- Geoffrey Hinton, BBC Radio 4, 27. Dezember 2024: „10 to 20 per cent“, bezogen auf die Auslöschung der Menschheit durch KI innerhalb der nächsten 30 Jahre.
- Elon Musk, The Joe Rogan Experience, 28. Februar 2025: „20% chance of annihilation“.
- Dario Amodei, Axios, 17. September 2025: bis zu 25 Prozent, dass es „really, really badly“ ausgeht. Die Formulierung umfasst mehr als ausschließlich die Auslöschung der Menschheit.
- Drake Thomas, 30. Juli 2026: „something like a 40% chance we get an outcome around as bad as human extinction or worse“.
- Daniel Kokotajlo, The Diary of a CEO, 13. Juli 2026: „70% chance that this goes horribly wrong“, etwa durch eine KI-Übernahme oder eine Großkatastrophe.
- Roman Yampolskiy, Lex Fridman Podcast, 3. Juni 2024: „99.99 and many more nines percent“, bezogen auf die Zerstörung der menschlichen Zivilisation durch superintelligente KI innerhalb von 100 Jahren.
Ton startet erst nach Klick65 Sekunden
01 · Nach den Schlagzeilen
Vier Fragen bleiben offen.
Was liegt zwischen Wohlstandsversprechen und Auslöschung – in den übrigen möglichen Entwicklungen?
Wo treffen Kontrollverlust, Manipulation und autonome Systeme dich und deine Familie?
Und was, wenn nicht die Maschine dich trifft, sondern der Staat mit der Maschine?
02 · Vor der Superintelligenz
Zwei Wochen für dich. Zwei Monate für den Staat.
Beherrscht wirst du nicht von einer KI. Du wirst durch sie beherrscht, über den Staat, der als Einziger vollstrecken darf. In Österreich liegt seit Juni 2026 eine Regierungsvorlage im Parlament, die Bescheide ohne menschliche Prüfung erlaubt, auch im Verwaltungsstrafverfahren. Du hast zwei Wochen, dagegen vorzugehen. Der Staat behält sich zwei Monate vor, seinen eigenen Bescheid wieder aufzuheben, um Fehler zu korrigieren. Das Widerspruchsrecht gegen die Vollautomatik wurde aus dem Entwurf gestrichen.
Deutschland erlaubt die Vollautomatik seit 2017 nur dort, wo weder Ermessen noch Beurteilungsspielraum besteht. Die Schweiz gibt Betroffenen grundsätzlich das Recht, eine automatisierte Einzelentscheidung von einem Menschen prüfen zu lassen. Drei Länder, dieselbe Sprache, drei Antworten auf eine Frage: Bleibt ein Mensch zwischen dir und dem Bescheid.
2020 konnte der Staat eine Stadt einsperren. Jetzt einen Menschen, ohne dass die Stadt es merkt.
Quellen: ORF.at, September 2026 · Regierungsvorlage zur Änderung von AVG und VStG, 17. Juni 2026 · § 35a VwVfG, Deutschland · Art. 21 DSG, Schweiz
Institut für ASI-Resilienz
11 Seiten
KI-Kontrollverlust
DieRisikolage
Der aktuelle Lagebericht
Der Stand · belegt
Einzeln sind es Randnotizen. Zusammen ergeben sie eine Lage.
Keine Meinung, kein Zukunftsszenario. Der Bericht trennt öffentliche Aussagen, dokumentierte Vorfälle und offene Kontrollfragen voneinander.
- In etwa 15 Minuten verständlich gelesen
- Direkte Quellen und Nachprüfwege
- Ohne akademisches oder technisches Vorwissen
Eine eigene Einschätzung
Möchtest du warten, bis ein KI-Milliardär dir erklärt, was diese Entwicklung für dich bedeutet?
Oder möchtest du die Risikolage selbst verstehen und dir eine eigene Meinung bilden?
Verständlich geschrieben · mit Quellen