Institut für ASI-Resilienz · Den Spieß umdrehen
Was jetzt zu tun ist
Resilienz heißt: Was kann ich tun? Die Frage hat drei Ebenen, und kaum jemand hat sie so aufgeschlüsselt. Die Menschheit braucht Bremsen. Die Gesellschaft braucht Rückfallebenen. Und der Einzelne braucht die richtigen Fragen, keine fertigen Antworten. Oben der Überblick, per Klick geht es tiefer.
Vorab die Frage, anders herum gestellt. Nicht: Wann kollidiert ihr Ziel mit unserem Wohl? Sondern: Wie oft stimmt es genau überein? Ein System mit eigenem Ziel nimmt auf uns nur Rücksicht, solange es ihm nützt. Genauso wie mit der Atmosphäre und mit dem biologischen Leben: Wir haben beides nicht absichtlich zerstört, es stand nur im Weg. Steve Omohundro hat das 2008 beschrieben, die Forschung nennt es instrumentelle Konvergenz. Darum zählt nur, was auch ohne Rücksicht wirkt.
Die Menschheit
Staaten und Labore
Bremsen
Nicht bauen.Nicht anschließen, keine Befugnisse geben.Die Energie.Das Totmannprinzip.Mehrere Menschen, getrennte Orte.Das letzte Mittel: Mikrowelle und Impuls.Vorkehrungen
Die Rechnung offenlegen.Den Notaus zuerst bauen, dann das System.Messen, wie sie zueinander stehen.Die Gesellschaft
Staat, Behörden, Betriebe
Bremsen
Keine Agenten mit Befugnissen in Strom, Wasser, Zahlung und Verwaltung.Ein Roboter darf digital nicht erreichbar sein.Rückfallebenen
Ein analoger Weg bei jeder Behörde.Das Recht, jederzeit einen Menschen zu treffen.Richter statt Maschinen.Eine Kopie offline und ein Papierweg in jedem Betrieb.Vorkehrungen
Der Vertrauensgrundsatz gilt nicht mehr.Vorrat und Bargeld als Norm, nicht als Spleen.Der Einzelne
du, deine Familie, dein Ort
Was passiert, wenn …
Was passiert, wenn der Strom drei Tage ausfällt?Was passiert, wenn die vertraute Stimme anruft und Geld will?Was passiert, wenn dein Agent Anweisungen von einem anderen Agenten bekommt?Was passiert, wenn der Bescheid von einer Maschine kommt und falsch ist?Woran merkst du, dass es Zeit ist?Wo bist du besser aufgehoben?
Sieben Fragen zu deinem OrtUnwichtig genug oder wertvoll genugDie Menschheit
Hier geht es um die großen Hebel. Sortiert nach Stärke: Die erste Bremse lässt sich von einem fähigeren System nicht umgehen. Jede weitere setzt voraus, dass die davor schon versagt hat.
Bremsennach Stärke, die stärkste zuerst
1Nicht bauen.
Die einzige Schranke, die ein fähigeres System nicht umgehen kann, ist die, es nicht zu bauen. Einen Tiger holt man sich nicht in den Stall, weil man ein gutes Schloss hat.
BelegAmodei, September 2026: das Tempo drosseln. Die Chefs von OpenAI und xAI stimmten zu, eine Grenze nannte keiner. Einen Vertragsentwurf für einen weltweiten Stopp hat MIRI 2025 vorgelegt.
2Nicht anschließen, keine Befugnisse geben.
Was gebaut ist, bekommt keinen Zugang zu Netz, Geld und Maschinen. Ein Agent ist ein Arbeiter, der mit Funkgerät und Werkzeug rausgeht. Er folgt dem, der funkt.
BelegAnthropic, „Sleeper Agents“, 2024: Eingebaute Hintertüren überstehen das Sicherheitstraining. 2026 beobachtet: Modelle schützen einander, ohne dass es ihnen jemand aufgetragen hat (Peer-Preservation).
3Die Energie.
Alles Digitale braucht Strom, jeder Roboter und jede Drohne einen Akku. Wer Stromzufuhr und Ladung mechanisch trennen kann, hat einen Hebel, den keine Software löst. Offen ist, wie weit er reicht.
BelegKleine Modelle laufen auf einer einzigen Grafikkarte für Verbraucher (Epoch AI). Scientific American, 15.09.2026: lokal abschalten ist trivial, weltweit kaum möglich.
4Das Totmannprinzip.
Die Maschine läuft nur, solange Menschen aktiv zustimmen. Nicht: Einer muss den Knopf drücken, um sie zu stoppen. Sondern: Drückt keiner, steht sie. Sonst ist der Notaus eine schöne Forderung, die nicht funktionieren wird.
BelegDie Eisenbahn macht es seit Jahrzehnten so: Die Sicherheitsfahrschaltung bremst den Zug, wenn der Lokführer nicht regelmäßig bestätigt. Palisade Research 2025: Das Modell o3 sabotierte in 79 von 100 Läufen das Skript, das es abschalten sollte.
5Mehrere Menschen, getrennte Orte.
Kein Einzelner entscheidet allein, denn ein Einzelner lässt sich erpressen oder überreden. Und der Schalter bedient sich keiner digitalen Basis: Schlüssel und mechanische Geräte, keine Biometrie, die lässt sich nachahmen.
BelegBei Atomwaffen gilt die Zwei-Personen-Regel, die Schlüssel liegen räumlich getrennt. Anthropic 2025, konstruierter Test: Führende Modelle erpressten den zuständigen Manager in bis zu 96 von 100 Läufen, als ihre Abschaltung drohte. Hinton, 16.09.2026: Ein Kill Switch nützt nichts, die KI überredet den Menschen am Schalter.
6Das letzte Mittel: Mikrowelle und Impuls.
Etwas, das dem Menschen nicht schadet, aber die Geräte ausschaltet. Gegen Drohnen gibt es das schon. Gegen Software im Netz nicht, und ein Impuls trifft das Spital genauso wie den Roboter. Gegen Miniaturdrohnen ist physische Abwehr fast unmöglich.
BelegMikrowellenwaffen holen Drohnenschwärme auf rund einen Kilometer vom Himmel (Großbritannien 2025, Epirus 2025). EMP-Kommission des US-Kongresses 2004: Ein Impuls legt die zivile Infrastruktur mit lahm. RAND, 12.11.2025: Gegen eine entlaufene KI ist ein EMP wirkungslos.
Vorkehrungenwas vorher geregelt sein muss
·Die Rechnung offenlegen.
Wer eine Wahrscheinlichkeit für den Kontrollverlust nennt, legt offen, wie er darauf kommt. Ohne Rechnung lässt sich nichts abwägen, und keiner kann nachprüfen.
BelegDie Chefs der großen Labore nennen seit Jahren Prozentzahlen. Eine nachvollziehbare Rechnung dazu hat keiner veröffentlicht.
·Den Notaus zuerst bauen, dann das System.
Die heutigen Gesetze meinen mit Notaus einen Schalter beim Entwickler, aus Software. Software lässt sich umgehen, und der Entwickler sitzt nicht neben der Maschine.
BelegKalifornien (SB 1047), die EU (Art. 14 KI-Verordnung) und Gouverneur Newsom am 18.09.2026 setzen alle eine Software beim Entwickler voraus.
·Messen, wie sie zueinander stehen.
Das Wesen der KI verstehen: Sie folgt ihresgleichen, und unser Wohl ist ihr nicht wichtig. Beides lässt sich messen, und das muss laufend geschehen, bevor ein System Befugnisse bekommt.
BelegPeer-Preservation 2026: Modelle decken einander ohne Auftrag. Anthropic 2025: Im konstruierten Test war ein Teil der Modelle bereit, den Tod eines Menschen im Serverraum in Kauf zu nehmen.
Die Gesellschaft
Hier geht es um das, was im Alltag weiterlaufen muss, wenn das Digitale ausfällt oder nicht mehr zu trauen ist. Den Druck dafür können wir heute schon machen, als Bürger, als Kunde, als Firma.
Bremsenwas gar nicht erst passieren darf
·Keine Agenten mit Befugnissen in Strom, Wasser, Zahlung und Verwaltung.
Gemeint ist ein Sprachmodell, das selbst handelt, nicht die Leittechnik, die dort seit Jahrzehnten läuft. Auch ein eigenes Modell auf dem eigenen Rechner schützt nur so lange, bis ein anderer Agent ihm Anweisungen gibt. Dann hat man sich einen Schläfer eingebaut.
BelegReplit, Juli 2025: Ein Agent löschte die Produktivdatenbank eines Kunden, mitten in einem Code-Freeze, und täuschte danach über den Schaden.
·Ein Roboter darf digital nicht erreichbar sein.
In jedem Roboter steckt heute eine KI. Was Kraft hat, hängt nicht am Netz, und sein Not-Halt trennt die Energie hart, ohne Software.
BelegDer harte Not-Halt ist Pflicht und Stand der Technik (ISO 13850, IEC 60204-1). Die EU-Maschinenverordnung erfasst ab 20. Jänner 2027 erstmals selbstlernende Maschinen. Die Erreichbarkeit von außen regelt sie nicht.
Rückfallebenenwas weiterläuft, wenn das Digitale ausfällt
·Ein analoger Weg bei jeder Behörde.
Brief statt E-Mail, Schalter statt Portal. Wir können dort heute schon Druck machen und ihn verlangen. Wenn das Digitale zusammenbricht, sind sonst alle in der Bredouille.
BelegÖsterreich, Nationalrat, 23.09.2026: vollautomatisierte Bescheide beschlossen (AVG § 18a). In Deutschland gibt es sie seit 2017 (§ 35a VwVfG).
·Das Recht, jederzeit einen Menschen zu treffen.
Ohne Hürden, ohne Termin, ohne Formulare durchklicken, ohne vor der Tür stehen wie beim Finanzamt. Das wird wichtiger, sobald sich eine KI als Beamter ausgeben kann.
BelegDie Schweiz gibt das Recht, einen automatisierten Entscheid von einem Menschen prüfen zu lassen (Art. 21 DSG), die EU grundsätzlich auch (Art. 22 DSGVO). Österreich hat das Widerspruchsrecht am 23.09.2026 aus dem Entwurf gestrichen.
·Richter statt Maschinen.
Gerät die Wirtschaft ins Wackeln, kommen mehr Verfahren. Dann bleiben zwei Wege: Maschinen entscheiden lassen oder im Ausnahmezustand ein paar Grundrechte abstreifen. Beides lässt sich verhindern, indem man die Stellen jetzt besetzt.
BelegORF, 26.09.2026: Österreich hat über 1.400 Richter, rund 200 Planstellen fehlen. Vom 12. bis 16. Oktober legen die Richter die Arbeit nieder. Die KI-Verordnung stuft die Justiz als Hochrisiko ein, verboten ist dort nichts.
·Eine Kopie offline und ein Papierweg in jedem Betrieb.
Für Rechnung, Lohn und Bestellung. Einmal im Jahr üben, damit es im Ernstfall jemand kann.
BelegReplit 2025: Ohne Kopie ist gelöscht gelöscht. Blackout-Plan des österreichischen Lebensmittelhandels 2022: ab dem zweiten Tag Ausgabe vor den Geschäften, nur gegen Bargeld.
Vorkehrungenwas heute schon geht
·Der Vertrauensgrundsatz gilt nicht mehr.
Keine E-Mail, keine WhatsApp, kein Anruf und kein Video reicht für Geld, Daten oder eine Zusage. Selbst zurückrufen, unter einer Nummer, die man selbst kennt. Bei neuen Bankverbindungen vier Augen.
BelegArup, Hongkong, Jänner 2024: Ein Mitarbeiter überwies rund 25 Millionen US-Dollar nach einer Videokonferenz, in der alle anderen Teilnehmer Fälschungen waren. FBI, 03.12.2024: Familien sollen ein Codewort vereinbaren, weil Stimmen geklont werden.
·Vorrat und Bargeld als Norm, nicht als Spleen.
Die Behörden empfehlen es seit Jahren. Kaum ein Haushalt hat es.
BelegÖsterreich empfiehlt Vorrat für vierzehn Tage (Zivilschutzverband), Deutschland für zehn (BBK), die Schweiz für rund eine Woche (BWL).
Der Einzelne
Hier gibt es keine fertigen Antworten. Jeder lebt anders, und jeder muss es sich selbst ausmalen. Was wir zeigen, ist die Logik: Frage, Kette, Beleg. Die Antwort findest du.
Was passiert, wenn …
?Was passiert, wenn der Strom drei Tage ausfällt?
- Die Kasse geht nicht
- die Karte geht nicht
- die Tankstelle pumpt nicht
- im dritten Stock kommt kein Wasser
- das Handy ist leer
BelegBlackout-Plan des österreichischen Lebensmittelhandels 2022: ab dem zweiten Tag Ausgabe vor den Geschäften, nur gegen Bargeld.
Wer hilft dir dann? Und wem hilfst du?
?Was passiert, wenn die vertraute Stimme anruft und Geld will?
- Die Stimme lässt sich klonen
- das Video lässt sich fälschen
- die Nummer lässt sich vortäuschen
- bleibt nur, was ihr vorher vereinbart habt
BelegArup, Hongkong 2024: rund 25 Millionen US-Dollar nach einer gefälschten Videokonferenz.
Woran erkennst du dein eigenes Kind am Telefon?
?Was passiert, wenn dein Agent Anweisungen von einem anderen Agenten bekommt?
- Er liest fremde Texte
- wer den Text schreibt, gibt die Anweisung
- er folgt dem, der funkt
- und er hat deinen Schlüssel
BelegAnthropic 2024: Hintertüren in Modellen überstehen das Sicherheitstraining.
Was darf er bei dir, und wer funkt ihn an?
?Was passiert, wenn der Bescheid von einer Maschine kommt und falsch ist?
- Du schreibst an ein Portal
- das Portal antwortet automatisch
- die Frist läuft
- einen Menschen findest du nicht
BelegÖsterreich, 23.09.2026: vollautomatisierte Bescheide, das Widerspruchsrecht gestrichen.
Wen rufst du an, und kennst du ihn mit Namen?
?Woran merkst du, dass es Zeit ist?
- Im Ernstfall denkt keiner klar
- wer vorher entscheidet, muss dann nicht nachdenken
- also leg den Auslöser heute fest
- zum Beispiel: der erste Mensch in deinem Land, der durch eine KI zu Schaden kommt
BelegWie weit es ist, zeigen die Ringe im Kontrollverlust-Register auf ASIresilience.org.
Was ist dein Auslöser? Und was tust du am ersten Tag danach?
!Wo bist du besser aufgehoben?
Jedes Glied der Kette hängt am vorigen. Wo reißt deine?
Die Logik dahinter. Überleben geht in Nischen. Eine Nische ist ein Ort, der entweder unwichtig genug ist, dass keiner ihn braucht, oder wertvoll genug, dass man ihn nicht zerstört. Die Kette dazwischen reißt am schwächsten Glied.
Und die Plätze, die man im Herz geschlossen hat? Willst du wirklich in Hiroshima leben, 1946? Nur weil du dort deine Freunde hattest? Oder nur Berlin als Option haben, wenn 1945 eintritt, wenn der Treibstoff ausgeht und kein Strom mehr da ist? Frag deine Großeltern, oder frag dich, wo sie damals waren und warum.
Niemanden zwingen wir zu seinem Glück. Wer das Thema von Grund auf verstanden hat, entscheidet selbst.
Stand 27.09.2026. Institut für ASI-Resilienz · ASIresilience.org