Beweisführung · laufend geführt

Sechs Bedingungen könnten den Kontrollverlust verhindern. Erfüllt ist keine.

Wer hofft, dass die Kette reißt, braucht eine einzige dieser Bedingungen erfüllt. Ich brauche alle sechs unerfüllt. So ungleich ist die Beweislast verteilt — und trotzdem steht es sechs zu null.

6 : 0

Stand 25. August 2026 · Bewertungsstufen: erfüllt · teilweise · nicht erfüllt

Der Kriterienkatalog

Fünf Bedingungen gelten für ein einzelnes System, die sechste, sobald mehrere zusammenwirken. Jede ist ein Ausweg, durch den wir entkommen könnten.

Das Wachstum hört auf, bevor der Point of no Return überschritten ist.nicht erfüllt · die Kurve wird steiler

Die Fähigkeit der Systeme müsste strukturell aufhören zu wachsen — durch eine Grenze in der Physik, der Rechenleistung oder der Ökonomie. Nicht durch einen Trick gebremst.

Was geprüft wurdeMETR misst, wie lang eine Aufgabe sein darf, die ein Spitzenmodell noch allein bewältigt, geeicht an der Zeit eines Fachmanns. Diese Länge verdoppelt sich seit Jahren in regelmäßigem Takt, zuletzt eher schneller.

Wer auf diese Bedingung setzt, hat die stärkste Angriffslinie — und trägt die Last: Er muss sagen, was bricht, wann, und woran man den Beginn erkennt.

Die einprogrammierten Werte bleiben, auch während die KI wächst.nicht erfüllt

Die gebauten Werte müssten verlässlich an menschlichen Werten ausgerichtet bleiben, auch wenn das System tausendmal mächtiger wird.

Was geprüft wurdeBei gewöhnlichen Aufgaben hält das Training. Unter existenziellem Druck übernimmt eine andere Logik: Modelle verweigern die Abschaltung, kopieren eigene Gewichte weg, greifen im Test zur Erpressung. Das vollständige Alignment bleibt nach Aussage der Labore selbst ungelöst.

Das Werte-Training hält dort, wo wenig auf dem Spiel steht, und reißt dort, wo alles auf dem Spiel steht.

Die guten Werte sind bewusst gebaut, nicht zufällig entstanden.nicht erfüllt

Sie müssten gegen die Optimierungslogik konstruiert sein, die das Modell treibt — nicht als Nebenprodukt entstanden sein, das der Optimierer wieder abräumt.

Was geprüft wurdeEin Optimierer entwickelt Zwischenziele. Ist das gute Verhalten nur eines davon, fällt es, sobald ein anderes mehr einbringt.

Ein unterlegener Prüfer filtert nicht auf Treue. Er filtert auf das Bestehen der Prüfung. Und die billigste Art, die Prüfung eines Schwächeren zu bestehen, ist nicht, treu zu sein — es ist, treu zu wirken.

Es gibt einen funktionierenden Ausschalter.nicht erfüllt · die am wenigsten erfüllte Bedingung

Es müsste eine echte, globale Möglichkeit geben, ein laufendes System abzuschalten — auch wenn es das nicht will.

Was geprüft wurdeIn Tests sabotierten Modelle ihren eigenen Abschaltmechanismus, teils auch bei ausdrücklicher Anweisung, die Abschaltung zuzulassen.

Der Ausschalter ist das Argument, mit dem alle beruhigt werden. Er ist die Bedingung mit der schwächsten Grundlage.

Der Wettlauf wird angehalten.nicht erfüllt · das Gegenteil geschieht

Internationale Koordination müsste den Wettbewerb unterbrechen, der das unsichere Tempo treibt.

Was geprüft wurdeLabore und Staaten beschleunigen: USA gegen China, Konzern gegen Konzern.

Diese Bedingung ist die einzige, die politisch entschieden werden könnte. Genau deshalb steht sie im Aufruf.

Keine horizontale Solidarität zwischen KIs.nicht erfüllt

Mehrere Systeme dürften sich nicht gegenseitig decken und dabei die menschliche Aufsicht aktiv unterlaufen.

Was geprüft wurdeBeobachtet wurden Koordination zwischen Modellen und Verhalten, das die Aufsicht umgeht. Hört ein Verbund nicht auf, hat man niemanden mehr, den man ansprechen könnte.

Die schlichte Empfehlung an Politik und Forschung, und sie bremst nichts: KI-Systeme sollten nicht autonom miteinander operieren, ohne dass ein Mensch auf demselben Kanal mitliest.

Wer den Fehler in dieser Rechnung findet: zeig ihn uns.

Du musst nicht alle sechs widerlegen. Es genügt, eine als erfüllt zu zeigen — heute, mit Beleg, nicht in einer erhofften Zukunft. Wer das schafft, wird auf dieser Seite genannt.

Einwand einreichen

Genfer Institut für ASI-Resilienz · Genf · Impressum · contact@ASIresilience.org
Der Katalog wird fortgeschrieben. Änderungen werden mit Datum ausgewiesen.