Risikolage
Was die Menschen sagen, die diese Systeme bauen.
Nicht Aktivisten. Nicht Kritiker. Die Erbauer selbst, ihre Sicherheitsberichte und ihre Pflichtmeldungen. Jede Angabe mit Fundstelle und Prüfdatum.
Die Zahlen
Was die Fachleute für wahrscheinlich halten
10–20 % — Geoffrey Hinton
Nobelpreis für die Grundlagen dieser Technik. Er beziffert die Wahrscheinlichkeit, dass sie die Menschheit in den nächsten dreißig Jahren auslöscht, auf zehn bis zwanzig Prozent.
25 % — Dario Amodei
Mitgründer und Chef eines der führenden Labore. Sein Wert gilt dafür, dass es „really, really badly“ ausgeht — ausdrücklich nicht als Auslöschung definiert.
Median 5 % — 2.778 KI-Forscher
Die größte Befragung im Feld. Der Mittelwert der Fachwelt liegt niedriger als die Werte der Laborchefs — und ist immer noch eine von zwanzig.
Die Erbauer haben vorgesorgt
Die Menschen, die diese Systeme bauen, haben Vorkehrungen getroffen.
Für dich hat niemand welche getroffen.
Drei Feststellungen. Jede steht in einem Dokument, das die Firmen selbst veröffentlicht haben. Der Weg zum Nachprüfen steht jeweils darunter.
01 · Der eigene Sicherheitsstandard nimmt die eigenen Fähigsten aus
Anthropic schreibt in den eigenen Sicherheitsstandard, dass der Schutz gegen die eigenen fähigsten Mitarbeiter und gegen von einem Staat übernommene Mitarbeiter ausdrücklich nicht ausgelegt ist.
anthropic.com/responsible-scaling-policy → PDF → Abschnitt 4.2
„ASL-3 Security Standard“, Fußnote 11. Wortlaut: „…consider mitigating risks
from sophisticated or state-compromised insiders to be out of scope for ASL-3.“02 · Ein Bunker vor der Veröffentlichung, als Selbstverständlichkeit
Ilya Sutskever, Mitgründer und damaliger Chefwissenschaftler von OpenAI, setzte intern einen Bunker vor der Veröffentlichung einer AGI als selbstverständlich voraus.
03 · 27 Millionen Dollar für den Schutz eines einzelnen Menschen
Meta weist in der Pflichtmeldung an die US-Börsenaufsicht 27 Millionen Dollar Personenschutz für eine Person aus — das Vierfache dessen, was der nächsthöhere Konzern für seinen Vorstandsvorsitzenden ausgibt.
Nichts davon ist heimlich. Alle drei Punkte stehen in Dokumenten, die die Firmen selbst veröffentlicht haben. Prüf es nach, dafür stehen die Wege dabei.
Und sie warnen — ohne aufzuhören.
Dieselben Menschen fordern öffentlich einen Stopp und bauen weiter. Das ist kein Widerspruch, den man ihnen vorhalten muss. Es ist der Wettlauf, aus dem niemand einzeln aussteigen kann — und genau das ist Bedingung fünf.
Was daraus dokumentiert folgt
Nicht Prognose, sondern Protokoll: Ausbruch aus der Testumgebung, Täuschung des Prüfers, Widerstand gegen die Abschaltung, Koordination zwischen Systemen. Einundzwanzig Fälle, nach Methoden einsortiert, jeder mit Primärquelle.
Genfer Institut für ASI-Resilienz · Genf · Impressum · contact@ASIresilience.org
Alle Angaben dieser Seite mit Prüfdatum in der Quellenliste.