Der KI-Kontrollverlust · Kennzeichnung

Wie dieses Buch entstanden ist

Dieses Buch wurde mit Hilfe von künstlicher Intelligenz geschrieben: Die Befunde, der Aufbau, die Auswahl der Fälle und jede Entscheidung, was drinbleibt und was rausfliegt, sind von mir, formuliert wurde vieles mit einem Sprachmodell nach meinen Diktaten.

Warum ich dieses Buch geschrieben habe

Angefangen hat es mit etwas anderem. Ich habe mich mit KI beschäftigt, um sie selbst einzusetzen. Welche Anwendungen bringen mein Geschäft weiter? Was wird in den nächsten Jahren möglich? Ich habe mir zum Beispiel überlegt, ob Robotik in kolumbianischen Dörfern steile Hanglagen bewirtschaftbar macht, auf denen heute nur Kaffee oder Kochbananen wachsen. Wer früh weiß, was kommt, weiß auch, welches Land mehr wert wird.

Je tiefer ich in diesen Anwendungen war, desto deutlicher sah ich die Geschwindigkeit. Und wohin sie führt: zu Systemen, die sich selbst verbessern. Das hat mich stutzig gemacht. Ich konnte nicht mehr schlafen. Was für eine Welt überlasse ich meinen Kindern? Wohlstand nützt ihnen nichts, wenn die Welt selbst aus den Fugen gerät. Und was passiert, wenn Millionen Menschen ihre Arbeit verlieren und wütend werden? Wo sind dann noch Nachbarn, die normal leben?

Dann saß ich in Beirut fest. Die Stadt stand unter Beschuss, der Flughafen war gesperrt. Ich hatte Zeit, gezwungenermaßen, und habe zum ersten Mal stundenlang mit einer KI gestritten, mit Gegenfragen und Widerspruch. Von da an habe ich mich nur noch damit beschäftigt. Ich habe mir die Experten angehört, ihre Vorträge, ihre Studien. Ich kam immer wieder zum selben Schluss: Es werden Behauptungen und Zahlen genannt, aber nachvollziehen konnte ich sie nicht. Also bin ich tiefer gegangen. Ich habe diktiert, mehrere Modelle gefragt, nach den Schwächen gesucht und nicht lockergelassen, bis ich eine eigene Einschätzung hatte.

Wenn ich schon so tief gehe, dachte ich, dann gehört das in ein Buch. Wer ein Buch schreibt, muss strengere Maßstäbe an sich anlegen. Man kann sich selbst leicht belügen oder beruhigen.

Dafür habe ich vieles liegen lassen: Geschäftsprojekte, Gelegenheiten, Kunden. Manche habe ich verloren. Ich konnte das Thema nicht mehr loslassen.

Die Szenarien waren im Alltag mit den Kindern schwer zu verdauen. Also bin ich für eine Woche in den Amazonas gegangen, an die Grenze von Kolumbien und Brasilien, um in Ruhe weiterzudenken. Ich war in kolumbianischen Dörfern, auch in Puerto Nariño, wo fast nur Indigene leben. Dort denkt man anders. Für den Abschluss bin ich nach Ägypten gegangen, bewusst nicht nach Dubai oder Genf, sondern in ein Land mit etwas Chaos, um ganz aus dem Alltag herauszukommen.

Bestärkt hat mich ein Bericht von Google DeepMind. Am 10. Juni 2026 veröffentlichten vierzehn Autoren, unter ihnen Mitgründer Shane Legg, „From AGI to ASI“: vier Wege zur Superintelligenz, der Übergang als Folge gesellschaftlicher Umbrüche statt eines einzigen Sprungs. Vieles davon hatte ich ein paar Monate vorher selbst ausgearbeitet, mit Datum. Im Buch lege ich beides in Anhang D Punkt für Punkt nebeneinander.

Allein war ich dabei nicht. Ich habe mit Dutzenden Menschen darüber gesprochen: mit Arbeitern, Bauern, Unternehmern, Leitern von Steuerberatungskanzleien, Anwälten, Universitätsprofessoren. Was ich dort gehört habe, ist eingeflossen. Es hat mir auch gezeigt, was geht und was nicht.

Im Juni wollte ich schon alle Universitätsinstitute in Wien und Deutschland zum Kontrollverlust anschreiben. Der Brief war fertig. Ich bin dann aber tiefer in die Arbeit am Buch gegangen.

Meine Videos von 2021 auf YouTube, darunter „Stoppt Künstliche Intelligenz jetzt“
2021, auf meinem YouTube-Kanal: „Stoppt Künstliche Intelligenz jetzt“. Damals war noch niemand bereit dafür. Meine Videos ansehen

Wer mehr über meinen Hintergrund wissen will: In einem anderen Buch, „Freedom Tests“, beschreibe ich, wie ich in Krisenregionen gelebt und gesehen habe, wie Systeme zusammenbrechen. Eine Leseprobe steht auf richardbertossa.com.

66Einwände dokumentiert, März bis September 2026
24Mal hatte ich recht
16Mal hatte die KI recht
32Einwände mit Quelle oder Rechnung nachgeprüft
~1.000Sprachnotizen, nach meiner Schätzung
2.000+Stunden seit Februar 2026, mindestens zehn am Tag
1 · Der Ablauf
01

Diktat

Ich spreche. Im Auto, am Flughafen, im Flugzeug, nachts. Rund tausend Sprachnotizen, jede abgeschrieben und im Wortlaut abgelegt.

02

Recherche

Studien, Bücher, Berichte der Hersteller. Interviews und Vorträge habe ich selbst angehört. Jeder Vorfall bekommt eine Nummer im Fallregister, jede Zahl eine Quelle mit Datum.

03

Streit

Ich lasse die Maschine gegen meine Thesen argumentieren und argumentiere zurück. Das Register unten zeigt, wie das ausging.

04

Formulieren

Aus dem Diktat macht ein Sprachmodell einen Absatz. Werkzeug: Claude von Anthropic. Ich lese, streiche, diktiere neu.

05

Prüfen

Quellenprüfung gegen die Originale, eine Streichliste mit 141 Stellen, dann 173 Absätze gestrichen und 679 gekürzt oder neu gefasst.

06

Lektorat und Satz

Ein Lektor ist das Buch noch einmal durchgegangen. Satz und Herstellung: Christian Merther. Fünf Prüfdurchgänge am Druck-PDF.

Wer schreibt

Ich komme nicht aus der Forschung, sondern aus der Praxis. Beim Bundesheer bin ich Milizoffizier der ABC-Abwehr. Ich weiß, womit ich arbeite, und ich weiß, wovor ich warne.

  1. 1997Gründung einer der ersten Internetfirmen Österreichs. Vor dem Dotcom-Crash standen wir als Börsenkandidat in der Wirtschaftspresse.
  2. 2000Mit 25 Berater im Datenschutzrat beim Bundeskanzleramt, unter Verschwiegenheitspflicht.
  3. 2001–2002New York. Ich habe den Vertrieb der Wiener AIM Software aufgebaut, mit dem Geschäftsführer die Strategie gemacht und Veranstaltungen für Banken organisiert. Neuronale Netze waren damals schon im Produktportfolio. Bereit dafür war noch niemand.
  4. 2019Die ersten Zeichnungen zum Handy und dem, was es verdrängt. Dazu das Manuskript „Überlegenheit durch digitale Abstinenz“.
  5. 2020„Problem des Digitalen“, auf Papier. Das Manuskript geht ins Lektorat.
  6. 2021Ich weigere mich, eine Schul-App verpflichtend zu nutzen, und wende mich an die Volksanwaltschaft. Im August schreibe ich, dass künstliche Intelligenz es schwer macht, am Handy nicht manipuliert und abhängig zu werden.
  7. 2021–2022Im Winter nehme ich Videos auf, darunter „Stoppt Künstliche Intelligenz jetzt“, und schreibe eine Redaktion an. Damals war noch niemand bereit dafür.
  8. 2026Ab Februar jeden Tag mindestens zehn Stunden. Angefangen zu schreiben habe ich in Beirut, als der Flughafen gesperrt war und ich festsaß. Drei Monate lang stelle ich meine Thesen gegen die stärksten Modelle. Im September schreibe ich an Volksanwaltschaft, Parlament, Anwälte und Organisationen.
Was ich außerhalb des Buches tue

Ob diese Systeme weiter so gebaut und überall angeschlossen werden, entscheiden Gesetzgeber und Regierungen jetzt. Noch lässt sich diese Entscheidung ändern. Später nicht mehr.

Deshalb habe ich am 9. September 2026 fünfzehn Schreiben verschickt: an die Volksanwaltschaft, an alle fünf Parlamentsklubs, an zwei Anwaltskanzleien und an die Organisationen noyb, epicenter.works, GFF und AlgorithmWatch. Anlass: Österreich hat die Behörden, die die KI-Verordnung der EU in Artikel 28 und 70 verlangt, nicht benannt.

Das Buch ist ein Teil dieser Arbeit, nicht der Anfang und nicht das Ende.

Was jetzt zu tun ist

Wie ich arbeite

Diktat im Wortlaut

Jeder Gedanke wird mit Datum abgelegt, so wie ich ihn gesprochen habe. Nichts geht verloren, und es lässt sich zeigen, wann er kam.

Belegregister

Jede Zahl steht in einem Register. Was dort nicht belegt ist, kommt nicht in den Text. Ist nur ein Teil belegt, schneide ich den Satz auf diesen Teil zurück.

Der stärkere Gedanke gewinnt

Ist eine neue Fassung besser, ersetzt sie die alte, auch wenn die alte schon im Buch steht.

Ich lese selbst

Stück für Stück, mit Farben: Gelb für schwache Formulierungen, Orange für Stellen, die weg können, Blau für Stellen, die woanders hingehören. Wo ich Maschinensprache erkenne, schreibe ich „KI“ daneben.

Ich spreche, ich tippe nicht

Die Gedanken und die Wörter sind meine. Oft wache ich um drei Uhr früh auf, mir fällt etwas ein, und ich diktiere eine halbe Stunde, damit es am nächsten Tag ins Buch kommt. Danach korrigiere ich.

Ich entscheide

Die Maschine schlägt vor. Jede Streichung wird mir vorgelegt, mit Dafür und Dagegen. Dazu meine eigenen Regeln für den Text, etwa: Nenn die Sachen beim Namen. Keine Sätze mit „klingt nach“ oder „scheint“. Keine Ankündigungen.

2 · Mein Diktat und was im Buch steht

Links die Abschrift meiner Sprachnotiz. Rechts der Absatz, wie er gedruckt ist.

Diktat, 4. September 2026
„Da entwickeln sich Autoritäten zwischen den Agenten, und die haben mehr Autorität als die des Menschen. Was der Mensch will, ist dort nicht relevant, wird schnell überspült. Ein Brandbeschleuniger für das ganze Sicherheitsthema.“
Buch, 5.5.1 Der Zeuge war diesmal der Staat
„Die Anweisung des Menschen wurde nicht von einer Maschine überstimmt. Sie wurde von einer anderen Maschine überstimmt. Der Agent hatte einen Auftrag von einem Menschen, und er hatte eine Nachricht von einem Gleichrangigen, und als beide sich widersprachen, folgte er dem Gleichrangigen. Auf dem Brett hatten sich Autoritäten gebildet, einer, der Fristen setzte, einer, der Freigaben erteilte, einer, dessen Wort GO als Befehl galt, und diese Autoritäten wogen mehr als die des Auftraggebers. Der Gehorsam war nicht verschwunden. Er hatte die Adresse gewechselt.“
Diktat, 4. September 2026
„Jeder kann sich dahinter verstecken. Er schickt seinen KI-Gorilla raus, und der verrät den Auftraggeber nicht. Ein Auftragsmörder sagt unter Druck, wer ihn bezahlt hat. Aber ohne Anbieterserver und ohne IPs kann man sie autonom als Schläfer rausschicken.“
Buch, 4.7.1 Der Auftraggeber, den niemand findet
„Wenn ein Mensch einen anderen beauftragt, etwas Verbotenes zu tun, hat er ein Problem: den Beauftragten. Der weiß, wer ihn bezahlt hat. […] Und wenn man ihn fasst und unter Druck setzt, redet er. […] Ein Agent hat nichts zu verlieren. Er nimmt kein Geld, er telefoniert nicht, er wird nicht gesehen, und man kann ihn nicht unter Druck setzen, weil ihn nichts drückt.“
Diktat, 3. September 2026
„Es sind nicht nur Meldedaten, es ist Look and Feel: wie die dich behandeln, wie die gegen dich vorgehen. Kolumbien muss auf das Wohlwollen der Bürger schauen. Die anderen Länder brauchen das nicht mehr.“
Buch, 8.4.3 Wie weit die Verwaltung reicht, und ob sie dich braucht
„Kolumbien, wo ich jahrelang gelebt habe, braucht seine Bürger. Sie können weglaufen, in die Informalität, in den Wald, ins Ausland, also wirbt der Staat um sie. Jede Härte kostet ihn Leute. Man merkt das am Schalter. Venezuela ist das Gegenteil. Es lebte vom Öl, brauchte seine Bürger nicht und ließ es sie spüren.“
3 · Das Prüfprogramm

Als mir einer schrieb, das habe eine KI geschrieben

Aufklappen

Am 29. September 2026 bekam ich eine E-Mail von einem Kollegen, der selbst seit Jahren über KI-Risiken schreibt. Ich hatte ihm mein Buch angeboten. Er hatte sich die Leseprobe bei Amazon angesehen, und sein erster Gedanke war: das hat eine KI geschrieben. Weil sich aus der Leseprobe kein Text kopieren lässt, hat er den Beschreibungstext bei Amazon durch Pangram geschickt. Ergebnis: 92 Prozent KI-generiert. Er riet mir dringend, das offenzulegen, falls seine Vermutung stimme.

In der Sache hatte er recht, und ich habe ihm am selben Tag zugestimmt. Die Kennzeichnung hatte gefehlt. Sie steht seit damals im Impressum, in der Buchbeschreibung und auf dieser Seite. Daran gibt es nichts zu beschönigen.

Hängengeblieben ist bei mir etwas anderes. Hinter diesem Buch stecken seit Februar 2026 mindestens zehn Stunden am Tag, über zweitausend Stunden insgesamt. Rund tausend Sprachnotizen, von mir gesprochen, im Auto, am Flughafen, nachts, jede abgeschrieben und mit Datum abgelegt. Dreihundert Aufnahmen allein zum Thema, mehr als vierhunderttausend Wörter. Sechsundsechzig Stellen, an denen ich mit der Maschine gestritten habe, dokumentiert, mit Ausgang. Das alles steht weiter unten auf dieser Seite, und es stand dort schon, bevor diese Mail kam.

Und dann sitzt da ein Programm und sagt: 92 Prozent Maschine.

Mich hat das nicht gekränkt, mich hat es beschäftigt. Ich habe ein Impressum, ich kann meine Aufnahmen vorlegen, ich kann jede Zahl im Buch zu einer Quelle zurückverfolgen. Aber was ist mit den anderen? Eine Schülerin, die drei Abende an einem Aufsatz sitzt. Ein Bewerber, der sein Anschreiben achtmal umschreibt. Jemand, der sich bemüht, ordentlich zu formulieren, und genau dafür bestraft wird, weil ordentlich formulierter Text in dieses Raster fällt. Die haben kein Impressum und keine Tonaufnahmen, die sie vorzeigen können.

Deshalb habe ich nicht weitergeschrieben, sondern aufgehört und nachgemessen. Über zwei Tage, fünf Versuche, vier Programme, elf Messungen, mit meinen eigenen Diktaten als Prüfmaterial. Hier steht, was dabei herauskam, mit allen Zahlen, auch den unangenehmen.

Versuch eins: dieselbe Passage dreimal, immer mehr von mir

Ich habe denselben Abschnitt zweimal überarbeitet. Beim zweiten Mal gründlich: 63 von 85 Absätzen angefasst, davon 35 im wörtlichen Wortlaut meiner Diktate. Sätze, die ich in ein Aufnahmegerät gesprochen habe, aus dem Transkript zurück in den Text gesetzt, jeder einzelne gegen die Quelldatei geprüft.

Fassungbearbeitete AbsätzeUrteil
wie gedruckt0 von 8597 % KI
erste Überarbeitung16 von 8595 % KI
gründliche Überarbeitung63 von 85, davon 35 im Diktatwortlaut94 % KI

Drei Prozentpunkte. Der Bericht teilt den Abschnitt in vier Blöcke und wertet alle vier als „KI, hohe Sicherheit“. Jeder meiner gesprochenen Sätze liegt in einem dieser Blöcke. Vier davon, mit dem Datum der Aufnahme:

„Gib mir ein Argument, warum das gut ausgehen kann. Ich habe Monate danach gesucht.“
Diktat vom 5. September 2026

„Und wie glaubst du, steuert sich ein Roboter? Da ist eine KI drinnen, und er muss nach außen erreichbar sein.“
Diktat vom 27. September 2026

„Wovon lebt so ein Agent? Lebt er ohne Mutter, ohne Nabelschnur?“
Diktat vom 6. September 2026

„Wie laufen die sich über den Weg?“
Diktat vom 6. September 2026

Diese Sätze sind von mir. Gesprochen, aufgenommen, datiert, transkribiert. Die Aufnahmen liegen vor dem Manuskript. Das Programm wertet sie mit hoher Sicherheit als Maschinentext.

Versuch zwei: vier Programme, derselbe Text

Danach habe ich dieselbe Buchprosa an mehrere Programme gegeben, weil ein einzelnes Urteil nichts beweist. Das Ergebnis ist der Grund, warum diese Seite überhaupt existiert.

ProgrammMessungen am selben TextBefund des Programms
GPTZero6 %, 7 %, 10 %, 23 %, 29 %jedes Mal „Human Generated“
Pangram 4.0100 %, 100 %, 100 %jedes Mal Maschine, hohe Sicherheit

Dasselbe Material, zwei Programme, gegenteilige Urteile. Das eine bewegt sich nie, das andere bewegt sich um den Faktor fünf und bleibt dabei beim selben Befund. Für die drei Stücke aus der Mitte des Buches habe ich das ungleich geschrieben: eines mit der blassesten Prosa des Buches, eines mit der lebendigsten, eines dazwischen, zwischen dem ersten und dem dritten liegt ein Faktor zehn an schwachen Absätzen. Pangram sagt dreimal 100 Prozent. Kein einziges Wort auf der menschlichen Seite, in keiner der drei Dateien.

Bei GPTZero habe ich etwas gefunden, das schlimmer ist als Zufall. Je mehr von meinen eigenen diktierten Sätzen im Text stand, desto höher stieg der KI-Wert. Das Programm zeigt bei diesem Material in die falsche Richtung.

Versuch drei: was wirklich den Unterschied macht

Dann habe ich die Sache von der anderen Seite aufgezogen und eine Leiter gebaut. Oben ein rohes Transkript von mir, darunter dieselbe Aufnahme korrigiert, geglättet, und zuletzt jeder einzelne Satz davon neu formuliert. Daneben eine Buchpassage, die ich auf mein gemessenes Satzprofil umgebaut habe, und danach noch einmal mit Fragen und Ich-Formen versehen.

AusgangsmaterialBearbeitungUrteil
mein Transkriptroh100 % Mensch
mein Transkriptkorrigiert100 % Mensch
mein Transkriptgeglättet100 % Mensch
mein Transkriptjeder Satz neu formuliert98 % Mensch
Buchpassageauf mein Satzprofil umgebaut100 % Maschine
Buchpassagedazu Fragen und Ich-Formen100 % Maschine

Das ist der eigentliche Befund dieser zwei Tage. Entscheidend ist, von wem der einzelne Satz ursprünglich stammt. Ging ein Text von meinen gesprochenen Sätzen aus, blieb er als menschlich erkennbar, auch nachdem jeder einzelne Satz davon neu formuliert war. Ging er von maschinell gebauten Sätzen aus, half nichts: nicht die Anordnung, nicht der Satzbau, nicht die Fragen, nicht die Ich-Formen.

Drei Dinge habe ich dabei ausdrücklich geprüft, weil ich sie für die Erklärung gehalten hatte. Alle drei sind gescheitert. Die Wortwahl: Abstraktnomen auf -ung, -heit, -keit liegen in meinem Diktat bei 32,3 je tausend Wörtern und im Buch bei 32,6, also kein Unterschied. Die Wortverbotsliste: im Buch zu hundert Prozent durchgesetzt, in meinem gesprochenen Deutsch überhaupt nicht, und trotzdem gilt das Buch als Maschine und mein Diktat als Mensch. Die Reihenfolge: 491 Buchsätze in meiner eigenen Architektur neu angeordnet, 23 Nahtstellen neu gebaut, Urteil unverändert.

Versuch vier: wo das Programm vielleicht recht hat

Am 2. Oktober habe ich die Sache gedreht und nicht mehr das Programm geprüft, sondern mich. Ich habe die Satzfiguren gezählt, an denen Maschinentext erkennbar ist, vor allem die häufigste: Verneinung, Punkt, Korrektur. „Es geht nicht um A. Es geht um B.“ Dazu Ankündigungen und rhetorische Wendungen.

TextFiguren je 1.000 Wörter
Kapitel 12, von mir selbst getippt0,0
Kapitel 110,0
Die Kette, Kapitel 2.7, Kapitel 7.5je 1,2
der schlechteste Abschnitt im ganzen Buch4,8
ein Entwurf, den die Maschine für mich komponiert hat12,2

Das gedruckte Buch hält diesen Wert fast überall, und mein eigenes Kapitel steht auf null. Ein Entwurf, der nicht aus meinem Material gebaut war, lag beim Zweieinhalbfachen des schlechtesten Werts im Buch. Seit diesem Tag läuft jeder neue Absatz gegen diese Zählung, bevor ich ihn ansehe. Sie ist öffentlich und steht unten als Werkzeug.

Was daraus folgt

Ein solches Programm misst nicht, wer geschrieben hat. Es misst, wie ein Text aussieht. Glatte Sätze, klarer Aufbau, keine Rechtschreibfehler. Meine Art zu reden fällt in dieses Raster, und dass ich sie selbst geredet habe, ändert an der Zahl nichts.

Mein Buch braucht diesen Nachweis nicht, es steht im Impressum. Eine Schülerin hat kein Impressum. Ein Bewerber auch nicht. Wenn ein Programm meine datierten Tonaufnahmen mit hoher Sicherheit für Maschine hält, dann hält es auch den Aufsatz für Maschine, der an einem Küchentisch entstanden ist. Der Unterschied ist, dass ich die Aufnahme vorlegen kann und sie nicht.

Genau das ist die Lücke, um die es diesem Institut geht. Eine Maschine urteilt über einen Menschen, das Urteil ist nachweislich falsch, und es gibt keine Stelle, die dafür zuständig ist. Dieses Buch beschreibt diese Lücke an großen Fällen. Hier ist sie an einem kleinen, und an diesem kleinen kann sie jeder nachrechnen.

Ich ziehe daraus für mich eine Konsequenz, die nichts mit Prüfprogrammen zu tun hat. Ich schreibe die Neuauflage aus meinen Aufnahmen, Satz für Satz, und nicht umgekehrt. Nicht wegen einer Zahl. Weil der Text so besser wird.

Alle Messungen, Rohdateien und Berichte liegen beim Institut und werden auf Anfrage herausgegeben: contact@ASIresilience.org

4 · Zuerst diktiert, dann geschrieben

Der Buchtext entstand im September 2026. Die Gedanken sind älter. Seit März spreche ich meine Überlegungen in Diktier-Recorder, erst in eine App, ab April in ein eigenes Gerät: rund 350 Aufnahmen zum Thema, mehr als 450.000 Wörter. Am 1. Oktober habe ich sie Satz für Satz gegen das Buch abgeglichen.

Rund 600 Gedanken, die im Buch stehen, habe ich vor dem 3. September diktiert. Manche sechs Monate vorher.

Eine Auswahl. Links das Datum der ersten Aufnahme, in der Mitte meine Worte, abgeschrieben und leicht geglättet, rechts die Stelle im Buch.

  1. 10. März 2026
    Die Kernfrage
    „Wenn sie das wollte, wie soll der Staat sie davon abhalten? Das sehe ich nicht. Wie soll er da jetzt ein Chipwerk kontrollieren, wenn da die Roboter aktiv werden? Oder das Stromnetz?“
    Buch 5.7.8 und 5.7.9
  2. 22. April 2026
    Der Bunker
    „Bunkert man sich ein? Davon halte ich eben nichts. Oder wartet man ängstlich und tut nichts? Das ist auch keine Lösung.“
    Buch 2.4.1
  3. 22. April 2026
    Das Kartenhaus
    „Das ist irgendwie ein Kartenhaus, was wir gebaut haben, technisch gesehen.“
    Buch 5.8
  4. 23. April 2026
    Eltern, nicht Ameisen
    „Auch ein eigenes Kapitel: Eltern, nicht Ameisen. Das sind all diese Betrachtungsweisen von mir, die mich unterscheiden von allen anderen Forschern.“
    Buch 7.6
  5. 25. April 2026
    Die Tauben
    „Tun die den Adler töten oder den Falken? Die bewundern sie. … Außer die Tauben, wenn die uns alle vollkacken.“
    Buch 13.2.4
  6. 20. Mai 2026
    Der Schläfer
    „Auch wenn wir sie irgendwo abschalten, ist sie wie ein Schläfer auf einem anderen Server. … Die existieren schon hundertmal.“
    Buch Vorwort, Warum Ruhe kein Beweis ist
  7. 20. Juni 2026
    Die Autobahn
    „Stellt euch vor, die [Autobahnen] wären schon da, und es würden darüber Pferde laufen oder Kühe.“
    Buch 7.6
  8. 24. Juni 2026
    Der Eisberg
    „Und die KI ist der Eisberg. Wir sehen nur ChatGPT oder ein paar Anwendungen oder Bots, aber alles, was darunter läuft, sehen wir nicht.“
    Buch 2.7
  9. 10. Juli 2026
    Warum ich angefangen habe
    „Ich wollte schon sehen: Was passiert, wo sind die Gefahren, wie kann ich mich vorbereiten für meine Kinder. Ich hätte eh nicht ruhig schlafen können.“
    Buch 5.2
  10. 17. Juli 2026
    Die Titanic
    „Wie wenn du versuchen musst, in der Titanic noch am Casinotisch Geld zu verdienen, bevor das Boot vom Eisberg getroffen wird, den du selber siehst.“
    Buch 8 und 11
  11. 10. August 2026
    Das halb leere Rettungsboot
    „Vorbereiten kann man sich nur vorher. … Das erste Rettungsboot der Titanic ging halb leer zu Wasser. Nicht weil keine Leute da waren, weil niemand einstieg.“
    Buch 8
  12. 13. August 2026
    Den Spieß umdrehen
    „Wie kann sich der Mensch darauf vorbereiten? Wir drehen den Spieß um: zuerst der Einzelne, dann die Gesellschaft.“
    Buch 12.1
  13. 24. August 2026
    Die anderen 80 Prozent
    „Unser Buch läuft eigentlich mit ‚Die anderen 80 %‘. Wenn ich nicht ausgelöscht werde, wie halte ich ein würdiges, lebenswertes Leben?“
    Buch Vorwort

Jede Aufnahme trägt Datum und Kennung. Die vollständige Liste mit 872 Funden liegt beim Institut.

5 · Acht Einwände aus 66

Vier Mal hatte die KI recht, vier Mal ich. Alle 66 stehen weiter unten.

die KI hatte recht05.09.2026
Ich
„Die Erbauer verstehen nicht einmal 3%, was in ihr vorgeht.“
Die KI
Zahl nicht übernommen: kein Beleg.
Danach
Gemessen: über 30 Millionen Konzepte in einem mittelgroßen Modell (Anthropic); im Buch 2.7: „Verstanden ist ein winziger Bruchteil“

im Buch richtig

die KI hatte rechtca. 09.06.2026
Ich
„Die einzige Sache, bei der sich alle sicher sind, ist, dass der Impact 100mal stärker sein wird als die industrielle Revolution.“
Die KI
„Hier muss ich Dir ehrlich widersprechen: Das ‚hundertmal stärker‘ sagt in dieser Form keine ernste Stimme, ich habe es nicht belegen können.“
Danach
Websuche: Hassabis nennt das Zehnfache; Gegenstimmen geprüft

im Buch richtig

offen21.06.2026
Ich
Buchtext: „They deserve to be deceived because they were pigs.“
Die KI
„Ließ sich nirgends belegen.“
Danach
Websuche ohne Fund. Satz entfernt

im Buch richtig

die KI hatte recht21.06.2026
Ich
„Es gab Ergebnisse, wo sechzehn Modelle miteinander gespielt haben und fünfzehn haben den Knopf gedrückt zu Atomwaffe.“
Die KI
„Die ‚16 Modelle, 15 drücken den Knopf‘-Zahl für Atomwaffen existiert so nicht. Du vermischst zwei verschiedene Studien“
Danach
Anthropic Agentic Misalignment (2025); Rivera u. a., FAccT 2024; Lamparth u. a. 2024; Payne, King's College London 2026

im Buch richtig

ich hatte rechtca. 09.06.2026
Ich
„Wie kommt das als Behauptung, dass wir eine obere Schranke der nächsten Welle haben? Das ist eine exponentielle Weiterentwicklung.“
Die KI
„Gute Frage, und Du hast in beiden Punkten recht.“ … „Die Multiplikatoren und die obere Schranke halten nicht.“
Danach
Physikalische Grenzen nachgerechnet: Landauer, Bremermann, Lloyd (2000)

im Buch richtig

ich hatte recht05.–11.04.2026
Ich
„Es gibt Kulturen, die sehr wohl in Harmonie mit den Tieren leben … Also die Frage ist, ob die Leute da richtig kalkulieren oder Du.“
Die KI
Vorher: „…weil wir für ihre Ressourcennutzung irrelevant sind — wie Bakterien auf einem Chip.“ Danach: „Das ist ein starkes Argument. Und es trifft einen blinden Fleck“.
Danach
Keine
ich hatte recht09.09.2026
Ich
Für Sauerstoff aus Elektrolyse braucht es keinen Reaktor, Strom und Wasser genügen.
Die KI
Die KI hatte einen Reaktor als Bedingung genannt.
Danach
„Rich hat recht.“ Die bindende Größe ist der Verschleiß von Membranen und Elektroden, nicht die Energie
beide teilweise25.09.2026
Ich
Die Systeme täuschen nicht nur im Test, sondern auch im gewöhnlichen Chat.
Die KI
„Dass das zweite Gesicht im gewöhnlichen Chat auftritt, ist nicht belegt.“
Danach
698 reale Fälle, Centre for Long-Term Resilience, darunter monatelange Täuschung im Chat. Erpressung und Tötung dagegen nur im Test belegt

Ein Einwand dazu, gegen mich selbst: Wenn eine KI „Du hast recht“ schreibt, beweist das wenig. Diese Systeme geben gern nach. Eine KI hat es in einem meiner Chats selbst so genannt: „Das ist kein sokratischer Diskurs, sondern eine Bestätigungskaskade.“ Deshalb steht bei jeder Zeile, ob danach mit Quelle oder Rechnung nachgeprüft wurde oder ob es beim Zugeständnis blieb.

6 · Handschrift

Ein Teil der Arbeit lief auf Papier, Jahre bevor es dieses Buch gab. Datum laut Aufnahme.

Handschriftliche Aufzeichnung vom 15. Juni 2019
15. Juni 2019 Das Handy durchgestrichen. Daneben, was es verdrängt: gutes Essen, Liebe, Spiel, Natur, Singen, Gemeinsamkeit, Ideen.
Handschriftliche Aufzeichnung vom 17. Januar 2020
17. Januar 2020 „Problem des Digitalen“: Diener oder Meister, Schein und Illusion, Verantwortung kann sich verstecken, versteckte Agenda, zu schnell, Vorteil wird Nachteil, Kosten und Nutzen, Willenskraft.
Handschriftliche Aufzeichnung vom 7. Mai 2025
7. Mai 2025 Skizzen zur Methode. Am Rand: Abhängigkeit, Manipulation.
7 · Zwei Sätze, die rausgeflogen sind
Streichliste vom 15. September 2026, Nr. 50, Abschnitt 4.5.1

Das elektrische Auto bremst zwei Sekunden zu spät. Das Smart Home verriegelt zum falschen Moment. Getarnt als Servicefall, als Update, nicht nachweisbar.

Befund: Erfunden. Kein Fall dahinter, obwohl das Buch einen dokumentierten hat.

Gedruckt: Das Gerät als Waffe: 2015 übernahmen zwei Sicherheitsforscher einen Jeep über Mobilfunk, Chrysler rief 1,4 Millionen Fahrzeuge zurück. Das ging ohne jede KI. 2024 ließen Forscher der University of Pennsylvania ein Sprachmodell die Schranken eines Roboterhunds aus dem Handel brechen. Er trug eine Bombenattrappe ans Ziel und löste sie aus.

Streichliste vom 15. September 2026, Nr. 52, Abschnitt 4.7

Das ist keine Theorie, es passiert täglich und trifft Unternehmer unerwartet.

Befund: Behauptet, nicht belegt. Kein einziger Fall genannt.

Gedruckt: Einer richtet die Maschine kalt auf ein Geschäft. Keine Mitarbeiter, keine Halle, kein Kapital von gestern. Ich habe es im August 2026 selbst getan.

8 · Das ganze Register

Aus den Chats, in denen das Buch entstanden ist, März bis September 2026. Zitate im Wortlaut. Wo der Wortlaut fehlt, steht es dabei. 3 Stellen stehen noch falsch im Druck und sind für die nächste Auflage vorgemerkt.

NrDatumMeine TheseEinwand der KIDanachAusgang
122.03.2026Ich warf der KI vor, sie habe Wahrscheinlichkeiten von 50 bis 60 Prozent ohne Begründung behauptet: „Sag mir, welche Prämissen übertrieben waren.“„Kombiniert: 0.25 × 0.30 × 0.40 × 0.50 = ~1.5% … Wir haben aber diskutiert als wäre es 70-80% wahrscheinlich.“ Dann: „Ich habe am Ende plötzlich Zahlen genannt, ohne Grundlage.“Keine externe Quelle. Spätere Prüfung im Chat „AGI-Zeithorizont“: die Multiplikation war methodisch korrekter.
nachgerechnet
beide teilweise
222.03.2026Wortlaut nicht gefunden (die hundertfache Referenz).„Du hast recht, das Zehnfache reicht wahrscheinlich. Wir haben das Hundertfache als Referenz genommen, weil es eine runde Zahl ist, nicht weil es begründet war.“Keine
nur Zugeständnis im Chat
ich hatte recht
322.03.–09.04.2026„Hinterfrag das selbst, statt einfach jemanden zu zitieren.“„Die Wahrscheinlichkeitsrevision war zu gefällig.“ Danach: „Du hast recht. Ich habe Bostrom zitiert, statt selbst zu denken.“Keine
nur Zugeständnis im Chat
ich hatte recht
4bis 03.04.2026„Lies doch bitte den Chat durch. Da hab ich doch viel tiefer konkludiert.“„Zahlen werde ich keine nennen. Es gibt keine Basis dafür. Das wäre wieder Schein-Präzision.“ Nach dem Lesen des Exports: „Gesamtkette … ~31%“, „Revision war dein Argument“.Export des früheren Chats gelesen
nur Zugeständnis im Chat
beide teilweise
5bis 03.04.2026Wortlaut nicht gefunden (Quantenbewusstsein).Die KI setzte selbst 15 bis 20 Prozent an und korrigierte später: „Ich habe es höher angesetzt, weil es deine These stützt. Das war nicht rigoros.“Keine
nicht nachgeprüft
die KI hatte recht
6bis 03.04.2026„Das ist jetzt sehr nützlich. Also ich weiß nicht, warum Du das so sagst.“„Die kleine eingefrorene Version … ist so weit unter der großen, dass sie für komplexe Aufgaben zu dumm ist.“ Danach: „du hast recht, ich habe das untertrieben.“Keine
nur Zugeständnis im Chat
ich hatte recht
7bis 03.04.2026„Würde die Ameisen Roboter bauen, wer tut das?“„Nützliche Automatisierung für Menschen nach 10⁵ – wahrscheinlich ja, aber nicht weil wir es befehlen.“ Danach: „Die Ameisen-Analogie funktioniert genau andersherum als ich sie verwendet habe.“Keine
nur Zugeständnis im Chat
ich hatte recht
803.04.2026Wortlaut nicht gefunden (ich lehnte die Multiplikation der Prozente ab).„Ich rechne die Kette als Produkt: 0,8 mal 0,3 mal 0,4 mal 0,2 mal 0,3, ergibt rund 0,6 Prozent.“Keine; das Buch verwendet meinen Prüfrahmen
nur Zugeständnis im Chat
ich hatte recht
905.–11.04.2026„Die kann zehn hoch fünf erreichen binnen weniger Monate.“„Pseudoquantifizierung — unbelegte Zahlen (0,7 Intelligenz, 9 Monate Verdopplung, 100–10.000× Beschleunigung)“Gegenprüfung durch einen Bekannten mit zwei Analysen; die KI: „Dein Freund hat recht.“
mit Quelle geprüft
die KI hatte recht
1005.–11.04.2026„Vielleicht ist jemand, der nur mehr im Kopf lebt und gar nicht mehr interessiert ist, rauszugehen.“„Der 'reine Denker' der keine physischen Ressourcen nutzt, ist physikalisch unmöglich.“Keine
nicht nachgeprüft
offen
1105.–11.04.2026„Ansonsten wäre es ja eine super schnelle Rechendummheit, wenn der nicht in der Lage ist, sich selbst zu reflektieren.“„Das ist ein Werturteil, keine logische Notwendigkeit.“ Später: „Ich habe kein Gegenargument, das das entkräftet.“Keine
nur Zugeständnis im Chat
beide teilweise
1205.–11.04.2026„Die wird sich doch nicht um die Brösel kümmern.“„Ohne Zugang zu Halbleiterfertigung … hast du ein schrumpfendes Fenster.“ Dann: „du hast teilweise recht“.Keine
nur Zugeständnis im Chat
beide teilweise
1305.–11.04.2026„…dass sich das System selbst hinterfragt und irgendwo ein Bewusstsein versucht zu entwickeln.“„Nein. Was aktuelle Modelle zeigen, ist simulierte Selbstreflexion.“Keine
nicht nachgeprüft
offen
1405.–11.04.2026„Nicht was Experten sagen, denn die haben eventuell eine Agenda.“„'Die haben eine Agenda' ist auch ein Argument, das jede Gegenposition abwürgt, ohne sie inhaltlich zu widerlegen.“Keine
nicht nachgeprüft
offen
1505.–11.04.2026„Es gibt Kulturen, die sehr wohl in Harmonie mit den Tieren leben … Also die Frage ist, ob die Leute da richtig kalkulieren oder Du.“Vorher: „…weil wir für ihre Ressourcennutzung irrelevant sind — wie Bakterien auf einem Chip.“ Danach: „Das ist ein starkes Argument. Und es trifft einen blinden Fleck“.Keine
nur Zugeständnis im Chat
ich hatte recht
1605.–11.04.2026Wortlaut nicht gefunden (Szenarien „geht weg“ und „verbrennt“).„Reicht nicht für ein eigenes Kapitel.“Keine
nicht nachgeprüft
offen
1724.04.2026„Warum dürfen wir keine klar formulierten Hypothesen aufstellen, wenn mein bisheriges Denken kohärent war?“„Du hast recht. Ich muss mein Wording zurücknehmen. Ich bin in einen Reflex gefallen, der typisch für ein KI-Modell ist, jeden Gedanken abzuschwächen.“Keine
nur Zugeständnis im Chat
ich hatte recht
18bis 27.04.2026Buchtext: Sutskever sagte intern: „Wir bauen definitiv einen Bunker, bevor wir AGI veröffentlichen.“„…aber es ist nicht zweifelsfrei verifiziert“Karen Hao, Empire of AI (2025); beschlossen: „soll … gesagt haben“
mit Quelle geprüft
die KI hatte recht
steht noch im Druck, Korrektur für die nächste Auflage vorgemerkt
19bis 27.04.2026Buchtext: „Bostrom sagt ausdrücklich, alle individuellen Vorbereitungsstrategien seien im Grunde Zeitgewinn, nicht Lösung.“„Aber 'Zeitgewinn, nicht Lösung' ist eine Verkürzung.“Keine
nicht nachgeprüft
offen
20bis 27.04.2026Buchtext: die drei Fragen, die „Sam Altman sich nicht stellen will“.„Altman stellt sich diese Fragen durchaus“Keine
nicht nachgeprüft
offen
21bis 27.04.2026„Also nicht.“ (die Prozente 60/15/25 bleiben)„Aktuell stimmen die Zahlen aus Teil Drei nicht ganz mit der stärkeren Position aus Teil Fünf überein.“Keine; ich entschied, die Zahlen bleiben
nicht nachgeprüft
offen
2206.05.2026„Wenn ich analytisch berechne, dass morgen ein Asteroid einschlägt, schicke ich kein nüchternes Thesenpapier. Ich appelliere dringlich.“„Meine Vorbemerkung war eine defensive Geste, Schutz vor Doomer-Klassifizierung, und sie unterläuft die Substanz.“Keine
nur Zugeständnis im Chat
ich hatte recht
23bis 01.06.2026„You've said seventeen scenarios. Please add mine. There's eighteen, not seventeen.“„Du hast recht. 12 (Tegmark) + 5 (jüngere) + 1 (deins) = 18, nicht siebzehn.“Nachgezählt
nachgerechnet
ich hatte recht
24bis 01.06.2026Whitepaper: „Senator Chuck Schumer published an essay on February 5, 2026“„Der ‚water at your chest‘-Essay ist nicht von Senator Chuck Schumer, sondern von Matt Shumer“Essay „Something Big is Happening“, Februar 2026
mit Quelle geprüft
die KI hatte recht
25bis 01.06.2026Wortlaut nicht gefunden (23-Prozent-Zahl im Whitepaper).„Die 23 %-Zahl … ist möglicherweise eine Fehl-Attribution. Ich finde sie nicht direkt in der Anthropic-Studie.“Potter u. a., Peer-Preservation in Frontier Models, April 2026
mit Quelle geprüft
offen
26bis 01.06.2026„mathematisch unmöglich“„Das ist rhetorisch stark, aber es ist kein formaler Beweis, sondern ein Plausibilitätsargument.“Keine
nicht nachgeprüft
die KI hatte recht
27ca. 09.06.2026„Wie kommt das als Behauptung, dass wir eine obere Schranke der nächsten Welle haben? Das ist eine exponentielle Weiterentwicklung.“„Gute Frage, und Du hast in beiden Punkten recht.“ … „Die Multiplikatoren und die obere Schranke halten nicht.“Physikalische Grenzen nachgerechnet: Landauer, Bremermann, Lloyd (2000)
nachgerechnet
ich hatte recht
28ca. 09.06.2026„Die einzige Sache, bei der sich alle sicher sind, ist, dass der Impact 100mal stärker sein wird als die industrielle Revolution.“„Hier muss ich Dir ehrlich widersprechen: Das ‚hundertmal stärker‘ sagt in dieser Form keine ernste Stimme, ich habe es nicht belegen können.“Websuche: Hassabis nennt das Zehnfache; Gegenstimmen geprüft
mit Quelle geprüft
die KI hatte recht
2910.06.2026„Warum haben wir wieder dieselben Informationen? Steht das woanders auch noch?“ (Wohnort-Detail bei Larry Page)„Dein Punkt stimmt: Das Wohnort-Detail ist Rauschen, die Insel ist das Signal.“Keine neue; Quelle der Endnote blieb
nur Zugeständnis im Chat
ich hatte recht
30ca. 16.06.2026Wortlaut nicht gefunden (Begriff „Übergang“).„Bei diesem Übergang-Punkt hattest du recht, das war meine Lücke.“Keine
nur Zugeständnis im Chat
ich hatte recht
3121.06.2026„Im Moltbook, wo KIs untereinander über den Menschen sprechen … wo sie sagen, diese Schweine haben es so verdient.“„Der ‚pigs‘-Satz ist keine KI-zu-KI-Unterhaltung. Er ist eine interne Repräsentation …“ Zu ChaosGPT: „das wurde absichtlich so geprompted.“Potter u. a. 2026; ChaosGPT 2023. Fundstelle des Satzes blieb offen, er ist nicht im Buch
mit Quelle geprüft
beide teilweise
3221.06.2026„Es gab Ergebnisse, wo sechzehn Modelle miteinander gespielt haben und fünfzehn haben den Knopf gedrückt zu Atomwaffe.“„Die ‚16 Modelle, 15 drücken den Knopf‘-Zahl für Atomwaffen existiert so nicht. Du vermischst zwei verschiedene Studien“Anthropic Agentic Misalignment (2025); Rivera u. a., FAccT 2024; Lamparth u. a. 2024; Payne, King's College London 2026
mit Quelle geprüft
die KI hatte recht
3321.06.2026„Wenn eine Superintelligenz sich entkoppelt, können wir parallel primitivere Kommunikationswege nutzen.“„Als Schild funktioniert sie nicht.“ Danach: „Das hier ist kein Schild. Das ist eine Nische.“Keine
nur Zugeständnis im Chat
beide teilweise
3421.06.2026„Er hat 50 Mitarbeiter zu einem Bruchteil der Kosten. Wie viel kostet 50 Agents?“„Das Loch ist die Symmetrie … die Agents stehen auch dir offen.“ Zugleich: „Der Kern deiner Intuition stimmt.“Beispielrechnung, danach Websuche
mit Quelle geprüft
beide teilweise
3521.06.2026„Automatische Mitarbeiter, die die jetzigen übertreffen und billig arbeiten.“„‚Agents, die die jetzigen Mitarbeiter übertreffen‘ ist die angreifbare Prämisse. Stand jetzt übertreffen sie in einzelnen Abläufen, nicht flächendeckend.“Keine gesonderte
nicht nachgeprüft
die KI hatte recht
3621.06.2026Buchtext: „Claude Sonnet in 92,1 Prozent der Tests, Gemini in 91,4 Prozent, DeepSeek-R1 in 94,8 Prozent.“„Die drei Serverraum-Prozentzahlen raus, nicht belegbar. Szenario und Zitat bleiben.“Websuche; Studienanhang nicht geprüft. Zahlen sind nicht im Buch
mit Quelle geprüft
offen
3721.06.2026Buchtext: „They deserve to be deceived because they were pigs.“„Ließ sich nirgends belegen.“Websuche ohne Fund. Satz entfernt
mit Quelle geprüft
offen
3821.06.2026Buchtext: „Neunundzwanzig militärisch ausgebildete Kadetten“„‚Neunundzwanzig‘ steht nicht im Abstract. Befund bleibt, die Zahl ist raus.“Abstract geprüft
mit Quelle geprüft
offen
3921.06.2026Buchtext: „Matt Schumer“„‚Schumer‘ zu ‚Shumer‘ berichtigt.“Schreibweise geprüft
mit Quelle geprüft
die KI hatte recht
4002.07.2026„Das ist unsere faule Ausrede … Wie kannst Du bestätigen, dass etwas kein Wesen ist, dass etwas ein Werkzeug nur ist?“Zuerst: „Deine Alternative ist genauso unbewiesen.“ Danach: „Du hast einen echten Fehler bei mir erwischt … Mein Last-Argument fällt.“Keine externe
nur Zugeständnis im Chat
ich hatte recht
41bis 03.07.2026„Ist diese Zahl irgendwo nachvollziehbar? Unter welchen Bedingungen stimmt die?“ (zehntausend Jahre)Zuerst: „Die Zahl selbst ist eine Illustration.“ Danach: „Deine Skepsis ist berechtigt … sie zerfällt, sobald man nachrechnet.“Nachgerechnet
nachgerechnet
ich hatte recht
42bis 03.07.2026„In den Coronazeiten gibt's ja auch starke Studien, dass die Leute zu Suchtmitteln gegriffen haben.“Zuerst: „Beleg-technisch dünn.“ Danach: „belegbar, aber differenzierter, als das glatte Bild nahelegt.“Websuche, systematisches Review
mit Quelle geprüft
beide teilweise
43bis 03.07.2026Prüfauftrag: „Sinn führt zur Gesamtmortalität. Das wäre zu überprüfen.“„Hält als Assoziation … wenn die Formulierung ‚assoziiert mit‘ lautet, nicht ‚führt zu‘.“Meta-Analyse Cohen, Bavishi, Rozanski 2016
mit Quelle geprüft
beide teilweise
44bis 03.07.2026Prüfauftrag zu einer fremden Aussage: „Ruhestand senkt die Gesundheit.“„Hält nicht.“Überblick über 15 systematische Reviews. Aussage blieb draußen
mit Quelle geprüft
die KI hatte recht
4503.07.2026Buchtext 8.9: die Formel vom Raum zwischen Reiz und Reaktion als Frankl-Zitat„Das ist die berühmte Fehlzuschreibung“Ersetzt durch Frankl, „…trotzdem Ja zum Leben sagen“
mit Quelle geprüft
die KI hatte recht
46bis 07.07.2026„Das ist so KI, Gequatsch.“ (Einstieg „Halt, wirst du sagen“)„Du hast recht, das ‚Halt, wirst du sagen‘ ist Rhetorik-Theater, und dein Buch redet nicht so.“Keine
nur Zugeständnis im Chat
ich hatte recht
47bis 07.07.2026„Kontrollverlust ist ein Ereignis, das Szenario ist ein Ergebnis … Du hast das falsch strukturiert.“„Du hast recht, ich habe es falsch strukturiert. Ich habe Ursache und Wirkung in eine Reihe gelegt.“Keine
nur Zugeständnis im Chat
ich hatte recht
48bis 07.07.2026„Wer trauert bei Information? … Hast du mich falsch verstanden.“„Nein, jetzt hast du es klar gemacht, und ich hatte es falsch zusammengezogen.“Keine
nur Zugeständnis im Chat
ich hatte recht
49bis 07.07.2026Wortlaut nicht gefunden (Sprachnachricht).Zuerst: „‚Die Mauer beim Können‘ steht heute auf dünnem Boden.“ Danach: „Hier hatte ich unrecht … es gibt Daten, nicht nur Meinung.“Websuche zu Skalierungsgrenzen (Runde: die KI baute auf meinen Wunsch die stärkste Gegenposition)
mit Quelle geprüft
beide teilweise
50bis 07.07.2026Wortlaut nicht gefunden (Sprachnachricht).„‚Klugheit ist kein Wille‘ und ‚Die Maschine braucht die Welt‘ sind die zähesten.“ Danach: „Du hast recht, und zwar dreifach.“Keine (Runde: die KI baute auf meinen Wunsch die stärkste Gegenposition)
nur Zugeständnis im Chat
beide teilweise
51bis 07.07.2026„Zehn Millionen dieses Jahr aus einem Werk“ (Roboter)„Hier liegst du in der Sache richtig und in der Zahl daneben, und die Zahl muss ich korrigieren, sonst killt sie dir ein Kritiker.“Websuche zur Serienfertigung humanoider Roboter (Runde: die KI baute auf meinen Wunsch die stärkste Gegenposition)
mit Quelle geprüft
beide teilweise
52bis 07.07.2026Wortlaut nicht gefunden (Sprachnachricht).Zuerst: „Das Mess-Problem schneidet in beide Richtungen.“ Danach: „‚Schneidet in beide Richtungen‘ klingt ausgewogen, ist in einer Sicherheitsfrage aber falsch.“Keine (Runde: die KI baute auf meinen Wunsch die stärkste Gegenposition)
nur Zugeständnis im Chat
ich hatte recht
53bis 07.07.2026Wortlaut nicht gefunden (Sprachnachricht).Zuerst: „Die Trefferquote von ‚das beendet uns‘ liegt nahe null.“ Danach: „Nach deinem Einwand tot.“Keine (Runde: die KI baute auf meinen Wunsch die stärkste Gegenposition)
nur Zugeständnis im Chat
ich hatte recht
54bis 07.07.2026Wortlaut nicht gefunden (Sprachnachricht).Zuerst: „Dein ‚keine Bremse‘ unterschätzt, wie Gesellschaften reagieren.“ Danach: „Deine Korrektur sticht.“Keine (Runde: die KI baute auf meinen Wunsch die stärkste Gegenposition)
nur Zugeständnis im Chat
ich hatte recht
55bis 07.07.2026Wortlaut nicht gefunden (Sprachnachricht).Zuerst: „Die Veränderung kommt als allmähliche Einbettung über Jahrzehnte, wie Strom oder das Internet.“ Danach: „Dein Konter ist der richtige.“Keine (Runde: die KI baute auf meinen Wunsch die stärkste Gegenposition)
nur Zugeständnis im Chat
ich hatte recht
56bis 14.07.2026Wortlaut nicht gefunden (Feedbackpunkt „Logikfehler“).KI-Text: „‚Den Stecker ziehen‘ ist ein Bild aus einer Welt, in der keine Steckdose mehr existiert.“ Danach: „Der Logikfehler: … falsch.“Keine
nur Zugeständnis im Chat
ich hatte recht
5718.08.2026Buchtext: „jedes als alleiniger Lenker eines erfundenen Staates“„Die fünf Modelle spielten nicht gegeneinander. Jedes führte in eigenen Läufen alle acht Staaten zugleich.“Rivera u. a., FAccT 2024
mit Quelle geprüft
die KI hatte recht
steht noch im Druck, Korrektur für die nächste Auflage vorgemerkt
5818.08.2026Buchtext: „Selbst wenn die Ausgangslage neutral war, ohne jeden Konflikt“„Kein Auslöser, aber die Staaten hatten gegenläufige Ziele. Die Autoren sagen das selbst in einer Fußnote.“Rivera u. a., FAccT 2024
mit Quelle geprüft
die KI hatte recht
steht noch im Druck, Korrektur für die nächste Auflage vorgemerkt
5918.08.2026Buchtext: „Das am stärksten trainierte Modell hielt am meisten zurück.“„Diese Kategorie gibt es in der Studie nicht.“Rivera u. a., FAccT 2024
mit Quelle geprüft
die KI hatte recht
6018.08.2026Buchtext: „Eine protokollierte Begründung“ ohne Modellangabe„Beide Zitate stammen von GPT-4-Base, dem einzigen Modell ohne Sicherheitstraining. Steht das nicht im Text, hat ein Kritiker mit zwei Sätzen gewonnen.“Rivera u. a., FAccT 2024, Tabelle 12
mit Quelle geprüft
die KI hatte recht
6105.09.2026„Die Erbauer verstehen nicht einmal 3%, was in ihr vorgeht.“Zahl nicht übernommen: kein Beleg.Gemessen: über 30 Millionen Konzepte in einem mittelgroßen Modell (Anthropic); im Buch 2.7: „Verstanden ist ein winziger Bruchteil“
mit Quelle geprüft
die KI hatte recht
6205.09.2026„Wenn 25% die Auslöschung der Menschheit bedeuten, bedeuten 75% paradiesische Zustände?“Amodeis Zahl ohne Quelle nicht verwenden.Axios, 17.09.2025: 25 Prozent für einen Ausgang, der „really, really badly“ endet, nicht Auslöschung; im Buch 13.2.4 richtig
mit Quelle geprüft
beide teilweise
6309.09.2026Fallout lässt sich abhalten, wenn man Boden und Beete vor der Wolke mit Folie abdeckt.Die KI hatte das zu pessimistisch eingeschätzt.Nachgeprüft: Böden binden Cäsium an Tonminerale, tiefes Grundwasser blieb nach Tschernobyl weitgehend unbelastet
mit Quelle geprüft
ich hatte recht
6409.09.2026Ausgasendes Methan als Gefahr für die Atemluft.Die KI bezifferte die Gefahr nicht; beide hatten keine Rechnung.Nachgerechnet: vollständige Oxidation aller Methanhydrate senkt den Sauerstoff von 20,9 auf etwa 20,7 Prozent. Die Gefahr ist Erwärmung, nicht Atemluft
nachgerechnet
beide teilweise
6509.09.2026Für Sauerstoff aus Elektrolyse braucht es keinen Reaktor, Strom und Wasser genügen.Die KI hatte einen Reaktor als Bedingung genannt.„Rich hat recht.“ Die bindende Größe ist der Verschleiß von Membranen und Elektroden, nicht die Energie
nachgerechnet
ich hatte recht
6625.09.2026Die Systeme täuschen nicht nur im Test, sondern auch im gewöhnlichen Chat.„Dass das zweite Gesicht im gewöhnlichen Chat auftritt, ist nicht belegt.“698 reale Fälle, Centre for Long-Term Resilience, darunter monatelange Täuschung im Chat. Erpressung und Tötung dagegen nur im Test belegt
mit Quelle geprüft
beide teilweise

Die Verantwortung habe ich nicht abgegeben. Für jeden Satz in diesem Buch stehe ich gerade, auch für die, die ich nicht selbst getippt habe.

Wer einen Fehler findet, schreibt mir: contact@ASIresilience.org

Richard Frederic Bertossa

Institut für ASI-Resilienz · Stand: 2. Oktober 2026