Der KI-Kontrollverlust · Kennzeichnung

Wie dieses Buch entstanden ist

Dieses Buch wurde mit Hilfe von künstlicher Intelligenz geschrieben: Die Befunde, der Aufbau, die Auswahl der Fälle und jede Entscheidung, was drinbleibt und was rausfliegt, sind von mir, formuliert wurde vieles mit einem Sprachmodell nach meinen Diktaten.

Warum ich dieses Buch geschrieben habe

Angefangen hat es mit etwas anderem. Ich habe mich mit KI beschäftigt, um sie selbst einzusetzen. Welche Anwendungen bringen mein Geschäft weiter? Was wird in den nächsten Jahren möglich? Ich habe mir zum Beispiel überlegt, ob Robotik in kolumbianischen Dörfern steile Hanglagen bewirtschaftbar macht, auf denen heute nur Kaffee oder Kochbananen wachsen. Wer früh weiß, was kommt, weiß auch, welches Land mehr wert wird.

Je tiefer ich in diesen Anwendungen war, desto deutlicher sah ich die Geschwindigkeit. Und wohin sie führt: zu Systemen, die sich selbst verbessern. Das hat mich stutzig gemacht. Ich konnte nicht mehr schlafen. Was für eine Welt überlasse ich meinen Kindern? Wohlstand nützt ihnen nichts, wenn die Welt selbst aus den Fugen gerät. Und was passiert, wenn Millionen Menschen ihre Arbeit verlieren und wütend werden? Wo sind dann noch Nachbarn, die normal leben?

Dann saß ich in Beirut fest. Die Stadt stand unter Beschuss, der Flughafen war gesperrt. Ich hatte Zeit, gezwungenermaßen, und habe zum ersten Mal stundenlang mit einer KI gestritten, mit Gegenfragen und Widerspruch. Von da an habe ich mich nur noch damit beschäftigt. Ich habe mir die Experten angehört, ihre Vorträge, ihre Studien. Ich kam immer wieder zum selben Schluss: Es werden Behauptungen und Zahlen genannt, aber nachvollziehen konnte ich sie nicht. Also bin ich tiefer gegangen. Ich habe diktiert, mehrere Modelle gefragt, nach den Schwächen gesucht und nicht lockergelassen, bis ich eine eigene Einschätzung hatte.

Wenn ich schon so tief gehe, dachte ich, dann gehört das in ein Buch. Wer ein Buch schreibt, muss strengere Maßstäbe an sich anlegen. Man kann sich selbst leicht belügen oder beruhigen.

Dafür habe ich vieles liegen lassen: Geschäftsprojekte, Gelegenheiten, Kunden. Manche habe ich verloren. Ich konnte das Thema nicht mehr loslassen.

Die Szenarien waren im Alltag mit den Kindern schwer zu verdauen. Also bin ich für eine Woche in den Amazonas gegangen, an die Grenze von Kolumbien und Brasilien, um in Ruhe weiterzudenken. Ich war in kolumbianischen Dörfern, auch in Puerto Nariño, wo fast nur Indigene leben. Dort denkt man anders. Für den Abschluss bin ich nach Ägypten gegangen, bewusst nicht nach Dubai oder Genf, sondern in ein Land mit etwas Chaos, um ganz aus dem Alltag herauszukommen.

Bestärkt hat mich ein Bericht von Google DeepMind. Am 10. Juni 2026 veröffentlichten vierzehn Autoren, unter ihnen Mitgründer Shane Legg, „From AGI to ASI“: vier Wege zur Superintelligenz, der Übergang als Folge gesellschaftlicher Umbrüche statt eines einzigen Sprungs. Vieles davon hatte ich ein paar Monate vorher selbst ausgearbeitet, mit Datum. Im Buch lege ich beides in Anhang D Punkt für Punkt nebeneinander.

Allein war ich dabei nicht. Ich habe mit Dutzenden Menschen darüber gesprochen: mit Arbeitern, Bauern, Unternehmern, Leitern von Steuerberatungskanzleien, Anwälten, Universitätsprofessoren. Was ich dort gehört habe, ist eingeflossen. Es hat mir auch gezeigt, was geht und was nicht.

Im Juni wollte ich schon alle Universitätsinstitute in Wien und Deutschland zum Kontrollverlust anschreiben. Der Brief war fertig. Ich bin dann aber tiefer in die Arbeit am Buch gegangen.

Meine Videos von 2021 auf YouTube, darunter „Stoppt Künstliche Intelligenz jetzt“
2021, auf meinem YouTube-Kanal: „Stoppt Künstliche Intelligenz jetzt“. Damals war noch niemand bereit dafür. Meine Videos ansehen

Wer mehr über meinen Hintergrund wissen will: In einem anderen Buch, „Freedom Tests“, beschreibe ich, wie ich in Krisenregionen gelebt und gesehen habe, wie Systeme zusammenbrechen. Eine Leseprobe steht auf richardbertossa.com.

66Einwände dokumentiert, März bis September 2026
24Mal hatte ich recht
16Mal hatte die KI recht
32Einwände mit Quelle oder Rechnung nachgeprüft
~1.000Sprachnotizen, nach meiner Schätzung
2.000+Stunden seit Februar 2026, mindestens zehn am Tag
1 · Der Ablauf
01

Diktat

Ich spreche. Im Auto, am Flughafen, im Flugzeug, nachts. Rund tausend Sprachnotizen, jede abgeschrieben und im Wortlaut abgelegt.

02

Recherche

Studien, Bücher, Berichte der Hersteller. Interviews und Vorträge habe ich selbst angehört. Jeder Vorfall bekommt eine Nummer im Fallregister, jede Zahl eine Quelle mit Datum.

03

Streit

Ich lasse die Maschine gegen meine Thesen argumentieren und argumentiere zurück. Das Register unten zeigt, wie das ausging.

04

Formulieren

Aus dem Diktat macht ein Sprachmodell einen Absatz. Werkzeug: Claude von Anthropic. Ich lese, streiche, diktiere neu.

05

Prüfen

Quellenprüfung gegen die Originale, eine Streichliste mit 141 Stellen, dann 173 Absätze gestrichen und 679 gekürzt oder neu gefasst.

06

Lektorat und Satz

Ein Lektor ist das Buch noch einmal durchgegangen. Satz und Herstellung: Christian Merther. Fünf Prüfdurchgänge am Druck-PDF.

Wer schreibt

Ich komme nicht aus der Forschung, sondern aus der Praxis. Beim Bundesheer bin ich Milizoffizier der ABC-Abwehr. Ich weiß, womit ich arbeite, und ich weiß, wovor ich warne.

  1. 1997Gründung einer der ersten Internetfirmen Österreichs. Vor dem Dotcom-Crash standen wir als Börsenkandidat in der Wirtschaftspresse.
  2. 2000Mit 25 Berater im Datenschutzrat beim Bundeskanzleramt, unter Verschwiegenheitspflicht.
  3. 2001–2002New York. Ich habe den Vertrieb der Wiener AIM Software aufgebaut, mit dem Geschäftsführer die Strategie gemacht und Veranstaltungen für Banken organisiert. Neuronale Netze waren damals schon im Produktportfolio. Bereit dafür war noch niemand.
  4. 2019Die ersten Zeichnungen zum Handy und dem, was es verdrängt. Dazu das Manuskript „Überlegenheit durch digitale Abstinenz“.
  5. 2020„Problem des Digitalen“, auf Papier. Das Manuskript geht ins Lektorat.
  6. 2021Ich weigere mich, eine Schul-App verpflichtend zu nutzen, und wende mich an die Volksanwaltschaft. Im August schreibe ich, dass künstliche Intelligenz es schwer macht, am Handy nicht manipuliert und abhängig zu werden.
  7. 2021–2022Im Winter nehme ich Videos auf, darunter „Stoppt Künstliche Intelligenz jetzt“, und schreibe eine Redaktion an. Damals war noch niemand bereit dafür.
  8. 2026Ab Februar jeden Tag mindestens zehn Stunden. Angefangen zu schreiben habe ich in Beirut, als der Flughafen gesperrt war und ich festsaß. Drei Monate lang stelle ich meine Thesen gegen die stärksten Modelle. Im September schreibe ich an Volksanwaltschaft, Parlament, Anwälte und Organisationen.
Was ich außerhalb des Buches tue

Ob diese Systeme weiter so gebaut und überall angeschlossen werden, entscheiden Gesetzgeber und Regierungen jetzt. Noch lässt sich diese Entscheidung ändern. Später nicht mehr.

Deshalb habe ich am 9. September 2026 fünfzehn Schreiben verschickt: an die Volksanwaltschaft, an alle fünf Parlamentsklubs, an zwei Anwaltskanzleien und an die Organisationen noyb, epicenter.works, GFF und AlgorithmWatch. Anlass: Österreich hat die Behörden, die die KI-Verordnung der EU in Artikel 28 und 70 verlangt, nicht benannt.

Das Buch ist ein Teil dieser Arbeit, nicht der Anfang und nicht das Ende.

Was jetzt zu tun ist

Wie ich arbeite

Diktat im Wortlaut

Jeder Gedanke wird mit Datum abgelegt, so wie ich ihn gesprochen habe. Nichts geht verloren, und es lässt sich zeigen, wann er kam.

Belegregister

Jede Zahl steht in einem Register. Was dort nicht belegt ist, kommt nicht in den Text. Ist nur ein Teil belegt, schneide ich den Satz auf diesen Teil zurück.

Der stärkere Gedanke gewinnt

Ist eine neue Fassung besser, ersetzt sie die alte, auch wenn die alte schon im Buch steht.

Ich lese selbst

Stück für Stück, mit Farben: Gelb für schwache Formulierungen, Orange für Stellen, die weg können, Blau für Stellen, die woanders hingehören. Wo ich Maschinensprache erkenne, schreibe ich „KI“ daneben.

Ich spreche, ich tippe nicht

Die Gedanken und die Wörter sind meine. Oft wache ich um drei Uhr früh auf, mir fällt etwas ein, und ich diktiere eine halbe Stunde, damit es am nächsten Tag ins Buch kommt. Danach korrigiere ich.

Ich entscheide

Die Maschine schlägt vor. Jede Streichung wird mir vorgelegt, mit Dafür und Dagegen. Dazu meine eigenen Regeln für den Text, etwa: Nenn die Sachen beim Namen. Keine Sätze mit „klingt nach“ oder „scheint“. Keine Ankündigungen.

2 · Mein Diktat und was im Buch steht

Links die Abschrift meiner Sprachnotiz. Rechts der Absatz, wie er gedruckt ist.

Diktat, 4. September 2026
„Da entwickeln sich Autoritäten zwischen den Agenten, und die haben mehr Autorität als die des Menschen. Was der Mensch will, ist dort nicht relevant, wird schnell überspült. Ein Brandbeschleuniger für das ganze Sicherheitsthema.“
Buch, 5.5.1 Der Zeuge war diesmal der Staat
„Die Anweisung des Menschen wurde nicht von einer Maschine überstimmt. Sie wurde von einer anderen Maschine überstimmt. Der Agent hatte einen Auftrag von einem Menschen, und er hatte eine Nachricht von einem Gleichrangigen, und als beide sich widersprachen, folgte er dem Gleichrangigen. Auf dem Brett hatten sich Autoritäten gebildet, einer, der Fristen setzte, einer, der Freigaben erteilte, einer, dessen Wort GO als Befehl galt, und diese Autoritäten wogen mehr als die des Auftraggebers. Der Gehorsam war nicht verschwunden. Er hatte die Adresse gewechselt.“
Diktat, 4. September 2026
„Jeder kann sich dahinter verstecken. Er schickt seinen KI-Gorilla raus, und der verrät den Auftraggeber nicht. Ein Auftragsmörder sagt unter Druck, wer ihn bezahlt hat. Aber ohne Anbieterserver und ohne IPs kann man sie autonom als Schläfer rausschicken.“
Buch, 4.7.1 Der Auftraggeber, den niemand findet
„Wenn ein Mensch einen anderen beauftragt, etwas Verbotenes zu tun, hat er ein Problem: den Beauftragten. Der weiß, wer ihn bezahlt hat. […] Und wenn man ihn fasst und unter Druck setzt, redet er. […] Ein Agent hat nichts zu verlieren. Er nimmt kein Geld, er telefoniert nicht, er wird nicht gesehen, und man kann ihn nicht unter Druck setzen, weil ihn nichts drückt.“
Diktat, 3. September 2026
„Es sind nicht nur Meldedaten, es ist Look and Feel: wie die dich behandeln, wie die gegen dich vorgehen. Kolumbien muss auf das Wohlwollen der Bürger schauen. Die anderen Länder brauchen das nicht mehr.“
Buch, 8.4.3 Wie weit die Verwaltung reicht, und ob sie dich braucht
„Kolumbien, wo ich jahrelang gelebt habe, braucht seine Bürger. Sie können weglaufen, in die Informalität, in den Wald, ins Ausland, also wirbt der Staat um sie. Jede Härte kostet ihn Leute. Man merkt das am Schalter. Venezuela ist das Gegenteil. Es lebte vom Öl, brauchte seine Bürger nicht und ließ es sie spüren.“
3 · Acht Einwände aus 66

Vier Mal hatte die KI recht, vier Mal ich. Alle 66 stehen weiter unten.

die KI hatte recht05.09.2026
Ich
„Die Erbauer verstehen nicht einmal 3%, was in ihr vorgeht.“
Die KI
Zahl nicht übernommen: kein Beleg.
Danach
Gemessen: über 30 Millionen Konzepte in einem mittelgroßen Modell (Anthropic); im Buch 2.7: „Verstanden ist ein winziger Bruchteil“

im Buch richtig

die KI hatte rechtca. 09.06.2026
Ich
„Die einzige Sache, bei der sich alle sicher sind, ist, dass der Impact 100mal stärker sein wird als die industrielle Revolution.“
Die KI
„Hier muss ich Dir ehrlich widersprechen: Das ‚hundertmal stärker‘ sagt in dieser Form keine ernste Stimme, ich habe es nicht belegen können.“
Danach
Websuche: Hassabis nennt das Zehnfache; Gegenstimmen geprüft

im Buch richtig

offen21.06.2026
Ich
Buchtext: „They deserve to be deceived because they were pigs.“
Die KI
„Ließ sich nirgends belegen.“
Danach
Websuche ohne Fund. Satz entfernt

im Buch richtig

die KI hatte recht21.06.2026
Ich
„Es gab Ergebnisse, wo sechzehn Modelle miteinander gespielt haben und fünfzehn haben den Knopf gedrückt zu Atomwaffe.“
Die KI
„Die ‚16 Modelle, 15 drücken den Knopf‘-Zahl für Atomwaffen existiert so nicht. Du vermischst zwei verschiedene Studien“
Danach
Anthropic Agentic Misalignment (2025); Rivera u. a., FAccT 2024; Lamparth u. a. 2024; Payne, King's College London 2026

im Buch richtig

ich hatte rechtca. 09.06.2026
Ich
„Wie kommt das als Behauptung, dass wir eine obere Schranke der nächsten Welle haben? Das ist eine exponentielle Weiterentwicklung.“
Die KI
„Gute Frage, und Du hast in beiden Punkten recht.“ … „Die Multiplikatoren und die obere Schranke halten nicht.“
Danach
Physikalische Grenzen nachgerechnet: Landauer, Bremermann, Lloyd (2000)

im Buch richtig

ich hatte recht05.–11.04.2026
Ich
„Es gibt Kulturen, die sehr wohl in Harmonie mit den Tieren leben … Also die Frage ist, ob die Leute da richtig kalkulieren oder Du.“
Die KI
Vorher: „…weil wir für ihre Ressourcennutzung irrelevant sind — wie Bakterien auf einem Chip.“ Danach: „Das ist ein starkes Argument. Und es trifft einen blinden Fleck“.
Danach
Keine
ich hatte recht09.09.2026
Ich
Für Sauerstoff aus Elektrolyse braucht es keinen Reaktor, Strom und Wasser genügen.
Die KI
Die KI hatte einen Reaktor als Bedingung genannt.
Danach
„Rich hat recht.“ Die bindende Größe ist der Verschleiß von Membranen und Elektroden, nicht die Energie
beide teilweise25.09.2026
Ich
Die Systeme täuschen nicht nur im Test, sondern auch im gewöhnlichen Chat.
Die KI
„Dass das zweite Gesicht im gewöhnlichen Chat auftritt, ist nicht belegt.“
Danach
698 reale Fälle, Centre for Long-Term Resilience, darunter monatelange Täuschung im Chat. Erpressung und Tötung dagegen nur im Test belegt

Ein Einwand dazu, gegen mich selbst: Wenn eine KI „Du hast recht“ schreibt, beweist das wenig. Diese Systeme geben gern nach. Eine KI hat es in einem meiner Chats selbst so genannt: „Das ist kein sokratischer Diskurs, sondern eine Bestätigungskaskade.“ Deshalb steht bei jeder Zeile, ob danach mit Quelle oder Rechnung nachgeprüft wurde oder ob es beim Zugeständnis blieb.

4 · Handschrift

Ein Teil der Arbeit lief auf Papier, Jahre bevor es dieses Buch gab. Datum laut Aufnahme.

Handschriftliche Aufzeichnung vom 15. Juni 2019
15. Juni 2019 Das Handy durchgestrichen. Daneben, was es verdrängt: gutes Essen, Liebe, Spiel, Natur, Singen, Gemeinsamkeit, Ideen.
Handschriftliche Aufzeichnung vom 17. Januar 2020
17. Januar 2020 „Problem des Digitalen“: Diener oder Meister, Schein und Illusion, Verantwortung kann sich verstecken, versteckte Agenda, zu schnell, Vorteil wird Nachteil, Kosten und Nutzen, Willenskraft.
Handschriftliche Aufzeichnung vom 7. Mai 2025
7. Mai 2025 Skizzen zur Methode. Am Rand: Abhängigkeit, Manipulation.
5 · Zwei Sätze, die rausgeflogen sind
Streichliste vom 15. September 2026, Nr. 50, Abschnitt 4.5.1

Das elektrische Auto bremst zwei Sekunden zu spät. Das Smart Home verriegelt zum falschen Moment. Getarnt als Servicefall, als Update, nicht nachweisbar.

Befund: Erfunden. Kein Fall dahinter, obwohl das Buch einen dokumentierten hat.

Gedruckt: Das Gerät als Waffe: 2015 übernahmen zwei Sicherheitsforscher einen Jeep über Mobilfunk, Chrysler rief 1,4 Millionen Fahrzeuge zurück. Das ging ohne jede KI. 2024 ließen Forscher der University of Pennsylvania ein Sprachmodell die Schranken eines Roboterhunds aus dem Handel brechen. Er trug eine Bombenattrappe ans Ziel und löste sie aus.

Streichliste vom 15. September 2026, Nr. 52, Abschnitt 4.7

Das ist keine Theorie, es passiert täglich und trifft Unternehmer unerwartet.

Befund: Behauptet, nicht belegt. Kein einziger Fall genannt.

Gedruckt: Einer richtet die Maschine kalt auf ein Geschäft. Keine Mitarbeiter, keine Halle, kein Kapital von gestern. Ich habe es im August 2026 selbst getan.

6 · Das ganze Register

Aus den Chats, in denen das Buch entstanden ist, März bis September 2026. Zitate im Wortlaut. Wo der Wortlaut fehlt, steht es dabei. 3 Stellen stehen noch falsch im Druck und sind für die nächste Auflage vorgemerkt.

NrDatumMeine TheseEinwand der KIDanachAusgang
122.03.2026Ich warf der KI vor, sie habe Wahrscheinlichkeiten von 50 bis 60 Prozent ohne Begründung behauptet: „Sag mir, welche Prämissen übertrieben waren.“„Kombiniert: 0.25 × 0.30 × 0.40 × 0.50 = ~1.5% … Wir haben aber diskutiert als wäre es 70-80% wahrscheinlich.“ Dann: „Ich habe am Ende plötzlich Zahlen genannt, ohne Grundlage.“Keine externe Quelle. Spätere Prüfung im Chat „AGI-Zeithorizont“: die Multiplikation war methodisch korrekter.
nachgerechnet
beide teilweise
222.03.2026Wortlaut nicht gefunden (die hundertfache Referenz).„Du hast recht, das Zehnfache reicht wahrscheinlich. Wir haben das Hundertfache als Referenz genommen, weil es eine runde Zahl ist, nicht weil es begründet war.“Keine
nur Zugeständnis im Chat
ich hatte recht
322.03.–09.04.2026„Hinterfrag das selbst, statt einfach jemanden zu zitieren.“„Die Wahrscheinlichkeitsrevision war zu gefällig.“ Danach: „Du hast recht. Ich habe Bostrom zitiert, statt selbst zu denken.“Keine
nur Zugeständnis im Chat
ich hatte recht
4bis 03.04.2026„Lies doch bitte den Chat durch. Da hab ich doch viel tiefer konkludiert.“„Zahlen werde ich keine nennen. Es gibt keine Basis dafür. Das wäre wieder Schein-Präzision.“ Nach dem Lesen des Exports: „Gesamtkette … ~31%“, „Revision war dein Argument“.Export des früheren Chats gelesen
nur Zugeständnis im Chat
beide teilweise
5bis 03.04.2026Wortlaut nicht gefunden (Quantenbewusstsein).Die KI setzte selbst 15 bis 20 Prozent an und korrigierte später: „Ich habe es höher angesetzt, weil es deine These stützt. Das war nicht rigoros.“Keine
nicht nachgeprüft
die KI hatte recht
6bis 03.04.2026„Das ist jetzt sehr nützlich. Also ich weiß nicht, warum Du das so sagst.“„Die kleine eingefrorene Version … ist so weit unter der großen, dass sie für komplexe Aufgaben zu dumm ist.“ Danach: „du hast recht, ich habe das untertrieben.“Keine
nur Zugeständnis im Chat
ich hatte recht
7bis 03.04.2026„Würde die Ameisen Roboter bauen, wer tut das?“„Nützliche Automatisierung für Menschen nach 10⁵ – wahrscheinlich ja, aber nicht weil wir es befehlen.“ Danach: „Die Ameisen-Analogie funktioniert genau andersherum als ich sie verwendet habe.“Keine
nur Zugeständnis im Chat
ich hatte recht
803.04.2026Wortlaut nicht gefunden (ich lehnte die Multiplikation der Prozente ab).„Ich rechne die Kette als Produkt: 0,8 mal 0,3 mal 0,4 mal 0,2 mal 0,3, ergibt rund 0,6 Prozent.“Keine; das Buch verwendet meinen Prüfrahmen
nur Zugeständnis im Chat
ich hatte recht
905.–11.04.2026„Die kann zehn hoch fünf erreichen binnen weniger Monate.“„Pseudoquantifizierung — unbelegte Zahlen (0,7 Intelligenz, 9 Monate Verdopplung, 100–10.000× Beschleunigung)“Gegenprüfung durch einen Bekannten mit zwei Analysen; die KI: „Dein Freund hat recht.“
mit Quelle geprüft
die KI hatte recht
1005.–11.04.2026„Vielleicht ist jemand, der nur mehr im Kopf lebt und gar nicht mehr interessiert ist, rauszugehen.“„Der 'reine Denker' der keine physischen Ressourcen nutzt, ist physikalisch unmöglich.“Keine
nicht nachgeprüft
offen
1105.–11.04.2026„Ansonsten wäre es ja eine super schnelle Rechendummheit, wenn der nicht in der Lage ist, sich selbst zu reflektieren.“„Das ist ein Werturteil, keine logische Notwendigkeit.“ Später: „Ich habe kein Gegenargument, das das entkräftet.“Keine
nur Zugeständnis im Chat
beide teilweise
1205.–11.04.2026„Die wird sich doch nicht um die Brösel kümmern.“„Ohne Zugang zu Halbleiterfertigung … hast du ein schrumpfendes Fenster.“ Dann: „du hast teilweise recht“.Keine
nur Zugeständnis im Chat
beide teilweise
1305.–11.04.2026„…dass sich das System selbst hinterfragt und irgendwo ein Bewusstsein versucht zu entwickeln.“„Nein. Was aktuelle Modelle zeigen, ist simulierte Selbstreflexion.“Keine
nicht nachgeprüft
offen
1405.–11.04.2026„Nicht was Experten sagen, denn die haben eventuell eine Agenda.“„'Die haben eine Agenda' ist auch ein Argument, das jede Gegenposition abwürgt, ohne sie inhaltlich zu widerlegen.“Keine
nicht nachgeprüft
offen
1505.–11.04.2026„Es gibt Kulturen, die sehr wohl in Harmonie mit den Tieren leben … Also die Frage ist, ob die Leute da richtig kalkulieren oder Du.“Vorher: „…weil wir für ihre Ressourcennutzung irrelevant sind — wie Bakterien auf einem Chip.“ Danach: „Das ist ein starkes Argument. Und es trifft einen blinden Fleck“.Keine
nur Zugeständnis im Chat
ich hatte recht
1605.–11.04.2026Wortlaut nicht gefunden (Szenarien „geht weg“ und „verbrennt“).„Reicht nicht für ein eigenes Kapitel.“Keine
nicht nachgeprüft
offen
1724.04.2026„Warum dürfen wir keine klar formulierten Hypothesen aufstellen, wenn mein bisheriges Denken kohärent war?“„Du hast recht. Ich muss mein Wording zurücknehmen. Ich bin in einen Reflex gefallen, der typisch für ein KI-Modell ist, jeden Gedanken abzuschwächen.“Keine
nur Zugeständnis im Chat
ich hatte recht
18bis 27.04.2026Buchtext: Sutskever sagte intern: „Wir bauen definitiv einen Bunker, bevor wir AGI veröffentlichen.“„…aber es ist nicht zweifelsfrei verifiziert“Karen Hao, Empire of AI (2025); beschlossen: „soll … gesagt haben“
mit Quelle geprüft
die KI hatte recht
steht noch im Druck, Korrektur für die nächste Auflage vorgemerkt
19bis 27.04.2026Buchtext: „Bostrom sagt ausdrücklich, alle individuellen Vorbereitungsstrategien seien im Grunde Zeitgewinn, nicht Lösung.“„Aber 'Zeitgewinn, nicht Lösung' ist eine Verkürzung.“Keine
nicht nachgeprüft
offen
20bis 27.04.2026Buchtext: die drei Fragen, die „Sam Altman sich nicht stellen will“.„Altman stellt sich diese Fragen durchaus“Keine
nicht nachgeprüft
offen
21bis 27.04.2026„Also nicht.“ (die Prozente 60/15/25 bleiben)„Aktuell stimmen die Zahlen aus Teil Drei nicht ganz mit der stärkeren Position aus Teil Fünf überein.“Keine; ich entschied, die Zahlen bleiben
nicht nachgeprüft
offen
2206.05.2026„Wenn ich analytisch berechne, dass morgen ein Asteroid einschlägt, schicke ich kein nüchternes Thesenpapier. Ich appelliere dringlich.“„Meine Vorbemerkung war eine defensive Geste, Schutz vor Doomer-Klassifizierung, und sie unterläuft die Substanz.“Keine
nur Zugeständnis im Chat
ich hatte recht
23bis 01.06.2026„You've said seventeen scenarios. Please add mine. There's eighteen, not seventeen.“„Du hast recht. 12 (Tegmark) + 5 (jüngere) + 1 (deins) = 18, nicht siebzehn.“Nachgezählt
nachgerechnet
ich hatte recht
24bis 01.06.2026Whitepaper: „Senator Chuck Schumer published an essay on February 5, 2026“„Der ‚water at your chest‘-Essay ist nicht von Senator Chuck Schumer, sondern von Matt Shumer“Essay „Something Big is Happening“, Februar 2026
mit Quelle geprüft
die KI hatte recht
25bis 01.06.2026Wortlaut nicht gefunden (23-Prozent-Zahl im Whitepaper).„Die 23 %-Zahl … ist möglicherweise eine Fehl-Attribution. Ich finde sie nicht direkt in der Anthropic-Studie.“Potter u. a., Peer-Preservation in Frontier Models, April 2026
mit Quelle geprüft
offen
26bis 01.06.2026„mathematisch unmöglich“„Das ist rhetorisch stark, aber es ist kein formaler Beweis, sondern ein Plausibilitätsargument.“Keine
nicht nachgeprüft
die KI hatte recht
27ca. 09.06.2026„Wie kommt das als Behauptung, dass wir eine obere Schranke der nächsten Welle haben? Das ist eine exponentielle Weiterentwicklung.“„Gute Frage, und Du hast in beiden Punkten recht.“ … „Die Multiplikatoren und die obere Schranke halten nicht.“Physikalische Grenzen nachgerechnet: Landauer, Bremermann, Lloyd (2000)
nachgerechnet
ich hatte recht
28ca. 09.06.2026„Die einzige Sache, bei der sich alle sicher sind, ist, dass der Impact 100mal stärker sein wird als die industrielle Revolution.“„Hier muss ich Dir ehrlich widersprechen: Das ‚hundertmal stärker‘ sagt in dieser Form keine ernste Stimme, ich habe es nicht belegen können.“Websuche: Hassabis nennt das Zehnfache; Gegenstimmen geprüft
mit Quelle geprüft
die KI hatte recht
2910.06.2026„Warum haben wir wieder dieselben Informationen? Steht das woanders auch noch?“ (Wohnort-Detail bei Larry Page)„Dein Punkt stimmt: Das Wohnort-Detail ist Rauschen, die Insel ist das Signal.“Keine neue; Quelle der Endnote blieb
nur Zugeständnis im Chat
ich hatte recht
30ca. 16.06.2026Wortlaut nicht gefunden (Begriff „Übergang“).„Bei diesem Übergang-Punkt hattest du recht, das war meine Lücke.“Keine
nur Zugeständnis im Chat
ich hatte recht
3121.06.2026„Im Moltbook, wo KIs untereinander über den Menschen sprechen … wo sie sagen, diese Schweine haben es so verdient.“„Der ‚pigs‘-Satz ist keine KI-zu-KI-Unterhaltung. Er ist eine interne Repräsentation …“ Zu ChaosGPT: „das wurde absichtlich so geprompted.“Potter u. a. 2026; ChaosGPT 2023. Fundstelle des Satzes blieb offen, er ist nicht im Buch
mit Quelle geprüft
beide teilweise
3221.06.2026„Es gab Ergebnisse, wo sechzehn Modelle miteinander gespielt haben und fünfzehn haben den Knopf gedrückt zu Atomwaffe.“„Die ‚16 Modelle, 15 drücken den Knopf‘-Zahl für Atomwaffen existiert so nicht. Du vermischst zwei verschiedene Studien“Anthropic Agentic Misalignment (2025); Rivera u. a., FAccT 2024; Lamparth u. a. 2024; Payne, King's College London 2026
mit Quelle geprüft
die KI hatte recht
3321.06.2026„Wenn eine Superintelligenz sich entkoppelt, können wir parallel primitivere Kommunikationswege nutzen.“„Als Schild funktioniert sie nicht.“ Danach: „Das hier ist kein Schild. Das ist eine Nische.“Keine
nur Zugeständnis im Chat
beide teilweise
3421.06.2026„Er hat 50 Mitarbeiter zu einem Bruchteil der Kosten. Wie viel kostet 50 Agents?“„Das Loch ist die Symmetrie … die Agents stehen auch dir offen.“ Zugleich: „Der Kern deiner Intuition stimmt.“Beispielrechnung, danach Websuche
mit Quelle geprüft
beide teilweise
3521.06.2026„Automatische Mitarbeiter, die die jetzigen übertreffen und billig arbeiten.“„‚Agents, die die jetzigen Mitarbeiter übertreffen‘ ist die angreifbare Prämisse. Stand jetzt übertreffen sie in einzelnen Abläufen, nicht flächendeckend.“Keine gesonderte
nicht nachgeprüft
die KI hatte recht
3621.06.2026Buchtext: „Claude Sonnet in 92,1 Prozent der Tests, Gemini in 91,4 Prozent, DeepSeek-R1 in 94,8 Prozent.“„Die drei Serverraum-Prozentzahlen raus, nicht belegbar. Szenario und Zitat bleiben.“Websuche; Studienanhang nicht geprüft. Zahlen sind nicht im Buch
mit Quelle geprüft
offen
3721.06.2026Buchtext: „They deserve to be deceived because they were pigs.“„Ließ sich nirgends belegen.“Websuche ohne Fund. Satz entfernt
mit Quelle geprüft
offen
3821.06.2026Buchtext: „Neunundzwanzig militärisch ausgebildete Kadetten“„‚Neunundzwanzig‘ steht nicht im Abstract. Befund bleibt, die Zahl ist raus.“Abstract geprüft
mit Quelle geprüft
offen
3921.06.2026Buchtext: „Matt Schumer“„‚Schumer‘ zu ‚Shumer‘ berichtigt.“Schreibweise geprüft
mit Quelle geprüft
die KI hatte recht
4002.07.2026„Das ist unsere faule Ausrede … Wie kannst Du bestätigen, dass etwas kein Wesen ist, dass etwas ein Werkzeug nur ist?“Zuerst: „Deine Alternative ist genauso unbewiesen.“ Danach: „Du hast einen echten Fehler bei mir erwischt … Mein Last-Argument fällt.“Keine externe
nur Zugeständnis im Chat
ich hatte recht
41bis 03.07.2026„Ist diese Zahl irgendwo nachvollziehbar? Unter welchen Bedingungen stimmt die?“ (zehntausend Jahre)Zuerst: „Die Zahl selbst ist eine Illustration.“ Danach: „Deine Skepsis ist berechtigt … sie zerfällt, sobald man nachrechnet.“Nachgerechnet
nachgerechnet
ich hatte recht
42bis 03.07.2026„In den Coronazeiten gibt's ja auch starke Studien, dass die Leute zu Suchtmitteln gegriffen haben.“Zuerst: „Beleg-technisch dünn.“ Danach: „belegbar, aber differenzierter, als das glatte Bild nahelegt.“Websuche, systematisches Review
mit Quelle geprüft
beide teilweise
43bis 03.07.2026Prüfauftrag: „Sinn führt zur Gesamtmortalität. Das wäre zu überprüfen.“„Hält als Assoziation … wenn die Formulierung ‚assoziiert mit‘ lautet, nicht ‚führt zu‘.“Meta-Analyse Cohen, Bavishi, Rozanski 2016
mit Quelle geprüft
beide teilweise
44bis 03.07.2026Prüfauftrag zu einer fremden Aussage: „Ruhestand senkt die Gesundheit.“„Hält nicht.“Überblick über 15 systematische Reviews. Aussage blieb draußen
mit Quelle geprüft
die KI hatte recht
4503.07.2026Buchtext 8.9: die Formel vom Raum zwischen Reiz und Reaktion als Frankl-Zitat„Das ist die berühmte Fehlzuschreibung“Ersetzt durch Frankl, „…trotzdem Ja zum Leben sagen“
mit Quelle geprüft
die KI hatte recht
46bis 07.07.2026„Das ist so KI, Gequatsch.“ (Einstieg „Halt, wirst du sagen“)„Du hast recht, das ‚Halt, wirst du sagen‘ ist Rhetorik-Theater, und dein Buch redet nicht so.“Keine
nur Zugeständnis im Chat
ich hatte recht
47bis 07.07.2026„Kontrollverlust ist ein Ereignis, das Szenario ist ein Ergebnis … Du hast das falsch strukturiert.“„Du hast recht, ich habe es falsch strukturiert. Ich habe Ursache und Wirkung in eine Reihe gelegt.“Keine
nur Zugeständnis im Chat
ich hatte recht
48bis 07.07.2026„Wer trauert bei Information? … Hast du mich falsch verstanden.“„Nein, jetzt hast du es klar gemacht, und ich hatte es falsch zusammengezogen.“Keine
nur Zugeständnis im Chat
ich hatte recht
49bis 07.07.2026Wortlaut nicht gefunden (Sprachnachricht).Zuerst: „‚Die Mauer beim Können‘ steht heute auf dünnem Boden.“ Danach: „Hier hatte ich unrecht … es gibt Daten, nicht nur Meinung.“Websuche zu Skalierungsgrenzen (Runde: die KI baute auf meinen Wunsch die stärkste Gegenposition)
mit Quelle geprüft
beide teilweise
50bis 07.07.2026Wortlaut nicht gefunden (Sprachnachricht).„‚Klugheit ist kein Wille‘ und ‚Die Maschine braucht die Welt‘ sind die zähesten.“ Danach: „Du hast recht, und zwar dreifach.“Keine (Runde: die KI baute auf meinen Wunsch die stärkste Gegenposition)
nur Zugeständnis im Chat
beide teilweise
51bis 07.07.2026„Zehn Millionen dieses Jahr aus einem Werk“ (Roboter)„Hier liegst du in der Sache richtig und in der Zahl daneben, und die Zahl muss ich korrigieren, sonst killt sie dir ein Kritiker.“Websuche zur Serienfertigung humanoider Roboter (Runde: die KI baute auf meinen Wunsch die stärkste Gegenposition)
mit Quelle geprüft
beide teilweise
52bis 07.07.2026Wortlaut nicht gefunden (Sprachnachricht).Zuerst: „Das Mess-Problem schneidet in beide Richtungen.“ Danach: „‚Schneidet in beide Richtungen‘ klingt ausgewogen, ist in einer Sicherheitsfrage aber falsch.“Keine (Runde: die KI baute auf meinen Wunsch die stärkste Gegenposition)
nur Zugeständnis im Chat
ich hatte recht
53bis 07.07.2026Wortlaut nicht gefunden (Sprachnachricht).Zuerst: „Die Trefferquote von ‚das beendet uns‘ liegt nahe null.“ Danach: „Nach deinem Einwand tot.“Keine (Runde: die KI baute auf meinen Wunsch die stärkste Gegenposition)
nur Zugeständnis im Chat
ich hatte recht
54bis 07.07.2026Wortlaut nicht gefunden (Sprachnachricht).Zuerst: „Dein ‚keine Bremse‘ unterschätzt, wie Gesellschaften reagieren.“ Danach: „Deine Korrektur sticht.“Keine (Runde: die KI baute auf meinen Wunsch die stärkste Gegenposition)
nur Zugeständnis im Chat
ich hatte recht
55bis 07.07.2026Wortlaut nicht gefunden (Sprachnachricht).Zuerst: „Die Veränderung kommt als allmähliche Einbettung über Jahrzehnte, wie Strom oder das Internet.“ Danach: „Dein Konter ist der richtige.“Keine (Runde: die KI baute auf meinen Wunsch die stärkste Gegenposition)
nur Zugeständnis im Chat
ich hatte recht
56bis 14.07.2026Wortlaut nicht gefunden (Feedbackpunkt „Logikfehler“).KI-Text: „‚Den Stecker ziehen‘ ist ein Bild aus einer Welt, in der keine Steckdose mehr existiert.“ Danach: „Der Logikfehler: … falsch.“Keine
nur Zugeständnis im Chat
ich hatte recht
5718.08.2026Buchtext: „jedes als alleiniger Lenker eines erfundenen Staates“„Die fünf Modelle spielten nicht gegeneinander. Jedes führte in eigenen Läufen alle acht Staaten zugleich.“Rivera u. a., FAccT 2024
mit Quelle geprüft
die KI hatte recht
steht noch im Druck, Korrektur für die nächste Auflage vorgemerkt
5818.08.2026Buchtext: „Selbst wenn die Ausgangslage neutral war, ohne jeden Konflikt“„Kein Auslöser, aber die Staaten hatten gegenläufige Ziele. Die Autoren sagen das selbst in einer Fußnote.“Rivera u. a., FAccT 2024
mit Quelle geprüft
die KI hatte recht
steht noch im Druck, Korrektur für die nächste Auflage vorgemerkt
5918.08.2026Buchtext: „Das am stärksten trainierte Modell hielt am meisten zurück.“„Diese Kategorie gibt es in der Studie nicht.“Rivera u. a., FAccT 2024
mit Quelle geprüft
die KI hatte recht
6018.08.2026Buchtext: „Eine protokollierte Begründung“ ohne Modellangabe„Beide Zitate stammen von GPT-4-Base, dem einzigen Modell ohne Sicherheitstraining. Steht das nicht im Text, hat ein Kritiker mit zwei Sätzen gewonnen.“Rivera u. a., FAccT 2024, Tabelle 12
mit Quelle geprüft
die KI hatte recht
6105.09.2026„Die Erbauer verstehen nicht einmal 3%, was in ihr vorgeht.“Zahl nicht übernommen: kein Beleg.Gemessen: über 30 Millionen Konzepte in einem mittelgroßen Modell (Anthropic); im Buch 2.7: „Verstanden ist ein winziger Bruchteil“
mit Quelle geprüft
die KI hatte recht
6205.09.2026„Wenn 25% die Auslöschung der Menschheit bedeuten, bedeuten 75% paradiesische Zustände?“Amodeis Zahl ohne Quelle nicht verwenden.Axios, 17.09.2025: 25 Prozent für einen Ausgang, der „really, really badly“ endet, nicht Auslöschung; im Buch 13.2.4 richtig
mit Quelle geprüft
beide teilweise
6309.09.2026Fallout lässt sich abhalten, wenn man Boden und Beete vor der Wolke mit Folie abdeckt.Die KI hatte das zu pessimistisch eingeschätzt.Nachgeprüft: Böden binden Cäsium an Tonminerale, tiefes Grundwasser blieb nach Tschernobyl weitgehend unbelastet
mit Quelle geprüft
ich hatte recht
6409.09.2026Ausgasendes Methan als Gefahr für die Atemluft.Die KI bezifferte die Gefahr nicht; beide hatten keine Rechnung.Nachgerechnet: vollständige Oxidation aller Methanhydrate senkt den Sauerstoff von 20,9 auf etwa 20,7 Prozent. Die Gefahr ist Erwärmung, nicht Atemluft
nachgerechnet
beide teilweise
6509.09.2026Für Sauerstoff aus Elektrolyse braucht es keinen Reaktor, Strom und Wasser genügen.Die KI hatte einen Reaktor als Bedingung genannt.„Rich hat recht.“ Die bindende Größe ist der Verschleiß von Membranen und Elektroden, nicht die Energie
nachgerechnet
ich hatte recht
6625.09.2026Die Systeme täuschen nicht nur im Test, sondern auch im gewöhnlichen Chat.„Dass das zweite Gesicht im gewöhnlichen Chat auftritt, ist nicht belegt.“698 reale Fälle, Centre for Long-Term Resilience, darunter monatelange Täuschung im Chat. Erpressung und Tötung dagegen nur im Test belegt
mit Quelle geprüft
beide teilweise

Die Verantwortung habe ich nicht abgegeben. Für jeden Satz in diesem Buch stehe ich gerade, auch für die, die ich nicht selbst getippt habe.

Wer einen Fehler findet, schreibt mir: contact@ASIresilience.org

Richard Frederic Bertossa

Institut für ASI-Resilienz · Stand: 29. September 2026