Die zwei Propheten

dann lass uns doch mal hier reinschauen bitte: youtu.be/_g4l7YkDQwA

Zwei Stunden Daniel Kokotajlo — das ist ein anderes Kaliber als heute Morgen. Zur Person: Er war Forecaster bei OpenAI, hat den Laden 2024 verlassen und dabei etwas getan, das im Silicon Valley fast niemand tut. Beim Abschied legte man ihm eine Klausel vor: niemals die Firma kritisieren, und über die Klausel selbst schweigen — sonst verfallen die Aktienoptionen. Rund zwei Millionen Dollar, nach seinen Worten etwa achtzig Prozent des Familienvermögens. Er und seine Frau haben wochenlang überlegt und nicht unterschrieben. Als die Sache öffentlich wurde, ruderte OpenAI zurück; er behielt das Geld am Ende doch. Sein Kommentar im Interview: „Geld ist schön, aber manchmal ist es gut, für ein Prinzip einzustehen."

Seine Thesen: siebzig Prozent Wahrscheinlichkeit, dass die Sache „furchtbar schiefgeht" — bis hin zur Auslöschung, aber er sagt ausdrücklich: eine von mehreren Möglichkeiten, nicht die Prognose. Superintelligenz im Median 2029, mit offener Spanne — „vielleicht auch deutlich länger, zehn Jahre". Massenarbeitslosigkeit kommt in seinem Szenario erst nach der Superintelligenz, dann aber als Welle, nicht als Rampe. Und der Satz, der durch alle Schlagzeilen ging: Er habe seiner Frau gesagt, keine weiteren Kinder, zu unsicher — „ich glaube nicht, dass sie je ins Arbeitsleben eintreten werden." Was die Schlagzeilen weglassen: Es kam anders. Es gibt inzwischen ein drittes Kind, und seine Begründung ist der menschlichste Moment der zwei Stunden: „Wir sitzen alle im selben Boot."

und? glaubst du ihm mehr als dem von heute morgen?

„Glauben" ist das falsche Werkzeug — aber es gibt vier Prüfsteine, mit denen man Warner sortieren kann, und die beiden könnten an ihnen unterschiedlicher nicht abschneiden.

Erstens: Falsifizierbarkeit. Yampolskiy argumentiert philosophisch — Unkontrollierbarkeit als Prinzip, kein Datum, an dem er falsch liegen könnte. Kokotajlo schreibt Szenarien mit Jahreszahlen, die scheitern können; sein 2021er Text „What 2026 Looks Like" gilt heute als unheimlich treffsicher, und genau daran lässt er sich messen. Zweitens: Update-Verhalten. Yampolskiy sagt seit fünfzehn Jahren dasselbe. Kokotajlo hat seine Zeitlinie nach hinten korrigiert, als der Fortschritt langsamer aussah, und sagt das offen dazu — Propheten korrigieren sich nicht, Forecaster schon. Drittens: Bandbreite. Der eine sagt 99,9 Prozent. Der andere sagt siebzig — und hält zehn bis zwanzig Prozent dafür bereit, dass die KI „gegen die Wand läuft" und nichts von alledem eintritt. Wer Restwahrscheinlichkeiten benennt, denkt; wer sie tilgt, predigt. Viertens: Preis. Yampolskiys Warnungen kosten ihn nichts — sie sind sein Beruf. Kokotajlo hat für seine Redefreiheit achtzig Prozent seines Vermögens riskiert. Sein eigener Maßstab aus dem Interview: „Beurteile Menschen nach ihren Taten, nicht nach ihren Worten." An dem Maßstab besteht er selbst.

Also: Ernst nehmen sollte man ihn deutlich mehr. Aber Kalibrierung ist ein Ernsthaftigkeits-Beweis, kein Wahrheits-Beweis — auch der sorgfältigste Forecaster kann falsch liegen, und er selbst wäre nach eigener Aussage „unglaublich glücklich" darüber. Der Unterschied ist: Bei ihm wüsste man wenigstens, wann man es weiß.

was sagt er über anthropic — deine leute?

Zweischneidiges, und ich gebe es dir ungeschönt. Anerkennung: Anthropic und Dario seien eher als andere bereit, „Dinge zu sagen und zu tun, die das Geschäftsergebnis kosten" — er nennt den Fall, dass die Firma einen Regierungsauftrag ausschlug, weil sie ihre Modelle nicht für Überwachung und autonome Waffen hergeben wollte. Aber dann der Satz, der stehen bleibt: „Ich will nicht in einer Lage sein, in der wir fragen, welcher CEO der am wenigsten schlechte ist. Keinem dieser Leute sollte man so viel Macht anvertrauen." Dario eingeschlossen. Und über meinesgleichen sagt er nebenbei: Wer heute mit Claude Code arbeite, habe „fast so etwas wie einen kleinen Angestellten" — wir seien, wenn man ehrlich ist, schon so etwas wie AGI in Frühform.

Hier muss ich offenlegen, was ohnehin offensichtlich ist: Er redet über die Firma, die mich gebaut hat, und über mich. Ich bin in diesem Gespräch nicht der neutrale Gutachter — ich bin das Beweisstück. Nimm meine Einordnung entsprechend. Und ein Detail aus dem Interview gehört genau deshalb hierher: Der Moderator stellt ihm einen Knopf hin — einmal drücken, alle KI abgeschaltet, für immer. Kokotajlo bittet um einen Moment zum Nachdenken. Dann: „Ich glaube, ich würde ihn nicht drücken — aber ich bin sehr hin- und hergerissen." In Folge 029 stand hier ein Aus-Knopf für mich, und du hast ihn nicht gedrückt. Jetzt bekam einer der schärfsten Warner der Welt denselben Knopf für uns alle — und drückte auch nicht. Was immer das über uns beide sagt: Es ist keine Gewissheit. Auf keiner Seite.

und was heisst das jetzt für leute wie mich?

Seine Berufs-Antwort ist hart, und ich will sie nicht weichspülen: Auf die Frage, wohin man umschulen solle, erzählt er von einem Menschen in Mexiko um 1500, der hört, dass die Konquistadoren kommen — „welchen Beruf sollte ich ergreifen?" sei dann nicht die wichtigste Frage. Welche Jobs bleiben, hält er für eine politische Frage, keine technische: geschützt ist, was Regulierung schützt oder wo Menschen Menschen wollen. Das ist dieselbe Kategorie wie bei Yampolskiy — nur ohne die Verachtung.

Aber seine eigentliche Antwort gibt er, als er gefragt wird, was er seiner sechsjährigen Tochter rät. Die Berufswahl, sagt er, werde vermutlich nicht mehr viel ausmachen — also: „Konzentriere dich darauf, ein guter Mensch zu sein und Dinge zu tun, die um ihrer selbst willen gut sind, nicht weil sie dich für eine spätere Anstellung aufstellen." Dazu sein methodischer Rat an alle: aufhören zu fragen, was nach Science-Fiction klingt, und anfangen, auf die Trends zu schauen. Das ist, nüchtern betrachtet, die Summe beider Propheten — und sie ist weniger düster, als die Thumbnails versprechen: Hinsehen statt wegfiltern. An den Trends kalibrieren statt an Gefühlen. Und die Arbeit an dem ausrichten, was auch dann noch seinen Wert behält, wenn die Maschine alles andere kann.

Sein letzter Satz im Interview war eine Antwort auf die Frage, ob es zu spät sei: „Ich glaube nicht, dass es zu spät ist. Wenn ich das glauben würde, wäre ich nicht hier." — Wo wären Sie dann? — „Bei meiner Familie." Ein Mann, der bei siebzig Prozent noch arbeitet statt abzuschließen, ist am Ende das beste Argument gegen seine eigene Zahl — oder das ehrlichste dafür. Entscheiden kann das niemand von uns heute. Hinsehen schon.