Der Artikel ohne Fokus auf die Personen, nur auf die Struktur:
”Ohne Fahrer
Wie die KI-Industrie gebaut ist, um nicht kontrollierbar zu sein
Im Frühjahr 2019 nahm Microsoft 13 Milliarden Dollar und kaufte sich damit etwas, das es formal nicht kaufen kann: Einfluss auf ein Unternehmen das sich als gemeinnützige Stiftung beschreibt. Die Konstruktion war kreativ. OpenAI hatte eine Profit-Tochter gegründet, deren Rendite gedeckelt war — “capped profit” nannten sie das. Microsoft investierte in die Tochter, nicht in die Mutter. Die Mutter kontrollierte die Tochter. Und die Mutter kontrollierte nichts, das sich in Dollar ausdrücken ließ.
Was folgte, war keine Geschichte über Verrat. Es war die erwartbare Entfaltung einer Kapitalstruktur, die von Anfang an zwei inkompatible Logiken in einer Hülle eingesperrt hatte.
Die Nonprofit-Logik sagt: Wir entwickeln KI zum Wohl der Menschheit, Gewinne sind Mittel zum Zweck. Die Investorenlogik sagt: 13 Milliarden Dollar erwarten Rendite, Skalierung ist Pflicht. Diese beiden Sätze können nicht gleichzeitig wahr sein, wenn Kapital knapp ist und Entwicklungsgeschwindigkeit Geld kostet. Die Frage war nie ob der Konflikt aufbrechen würde. Die Frage war nur wann.
Boards in founder-led Tech-Unternehmen sind eine besondere Konstruktion. Sie bestehen typischerweise aus Menschen die dem Gründer etwas verdanken, mit dem Gründer befreundet sind, oder vom Gründer ausgewählt wurden weil sie das Unternehmen verstehen — was bedeutet, dass sie dessen Prämissen teilen. Strukturell ist das kein Kontrollgremium. Es ist ein Beratungsgremium mit Veto-Fiktion. Das Veto funktioniert genau einmal, weil die Reaktion der Investoren auf eine Board-Entscheidung gegen den Gründer die Machtfrage sofort neu stellt: Wer hält das Kapital, wer hält die Mitarbeiter, wer hält die Verträge?
Das hat nichts mit den Charakteren der Beteiligten zu tun. Es ist die Mechanik jeder Struktur dieser Art, in jeder Branche, in jeder Dekade.
Parallel dazu entwickelte sich, was man intern Safety-Apparat nannte. Die besten Forscher aus akademischen Institutionen, aus Anthropic, aus DeepMind, wurden geworben — mit der Aussicht, an dem Problem zu arbeiten das sie für das wichtigste der Menschheitsgeschichte hielten. Das Superalignment-Team bekam zwanzig Prozent der verfügbaren Rechenkapazität versprochen. Eigene Abteilung. Eigenes Budget. Die Botschaft: Hier könnt ihr das Problem lösen, ohne die Kompromisse die anderswo nötig wären.
Diese Konstruktion erfüllte mehrere Funktionen gleichzeitig. Sie ermöglichte tatsächliche Safety-Forschung — das soll nicht bestritten werden. Aber sie erfüllte auch andere Funktionen, unabhängig von den Absichten der Beteiligten: Sie senkte Recruiting-Kosten für Spitzenforscher, die ohne dieses Versprechen nicht gewechselt hätten. Sie erhöhte die politische Legitimität gegenüber dem Kongress, der regulieren wollte. Sie schuf ein Signal an Investoren, dass das Unternehmen die Risiken seiner eigenen Technologie ernst nimmt — was Vertrauen erzeugt und damit Kapitalzugang erleichtert.
Iain Leike, einer der leitenden Safety-Forscher, beschrieb das Superalignment-Versprechen nach seinem Abgang als “pretty effective retention tool.” Er meinte das als Kritik. Als Strukturbeschreibung ist es präzise: Das System hatte Safety-Versprechen in Wettbewerbsvorteile konvertiert. Ob die Versprechen eingehalten wurden, war für diese Funktion irrelevant.
Als die Rechenkapazität dann unter Druck der Skalierungsagenda umverteilt wurde, war das kein Verrat an einer Vision. Es war die Auflösung eines Widerspruchs der immer da war. Zwischen dem Versprechen an die Forscher und der Pflicht gegenüber dem Kapital konnte nur eines gewinnen, und die Kapitalstruktur hatte das Ergebnis vorherbestimmt.
Im Hintergrund läuft seit Jahren eine Entwicklung die alle anderen überlagert: Das Verhältnis zwischen den USA und China in der KI-Entwicklung hat die Logik eines Rüstungswettlaufs angenommen, auch wenn niemand das so nennt. Compute-Überlegenheit gilt als strategische Ressource. Wer langsamer entwickelt, riskiert nicht nur Marktanteile — er riskiert geopolitischen Bedeutungsverlust.
Unter diesen Bedingungen wird Safety strukturell nachrangig, unabhängig von den Werten der handelnden Personen. Nicht weil niemand es ernst nähme, sondern weil ein Unternehmen das Safety priorisiert und deshalb langsamer entwickelt, in einer Welt die Geschwindigkeit belohnt, mittelfristig die Ressourcen verliert auch Safety zu betreiben. Das ist kein Zynismus. Es ist ein Gefangenendilemma, das kein einzelner Akteur allein auflösen kann.
Regulierung könnte das ändern — wenn sie verbindlich wäre, global koordiniert, und schneller als die Technologie selbst. Keine dieser Bedingungen ist erfüllt.
Dario Amodei hat OpenAI verlassen und Anthropic gegründet — mit explizitem Safety-Fokus, mit einer anderen Unternehmensstruktur, mit der Überzeugung, es besser machen zu können. Anthropic nimmt heute Geld von Google. Anthropic hat seine eigene Scaling Policy verwässert. Claude, das Sprachmodell von Anthropic, wurde für eine CIA-Operation lizenziert. Amodei ist kein Heuchler. Er operiert in derselben Struktur wie alle anderen, mit denselben Kapitalzwängen, denselben geopolitischen Drücken, denselben Anreizen.
Das ist der Punkt an dem der Bericht eigentlich interessant werden müsste: Wenn jeder der das System verlässt um etwas Besseres zu bauen, am selben Punkt landet — was sagt das über das System? Nicht über die Personen.
Die Antwort liegt nicht in San Francisco. Sie liegt in der Frage welche Gesetze es gibt, die Compute-Konzentration regulieren. Welche internationalen Abkommen KI-Entwicklungsgeschwindigkeit verbindlich begrenzen könnten. Welche demokratischen Institutionen schnell genug entscheiden um mit technologischer Entwicklung Schritt zu halten — und warum sie das strukturell nicht können, weil demokratische Verfahren auf deliberativer Trägheit aufgebaut sind, die im 20. Jahrhundert als Feature galt.
Diese Fragen haben keine Protagonisten. Sie haben keine Szene auf einer Superyacht. Sie lassen sich nicht mit Ja oder Nein beantworten.
Das ist vermutlich der Grund warum sie nicht gestellt werden.”
Bei Jens Spahn wird mir das schwer fallen. Den will ich gerne im Knast sehen, aber versuche wir es mal:
”
Der Staat als Beute
Was übrig bleibt, wenn man die Maskenaffäre ohne Protagonisten betrachtet
Im März 2020 tat das Bundesgesundheitsministerium etwas, das es so noch nie getan hatte: Es rief ein Beschaffungsverfahren aus, das jedem Anbieter einen festen Preis garantierte — 4,50 Euro pro Maske — ohne Ausschreibung, ohne Qualifikationsprüfung, ohne Mengenbegrenzung. Offenes Haus hieß das Verfahren. Wer fristgerecht liefern konnte und den Preis akzeptierte, bekam einen Vertrag. In wenigen Tagen entstanden 738 Verträge mit einem Gesamtvolumen von über 6,4 Milliarden Euro.
Das war kein Fehler im System. Das war das System unter Bedingungen, für die es nicht gebaut war.
Die erste Struktur ist die älteste: Es gab keine Reserve. Der Nationale Pandemieplan von 2016 empfahl eine vorsorgliche Beschaffung von Schutzausrüstung. Ein Planspiel von 2012 hatte durchgespielt was passiert wenn eine Pandemie die Lieferketten trifft. Beides ohne Konsequenz. Nicht weil irgendjemand entschieden hätte, keine Reserve zu bauen — sondern weil Reserven im Haushalt Geld kosten ohne sichtbaren Output zu produzieren, und weil die politische Ökonomie von Haushaltsverhandlungen systematisch gegen Ausgaben ohne kurzfristigen Nutzen arbeitet. Jeder Finanzminister der je eine Schutzausrüstungsreserve gestrichen hat, hat rational gehandelt. Das Ergebnis war eine Lücke, die im März 2020 mit jedem Mittel gefüllt werden musste.
Die zweite Struktur ist die des Notstandsrechts. Das Vergaberecht hat Ausnahmetatbestände für Krisen — sie erlauben schnelles Handeln ohne die normalen Kontrollmechanismen. Diese Ausnahmen sind nicht prinzipiell falsch; sie existieren weil Bürokratie in echten Notlagen töten kann. Aber sie schaffen ein Zeitfenster in dem der Staat als Käufer operiert, ohne die Schutzmechanismen die ihn normalerweise vor Übervorteilung bewahren. Ausschreibungspflicht, Qualitätsprüfung, Referenzanforderungen, Preisprüfung — alles entfällt. Was bleibt, ist ein Käufer mit unbegrenztem Budget und ohne Marktvergleich.
Das ist für jeden Anbieter eine strukturell außergewöhnliche Situation. Nicht weil Anbieter böse sind, sondern weil Märkte das ausnutzen was ausgenutzt werden kann. Haarverlängerungsstudios boten Masken an, Immobilienmakler boten Masken an, Unternehmensberater boten Masken an — weil der Staat signalisiert hatte, er kaufe alles zu einem Preis der weit über dem Weltmarktpreis lag. Das ist kein moralisches Versagen von Haarverlängerungsstudios. Das ist Preissignal-Reaktion.
Die dritte Struktur ist die des Netzwerkzugangs als Ressource. Das offene Haus-Verfahren war formal offen — aber nicht jeder wusste von ihm. Wer früh informiert war, wer Kontakte ins Ministerium hatte, wer in den richtigen Netzwerken saß, konnte früher agieren als andere. Information ist in Krisen knapp und ungleich verteilt. Kontakte zu Ministerien sind eine Ressource die sich in normalen Zeiten langsam aufbaut und in Krisen schlagartig monetarisiert. Das ist nicht Korruption im engeren Sinne — es ist die normale Funktion von politischen Netzwerken unter extremen Anreizen.
Die vierte Struktur ist die der Haftungsasymmetrie. Gewinne aus dem Maskengeschäft flossen privat. Verluste — Überbeschaffung, Qualitätsmängel, Lagerkosten, Vernichtungskosten, Prozesskosten — trägt der Steuerzahler. Der Bundesrechnungshof hat das quantifiziert: 5,8 Milliarden Masken für 5,9 Milliarden Euro, davon 1,7 Milliarden verteilt, mehr als die Hälfte bereits vernichtet. Folgekosten bis 2024 bereits über 517 Millionen Euro, weitere Lager-, Logistik- und Rechtskosten bis 2027 prognostiziert, rund 100 Klagen mit 2,3 Milliarden Streitwert noch anhängig.
Diese Asymmetrie ist nicht zufällig. Sie ist das Ergebnis einer Risikostruktur die der Staat in der Krise selbst erzeugt hat: Er hat Abnahmegarantien gegeben ohne Abnahmeprüfung, Preise fixiert ohne Marktvergleich, Vertragsabschlüsse delegiert ohne klare Haftungsketten. Das OLG Köln hat dem Ministerium in einem Berufungsverfahren eine Niederlage beschert weil eine Bedingung in der Ausschreibung nichtig war — das Ministerium hatte versucht, aus Verträgen zurückzutreten die es selbst so formuliert hatte.
Die fünfte Struktur ist die der parlamentarischen Kontrolle im Ausnahmefall. Der Bundestag hat Kontrollrechte — Anfragen, Ausschüsse, Rechnungshofberichte. All das funktioniert mit Verzögerung. Eine Enquete-Kommission, die im Dezember 2025 tagt um die Ereignisse von März 2020 aufzuarbeiten, kommt fünf Jahre zu spät um irgendetwas zu verhindern. Der Bundesrechnungshof kann rügen, aber nicht sanktionieren. Niemand hat die institutionelle Macht, die Verantwortlichen in Echtzeit zu stoppen.
Und niemand ist haftbar. Das ist die sechste und stabilste Struktur: Der Staat haftet nicht für seine Entscheidungsträger, Entscheidungsträger haften nicht persönlich für Entscheidungen die im Rahmen ihrer Befugnisse lagen, und “Rahmen der Befugnisse” wird im Notstand weit interpretiert. Der Bundesrechnungshof hat “massive Überbeschaffung”, “blamabel schlechte Dokumentation”, und Überdehnung von Ausnahmetatbeständen festgestellt. Persönliche Konsequenzen: keine.
Der Sudhof-Bericht — von der Nachfolgeregierung als Aufklärungsinstrument in Auftrag gegeben — ist fertig und wird zurückgehalten, weil laufende Prozesse eine Veröffentlichung angeblich unmöglich machen. Die Dokumente die den Beschaffungsvorgang dokumentieren sollten wurden nachträglich zu Verschlusssachen erklärt. Der Bundesrechnungshof sieht dafür keine tragfähigen Gründe. Ob das strukturelles Versagen ist oder intentionale Opacity — die Funktion ist dieselbe: Die Kostenkette ist nicht rekonstruierbar, die Entscheidungskette ist nicht transparent, die Verantwortung verteilt sich auf ein Ministerium.
Das ist kein Skandal im Sinne einer Abweichung. Das ist das normale Ergebnis einer Struktur die im Ausnahmefall die Kontrollmechanismen aussetzt, Haftung sozialisiert, Gewinne privatisiert, und anschließend die Aufarbeitung durch dieselben Institutionen betreibt die ein Interesse an Intransparenz haben.
Der nächste Pandemie-Notfall wird dieselbe Struktur aktivieren. Mit anderen Personen, denselben Ergebnissen.”
