Das ist, zugespitzt, die These von Cory Doctorows The Reverse Centaur’s Guide to Life After AI.
Der Scam geht so: Deinem Chef wird eine KI verkauft, die angeblich deine Arbeit übernehmen kann. Also entlässt er einen Teil der Belegschaft. Ganz ohne Menschen funktioniert die KI dann aber doch nicht. Jemand muss ihre Fehler erkennen, ihre Ergebnisse kontrollieren, die Sonderfälle bearbeiten und den Kopf hinhalten, wenn etwas schiefgeht. Dieser Mensch bist weiterhin du – nur unter höherem Druck, mit weniger Kollegen und womöglich für weniger Geld.
Doctorow nennt diesen Menschen einen „Reverse Centaur“.
Ein Zentaur hat den Kopf, die Arme und den Oberkörper eines Menschen, darunter aber den kräftigen Körper eines Pferdes. Für Doctorow ist das ein Bild für gute Technik: Die Maschine verleiht dem Menschen zusätzliche Kraft, aber der Mensch bestimmt, wohin es geht. Ein Fahrrad macht seinen Fahrer schneller. Ein Hörgerät erweitert das Hörvermögen. Ein Taschenrechner nimmt einem das Multiplizieren ab. In all diesen Fällen benutzt der Mensch die Maschine für seine Zwecke.
Beim Reverse Centaur ist das Verhältnis umgekehrt. Die Maschine gibt Richtung, Tempo und Regeln vor. Der Mensch wird zu ihrem Hilfsorgan und erledigt genau jene Dinge, zu denen sie selbst nicht in der Lage ist.
Doctorows anschaulichstes Beispiel ist die Pralinenfabrik aus I Love Lucy: Das Fließband transportiert die Pralinen, Lucy und Ethel müssen sie einpacken. Je schneller das Band läuft, desto hektischer müssen sie arbeiten. Nicht die Arbeiterinnen benutzen die Maschine – die Maschine benutzt die Arbeiterinnen.
In den 2010er Jahren konnte man diese Art von Herrschaft noch für ein Problem der Plattformökonomie halten. Uber-Fahrer folgten den Anweisungen einer App, Amazon-Arbeiter dem Takt des Warenlagers. In den 2020er Jahren kommt dasselbe Prinzip im Büro an. Nun sollen Programmierer den Code einer Maschine beaufsichtigen, Radiologen ihre Diagnosen abnicken und Autoren ihre Textproduktion beschleunigen. Plötzlich erfahren auch Menschen, die sich bislang als Bediener ihrer Werkzeuge verstanden haben, wie es ist, selbst zum bedienten Teil eines technischen Systems zu werden.
Genau deshalb passt der Reverse Centaur so gut in diese Zeit. Er ist die Figur für den Übergang vom KI-Assistenten zum KI-Vorgesetzten. Die Maschine kann die Arbeit nicht allein erledigen, aber sie kann die Arbeit so organisieren, dass der Mensch nur noch ihre Lücken füllt. Und weil die Maschine angeblich den Hauptteil leistet, erscheint auch der Mensch, ohne den sie nicht funktioniert, plötzlich als weniger wertvoll.
Bei Doctorow wird der Programmierer deshalb nicht unbedingt durch eine KI ersetzt. Stattdessen soll er immer größere Mengen maschinell erzeugten Codes kontrollieren. Der Radiologe verschwindet ebenfalls nicht vollständig aus dem Krankenhaus. Er soll im Akkord die Diagnosen eines Systems bestätigen, das meistens richtigliegt – bis es einen schwer erkennbaren Fehler macht. Übersieht der Mensch diesen Fehler, haftet nicht die Maschine. Dann heißt es, der Mensch habe bei der Kontrolle versagt.
Der Mensch bleibt also „in the loop“. Aber nicht, weil man seinem Urteil vertraut, sondern weil jemand die Verantwortung übernehmen muss. Doctorow nennt ihn eine Haftungssenke.
Doctorow stellt konsequent die Machtfrage. Nicht: Ist KI gut oder schlecht? Sondern: Wer entscheidet, ob und wie sie eingesetzt wird? Wem erleichtert sie die Arbeit? Wer bekommt den Produktivitätsgewinn? Wer muss sich ihrem Tempo anpassen? Und wer trägt die Verantwortung, wenn sie versagt?
Diese Fragen erklären auch, warum manche Menschen von ihren KI-Werkzeugen begeistert sind, während andere sie als Zumutung erleben. Wer selbst entscheidet, wann, wo und wofür er eine Maschine benutzt, ist Doctorows Zentaur. Wem dieselbe Technik von oben aufgezwungen wird, der wird womöglich ihr Reverse Centaur. Der Unterschied liegt nicht zuerst in der Software, sondern im Machtverhältnis.
Doctorows Buch erscheint in einem Moment, in dem sich der KI-Boom nicht mehr allein durch technische Vorführungen am Leben halten lässt. Seit ChatGPT Ende 2022 öffentlich einschlug, haben die großen Technologieunternehmen ungeheure Summen investiert. Damit daraus ein Geschäft wird, genügt es nicht, dass Menschen gelegentlich für einen Chatbot bezahlen. Die Systeme müssen Arbeit ersetzen, Kosten senken und ganze Unternehmen produktiver machen. Jedenfalls müssen Manager das glauben.
An sie richtet sich deshalb das große Versprechen der KI-Industrie: Mit unserer Software kannst du dasselbe Unternehmen mit sehr viel weniger Menschen betreiben.
Für Doctorow ist dieses Versprechen nicht bloß eine Prognose, die sich später als zu optimistisch herausstellen könnte. Es verändert die Arbeitswelt schon jetzt. Unternehmen bauen Stellen ab, führen KI-Ziele ein und bewerten Beschäftigte danach, wie häufig sie die neuen Systeme benutzen. Die behauptete Automatisierung wird damit durch menschlichen Zwang hergestellt. Wenn die KI die versprochene Produktivität nicht von selbst erreicht, müssen die Beschäftigten eben schneller arbeiten, ihre Fehler auffangen und ihren Einsatz in immer neuen Kennzahlen dokumentieren.
Sehr lesenswert ist in diesem Zusammenhang Doctorows Begriff des „criti-hype“. Damit meint er eine Kritik, die unfreiwillig das Marketing der KI-Industrie übernimmt. Die Unternehmen behaupten, ihre Systeme könnten bald sämtliche menschliche Arbeit erledigen. Ihre Kritiker warnen, dieselben Systeme könnten bald die Menschheit unterwerfen. Beide Seiten erzählen damit zunächst dieselbe Geschichte: Diese Technik sei beinahe allmächtig und ihre weitere Entwicklung unausweichlich.
Das ist für die Industrie ausgesprochen praktisch. Wer vor einer übermenschlichen KI warnt, bestätigt schließlich, dass hier keine gewöhnliche Software verkauft wird, sondern die mächtigste Erfindung der Menschheitsgeschichte. Die Warnung wird zum Leistungsversprechen.
Doctorow traut der KI sehr viel weniger zu – und den Menschen, die sie verkaufen, sehr viel mehr. Seine Frage lautet nicht, was eine zukünftige Superintelligenz mit uns anstellen könnte. Ihn interessiert, was Unternehmen heute mit der Behauptung anstellen, eine solche Intelligenz stehe kurz bevor.
Das Buch ist deshalb keine Abrechnung mit KI an sich. Doctorow beschreibt eine Menge sinnvoller Anwendungen, besonders bei Werkzeugen, die lokal laufen und ihren Nutzern tatsächlich gehören. Eine KI kann ein gutes Werkzeug sein. Aber ein Werkzeug ist sie nur, solange der Mensch entscheiden kann, ob er es benutzt, wofür er es benutzt und wann er es wieder weglegt.
Wer sich für KI interessiert, aber von der ewigen Debatte zwischen Paradies und Weltuntergang müde ist, sollte dieses Buch lesen. Doctorow holt das Thema aus der Zukunft zurück in die Gegenwart: an den Arbeitsplatz, auf die Gehaltsabrechnung und in die Auseinandersetzung darüber, wer hier eigentlich über wen bestimmt.
Die KI-Industrie will deinen Chef scammen, dass er ohne dich kann. Doctorow erklärt, warum er dich anschließend trotzdem noch braucht – nur mit weniger Macht, weniger Geld und mehr Verantwortung.
