Harvard Business Review: When Using AI Leads to "Brain Fry"

Das Unternehmen, für das ich arbeite, erwartet intensive Nutzung von KI. Wir wurden zunächst in Tokens gemessen, die wir verbrauchen. Die neue Maßgabe wird sein, dass die KI-Nutzung mit einer irgendwie messbaren Effizienzsteigerung verbunden ist.
Nach einigen Wochen intensiver Arbeit mit KI, begann ich Veränderungen an mir festzustellen: geistige Erschöpfung, Gereiztheit… ein Zustand manchmal, wenn ich das Büro verlasse, das man vielleicht mit “weich in der Birne” bezeichnen könnte. Also habe ich mich auf die Suche (natürlich mit KI (LOL)) gemacht und bin auf diesen Artikel gestoßen, in dem mir echt viel vertraut vorkam:

1 Like

Verrückt. Welche Branche? Ich tippe auf Software-Entwicklung.

Bekannter (Chemie/Pharma) berichtet das andere Extrem: im Unternehmen ist KI verboten. Betriebsrat hat das so durchgesetzt.

Warum sind überall nur depperte Ideologen am Werk?

Habe gestern gelesen, Facebook Angestellte müssen in den USA eine art GoPro für Screencapture und so tragen / laufen lassen während der Arbeitszeit.

War das nicht bei the Circle auch schon so?

Müsst ihr das auch bald?

Nein, so weit geht es bei uns nicht – und damit rechne ich auch nicht, da wir kein eigenes LLM trainieren. Bei Meta ist das anders: Laut Zuckerberg nutzen sie die eigenen Mitarbeiter gezielt, um ihr Modell zu verbessern, weil deren Input qualitativ hochwertiger sei. Gleichzeitig wurde allerdings bekannt, dass Meta rund 10 % der Belegschaft abbauen will.

Ja, unser Geschäftsmodell basiert auf einer Big-Data-Anwendung. Ich selbst bin allerdings kein Entwickler – das war ich nur in den ersten Berufsjahren. Heute arbeite ich in einem anderen Bereich.

Das aktuelle Management-Paradigma ist klar formuliert: Wir müssen überall schneller werden und Reibung abbauen. Die dahinterliegende These lautet, dass wir nur dann am Markt bestehen können, wenn wir die Schnellsten sind. Und das erreichen wir, wenn wir KI konsequent in unseren gesamten Arbeitsalltag integrieren. Jeder soll also in seinem Verantwortungsbereich prüfen, wo sich gewinnbringend KI-Agents einsetzen lassen – wobei „gewinnbringend" hier vor allem „schneller" bedeutet.

In der Praxis führt das dazu, dass jetzt viele Menschen parallel und vermutlich an ähnlich gelagerten Baustellen versuchen, KI-Agents zu bauen. Teilweise, um tatsächlich Verbesserungen zu erzielen. Teilweise aber auch, um KI-Agents zu erzeugen, weil man KI-Agents erzeugen soll – denn wer keine baut, hat die Botschaft offenbar nicht verstanden.

Die Erwartung jedenfalls ist, dass sich individuelle Reaktionszeiten verkürzen und der Output vervielfacht. Aber das sind vorerst unbewiesene Annahmen. Es wirkt, als hätte man die Schleusen geöffnet, um zu beobachten, wohin sich der Strom ergießt – ob in Richtung Fortschritt oder Verwüstung. Ein Experiment im laufenden Betrieb, mit echten Menschen.

Parallel dazu arbeiten wir alle wie Ameisen am Datenberg, weil jeder jederzeit zu jedem Thema auskunftsfähig sein soll – vor allem die Unternehmensleitung selbst. Damit das funktioniert, müssen sämtliche Systeme stets aktuell sein, für den Fall, dass jemand hineinschaut. Am Ende fühlt man sich teilweise mehr wie ein Datenarbeiter als wie ein Ingenieur.

Den Enthusiasmus, den ich etwa bei Stefan und Observer wahrnehme, kann ich durchaus nachvollziehen – die Möglichkeiten, die KI heute bietet, haben ihren Reiz. Das funktioniert allerdings, solange man frisch, fromm, fröhlich, frei und ohne Bewertungs- und – machen wir uns nichts vor – Überwachungsdruck damit experimentieren kann. Steckt man dann unversehens selbst im Feldversuch, fühlt es sich anders an. Die ohnehin schon deutlich reduzierten direkten Interaktionen mit Kollegen nehmen weiter ab. Man baut, pflegt und hütet seine Herde von KI-Agents, und teilweise bekommt man Aufgabenpakete von den Agents anderer Leute zugeschoben. Nach inzwischen 25 Jahren in der IT- und Softwarebranche erlebe ich das als einen wirklich tiefgreifenden Wandel in der Arbeitswelt.

5 Likes

Danke für deinen Einblick. Das klingt ziemlich furchtbar.

1 Like

Kein Thema. Lässt sich schwer sagen, wo das hinführt. Bei mir und bei Kolleg:innen beobachte ich, dass wir neuerdings erschöpfter und gehetzter wirken - auch bei Jüngeren. Das kann zunächst ein Hype-bedingter Übergangseffekt sein, bis alles “eingeschwungen” ist. Und noch wird kein konkreter Personalabbau thematisiert.

Das klingt ja nach größerem Unternehmen bei dir. Gibt es denn einen Betriebsrat? Dort könntest du deine Beobachtung vielleicht teilen. Wünsche dir alles Gute!

Es arbeiten global ~2.500 Menschen im Unternehmen, mit Zentrale außerhalb der EU. Die Sektion in D ist klein. Es gibt (noch) keinen Betriebsrat…

vielen dank für deine einblicke. das, was du schilderst, klingt sehr bedrückend. man merkt es schon daran, wie du es formulierst. das tut mir leid zu hören.

ich denke ebenso viel darüber nach, und wie du richtig erkannt hast, bin ich ein großer verteidiger und freund der neuen technik. allerdings sind bei mir die vorzeichen andere. ich bin soloselbstständig und kann es mir so einrichten, wie ich es brauche, und erleichtere mir damit meinen arbeitsalltag und meinen workload um ein vielfaches. zudem bin ich in meiner freizeit oft daran gescheitert, meine projekte umzusetzen, weil mir struktur gefehlt hat. bedeutet: ich kann die technik zu 100 % nach meinen bedürfnissen nutzen, in meinen alltag integrieren, und wenn ich doch keine lust darauf habe, es auch einfach sein lassen.

ich beobachte die KI-entwicklung schon eine lange weile, und in meiner traumvorstellung war es immer eine möglichkeit, komplexitätserschöpften menschen, die sowieso schon tag für tag am leistungslimit leben, den alltag zu erleichtern.

doch ich bin auch realist und kenne organisationale strukturen nur allzu gut. die wirtschaft war schon immer viel besser darin, solche vorteile zum eigenen vorteil zu nutzen und die anderen beteiligten – mitarbeiter, anwender, kunden – dadurch wieder vor neue herausforderungen zu stellen. man sieht es überall. allein die digitalisierung hat es den bürgern nicht wirklich leichter gemacht, etwa anträge zu stellen oder ausweisdokumente verfügbar zu machen. sie hat primär verantwortung an verbraucher abgegeben und kapazitäten für firmen oder behörden freigemacht, um diese anderweitig einzusetzen. so wird es mit der KI-nutzung vermutlich ebenso sein.

aus meinem kontext versuche ich ja genauso, für mich das maximum an effizienz herauszuholen. „interaktion mit kunden“ und behörden, die meine KI-ausgaben dann verarbeiten müssen. also bin ich so gesehen genau gleich unterwegs wie das, was ich ebenso anprangere. bedeutet: es verfolgt eine innere logik. das musste ich leider feststellen.

Wie gesagt: ich kann das gut verstehen. Privat nutze ich KI ja schließlich auch und anders. Eher so, wie du und Stefan: ohne Druck, als willkomme Möglichkeit und - in meinem Fall - Element der digitalen Selbstermächtigung und Souveränität.

Aber ich sehe auch die Risiken, Grenzen und Missverständnisse.

Vielleicht schreibe ich im Nerd-Thread mal was dazu.

deine bedenken teile ich absolut. hat dein konzernleitung es transparent gemacht, warum so ausdrücklich auf die benutzung von agenten und co. gesetzt wird? es gibt ja die offene kommunikation und dann leider auch immer die “verdeckten motive”. mich würde deine einschätzung dazu sehr interessieren.
ich habe diesbezüglich auch schon ein paar beobachtungen gemacht die zum teil echt gruselig sind.

und im 404 Nerdkram wär dein beitrag sicher sehr wertvoll.