Ich hätte einen Vorschlag zur Lektüre, wenn nicht für den Salon, dann für das Selbststudium. Das Buch ist vom amerikanischen Philosophen C. Thi Nguyen, und es geht dort um eine Beobachtung im Bezug auf Spiele:
Spiele besitzen oft ein Regelwerk, in dem klare Punktsysteme vorhanden sind, die uns Hürden in den Weg legen. Dort ist es dann so, dass genau diese Einschränkungen Tätigkeiten hervorbringen, die zutiefst zufriedenstellend und sogar förderlich für persönliches Wachstum sind. Dabei ist nicht das Gewinnen des Spiels der eigentliche Zweck, sondern es geht um das, was man tut, um dort hinzugelangen; aber das Streben nach Gewinn ist trotzdem notwendig, um diese Tätigkeit hervorzubringen.
Diese Beobachtung dreht er dann um. Wenn genaue Punktsysteme und Metrifizierungen im Spiel zu Freiheit und Entfaltung führen, warum führen ähnliche Metriken im “echten Leben” - Schulnoten, Performance-Evaluationen von Lehrkräften, Likes auf Social Media - zu einem miserablen Verhalten, das uns von dem abbringt, was wir eigentlich tun wollen? Das Ergebnis ist eine wirklich phänomenale Untersuchung dieses Themenkomplexes, mit tollen Anekdoten zu Spielerfahrungen und neuen Grundbegriffen wie “clarity trap” oder “value capture”.
Ich habe es als englisches Hörbuch angehört (vom Autor selbst eingesprochen, tolle Stimme), aber es ist auch in übersetzter Form bereits vorhanden. Ist vielleicht nicht so explizit politisch wie die meisten besprochenen Bücher, aber ich konnte daraus so viel inspirativ für die Bezeichnung gewisser Tendenzen in der Gesellschaft herausziehen, dass ich es euch nicht vorenthalten wollte. Die Anwendung der Ideen auf die politische Sphäre wäre nochmal ein eigenes Buch wert.
Nun ja, ich würde sagen dass das eigentlich disruptive bei LLM-Technologie darin liegt, dass sie eben nicht auf Metriken/Scores angewiesen ist, um zu funktionieren. Metriken sind selbst eine Technologie, die es Menschen erlaubt, komplexe Sachverhalte auf eindimensionale, klar definierte Werte herunterzubrechen, damit in großem Maßstab Kommunikation über den Ist-Zustand dieser Sachverhalte geführt werden kann. LLMs dagegen punkten genau in dem Feld, das durch Metriken ersetzt wird: Die (für Menschen sehr langwierige) Prozessierung von Komplexität in Textform.
Vielleicht ein Beispiel: In einigen Schulformen, wie bei mir an der Montessorischule damals, gibt es statt Noten kurze Leistungsrückmeldungen. Das hat den Vorteil, dass die Lehrkraft sich deutlich besser auf die tatsächlichen Leistungen des Schülers beziehen kann – man bekommt also qualitativ hochwertigeres Feedback. Die Vorteile von Schulnoten sind dagegen, dass sie vergleichbar und leichter kommunizierbar sind.
Wenn man jetzt die gesammelten Montessori-Rückmeldungen in Claude einspeist, gäbe es quasi die Möglichkeit, einen Mittelweg zu finden: Vielleicht bittet man die KI, nach mehreren distinkten Kriterien numerisch auszuwerten, oder man lässt sich den Text zusammenfassen. Wenn die Schulnoten aber die Grundlage sind, ist die KI nicht mehr wert als ein herkömmlicher Rechenalgorithmus. Macht das irgendwie Sinn?
Im Bezug darauf schaut das Buch dann vor allem darauf, was die Schulnote mit einem macht, also wie man selbst auch das eigene Verhalten nach den Metriken ausrichtet. Und wenn man da zugrundelegt, was die Probleme mit dem Notensystem sind, wie es Lernerfolg auf Prüfungsleistungen herunterkondensiert, kann da KI optimistisch gesehen eher noch helfen. Man müsste halt irgendwann den Anspruch fallenlassen, dass alles, was irgendwie wichtig für uns ist, in einer Zahl ausgedrückt werden kann oder soll.
Ja, die Kehrseite der Medaille ist natürlich der Fall, wenn es den Menschen so nach einer Zahl dürstet, dass er die KI verwendet, um Texte wie Bewerbungen in Zahlenscores zu verwandeln. Da kann es dann auch wieder sein, dass die KI evtl. besser Dimensionen reduzieren kann als der Mensch (das passiert ja letztlich auch unter der Haube), aber das hängt dann ganz stark vom Training und Alignment ab.
Also guter Punkt, vielleicht führt die KI selbst zu mehr Metriken; diese würden dann aber eine wichtige Stärke der klassischen Metrik verlieren, nämlich dass man genau nachvollziehen kann, wie sie zustandekommt. Man muss die Leute ja auch irgendwie dazu überzeugen, die Zahl als etwas signifikantes anzuerkennen.
Nicht die abgegebene Bewerbung wird KI ausgewertet, sondern auf der Basis bisher erhobener Daten erstellt sich das Unternehmen bzw. ein eigenes Bild des Bewerbers.
