Mich beschäftigt vor allem die demokratietheoretische Seite der Diskussion um Social-Media-Regulierung:
Es wurde ja schon häufiger im Podcast thematisiert, dass viele auch Angst um die “demokratische Mitte” haben und deswegen das Internet regulieren wollen (siehe social media Verbot, Bürgerrat zu fake news, etc.). Allerdings sind wir hier glaube ich erst am Beginn eines größeren Prozesses, denn bei der rasanten Entwicklung der KI wird sich die Frage nach Meinungsmanipulation und Informationsbeschaffung noch einmal in ganz anderer Qualität stellen. Deswegen beunruhigt mich, wie unreflektiert schon der Beginn dieses Diskurses aussieht. Ich meine, angesichts der schon heute berechtigten Zweifel an der allgemeinen Mündigkeit der Wähler*innen (siehe auch die Folge über Demokratiedämmerung) und der Überforderung von Schulen im Umgang mit KI, ist es wirklich besorgniserregend, wie leicht die KI Meinungen bestimmen wird. Aber so wie heute über das Internet gesprochen wird, werden die politischen und gesellschaftlichen Reaktionen darauf wohl auf staatliche Kontrolle der KIs und Massenüberwachung hinauslaufen. Oder was ist eure Prognose?
Ich halte es mit Wolfgang und sage, es braucht den Kulturpass, das 9€ Ticket, Vereine und Jugendzentren.
Aber weder CDU noch SPD werden dafür Geld aufwenden und lieber so tun, als hätten sie ne Idee von Fürsorge.
Was ja die meisten Leute auch befürworten.
Da werden aber ganz schön viele Dinge zusammengemischt.
- “das Internet” ist nicht Social Media, ist nicht KI
- Meinung und Information sind nicht das gleiche (Meinungsbeschaffung (zur Wahl) und Meinungsmanipulation (zur Wahl) stehen dann mit Informationsbeschaffung (zur Wahl?) und Informationsmanipulation (zur Wahl?) in Wechselwirkung?
- Meinungsmanipulation ist die Aufgabe von Parteien (Art.21 GG: “Die Parteien wirken bei der politischen Meinungsbildung des Volkes mit.”) Die Verschiebung der Parteienlandschaft nach rechts haben diese Parteien selbst erzeugt und keine manipulierten Wähler. (“Manipulation” kann man ja erstmal wertfrei verstehen und nutzen und nicht gleich in das gut/böse-Schema fallen.)
- Schulen sind von KI überfordert, weil Sie vorgeben anhand der kommunikativen Äußerungen von SchülerInnen einen Rückschluss auf deren Verständnis ziehen und diesen qualitativ bewerten zu können. Das Problem ist nicht die Stärke von LLM´s, sondern die Form der “Lernzielkontrolle” in Schulen.
- Es gibt keine Verknüpfung zwischen Schule und Demokratie, deswegen kann ich schlechte Prüfungsformen nicht mit “mündigen Bürgern” in Verbindung bringen. (und selbst wenn Demokratie in Schulen Gegenstand des Unterrichtes ist, dann muss man jedenfalls was das Lehrmaterial angeht feststellen, dass dort im besten Falle Demokratie-Idealismus betrieben wird. Da lohnt es sich schon den Selk mal selbst zu lesen.)
- Jede Technologie wird in irgendeiner Form staatlicher Kontrolle unterzogen, wo wäre da das Problem?
- Was meinst Du mit “Massenüberwachung”? Der Einsatz von Palantir in Deutschland (trainiert in Gaza) zur Beschleunigung schon vorhandener Überwachungsmöglichkeiten?
- hab ich nicht gesagt, aber es gibt doch wohl Gemeinsamkeiten
- hab ich auch nicht gesagt?
- davon ist bei mir auch keine Rede
- Das Problem ist, dass KI unreflektiert eingesetzt wird und viele Abläufe in der Schule (wie Hausaufgaben) in der KI-Welt nicht mehr funktionieren.
- Wer redet von Prüfungsformen? Und Bildung und Demokratie haben keine Verknüpfung??? Da muss ich kein Buch lesen, um das zu widerlegen.
- Es gab mal eine Idee vom freien Internet?
- Palantir ist die erste Stufe, außerdem wird die biometrische Gesichtserkennung im öffentlichen Raum weiter ausgebaut und Dobrindt lernt von Israel.
Was ich aber als Prognose meinte, ist die Überwachung von jeder Chatbot-Nutzung (evtl. das neue Internet) mithilfe von KI. Denn die großen Datenmengen, die vor allem in den USA schon jetzt gesammelt werden, lassen sich mittlerweile mit KI wesentlich genauer überwachen.
und wie passt das jetzt zu “Mich beschäftigt vor allem die demokratietheoretische Seite der Diskussion um Social-Media-Regulierung”?
Ob und wie viele alle 4 Jahre ein Kreuz irgendwo machen hat doch mit all dem nichts zu tun?
Siehe dazu mein (bzw. Chattys) Aufsatz unten im anderen Thread:
Hm, also scheinbar sind meine Gedanken noch nicht rübergekommen.
Feststellung: Chatbots sind zurzeit nicht auf den Öffentlichen Meinungskorridor beschränkt.
These: Die vielen Menschen, die schon jetzt aus Sorge vor Fake News, externer Manipulation und radikalen Meinungen nach staatlicher Kontrolle von Internetplattformen rufen, werden angesichts von KI-Nutzung noch viel dringender dafür plädieren, die Meinungsbildung staatlich zu überwachen und zu kontrollieren.
Fragen: Wenn viele Menschen schon jetzt mit KI Vertrauensverhältnisse aufbauen, Liebesbeziehungen eingehen und sie sogar schon vergöttern, wie kann man da in ein paar Jahren noch vorraussetzen, dass die Bürger*innen mündig sind? Oder was meinst du, wie KI für politische Meinungsbildung benutzt wird, sowohl von Nutzer- als auch von Betreiberseite?
Ich störe mich an der Prämisse, dass es “früher” mündige Bürger gab und diese dann irgendwie weg sind.
Natürlich kann man sich z.B. den Brexit angucken und wie dort mit gezielter Nutzung von Technologie, Profilbildung und Ansprache Meinungsmanipulation betrieben wurde. Das war ein sehr erfolgreicher Einsatz von Technik. Jetzt mein großes ABER: Diese Technik wurde von politischen Parteien eingesetzt und nicht von irgendwelchen sinistren externen Akteuren. Von dieser Seite aus ist eine staatliche Beschränkung (aus Sicht von Parteien) gar nicht notwendig. (Das Politiker selber reihenweise Fakenews liefern wird dabei geflissentlich ausgeblendet.)
Anderes Beispiel, andere Richtung: Alles im Zusammenhang mit Gaza war doch ein spannendes Beispiel: Über Instagram, youtube etc. waren junge Menschen deutlich besser informiert über die Zustände als der geneigte Tagesschaunutzer. Diese Kluft zwischen Informationslage und Informationsdarstellung hat viele Menschen politisiert und zu Demonstrationen und Protesten bewegt. Die politische Konsequenz war gleich null. Also gibt es hier auch nicht die brisante Notwendigkeit einer politischen Reglementierung…
Wie sehr Menschen sich durch die Nutzung von Chatbots in eigene Realitäten verabschieden, oder Socialmedia zu psychischen Erkrankungen oder Suchterkrankungen führt ist dabei eine andere Bausstelle (und die wird meiner Meinung nach mit der Altersgrenze adressiert, was nicht ausschließt, dass andere Interessen unter diese Zielrichtung unterschlüpfen).
5 Minuten Roman- Hörprobe , dauert also nicht lange.
Ich hab 2 Bände gelesen und bin jetzt am dritten, die sind außerdem gut eingelesen.
In Band 2 bekommen alle Akteure einen KI generierten Score zugewiesen, z.B. Intelligenz, Ethnie, Kreditwürdigkeit, Sexualität usw.
Gegenfrage: Bist du ein mündiger Bürger? Wenn ja, dann gehe davon aus, dass die meisten anderen das auch sind.
Nutzt du KI und hat das deiner Mündigkeit geschadet? Wenn die erste Antwort ein „Ja“ und die zweite ein „Nein“ ist, dann geh davon aus, dass die meisten anderen… du weißt schon. Wenn du‘s hingegen noch nie probiert hast: Tu es, mach dir selber ein Bild.
Es gibt immer ein paar Verwirrte, die Robert Habeck vergöttern oder Taylor Swift und neuerdings vielleicht eine KI. Und sicher ist Letzteres für manche Anlass, wieder mal nach staatlicher Regulierung zu rufen. So what, lass sie schreien. Oder gehörst du selber zu denen?
Was mich bei dem Thema immer wundert ist die Selbstverständlichkeit mit der angenommen wird, der Staat könnte KI-Nutzung kontrollieren wenn er wollte. Wir haben 30 Jahre Empirie: Crypto Wars, Napster, Zensursula, Killerspiele, Leistungsschutzrecht, Upload-Filter, Vorratsdatenspeicherung, Social-Media-Verbot für Minderjährige — das Muster ist immer dasselbe: der Staat hat keinen Hebel gegenüber Nutzern.
Nehmen wir das Social-Media-Verbot als aktuelles Beispiel. Wie soll das konkret funktionieren? Altersverifikation — mit was? Personalausweis bei TikTok hochladen? VPN an, Standort USA, fertig. Oder einen der hundert Anbieter nutzen die nicht unter die Regulierung fallen. Oder den Account der älteren Schwester nehmen. Das sind keine Hacker-Tricks, das ist Alltagswissen von Zwölfjährigen.
Bei KI ist es strukturell noch aussichtsloser. Social Media hat wenigstens eine Plattform der man Pflichten auferlegen kann. Bei KI gibt es das nicht. Open-Weight-Modelle laufen lokal, komplett offline. Deepseek kommt aus China. Ollama macht die Installation so einfach wie eine App. Wer soll da reguliert werden?
Die Regulierung muss aber auch gar nicht funktionieren — sie muss nur plausibel klingen für Leute die nicht nachprüfen können ob sie funktioniert. Oma Erna sieht “Politikerin fordert Maßnahme gegen Gefahr”, dann “Maßnahme wird beschlossen”, und ist beruhigt. Dass es wirkungslos ist erfährt sie nie. Die Feedback-Schleife ist unterbrochen — und deshalb wird dasselbe Theater seit 30 Jahren aufgeführt.
Also glaubst du nicht, dass KI noch mal eine andere Qualität hat? Ich denke schon, dass sich die Beziehungen mit Chatbots noch häufen werden.
Ich sage auch nicht, dass wir vor KI alle mündig waren, ich sehe nur, dass gesellschaftlich die Lösung für das Problem nicht in besserer Bildung und Selbstverantwortung gesehen wird, sondern zunehmend in mehr staatlicher Kontrolle und Massenüberwachung.
Aber nochmal die Frage: Was ist denn “das Problem”?
Und warum ist “Bildung” und “Selbstverantwortung” dazu die Lösung?
Wenn das nicht klar wird, befürchte ich wiederholen wir nur “Man muss “Die Leiden des jungen Werther” verbieten, weil sich sonst junge Menschen umbringen!”
Leute glauben alles mögliche, schon immer. Am Ende des Tages muss ich dafür sorgen, dass meine Kinder keinen Schaden nehmen bis sie so kompetent sind selbständig mit Medien umzugehen. Da macht es aber keinen Unterschied ob ich über Bücher, Filme, Podcast, Social Media oder KI-Chatbots rede, oder ob eine Firma das Produkt “Altersverifikation” an den Staat verkaufen möchte.
Natürlich werden Taliban-Gesetze kommen (Problem: Ausstattung von Grundschulen mit Personal ist zu gering. Reaktion Prien: Handyverbot in der Grundschule. Ergebnis: Alles geht weiter wie bisher.) und natürlich werden irgendwelche Leuten trotzdem glauben, dass Chips mit toten Kindern gewürzt werden, sie eine parasoziale Beziehung zu “Chatty” oder Stefan haben, Merz wird Dinge wie “Lifestyle-Freizeit” erfinden, Journalisten werden Bedrohungsszenarien auswalzen (Russland manipuliert unsere Wahlen!), der Philologenverband beklagt den Verfall der deutschen Sprache und die Gewerkschaft der Polizei will mehr Befugnisse erhalten.
Ich verstehe die Gegensatzpaare die Du hier siehst nicht. Die GdP macht doch keine Pressemitteilung mit “Der Bildungsstand der Deutschen hat zugenommen, wir brauchen keine Vorratsdatenspeicherung mehr. Vielen Dank gehen Sie bitte weiter.” oder die Bildungsministerin verkündet: “Ich sehe, dass ich keine Handlungsmöglichkeiten habe ohne mich in meiner Partei unbeliebt zu machen, ich werde bis zum Ende meiner Amtszeit nicht mehr arbeiten.”
Oha! Mein Versuch im anderen Thread, einen spielerisch-experimentierfreudigen Umgang mit KI-Tools zu beschreiben, ging offenbar voll daneben…
Aber sei versichert: Ich glaube nicht, eine „parasoziale“ Beziehung zu einer Maschine zu haben.