Aus dem Internet-Observatorium #112

Habermas-Maschinen / Digitalgipfel 2024

Oct 23, 2024

Hallo zu einer neuen Ausgabe! Weil ich in den vergangenen Tagen unterwegs hab, ist diese Ausgabe etwas kürzer. Ist doch auch mal schön, oder?

Will the real Jürgen please stand up? (AI-generiert)

Habermas-Maschinen

Rob Horning berichtet in seinem Newsletter über ein neues Paper von Google- bzw. DeepMind-Researchern. Die wollten herausfinden, ob Künstliche Intelligenz dabei helfen kann, Kompromisse zwischen politische Gruppen mit unterschiedlichen Meinungen zu kontroversen Themen herbeizuführen. Aus dem Abstract (übersetzt und gefettet):

“Die Autoren trainierten ein großes Sprachmodell, die sogenannte Habermas-Maschine, als KI-Mediator, der kleinen britischen Gruppen half, eine gemeinsame Basis zu finden, während sie über kontroverse politische Themen wie Brexit, Einwanderung, Mindestlohn, Klimawandel und allgemeine Kinderbetreuung diskutierten. Im Vergleich zu menschlichen Mediatoren produzierten die KI-Mediatoren [für die Teilnehmer] akzeptablere Aussagen, die eine breite Zustimmung fanden und die Gruppen weniger gespalten zurückließen.”

Wenn eine Maschine als Mediator einfacher als ein Mensch “Common Ground” herbeiführen können , wirft das irgendwie kein gutes Licht auf unsere menschlichen Egos. Oder, wie es Rob Horning formuliert: “Es scheint, dass Menschen eher bereit sind, einem Standpunkt zuzustimmen, wenn es den Anschein hat, dass ihn niemand wirklich vertritt, als einem Standpunkt zuzustimmen, der von einer anderen Person vertreten wird.”

Das Ganze erinnert natürlich sehr an die Idee der Cyberokratie: Regierungen, die mit Hilfe von komplexen Computersysteme die richtigen Entscheidungen treffen, beziehungsweise im KI-Kontext auch von ihnen ersetzt werden können (als eine Form von wohlwollender Maschinenherrschaft). In diesem Falle berechnet die Maschine den Willen der Bevölkerung ganz direkt.

Gehen wir mal etwas weiter auf diesem Pfad: Theoretisch sind im dem, was landläufig Überwachungskapitalismus genannt wird, nicht einmal ein Opt-In notwendig, an diesem Diskurs überhaupt teilzunehmen: Die Meinung kann schlicht mittels digitaler hinterlassener Meinungsäußerungen oder gar Verhaltensdatenpunkte gemessen werden. Aus der im Habermas’schen (oder Rawls’schen) Sinne deliberativen Demokratie wird so ein Prozess der Datenverarbeitung. Nicht ganz das, was man unter Demokratie versteht.

Oder besser gesagt: Das alles hat Parallelen zum chinesischen Modell, in dem der Wille des Einzelnen nur insofern wichtig ist, als er in die Formel für die allgemeine Willensbildung mit einfließt (im Falle Chinas entspricht die allgemeine Willensbildung natürlich dem Willen der Kommunistischen Partei China).

Mittelbarkeiten sind zwar auch der repräsentativen Demokratie inhärent, aber in Form einer maschinellen Entscheidung wird hier letztlich der menschliche Faktor herausgerechnet: In seiner demokratisch-institutionellen Form, wie auch in der persönlich-konkreten Form der politischen Willensäußerung.

In eine ähnliche Richtung geht Hornings Fazit (übersetzt und gefettet). Er tippt die Tatsache an, dass die menschliche Meinungsbildung oft ohnehin schon digital vermittelt ist. Nicht selten über Blackboxen, die wiederum - siehe X - bestimmte politische Inhalte stärker gewichten als andere.

“Technologieunternehmen können sich eine Welt vorstellen, in der der gesamte politische Diskurs zwischen isolierten Einzelpersonen und LLMs stattfindet, und die erzeugten Daten könnten zur Erleichterung der sozialen Kontrolle verwendet werden, während sich jeder gehört fühlt. Die automatisierte Produktion und Zusammenfassung politischer Meinungen hilft den Menschen nicht, kollektiv zu handeln; sie erzeugt die Illusion kollektiven Handelns für Menschen, die durch die Medientechnologie zunehmend isoliert werden.”

Nun lässt sich kritisieren: Solche Ableitungen sind etwas übertrieben, im Google-Paper geht es um ganz basale Grundlagenforschung. Im Wortsinne technokratische Herrschaftsformen werden allerdings mit der wachsenden Komplexität und Unlösbarkeit unserer globalen Probleme immer attraktiver. Bis hin zu dem Punkt, an dem wir nicht mehr erkennen, was wir überhaupt für sie aufgeben würden.

Digitalgipfel 2024

Hier das Manuskript meines Kommentars im Deutschlandfunk. Ich habe ja eigentlich keine Lust auf solche Takedowns, ich bin weder Markus Beckedahl mit seiner klar progressiven Haltung, noch gehöre ich zu den üblichen Verdächtigen aus dem Kreise der Journalisten und Journalistinnen, die nur darauf warten, die Bundesregierung wegen ihrer Digitalverfehlungen an die Wand zu nageln (allzu oft ohne wirklich Sachkenntnis). Nun war aber die Veranstaltung (in Kombination mit der digitalisierungspolitischen Leistungsbilanz) ziemlich deprimierend, bei allem Bewusstsein dafür, dass das komplexe Probleme nicht von heute auf morgen gelöst werden. Nun denn, hier der Text.

Der Digitalgipfel: In den besseren Jahren ist er eine kleine Leistungsschau der Bundesregierung. In den schlechteren ein folgenloser Plaudertreff, in der die Bundesregierung die graue digitalisierungspolitische Realität bunt anstreicht.

Bessere Jahre gab es selten. In Frankfurt aber hat die Bundesregierung mit ihrer Schönfärberei besonders dick aufgetragen. Zu dick.

Mit Hilfe einer OECD-Studie versuchte die Ampel-Regierung zu belegen, dass die deutsche Digitalpolitik besser als ihr Ruf ist. Viel war von erhöhter Geschwindigkeit die Rede, von Aufholjagden, von den Potenzialen der deutschen Wirtschaft in Sachen Daten-Ökonomie.

Das klang dann wie eine Mischung aus wahlkampf-bedingtem Optimismus und Pfeifen im Walde.

Fairerweise muss man sagen: Nicht alles ist schlecht, was die Bundesregierung in der Digitalisierungspolitik treibt. Der 5G-Ausbau läuft inzwischen wie geschmiert, und auch Startups haben von der selbsternannten Fortschrittskoalition profitiert - von der Mitarbeiterbeteiligung über die Erleichterung von Investitionen bis hin zu neuen Brücken zwischen Forschung und Ausgründung.

Im Kern aber blieb die Digitalisierungspolitik für diese Regierung eine Randnotiz. Digitalkompetenz findet man auf Ministerebene gar nicht und selbst auf Staatssekretärsebene selten.

Auch in Sachen Gesetzesarbeit bleibt vieles enttäuschend. Bei der lahmenden Verwaltungsdigitalisierung geht man institutionell weiterhin in Trippelschritten vor. Und verheddert sich immer wieder im komplexen Geflecht von Bund-, Länder und Kommunalzuständigkeiten.

Gesetze zur Beschleunigung des Netzausbaus, zur höheren Cybersicherheit, zur Modernisierung des Datenschutzes: Sie und noch viele andere hingen Monate, teilweise mehr als ein Jahr im Fegefeuer der Ressortstreitigkeiten fest. Teilweise befinden sie sich immer noch dort.

Und selbst vermeintliche Erfolgsprojekte wie die neue elektronische Patientenakte oder das E-Rezept haben mitunter jahrelange Vorgeschichten. Anderes wiederum, zum Beispiel das versprochene Bundestransparenzgesetz, schlummert immer noch in den - hoffentlich digitalen - Aktenschränken der zuständigen Ministerien.

Um es noch einmal zu sagen: Nicht alles ist schlecht. Auf internationaler Ebene müht man sich, bei der Internet-Blockbildung demokratische Prozesse zu stärken. Und so bruchstückhaft und oft unstrukturiert die Bundesregierung die Themen Künstliche Intelligenz und Datenwirtschaft angeht: Immerhin zeigt sie echtes Interesse.

Echtes Interesse, das ist nämlich, was die Bundesregierung bei weniger gehypten Digitalthemen vermissen lässt.

Denn wenn die Verwaltungsdigitalisierung nur dann zur Chefsache wird, wenn man die absurd langen - weil oft analogen - Bearbeitungszeiten von Asylanträgen bemerkt; wenn Kabinett und Fraktionen Gesetze zur Gesichtserkennung verabschieden, die offensichtlich grundrechtswidrig sind; wenn man als Fortschrittskoalition startet und dann als Schönfärber-Bündnis landet - tja, dann braucht man eigentlich auch keinen Digitalgipfel zu veranstalten.