Aus dem Internet-Observatorium #43

Das entmaterialisierte Web / Der bessere KI-Warnbrief / Social Web - ein Reformvorschlag

Apr 05, 2023

Hallo und noch eine (hoffentlich) erholsame Osterwoche!

Das entmaterialisierte Web

Box-Chef Aaron Levie, einer der reflektierten CEOs aus der Bay Area, beschrieb es vor einiger Zeit so:

“Wir befinden uns nun offiziell im Zeitalter der KI-First-Software. Mobile hat unsere Anwendungen grundlegend verändert, die Cloud unsere Hardware, und KI verändert unsere Information.”

Ein Szenario, dass ich dabei nicht für ausgeschlossen halte: Sie könnte dabei das Web entmaterialisieren.

Werfen wir einen Blick auf die Struktur: Auf Large Language Models (LLMs) aufbauende Informationsarchitekturen wie ChatGPT benötigen das Web nur als Datenquelle. “Nur”, ist natürlich relativ - denn wo sonst findet man die gesammelten Informationen, mit der die LLMs unter anderem trainiert werden?

Das Web ist derzeit noch der Referenzrahmen, auf den sich ans Live-Internet angekabelte LLMs beziehen. Das sieht dann so aus: Auf die Frage “Was ist heute im Bereich AI passiert?” erstellt ChatGPT eine Liste.

Manoj @VisualVichaar

4/n whats happening in the world of AI today

Wer mehr lesen möchte, kann sich auch die Links dazu anzeigen lassen (im Moment offensichtlich noch nicht hinterlegt):

Manoj @VisualVichaar

5/n put these in markdown table along with links

Das erinnert sehr an die Informationsanordnung im Google-Modell. Aber warum sollten (derzeit noch Chatbot-)Systeme per se auf das Web verweisen? Das machen sie ja heute bereits nur noch bedingt.

Bislang hat das öffentliche Web sich ordentlich geschlagen, trotz voreiliger Abgesänge zu Beginn des App-Zeitalters. Allerdings als veränderter Einstiegspunkt: Mobil erfolgt die Ansteuerung häufig über die Suche oder über andere Apps, vor allem aus dem Social-Media-Bereich. Letztere fungieren allerdings genauso oft als geschlossene Welt, mit wenigen Outbound-Links und Content, der Querverweise gar nicht nötig macht.

Das Web ist also, anders als in den ersten Smartphone-Jahren, keine in den Köpfen verankerte Instanz mehr. Ich würde sogar sagen, Teile der Mobile-First-Generationen und -Regionen haben das “WWW” gar nicht als separate Oberfläche des Internets kartographiert.

Diese Schwächung könnte sich im Zeitalter der softwarebasierten Informationsmaklerwesens via LLP verheerend auswirken: Dabei geht es nicht um fehlende Links oder Quellenangaben; selbst die Sammlung von Informationen kann man sich mittels einer API vorstellen, die das Web gar nicht mehr durchkämmt, sondern sich die Informationspakete direkt liefern lässt. Die ChatGPT-Plugins geben einen ersten Eindruck davon.

Vielleicht ist dieses Szenario nicht realistisch. Wir haben ähnliche Prognosen nicht nur beim Aufstieg der Mobil-Apps gehört, sondern auch bei Facebook-Apps und persönlichen Assistenten wie Alexa/Siri/Google Assistant. Worin ich mir allerdings ziemlich sicher bin: Wir erleben gerade einen Paradigmenwechsel, der sehr viel mehr als das Plattform-Play einzelner Konzerne ist. Entsprechend müssen wir damit rechnen, dass am Ende völlig andere Informationsarchitekturen stehen.

Der bessere KI-Warnbrief

Über die Forderungen des “Future of Life Institute” wurde bereits anderswo ausführlich berichtet, teilweise auch sehr aufgeladen und überkritisch. Die beste Einordnung findet sich IMO von

AI Snake Oil

formuliert: Zu viel Hype, zu viel Argumente rund um Desinformation.

Weit weniger Aufmerksamkeit bekam dieser Brief, den diverse europäische Wissenschaftler und Wissenschaftlerinnen verfasst haben (vor allem aus den Niederlanden). Ausgangspunkt ist unter anderem der Selbstmord eines Mannes in Belgien, der im Zusammenhang mit ChatGPT-Konversationen stehen könnte (ich nehme an, dass ein englischsprachiges Medium die Geschichte einmal in ihrer ganzen emotionalen Komplexität recherchiert wird).

Statt auf Zukunftsszenarien warnen die Unterzeichnenden vor dem Konkreten: Nämlich der Fähigkeit von Chat-KIs, uns emotional zu manipulieren. Und dem allzu menschlichen Problem, diese Manipulation nicht zu erkennen (siehe auch Anthropomorphisierung, Ausgabe #40).

Die daraus abgeleitete Forderung (neben einer strengen Nachregulierung von LLM-Anwendungen durch den “AI Act”):

“We therefore call to urgently set up awareness campaigns that better inform people of the risks associated with AI systems, and that encourages AI developers to take their responsibility. A shift in mindset is needed to ensure the risks of AI are first identified, tested and tackled, before the latest application is made available. Education has an important role to play here, at all levels. Yet there is also an urgent need to invest more into research on AI’s impact on fundamental rights, including the right to physical and moral integrity. Finally, we call for a wider public debate about the role we wish to give AI in society, not only in the short term but also in the longer term.”

Das wäre zumindest etwas, mit dem man handfest arbeiten könnte.

Social Web - ein Reformvorschlag

Richtigerweise wird im Schatten des KI-Hypes auch weiterhin darüber diskutiert, wie eine gerechte, demokratische digitale Infrastruktur aussehen müsste. Ein neuer Versuch stammt von Chand Rajendra-Nicolucci und Michael Sugarman, unterstützt von Ethan Zuckerman. Das Whitepaper/Manifest trägt den Titel “The Three-Legged Stool” und fordert ein “kleineres, dichteres Internet”.

Die konkrete Skizze dafür:

Das Pluriverse - eine Infrastruktur aus kleinen Themen- und Community-Netzwerken als Ergänzung und Gegenmodell zu den großen Plattformen (“Very Small Online Plattforms”). Mit Smalltown gibt es hierfür bereits ein Projekt, in das die Autoren involviert sind, es werden aber auch andere genannt. Konkret fordern sie einfachere Wege, solche “zivile soziale Medien” zu starten (ob es um finanzielle Unterstützung oder die Entwicklung von Software-Kits und Bürgerzugängen geht, bleibt aber offen).
Ein “Loyal Client”, also ein Social-Media-Client ähnlich eines E-Mail-Programms, der Nachrichten von Großplattformen wie Twitter und den eigenen Civic-Media-Communitys aggregiert und so die Einstiegshürde senkt.
Der “Friendly neighborhood algorithm store” - ein Marktplatz für Community-Betreiber, der Software-Werkzeuge von Kuratier-Algorithmen bis zu Anti-Spam-Programmen bereit stellt. Der Hintergrund ist, dass einzelne Community-Betreiber nicht die Ressourcen haben, die Groß-Plattformen in die Entwicklung solcher (interner) Tools stecken können.

Ich bin bei der Lektüre solcher Manifeste immer zwiegespalten. Einerseits finde ich es gut, alternative Ideen zu entwickeln. Andererseits habe ich inzwischen so viele dieser Projekte erlebt, dass ich mir im Jahr 2023 schwer tue, mehr als eine Projektskizze oder Denkübung darin zu sehen.