Aus dem Internet-Observatorium #69
Der Traum von menschenzentrierten Social Media / AI Safety Summit / GOMA nach GAFTA?
Hallo zu einer neuen Ausgabe!
Der Traum von menschenzentrierten Social Media
Beginnen wir damit: Ich halte es für wichtig, dass textbasiertes Social Media eine Zukunft hat. Allerdings war bereits vor der Übernahme durch Elon Musk offensichtlich, dass diese Zukunft nicht bei Twitter liegt.
Was nicht bedeutet, dass Twitter irrelevant wird: Die Radikalisierung und der Extremismus, die dort nun durch den Exodus der gemäßigten Nutzerschaft weiter zunehmen, haben massive Auswirkungen auf IRL.
Wer das hier häufiger liest, weiß aber auch (zuletzt Ausgabe #66): Ich halte bislang keine der Alternativ-Plattformen für in der Lage, die Lücke zu füllen. Auf Twitter folgt das große Social Splinternet (Text), auf Social Media insgesamt die KI-gesteuerte Entertainment-Maschine, wie sie seit einigen Jahren TikTok symbolisiert.
Om Malik beschreibt die Lage so (übersetzt):
"Während soziale Medienplattformen zunehmend von menschlichen Interaktionen zu Algorithmen übergehen, ist es keine Überraschung, dass wir uns alle von der Internetgeräuschkulisse überwältigt fühlen. Folglich ist die Verbreitung von Spam, Bots, irrelevanten Inhalten und Werbung deutlicher denn je geworden (oder sollte es werden). Genau deshalb erscheint uns das Internet weniger angenehm. Soziale Medien wirken weniger sozial und in letzter Zeit sogar weniger wie 'Medien'."
Wir bevölkern meiner Ansicht nach das “alte” textbasierte Social Web, weil wir uns keine Welt mehr vorstellen können, in der wir nicht über Social Media “sichtbar” sind. Es gibt de facto auch kein “draußen” mehr, fast alles wird hier drin verhandelt.
Und doch verliert dieses Ökosystem für Informationen, Diskurs und Sichtbarkeit an Qualität. Und das “neue” Social Media bietet noch ungeordnetere Informationen, ist nur ganz am Rande auf Diskurs angelegt und verknappt die Sichtbarkeit selbst für geübte Social-Media-Profis so stark, dass nur immer krassere Signale als Mittel für Teilhabe an der Aufmerksamkeitsökonomie bleiben.
In dieser Gemengelage wächst das Bedürfnis nach einer “neuen Form”, eine Fork des “alten” Social Media, die dessen Schwächen adressiert. Das ist zumindest mein Eindruck.
Die Ideen gehen über “Wir brauchen mehr föderierte Dienste wie Mastodon” hinaus, vielmehr geht es auch um die notwendige Veränderung der Kultur hinter dem Social Web.
Deb Roy verbindet im Atlantic ihre Erfahrungen in der Erforschung nachbarschaftlicher Diskussionskreise mit dem Wunsch nach einem Mosaik aus kleinen, netzwerkbasierten Gemeinschaften, die das “Zuhören” in den Mittelpunkt stellen. Zitat (übersetzt):
"Stellen Sie sich beispielsweise netzwerkbasierte Gemeinschaften vor, die mit Stadträten in Verbindung stehen, oder von Jugendlichen geführte Netzwerke, die mit Schulverwaltungen kommunizieren. Gemeinschaftsnetzwerke könnten in Netzwerke von Netzwerken eingebunden werden, die sich über staatliche, nationale und internationale Ebenen erstrecken. Solche seitlich vernetzte Systeme wären resistenter gegenüber politischer Manipulation von oben. Oder, um es präziser auszudrücken, wir könnten Netzwerke schaffen, die den Willen der Teilnehmer widerspiegeln, anstatt der Launenhaftigkeit eines einzelnen Eigentümers oder eines gewinnorientierten Vorstands."
Das klingt erst einmal nach “Folk Politics”, also dem Versuch, einer globalen, vertikalen Struktur eine lokale, horizontale Form entgegenzustellen. In Deutschland wäre hier sicher die Idee einer öffentlich-rechtlichen Infrastruktur für Social Media anschlussfähig.
Menschenzentriertere Netzwerke: In eine ähnliche Richtung geht der Vorschlag von Ethan Zuckerman und Chand Rajendra-Nicolucci. Ihr Argument: In den frühen Zeiten des WWW gab es eine Menge erfolgreiche Experimente mit Community-Government - im Sinne von: die Nutzerschaft gibt sich Regeln, moderiert Probleme, kann ihre Foren-Software individuell einstellen (z.B. durch Blocken anderer). Mit der Kommerzialisierung ersetzte demzufolge der Kundenservice dieses Prinzip. Zitat (übersetzt):
"Dieses Kundenservice-Modell bei nutzergenerierten Inhalten ermöglichte Websites wie Craigslist und GeoCities ein schnelles Wachstum. Es legte aber auch den Grundstein für die heutige Legitimitätskrise von sozialen Medien. Gegenwärtige Auseinandersetzungen über soziale Medien basieren auf dem Gefühl, dass die Menschen und Prozesse, die Online-Räume steuern, gegenüber den Gemeinschaften, die sich dort versammeln, nicht rechenschaftspflichtig sind."
Das ist nicht falsch, ich bin mir allerdings nicht sicher, ob dies im Moment das Kernproblem ist. Modelle wie Reddit interpretieren Zuckerman und Rajendra-Nicolucci als hybride Varianten der Community-Governance bei der Moderation; durch den Einfluss generativer KI auf Programmiermöglichkeiten erhoffen sie eine Demokratisierung der Werkzeuge, um selbst Community-Plattformen zu erstellen; weitere Governance-Möglichkeiten sehen sie in Drittparteien-Algorithmen für die Content-Sortierung und offenen Protokollen, wie Mastodon eines verwendet.
Zu guter Letzt widmet sich Katie Notopoulos in der aktuellen Technology-Review-Ausgabe über “Hard Problems” der Zukunft von Social Media. Nach einem längeren Aufriss, was alles falsch lief, sieht sie folgende positiven Entwicklungen:
Föderierte Netzwerkprotokolle, aus denen kleinere Soziale Netzwerke entstehen, deren Trust & Safety spezialisierte Firmen übernehmen.
Weniger Anreize für Reichweite und Verweildauer, einerseits durch mögliche Bezahl-Produkte (statt Monetarisierung von Verhalten), andererseits durch den Verzicht auf Metriken wie Reposting-Zähler.
Notopoulos kommt zu dem Fazit:
"Die Lösung für das Internet ist mehr Internet: mehr Apps, mehr Orte zum Besuchen, mehr Geld, das herumschwimmt, um mehr gute Dinge in größerer Vielfalt zu finanzieren, mehr Menschen, die sich an Orten, die sie mögen, rücksichtsvoll engagieren. Mehr Nutzen, mehr Stimmen, mehr Begeisterung.”
Sie gibt allerdings auch zu, dass sie den naiven Optimismus des “frühen Internet” nicht los wird und die Probleme und ihre Lösungen durch diese Brille betrachtet. Was meiner Ansicht nach auf die Vorschläge aus allen drei Texten zutrifft: Sicherlich nicht falsch, aber eben von einer Welt ausgehend, in der die bisherige Architektur und die Kultur, die sich entwickelt hat, kaum eine Rolle spielt
Andererseits: Es ist kein schlechtes Zeichen, dass wir wieder in der Lage sind, die monolithischen Content-Silos der vergangenen Jahre in unseren Köpfen zu dekonstruieren und uns andere Formen vorzustellen. Im Sommer 2022 schrieb ich von einem “Vibe Shift” bei Social Media, vor gut einem Jahr vom “Ende vom Anfang” der Mega-Digitalisierung.
Und deshalb sagt auch der naive Internet-Optimist in mir: Eine neue Form von Social Media ist möglich. Zumindest weniger unmöglich, als wir das noch vor anderthalb Jahren vermuteten.
Großklage gegen Meta
…und zwar nicht von Nutzern, sondern von 33 + 8 Staatsanwälten der US-Bundesstaaten (33 vor Bundesgerichten, acht nach Gesetzen der US-Bundesstaaten). Der Vorwurf: Meta schadet bei Instagram und Facebook wissentlich Kindern und Jugendlichen. Interessant dabei: Man zieht - ähnlich wie bei den Klagen gegen Tabakkonzerne - das Verbraucherrecht heran und führt irreführende Praktiken als Argument an. Einerseits durch die Belohnungsmechaniken der Plattform selbst, andererseits durch Dark Patterns.
Zum Beispiel gab Facebook bei der Registrierung als Default genau das Datum an, das einen Nutzer/ eine Nutzerin als 13 Jahre alt ausgab - das gesetzliche Mindestalter.
Eine ähnliche Großklage wird gegen TikTok erwartet, hier läuft die Untersuchung noch. Am Ende wird es einerseits darum gehen, zunächst die schädigende Wirkung der Plattformen auf die Psyche Minderjähriger nachzuweisen, dann aber auch um den Beweis, dass Meta diese Praktiken in Wissen dieser Folgen anwendete. Es wird also viel um Gutachten und die Resultate interner und externer Studien gehen.
AI Safety Summit
Begleitet von großem PR-Donner lädt der britische Premier Rishi Sunak kommende Woche zum KI-Sicherheitsgipfel. Etwa 100 Teilnehmer werden erwartet, was auch der überschaubaren Größe des idyllischen Veranstaltungsorts geschuldet ist. Neben Vertretern der relevanten Firmen sind auch Regierungen aus verschiedenen Ländern vertreten. Zum Beispiel die USA, Indien und China, aber (Stand September) nur sechs aus 27 EU-Ländern. Die Resonanz ist bislang abwartend, die Gästeliste noch nicht vollständig. Frankreichs Präsident Macron und US-Vizepräsidentin Kamala Harris könnten kommen, Deutschland könnte Volker Wissing schicken (ich hatte heute leider keine Zeit, beim BMDV nachzufragen).
Diplomatisch lässt sich das als Versuch Großbritanniens betrachten, auf der KI-Landkarte als Taktgeber wahrgenommen zu werden (und damit auch ein Gegengewicht zur EU). Es geht allerdings nicht zuletzt darum, Premier Sunak schöne Bilder zu liefern.
Ein Abschlusspapier, das sowohl die USA als auch China unterzeichnen würden, wäre ein Erfolg. Großbritannien setzt sich für möglichst leichte Regulierung ein und schlägt vor, ein internationales Beratergremium für heikle und besonders neuartige KI-Modelle einzusetzen. Irritierenderweise soll es “AI Safety Institute” heißen, was mehr Gewicht vermuten lässt, als in der Idee wirklich steckt.
Vor dem Gipfel warnt eine Gruppe von Wissenschaftlern, darunter Geoffrey Hinton, in einem neuen Paper Regierungen erneut davor, zu wenig zu tun. So heißt es dort (übersetzt):
“Regulierungsbehörden sollten nationale und internationale Sicherheitsstandards schaffen, die von Modellfähigkeiten abhängen. Sie sollten auch Entwickler und Besitzer von Spitzentechnologie-KI rechtlich haftbar machen für Schäden durch ihre Modelle, die vernünftigerweise vorhergesehen und verhindert werden können. Diese Maßnahmen können Schäden verhindern und dringend benötigte Anreize schaffen, in Sicherheit zu investieren.
Weitere Maßnahmen sind erforderlich für außergewöhnlich leistungsfähige zukünftige KI-Systeme, wie Modelle, die menschliche Kontrolle umgehen könnten. Regierungen müssen bereit sein, ihre Entwicklungen zu lizenzieren, die Entwicklung in Reaktion auf besorgniserregende Fähigkeiten anzuhalten, Zugangskontrollen vorzuschreiben und Informationssicherheitsmaßnahmen zu fordern, die robust gegenüber Hackern auf Staatsebene sind, bis ausreichende Schutzmaßnahmen vorhanden sind.
Um die Zeit zu überbrücken, bis Vorschriften in Kraft treten, sollten große KI-Unternehmen umgehend “Wenn-dann”-Verpflichtungen formulieren: spezifische Sicherheitsmaßnahmen, die sie ergreifen werden, wenn bestimmte rote Linien-Fähigkeiten in ihren KI- Systemen gefunden werden. Diese Verpflichtungen sollten detailliert sein und unabhängig überprüft werden."
Hinweis in eigener Sache: In wenigen Tagen erscheint eine neue Ausgabe des Magazins Internationale Politik. Dort habe ich ein längeres Essay über die Frage nach einer globalen Regulierung Künstlicher Intelligenz geschrieben.
Folgt GOMA GAFAM?
Die Abkürzung “GOMA” ist natürlich unglücklich gewählt - Goma ist eine Stadt im Osten des Kongos, die immer wieder von massiver Kriegsgewalt heimgesucht wird. Matteo Wong versucht damit im Atlantic ($) einen Nachfolge-Begriff für GAFAM zu etablieren, also die größten westlichen Tech-Firmen (Google, Apple, Facebook, Amazon, Microsoft). GOMA sind Google, OpenAI, Microsoft und Anthropic - für Wong die (westlichen) Firmen, die zu Giganten des KI-Zeitalters werden. Mal abgesehen davon, dass es noch etwas früh ist, werden hier Kategorien vermischt: Microsoft zum Beispiel integriert in viele Endanwendungen de facto GPT-X von OpenAI. Ich glaube, das lässt sich mittelfristig alles besser kategorisieren.
Links
161 Seiten über KI-Sicherheit in China.
Die Augen der KI sehen Klischees.
Was ist bei 1Password passiert?
Mehr als 30 US-Staaten verklagen Meta wegen Verstößen gegen Kinderrechte im Verbraucherschutz. ($)
Google Meet führt digitale Kosmetik-Filter für Videocalls ein.
Tech lässt Nachrichten hinter sich. ($)
Eric Schmidt tut Eric-Schmidt-Dinge.
Pebble, wir kannten dich kaum!
Bis zur nächsten Ausgabe!
Johannes