I/O vom 30. November 2022

Dezentrale Content-Moderation/ Hermetische Ruhe / Musk vs. "Woker Kapitalismus" / Toleranz für Netzsperren

Nov 30, 2022

Hallo in die Runde!

Eigentlich wäre dieser Newsletter schon gestern Abend fertig gewesen, aber dann verschluckte Substack die Hälfte. Tja.

Dezentralisierte Content-Moderation

Mit dem wachsenden Interesse an Mastodon rücken Fragen von Infrastruktur und Logistik in den Mittelpunkt. Allen voran das Thema Content-Moderation, das bereits bei zentralisierten Netzwerken umstritten ist.

Es gibt dafür zwei gute Einstiegspunkte: Der eine ist ein Aufsatz aus dem Jahr 2020 - “Seven Theses on the Fediverse and the Becoming of FLOSS” von Aymeric Mansoux und Roel Roscam Abbing. Darin beschreiben sie, was sich aus der Fediverse-Architektur für politische Social-Media-Konflikte ergibt (Seite 131, Fettung von mir):

“By creating a system in which a pluralism of hegemonies is permitted, it is possible to move from an understanding of the other as an enemy, to the other as a political adversary. For this to happen, different ideologies must be allowed to materialize via different channels and platforms. An important prerequisite is that the goal of political consensus must be abandoned and replaced with conflictual consensus in which an acknowledgement of the other becomes the foundational building block of new relationships, even if this means, for example, accepting non-Western views on democracy, secularism, communities, and the individual.”

Aus der Architektur ergibt sich also ein Mittelweg: Nicht der Versuch, politischen Konsens herzustellen, sondern eine Form von kritische Toleranz des “Anderen” und seiner Haltungen.

Funktioniert das in der Praxis? In “Moderating the Fediverse” geht Alan Rozenshtein dieser Frage nach.Der Entwurf stammt aus dem September (gutes Timing, würde ich sagen). Ein wichtiger Punkt, den er für die Moderation ableitet (Fettung meine):

“The benefit of decentralized moderation is that it can satisfy both those those that want to speak and those that don’t want to listen. By empowering users, through their choice of instance, to avoid content they find objectionable, the Fediverse operationalizes the principle that freedom of speech is not the same as freedom of reach.”

Als Beispiel nennt Rozensthein die Rechtsextremen-Plattform “Gab”, die 2019 zur Umgehung der App-Stores auf (geforkte) Mastodon-Instanzen wechselte. Woraufhin populäre Mastodon-Instanzen wie mastodon.social alle Interaktionen mit Gab blockierten, es also in weiten Teilen des Gesamt-Netzwerks nicht zu sehen war. Theoretisch hätte man auch alle Instanzen blocken können, die weiterhin mit Gab interagieren. Wichtig dabei: Letztlich gab es keine Top-Down-Entscheidung, sondern das Netzwerk isolierte Gab mehr oder weniger selbständig.

Allerdings räumt Rozensthein selbst ein, dass dieses Blocken nur einen Teil des Problems löst. Denn es geht eben auch das Filtern einzelner Inhalte (z.B. automatisiert mittels CSAM-Scans), lokale Governance-Anforderungen und logischerweise für die größeren Instanzen die Frage der Skalierung von Moderation.

Wie sich diese Konflikte zeigen und auflösen - ich habe noch keine Ahnung. Aber klar scheint, dass selbst bei einem weiteren Fortschritt von Machine-Learning-Algorithmen eine große Zahl an Freiwilligen oder bezahlen Mitarbeitern benötigen würde, um das Fediverse als Infrastruktur überlebensfähig zu halten.

Hier könnte dann tatsächlich der “Breaking Point” liegen, verschärft z.B. durch koordinierte Troll-Versuche. Und auch im Bezug auf Lokalisierung, die ja nicht mal Twitter und Meta hinbekommen haben, liegen im dezentralen Modell Schwächen (oder Stärken, die ich noch nicht erkenne, das ist ja alles in dieser Form Neuland und nicht mit dezentralen Blogosphären vergleichbar).

Hermetische Ruhe

Die Absätze oben zeigen, dass wir uns womöglich auf eine neue Vorstellung von Social Media zubewegen. Vorausgesetzt, die Fediverse-Vernetzung hält an (ich habe meine Zweifel bereits geschildert, korrigiere mich aber gerne, wenn es so kommen sollte).

Dezentral funktioniert anders, nimmt andere Entwicklungen und führt zu neuen Wechselwirkungen. Eine davon beschreibt

David B. Auerbach

in seinem Newsletter. Er schreibt zwar nicht explizit von den getrennten Sphären des Social Web, aber eben doch von dem, was Dezentralisierung verstärkt. Dem Ende des gemeinsamen Realitätskonsensus folgt auch das Ende des Kampfs um einen Realitätskonsensus. Stattdessen erleben wir eine Koexistenz hermetisch getrennter Sphären:

“We’ve seen the mass media-driven narratives of the 20th century collapse already. Now we are seeing the collapse of the shared frame altogether. As subcultures sink into private argots and spend more time affirming one another than doing anything notable outside their subcultures, the ability for any one group to point at another group and persuasively say “They’re the problem!” is diminishing.”

Ich bin mir nicht sicher, ob das stimmt. Denn es gibt eben weiterhin Fragen, die für alle ausverhandelt werden müssen. Auf der anderen Seite haben die routinierten wie erwartbaren Winkelzüge des gegenwärtigen Kulturkampfs schon etwas von Ritualen, deren Wirkung sich auf den eigenen Stamm beschränkt.

Musk, Murdoch, Apple und "Woke Capitalism”

Musk und Twitter, in der gebotenen Kürze. Nachdem deutlich wird, dass dieser Typ völlig red-pilled ist, scheint sich ein - bewusstes oder unbewusstes - politisches Ziel abzuzeichnen: Mit Twitter zu einer Art Rupert Murdoch der nächsten Jahrzehnte zu werden. Was allerdings nicht zur Idee passen würde, in das gesamte Twitterverse eine 2P2-Paywall einzuziehen, der Nutzerschaft also den Anreiz zur Monetarisierung von Content und Clout zu geben (und durch Transaktionsgebühren davon zu profitieren). Das hatte ich nämlich vermutet.

In diesen politischen Zusammenhang würde ich auch einen Teil des Streits mit Apple stellen: Denn es geht natürlich um die 30 Prozent Apple-Anteil der Monetarisierung (und um Retourkutschen gegen Apple als größten Ex-Werbekunden); Musks Verhalten passt aber auch ziemlich gut zum Republikaner-Kurs gegen den “woken Kapitalismus”.

Zitat Bloomberg zur politischen Ausrichtung der Republikaner bis zu den nächsten Präsidentschaftswahlen:

“Republicans and their longtime corporate allies are going through a messy breakup as companies’ equality and climate goals run headlong into a GOP movement exploiting social and cultural issues to fire up conservatives.
The ensuing drama will unfold over the next two years in the US House, where the incoming GOP majority plans to pressure companies on immigration, equality and climate change stances that are now being assailed by key Republicans as “woke capitalism.”"

Ob Musk eine Chance wittert, dass die Republikaner den (tatsächlich viel zu hohen) Apple-Anteil an App-Store-Verkäufen zu ihrer Agenda machen - oder ob er einfach nur dem Zeitgeist seines reaktionären Stammes folgt: ich bin überfragt.

Netzsperren & App-Store-Löschungen: Wächst die Toleranz?

Noch sind es Szenarien: Könnte Apple Twitter aus dem App-Store nehmen, wenn man keine ausreichende Moderationspraxis etabliert? Könnte Twitter in Deutschland geblockt werden, wenn man das NetzDG wiederholt nicht beachtet? Wie sehen die Sanktionen für Plattformen wie Telegram aus, wenn sie sich auch unter dem DSA weiterhin EU-Recht entziehen? Und was ist, wenn sich TikTok als das chinesische Personenkatalogisierungs-Werkzeug entpuppt, für das ich es halte?

Netzsperren und App-Store-Löschungen sind heikel. Weil sie als Ultima Ratio eine Menge Gegenwind erhalten dürften. So war das zumindest bislang. Und doch sind wir weit entfernt von den Zensursula-Zeiten, als Menschen gegen solche Pläne auf die Straße gingen. Big Tech hat einen schlechten Ruf, Elon Musk verstärkt das Ganze noch.

Es sind in den nächsten Jahren Konflikte zwischen Staat und Tech-Firmen absehbar, in denen Netzsperren (oder zumindest App-Store-Sperren) als Option gehandelt werden. Und ich bin mir derzeit nur bei TikTok sicher, dass es massive Gegenmobilisierungen geben würde (und das auch nur, weil es einfach so beliebt ist).

Internet Governance und die UN

Seit Montag läuft in Addis Abeba (und online) das 17. Internet Governance Forum (IGF). Dazu sei diese hilfreiche Analyse von Milton Mueller von der Georgia Tech empfohlen (wo es einen Schwerpunkt-Forschungszweig zu Internet Governance gibt). Die Vereinten Nationen, so lässt sich verkürzt sagen, versuchen das IGF wieder stärker als bislang in den eigenen institutionellen und strategischen Orbit zu ziehen. Weil man in Digitalisierungsfragen wieder in die Vorhand kommen möchte, nachdem man in den meisten Fragen nur die Beobachterrolle hat. Dass das gerade kein guter Zeitpunkt ist, versteht sich von selbst. Denn das Splinternet nimmt immer deutlicher Formen an. Mueller:

„The fine-sounding pronouncements of the UN seem to be designed to maintain the fiction that nation-states can cooperate in the governance of cyberspace when all around us governments are fracturing into competing power blocs“