Liebe Internet-Beobachtende,
an dieser Stelle ein kleiner Hinweis: 18 Deutschlandfunk-Minuten von mir zum Thema “Regulierung von Digitalkonzernen wie Meta/Facebook” stehen für Interessierte zum Nachhören bereit. Im Newsletter widme ich mich dem Kontext der aktuellen Telegram-Diskussion.
Thema der Woche: Der Fall Telegram
Die Ministerpräsidentenkonferenz fordert also eine “angemessene Regulierung” von Kommunikationsdiensten, die sich de facto zu einem “offenem sozialen Netzwerk mit Massenkommunikation” entwickeln. Gemeint ist natürlich Telegram. Auslöser waren Morddrohungen an Politiker, organisierte Offline-Auftritte und grundsätzlich Hassbotschaften in demokratiefeindlichen Querdenker-Gruppen, die sich dort vernetzen.
Diese Forderung steht nun im Raum, aber was ist mit ihr anzufangen? Einige Mainstream-Debattenbeiträge in den vergangenen Wochen gingen zunächst davon aus, dass Telegram nicht unter das Netzwerkdurchsetzungsgesetz (NetzDG) fällt. Die nun erhobene Forderung erweckte den Eindruck, dass die Ministerpräsidentenrunde und Olaf Scholz dazu zählen.
Bekanntermaßen hat das Bundesamt für Justiz (BfJ) aber die Einschätzung bereits im Frühjahr geändert, da es sich um einen hybriden Dienst aus privatem Messenger und öffentlichem, gruppenbasiertem sozialem Netzwerk handelt. Und dieser gruppenbasierte Teil nun eine wichtige Rolle bei der Nutzung spielt. Über so einen Schritt war bereits im vergangenen Jahr spekuliert worden.
Ein gesetzliches Problem existiert also nicht - es sei denn, mir ist irgendwas entgangen. Sicher könnte man also das NetzDG noch einmal genauer fassen, um den öffentlichen Teil solcher Hybrid-Dienste explizit zu nennen*. Aber das wäre weiße Salbe. Denn das Problem ist die praktische Umsetzung.
Das BfJ hat keinen Zugriff bzw. hat offenbar nicht einmal Kontakt mit Telegram, das seinen Firmensitz offiziell in Dubai hat. Der Versuch, mittels Rechtshilfeverfahren zwei Bußgeld-Verfahren auf den Weg zu bringen - eines wegen fehlender Zustellmöglichkeiten in Deutschland, das andere wegen fehlender NetzDG-Meldebuttons - darf als gescheitert betrachtet werden. Warum man wartet, nun die nächsten Schritte einzuleiten und das Anhörungsverfahren für abgeschlossen zu erklären, entzieht sich meiner juristischen und praktischen Kenntnis.
Es ist unmöglich, dieses Zugriffsproblem technisch oder gesetzlich zu lösen. Und auch diplomatisch wohl nicht: Dubai ist nicht nur als Telegram-Gastgeber bekannt, sondern wegen seiner laxen Strafverfolgung auch als Geldwäsche-Paradies. Und abgesehen davon: Was würden wir sagen, wenn zum Beispiel Weißrussland mittels Emirat-Unterstützung Zugriff auf Telegram und damit auf Nutzerdaten von Dissidenten bekommen würde (mehr dazu weiter unten)?
Neue Regeln und alte Vollzugsprobleme
Nun werden wir sehen, ob trotzdem politische Forderungen wie Klarnamenpflicht, Telegram-Netzsperren oder nach der Vorratsdatenspeicherung reüssieren. Die neue Ampel-Regierung sendet derzeit zwei Signale, die in eine andere Richtung gehen: Eines ist sinnvoll, das andere ist Zeitspiel.
Zeitspiel ist der Verweis des neuen FDP-Justizministers Marco Buschmann auf den “Digital Services Act” (DSA), der 2022 beschlossen werden soll. Der neue EU-Rechtsrahmen sieht bestimmte Transparenzpflichten für Digital-Plattformen vor, zum Beispiel rund um die Moderationspraxis oder Faktoren, die in personalisierte algorithmische Sortierungen einfließen. Dazu gibt es neue - noch nicht final festgezurrte - Aufsichtsstruktur für soziale Netzwerke, die bei Verstößen hohe Strafen verhängen kann.
Nun ist es prinzipiell richtig, auf diesen Rahmen zu warten, weil das NetzDG danach ohnehin angepasst werden muss (unter anderem muss Deutschland festlegen, welche der vielen derzeit beteiligten deutschen Behörden die Content-Regulierung der Plattformen vollständig übernimmt). Auch mögliche Haftungsverlagerungen auf Betreiber öffentlicher Gruppen, die derzeit im Gespräch sind, könnten theoretisch abschreckende Wirkung entfalten (und könnte nebenbei in Ländern wie Ungarn und Polen heikle Nebenwirkungen haben).
Aber der DSA per se verlagert das Vollzugsproblem nur auf die europäische Ebene; möglich, dass die EU als Machtblock stärkeren Druck auf Telegram ausüben kann, sich unter das Regulierungsregime zu begeben. Also sozusagen den Discord-Weg nachzugehen. Möglicherweise aber auch nicht.**
Ohnehin: Was, wenn sich nichts ändert? Eine europaweite Sperre der Telegram-Apps in den Stores von Google und Apple wäre möglich. Aber würde als Beifang die reguläre Kommunikation über die Messenger-Funktion blockieren, die ja auch aus sehr sinnvollen Projekten besteht. Und natürlich würde dieser Schritt Ländern wie Russland oder Iran einen Freifahrtschein geben, es der EU nachzutun. Und dabei „Hate Speech!“ zu rufen, aber Dissidenten zu meinen.
NetzDG, Moderationsgesetze und was autoritäre Staaten daraus machen
Zur Erinnerung: Der dänische ThinkTank Justitia zählt inzwischen mehr als zwei Dutzend Länder, die das NetzDG adaptiert oder als Vorlage verwendet haben - darunter Länder wie Venezuela, Vietnam, Singapur oder die Philippinen. Nationen, in denen Regierungskritik oft eben keine Alternativkanäle (mehr) zu sozialen Netzwerken hat. Mir ist immer noch unbegreiflich, wie wenig deutsche Politiker und Politikerinnen diese internationale Dimension des NetzDG im Blick haben.
Übrigens: Eine Sperre der Telegram-App hätte sicherlich Auswirkungen auf die Nutzerzahl; Telegram wäre aber weiterhin per Web- und Desktop-Client nutzbar. Dann müssten Netzsperren her. Die leicht zu umgehen sind, aber dennoch einer Zensur-Infrastruktur für Kommunikationssoftware gleich käme. Und dass nach Telegram ein anderer Dienst diese Nische bedienen würde, ist leicht auszurechnen.
Doch ich hatte ja geschrieben, dass es neben dem Zeitspiel auch ein sinnvolles Signal gibt: Das ist die Modernisierung der Polizeiarbeit. So wie ich die Ampel-Vertreter verstehe, soll die Polizei bei Alltagsdelikten (Schwarzfahren etc.) entlastet werden und sich stärker der digitalen Ermittlung zuwenden. Im Koalitionsvertrag steht das so explizit nicht, aber hat das zumindest der FDP-Politiker Stephan Thomae mir gegenüber beschrieben, Saskia Esken hat sich ähnlich geäußert.
Hybride Polizeiarbeit
Ich habe für einen anstehenden DLF-Beitrag dazu mit Matthias Kettebach gesprochen, der für das Hans-Bredow-Institut zur Regelbildung in digitalen Kommunikationsräumen forscht. Er sieht uns in einer Zwischenphase: Wir haben uns noch nicht daran gewöhnt, dass Polizisten digital in sozialen Netzwerken “auf Streife gehen”. Aber wenn wir das Wesen unserer neuen Hybrid-Welt ernst nehmen, sei das in ein paar Jahren einfach ganz normal - eine hybride Gesellschaft erfordert eine hybride Polizeiarbeit. Die ist nicht immer kompliziert: Tatsächlich sind ja viele Telegram-Nutzer in besagten auch unter Klarnamen unterwegs. Entsprechend ist das nicht nur ein Schulungs-, sondern auch ein Rekrutierungsthema für die Ermittlungsbehörden.
Signale für eine Modernisierung gibt es offenbar: Zumindest hat mir Benjamin Krause von der Frankfurter Zentralstelle zur Bekämpfung der Internetkriminalität (ZIT) beschrieben, dass im Zuge der Anpassung an die nächste NetzDG-Phase ab Februar 2022*** das Bewusstsein in allen Staatsanwaltschaften gewachsen sei, dass öffentliche Beleidigung und Drohungen im Netz nicht mit dem Streit am Gartenzaun gleichzusetzen sind.
Nun ist der Verweis auf Kompetenzaufbau erst einmal unbefriedigend. Eine Abkürzung könnte jener Druck sein, dem Gründer Pawel Durow regelmäßig nachzugeben scheint. So ist die Moderationspraxis ja nicht völlig Laissez-faire: Kinderpornographie, bestimmte Urheberrechtsverstöße und Terror-Inhalte werden gelöscht. Dazu hat man laut SZ wohl eine direkte Verbindung zur CIA.
Vor allem aber reagierte man auf konkrete Ereignisse: Zum Beispiel sperrte man während der russischen Wahlen den oppositionellen “Nawalny-Bot”. Nach dem Sturm auf das US-Kapitol am 6. Januar entfernte man nach eigenen Angaben „Hunderte“ öffentliche Aufrufe zur Gewalt. Und auch Attila Hiltmanns Kanäle verschwanden im Juni dieses Jahres zwischendurch zumindest aus der App.
Alle beschriebenen Fälle scheinen damit zusammenzuhängen, dass Telegram stark auf den Druck reagiert, den die App-Store-Betreiber weitergeben. Beispiel USA: Damals hatte Apple die App Parler vorläufig aus dem Store genommen, weil es dort an Infrastruktur zur Moderation fehlte (so die offizielle Begründung). Wahrscheinlich also wäre geschäftlicher/infrastruktureller Druck also wirksamer als direkter politischer Druck. Wieder einmal.
Am Ende wäre wahrscheinlich der sicherste Weg, Telegram in das europäische Regulierungssystem zu holen, ein Börsengang. Das würde dann aber auch Anpassung an die Regeln autoritärer Regime nach sich ziehen. Und Zustellbevollmächtigte für Tech-Firmen verlangt schon heute nicht nur Berlin, sondern bald auch Moskau.
Um am Ende nochmal kurz einen Bogen zu schlagen: Ich habe in Ausgabe #12 (und #01) bereits über unsere Realitätskrise geschrieben - und den gegenläufigen Wunsch nach “epistemischer Sicherheit”. Wie problematisch dieser Wunsch ist, zeigt zum Beispiel der Umgang mit der Lab-Leak-Theorie rund um Covid-19, die zunächst als Verschwörungstheorie galt, sich nun aber als plausibel herausgestellt hat. Wissen und Erkenntnis bildet sich im Prozess; niemand sollte sich ein Wahrheitsministerium wünschen.
Extremistische Kommentare und Telegram-Gruppen wecken aber Begehrlichkeiten in beiden Bereichen, so mein Eindruck: Der Verrohung Einhalt zu gebieten, aber auch der Desinformation Herr werden, die häufig ihre Grundlage ist. Wir müssen uns jedoch klar darüber sein, dass das regulative und strafrechtliche Werkzeug gegen Bedrohungen oder Aufrufe zu Gewalttaten nicht gleichzeitig auch als Instrument zum Schutz einer allgemein anerkannten “Wahrheit” genutzt werden kann, sofern es sich nicht um überprüfbare Delikte wie Verleumdung oder Holocaust-Leugnung handelt.
Wer “Hass, Beleidigung und Bedrohung” nicht vom Phänomen der so genannten “Fake News” trennt, begibt sich mittelfristig auf eine abschüssige Bahn, weil er de facto eine gesetzlich herbeigeführte Konsens-Realität ersehnt. Das scheint mir bei allen künftigen Debatten der Kern zu sein, den wir nicht vergessen sollten.
Coda 1: Radikalisierungseffekte in Telegram-Gruppen
An dieser Stelle sei auch noch einmal erwähnt, dass die Radikalisierungseffekte bei Telegram nicht von einer algorithmischen Sortierung kommen, sondern direkt vom Design auf Viralität/ Funktionen eines Broadcast-Massenmediums abgeleitet sind. Ich habe dazu mit Lea Gerster gesprochen, die radikale Telegram-Gruppen erforscht hat. Zwei Funktionen fallen ins Auge:
Default Rabbit Hole: Die Forwarding-Funktion über Gruppen hinweg, die Nutzerinnen und Nutzer schnell zum Ausgangspunkt eines Postings bringt. Und damit womöglich in noch extremere Gruppen einsteigen, im Covid-Kontext speziell in das rechtsextreme Digitalmilieu.
XXL-Gruppenstärke: Bis zu 200 000 Nutzer und darüber hinaus “Broadcast-Gruppen”, die sogar größer sein können. Dadurch eine Viralität, wie sie herkömmliche digitale Massenmedien nicht erreichen.
Beide Funktionen hat Meta bei WhatsApp nach den Erfahrungen in Indien übrigens begrenzt: Die Weiterleitung einer Nachricht wurde auf höchstens fünf weitere Chats begrenzt; die Gruppengröße auf 256 + 1 Admin. Was in Indien dazu geführt hat, dass ein Teil der politischen Diskussion Richtung Telegram wandert. Aber zeigt, dass Design-Entscheidungen die Möglichkeit zur Selbstregulierung eröffnen.
Coda 2: *Fußnoten aus dem Text
*NetzDG-Veränderungen: Theoretisch ließe sich auch die Voraussetzung der “Gewinnabsicht” streichen, die Voraussetzung für die NetzDG-Pflicht ist (und bei Telegram erst gegeben ist, seitdem die Macher angekündigt haben, Werbung zu schalten). Allerdings hätte man dann, wie bereits 2017, wieder eine Diskussion über Forenbetreiber (wobei nur wenige Foren die notwendige Marke von zwei Millionen Nutzern erreichen, um unter das NetzDG zu fallen).
**Übrigens würde Telegram im Moment noch nicht die besonders stark regulierte Kategorie (“sehr große Plattform”) fallen, weil man EU-weit noch unter 45 Millionen Nutzer haben dürfte. Bis zur Umsetzung dauert es ohnehin mindestens bis 2024.
***Neue Gesetzesstufe 2022: Ab Februar müssen Plattformen gemeldete, strafbare Kommentare direkt an das Bundeskriminalamt weiterleiten, inklusive IP-Adresse. Das Bundeskriminalamt prüft die Kommentare dann und leitet sie im Falle eines Anfangsverdachts an die Staatsanwaltschaften im ganzen Land weiter, je nachdem, wo das Delikt vermutet wird. Allerdings ist diese “Vorermittlung” durch die Plattformen umstritten, auch Facebook und Google klagen dagegen.
Hashtags /zl;ng
#Sicherheitslücken Eine Sicherheitslücke im weit verbreiteten Java-Framework log4j (genannt “Log4Shell”) macht aktuell Millionen Server weltweit anfällig. Und zeigt die Schattenseite des Open-Source-Prinzips.
#Klagen Der US-Konzern Apple verklagt die israelische NSO Group wegen der Pegasus-Spywareangriffe auf iPhones. Dutzende von Rohynga-Flüchtlingen aus Myanmar verklagen Facebook wegen der indirekten Beteiligung am Genozid 2017 durch fehlende “Hate-Speech”-Moderation. Es geht um Schadenersatz in Höhe von 150 Milliarden Euro.
#Tracking Im Großraum Toronto bringen Autodiebe derzeit vermehrt Airtags an Fahrzeugen an, um sie nachts zu finden und zu klauen.
#Internetpersönlichkeiten Rich “Lowtax” Kyranka ist tot. Der Gründer und langjährige Betreiber der Humorseite Something Awful starb im Alter von 45 Jahren. Something Awful prägte in den Nullerjahren Ton und Themen, die später auch Social-Media-Plattformen wie Twitter maßgeblich beeinflussten.
Linktipps
The Hack That Changed The World
Eine BBC-Radiodoku über das #Climategate genannte “Hack and Leak” ausgewählter E-Mails bekannter Klimawissenschaftler 2009, das erfolgreich Zweifel an den Motiven der Wissenschaftler und den Erkenntnissen zum Ausmaß der Erderwärmung säte. Wer dahinter steckt, klärt auch diese trotzdem hörenswerte Doku nicht auf.
Beautiful Lies: The Art of the Deep Fake
Tech-Kritiker Nicholas Carr mit einem Ausblick auf das Zeitalter synthetischer Medien.
Fifty percent of Facebook Messenger’s total voice traffic comes from Cambodia. Here’s why
Wenn deine Tastatur dein Alphabet nicht unterstützt…
Birds Aren’t Real, or Are They? Inside a Gen Z Conspiracy Theory.
Verschwörungstheorien als ironisches Projekt.
Benedict Evans notiert das Offensichtliche: Alle neuen / plötzlich wiederentdeckten Medienformen belohnen die “First Mover”, bevor die Gattung mit Content überschwemmt wird und 99 Prozent in den (kaum wahrgenommenen) Long Tail wandern.
2 Tweets
Bis zur Ausgabe #23!
Johannes