Aus dem Internet-Observatorium #42
TikTok und die Verbotsfrage / Der Papstmantel und die Aufmerksamkeitsökonomie
Hallo in die Runde! Ich bin zurück aus dem Urlaub und in der Inbox. Ich freue mich über Feedback, Themenhinweise, Treffen zum Kaffeetrinken in Berlin - gerne per Mail!
TikTok und die Verbotsfrage
Ehrlich gesagt war ich auch deshalb froh, im Urlaub zu sein, weil ich deshalb die Frage nach einer TikTok-Sperre nicht kommentieren musste. Ich tue mir nämlich schwer, da zu einer klaren Haltung zu kommen. Bis Mitte Mai weiß ich vermutlich mehr - da ist die Deadline für einen Deutschlandfunk-Hintergrund (18 Minuten), den ich dazu plane.
Ich halte das Thema aus mehreren Gründen für schwierig. Da wäre die US-Diskussion, die natürlich vom üblichen Übermaß an Heuchelei geprägt ist. Und auch den derzeitigen Wirtschaftskrieg, die wachsende politische Sinophobie und grundsätzliche Konfliktbereitschaft widerspiegelt.
Heuchelei heißt: Natürlich geht es um die Geschäftsinteressen der US-Techkonzerne; und natürlich würde ein TikTok-Verbot nichts daran ändern, dass der US-Kongress kein Interesse zeigt, den Handel mit intimen Daten grundsätzlich als Problem zu anzuerkennen.
Allerdings weiß, wer das hier regelmäßig liest: Ich halte TikTok zumindest mittelfristig für ein Gesichtserkennungsdepot der Kommunistischen Partei Chinas. Das Thema Datenabfluss ist für mich, Stand jetzt - anders als der Aspekt “ideologische Manipulation via Algorithmus” - eine ernste und berechtigte Sorge.
Natürlich lässt sich diese Honeypot-These nicht belegen. Vermutlich ließe sie sich nicht einmal technisch beweisen, sollten diese Daten bereits abgeflossen sein. Wir müssen uns aber drei Dinge klar machen:
Die Kontrolle von Informationen und Daten gehört zu den Kernkompetenz und -zielen der chinesischen Regierung.
Der Nachweis der Existenz einer derartigen Datenbank wäre, metaphorisch gesprochen, der Hiroshima-Moment des Internets.
Aber auch: Firmen wie Clearview AI oder PimEyes deuten an, was mittels Scraping offener Web-Quellen bereits möglich ist. Kombiniert mit wachsenden Machine-Learning-Fähigkeiten bewegen wir uns womöglich ohnehin auf eine (in Europa verbotene) biometrische Katalogisierung zu, zumal wir nicht wissen, was westliche Geheimdiensten wie der NSA zur Verfügung steht. TikTok allerdings erhält solche Gesichts- plus Metadaten kostenlos und in Nahaufnahme - von uns Nutzern und Nutzerinnen.
Es geht also um Risikoabwägung. Und natürlich würde ich mir eine Welt wünschen, in der Überwachungskapitalismus abgeschafft und Datenhandel geächtet ist. In der EU-Datenschützer die Kompetenz haben, die Datensammlung und Eigenschaften-Kategorisierung sämtlicher Social Networks “im Maschinenraum” zu überprüfen. Oder Daten-Abflüsse technisch festzustellen. Ersteres scheitert derzeit an der (zu refomierenden) Umsetzung der DSGVO durch Irland; Letzteres können wahrscheinlich nicht einmal die Firmen selbst, die Systeme sind viel zu komplex (siehe Lesehinweis in den Kurznotizen).
Ein Kompromiss liegt auf dem Tisch: ByteDance hat mit “Project Clover” für Europa und in größerer Form mit “Project Texas” für die USA jeweils Pläne zur lokalen Datenspeicherung vorgelegt. Dem entgegen steht die Existenz eines “Master Admins” in Peking, der 2022 in internen Meetings erwähnt wurde.
Ich weiß nicht, ob dieser Kompromissvorschlag genügen wird oder der westliche Teil von ByteDance am Ende amerikanisiert wird, wie es derzeit der US-Kongress anstrebt. Ich weiß aber umgekehrt: Die Sperre einer solch prominenten App würde im Westen einen Tabubruch bedeuten. Mit dem ich übrigens tatsächlich eher bei Telegram gerechnet hatte. Der Gegenwind wäre beachtlich - ein Grund übrigens, warum Indien TikTok bereits relativ früh im Hype-Cycle sperrte.
Wäre eine Sperre vertretbar? Ohne konkretere Indizien bin ich schon rein prozedural skeptisch. Andererseits sollten wir nicht naiv sein: Das Splinternet ist Realität, es wird auch bei uns im Westen nicht vor den App-Stores Halt machen. Und die Netzfreiheits-Argumenten der Nullerjahre passen hier - anders als in der Debatte zur Chatkontrolle - nicht mehr in die Zeit.
Der Papstmantel und die Aufmerksamkeitsökonomie
Vor ein paar Wochen fiel ich auf den falschen Bill Maher rein (siehe Ausgabe #41); nun scheinen nun Hunderttausende den Papst in der Lifestyle-Puffjacke als reales Foto und nicht als KI-Produktion wahrgenommen zu haben.
Ryan Broderick schreibt in
vom "ersten KI-erzeugten Hoax" und identifiziert Twitter als Haupt-Vektor für solche Fakes.Was Broderick beschreibt, lässt sich ganz gut am Twitter-Posting selbst zeigen: Der Verfasser hat das Bild nicht einmal selber von Stable Diffusion designen lassen, sondern es einfach von Reddit gezogen.
Die virale Aufmerksamkeit wiederum nutzt er weiter unten in seinem Thread für die Vermarktung (P.S.: kann es sein, dass solche Mini-Werbedeals für virale Postings seltener geworden sind?).
Man kann die Vermarktung und finanzielle Vorteile sogar als Motivation ignorieren; Aufmerksamkeit funktioniert auch ohne Fiatgeld als Währung.
Und damit sind wir beim Problem: Die Mischung aus Aufmerksamkeitsökonomie, viralen Mechanismen und generativen Bild- und Bewegtbild-KIs wird absehbar dazu führen, dass die Produktion genau solcher Fake- und Troll-Postings durch die Decke gehen wird. Und zwar nicht nur gekennzeichnet und offensichtlich (“so sähe xy in dieser Situation aus”), sondern auch zur Irreführung.
Ich befürchte, wie bereits in den letzten Ausgaben erwähnt, dass wir darauf als Medienkonsumenten nicht vorbereitet sind. Aber ich halte die Technologie auch nicht für den Kern des Problems: Denn eine solche Fake-Hochkonjunktur wäre kein Beweis, wie böse oder gefährlich bildgebende KIs sind. Sondern vielmehr ein weiteres Indiz dafür, wie wir Menschen unser Verhalten unserem viralen Medienumfeld angepasst haben.
[Das Neue hier ist übrigens nicht einmal die Bild-Manipulation an sich, sondern dass Photoshop-artige Technik nun ohne Vorkenntnisse und innerhalb weniger Sekunden für (mehr oder weniger) alle einsetzbar ist.]
Irgendwo da draußen existiert womöglich ein Szenario, in dem ein demokratisiertes Photoshop fast ausschließlich für positive Kreativität verwendet wird und der Täuschungsanteil gering bleibt. Der einfachere Zugang zu Produktion und Distribution, so viel lässt sich prognostizieren, hatte bei Musik deutlich weniger Nebenwirkungen.
Allerdings ist Musik in der Regel kein Zeitdokument mit Informationswert, das mit “wahr oder gefälscht” klassifiziert werden kann. Und öffentliche Bilder nehmen im Social-Media-Kontext auch eine spezielle Funktion ein, nämlich in der Regel als Memes im klassischen Sinne (also als Kommunikationseinheit, deren Zweck die Verteilbarkeit ist).
Und solange Social Media als Betriebssystem unser Medienwelt den Zweck hat, Verteilbarkeit zu ermöglichen, ja Erfolg nur mittels der daraus entstehenden Viralität gemessen wird, bleibt der Anreiz für Fakes und Foto-Trolling groß. Wahrscheinlich zu groß, um ein Randphänomen zu bleiben.
Kurze Notizen
Die Reaktionsökonomie: William Davies’ skizziert in seiner Rede ein Art Update zur Aufmerksamkeitsökonomie - die “Reaktionsökonomie”. Seine Argumentation ist vielschichtig und sei zur Lektüre ans Herz gelegt. Über eine Beobachtung aus dem Essay muss ich immer noch nachdenken: Spontanität, die auf digitale Reaktionen ausgelegt ist, ist demnach keine Spontanität - sondern “strategische Authentizität”. Ein hilfreicher Begriff.
Chatkontrolle: Ich habe sie oben bereits kurz erwähnt und irgendwo in meinem Kopf liegt ein Essay mit dem Titel “Digitalregulierung - die EU kann es nicht” vergraben. Aber weil ich das Thema noch nicht größer ausgebreitet habe sei es an dieser Stelle erwähnt: Die Chatkontrolle ist eine der dümmsten digitalisierungspolitischen Ideen seit langem und im Kontext Überwachungsinfrastruktur eines der gefährlichsten Projekte der letzten Jahre. Deutlich gefährlicher als Uploadfilter. Wer sich tiefer einlesen möchte, kann sich die Stellungnahmen der Bundestagsanhörung zu Gemüte führen. Und auch wenn ein deutsches “Nein” auf europäischer Ebene dieses Ungetüm nicht verhindern mag und der EuGH diesen gefährlichen Unsinn in ein paar Jahren kassieren wird: Eine Bundesregierung, die sich fortschrittlich nennt, müsste eigentlich alle Hebel gegen diese Verordnung in Bewegung setzen.
Was ich derzeit lese: David Auerbach - Meganets. Kernthese: Die Digitalsysteme, die unsere Gesellschaft inzwischen durchziehen (z.B. Social-Media-Plattformen), sind so kompliziert, dass sie niemand kontrollieren kann - auch die Betreiberfirmen nicht. Auerbach zusammenfassend in einem einem Guardian-Interview:
“These systems are too complex and diffuse to stop. It would be like shutting down the stock market, except the degree of complexity is far greater than the stock market. What we should be looking at is mitigating the dysfunctional effects of the meganet, and exert some indirect influence on them. What we can’t do is control them at the fine-grained level that people are asking for.”
Links
Drei Gedanken zur Silicon Valley Bank von Dave Karpf.
John Lanchester über Chris Millers Geschichte des Microchips.
Die Welt, die wir erschaffen haben.
Zeitgeisty: Straftaten lernen via TikTok.
Die 16 Konzerne, die Googles Suchergebnisse dominieren
Goncharovs Bedeutung für die Internet-Kultur.
1 Grafik
Bis nächste Woche!
Johannes