Aus dem Internet-Observatorium #35
Quo vadis, Überwachungskapitalismus? / Entspannung bei China vs. Tech / KI-Regulierung
Willkommen zu einer neuen Ausgabe aus dem Internet-Observatorium!
Quo vadis, Überwachungskapitalismus?
Die jüngste Entscheidung der europäischen Datenschützer dürfte Meta Kopfschmerzen bereiten: Tracking darf nicht mehr an die Zustimmung zu den Allgemeinen Geschäftsbedingungen geknüpft werden, sondern ist gesondert zustimmungspflichtig (ohne, dass Nutzern bei Ablehnung ein Schaden entsteht).
Morgan Meaker stellt auf Wired.com die These auf, dass “der Überwachungskapitalismus langsam stirbt”. Ziemlich clickbaity, aber auf Social Media gerne geteilt. Das hängt damit zusammen, dass a) Meta immer noch der beste Sündenbock für die Irrwege der Internetbranche ist und wir uns b) offenbar kollektiv danach sehnen, das Tracking endlich aufhört.
Die Entscheidung (hier als pdf) selbst gibt das nicht unbedingt her.
Konkret ist in den Punkten 4.30 ff die Kernfrage enthalten (und hier wird es kompliziert): Kann ich ein personalisiertes Content-Angebot von einem personalisierten Werbecontent-Angebot trennen? Beide Funktionen basieren auf der Auswertung von Verhaltensdaten, beide Funktionen bietet Meta bei Facebook und Instagram an. Heißt zum Beispiel: Meta zeigt mir ein Meme-Video, Meta zeigt mir aber auch ein Werbevideo.
Meta argumentiert deshalb sinngemäß, dass die AGB-Einwilligung zur Erfüllung eines personalisierten Content-Angebots sehr wohl mit der Zustimmung zu personalisierter Verhaltensauswertung zu Werbezwecken verbunden werden kann, weil diese personalisierte Werbung eben ein notwendiger Teil der Kernfunktion ist (personalisierter Content im weitesten Sinne). Der Beschwerdeführer Max Schrems sieht das anders (theoretisch könnte Facebook auch mit einer anderen Form von Werbung Geld verdienen und dabei sehr wohl gleichzeitig personalisiert Content ausspielen).
Nachdem die irische Datenschutzbehörde (die Meta gegenüber als sehr gnädig gilt) zunächst relativ milde entscheiden wollte, wurde sie vom Europäischen Datenschutzausschuss (denn die Entscheidung betrifft Nutzer in ganze Europa) quasi zurechtgestutzt - und zwar in die Richtung der Schrems’schen Interpretation. Metas Tracking zu Werbezwecken ist demnach kein notwendiger Teil des Gesamtprodukts, entsprechend muss Meta seinen Zustimmungsprozess anpassen beziehungsweise die Zustimmung zur Sammlung persönlicher Daten für Werbezwecke explizit einholen.
Die (datenschutznahen) Experten im Wired-Text prognostizieren, dass wir damit in Europa mittelfristig bei reinem Opt-In oder Kontext-Anzeigen landen. Bye, bye Überwachung zu Werbezwecken. Metas Europa-Werbegeschäft würde entsprechend größtenteils zusammenbrechen, weil ein Großteil Nutzer das Werbetracking ablehnen würde (Opt-In-Pflicht).
Hier sehe ich noch keine Zwangsläufigkeit: Zunächst einmal kann die Zustimmungsfrage weiterhin so formuliert/präsentiert sein, dass die meisten Nutzer sie einfach ohne Hintergedanken anklicken. Auch möglich, aber riskant: Meta könnte in den Nutzungsbedingungen einfach das Ausspielen personalisierter Werbung als explizite Leistung der Plattform verankern (dass dies bislang nicht der Fall ist, war ein Kritikpunkt).
Dann ist meiner Meinung nach - siehe Bezahlen/Cookies-oder-Adblocker-Alternative - die Tür auch dafür geöffnet, bestimmte Funktionen an eine Zustimmung zu knüpfen. Und technisch könnte ich mir durchaus vorstellen, zumindest aus Daten, die über den ausgespielten Content anfallen eine Machine-Learning-getriebene Form von Personalisierung auf die Beine zu stellen (so wie “Kontext-Anzeigen” im Machine-Learning-Zeitalter ohnehin etwas ganz anderes bedeuten als einst “Auto-Werbung neben einem Artikel über Autos”). Letztlich will Google Cookies ja auch mittels Muster- und Clustererkennung ersetzen.
Allerdings gibt es auch deutliche Signale, dass personalisierte Werbung in der EU nicht mehr unter den bisherigen Bedingungen stattfinden wird. Zum Beispiel die heute bekannt gegebene Abmahnung von Google durch das Bundeskartellamt wegen der intransparenten Datenverarbeitung.
Woran ich kurz erinnern möchte: Nicht-personalisierte Werbung ist nicht unbedingt die bessere Werbung. Aber offensichtlich scheint man sich nicht damit begnügen zu wollen, einfach nur auf einen hohen, aussagekräftigen Transparenz-Standard hinzuarbeiten. Was sich die amerikanischen Tech-Firmen wiederum auch selbst zuzuschreiben haben (was genau getrackt wird, halten sie geheim). Mir würde ordnungspolitisch eigentlich eine Wahlmöglichkeit genügen, wie viel konkret von mir getrackt und mit meinem Profil verbunden wird.
Ich finde zudem, wenn man bei First-Party-Data derart streng ist, müsste man eigentlich auch bei Third-Party-Data genauer hingucken. Aber dem ist meiner Ansicht nach nicht so. Hier doktert man aus Rücksicht auf die einheimische Werbewirtschaft an der Usability von Cookie-Vorschalttafeln rum und versucht mit bislang wenig praxistauglich erscheinenden Konzepten wie Daten-Intermediären, die Quadratur des Kreises (Nutzerwunsch vs. europäischer Werbetreibenden-Wunsch) zu vollenden. Und am Ende landen dann die Geräte-IDs dann doch wieder in irgendeiner Datenbank.
Der ganze Fall Meta ist mit der Entscheidung übrigens noch nicht abgeschlossen: Im Hintergrund schwelt ein Konflikt zwischen dem Europäischen Datenschutzausschuss und der irischen Datenschutzbehörde. Der Europäische Datenschutzausschuss wollte die Iren quasi zu einem Audit der Datenverarbeitungs-Praxis bei Meta verpflichten; die Behörde lehnte das als übergriffig ab und droht, wenn ich das richtig verstanden habe, die Frage des EU-Einflusses dem Europäischen Gerichtshof vorzulegen.
Und überhaupt wird das Ganze noch durch die Instanzen gehen - denn die Europäischen Datenschützer beziehen sich nicht auf die (hier Interpretationsspielraum erlaubende) Datenschutzgrundverordnung. Sondern auf ihre eigenen Interpretationsrichtlinien (konkret: Nummer 19). Auch hier läge es am Europäischen Gerichtshof, das Gewicht dieser Vorgaben im institutionellen Gefüge zu überprüfen.
China entspannt sich
In Internet-Observatorium #19 (Sommer 2019) hatte ich über den “Tech-Crackdown” der chinesischen Regierung geschrieben. Diese Phase ist nun vorbei, das Verhältnis zwischen der Kommunistischen Partei Chinas und den chinesischen Tech-Großkonzernen normalisiert sich. Zitat aus Caixing Global:
“China’s more than two-year clampdown on its sprawling internet sector is coming to an end, according to a top central bank official. The special campaign to rectify 14 internet platform companies’ financial businesses is basically complete with few remaining issues to resolve, said Guo Shuqing, Communist Party secretary of the People’s Bank of China (PBOC). Further supervision of the sector will be normalized, and support will be given to help platform companies play a bigger role in job creation and global competition.”
Wie die neue Normalität zwischen der KPCh und der Digitalbranche aussieht, hat Business Week beschrieben: Die CEOs hatten sich mit Firmen-Großspenden für soziale Zwecke und deutlichen Signalen der Hörigkeit der Regierung angedient, die ihrerseits 2022 mildere Strafen als erwartet verhängte.
Klar ist: Die Regierung gibt künftig deutlicher an, in welche Richtung sich Digitaltechnologie in China entwickelt. Das ist nicht der einzige Faktor, der Innovation hemmt. Denn, Zitat Business Week:
“Adjusting to the government’s wishes has made Chinese tech companies more risk-averse and less ambitious, even as the pandemic keeps hammering growth.”
KI-Regulierung mittels DMA?
Der Digital Markets Act (DMA), nicht der noch nicht fertig verhandelte „AI Act“, ist die eigentlich KI-Regulierung in Europa. So argumentieren zumindest Philipp Hacker, Johann Cordes und Janina Rochon von der Europa-Universität Viadrina in einem neuen Paper. Damit geht auch Kritik am AI Act einher: Nämlich dass man bei der Entwicklung noch nicht begriffen hatte, dass Plattform-Regulierung und KI-Regulierung zusammengehören - weil KI die Plattform-Anwendungen von heute und morgen steuert. Womit sie einen Punkt haben.
Tatsächlich zeigt die Popularität von ChatGPT, dass die angestrebte Ex-Ante-Regulierung zwar ein gutes Timing hat, aber wir “Emerging Technologies” nie so vollständig betrachten können, dass die entsprechende Regulierung die bestmögliche ist. Was bei den langen Prozessen, die mit EU-Regulierungen verbunden sind, problematisch ist. So kommt es dann eben, dass BMWK-Staatssekretär Sven Giegold fordert, das Musk’sche Twitter als Gatekeeper im Sinne des DMA zu benennen. Obwohl es die dort festgelegten Kriterien überhaupt nicht erfüllt.
Aber ich schweife ab. Mit seiner Positionierung ist Deutschland beim AI Act auf der richtigen Spur (auch wenn diese deutliche öffentlich Positionierung von Seiten des BMDV etwas spät kommt, nämlich nach Abschluss der Verhandlungen im EU-Rat):
Denn Allgemeinzweck-KI wie GTP-3 kann eben nicht per se als hochriskant eingestuft werden; vielmehr gilt es, den Blick auf die darauf aufbauenden Applikationen zu richten. Denn wenn man schon das Grundsystem in ein strenges, risikofokussiertes Regulierungsschema presst, erstickt man nicht nur die Innovation auf dieser Entwicklungsebene - sondern verhindert auch, dass ein europäisches Ökosystem um solche Anwendungen herum entstehen kann.
Links
Der Angriff auf Brasiliens Regierungsgebäude und die Rolle, die Social Media spielte.
Die digitale Kreativwirtschaft ist in der Krise.
Je komplexer eine KI, desto “extremer” ihre Meinungen?
Sie Arschloch 😉: Emojis in der Rechtsprechung.
Das Problem mit dem Like-Button.
Bis nächste Woche!
Johannes