Aus dem Internet-Observatorium #107
(Nachträgliche) polizeiliche Gesichtserkennung ante portas / Reaktionäre Anreizsysteme / Logik der Fake-Streams
Hallo zu einer neuen Ausgabe. Kein Großthema, sondern viele kleinere Dinge diese Woche (in der mir leider die Zeit fehlt, über die Themen mal so richtig nachzudenken).
(Nachträgliche) polizeiliche Gesichtserkennung ante portas
Bereits am Donnerstag berät der Bundestag erstmals das “Sicherheitspaket nach Solingen”, wie ich es jetzt mal nenne. Dort enthalten: Die - bereits vor Solingen - geforderte Möglichkeit für die Polizei, “biometrische Daten zu Gesichtern und Stimmen” mit Gesichtern und Stimmen aus dem Internet abzugleichen (siehe Ausgabe #104).
Das Ganze ist dabei nicht auf Terror-Delikte beschränkt, sondern auf alles, was der Paragraph 100a der Strafprozessordnung hergibt, sofern “die Tat auch im Einzelfall schwer wiegt” und man Identität und Aufenthaltsort einer Person nicht anders feststellen kann.
Unter Paragraph 100a finden sich folgende Straftaten:
Hochverrat und Gefährdung des demokratischen Rechtsstaates, Landesverrat und Gefährdung der äußeren Sicherheit, Straftaten gegen die Landesverteidigung, Straftaten gegen die öffentliche Ordnung, Geldfälschung und Wertpapierfälschung, Schwerer sexueller Missbrauch von Kindern, Verbreitung, Erwerb und Besitz kinderpornographischer Inhalte, Mord und Totschlag, Menschenhandel und Zwangsprostitution, Schwerer Raub und räuberische Erpressung, Geldwäsche und Verschleierung unrechtmäßig erlangter Vermögenswerte, Bestechlichkeit und Bestechung, Bildung krimineller und terroristischer Vereinigungen, Schwere Körperverletzung, Gemeingefährliche Straftaten (z.B. Brandstiftung), Betäubungsmitteldelikte, Verstöße gegen das Waffengesetz, Steuerhinterziehung unter bestimmten Umständen, Bestimmte Straftaten gegen die Umwelt.
Eine ganze Menge also.
In einem weiteren Punkt soll die automatisierte Analyse von Polizeidaten durch KI rechtlich ermöglicht werden: Sowohl die Zusammenlegung der entsprechenden Datenbanken, als auch das Testen und Trainieren dieser Systeme und natürlich am Ende auch die Analyse selbst.
Um einmal mit etwas Banalem zu beginnen, dass aber erwähnt werden muss: Weder der mutmaßliche Täter von Solingen, noch der mutmaßliche Täter von Mannheim im Mai waren polizeibekannt. Die hier vorgesehenen Maßnahmen wären also ins Leere gelaufen. Sie haben genauer gesagt nichts damit zu tun, außer, dass die Arbeitsebene des BMI mit dem Sicherheitspaket die Gelegenheit nutzt, einige lang ersehnte Ausweitungen der Befugnisse zu bekommen (um dann sicherlich bald die nächsten Ausweitungen vorzuschlagen).
In der Sache bin ich neulich bereits darauf eingegangen - mir ist bislang noch keine überzeugende technische Lösung untergekommen, die diesen biometrischen Abgleich für Polizeibehörden grundrechts- und datenschutzkonform umsetzbar macht. Allerdings sehe ich auch nicht, wie es hier von der Gesellschaft für Freiheitsrechte nahegelegt wird, dass der AI-Act den Strafverfolgungsbehörden die Nutzung von Biometrie-Matching-Systemen per se verbietet.
Zur KI-Datenanalyse wiederum sind wir noch bei der langsamen gerichtlichen Meinungskonsolidierung. Deshalb sagt Bundesdatenschutzbeauftragte Louisa Specht-Riemenschneider dazu heute dem Tagesspiegel Background (€):
“Wir haben eine Reihe von Rechtsprechung, beispielsweise zur Polizeisoftware Hessen-Data, wonach eine Datenanalyse immer gerechtfertigt werden muss. Und am 1. Oktober erwarten wir das BKA-Urteil vom Bundesverfassungsgericht, wo es auch um die Anforderungen solcher Datenanalysen gehen wird. Die müssen wir dann neben den konkreten Gesetzesentwurf legen und schauen, ob sie eingehalten sind. Wenn nicht, können wir sagen, welche Vorgaben vorliegen müssen und natürlich werden wir auf die Einhaltung der Gesetze pochen.”
Was es bräuchte, wäre ein ausgewogenes, ausgeruhtes und ausführliches parlamentarisches Verfahren. Doch der Prozess ist bereits so hektisch aufgesetzt (DSA-Änderung, wtf?), dass genau das Gegenteil passieren wird. Und ich nehme an, dass die ohnehin träger gewordene Zivilgesellschaft bei dem Thema derzeit zu mobilisieren ist.
Zur Frage, welche Debatte wir führen sollten, zitiere ich unauffällig aus meinem Newsletter von vor ein paar Wochen:
“Das bessere Argument wäre also eigentlich nicht “Das öffnet der Totalüberwachung Tür und Tor”, sondern “Wir gehen damit einen Schritt weiter mit einer höchst problematischen Erkennungstechnologie, die in demokratisch schlechteren Zeiten durchaus auch zweckentfremdet werden könnte. Lasst uns deshalb darüber offen sprechen”. Aber der erste Satz klingt natürlich sehr theoretisch und der zweite im politischen Diskursmodus weltfremd.”
Der bisherige politische Prozess scheint Letzteres zu bestätigen.
Reaktionäre Anreizsysteme
Die US-Republikaner inklusive Elon Musk posten dieser Tage KI-generierte Katzen und Enten.
Der Kontext dazu, hier via Spiegel.de:
“Hintergrund sind Aussagen von Trumps Vizekandidat Vance: Dieser behauptete, illegal eingewanderte Migranten aus Haiti würden in einer Stadt im US-Bundesstaat Ohio Haustiere klauen und essen. US-Medien berichteten daraufhin unter Berufung auf Behörden in der angeblich betroffenen Stadt Springfield, dass derartige Vorfälle nicht bekannt seien.”
Wer die ausführliche Recherche zur Entstehung des Memes lesen möchte, kann dies in der New York Times tun.
Dass Trump diese Geschichte sogar in der TV-Debatte am Dienstagabend verwendete, sagt einiges über den Zustand der amerikanischen Memokratie beziehungsweise der politischen Rechten, die immer stärker eine Very-Online-Ultrarechte wird. Und die Lüge von den migrantischen Haustier-Essern passt als ergänzendes Gegenstück zu der Enthüllung aus der vergangenen Woche, wonach Geld von Russia Today an reaktionäre Influencer in den USA geflossen sein soll. Zitat FAZ:
“Die Influencer seien von der nicht benannten Firma mit Hunderttausenden Dollar dafür bezahlt worden, dass sie Videos gegen Einwanderer und für Trump machten, so die New Yorker Anklage. Sie sollen nichts von den Verbindungen nach Russland gewusst haben, hieß es. Manchen sei etwas von einem reichen Gönner erzählt worden. Sie hätten sich nicht weiter Gedanken über den Ursprung des Geldes gemacht, gingen wohl einfach davon aus, gute Arbeit zu machen. Das Ziel sei immer Reichweite gewesen: von ein paar Tausend Followern in die Hunderttausende zu kommen.”
Einerseits ist diese Einfluss-Strategie zwar unerhört, aber nur allzu logisch - Influencer sind bei der direkten Wähleransprache längst wichtiger als klassische Medien.
Allerdings zeigen diese dämlichen Katzen- und Enten-Memes und die ihnen zugrunde liegende Lügengeschichte: Den Kreml braucht es in diesem Spiel gar nicht mehr. So hieß es schon vor der Debatte auf Social Media Watchblog:
“Wer mit einem Finger auf Russland deutet, zeigt mit vier Fingern auf sich selbst. Die wahren Superspreader von Desinformation sitzen in Deutschland, Großbritannien und den USA. AfD-Politikerïnnen und Personen wie Elon Musk, J. D. Vance oder Tommy Robinson bilden eine unheilige Allianz, die rechtsradikale Positionen und russische Propaganda bereitwillig und millionenfach verstärkt.”
Das ist aber nur das Frontend. Denn wir müssen über darüber sprechen, dass das politische Content-Anreizsystem stark in Richtung Bedienung der reaktionären Bubble ausgelegt ist. Damit meine ich nicht legitime konservative oder von mir aus auch nationalkonservative Kritik, die in nicht wenigen Punkten nachvollziehbar sein mag; sondern das auch in Deutschland existierende publizistische Ökosystem für Wutbait- und Verachtungs-Content aller Art.
Ob Youtuber sechsstellige Klickzahlen für den neuesten Anti-Habeck-Rant mitnehmen, X-Leute mit entfesselter Rhetorik Likes abstauben oder Publizisten sich eine Karriere abseits der alten Vertriebskanäle aufbauen: Diese neue, radikalisierte Gegenöffentlichkeit zu bedienen ist sehr viel erfolgsversprechender als progressive Inhalte zu vertreten, aus der politischen Mitte zu argumentieren oder, Gott bewahre, irgendwie abzuwägen.
Richtig ist: Auch die Very-Online-Progressiven waren auf dem Weg in die Radikalisierung, wenn auch unter ganz anderen Bedingungen. Aber dort, wo diese noch stattfindet und sich nicht im Zuge des “Woke-Überdrusses” auf dem Rückzug befindet, wird sie um Zuge der Musk’isierung von X wahrscheinlich nur noch von einer sehr viel kleineren Teil-Öffentlichkeit wahrgenommen.
Und damit sind wir wieder bei den Journalistinnen und Journalisten, die nun (nach eigener Aussage ohne ihr Wissen) von Russland bezahlt wurden. Denn die hatten sich genau auf diese reaktionäre Nische spezialisiert, die in Wahrheit - und in der Aufmerksamkeitsökonomie heißt die Wahrheit Reichweite - inzwischen der eigentliche (Very-Online-)Mainstream ist. Charlie Warzel schreibt dazu (übersetzt und gefettet):
“Nach rechts abzubiegen ist ein erwiesenermaßen lukrativer Weg und, was ebenso wichtig ist, ein Weg, um ein hoch engagiertes Publikum zu finden, das bereit ist, jemandem online zur Seite zu stehen.”
Wir leben bereits länger im Zeitalter des Tribalismus. Und welcher Stamm gerade immer klarer erkennbar, immer abgegrenzter, immer radikaler wird, erscheint mir ziemlich deutlich.
Durow verwischt die Spuren
In der Saga um die Verhaftung von Telegram-Gründer Pawel Durow (siehe Ausgabe #106) ist seit dem 6. September etwas verschwunden - nämlich diese Passage aus den FAQs (übersetzt):
“Alle Telegram-Chats und Gruppenchats sind privat für ihre Teilnehmer. Wir bearbeiten keine Anfragen, die sich auf sie beziehen.”
Stattdessen ist dort nun zu lesen, wie man illegale Beiträge melden kann.
Durow meldete sich in einem längeren Beitrag bei Telegram zu Wort, dessen Tenor ungefähr lautet: “Wir sind im Recht, wieso schreibt Ihr uns keine E-Mail? Aber wir wollen das mit den illegalen Inhalten natürlich noch besser lösen und es gibt jetzt einen internen Prozess dafür”.
Kurz darauf entfernte man eine Funktion, mit der sich Nutzer in der Nähe des eigenen Standorts finden lassen (offenbar gerne für Prostitution und Drogengeschäfte genutzt). Außerdem ist man wieder in Gesprächen mit der Internet Watch Foundation (IWF), um über einen möglichen Einsatz der Hash-Software zum Abgleich von CSAM-Material zu reden.
Ist Content-Moderation vielleicht doch keine so schlechte Idee?
Logik der Fake-Streams
Matt Levine schreibt in seiner Kolumne ($) über den seltsamen Fall des amerikanischen Musikers Michael Smith. Der nutzte Künstliche Intelligenz, um Hunderttausende gefälschte Songs zu erstellen. Die Songs von fiktiven Bands wie "Callous Post" und "Zygotic Washstands" ließ er dann mit bis zu 10.000 Bots streamen. Zwischen 2017 und 2023 soll Smith damit vier Milliarden Streams generiert und so zwischenzeitlich mehr als 100.000 Dollar im Monat verdient haben. Nun wird er wegen Betrugs angeklagt.
Levine begnügt sich aber nicht damit, die Geschichte nachzuerzählen, sondern leitet auch ab, wie heute Märkte vom Finanzmarkt über Online-Werbung bis zum Streaming funktionieren. Übersetzter und gefetteter Auszug:
“Alles wird über eine entpersonalisierte automatisierte elektronische Börse vermittelt.
Der automatisierte elektronische Austausch hat einen [real-existierenden, joku ]Mechanismus - wie er tatsächlich funktioniert, was die Software des Austauschs also letztlich erlaubt. Er hat aber auch offizielle Regeln, die Nutzungsbedingungen, die regeln, wie man den Mechanismus nutzen kann. Diese Regeln sind aber unschärfer als der Mechanismus selbst und stehen im Kleingedruckten - Sachen wie wie “kein Betrug” oder “man muss ein Mensch sein” oder was auch immer.
Der Mechanismus ist viel verständlicher und hervorstechender als die Regeln, und in einer entpersönlichten elektronischen Welt betrachten die Menschen den Mechanismus als die Regeln selbst: Sie glauben nicht, dass die Regeln existieren, weil die Regeln der Funktionsweise des Dienstes zu widersprechen scheinen. Die grundlegende Beschreibung der Spotify-Mechanik legt Smiths angebliche Arbitrage nahe; wenn er es nicht getan hat, hätte es sicher jemand anderes getan.”
Vestagers Erbe
Die bestätigte Geldbuße gegen Google, die nun ebenfalls doch bestätigte Milliarden-Steuernachzahlung für Apple in Irland - dass sich EU-Wettbewerbskommissarin Margrethe Vestager zum Ende ihrer langen Amtszeit noch einmal bestätigt sehen kann, ist in der Tech-Presse mehr oder weniger Konsens (eine ausführliche Analyse ihrer Tech-Politik findet sich bei Zeit Online).
Wer ihr nachfolgt, hat mit dem DMA ein kodifiziertes Werkzeug zur Hand (das sich aber zu sehr an Vestagers Fällen orientiert, wie ich hier regelmäßig kritisiere), hoffentlich etwas schnellere Prozesse und auch den Zeitgeist an der Seite. Denn auch in den USA wird, wie jetzt im begonnenen Prozess wegen der Google’schen Anzeigen-Marktmacht, in Sachen Tech stärker regulativ eingegriffen.
Wobei sich insgesamt - siehe Draghis vorgestellte Ideen diese Woche - abzeichnet: Im Zuge der geopolitischen Konflikte wird das Thema “Wettbewerb” wieder eher aus der Warte des “Wir brauchen europäische Champions, keine Fusionsverbote” betrachtet werden dürfte. Was im Tech-Bereich wenig ändert dürfte - außer, dass das Verhältnis von Wettbewerbswahrung und Standortpolitik noch einmal instrumenteller als ohnehin schon werden dürfte.
Notizen
Yuhal Noah Hararis neues Buch dreht sich um Künstliche Intelligenz und lässt sich in die AI-Doomer-Literatur einsortieren. Daniel Immerwahr schreibt in seiner Rezension zu Hararis Denkschema durchaus bissig:
“Harari hat wenig über die Erosion unserer intellektuellen Institutionen zu sagen. In gewisser Weise ist er symptomatisch für den Trend. Obwohl er aus Fleisch und Blut ist, ist Harari das Ideal des Silicon Valley, was ein Chatbot sein sollte. Er durchforstet Bibliotheken, erkennt die Muster und fasst die gesamte Geschichte in Stichpunkten zusammen. (Die Moderne, so schreibt er, „lässt sich in einem einzigen Satz zusammenfassen: Die Menschen sind bereit, im Tausch gegen Macht auf Sinn zu verzichten“). Er hat ein ganzes Buch, 21 Lektionen für das 21. Jahrhundert, in Form einer Liste geschrieben. Für Leser, deren Aufmerksamkeit nachlässt, liefert er im Schnelldurchlauf amüsante Fakten.”
Das wird natürlich nichts daran ändern, dass Hararis Wort in der gesellschaftlichen Debatte bzw. innerhalb der Eliten, die diese Fragen diskutieren und nicht in der Forschung aktiv sind, Gewicht haben wird. Ich befürchte, dass das diesmal nicht wirklich hilfreich sein wird.
Flux-Hype: Langsam wird auch das deutschsprachige Internet von Flux-Bildern geflutet (a.k.a. eine Software zur personalisierten Bild-Generierung, mit der man sein Gesicht in alle möglichen Kontexte “reinprompten” kann). Wer Interesse hat: Ole Reissmann hat eine Anleitung gepostet und am Donnerstag geht es auch in der neuen Folge des - verdientermaßen Grimme-Online-nominierten - Deutschlandfunk-Podcast “KI Verstehen” darum, wie man Open-Source-KI mit eigenen Fotos trainiert.
Links
Nvidia und die Marktmacht: Das US-Justizministerium hat Fragen. ($)
Ohje, schon wieder ein iPhone.
Sextortion-Scam: Lange Haftstrafen nach Selbstmord eines Opfers.
China umgeht mittels Chip-Miete die westlichen Exportbeschränkungen. ($)
Ford-Patent: Unterhaltungen im Auto mithören, um personalisierte Werbung auszuspielen.
3-D-Schusswaffen sind zurück. ($)
Die NSA hat einen Podcast - hier sind die Codewörter, die verwendet werden.
1 Zitat
“Wir sind gerade dabei, ein Rechenzentrum mit einer Leistung von mehr als einem Gigawatt zu entwerfen. (...) Der Standort und die Energiequelle, die wir gefunden haben, haben bereits Baugenehmigungen für drei Kernreaktoren erhalten. Das sind kleine modulare Kernreaktoren, die das Rechenzentrum mit Strom versorgen sollen. Das ist der Wahnsinn, den wir erleben. Das ist es, was hier vor sich geht.”
Oracle-CEO Larry Ellison (übersetzt, Quelle via).
1 Trailer
“Low-Budget Repairs” - jetzt auf der Steam-Wunschliste verfügbar, auch wenn das Spiel wahrscheinlich (leider) niemals Realität wird. (Via)
Bis zur nächsten Ausgabe!
Johannes