Aus dem Internet-Observatorium #96

Digital-Update Wahlen 2024: Indien, Mexiko, Südafrika

Jun 05, 2024

Hallo zu einer neuen Ausgabe. Diesmal - passend zum anstehenden Wochenende - mit dem Schwerpunktthema Wahlen, allerdings außerhalb Europas.

Digital-Update Wahlen 2024: Indien, Mexiko, Südafrika

Im Jahr 2024 verfolge ich regelmäßig internationale Wahlen, den Digitalwahlkampf und Online-Verwundbarkeiten des Wahlprozesses (siehe auch Ausgaben #83, #79)

Wahlkampf in Indien

Im indischen Wahlkampf machten immer wieder Berichte über Deepfakes von verstorbenen Politikerinnen und Politikern die Runde, die eingesetzt wurden, um für Unterstützung von Verwandten oder für ihre ehemaligen Parteien zu werben. Kein Wunder in einem Land, in dem es vor allem regional einige Politik-Dynastien gibt. Daraus ergeben sich natürlich einige ethische Fragen, die in den indischen Medien durchaus debattiert wurden. Einige Bollywood-Schauspieler haben Klagen eingereicht, weil ihre KI-gepimpten Doppelgänger ohne Zustimmung für Wahl-Empfehlungen verwendet wurden.

Zur Skalierung der Wähler-Ansprache bot eine Firma zudem KI-Stimmklone von Politikern an: Diese wurden dann für Deepfake-Telefonanrufe verwendet. Das Ergebnis sei sehr unterschiedlich, berichtet die Wired: Menschen in den Städten fühlten sich genervt, Menschen aus ländlichen Gebieten fühlten sich wahrgneommen. Insgesamt wurden nach Firmenangaben 25 Millionen Anrufe solcher Robocalls durchgeführt. Auch hier ergeben sich viele ethische Fragen.

Kaum umstritten dagegen: Die Nutzung von KI, um Politiker-Reden in eine der vielen regionalen Sprachen zu übersetzen. Und auch daran, dass die Kandidaten auch als “Avatare” auftauchen, hat man sich in Indien offensichtlich gewöhnt.

In einigen Fällen wurde Künstliche Intelligenz auch eindeutig manipulativ eingesetzt - zum Beispiel hier mit einer Face-Swap-Software, in der Oppositionsführer Rahul Gandhi seine eigene Partei zu kritisieren scheint. Allerdings, so merken die Beobachter von Rest of the World an, war der Ausschnitt derart bekannt, dass es sich in der Praxis eher um eine Form von parodierendem Negativ-Wahlkampf als um echte Irreführung handele.

Was ganz gut zur These des Oxford-Forschers Amogh Dhar Sharma passt, der im Herbst ein Buch über die Organisatoren des indischen Wahlkampfs veröffentlichen wird: Demnach muss man den Einsatz von Digitaltechnologien als Teil des Spektakels sehen, dass die Parteien im Wahlkampf bieten wollen. Und mit dem sie - und vor allem die Hindu-Nationalisten signalisieren: Wir sind den anderen technisch und damit auch politisch überlegen.

Wie KI-Video-Produktionen und effektvoll auch spielerisch zum Einsatz kommen, zeigt sich darin, dass Premier Narendra Modi ein nutzergeneriertes Video teilte, in dem sein Avatar in einen Auftritt von Lil Yachty hinein montiert wurde:

Russell Brandom, Chef von Rest of the World (dessen KI-Wahltracker eine unverzichtbare Sammlung ist) kommt zu dem Ergebnis: Die Sorge vor einem großen Einfluss von KI-generierten Manipulationsversuchen habe sich nicht bewahrheitet - vielmehr werde das Werkzeug eher für Troll- und Parodie-Inhalte eingesetzt. Er schreibt aber auch (übersetzt und gefettet):

“Um es klar zu sagen: Dies ist kein Beispiel für erfolgreiche Plattformmoderation. Selbst in Fällen, in denen der Inhalt nicht entfernt werden sollte, sollten die Plattformen ihn als KI-generiert kennzeichnen, wie es ihre eigenen Richtlinien empfehlen. Die meisten Beispiele im Tracker sind nicht gekennzeichnet, trotz großer öffentlicher Aufmerksamkeit und tagelanger Vorlaufzeit. Dies ist ein deutliches Zeichen dafür, dass die Plattformen noch nicht herausgefunden haben, wie sie KI-generierte Inhalte erkennen können. Die gute Nachricht ist, dass das Versäumnis, sie in Schach zu halten, weniger Schaden anrichten kann als ursprünglich befürchtet.”

Die Plattform-Moderation zeigte im indischen Wahlkampf deutliche Schwachstellen. So berichtete eine Gruppe von NGOs, KI-generierte Wahlwerbung mit anti-muslimischen Gewaltaufrufen auf Meta-Plattformen hochgeladen zu haben. In den meisten Fällen wurden die Anzeigen genehmigt, oft nach inhaltlich unwesentlichen Änderungen.

Dieser Politico-Techpodcast mit besagtem Oxford-Forscher Sharma hält für Interessierte noch einige sehr interessante Einsichten bereit. Unter anderem fand ich gut, dass er andie jeweilige Tech-Prägung der vergangenen Wahlen in Indien einging (übersetzt und gefettet):

“Eine Sache, die mir bei den Wahlkämpfen in den letzten Jahren aufgefallen ist: Jedes Mal, wenn eine Parlamentswahl ansteht, wird ein neues Schlagwort gefunden. 2014 war es die Social-Media-Wahl. 2019 war die WhatsApp-Wahl. Und dieses Jahr riefen Menschen die Deepfake-Wahl aus. Ich denke aber, das ist etwas übertrieben.”

Was sich aber festhalten lässt: Indien ist im Bereich des Digitaltechnologie-Einsatzes im Wahlkampf ein globaler Trendsetter. Offenbar haben sich bereits einige ausländische Wahlkampfberater bei den indischen Teams erkundigt, wie sie das mit der KI denn bewerkstelligt haben.

Wahlkampf in Mexiko

Die Parlaments-, Präsidentschafts- und Kommunalwahlen in Mexiko standen deutlich im Zeichen von politischer Gewalt und einigen Morden an Kandidaten und Kandidatinnen, vor allem für kommunalpolitische Ämter. Wer mehr über das komplexe Verhältnis von Politiks und Drogenkartellen erfahren möchte, wird in dieser ausführlichen Analyse fündig.

Der Digitalaspekt der Wahlen wäre vielleicht stärker beachtet worden, wenn die Influencerin Mariana Rodriguez Bürgermeisterin von Monterrey geworden wäre. Aber Rodriguez verlor die Wahl und räumte ihre Niederlage, passend zu ihrem Brotberuf als Model, in einem Schminkvideo ein. Da ihr Ehemann bereits der Gouverneur des zugehörigen Bundesstaats Nuevo León ist, dürfte sich ihre Enttäuschung in Grenzen halten.

Dennoch: Dass das Rodriguez als Influencerin mit gut vier Millionen Followern bei Instagram anderthalb Millionen Follower mehr als alle Präsidentschaftskandidatinnen und -kandidaten zusammen hat, signalisiert: Macht und Ehrgeiz von Influencern werden zu einem wachsenden politischen Faktor. Gleiches gilt für TikTok, an dem im Präsidentschaftswahlkampf niemand vorbeikam.

Der Einsatz von Deepfakes wiederum war offenbar beschränkt. Zwar wurden Fälle bekannt, in denen synthetische Inhalte über die spätere Präsidentschaftswahlgewinnerin Claudia Sheinbaum verbreitet wurden (unter anderem von Scammern). Dennoch scheint in den sozialen Medien der Sexismus gegen Sheinbaum und ihre Rivalin Xóchitl Gálvez das größere Problem gewesen zu sein.

Auch Warnungen vor großen Desinformationskampagnen bestätigten sich nicht beziehungsweise spielten am Ende offenbar keine Rolle. Da in der mexikanischen Politik es oft Amtsinhaber und Kandidaten selbst sind, die Falschnachrichten und Gerüchte streuen, ist das Problem rund um die Orchestrierung von Rufmordkampagnen und Wähler-Demobilisierung auch etwas anders gelagert beziehungsweise älter. Soweit ich das überblicken kann, zeigten die Wahlen 2024 hier kein neues Ausmaß oder besondere Trends. Allerdings scheinen mir Bereiche wie Dark Social nicht besonders gut erforscht.

Wahlkampf in Südafrika

Bereits im Februar berichteten Medien aufgeregt über ein Video, in dem ein Eminem-Deepfake den regierenden ANC kritisierte und zur Wahl der marxistischen EFF aufrief.

Die etwas übertriebene Reaktionen hatten eine Vorgeschichte: Bereits 2019 hatte es Berichte über eine russische Einflusskampagne gegeben. Die hatte sich aber später als Kampagne eines reichen südafrikanischen Geschäftsmanns herausgestellt, der auf Twitter Sockenpuppen-Kampagnen zur Unterstützung des ANC durchführen ließ.

Der Wahltag selbst wiederum wurde über Social Media intensiv dokumentiert - zum Beispiel mit Beschwerden über lange Wartezeiten an den Urnen oder Arbeitgeber, die ihren Mitarbeitenden nicht genügend Zeit für einen Gang zum Wahllokal gaben. Hier zeigt sich die Stärke eines “aktivierten Internets” - in anderen Ländern des Kontinents wird das Mobilfunknetz an Wahltagen oft abgeschaltet (offiziell, um Ausschreitungen und Desinformation zu verhindern).

Probleme machten örtlich die genannten “Voter Management Devices” - Tablets zur Registrierung und Überprüfung von Wählerinnen und Wählern. Offenbar reichte in diesen Fällen die Mobilfunknetz-Abdeckung nicht für einen reibungslosen Ablauf aus, die Überprüfung musste manuell stattfinden und nahm entsprechend Zeit in Anspruch. Im Jahr 2021 konnten wegen ähnlicher Probleme schätzungsweise 100.000 Menschen keine Stimme abgeben - ein Fiasko, das dieses Mal vermieden werden konnte.