Aus dem Internet-Observatorium #79
Update Wahlen 2024 & digitale Verwundbarkeiten / BSI und die Unabhängigkeitsfrage
Hallo zu einer neuen Ausgabe!
Update Wahlen 2024 und digitale Verwundbarkeit
Das Wahljahr 2024 hat begonnen und ich will hier regelmäßig zusammenfassen, was im Kontext “digitale Verwundbarkeit” passiert. Ich orientiere mich dabei an dem sehr hilfreichen Election Vulnerability Index von Freedom House, der eben nicht nur Phänomene wie Desinformation, sondern auch Internet-Abschaltungen, Strafverfolgung von Online-Aktivitäten oder Cyber-Angriffe einbezieht.
Zwei Entwicklungen sind in diesem Wahljahr besonders wichtig: Einmal die Möglichkeit, mit Hilfe von Künstlicher Intelligenz einfacher synthetischen Content zu erstellen oder Teile von Desinformationskampagnen zu automatisieren. Und auf der anderen Seite der Stellenabbau von XTwitter, aber auch Meta im Kontext Content-Überprüfung. Bei den Meta-Plattformen stellt sich außerdem die Frage, ob es inzwischen ausreichend Mitarbeiter mit Kenntnissen in den jeweiligen Landessprachen gibt. Und auch TikToks Strategie im Umgang mit möglichen Beeinflussungskampagnen wird im Wahljahr deutlicher zu erkennen sein.
Blicken wir also auf die ersten wichtigen Wahlen in diesem Jahr. Am 7. Januar wählte bereits Bangladesch (170 Millionen Einwohner). Es handelte sich nicht um eine demokratische Wahl, da die Regierung Medienberichten zufolge Tausende von Regierungskritikern und Oppositionellen ins Gefängnis geworfen hatte. Auch Online-Regierungskritik wird mit Hilfe des “Cyber Security Act” unterdrückt; das Gesetz stellt sehr lose definierte “extremistische Inhalte” unter Strafe und lieferte die Grundlage für Verhaftungen von Journalisten und Aktivisten.
Bereits im Dezember berichtete die Financial Times, dass das Lager von Premierministerin Hasina Wajed mit Deepfake-Content experimentierte, um die Opposition zu diskreditieren. Zum Beispiel, indem es gefälschte Videos des exilierten Oppositionsführers Tarique Rahman in Umlauf brachte, in der dieser sich als politischer Handlanger der USA zu erkennen gibt.
Die AFP berichtete zudem von Dutzenden lobhudelnder Artikel über die Regierung, die am Ende die Wahl eindeutig gewann: Als Autoren waren nicht-existierenden Experten erfunden worden. Ihre Aussagen wurden dennoch von der staatlichen chinesischen Nachrichtenagentur Xinhua aufgegriffen, woraufhin sie mittels Zitat auch in einzelnen westlichen Medien landeten.
Und die Online-Politikseite The Diplomat schrieb Anfang Januar dies (übersetzt, gefettet von mir):
“Gemäß Quellen in Bangladesch (…) haben sich verschiedene Regierungsbehörden, regierungsfreundliche Journalisten und einige junge Technologieunternehmer zusammengeschlossen, um Desinformation in Umlauf zu bringen. Das ist zu einer verlässlichen Methode geworden, um Einkommen in industriellem Maßstab zu generieren. Die Akteure sind auch am Hacken oder Schließen von Facebook-Konten politischer Gegner und Kritiker beteiligt. Auch das Trollen ist in Bangladesch zu einem lukrativen Geschäft geworden.”
Das ist ein oft unterschätzter Punkt: Rund um digitale Einflusskampagnen entsteht häufig ein finanzkräftiges Ökosystem, zumal, wenn Regierungen diese Dienste in Anspruch nehmen.
Die Wahl in Taiwan am vergangenen Wochenende galt als Richtungswahl. Weiter Richtung Emanzipation und Unabhängigkeitspolitik gegenüber China mit der regierenden Demokratischen Fortschrittspartei (DPP)? Oder eher chinafreundlich mit der oppositionellen Partei Kuomintang (KMT)?
Die Firma Graphika, die Social-Media-Kampagnen analysiert, identifizierte vor der Wahl eine digitale Negativ-Kampagne gegen alle Parteien außer der KMT. Übersetztes Zitat:
“Der Inhalt folgte genau dem Nachrichtenzyklus Taiwans und nutzte schnell die inländischen Nachrichten Entwicklungen wie Kontroversen um einen Eizellenmangel und die angebliche Drogenabhängigkeit von Kleinkindern in einem Kindergarten, um die Gegner der KMT als inkompetent und korrupt darzustellen.”
Die Videos wurden via Facebook, TikTok und YouTube verbreitet und parallel in bis zu 800 Facebook-Konten gepostet, unter anderem in taiwanischen Gruppen, in denen es gar nicht explizit um Politik ging. Zudem wurden laut Washington Post über WeChat und Facebook eine Rufmord-Biographie über die Staatspräsidentin (und DPP-Chefin) Tsai Ing-wen verbreitet (“Das geheime Leben von Tai Ing-wen”). KI-generierte Videos spielten bei der Kampagne dagegen fast keine Rolle.
Diese Form koordinierter Beeinflussungsversuche ist nicht neu: Bereits im vergangenen Sommer sperrten Meta (Facebook), X/Twitter und Google (YouTube) Zehntausende koordinierter Accounts, die China zugerechnet wurden. Allerdings hat sich die Kommunikationsstrategie in den vergangenen Jahren offenbar verändert (siehe Mercator und Politico):
Ein Wechsel weg von der Indoktrinierung, hin zur Emotionalisierung.
Und ein Fokus auf negative Entwicklungen und kontroverse Nachrichten in Taiwan, statt Lobeshymnen darüber, wie großartig die VR China ist.
Erfolgreich war diese Strategie bei dieser Wahl noch nicht, die DPP gewann. Wie stark China, aber auch Kräfte wie Russland und Iran weitere Wahlen beeinflussen werden, lässt sich noch nicht prognostizieren. Ich könnte noch nicht einmal sagen, ob der Einfluss und das Ausmaß solcher (ausländischer) Social-Media-Kampagnen unter- oder überschätzt wird. Zumindest zeigt der manchmal gewählte Begriff “kognitive Kriegsführung”, dass diese Strategien im Kontext einer geopolitisch verschärften Konfrontationssituation zu betrachten sind.
P.S.: Vor den Parlamentswahlen in in Bhutan gab es übrigens keine größeren Probleme mit Desinformation oder synthetischem Content.
BSI und Unabhängigkeit
Im Koalitionsvertrag der Ampel heißt es zum Bundesamt für die Sicherheit in der Informationstechnik (BSI):
“Wir leiten einen strukturellen Umbau der IT-Sicherheitsarchitektur ein, stellen das Bundesamt für Sicherheit in der Informationstechnik (BSI) unabhängiger auf und bauen es als zentrale Stelle im Bereich IT-Sicherheit aus.”
Die Rahmenverhandlungen für die beschriebene Neuaufstellung des BSI gehen gerade in die finalen Runden. Drei Dinge kristallisieren sich dabei heraus:
Das BSI wird etwas unabhängigER, aber nicht unabhängig.
Die Zentralstellen-Idee ist in dieser Form mit den Unionsländern nicht zu machen
Die Weitergabe von Sicherheitslücken an ZITiS und Co wird formal transparenter, aber endet nicht.
Ich möchte mich auf den ersten Punkt konzentrieren: Es soll lediglich gewährleistet werden, dass das BSI "seine wissenschaftlich-technischen Aufgaben fachlich unabhängig durchführt". Die Juristen des Bundesinnenministeriums (BMI) argumentieren, dass das BSI weder vollständig unabhängig sein, noch von der Fachaufsicht des BMI entkoppelt werden kann. Zitat aus der via Netzpolitik geleakten Stellungnahme (Fettungen von mir):
“Ein Wegfall der Weisungsmöglichkeit gegenüber dem BSI insgesamt würde einen „ministerial-freien Raum“ begründen. Dieser wäre besonders begründungsbedürftig und erforderte grundsätzlich einer auf Verfassungsebene angesiedelten Legitimation für die Durchbrechung des Grundsatzes der Weisungsabhängigkeit. Nach derzeitigem Prüferstand können die Optionen (…) daher nicht überzeugend begründet werden.”
Das ist meiner Meinung nach kein vollständig nachvollziehbares Argument. Die Unabhängigkeit des Bundesdatenschutzbeauftragten wird beispielsweise aus dem Grundrecht auf informationelle Selbstbestimmung abgeleitet. Das ist so nicht im Grundgesetz verankert, sondern wurde aus Artikel 1 (Menschenwürde) und Artikel 2 (Persönlichkeitsrecht) vom Bundesverfassungsgericht abgeleitet.
Aber, surprise: In einem Urteil aus dem Jahr 2008 stellte das Bundesverfassungsgericht ebenfalls fest:
“Das allgemeine Persönlichkeitsrecht (Art. 2 Abs. 1 i.V.m. Art. 1 Abs. 1 GG) umfasst das Grundrecht auf Gewährleistung der Vertraulichkeit und Integrität informationstechnischer Systeme.”
Ich bin kein Jurist, aber mir scheint es ein durchaus valides Argument, das BSI als Behörde für den Schutz dieses abgeleiteten Grundrechts unabhängig zu stellen. Zumal eine künftige weitere Abhängigkeit vom BMI ja das existierende Spannungsfeld aufzeigen würde: Denn das BSI kann eben nicht die Durchsetzung dieses Grundrechts gewährleisten, solange es den Interessen des BMI ausgesetzt ist, mögliche Schwachstellen für Ermittlungs- und Überwachungszwecke auszunutzen (konkret: sie an die “Hackerbehörde” ZITiS weiterzugeben
Ich würde sogar so weit gehen und sagen, dass die einschlägigen Urteile gegen die Sicherheitsgesetze unterschiedlicher Bundesregierungen und die dort festgestellten digitalen Grenzüberschreitungen in Sachen Artikel 2 ein verfassungsrechtliches Argument dafür sind, das BSI vollständig unabhängig machen zu müssen.
Kyivstar-Hack: Strategisch oder unkoordiniert?
Die Zerstörung der Systeme des größten ukrainischen Mobilfunkanbieters Kyivstar im Dezember gilt als bislang größter Cyberangriff des Krieges. Aber war er klug? Nein, argumentiert Tom Uren vom Cybersicherheitsblog Seriously Risky Business. Denn mit dem vollen Zugang, den man offenbar bereits seit November hatte, hätte man langfristig durchaus wichtige Informationen abgreifen können. Die Zerstörung führte zu einem Ausfall, aber Kyivstar konnte seine Systeme innerhalb gut einer Woche wieder aufbauen.
Und weil die Cyberattacke nicht mit einem koordinierten physischen Angriff einherging, gab es auch keinen konkreten militärischen Nutzen. Was die These untermauert, dass Cyberangriffe im Krieg immer von militärischen Aktionen begleitet sein müssen, um ihre Wirkung zu entfalten. Was nicht gerade dafür spricht, dass Russland die digitalen und militärischen Kapazitäten besonders gut koordiniert.
Tab AI - die dümmste Idee seit langem
Ich hatte ihn nicht unbedingt vermisst, den missionarischen Größenwahn, der die Bay Area während der frühen Zehnerjahre prägte, als das Marketing für jede verdammte App die Revolution des menschlichen Miteinanders versprach (meist durch die Möglichkeit, andere Menschen per App irgendeine Dienstleistung erledigen zu lassen).
Natürlich war klar, dass es blöde KI-Ideen geben wird, doch Tab AI lässt sie erstmals in voller Pracht Realität werden: Eine Kette mit einem Mikrofon, das alle Konversationen des Besitzers aufnimmt und von ChatGPT transkribieren und analysieren lässt. Denn wieso soll Mensch nicht 24/7 Audio-Aufzeichnungen von seinen Gesprächen machen und diese in die Cloud laden? Was könnte schiefgehen?
Doch mit diesem zweifelhaften Nutzungsszenario ist es noch nicht getan. Gründer Avi Schiffman gibt dem Ganzen noch einen spirituellen Touch, um nicht zu sagen Holzhammer-Schlag. So sagt er in einem Interview (übersetztes Zitat):
“Was ich zu tun versuche, ist, eine neue Beziehung in Ihrem Leben zu schaffen; radikale Transparenz ohne Angst vor Beurteilung. Ich denke, dies ist eine Beziehung, die Menschen früher mit Gott hatten, aber in der modernen Welt fehlt.”
Ganz großes Kino ist auch die Bezeichnung, die er für das Geschäftsmodell wählt: “Friendship as a service”. Hätten mich 15 Jahren Pitch-Wahnsinn nicht bereits zum Zyniker gemacht, ich würde spätestens jetzt einer werden.
1 Zitat
In einem NYT-Artikel zur Deepfake-Regulierung kommt auch John Hodgson zu Wort, ein Abgeordneter im Parlament des US-Bundesstaats Kentucky. Hogdson besitzt zwei Schafe, Sassy und Bossy, die auch an Weihnachten beim Krippenspiel-Theater dabei waren. Seine Sorge:
“Stellen Sie sich vor, es sind drei Tage vor der Wahl, und jemand behauptet, ich wäre in eine unerlaubte Beziehung mit einem Schaf verwickelt und diese Information wird an eine Million Wähler gesendet. Davon kann man sich nicht erholen.”
Links
Hinter Zuckerbergs Schwenk vom Metaverse zu KI. ($)
Braucht Open Source einen Neustart?
Vorschläge zur Nutzung von generativer KI in Schulen.
Studie deutscher Wissenschaftler: Google ist wirklich schlechter geworden
Auf dem Weg zur dialogischen Diagnose-KI.
Geänderte Geschäftsbedingungen: ChatGPT darf jetzt auch für militärische Zwecke genutzt werden.
Vorläufer einer Digitalagentur? Digitalcluster Bonn gegründet
Neue Strategien von Klimawandel-Leugnern bei YouTube (€)
Casey Newton (Platformer) und Ryan Broderick (Garbage Day) verlassen Substack.
CES und Pseudo-KI (das war IMO schon 2016 ein Trend).
KI-Narrative - eine kritische Einordnung.
Das Indieweb ist viel zu kompliziert.
Der falsche HyperVerse-CEO erzählt seine Seite der Geschichte.
OpenAIs GPT-Store als “Farmville-Moment.” ($)
Bis zur Ausgabe #80!
Johannes