Aus dem Internet-Observatorium #117

Salt Typhoon und der unterschätzte Telko-Hack / LLMs und das Geschäftsmodell-Problem / DSA-Risikoanalysen

Dez. 04, 2024

Hallo zu einer neuen Ausgabe!

Salt Typhoon und der unterschätzte Telko-Hack

Salt Typhoon, auch bekannt unter Namen wie GhostEmperor, FamousSparrow und UNC2286, ist eine chinesische Cyberspionagegruppe. Sie ist seit 2020 aktiv und konzentriert sich auf Telekommunikationsunternehmen und Regierungen.

Im Oktober wurde bekannt, dass es der Gruppe gelang, über Cisco-Router in die Netzwerke großer US-Telekommunikationsanbieter wie Verizon, AT&T, T-Mobile und Lumen Technologies einzudringen und unverschlüsselte Kommunikation in Echtzeit abzuhören.

Dabei nutzte man dort Hintertüren, die auch von Strafverfolgungsbehörden verwendet werden, die damit gerichtlich autorisierte Abhörmaßnahmen durchführen. Ein klassischer Fall von “keine gute Idee, Backdoors absichtlich offen zu lassen”. Abertausende von Geräten bei den Telekomfirmen müssen nun ausgetauscht werden.

In die Schlagzeilen geriet der Fall nur, weil die Angreifer offenbar auch Telefonate von Donald Trump und seinem Vize-Kandidaten J.D. Vance mithören konnten. In einem Statement hieß es von FBI und der US-Cybersicherheitsbehörde CISA, der Angriff resultierte in

“Diebstahl von Kundenanrufdaten, Kompromittierung der privaten Kommunikation einer begrenzten Anzahl von Personen, die in erster Linie an staatlichen oder politischen Aktivitäten beteiligt sind, und das Kopieren bestimmter Informationen, die Gegenstand von Anfragen der US-Strafverfolgungsbehörden gemäß gerichtlichen Anordnungen waren.”

Der US-Senator Mark Warner sprach vom “schwersten Telekommunikationshack in der Geschichte unseres Landes, und zwar mit Abstand.” Dennoch läuft das ziemlich unter dem Radar. Noch. Denn “das Scheunentor steht weiterhin offen”, wie der US-Warner es vor einigen Wochen formulierte.

Die IT-Sicherheitsfirma Trend Micro schreibt in einer aktuellen Analyse, dass die Aktivitäten weit über die USA hinausgehen. Übersetzte und gefettete Zusammenfassung aus The Register:

“Während die Crew in letzter Zeit Schlagzeilen machte, weil sie „Tausende und Abertausende“ von Geräten bei US-Telekommunikationsunternehmen hackte, deuten die am Montag veröffentlichten Untersuchungen des Trend Micro Bedrohungsanalyse-Teams darauf hin, dass Salt Typhoon (von Trend als Earth Estries bezeichnet) seit 2023 auch mehr als 20 Organisationen auf der ganzen Welt getroffen hat. Dazu gehören Unternehmen aus den Bereichen Technologie, Beratung, Chemie und Transport, Regierungsbehörden und gemeinnützige Organisationen (NGOs) in den USA, im asiatisch-pazifischen Raum, im Nahen Osten und in Südafrika.
Zu den betroffenen Ländern gehören Afghanistan, Brasilien, Eswatini, Indien, Indonesien, Malaysia, Pakistan, die Philippinen, Südafrika, Taiwan, Thailand, die USA und Vietnam.”

Crowdstrike-Manager Adam Meyers erklärt dazu Bloomberg, dass sich die Strategie staatlich unterstützter Akteure “weg von “smash and grab”-Operationen hin zu Massensammlungen und längerfristigen Operationen gegen vorgelagerte Anbieter wie Internetanbieter, Telekommunikationsunternehmen und Beratungsunternehmen“ entwickelt.

Dass gerade chinesische Akteure besonders ausgeklügelt und geduldig vorgehen, zeigt das Social Engineering beim xz-Backdoor (siehe Ausgabe 89). Der Aufwand zahlt sich aus: Die Salt-Typhoon-Angreifer werden weiterhin in den Systemen der amerikanischen Telekomanbieter vermutet. Immerhin empfiehlt das FBI Endkunden inzwischen eine Technologie, die die Behörde immer wieder kritisiert hatte: Verschlüsselung.

LLMs und das Geschäftsmodell-Problem

Große Sprachmodelle (LLMs) zu entwickeln, ist nicht unbedingt ein gutes Geschäft: Das schreibt der Programmierer Cal Paterson in seinem Blog und greift damit ein Thema auf, das häufiger debattiert wird (zum Beispiel in Ausgabe #102): Die Frage nach dem Geschäftsmodell von LLMs.

Paterson erinnert daran, dass die Branchenstruktur die Erfolgsaussichten eines Unternehmens prägt.

Erfolgreiche Unternehmen (z. B. Coca-Cola) profitieren von günstigen Marktstrukturen: geringe Abhängigkeit von Lieferanten, hohe Kundenloyalität, geringe Bedrohung durch Neueinsteiger oder Ersatzprodukte.
Branchen wie die Luftfahrt sind dagegen geprägt von negativen Markstrukturen mit hohen Lieferantenpreisen (Airbus, Boeing), preissensiblen Kunden, geringer Markteintrittsbarriere für Konkurrenten und zahlreichen Alternativen (staatlich subventionierte Hochgeschwindigkeitszüge, Videokonferenzen).

KI-Anbieter gehören für ihn eher in die zweite Kategorie. Sie sind abhängig von den Nvidia-Chips, die Kundenbindung ist wegen der Austauschbarkeit der Dienste gering, viele Mitbewerber drängen auf den Markt (inklusiver kostenloser Modellveröffentlichungen wie von Meta), der Markt hat zumindest theoretisch geringe Zugangshürden, sofern man das Geld für Chips und Training hat.

Zu diesem Artikel passt die Meldung, dass OpenAI überlegt, sich in Richtung eines werbebasierten Geschäftsmodells zu orientieren.

Womit wir bei einem Problem sind, das vielen webbasierten/Software-as-a-service-Diensten zumindest im B2C-Bereich eigen ist: Kaum etwas ist so “wertvoll”, das Menschen dafür bezahlen. Für die meisten Dienste gibt es kostenlose Alternativen, was es wiederum schwierig macht, Geld zu verlangen (siehe Perplexity vs. Google, Blueskys geplantes Premium-Abo). Und viele der erfolgreicheren abobasierten Modelle (Microsoft 365, Adobe) sind Umsetzungen klassischer physischer Software-Bundles, die bereits eine große Nutzerbasis besaßen und Vorteile als “Standardsetter” haben.

Das heißt nicht, dass LLMs kein Geschäftsmodellsmodell eröffnen, schreibt auch Paterson. Erfolgreiche KI-Anwendungen könnten auf der Nutzung bestehender Modelle basieren, statt selbst neue zu entwickeln. Und Technologieerfolg und Geschäftserfolg sind nicht zwangsläufig miteinander verknüpft (siehe Container-Virtualisierung oder Webbrowser).

DSA-Risikoanalysen

Die Audits und Risiko-Analysen der großen Plattformen nach dem Digital Services Act (DSA) sind online (Liste via Alexander Hohfeld). Und noch wenig aussagekräftig, so der allgemeine Tenor.

Für Details warte ich auf Analysen des DSA-Observatory des Instituts für Informationsrecht (IViR) an der Universität Amsterdam. Ich habe die mehr als 50 Dokumente allerdings schon einmal angelesen, naja, vor allem habe ich sie NotebookLM gefüttert und auf dieser Basis einige Stellen genauer angeguckt. Hier ein paar Sachen, die mir auffallen:

Ein Kernproblem ist, dass die Risikobewertung und das Prüfverfahren nicht standardisiert und damit nicht vergleichbar sind. Am deutlichsten wird das aus der Kohorte von Microsoft kritisiert. Die Plattformen dürfen ihre Prüfer auch selbst aussuchen (in der Regel die üblichen Akteure wie EY, Deloitte etc.).
Viele der Plattformen nutzen die Audits, um ihre bekannten Argumente vorzubringen: Meta stört sich an ungenauen Vorgaben, was zum Beispiel eine “sofortige”Reaktionspflicht bedeutet. Apple sieht die Risiken vor allem dadurch adressiert, dass man im App-Store strenge Zugangs- und Kontrollmechanismen hat.
Gerade Social-Media-Plattformen beschäftigen sich eher mit den offensichtlicheren Risiken (z.B. Anmeldung von Minderjährigen, Verbreitung von kinderpornographischem Material etc.). Die grundsätzlichen Risiken der Empfehlungssysteme werden eher allgemein beantwortet, genau wie die “Transparenz” dieser System nur formell hergestellt wird. Wer den DSA-Bericht zu YouTube oder TikTok liest, ist danach nicht schlauer, was wie genau priorisiert wird und wie die zugehörigen Faktoren in Wechselwirkung treten.
Wenig überraschend fällt die Bewertung von X im eigenen Audit sehr negativ aus. Dort habe man teilweise Zugang zu relevanten Dokumenten nicht erhalten, heißt es. Und (übersetzt): “Die geplanten vertieften Prüfungen wurden reduziert, da keine ausgewiesenen Fachexperten zur Verfügung standen, die für die Information des Prüfungsteams erforderlich gewesen wären.” Oder: “Die Prüfung hat ergeben, dass X keine ausreichenden Kontrollen eingeführt hat, um zu verhindern, dass die Online-Oberfläche so gestaltet wird, dass die Empfänger ihres Dienstes getäuscht oder manipuliert werden oder dass die Fähigkeit der Empfänger ihres Dienstes, freie und fundierte Entscheidungen zu treffen, auf andere Weise wesentlich verzerrt oder beeinträchtigt wird.” Ein weiterer Schritt hin zur großen End-Konfrontation zwischen X und der EU-Kommission.

pdf to Brainrot

“Brain rot” (zu deutsch “Hirnfäule”) ist das Wort des Jahres, das die Sprachexperten in Oxford ausgewählt haben. Zitat (übersetzt):

“Brain rot“ wird definiert als “die vermeintliche Verschlechterung des geistigen oder intellektuellen Zustands einer Person, insbesondere als Ergebnis eines übermäßigen Konsums von Material (jetzt insbesondere von Online-Inhalten), das als trivial oder wenig herausfordernd angesehen wird. Auch: etwas, das zu einer solchen Verschlechterung führen kann.”

Was wiederum ein guter Moment ist, die Seite PDF To Brainrot zu empfehlen, das Mitte November ein paar virale Schleifen drehte. Dort kann man ein pdf hochladen, eine KI macht eine Zusammenfassung und liest diese vor, während im Hitnergrund ein Minecraft-Video gezeigt wird.