Aus dem Internet-Observatorium #52
10 Jahre nach Snowden / Apple Vision Pro / Reale existentielle KI-Bedrohungen
Hallo zu einer neuen Ausgabe - die Sommergrippe hat mich erwischt, deshalb einige Tage später als sonst.
Snowdens NSA-Enthüllungen: Zehn Jahre später
Am vergangenen Montag lief im Deutschlandfunk mein Hintergrund zum zehnten Jahrestag der ersten Snowden-Enthüllungen. Wer 18 Minuten Zeit findet, bitte hier entlang.
Hier eine Zusammenfassung, die teilweise über die Sendung hinausgeht (es war eine Menge Material).
Snowden 2023 - das ist der Stand
Edward Snowden lebt weiterhin irgendwo im Großraum Moskau. Seine damalige Freundin ist ihm aus den USA nachgefolgt, sie haben inzwischen zwei kleine Kinder. Für ein Interview stand er nicht zur Verfügung.
Sein amerikanischer Anwalt Ben Wizner hat mir gegenüber betont, dass man weiterhin nach alternativen Aufenthaltsorten sucht. Aber die meisten Pfade dorthin würden am Ende in ein Hochsicherheitsgefängnis in den USA führen, wo Snowden unter dem Espionage Act von 1917 angeklagt ist.
In den vergangenen Jahren hatte Snowden immer mal wieder die russische Regierung kritisiert. In den vergangenen sechs Monaten aber sei er stiller gewesen, so Wizner, der auf den schrumpfenden Raum für die Zivilgesellschaft verweist: “Das ist verständlich, wenn man sich die Situation anguckt, bei der Menschen die Treppen hinunterstürzen und aus Krankenhausfenstern fallen. Ich hoffe, dass es nicht mit ihm so enden wird.”
Snowden selbst werde im historischen Rückblick am Ende in einem guten Licht dastehen, betont Wizner. Der IT-Sicherheitsexperte Bruce Schneier dagegen hält Snowden für eine tragische Figur, weil seine Enthüllungen nichts Grundlegendes verändert hätten und er in Vergessenheit geraten sei. “Die Welt dreht sich weiter. Ich habe Snowden früher per Schalte in meinen [Uni-]Kursen sprechen lassen”, sagt Schneier, “heute nicht mehr. Denn sein Wissen ist veraltet.”
Was hat sich verändert?
Hier muss man zwischen den USA und dem Rest der Welt unterscheiden. Wizner betont natürlich, dass viele Aspekte der Überwachung in den USA gerichtlich geprüft - und z.B. im Kontext der Metadaten-Speicherung innerhalb des Landes - auch gekippt wurden. Und: Viele der ACLU-Klagen wären früher in das Reich der Verschwörungsmythen verwiesen worden, nun mussten sich Gerichte damit beschäftigen.
Aber im Bezug auf den Foreign Intelligence Surveillance Act, der Ende 2023 wieder ausläuft, drehen sich die Reformdebatten weiterhin nur um die Rechte von US-Amerikanern, wenn ihre Daten versehentlich ins Schleppnetz gelangen. Einschränkungen für das internationale Datensammeln sind nicht geplant.
Und auch die Pläne für das neue transatlantische Datenabkommen, so kritisiert Max Schrems, seien unzureichend - weil Beschwerden von EU-Europäern bei der zuständigen US-Regierungsbehörde hohe Hürden haben und von einem unabhängigen Gremium keine Rede sei kann (mehr dazu auch hier im Newsletter).
In Deutschland sieht es etwas anders aus: Mit dem nochmals reformierten BND-Gesetz entscheidet seit 2022 nun erstmals der so genannte “Unabhängige Kontrollrat” über die technischen BND-Überwachungsmaßnahmen. Der Kontrollrat ist ein sechsköpfiges Gremium bestehend aus Richterinnen und Richtern von Bundesgerichtshof und Bundesverwaltungsgericht, der zumindest Erforderlichkeit und Verhältnismäßigkeit von digitaler Spionage prüft.
Allerdings erinnert Thorsten Wetzling von der Stiftung Neue Verantwortung daran, dass es weiterhin Lücken gibt. Zum Beispiel, wenn Geheimdienste digitale Daten ankaufen. Und neben dem BND müssten eigentlich auch Verfassungsschutz und Militärischer Abschirmdienst unter eine ähnliche Rechtskontrolle gestellte werden. “Wir bräuchten eigentlich ein viel klareres, einheitlicheres Nachrichtendienstrecht. Weil das ist sehr zerfasert und zerstückelt.”
Im Koalitionsvertrag versprechen die Ampel-Regierung, Kontrolllücken zu schließen. Allerdings ist dafür nur noch wenig Zeit, denn eigentlich ist das Ganze nur nach der Einführung einer Überwachungsgesamtrechnung denkbar. Und der Prozess wird erst 2024 so richtig in Gang kommen.
Überwachung und neue technische Möglichkeiten
Snowdens Enthüllungen berücksichtigen noch nicht die besseren Sortiermöglichkeiten mittels Machine Learning a.k.a. “Künstlicher Intelligenz”. Und auch sonst hat die Zahl der Sensoren und Signale deutlich zugenommen, zumal mehr Menschen als je zuvor online sind. Ein weiterer Punkt: Die “Demokratisierung” von Spionagewerkzeugen, auf die Bruce Schneier hinweist: Privatwirtschaftliche Firmen wie die Gamma Group verkauften Überwachungslösungen an Regime in aller Welt, die nun ähnliche Möglichkeiten wie die NSA besäßen.
Auf der anderen Seite steht zehn Jahre später die massenhafte Verbreitung von Verschlüsselung, speziell in https und bei Messenger-Diensten wie WhatsApp. Die allerdings - siehe Überlegungen der kommenden spanischen EU-Ratspräsidentschaft oder die Chatkontrolle-Debatte - immer wieder von Sicherheitspolitikern in Frage gestellt wird. Patrick Breyer, Europaparlamentarier der Piraten, weist in diesem Zusammenhang auf den vergeblichen Versuch hin, eine Verschlüsselungspflicht einzuführen.
Max Schrems wiederum erinnert daran, dass es bedauerlicherweise kein No-Spy-Abkommen unter demokratischen Staaten gibt. Genau wie das angebliche No-Spy-Abkommen zwischen den USA und Deutschland, von dem während des NSA-Untersuchungsausschusses immer wieder die Rede war, das von Seiten Washingtons niemals ernsthaft in Betracht gezogen wurde, wie Anne Roth von der Linksfraktion erzählte.
Apple Vision Pro: Nur du und dein Content
Oben meine Pre-Keynote-Prognose vom Montag. Mit (1) lag ich ja schon einmal völlig daneben, (2) halte ich weiterhin für realistisch. Ich denke, im Laufe der kommenden fünf Jahren wird es ein filigraneres Design, deutlich bessere Batterien und vor allem viel mehr Spezial-Content (Sportübertragungen, Games, Erotik-Zeug) sowie auch diverse etablierte Arbeits- und Bildungsszenarien geben. Vielleicht ist die Brille bis dahin zumindest im Wohn- und Arbeitsumfeld auch ein Hub für das, was man Ambient Intelligence (Umgebungsintelligenz) nennt.
Aus der Vogelperspektive betrachtet, versucht Apple gerade den Computer weg zu abstrahieren (vermarktet als “spatial Computing”). Die Ironie dabei ist: Für mich als Headset-Benutzer ist das “Gerät” tatsächlich unsichtbar, während alle um mich herum sehen, dass ich dem Computer so nahe wie noch nie komme.
Diese Nähe und die sich ergebende zwischenmenschlichen Ferne wirft zahlreiche Fragen rund um das Thema Isolation auf, wie das unter anderem Ben Thompson, Allison Johnson oder auch L.M. Sacasas in
tun. Denn die Apple-Brille wirkt bislang wie ein Gerät für das individuelle Cocooning, für den einsamen Abend auf der Couch. Promovideo-Situationen, die mit Gemeinsamkeit zu tun hatten, wirkten seltsam, so der Vater, der den Geburtstag seines Kindes mit der Datenbrille filmt. Das ist selbst Mark Zuckerberg aufgefallen, der mit den Quest-Brillen quasi einen entgegengesetzten Ansatz verfolgt.Die Logik klingt plausibel, und doch bin ich mir noch nicht sicher. Das iPhone war in seiner ersten Version, die noch nicht einmal Apps hatte, noch nicht als das erkennbar, was es einmal werden würde. Ich habe in Ausgabe #41 im Zusammenhang mit “Chatbots als Gefährten” eine Zukunft skizziert, in der menschlicher Kontakt teuer wird und sich unser Leben noch stärker im mensch-maschinellen Kontext abspielt. Die Apple Vision Pro könnte ein Teil dieser neuen Welt sein. Oder einer Welt, die ganz anders aussieht, als wir sie uns jetzt vorstellen können.
Existentielle KI-Gefahren
Arvind Narayanan hat sich bei
mit dem “Statement zu (existentiellen) KI-Risiken” auseinandergesetzt. Und darauf verwiesen, dass die Auslöschung der Menschheit im Moment eben gerade nicht das größte Risiko ist, das man priorisiert adressieren sollte.Aber was sind reale existentielle Risiken, die von großen Sprachmodellen ausgehen? André Ferretti hat bei LessWrong ein Paper dazu aus dem Juli 2022 (von Benjamin S. Bucknall und Shiri Dori-Hacohen) zusammengefasst:
Aktuelle und künftige KI-Systeme können auch andere existentielle Risiken verstärken (z.B., indem sie dabei helfen, gefährliche Pathogene zu designen).
LLMs verändern die Machtdynamiken zwischen Staaten, Firmen und Bürgern, was wiederum politische Entscheidungen negativ beeinflussen kann.
Zum Beispiel in einem KI-Wettlauf zwischen Staaten, der zu einem nuklaren Konflikt führt und Ressourcen beansprucht, die für andere Zivilisationskrisen gebraucht werden.
Zum Beispiel in einem Machtverhältnis, in dem Konzerne Staaten deutlich überlegen sind.
Gesteigerte Überwachungsmöglichkeiten durch KI erhöhen die Möglichkeiten repressiver Regime, sich an der Macht zu halten.
Die Veränderung der Informationsströme in sozialen Medien und Empfehlungssystemen, die zu einer weiteren Polarisierung und Handlungsunfähigkeit führen.
Was ich insgesamt an der aktuellen Debatte nicht verstehe: Die Polarität, mit der sie geführt wird. Immer im Sinne von “Wenn, dann”, also “Wenn sich jemand Sorgen über Artificial General Intelligence macht, dann ist diese Person ein Scharlatan oder will ablenken” oder “Wenn sich jemand keine Sorgen über AGI macht, ist diese Person hoffnungslos naiv und hat keine Langfrist-Perspektive auf die Dinge.”.
Daniel Eth hat es hier am besten formuliert (via):
Links
Synthetischer Content, unendlicher Content
Diskursanalyse: Die deutschen Bundestagsparteien und Big Tech
Nennt es nicht Halluzination: Die Anthropomorphisierung von KI
WhatsApp plant, wieder Broadcast-Kanäle einzuführen.
Freie Meinungsäußerung und Social Media - wohin geht der Weg? (€)
Instagrams Twitter-Klon-Software nimmt Formen an.
Bis zur nächsten Ausgabe!
Johannes