Aus dem Internet-Observatorium #145

Ch-ch-Changes / Trumps AI Action Plan / Der erste echte "Internet-Roman"?

Juli 31, 2025

Hallo zu einer neuen Ausgabe! Und viele Grüße auch an alle, die über den Deutschlandfunk-Politikpodcast hierher gekommen sind!

Blick aus meinem Büro in den vergangenen sechs Jahren, aber als Pop-Art-Bild. (KI-generiert)

In eigener Sache: Ch-ch-changes (auch für diesen Newsletter)

Wie einige bereits wissen, war der heutige 31. Juli mein offiziell letzter Tag in Diensten des Deutschlandradios. Rückblickend waren es sechs gute Jahre im Hauptstadtstudio, auch wenn mein eigentliches Fachthema Digitalisierungspolitik im aktuellen Programm einen schweren Stand hatte.

Eine Konsequenz daraus war, diesen Newsletter auszubauen und ihn wöchentlich zu publizieren. Irgendwo mussten Wissen, Gedanken, Analysen und Aufgeschnapptes ja hin.

Es hat sich gelohnt. Inzwischen empfangen immerhin 1500 Leute diese E-Mail und lesen mit, wie ich über Digitalisierung nachdenke. Mehr noch: Als ich nach etwas Neuem gesucht habe, saß ich (gerade außerhalb der Medienbranche) mehrmals Menschen gegenüber, die meine Arbeit schon kannten. Wohlgemerkt: Nicht meine Arbeit beim Deutschlandfunk, sondern das Internet-Observatorium. Ich gebe zu: Das hat mich ziemlich stolz gemacht.

Doch nun zu dem, was kommt. Es ist kein Geheimnis, dass ich die Zukunft des Journalismus sehr pessimistisch sehe (in Ausgabe #87 vom März 2024 habe ich das einmal aufgeschrieben). Ich hatte mir deshalb Kriterien zurecht gelegt, unter welchen Bedingungen ich weiterhin in der Branche arbeite. Konkret waren das folgende Vorstellungen über meinen neuen Arbeitgeber:

Redaktionell Digital First, aber kein Clickbait oder Hot-Take-Content
Hoher handwerklicher Anspruch
Funktionierendes Geschäftsmodell oder auf dem Weg dorthin
Moderne Teamkultur & Umfeld gegenseitiger Wertschätzung
Möglichkeit zur persönlichen und fachlichen Weiterentwicklung

Das sind zugegeben hohe Ansprüche. Ich freue mich umso mehr, dass ich tatsächlich eine Redaktion gefunden habe, die all diese Kriterien erfüllt (und ihrerseits von mir überzeugt ist!): Ich übernehme ab morgen (1. August) gemeinsam mit dem geschätzten Oliver Voß die Redaktionsleitung bei den Tagesspiegel Backgrounds Digitalisierung & KI, Cybersicherheit und Smart City/Stadtentwicklung.

Die Newsletter des TSP Background sind für mich gerade bei Digitalisierungsthemen der Goldstandard der fachpolitischen Berichterstattung hierzulande. Daran mitarbeiten und ihn weiterentwickeln zu dürfen, ist so ziemlich die spannendste Aufgabe, die ich mir im deutschsprachigen Journalismus derzeit vorstellen kann. Und das ist kein LinkedIn-Slogan, sondern ernst gemeint. Ich habe richtig Lust darauf!

Die neue Aufgabe beinhaltet aber auch: viel Arbeit und voller Fokus. Für das Internet-Observatorium bedeutet das ein paar Veränderungen:

Neue Ausgaben dieses Newsletters erscheinen künftig 14-tägig, und zwar sonntags.
Ich werde hier weniger Essays und lange Analysen, sondern vor allem Links, Hinweise, Kurz-Analysen und Gedanken veröffentlichen.
In der neuen Start-Rubrik werde ich interessante Stücke aus dem Tagesspiegel Background (€) vorstellen und verlinken, besonders zur Digitalisierungspolitik in Deutschland. Idealerweise ergänzen sich das “Internet-Observatorium” und der Tagesspiegel Background. Ein Probe-Abo kann ich ohnehin empfehlen.

Kurz: Das Internet-Observatorium und ich sind in Bewegung, aber verschwinden nicht aus Eurer/Ihrer Inbox. Wenn Ihr das wollt.

Doch jetzt zu den Themen der Woche.

Trumps AI Action Plan

Als Mark Zuckerberg 2018 unter Druck stand und vor dem US-Senat aussagen musste, hatte der Meta-Chef zwei Sätze auf seinem Sprechzettel stehen: "Facebook zerschlagen? Amerikanische Tech-Firmen sind wichtig für Amerika; Zerschlagungen stärken chinesische Unternehmen.”

“Aber China” - ein Argument, das seitdem immer wieder und immer lauter im politischen Tech-Diskurs auftauchte. Und ob des Zeitgeistes immer mehr Anklang fand.

Den Status der Apotheose dürfte das “Aber China” vergangene Woche erreicht haben: Da legte die US-Regierung den “American AI Action Plan” vor, also die KI-Strategie der USA. Die Botschaft: Um China im globalen technologischen Wettrennen hinter sich zu lassen, dürfen der KI-Branche innerhalb der USA keine Grenzen mehr gesetzt werden. De facto zieht sich der Staat aus der noch unter Biden anvisierten Lenkungsfunktion zurück.

Diese massive Deregulierung ist nicht überraschend, stammt das Strategiepapier doch aus der Feder der Tech-/Disruptoren-Fraktion innerhalb des Trumpismus, federführend von David Sacks. Und tatsächlich muss man sagen: Geht man von der Prämisse aus, dass KI das ökonomische Betriebssystem der Zukunft ist und gerade ein Kampf um die computerisierte Hegemonie von morgen stattfindet, ist der Plan ein strategischer Meilenstein für die USA.

Nicht alles ist dabei neu. Die vollständige Integration von KI in Wirtschaft und Regierungshandeln, die systemische Rivalität mit China - das alles war schon im Plan der Biden-Regierung enthalten (siehe Ausgabe #70). Trumps KI-Strategie setzt aber andere Prioritäten: Das Thema KI-Sicherheit wird zwar im Kontext nationaler Sicherheit und einem verstärkten Biowaffen-Monitoring erwähnt, im Kern aber nimmt man Risikoszenarien im geopolitischen Machtkampf in Kauf und verzichtet z.B. auf ein Monitoring, welche besonders rechenstarken LLMs gerade wo trainiert werden. Mehr noch: mit der Priorisierung von Open-Source/Weight-Modellen bekennt man sich zumindest mit Worten zu einer sehr viel dezentraleren, schwerer zu kontrollierenden KI-Modell-Landschaft (und auch zu einem regulativen Spielfeld, auf dem Startups die etablierten Firmen herausfordern können).

Hinterlegt wird die Deregulierung mit dem Versprechen, die Energie-Infrastruktur des Landes zu modernisieren; erneuerbare Energien werden hier ebenso wenig wie Verbrauchsfragen thematisiert - ein Resultat des fossilen Irrwegs, den Trump II geht (und der in wenigen Jahren ein großer Standort-Nachteil werden wird).

Auch in der KI-Strategie findet sich einiges, das im Zuge der autoritären Tendenzen Trumps als übergriffig interpretiert werden kann. Das Moratorium für KI-Regulierung durch die Bundesstaaten scheiterte zwar im Kongress, nun versucht die Regierung solche Alleingänge über KI-Fördermittel einzudämmen: Die können zurückgehalten werden, wenn ein Bundesstaat KI zu stark reguliert. Details bleiben dabei unklar: Geht es um Auflagen der Staaten für Modell-Anbieter, um de facto nationale Standards zu setzen (dafür ist im Bereich Klimaschutz zum Beispiel Kalifornien bekannt)? Oder geht es um genuine Hoheitsfragen wie Baugenehmigungen für KI-Rechenzentren oder den Ausbau der Kraftwerks-Infrastruktur?

Für viel Aufregung sorgte auch die Ankündigung, Vergabe-Richtlinien so zu verändern, dass die Regierung künftig auf keinen Fall “woke KIs” einkauft. Linke und auch libertäre Kreise interpretieren das als Versuch, die eigene Ideologie durch eine Vergabe-Standards global durchzusetzen. In der zugehörigen Executive Order dagegen dagegen klingt das etwas anders (via Zvi Mowshowiz). Demnach soll die zuständige Behörde für Vergabefragen Regeln festlegen, die (übersetztes Zitat)

“es den Anbietern gestatten, die Anforderung des zweiten Grundsatzes der unvoreingenommenen KI zu erfüllen, [und zwar indem sie] durch Offenlegung der Systemaufforderung, der Spezifikationen, der Bewertungen oder anderer einschlägiger Unterlagen des LLMs ideologische Urteile transparent machen, und die Offenlegung spezifischer Modellgewichte oder anderer sensibler technischer Daten zu vermeiden, soweit dies praktisch möglich ist.”

Das liest sich für mich eher wie eine formale Regulierung im Sinne einer Model Card für KI im staatlichen Einsatz.

Bleibt die Frage: Ist der “AI Action Plan” ein unilaterales, ja ein imperiales Dokument? Die klare Ansage im Sinne von “America First AI” und das Ziel, KI-Systeme in alle Welt zu exportieren, lassen eine solche Lesart zu: Der Rest der Welt als Absatzmarkt (vermutlich auch, weil sich die gigantischen Investitionen der Tech-Firmen sonst gar nicht rechtfertigen ließen).

Die diplomatische Strategie dazu erscheint allerdings etwas widersprüchlich: Außen- und Handelsministerium soll die Position der USA in verschiedenen internationalen Gremien stärken, zum Beispiel den Vereinten Nationen, der OECD, G7 und G20 und die Internationale Fernmeldeunion (ITU). Das Ziel ist eine “globale Allianz” für Governance-Ansätze, die “amerikanische Werte widerspiegeln”.

Ist das nun Multilateralismus, um den chinesischen Einfluss einzudämmen? Oder im klassisch Trump’schen Sinne die inzwischen übliche Erpressung internationaler Partner? De facto hat die US-Regierung ihren diplomatischen Dienst gerade durch Entlassung im Bereich Tech-Diplomacy geschwächt; und der Wunsch nach einer KI-Infrastruktur made in America ist im Rest der Welt gerade nicht besonders ausgeprägt.

Überhaupt ist noch unklar, wie stark sich die Trump-Regierung tatsächlich für eine KI-Hegemonie engagieren wird - eine Strategie ist erstmal nur eine Strategie und die konkrete Politik der Trump-Regierung besteht in der Praxis dann oft daraus, dem Präsidenten möglichst viele PR-Siege zu bescheren. Entsprechend ist auch die wirklich löbliche Ankündigung, Anpassungen der Arbeitswelt an die neue KI-Zeit massiv staatlich zu begleiten, erst einmal nur eine Botschaft.

Dennoch: Gerade neben der europäischen KI-Politik, die zwar mit dem AI Act einen regulatorischen Rahmen setzt, aber bei Investitionen, Vergabe-Garantien und Unterstützung des europäischen Ökosystems sehr viel zurückhaltender ist, wirkt der “AI Action Plan” wie ein Schnellzug in Richtung Zukunft, während Europa an eine Bummelbahn mit Papierticket-Prüfung erscheint. Ob die USA damit in die richtige Richtung unterwegs sind, ist eine andere Frage.

KI-Agenten und die tödliche Dreierwette

Der Standard MCP gilt als “USB-C für KI” (siehe Ausgabe #140), genauer gesagt für KI-Agenten - ein offenes Protokoll, das KIs den Zugriff auf Datenquellen und Dienste ermöglicht, ohne dass die Anbieter einzelne Integrationen bauen müssen. Nur so lässt sich der Traum von einem System verwirklichen, das letztlich alle mühsamen Tasks in Internet und auf dem Desktop für mich erledigen kann.

Allerdings erhöht die Erfüllung dieses Traums mittels Agenten-Standard auch die Zahl der möglichen Angriffsvektoren. Klar: Read- und/oder Write-Rechte in Datenbanken, es ist heikel.

Jüngst nachgewiesen wurde das bei den EchoLeaks im Microsoft 365 Copilot sowie beim Cursor-Agenten von Supabase: In Letzterem konnte ein KI-System für die Bearbeitung von Support-Tickets dazu gebracht werden, die ganze Datenbank zu leaken.

Was hier zusammenkam, nennt Simon Willison die “lethal trifecta”, also eine “tödliche Dreierwette”: Ein Agent, der (1) Zugriff auf private Daten hat, (2) Kontakt zu nicht-vertrauenswürdigem Content (von außen kommende, potenzial bösartige Inhalte wie Mails, Webinhalte) herstellen kann und (3) externe Kommunikationsfähigkeiten besitzt (Daten zurücksenden, in diesem Falle zum Angreifer.

Man ahnt bereits, dass Angreifer MCPs auf den verschiedensten Ebenen ausnutzen werden: Mittels Prompt-/Context-Injection per Kommunikation mit dem System, kombiniert mit privilegierten Zugangsrechten innerhalb des Systems. KI-Agenten einzurichten bedeutet also im Kern, auch etliche Sandboxes und Filter-Infrastrukturen einbauen zu müssen.

Und dann ist da auch noch das MCP-Protokoll selbst: Dort wurden Sicherheitslücken identifiziert, die Angreifern ermöglichte, bei Verbindung zu unsicheren Servern direkt System-Kommandos auszuführen. Übersetztes Fazit aus Techzine:

“Die aktuelle Situation erinnert an frühere technologische Umbrüche, wie beispielsweise den Aufstieg von Microservices und APIs, bei denen zunächst bekannte Schwachstellen in neuer Form wieder auftraten. MCP befindet sich in seiner Entwicklung an einem ähnlichen Punkt. Laut [JFrog-Forscher Or] Peles ist ein Zurückgehen keine Option mehr. Der einzige Weg nach vorne besteht darin, die Sicherheit von nun an in den Mittelpunkt der Konzeption und Umsetzung aller MCP-bezogenen Aspekte zu stellen.”

Amen dazu, die Frage ist aber auch, ob die Systeme am Ende so hilfreich und zuverlässig sind, dass es die Aktivierung neuer Risiko-Vektoren auch wert ist.

Google Zero und Community

KI-Bots als neues Interface für Nachrichten und die Folgen für die Medienbranche & das WWW sind hier seit dem Auftauchen von Perplexity (Ausgabe #38) immer mal wieder Thema.

Inzwischen hat das Phänomen den Namen “Google Zero” (also eine Welt, in der Google keinen Traffic mehr liefert), und wird immer heißer diskutiert. Einen Überblick liefert das Social Media Watchblog (€).

Ben Thompson wiederum liefert den ganz großen Aufriss inklusive Fragen nach der Wertschöpfung rund um KI-Trainingsdaten und kommt zu dem Schluss: Die klassische Medienbranche ist weitestgehend zum Sterben verurteilt. Sie hat aber eine Chance, wenn sie nicht mehr den Content in den Fokus nimmt, sondern die Community, die sich um die Inhalte herum bilden kann.

Als jemand, der in der Begegnung von (Ex-)Sender und (Ex-)Rezipient auf Augenhöhe so viel Potenzial sah, dass er Online-Journalist wurde statt die damals übliche Print-Schiene zu nehmen, hört sich das ein bisschen wie das Versprechen der Nullerjahre an. Here comes everybody!

Zugleich aber bedeutet “Community rund um Content” heute schon etwas anderes: Nämlich Content zu liefern, der die Haltungen, Ideologien und Identitäten der Menschen bestätigt, die ihn konsumieren. Das wiederum ist ungefähr das Gegenteil der Utopie, die ich damals so einladend fand. Und doch letztlich die Richtung, in die sich weite Teile der Medienlandschaft (alt und neu) gerade entwickeln.

Rejection: Der erste Internet-Roman?

Es sind in den vergangenen Jahren schon einige Internet-Romane vermarktet worden - also Werke, die das Online-Leben adäquat und zeitgeistig abbilden. Patricia Lockwood und Lauren Oyler wurde zum Beispiel vor ein paar Jahren attestiert, Romane geschrieben zu haben, die das digital vernetzte Leben Anfang der 2020er originalgetreu abbildet. Überzeugt haben mich “No One Is Talking About This” und “Fake Accounts” aber nicht.

Bei “Rejection” von Tony Tulathimutte - einer meiner Urlaubslektüren und eigentlich eine Sammlung lose verbundener Kurzgeschichten - ist das anders: Hier habe ich zum ersten Mal das Gefühl, dass das “Online-sein” im Mittelpunkt steht, ohne dass die Darstellung zur aufdringlichen Very-Online-Pose verkommt. Auch wenn es natürlich very online ist, was er da an Kämpfen zwischen wahrer Identität und dauerbeobachteter Performance unter den Augen unserer digitalen Teil-Öffentlichkeiten beschreibt.

Ich kann das Buch (bislang nur im amerikanischen Original erschienen) sehr empfehlen. Wer reinlesen möchte: Die Auftaktgeschichte “The Feminist” erschien bereits vor einigen Jahren im Magazin n+1.

Notizen

Entlassungen trotz Profitabilität: Om Malik arbeitet anhand der E-Mail von Microsoft-Chef Satya Nadella (9000 Stellen weg trotz hoher Gewinne) noch einmal die neue Position von Arbeitnehmern in der Software-Branche hinaus. Kurz: Unternehmen bieten Entwicklern nur noch dann Möglichkeiten, ja Jobs, wenn ihre Fähigkeiten und Tätigkeiten in die KI-Strategie passen. Unabhängig davon, ob die Firma hohe Gewinne oder Verluste macht. Om nennt das “profitable Entlassungen” - und geht davon aus, dass das Phänomen bald im KI-Kontext auch in anderen Branchen Einzug hält.

Altersgrenzen im Netz: Ein Thema, über das es mehr zu schrieben gäbe. Nachdem in Großbritannien die Altersverifikation im Zuge des Online Safety Act in Kraft getreten ist, zeigen sich Nebenwirkungen. Die Zahl der VPN-Downloads steigt und die Zahl der betroffenen Webseiten ist höher - nicht nur Porno-Seiten oder Social-Media-Seiten wie Reddit, auf denen nicht-jugendfreie Inhalte zu finden sind, sondern zum Beispiel auch Spotify. Dass das Thema auf uns zukommt, zeigen auch Entwicklungen in den USA, wo inzwischen ein Dutzend US-Bundesstaaten Altersverifikationen gesetzlich eingeführt haben. Entsprechend hat YouTube dort eine Software zur Altersschätzung eingeführt. In Europa verlangt der DSA seit 1. Juli 2025 für Plattformen mit jugendgefährdenden Inhalten (= Porno) Alterschecks. Der Trend aber dürfte, auch im Zuge der Debatte über Social-Media-Altersgrenzen und entsprechender Pläne in Frankreich und Spanien, auch hier in Richtung Ausweitung gehen.

Am Beispiel der Eule: Dark Knowledge in KI-Modellen

Die Illustration aus diesem Anthropic-Paper zeigt ein Alignment-Problem, das nicht zu unterschätzen ist: Wenn ein Modell auf Daten trainiert wird, die von einem anderen, bereits “voreingenommenen” Modell stammen (etwa ein Modell, das speziell darauf trainiert wurde, Eulen besonders zu mögen), kann es diese Vorlieben/Kontexte aus dem Ausgangsmodell übernehmen.

Das klingt nicht weltbewegend, aber das Problem ist: Diese Vorlieben müssen nicht explizit in den Trainingsdaten vorkommen. Vielmehr kann selbst ein Training auf “neutralen” Daten des Eltern-Modells (hier: einer Zahlenfolge) eine Präferenz codieren - in diesem Fall für Eulen. Heißt: Das übertragene “Wissen” zwischen den Modellen ist für Menschen verborgen. Heißt auch: Die Bereinigung von Daten alleine genügt wahrscheinlich nicht, um zum Beispiel schädliches Verhalten aus einem Modell heraus zu filtern.