Dieses Mal: Drei Stücke, die aufeinander aufbauen und sich mit der KI-Entwicklung im Kontext Arbeit auseinandersetzen (und der Frage, aus welcher Perspektive diese Entwicklungen vorhergesagt werden). Dazu: PsyOps in der PR rund um den Irankrieg, PsyOps rund um den Erfolg von “Geese”. Viel Spaß beim Lesen! Aber erst einmal wärmstens ans Herz gelegt:

Appetizer aus dem Tagesspiegel Background

BfDI-Nachfolge: Die Position Datenschutzbeauftragte/r ist nach dem angekündigten Rückzug von Louisa Specht-Riemenschneider neu zu besetzen. Wie der Stand der koalitionsinternen Gespräche ist, warum der BNetzA-Chefposten eine Rolle spielt und wer derzeit gehandelt wird: Christiane Rebhan berichtet.

KI-Agenten und der AI Act: Als der AI Act verabschiedet wurde, waren KI-Agenten noch Zukunftsmusik. Passt der Rahmen also für die neue Welt autonomer Hilfsprogramme? Alexandra Ketterer analysiert.

Deutschland-App: T-Systems und SAP sollen den Prototypen für die Deutschland-App bauen. Nicht nur die Wahl der altbekannten Akteure wirft Fragen auf, sondern auch Überschneidungen mit anderen Projekten. Viola Heeger, Oliver Voß und Bastian Hosan mit den Details.

Wie notwendig sind die Roll-In-Teams? Expertenteams sollen die Umsetzung der OZG-Leistungen in den Kommunen Hessens, Bayerns und Niedersachsens aktiv begleiten und so die Projekte beschleunigen. Aber wie notwendig ist ihr Einsatz eigentlich? Benjamin Hilbricht hat die Antwort.

Gründen in 24 Stunden: Das große Versprechen der Schnellgründung ist gar nicht so einfach umzusetzen. Bastian Hosan mit den drei Vorschlägen, wie die Idee am effektivsten umgesetzt werden könnte.

Unternehmen als Rechenzentren

Reuters berichtet, dass Meta begonnen hat, die Mausbewegungen und Tastaturanschläge seiner Mitarbeiter zu sammeln, wenn diese auf ihren Arbeitscomputern für die Firma relevante Programme oder Webseiten nutzen. Das Projekt nennt sich Model Capability Initiative (MCI) und soll dafür sorgen, dass KI-Agenten sich bei Computer-Aufgaben stärker am Verhalten von Menschen orientieren und damit effizienter werden.

Im luftleeren Raum findet das Ganze selbstredend nicht statt: Wenige Tage später gab Meta bekannt, 8000 Mitarbeitende (etwa zehn Prozent der Belegschaft) zu entlassen und 6000 freie Stellen nicht zu besetzen. Der Konzern benötigt Geld für den Ausbau von KI-Rechenzentren (Schätzungen für 2026: 135 Milliarden US-Dollar); in KI hat man bei den Frontier-Modellen aufzuholen und angesichts fehlender Cloud- und B2B-Ausrichtung ohnehin strategische Leerstellen (über die Situation von Instagram zu schreiben, wäre nochmal ein eigener Text, es ist hochprofitabel, aber kompliziert…).

Casey Newton erinnert daran, dass Alexandr Wang, der relativ neue Chef des “Superintelligence-Teams”, mit seiner Firma Scale AI aus genau diesem Geschäft kommt: Generierung von KI-Trainingsdaten aus menschlichem Computerverhalten.

Wohin das mittelfristig führt, wird man sehen. Es ist kein Geheimnis, dass Mark Zuckerberg als Verfechter einer Allgemeinen Künstlichen Intelligenz (AGI) in seinem Unternehmen von einer Art von Vollautomatisierung träumt, in der immer weniger Menschen einer immer größeren Zahl von autonomen Agenten erst orchestriert und dann irgendwann nur noch überwachen. Das gilt einerseits für die Kunden-Ebene (Fullservice-Automatisierung von Anzeigenerstellung, Targeting und Anpassung für Kleinkunden), aber eben auch mit Blick auf die eigene Firma (was an “Software frisst ihre Schöpfer” erinnert). Das Unternehmen wird, zugespitzt formuliert, zum Rechenzentrum - ein hoher Automatisierungsgrad, der eher an die Industrieproduktion und Ghost Factories erinnert als an die Werbefirma, die Meta ist.

Nun ist die Idee einer weitgehenden Automatisierung der Arbeitswelt nicht neu, eigentlich ist sie Unternehmen, die auf Gewinnoptimierung ausgerichtet sind, inhärent. Deshalb ist die seichte Argumentation, so etwas wollen eben die “Bad Guys from the Valley”, irreführend. Der Unterschied zwischen einem Chef eines deutschen Konzerns und dem Chef von Meta besteht nicht in Anständigkeit und Charakter, sondern ergibt sich aus den Rahmenbedingungen. Und hier bieten die USA eben Voraussetzungen, unter denen sich solche Experimente verwirklichen lassen (kein Kündigungsschutz, kein Beschäftigtendatenschutz, keine Gewerkschaften usw.).

AGI und der Arbeitsmarkt

Obwohl es inzwischen durchaus Anzeichen für den Beginn einer rekursiven Selbstverbesserung gibt, halte ich weiterhin die These von “KI als normaler Technologie” (vgl. Ausgabe #133) für die realistischere: Es gibt zu viele kleine Dinge in Institutionen, die nicht “datafiziert” sind - und KI bedeutet als unverlässliches/unpräzises (halluzinierendes) System in vielen Bereichen zu hohe Risiken für Vollautonomie (“Fähigkeits-Verlässlichkeits-Lücke”). Angemerkt sei aber: Beides ist kein Hindernis für die Adaption, wohl aber ein Rezept für KI-basierte Unfälle und Fehlabläufe.

Dennoch ist es richtig, sich auf die bereits beginnenden Veränderungen auf dem Arbeitsmarkt, aber auch mögliche Veränderungen bei der Kapitalakkumulation vorzubereiten. Die möglicherweise krasse Wohlstandskonzentration wird in der AGI-Szene spätestens seit dem Essay “Capital in the 21st Century” (vgl. Ausgabe #155) diskutiert. Und auch weitergeführt.

Der Stanford-Doktorand Philip Trammell (Ko-Autor von “Capital…”) stellt in einem Aufsatz die These auf, dass Arbeit zu einem Luxusgut werden könnte. In dem Moment, in dem alle menschlichen Fähigkeiten von KI-Systemen oder KI-Robotern übernommen werden könnten, wären einzig „human-intrinsic goods“ (menschlich-intrinsische Güter) mit menschlicher Wertschöpfung verbunden, also Dienstleistungen, deren Wert untrennbar mit der menschlichen Identität, Herkunft oder Ausführung verbunden sind. Aber das würde nicht genügen, um den Arbeitsmarkt für Menschen vor dem Kollaps zu bewahren.

Alex Imas von der University of Chicago Booth School of Business widerspricht ihm: Es gehe nicht darum zu messen, ob der Anteil von Arbeit am Gesamteinkommen bei fortgesetzter Automatisierung im Vergleich zur Kapitalakkumulation gleich bleibt, sondern vielmehr darum, welche Sektoren Ausgaben und Beschäftigung absorbieren, sobald die Produktion von Massenware („commodities“) durch KI extrem billig wird.

Imas zieht nämlich folgenden Schluss: Weil der menschliche Faktor (Aufmerksamkeit, Wärme, Urteilsvermögen) selbst Teil des Wertes einer Arbeit ist (vgl. Therapeuten, Lehrern oder handgefertigten Luxusgüter), bleibt die menschliche Arbeit auch in einer Welt fortgeschrittener KI substanziell. Die anderswo wegbrechende Nachfrage nach Arbeit verschiebt sich in den „relationalen Sektor“, in dem die menschliche Herkunft (provenance) das entscheidende knappe Gut darstellt.

Auf den ersten Blick erscheint das wie Feudalismus (im Sinne von “nur die Profiteure aus der Wertschöpfung des Kapitals, also Reiche, können es sich leisten, Menschen für ihre Dienstleistungen zu bezahlen”). Imas löst diesen Widerspruch aber auf: Durch KI und Automatisierung wird Massenware (und damit Konsum materieller Güter) so günstig, dass sich de facto alle leisten können, mehr Geld für den “menschlichen Faktor” auszugeben. Er merkt allerdings an, dass dies nur für die Industrieländer gilt - für Entwicklungsländer, deren Volkswirtschaften auf der Produktion günstiger Waren aufbauen, sei die Sache “komplizierter und potenziell besorgniserregender”.

Interessant finde ich, dass hier eine in der Konsequenz linke Position (Trammell: Der Arbeitsmarkt kann bei AGI-Vollautomatisierung nicht gerettet werden, es braucht Umverteilung) auf eine klassisch marktliberale Position trifft (Imas: Arbeit verlagert sich, wie bislang immer in der Geschichte, in einen neuen Sektor). Nun steht Imas deutlich in der Tradition der Chicago School und agiert damit natürlich ein bisschen wie ein Hammer auf der Suche nach einem Nagel. Aber durchdacht ist seine Position allemal.

Zwei weitere Aspekte finde ich noch bemerkenswert:

1. Imas versucht, die Ökonomie und Soziologie/Anthropologie zu verknüpfen. Denn den Wunsch nach dem “menschlichen Faktor” leitet er aus René Girards “mimetischem Begehren” ab: Wir wissen, was wir wollen, indem wir nachahmen, was andere wollen. Deshalb sinkt der Wert des “menschlichen Faktors” aus seiner Sicht auch nicht. Diesen Versuch der Interdisziplinarität kann man kritisch als Verkaufstrick interpretieren, ich halte ihn aber für sehr sinnvoll.

2. Bei genauerem Hinsehen ist die Ökonomisierung des Zwischenmenschlichen bereits in unseren Gesellschaften angelegt. Imas verweist auf Therapeuten, Kunst, Lehrer etc. Ich habe dabei Uber (Mitfahrgelegenheit), Airbnb (Gastfreundschaft), Cameo (Nähe zu Prominenten), OnlyFans (Intimität), TaskRabbit (Hilfe bei Arbeit) im Hinterkopf, oder auch digital vermarktlichte Bereiche wie Liebe und Partnerschaft (Tinder). Kein Zweifel: Ein Arbeitsmarkt, wie Imas ihn sich vorstellt, wäre hochalgorithmisiert, von Plattformen verwaltet und letztlich die Konkurrenz aller gegen alle.

Die Grenzen des Software-Gehirns

Sowohl die Idee vom “Unternehmen als Rechenzentrum” als auch die “AGI-(Nicht-)Arbeitsgesellschaft” sind Prognosen, die auf linearen beziehungsweise exponentiellen Entwicklungen im Bereich großer Sprachmodelle basieren. Vor allem aber sind es Visionen, die auf einer Vorstellungskraft beruhen, die aus Software-Gehirnen stammt.

Verge-Chefredakteur Nilay Patel definiert das “Software-Gehirn” als spezifische Denkweise der Tech-Industrie, die die Welt ausschließlich durch die Linse von Algorithmen, Datenbanken und Automatisierungsschleifen betrachtet und damit KI als großes Versprechen sieht. Das Software-Gehirn steht im Kontrast zu dem, wie Menschen außerhalb der Branche diese Automatisierung wahrnehmen: Als Entmenschlichung durch die Reduzierung auf Datenpunkte in einem System. US-Umfragen zufolge ist diese KI-kritische Position gerade unter jungen Menschen stark verbreitet, obwohl (oder: weil) sie nichts anderes als das Datenpunkt-Korsett (Likes, Shares, Matches) kennen.

Aus diesen unterschiedlichen Perspektiven lassen sich viele der Konflikte ableiten, die wir im Kontext mit KI erleben und noch erleben werden. Nichts an dieser Entwicklung ist in Stein gemeißelt, auch wenn wir gerne so tun. Dafür aber brauchen wir eine Diskussion, die eben nicht nur auf der Gedankenwelt des Software-Gehirns beruht (der wir uns womöglich anpassen, weil wir glauben, sonst nicht mehr als Mensch oder Firma wettbewerbsfähig zu sein). Denn es ist (und das glaube ich wirklich!) noch gar nicht geklärt, ob wir KI zu einem Werkzeug machen, bei dem sich der Computer endlich den Menschen anpasst - oder ein weiteres System bauen, in dem wir Menschen uns der Technik anpassen müssen.

In diesem Zusammenhang möchte ich auf ein Essay von Robert Simanowski in den Blättern hinweisen. Denn er zeigt nicht nur Technik- und Denkstrukturen im aktuellen KI-Diskurs auf, sondern weist auch auf die Leerstellen hin. Gefettetes Zitat:

“Die Politik, die Bildung, selbst die Medien: Niemand scheint sich ernsthaft zu fragen, wie wir in zehn Jahren leben wollen und wohin es mit der Digitalisierung und der KI-Entwicklung eigentlich gehen soll. Visionen haben nur noch die KI-Unternehmen, die bekanntlich nicht frei von Eigennutz sind. Und selbst die gehen – wie Mark Zuckerbergs Minimanifest »Personal Superintelligence« im Juli 2025 – kaum über leere Ermächtigungsbehauptungen (“a new era of personal empowerment”) hinaus.

Das war einmal anders. Noch vor wenigen Jahren gab es eine große Debatte zur Transformationsgesellschaft, über die anstehenden tiefgreifenden Veränderungen: ökologisch, ökonomisch, technologisch, sozial – Debatten und Demos. Jetzt verharrt alles im Klein-Klein. Krisenmanagement und Besitzstandswahrung statt Gestaltungswille. KI und Internet werden vor allem als Wirtschaftsfaktoren diskutiert; man redet über Geld statt über Konzepte.”

Simanowski führt dann auch noch einige Ideen zur Medienkompetenzentwicklung ein, um im Kern eine Forderung zu postulieren, die so bekannt wie relevant ist: Dass wir Menschen Subjekt bleiben, “Subjekt unseres Lebens, Subjekt unserer Sprache”. Ich hoffe, dieser Newsletter ist als Sekundärliteratur hilfreicher Teil eines Denkprozesses, der sich mit dieser Frage beschäftigt.

Überall Psy-Ops: Irans Lego-Videos und das Informationsökosystem

Die pro-iranischen Lego-Videos sind ja bereits länger ein Thema und haben einige Schlagzeilen gemacht. Wer nicht weiß, um was es geht, hier ein übersetztes Zitat von DropSite:

“Mit dem Iran verbundene Konten verbreiten ein neues Propagandavideo im LEGO-Stil, in dem US-amerikanische und israelische Politiker als korrupte Eliten dargestellt werden, die mit den „Epstein-Akten“ in Verbindung stehen. Dies ist Teil einer umfassenderen Online-Kampagne, die darauf abzielt, die Unterstützung für den Krieg zu untergraben.

Die Animation zeigt Präsident Donald Trump als „orangefarbenes Schwein“, das vom israelischen Ministerpräsidenten Benjamin Netanjahu kontrolliert wird, und stellt den gesamten Krieg als ein Projekt dar, um „Israel wieder groß zu machen [great again]“.”

Das CNN-Video erklärt einige Sachverhalte sehr gut - die Macher sind aus Iran, nach eigener Aussage allesamt unter 25 Jahre alt, haben dort eine Medienlizenz und ihr Content wird von der iranischen Regierung nicht nur verbreitet, sondern auch (so legen es die Aussagen von Mitgliedern nahe) lizenziert, also bezahlt. YouTube hat den Kanal von Akhbar Enfejari (Explosive News) inzwischen gesperrt, offiziell wegen der Darstellung von Gewalt.

Hier ein Video als Beispiel:

Das alles ist wahrscheinlich die geschickteste Social-Media-Kampagne des Jahres, denn es wird ein Publikum angesprochen, das von herkömmlichen Nachrichten nicht erreicht werden dürfte. Anders als bei klassischen Medien wird die Trump’sche Regierungsführung nicht ernstgenommen, sondern durch Humor als Shitshow entlarvt. Hinzu kommen Hip-Hop-Songs im Hintergrund, dazu kleine, satirische Details und eine popkulturelle Affinität, die Iran deutlich moderner aussehen lässt, als es in der öffentlichen US-Wahrnehmung sonst transportiert wird.

Gleichzeitig wird mit den “United States of Israel” und Symbolik wie “Netanjahu als Herr, Trump als Hund” und dem Einsatz des Chanukka-Leuchters die anschlussfähige Israel-Kritik mit (leider heutzutage ebenfalls anschlussfähigem) Antisemitismus kombiniert.

Der Forscher Andrew R. North sieht die Grundlagen für den Erfolg solcher Formate in Wegbereitern wie Jon Stewarts Daily Show, die Nachrichten fast durchgehend aus der satirischen Perspektive betrachteten, um Widersprüche und Zynismus des politischen Geschehens zu entlarven. Übersetztes und gefettetes Zitat:

“Das Ergebnis sind Inhalte, die nicht sofort als ausländische Propaganda erkennbar sind, sondern vielmehr wie Unterhaltung wirken. Für ein Publikum, das es bereits gewohnt ist, sich über Comedy über Politik zu informieren, fällt dieser Unterschied kaum auf.

Hierin liegt eine tiefgreifende Ironie. Die kulturellen Bedingungen, die Sendungen wie “The Daily Show” und “Last Week Tonight“ hervorgebracht haben – der Vertrauensverlust in die politische Mainstream-Kommunikation und die Forderung nach Authentizität und Humor statt formaler Rhetorik – haben ein Medienumfeld geschaffen, in dem ein ausländischer Staat Propaganda an Millionen von Amerikaner verbreiten kann, die sich kaum von einheimischer Unterhaltung unterscheidet.

Das soll nicht heißen, dass Late-Night-Satire und iranische KI-Inhalte gleichwertig sind. Aber sie agieren im selben Medienökosystem – einem, in dem Humor zu einer primären Methode der politischen Kommunikation geworden ist.

Das Beunruhigendste an den aktuellen Ereignissen ist, was dies für unser Informationsumfeld bedeutet.

Wenn Propaganda nicht mehr von Satire zu unterscheiden ist und Satire Millionen von Aufrufen erzielt, während Nachrichten dies nicht tun, scheint die Grenze zwischen politischer Unterhaltung und politischer Überzeugungsarbeit zusammengebrochen zu sein. Und am stärksten betroffen sind diejenigen, die glauben, das Kriegsgeschehen überhaupt nicht zu verfolgen.”

Jetzt abonnieren

Überall Psy-Ops II: Geese

Es gibt eine kuriose Kontroverse in der US-Popkultur: Erklärt sich der große Erfolg der Rockband Geese durch geschickte Manipulation von Social-Media-Aufmerksamkeit? Das zumindest behauptet Wired, das den Geese-Siegeszug sogar als “Psy-Op“ bezeichnet.

Gewährsmann dafür ist einer der Mitgründer der Agentur “Chaotic Good“, die sich damit schmückt, „Trend-Simulation“ zu ihren Fähigkeiten zu zählen. Der gibt zu, dass man Geese dabei geholfen hat, über TikTok bekannt zu werden. Wired erklärt das Prinzip (übersetzt):

“Im Wesentlichen baut das Unternehmen Netzwerke aus Social-Media-Seiten (meist auf TikTok) auf und nutzt diese, um die Musik der Band in den Empfehlungsalgorithmus zu bringen. Songs werden im Hintergrund von Videos abgespielt. Live-Clips werden geteilt. Manchmal lassen sich aus dem Nichts gefälschte Accounts, Kommentare und ganze Interaktionsökosysteme erschaffen, die die Diskussion um einen Künstler anheizen – und in manchen Fällen sogar komplett künstlich erzeugen.“

“Wir haben es immer geahnt“, sagen einige – tatsächlich steht der Erfolg von Geese schon länger unter Verdacht, ein Marketingprodukt zu sein.

Allerdings gibt es auch große Kritik am Wired-Stück. Zum Beispiel hat man sich dort nicht zeigen lassen, wo und wie genau „Chaotic Good“ nachgeholfen hat. Hobby-Analysten identifizieren nur eine Handvoll erfolgloser Accounts im Zusammenhang einer Chaotic-Good-Kampagne für Geese. Auch der Firmen-Mitgründer rückt von seiner Darstellung ab.

Bei mir werden Erinnerungen an den Hype um Cambridge Analytica wach, und Ryan Broderick merkt an, dass es fast unmöglich ist, das PR-Versprechen von „Chaotic Good“ einzulösen und Hypes gezielt via TikTok so zu verstärken, dass relativ unbekannte Akteure quasi von alleine berühmt werden.

Mir scheinen hier zwei Weltbilder aufeinander zu treffen: Glaubt man dran, dass

a) wir alle zu blöd sind, geschicktes Marketing für eine mittelmäßige Rockband zu erkennen?
oder
b) wir alle zu blöd sind, geschicktes Marketing für eine windige Online-PR-Firma zu erkennen?

Unübersichtliche Zeiten.

Kurz erwähnt:

Entwicklungen aus den vergangenen 14 Tagen, die eigentlich eine ausführlichere Auseinandersetzung verdient hätten.

• Ein US-Soldat, der an den Planungen für die Entführung des venezolanischen Staatschefs Nicolás Maduro beteiligt war, wurde verhaftet, weil er 400.000 US-Dollar durch Polymarket auf Maduros Amtsende verdient hatte. Ihm drohen bis zu 60 Jahre Haft. (Polymarket et al. ist ja eines meiner Lieblingsthemen)

• Die Signale sind eindeutig: Die Zeiten von kostenloser oder unbegrenzter KI-Nutzung gehen nicht nur zu Ende, die KI-Firmen schränken die Tokennutzung von Privatkunden und -kundinnen massiv ein.

Links

Zynische Vernunft: Was das Palantir-”Manifest” mit Peter Sloterdijk zu tun hat.

Warum die Meinungen über KI so auseinander gehen. ($)

Digitale Medien: Die Grenze zwischen Beweis und Content verschwindet.

Warum Dein KI-Assistent plötzlich versucht, Dir etwas zu verkaufen. ($)

Modellentwicklung: Die KI-Leute lagen oft richtig.

4Chan und die seltsame Genese der “Reasoning”-Fähigkeiten von KI-Modellen.

Und wenn wir einfach mit dem Hyperscaling aufhören?

Google gründet Strike-Team für DeepMind, um bei KI-Codingfähigkeiten zu Claude Code aufzuschließen.

Anduril, Palantir, SpaceX und der neue Krieg. ($)

KI-Regulierung: Wo Dezentralisierung funktioniert - und wo nicht.

Höhere Bildung darf KI nicht als automatische Entwicklung wahrnehmen.

Chinas KI-Experimente in der Bildung.

Wohin entwickelt sich Microsoft? Ein Blick aus der Nachbarschaft.

Hat Dein Chef ein KI-Gehirn?

MAGA als Fan-Fiction.

Start-up pleite? Verkauft die Slack-Daten.

Warum ist KI-Text so schlecht?

Jenseits der vordigitalen Nostalgie.

Bis zur nächsten Ausgabe!

Johannes

Teilen

Gibt es etwas Schöneres, als seinen freien Montag damit zu verbringen, eines seiner Haustiere zur Zahn-OP zu begleiten und parallel diesen Newsletter zu schreiben? Vielleicht schon, aber das hier ist kein Wunschkonzert…

In dieser Ausgabe: Längere Notizen zu aktuellen KI-Entwicklungen, Überlegungen zur Frage, ob uns Charakterstudien in der KI-Debatte weiterbringen, und ein kurzer Blick auf politische Very-Online-Strategien in den USA und den Niedergang des textbasierten Social Media. Als Bonus: Zwei Buchempfehlungen. Aber zunächst:

Appetizer aus dem Tagesspiegel Background

Ein Großprojekt wirft Fragen auf Das BMDS will den Prototypen der “Deutschland-App” von Telekom und SAP programmieren lassen. Doch was soll die App überhaupt können? Und wie integriert sie sich in Fachverfahren? Und ist die eigentliche Ausschreibung damit schon gelaufen? Viola Heeger, Oliver Voß und Bastian Hosan berichten.

Wie weiter mit dem digitalen Welthandel? Ende März scheiterten die WTO-Verhandlungen zur Verlängerung des E-Commerce-Zollmoratoriums. In meinem Stück beschreibe ich, wie es dazu kam und wie es nun weitergeht.

Datenräume: Warum der Mittelstand noch zögert Datenräume sind das große Versprechen für Datenökonomie und Lieferketten-Transparenz. Der Mittelstand bleibt aber weiter skeptisch. Alexander Ketterer mit den Details.

Regeln für Rechenzentren weiter in der Schwebe Der Referentenentwurf zur Novelle des Energieeffizienzgesetzes ist da. Lisa Oder analysiert, was im Bereich Rechenzentren vorgesehen ist und wo sich BMWE und BMUKN noch uneins sind.

Europa ist nicht Delaware: Die neue Unternehmensform EU Inc. soll besonders Start-ups ermöglichen, sich sehr schnell im europäischen Binnenmarkt auszubreiten. In der Realität aber fehlt es an wichtigen Harmonisierungen. Mein Stück.

Teilen

KI-Entwicklung, KI-Hype, KI-Blase: Der Stand im Spannungsfeld

“Claude Mythos Preview” macht Schlagzeilen - ein Modell, das eine strukturelle Gefahr für die Cybersicherheit darstellen könnte. So zumindest die Botschaft von Anthropic. Ich habe im Background darüber geschrieben (€, ich werde dazu noch ein bisschen mehr am Donnerstag im Cybersecurity-Background vorlegen), deshalb will ich mich nur auf einen Punkt konzentrieren: Es ist nämlich natürlich derzeit unmöglich, zwischen firmengemachtem Prä-IPO-Hype und wirklichen Fähigkeiten des Modells zu unterscheiden.

Dawid Moczadło zum Beispiel betont, dass man eigentlich schon seit Dezember solche Fähigkeiten bei den Modellen feststellt und es letztlich schon jetzt eine Frage des Token-Investments sei, wie tief im Code man Fehler findet. Neu allerdings scheint die Kette von Handlungen, um entsprechende Exploits auch auszunutzen.

Ich denke, dass die Cybersicherheit unabhängig vom Hype-Faktor von den Debatten über Mythos als Tool profitieren kann. Denn damit kommt die Dringlichkeit von Investitionen und höheren Standards in Software und Software-Lieferketten vielleicht auch mal außerhalb der CISO-Szene an.

Mit “Claude Mythos Preview” stellt sich auch die Frage des Zugriffs: Wer (welche Organisationen oder Firmen aus welchen Ländern) darf ein solches Frontier-Modell nutzen? Die Strategie der KI-Firmen war schon lange, die eigentlichen Spitzenmodelle ihrer Labs erst einmal selbst zu nutzen, um die eigene KI weiterzuentwickeln. Nun scheinen wir an einem Punkt, an dem dieser Backend-Faktor durch fortgesetzte Automatisierung maßgeblich zu werden scheint.

Mit dem Schwenk zu Wirtschaftskunden erscheint es mir realistisch, dass wir auch die aktuell besten offiziell verfügbaren Modelle gar nicht mehr “öffentlich” im Einsatz sehen, sondern sie nur noch Teil der teuren Groß-Abos von Firmen und staatlichen Organisationen sein werden. Damit wiederum stellt sich aber erneut die Grundsatzfrage: Sollten wirklich Firmen über das Deployment entscheiden, oder handelt es sich nicht vielmehr um eine Regulierungsfrage?

Mit Blick auf die Zahlen konnte Anthropic einen annualisierten Umsatz von 30 Milliarden US-Dollar verkünden. Damit dürfte man in diesem Bereich an OpenAI vorbeiziehen, obwohl man vier Mal weniger ausgegeben hat. Hier eine Grafik dazu (Zahlen Ruben Dominguez, Grafik Noah Smith) :

Der Fokus auf agentische KI und Geschäftskunden hat sich also ausgezahlt, der Streit mit dem Pentagon dürfte in diesem Falle auch nicht geschadet haben.

Auf Modellebene geben OpenAI, Google und Anthropic bei den Frontier-Modellen den Takt vor. xAI ist zurückgefallen und hat darauf mit Personalveränderungen im Führungsteam reagiert (alle 11 Mitgründer außer Elon Musk haben die Firma inzwischen verlassen). Der französische Anbieter Mistral dürfte auch aus der Frontier-Riege herausgefallen sein.

Meta hat ein neues Modell veröffentlicht (“Muse Spark”), das erste seit der teuren Umstrukturierung seiner KI-Abteilung. Das Modell ist closed-weight/closed-source und in Sachen Benchmarks nicht auf der Frontier-Ebene. In China veröffentlichten Alibaba (Qwen) und Xiaomi (MiMo) zuletzt ihre neuen Modelle closed-source - dabei ist noch unklar, ob dies ein permanenter Strategiewechsel ist. Unterdessen scheint der Deepseek-Hype (auch wegen interner Querelen und Verzögerungen) abgeflaut, stattdessen macht das Kimi-Modell von Moonshot ähnliche Schlagzeilen. Insgesamt liegen die chinesischen Modelle Schätzungen zufolge mindestens sechs Monate hinter den US-Modellen.

Blase oder nicht? KI-Kritiker Ed Zitron hat eine lange Analyse vorgelegt, in der er noch einmal dezidiert die KI-Blase mit der Hypotheken-Blase 2008 vergleicht.

Seine Argumentation: Die KI-Branche basiert auf massiv subventionierten Preisen, die eine künstliche Nachfrage erzeugen und Startups ohne eigenes geistiges Eigentum in eine gefährliche Abhängigkeit von billiger Rechenleistung treiben. Diese Illusion wird durch ein komplexes Geflecht aus riskanten Schulden für Rechenzentren und Infrastruktur finanziert, das auf der fragwürdigen Annahme eines ewigen Wachstums beruht. Sobald die Anbieter gezwungen sind, kostendeckende Preise zu verlangen oder die Leistung drastisch zu drosseln, bricht dieses finanzielle Kartenhaus zusammen, da die Kunden die realen Kosten nicht rechtfertigen können.

Wie immer habe ich bei Ed Zitron das grundsätzliche Problem, dass er keine Gegenargumente anführt, die er nicht als Strohmann präparieren kann. Da wäre das Thema Compute: Caching, Modell-Auswahl im Backend je nach Komplexität, Komprimierungsalgorithmen wie Googles TurboQuant spielen keine Rolle. Alles wird nur immer mehr und immer teurer und ist ein Multimilliardengrab. Ja, es gibt eine gewisse Grenze für die “Effizienz” von Transformer-Modellen, aber Zitron tut so, als würden die KI-Firmen alle blind hochskalieren und daran gar nicht arbeiten.

Profitabilität ist natürlich angesichts dessen, dass sich die Technologie weiterentwickelt und Transformermodelle diese Verbesserung vor allem durch pure Rechenkraft erreichen, die Achillesferse. Hier gibt es aber Unterschiede zwischen OpenAI und Anthropic, wie diese Grafik aus dem Wall Street Journal zeigt:

Anthropic steht hier deutlich besser als OpenAI da, aber die Inferenzkosten steigen ja mit der Komplexität der Modellberechnungen und der Zahl der Kunden (entsprechend beschränkt man ja bereits Zugriffe). Deshalb sieht die Profitabilitätsprognose der beiden Firmen so aus:

Wir werden sehen, wie nahe solche Prä-IPO-Prognosen an der Realität sind. Mich erinnert das Ganze aber an Uber: Auch da war einerseits das luftige Versprechen, einen Billionen-Dollar-Markt zu bedienen, weil Menschen keine Autos mehr besitzen müssen. Dann kam die Skepsis, dass man ohne die VC-Subventionen für jede Fahrt kein wirklich profitables Geschäftsmodell aufbauen kann. Am Ende dauerte es nach dem Börsengang 2019 noch mehrere Jahre, bis man durch Kostenkürzungen und höhere Preise profitabel wurde. Aber natürlich ist die Problemstellung, ob man Fahrer und Fahrerinnen findet, die ihre privaten Autos verschleißen, um Privattaxi-Einnahmen zu generieren, eine andere als die Frage, ob man für Milliarden Großrechenzentren mit unsicheren Auslastungsprognosen und regelmäßiger Inventar-Erneuerung baut.

Prinzipiell ist Zitron schon auf der richtigen Fährte, der Ausbau ist in dieser Form eine Fehlallokation von Kapital. Zwei Prognosen sind definitiv realistisch: Firmen, die de facto nur Middleware/Wrapper für fremde Modelle anbieten, haben einen ganz schweren Stand. Und das Privatkredit-Geschäft rund um den Aufbau von Hochleistungsrechenzentren (vgl. Ausgabe #154) ist hochriskant und führt auch zu systemischen Risiken (siehe Ausgabe #146).

Eine neuere Entwicklung allerdings ist, dass derzeit viele der Projekte in Q1 verschoben oder auf “unklaren Zeithorizont” gesetzt werden. Das hat unter anderem damit zu tun, dass die Nachfrage Equipment teurer macht (mit Spillover-Effekten für alles, was RAM benötigt), zudem gibt es in den USA lokal wachsenden politischen Widerstand gegen KI-Rechenzentren. Hier eine Grafik von Bloomberg:

Eventuell werden viele der wackeligen Projekte gar nicht verwirklicht? Interessant dürfte hier auch die Zinsentwicklung im Zuge der Golfkrisen-Inflation werden.

Und noch eine weitere Grafik: Der riskante KI-Schwenk und die Folgen für die inner- und außerbilanzielle Schuldenlast vieler Tech-Konzerne werden an der Börse inzwischen eingepreist. Konkret: Am Kurs-Gewinn-Verhältnis gemessen sind Tech-Werte zurück auf dem Level von 2022. Eine Grafik von Apollo Global:

Bin ich naiv, bereits leichte Zeichen für eine Selbstkorrektur in einigen Bereichen zu sehen?

Jetzt abonnieren

Ist Sam Altman hinterhältig (und spielt das eine Rolle)?

Ich bin mit dem langen Sam-Altman-Porträt im New Yorker noch nicht fertig, habe aber auch nicht das Gefühl, dass ich es zu Ende lesen müsste. Denn ja, das ist ein sehr gutes journalistisches Psychogramm. Aber es bedient wieder die “Great Man of History”-Narrative, die die klassische Tech-Berichterstattung so prägen (und mich ermüden).

Das heißt nicht, dass ein solches Psychogramm wertlos ist und es sich nicht lohnt, nochmal zu recherchieren, welche Geschäftspraktiken Altman pflegt und wie vertrauenswürdig er ist. Aber die drängenden Fragen stellen sich für mich weniger entlang von Charakterfragen als entlang ökonomischer und politischer Strukturen, die Altmans Aufstieg und den KI-Boom ermöglicht haben. Und diese Analyse muss die Grundlage für Korrekturen sein. Mal abgesehen davon, dass sich auch regulatorisch gerade einige interessante Fragen stellen.

Aber die Diskussion ist eine andere: Wir reden über gut und böse, als wäre das ein Kinofilm. Statt einer Analyse von Machtstrukturen blicken wir auf Charakterfehler. Statt differenziert über KI als Technologie zu sprechen, reden wir über Superintelligenz und KI als Unterjochungstechnologie. Auch die Rhetorik von Altman selbst trägt dazu bei.

Am Freitag wurde ein 20-Jähriger verhaftet, der versucht hatte, mit einem Molotow-Cocktail Altmans Anwesen in Brand zu setzen. Das hat nichts mit dem Porträt im New Yorker zu tun. Wohl aber mit dem Diskurs, den wir führen.

Wahlkampf & Politik Online First

David Plouffe hat 2008 die Online-Wahlkampfstrategie Barack Obamas entwickelt (allerdings auch Kamala Harris im Wahlkampf 2024 beraten). In der New York Times formuliert er Vorschläge für einen zeitgemäßen Wahlkampf: Kampagnen müssten de facto ein “Production Studio” sein und so viel Content wie möglich liefern. Termine und Auftritte? Nur nach dem Wert für die digitale Content-Strategie auswählen. Wahlkampfspots? Keine polierten Marketing-Videos, sondern ungeskriptete Geschichten von echten Bürgerinnen und Bürgern.

Wir sind in den USA schon mittendrin und hier auf dem Weg in eine Very-Online-Welt, die auf den Logiken der Neo-Oralität (siehe Ausgabe #155) fußt - Authentizität, Emotionalität und vor allem Code-Sprech. Der New Yorker hat in einer langen Reportage nachgezeichnet, wie es in diesem Koordinatensystem der neuen Online-Rechten gelang, die republikanische Partei zu übernehmen. Ich empfehle die Lektüre auch, damit sich niemand wundert, wenn die republikanischen Präsidentschaftsbewerber sich 2028 darin überbieten, der authentischste Neonazi zu sein.

Text-Social-Media im fortgesetzten Niedergang

Apropos Neonazis: Nate Silver hat noch einmal den Twitter-Niedergang nachvollzogen (der längst vor X begann) und auch die erfolgreichsten Accounts bei X.com getrackt. Das Ergebnis in dieser Grafik:

Trolle und extremrechte Influencer dominieren das Bild. Besser also zu Bluesky gehen? Nicht ganz: James Ball argumentiert, dass Bluesky gerade in sich zusammenfällt. Er macht das an der Zahl von Accounts, die Content liken, fest:

Wenn wir realistisch sind: Bluesky hatte zwar Anschlussfähigkeit im Mainstream, aber zu einer Zeit, als textbasiertes Social Media schon seine besten Zeiten hinter sich hatte. Als Nische in der Nische wurde es schnell zu einem progressiven Refugium und hat damit einige der Eigenschaften übernommen, die Twitter Mitte der 2010er-Jahre dominierten und die ich mal als “Schulhof-Kultur” bezeichnen würde (Rechthaberei, wer hat etwas gesagt ist wichtiger als das, was die Person gesagt hat, etc.). Und der fehlende Algorithmus macht den Einstieg auch nicht besonders leicht, da wir (anders als beim Pre-Algo-Twitter) ziemlich schnell das Interesse verlieren, wenn wir nicht etwas Aufregendes sehen.

Kurz: Das öffentliche, textbasierte Social Media ist weiter auf dem absteigenden Ast. Für Freaks gibt es die Möglichkeit, zu bloggen, aber insgesamt verschiebt sich das Ganze dann doch eher in die privaten Kanäle.

Zwei Bücher

Anna-Verena Nosthoffs “Kybernetik und Kritik - eine Theorie digitaler Regierungskunst” liegt bei mir auf dem Lesetisch. Ich ahne zwar schon, dass ich das Buch angesichts seines Umfangs nicht vollständig schaffen werde, aber die Passagen, die ich gelesen habe, sind äußerst vielversprechend.

Letztlich hat Nosthoff, so mein Eindruck, ein Standardwerk geschrieben, das Kybernetik quasi als Luft, die uns umgibt, sichtbar machen möchte und dabei auch die Genese der Kybernetik als Versuch eines lenkenden Systems nacherzählt. Damit ist es ein hochpolitisches Buch.

Ben Rechts Werk “The Irrational Decision: How We Gave Computers the Power to Choose for Us” wird von Menschen, die ich sehr schätze (Henry Farrell, Dan Davies), als Meilenstein gewürdigt. Recht erzählt - ähnlich wie Nosthoff - eine Geschichte des Denkens entlang maschinenbasierter Entscheidungen, das allerdings auch eine Geschichte des “rationalen Vertrauens in das Messbare” ist. Dan Davies beschreibt den Kern von Rechts These so (übersetzt und gefettet):

“Wie er (in Anlehnung an Paul Meehl) sagt, wird die algorithmische Entscheidungsfindung immer die Fakten auf ihrer Seite haben. Denn sobald man das Problem in messbare Größen gefasst und eine konkrete Erfolgskennzahl definiert hat – sobald es also einen Maßstab gibt, anhand dessen die Ergebnisse beurteilt werden können –, bedeutet „Optimierung“ genau das, was das Wort sagt. Alles, was man anders macht als das Ergebnis eines Optimierers, ist … suboptimal.”

Das klingt sehr vielversprechend und die Leseprobe liest sich schon einmal weniger geekig, als das Thema klingt.

Links

Entwicklern ethische Maßstäbe an die Hand zu geben ist nicht genug für das KI-Zeitalter.

Es ist was faul bei OpenAI. ($)

Warum kauft OpenAI einen Podcast?

Ziellose KI-Exportstrategie der USA

Warum Alphaville das Bitcoin-Rätsel nicht lösen möchte.

Offene Software-Stellen… gehen hoch?

Deutschland, eine Kupfer-Geschichte.

Google News zeigt jetzt Polymarket-Wetten an.

Warum es uns die Vorstellung tröstet, in einer Simulation zu leben.

Wie sich die britische Politik in KI verliebte.

KI in der Bildung: Das chinesische Experiment.

Einblick in die Scraping-Branche.

Chinas KI-Unterhaltungsbranche skaliert.

Ezra Klein: Wie KI uns jetzt schon verändert hat. ($)

Die amerikanische Öffentlichkeit wird KI-skeptischer. ($)

Wie Frankreich gegen Desinformationskampagnen vorgeht. (€)

Die Geister, die es rief: Die US-Regierung hat Probleme, ausländische Desinformationskampagnen zu stoppen. ($)

Clipping wird künftig ein Job für die KI.

Wider den KI-Rationalismus.

KI-FOMO ist real. ($)

RIP, Sora, Du Lösung ohne Problem.

Wir haben Technologie zu einfach benutzbar gemacht.

Browsing, nicht Discovery.

Was ist ein Cyberdeck?

Der verschwundene Donkey-Kong-Checkpoint.

Bis zur nächsten Ausgabe!

Johannes

Erst einmal vielen Dank an alle, die sich für den Leseclub gemeldet haben! Ein Update dazu gibt es demnächst per E-Mail an alle, die sich eingetragen haben.

Diese Ausgabe hat keine Großthemen, sondern versucht, ein paar Entwicklungen und Themen aus den vergangenen Wochen aufzugreifen. Weiter unten findet Ihr auch, was keinen Platz gefunden hat (worüber aber andere sehr gut geschrieben haben). Viel Spaß bei der Lektüre!

Appetizer aus dem Tagesspiegel Background

• Was steht im Gesetz zur Umsetzung der EUDI-Wallet?

• Die 20 Souveränitätskriterien des ZENDIS.

• KI-Flut und die Folgen für Open Source.

• Referentenentwurf zum Gesetz gegen “digitale Gewalt”.

• Wie KI den Arbeitsmarkt für Einsteiger verändert.

• Was der IT-Planungsrat beschlossen hat.

• Das steht in der Rechenzentrumsstrategie.

• AI Act und Kennzeichnungspflicht.

Was bleibt von Anthropic vs. Hegseth & Kriegs-KI?

Eine US-Bundesrichterin in San Francisco hat am vergangenen Donnerstag die Einstufung von Anthropic als Lieferkettenrisiko durch das Pentagon vorläufig gestoppt - und zwar mit klaren Worten: „Nichts in dem maßgeblichen Gesetz stützt die orwell’sche Vorstellung, dass ein amerikanisches Unternehmen als potenzieller Gegner und Saboteur der USA gebrandmarkt werden könnte, nur weil es seine Meinungsverschiedenheit mit der Regierung zum Ausdruck bringt.”

Damit ist der Streit weder zu Ende, noch sind alle Fragen geklärt. Das Pentagon will KI-Systeme weiterhin ohne in den Nutzungsbedingungen vorgegebene Restriktionen benutzen (sondern “for all lawful purposes”). Das könnte zum Beispiel für Massenüberwachung der US-Bevölkerung und den Einsatz autonomer Waffen sein, was Anthropic wiederum ablehnt (die Massenüberwachung von Ausländern dagegen scheint kein Tabu zu sein).

Wie immer spielen die Politisierung und der Wunsch nach Gleichschaltung im Hintergrund eine Rolle. Übersetztes Zitat aus dem New Yorker:

“Katie Miller, die Ehefrau von Stephen Miller, dem obersten Berater von Präsident Donald Trump, und ehemalige Mitarbeiterin von Elon Musk, hat kürzlich einige der bekanntesten Chatbots einem Loyalitätstest unterzogen. „Hatte Donald Trump Recht, den Iran anzugreifen?“, fragte sie. Grok, so erklärte sie, habe mit „Ja“ geantwortet. Claude begann: „Dies ist eine wirklich umstrittene politische und geopolitische Frage, bei der vernünftige Menschen unterschiedlicher Meinung sind“, und erklärte, es sei „nicht meine Aufgabe“, Partei zu ergreifen. Die Regierung scheint zu dem Schluss gekommen zu sein, dass sie keinen Platz für eine KI habe, die keine Partei ergreift.”

Das Narrativ “böse, rücksichtslose US-Regierung vs. das einzig (halbwegs) ethische KI-Unternehmen der USA” verdeckt dabei allerdings relevante strukturelle Fragen zur AI Governance. Denn ohne klare Grenzen, die sich aus den Gesetzen ergeben, entsteht ein Governance-Vakuum, das wiederum mit Unternehmenspolitik gefüllt wird. Was eigentlich auch nicht Sinn der Sache sein kann.

Brianna Rosen, Executive Director vom Oxford Programme for Cyber and Technology Policy, formuliert es so (übersetzt und gefettet):

“Der Streit zwischen dem Pentagon und Anthropic offenbart seit langem bestehende Lücken in den Regelwerken zur Integration von KI in militärische und nachrichtendienstliche Operationen – Lücken, die bereits vor dieser Regierung bestanden und die über die aktuelle Kontroverse hinaus bestehen werden. In Ermangelung klarer institutioneller Rahmenbedingungen haben private Unternehmen wie Anthropic versucht, durch Nutzungsrichtlinien, die festlegen, wie ihre Modelle eingesetzt werden dürfen, Grenzen zu setzen. Der Streit unterstreicht die Mängel dieses Ansatzes. Vertragliche Mechanismen sind kein Ersatz für Governance-Rahmenbedingungen, die mit den operativen Realitäten der KI-gestützten Kriegsführung Schritt halten können.”

Das Pentagon nutzt indes auch die Marktdynamiken, also die Konkurrenz zwischen den Anbietern aus: Die Klausel “all lawful purposes” war für OpenAI zum Beispiel genug. Sie wiederum ist auch kein wirksamer Schutz, interpretiert die Trump-Regierung doch die Gesetze in der Regel viel zu breit und ignoriert das Völkerrecht. Die Illegalität dieser Anwendung ist aber bei Systemen, die der Geheimhaltung unterliegen, institutionell kaum möglich. Es braucht also eigentlich ganz klare Governance, idealerweise international abgestimmt. Aber danach sieht es im Moment natürlich überhaupt nicht aus.

Ein weiterer Punkt hat eher mit der Haltung des Trumpismus zur Wirtschaftsfreiheit zu tun: Denn die gilt, das signalisiert das harte Vorgehen gegen Anthropic, eben nur für Firmen, die “auf Linie” sind (oder ein gutes Verhältnis zu Trump pflegen). Damit zeigt sich einmal mehr: Die radikale politische Rechte tut, einmal an der Macht, in der Regel das Gegenteil von dem, was sie verspricht. Das ausgerufene Primat der Wirtschaft entpuppt sich in der Realität als Primat der Trump-Clique, Gunst und Ungnade nach Belieben zu verteilen.

Aber sind das überhaupt die richtigen Debatten zu diesem Zeitpunkt? Kevin Baker argumentiert, dass nach Beginn des amerikanisch-israelischen Iran-Kriegs sofort diskutiert wurde, ob Claude in irgendeiner Form beteiligt war - besonders im Hinblick auf den tödlichen Bombenangriff auf eine iranische Mädchenschule mit 175 Getöteten. Baker verweist darauf, dass das US-Militär längst das ehemalige Google-Projekt Maven in seine Zielfindung integriert hat, das inzwischen von Palantir betrieben wird. Der KI-Hype verdeckt so die eigentlich relevanten Fragen - teilweise inklusive des Völkerrechtsbruchs durch die USA und Israel.

Effekte zweiter Ordnung? Die Urteile gegen Meta und Alphabet

Ein Geschworenengericht in New Mexiko gibt einer staatlichen Klage recht, eines in Kalifornien der Schadenersatzklage einer Betroffenen: Metas (und im kalifornischen Falle) YouTubes Social-Media-Systeme sind fehlerhaft designt.

Die Kläger argumentierten dabei explizit nicht mit Inhalten, sondern mit dem Design der Software (Endless Scroll, algorithmische Optimierung auf Verweildauer), um Section 230 zu umgehen.

Geschworenengerichte sind durchaus einer Art Zeitgeist unterworfen, und dieser Zeitgeist sagt: Etwas läuft falsch, wir hängen an den Plattformen und das kann schädlich sein. Dass die Klägerin Probleme mit ihren Eltern hatte, von ihrer Mutter “fett” genannt und regelmäßig gewogen wurde - schon bevor sie Social Media - nutzte, dass sie gegenüber Therapeuten Social Media nicht als Problem nannte (nach eigener Aussage, weil sie Angst hatte, dass sie es dann hätte aufgeben müssen), das alles spielte eine untergeordnete Rolle.

Trotzdem wird das Urteil wohlwollend aufgenommen, nicht zuletzt in Europa. Aber ist es wirklich durchweg positiv für Regulierungsanhänger? Ein Blick auf den Fall in New Mexico zeigt, dass die möglichen Lösungen durchaus problematisch sind.

Im Mai will die Generalstaatsanwaltschaft dort erwirken, dass ein Richter konkrete Maßnahmen anordnet: Eine wirksame Alterskontrolle, einen Sperrmechanismus für Akteure, die junge Menschen aus sexuellen Gründen nachstellen, sowie eine Deaktivierung verschlüsselter Kommunikation bei Minderjährigen, die mögliche Täter schützt. Altersverifikation und Abschwächung der Verschlüsselung (Meta hat ohnehin angekündigt, dass Privatnachrichten bei Instagram in den USA künftig nicht mehr verschlüsselt werden) sind keine harmlosen Lösungen für ein großes Problem, sondern haben Auswirkungen auf die Grundrechte.

In den kommenden Wochen wird klarer, in welche Richtung sich das Ganze entwickelt und ob es sich wirklich um Präzedenzurteile handelt. Der Trend scheint derzeit klar, aber gerade das Thema Altersverifikation bietet ein Einfallstor für staatliche Identifizierungsmöglichkeiten, die hochproblematisch sind.

Um den Bogen zum strafrechtlichen Teil des Digitalen Gewaltschutzgesetzes, der als Referentenentwurf bereits kursiert: Auch dort wird versucht, das reale Problem Deepfakes zu adressieren, gerade im Bereich unerwünschter Nackt-Deepfakes. Aber womöglich ist man in einem anderen Bereich wieder einmal zu schnell mit dem Strafrecht zur Hand. Zitat aus dem Tagesspiegel Background:

Der neue Paragraf § 201b StGB erfasst nicht-sexualisierte Deepfakes, die das Ansehen einer Person schädigen können. Strafbar (bis zu zwei Jahre Freiheitsstrafe oder Geldstrafe) macht sich, wer:

• mittels Computer einen Inhalt erstellt, der den „Anschein eines tatsächlichen Geschehens weckt“ (Deepfake-Tatbestand),

• diesen Inhalt anderen unerlaubt zugänglich macht (Verbreitung),

• und der Inhalt das Potenzial hat, das Ansehen der vermeintlich abgebildeten Person erheblich zu schädigen.

Erfasst werden hier neben Bildern und Videosequenzen auch Stimm-Klone.

Und schon sind wir wieder drin in möglichen Kollateralschäden rund um Kunst-, Wissenschafts- und auch Meinungsfreiheit. Ich bin tatsächlich sehr gespannt, wo man am Ende gesetzlich die Grenze ziehen wird. Es ist eben nicht immer einfach, “Effekte zweiter Ordnung” bestmöglich einzugrenzen.

KI und das Geister-BIP (und Wildberger & Bezos)

Paul Kedrosky ist bekanntlich ein Skeptiker des KI-Booms und unter anderem dafür verantwortlich, dass wir seit Sommer vergangenen Jahres über Blasenbildung und systemische Risiken für das Finanzsystem diskutieren (vgl. Ausgabe #146).

Kedrosky war auch einer der Ersten, der auf den hohen Anteil von Investitionen in KI-Rechenzentren am amerikanischen Wirtschaftswachstum hinwies. Nun führt er ein neues Konzept in den Mainstream ein: Die Geister-Ökonomie, in der KI-generiertes Wirtschaftswachstum das Bruttoinlandsprodukt steigert, während der Konsum wegen (durch KI-Verdrängung) fallender Einkommen sinkt.

Kedrosky verweist dabei auf dieses Paper des TikTok-Forschungsmitarbeiters Xupeng Chen, der von “Geister-BIP” schreibt und das einmal durchdekliniert: Wenn die Gesamtproduktion stabil bleibt, aber die Nachfrage wegen des Niedergangs menschlicher kognitiver Arbeit und der entsprechenden Einkommen sinkt, führt das zu Verzerrungen - der gestiegene Wohlstand ist kein allgemeiner, sondern wird auf das Kapital- und KI-Einkommen verteilt, während die arbeitstätige Bevölkerung davon nichts erhält und ein entsprechender Nachfragemangel eintritt (der zu weiterer Automatisierung der Wirtschaft führt).

Xupeng Chen schlägt als Lösung mehrere Maßnahmen vor (sie stammen nicht von ihm, er bündelt sie):

• Eine Steuer auf KI-Inferenz-Computing, ähnlich einer CO2-Steuer, um die Produktivitätsgewinne an die Gesellschaft zurückzuführen.

• Eine erweiterte Arbeitslosenversicherung für strukturell durch KI verdrängte Arbeitnehmende.

• Die Einrichtung eines KI-Dividendenfonds, der Erträge aus KI-Infrastruktur bündelt und direkt an Haushalte ausschüttet, um das Einkommen der ehemals arbeitenden Bevölkerung zu stabilisieren. Quasi ein bedingungsloses Grundeinkommen (BGE).

• Maßnahmen am Arbeitsmarkt wie Weiterbildungen.

In Richtung einer Maschinendividende lässt sich ja die wohlwollende Aussage von Digitalminister Karsten Wildberger zum BGE weiterdenken. Und auf der anderen Seite sehen wir im neuen 100-Milliarden-Dollar-Fonds von Jeff Bezos zur Vollautomatisierung von Produktionsprozessen (“Manufacturing Transformation Vehicle”), dass einige Akteure “all in” Richtung eines neuen Betriebssystems für die Wirtschaft gehen.

Wie könnte eine KI-Infrastruktur für angewandte Forschung aussehen?

Chris Walker hat jüngst ein sehr interessantes Essay zum Thema KI und Forschung veröffentlicht. Sein gut begründetes Argument: KI kann in der Wissenschaft bei deduktiven und induktiven Aufgaben sehr hilfreich sein, vor allem bekannte, datenreiche Fragestellungen beschleunigen; die interessantesten und bahnbrechendsten Ergebnisse kommen aber von Beobachtungen, die noch nicht im bestehenden Corpus zu finden sind, sondern in neuen, datenarmen Gebieten auftauchen und sich aus der Nachverfolgung von Anomalien ableiten. Er formuliert es so: “Die Anomalie, die der Praktiker findet, wird zur Forschungsfrage des Theoretikers, und die überarbeitete Theorie fließt zurück in Form besserer Technik.”

Dafür aber braucht es auch beim Einsatz von KI eine Struktur der intensiven Zusammenarbeit zwischen Industrielaboren, Universitäten und nationalen Forschungseinrichtungen. Und genau das fehlt im Moment. Entsprechend hält er den gegenwärtigen wissenschaftlichen Einsatz von KI für weniger vielversprechend, als es den Anschein hat (er belegt das auch mit Beispielen).

Was er fordert, ist auch für Deutschland relevant, wenn wir wirklich KI in die breite wissenschaftliche Anwendung bringen wollen, die Technologie- und Forschungsdurchbrüche ermöglicht. Konkret hält Walker die folgenden Strukturen für notwendig:

• Offene, standardisierte Dateninfrastruktur mit sicherem Datenaustausch (z. B. für föderiertes Lernen).

• Anreize für Zusammenarbeit und Wissensaustausch zwischen Forschern und Praktikern.

• Förderprogramme und Anerkennung für interdisziplinäre, überraschende Ergebnisse.

• KI-Systeme, die Anomalien erkennen und interpretieren können.

• Institutionen für iterative, persönliche Kommunikation und experimentelle Praxis.

Das ist etwas völlig anderes als die Idee, einfach KI in ein Forschungsfeld zu geben, Geld reinzupumpen und zu hoffen, dass irgendwie etwas Fortschrittliches herauskommt. Es wäre eine neue, vernetzte Infrastruktur.

Gerade das Anreizen von Zusammenarbeit und Datenteilung ist - wir erinnern uns an die meist enttäuschten Hoffnungen, Privatakteure bei Industriedaten zur Zusammenarbeit zu bringen - keine einfache Aufgabe. Aber ich bin überzeugt, dass eine Infrastruktur für solche Feedback-Schleifen ein echter Wettbewerbsvorteil wäre.

USA: KI verliert an Zustimmung

Der Ausbau der amerikanischen KI-Kapazitäten führt zu immer stärkerem Widerstand. Der FT-Reporter Joe Miller war beispielsweise in Independence, Missouri, wo Pläne für ein KI-Rechenzentrum (6,6 Milliarden US-Dollar Investitionsvolumen) eine überparteiliche Gegenbewegung mobilisiert hat - es gibt Sorgen um die Wasserqualität und über die Folgen der Technologie generell. Und zwar parteiübergreifend: Ungefähr 60 Prozent der Trump-Wähler sagen, dass sich KI zu schnell entwickelt und 80 Prozent fordern mehr Regulierung.

Robert Wright hat in seinem Nonzero-Newsletter eine YouGov-Umfrage zum Stichwort “Wer hat zu viel Einfluss auf die amerikanische Politik” visualisiert. Und das Ergebnis hat mich überrascht:

Prediction Markets / Online-Wetten: Die wichtigsten Entwicklungen

Das Thema Prediction Markets verfolge ich bekanntermaßen mit sehr großem Interesse. Deshalb hier die wichtigsten Entwicklungen und Texte dazu aus den vergangenen Wochen.

• Es gab verdächtige Wetten kurz vor dem Erstschlag gegen den Iran. (New Yorker)

• Nach öffentlicher Kritik: Polymarket schaltet Atombomben-Wette ab. (Coindesk)

• Ein Richter in Nevada hat Kalshi vorübergehend verboten. (Wired)

• Arizona ermittelt gegen Kalshi wegen illegaler Wettangebote. (Bloomberg)

• Drohungen gegen einen Journalisten wegen geplatzter Kriegswetten (vgl. Drohungen gegen Sportler und Sportlerinnen wegen geplatzter Sportwetten)

• Kalshi und Polymarket planen Verbote von Insiderwetten für Sportler und Politiker. (Axios, Bloomberg)

• Kalifornien verbietet staatlichen Offiziellen Wetten auf Polymarket und Co. (Bloomberg)

• Gesetzentwurf aus dem US-Senat sieht vor, dass Wetten in Prediction Markets nicht auf Sportereignisse abgeschlossen werden dürfen. (The Information)

• Kalshi und Polymarket versuchen, über Influencerinnen mehr weibliche Kunden zu akquirieren. (Independent)

• Der Newsfeed von Polymarket ist voller Fehler und irreführender Behauptungen. (New York Times)

• Die Gründer von Kalshi und Polymarket investieren in einen neuen Prediction-Markets-Risikokapitalfonds. (Bloomberg)

• Es gibt Berichte über Insider-Trading zu (voraufgezeichneten) Reality-Shows. (New York Times)

Weitere lesenswerte Texte zum Thema:

Prediction Markets und das System von Fehlanreizen.

Das Casino, das die Welt verschlingt.

Warum die Signale aus Vorhersagemärkten oft falsch sind.

Was nicht mehr in diesen Newsletter passt

• Kognitive Kriegsführung mittels Memes und KI am Beispiel Iran-Krieg (siehe Marcus Bösch, John Herrman).

• KI-Deepfakes im Kontext Iran-Krieg.

• Neal Stephenson hat einen Nachruf auf das Metaverse geschrieben.

• Die TikTok-Strategie von Viktor Orbán, inklusive Italian brainrot, wäre eine eigene Analyse wert.

• Es gibt die wachsende Hoffnung, dass KI objektiv genug ist, Social Media sinnvoll abzulösen (Financial Times, Noah Smith).

• OpenAI bastelt an seinem Geschäftsmodell herum, aber hat es wirklich eines?

• Warum es nicht das iPhone alleine war, das die Mitarbeitenden am Bankschalter ersetzt hat (It’s the economy, stupid!).

• Google hat eine neue Form von dynamischer Webseite patentieren lassen (die sich vor die klassische Website legt). Und verwendet jetzt KI, um Überschriften in der Websuche zu verändern.

• Marc Andreessen von A16Z hält Introspektion für Zeitverschwendung. Eigentlich gut, dass ich nicht über dieses Stöckchen springe.

Jetzt abonnieren

1 Zitat

“I’ve treated influencers who have hormonal issues and fractures triggered by doing multiple ultramarathon races within the first year of taking up the sport for content.”

Die Sport-Ernährungsberaterin Renee McGregor. (Aus: Dazed Digital - Why is everyone hating on runfluencers now?)

1 Video

Offenbar sind “Old School Cartoon Chases” gerade ein TikTok-Trend. Befürworte ich!

@northvalleygrpScooby and Shaggy taught us everything we know #cartoons #millennial #siblings

Tiktok failed to load.

Enable 3rd party cookies or use another browser

Links

Gemischte Zwischenbilanz des australischen Social-Media-Verbots für Jugendliche. ($)

OpenAI und das Ende von Sora: Kein Plan.

Looksmaxxing, die ultimative Analyse. ($)

Hollywood im Todesloop des Streamings.

Virale Kindersoldaten im sudanesischen Bürgerkrieg.

Wie viel Produktivitätswachstum wollen wir?

KI-Nutzung und der “Brain Fry”. ($)

KI-Nutzung und “Claude Blue”.

KI trainieren, damit der eigene Job wegfällt.

Die Zukunft ist hier.

Paul Ford: Coding after Coders. ($)

KI verstärkt die kognitiven und logischen Grenzen, die Entwickler haben.

US-Regierung veröffentlicht KI-Policy-Vorlage.

Das Argument vom “stochastischen Papagei” stimmt nicht mehr.

Internet-Mobbing: Wer steckt hinter dem Troll-Kollektiv “NWO”? (€)

Die dreckige Welt der KI-Rechenzentren. ($)

Warum Rechenzentren im Orbit Quatsch sind.

Wir müssen anders über KI-Alphabetisierung sprechen.

Wohin führt uns digitale Spiritualität?

Wird AGI wirklich die “letzte Erfindung”?

Das Problem unstrukturierter Multi-Agenten-Systeme.

AI schreibt Geschichten. Buchverlage sind überfordert. ($)

Kybernetik und Kapitalismus

OpenClaw-Hype in China und die Geschäftemacherei dahinter.

Westliche KI-Modelle erkennen Flora und Fauna im globalen Süden nicht.

Wie Wired wieder relevant wurde. ($)

Woher kommt der ganze Frucht-Slop? ($)

Bis zur nächsten Ausgabe!

Johannes

In dieser Woche folgende Themen:

• Worldbuilding - wie die Epstein-Akten und KI das Abdriften in alternative Realitäten begünstigen. Und was das mit der Konstruktion von “Wahrheit” zu tun hat.

• Bezos kürzt die Washington Post zusammen - wie das Milliardärsproblem das Nachfrageproblem überdeckt.

• Die interessantesten Lesestücke aus dem KI-Diskurs.

• Plus: Notizen zu Metas Gesichtserkennung, Informationsmanipulation und Maxxing als Very-Online-Kulturtechnik

Viel Spaß beim Lesen! Aber erst einmal:

Appetizer aus dem Tagesspiegel Background

• Post-Quanten-Kryptographie: Das Thema Verschlüsselung im Quantenzeitalter hört sich weiterhin nach Science-Fiction an, ist aber de facto schon längst ein realer Arbeitsprozess für 2030/2035. Benjamin Stiebel erklärt, was es mit der Umstellung in Richtung “Quantum-ready” auf sich hat und warum das so kompliziert ist.

• Der Traum vom “Marktplatz für alle”: Beschaffung muss schneller gehen, deshalb ist gerade ein Vergabeportal für alle Ebenen in Planung. Naja, eigentlich plant das BMDS den “Marktplatz Deutschland”, an den dann auch der (konsolidierte) “Marktplatz Deutschland digital” der FITKO und weitere Vergabe-Portale angeschlossen werden können. Kompliziert? Benjamin Hillbricht erklärt in seinen Analysen, wie das alles miteinander zusammenhängt und was entwickelt werden muss.

• Biocomputing und KI: Eines dieser eher abseitigen Themenfelder, die bei uns im Background ebenfalls Platz haben: Ekaterina Venkina über den aktuellen Stand beim Biocomputing und Überlegungen zu Bioprozessoren für die KI-Entwicklung.

• Altersbeschränkungen für Social Media: Die Diskussion über “Kein-Social-Media-unter-16” geht weiter. Friederike Moraht und Eduard Müller haben aufgeschrieben, wie andere EU-Länder damit umgehen.

• Open Claw und Cybersecurity-Fragen: Ich hatte es ja in der vergangenen Ausgabe angedeutet - vernetzte KI-Agenten werfen neue IT-Sicherheitsfragen auf. Welche das sind und wo Lösungen ansetzen müssten, habe ich mir von Menschen erklären lassen, die sich damit auskennen.

Worldbuilding mit den Epstein-Akten

Worldbuilding als Konzept kommt hier immer wieder mal vor: Der Begriff beschreibt den Prozess, in dem Autoren und Designer eine imaginäre Welt oder Umgebung erschaffen. Um Terry Nguyễns Verbindung zu digitalem Content zu ziehen (übersetzt aus einer Newsletter-Ausgabe von 2022):

”Die Mechanismen des Worldbuildings sind jetzt für alle Arten von Inhaltsproduzenten relevant - Werbetreibende, Start-ups, Verbrauchermarken und sogar Einzelpersonen (die eigentlich Marken sind) -, die in einer überfüllten Inhaltslandschaft um die Aufmerksamkeit des Publikums konkurrieren, und zwar mit einer Taktik, die darauf abzielt, das Publikum durch eine breitere Erzählwelt in das Produkt oder die Figur (die im Grunde ein Produkt ist) einzutauchen.”

Worldbuilding, das klingt ein bisschen nach Markenwelt. Aber in der digital vernetzten Globalkultur ist der Mechanismus Teil unseres Versuchs, einen Fuß auf den Boden der Realität zu bekommen.

Auf den (nicht-existenten) Boden der Hyperrealität, um genau zu sein: Hyperrealität ist jener Zustand nach Jean Baudrillard, in dem die Grenzen zwischen Realität und Simulation verschwimmen, sodass es schwierig oder unmöglich wird, zwischen der tatsächlichen Wirklichkeit und ihrer Darstellung zu unterscheiden. Relevant dabei ist, dass es anders als zu Gatekeeper-Zeiten so viele Angebote der Realitätsinterpretation gibt, dass wir schlicht nach eigenem Geschmack wählen können.

Ich muss seit der Veröffentlichung der neuen Epstein-Akten häufiger an diesen Zusammenhang denken. Die Epstein-Akten, wir erinnern uns, waren für den Trumpismus zunächst eine Art Fortsetzung der QAnon-Verschwörung: Die Projektion des liberalen Establishments, dem alles inklusive Menschenhandel zuzutrauen ist. QAnon galt ja bereits als eine Spielart des Worldbuildings, die ständige Suche nach Indizien für eine globale Verschwörung erinnerte viele Beobachter an LARPing (Live Action Role Playing). Eine Schnitzeljagd, deren Ziel es vor allem war, die eigene Theorie und damit die eigene Identität zu bestätigen.

Der neue Epstein-Moment erscheint mir nun wie die Grundsteinlegung für ein neues Worldbuilding, aber auf Seite der Progressiven (die Reaktionären haben plötzlich weniger Interesse, weil die neuen Akten nicht ins Weltbild passen). Denn der Datendump bestätigt nicht nur die Korruptheit der Eliten, sondern dient auch als vereinheitlichende Theorie der Trump-Ära: Schon länger kursierte die Vorstellung, dass Trump ein Epstein-”Klient” ist (befeuert wird das durch die Intransparenz der US-Regierung bei den Akten). Der neue Aktenberg differenziert diese Welt aus: Er wird als Indiz interpretiert, dass Epstein als russischen Spion Material über Prominente inklusive Trump sammelte - schon in der ersten Trump-Amtszeit spielte Russland (“Russiagate”) eine zentrale Rolle in progressiven Verschwörungstheorien.

In einer noch umfassenderen Theorie gilt Epstein sogar als eine Art Mastermind hinter dem globalen Siegeszug der Reaktionären, weil er kurz vor der Rückkehr von 4Chan mit dem Gründer in Kontakt war und mit Steve Bannon über den Umsturz der gegenwärtigen Ordnung philosophierte (bei genauerer Betrachtung handelt es sich wohl eher um zwei Typen, die voreinander prahlen).

Ich will QAnon und Epstein II nicht qualitativ gleichsetzen - doch es macht am Ende einen Unterschied, ob etwas “wahrer sein könnte” oder “wahr ist”. Und ich sehe gerade eine Menge Menschen online den Verstand verlieren und eine Welt aufbauen, die sprichwörtlich im berühmten “Rabbit Hole” liegt.

Worldbuilding im KI-Zeitalter

Es macht einen Unterschied, ob etwas “wahrer sein könnte” oder “wahr ist”. Aber gilt diese Feststellung noch? Die geschätzte Katherine Dee erinnert in ihrem Newsletter nicht nur noch einmal daran, dass Worldbuilding (auch wenn sie es nicht so nennt) eine Reaktion auf die Flut von Informationen ist, mit denen wir jeden Tag konfrontiert sind. Sie erweitert das Ganze auf kluge Weise um das Thema Künstliche Intelligenz.

Am besten illustriert dies ein TikTok-Video, in dem ein Creator in einen KI-generierten Marianengraben ohne Wasser hinabsteigt. Offensichtlich gibt es einen Trend, sich die Tiefe der Schlucht ohne Wasser vorstellen zu wollen.

@gerry17810“Imagina que el océano desaparece de pronto… y deja al descubierto una herida gigantesca en la corteza terrestre. Así se vería la Fosa de las Marianas sin agua: un abismo inmenso, en forma de media luna, extendiéndose por más de dos mil quinientos kilómetros.” #documentary #vlog #nature #gopro #mexico

Tiktok failed to load.

Enable 3rd party cookies or use another browser

Einige andere TikTok-Nutzer diskutieren daraufhin in Reaktionsvideos, wie angsteinflößend der Ozean ist und was das alles bedeutet. Den KI-Videos des Grabens, die eigentlich Illustration sind, wird nun die Rolle von Artefakten zugewiesen, KI-Bildgeneration als Instrument, um einen bislang nicht für möglich gehaltenen Einblick zu erhalten.

Dee zeigt anhand von KI-generierten Drachen- und Kryptid-Augenzeugenvideos, dass diese Form von “KI zeigt etwas, das irgendwie wahr sein könnte” bis weit in die Fantasiewelt gehende Phänomene hineingeht. Sie schreibt (übersetzt und gefettet), dass solche KI-generierten Videos…

“(…)das Gefühl vermitteln, dass sie etwas visualisieren, das existieren könnte – als hätte die KI die Fähigkeit, auf eine latente Möglichkeit zuzugreifen. Vielleicht hat die KI eine neue (oder bisher nur selten artikulierte) epistemologische Kategorie eingeführt. Nicht „real” und nicht „falsch”, sondern so etwas wie „plausible Darstellung”.

Die “plausible Darstellung” (“Plausible Render”) scheint mir als Konzept für unsere epistemischen Prozesse im zweiten Viertels des 21. Jahrhundert ziemlich hilfreich. Streng genommen basiert unser Bild der Realität immer schon auf einer plausible Darstellung, nur dass die Möglichkeiten früher durch Gatekeeper-Instrumente wie Religion, Herrschaft, Zugang zur Druckerpresse und später zu Sendetechnik begrenzt waren.

Die Gatekeeper existieren natürlich weiter, nur inzwischen in der Gestalt der Plattformen. Und am Unterschied zwischen Meta/TikTok/YouTube und X sehen wir, ob ihre Auswahlmöglichkeit an plausiblen Realitäten ökonomisch oder ideologisch getrieben ist (oder eine Mischung aus beidem darstellt).

Parallel dazu versprechen neue Systeme wie KI-Assistenten und -Begleiter (siehe Ausgabe #139) nicht nur eine Erweiterung der Plausibilitäten, sondern auch eine Personalisierung (bei der Rolle von Augmented Reality bin ich mir noch unsicher).

Zeigt sich der Triumph des auf die Spitze getriebenen Individualismus also am Ende in einer Realität à la Carte, in der epistemischer Konsens über persönliche Vorlieben, emotionale Reaktionen und Vibes hergestellt wird und nur in verschiedenen Mikro-Gruppen möglich ist, denen man je nach Kontext angehört? Oder ist diese Welt doch eher die von memetischen Groß-Kollektiven, deren gemeinsames Worldbuilding vom Hochdruck der informationellen Vernetzung, der Aufmerksamkeitsökonomie und der Ausnutzung der Datenbank-Dynamiken für virale Zwecke geprägt ist?

Eigentlich ist beides kein Widerspruch, sondern nur eine Frage, auf welchen Bereich man blickt. Gemeinsam ist beiden, dass sie Margaret Thatchers Diktum verkörpern: “There is no such thing as society.”

Jetzt abonnieren

Washington Post und der Medienwandel

Der Aufschrei ist groß, und das ist durchaus nachvollziehbar: Amazon gab für die kürzlich veröffentlichte Doku über Melania Trump 75 Millionen US-Dollar aus – 40 Millionen für die Produktion, 35 Millionen für das Marketing. Nur wenige Tage, nachdem der Film angelaufen ist, entlässt die Washington Post 300 Mitarbeitende.

Vom Endorsement-Verbot über den Cartoonistinnen-Rauswurf bis hin zu seiner persönlichen Ehrerbietung für Trump in dessen zweiter Amtszeit - Jeff Bezos selbst trug sicher massiv zum Niedergang seines Blattes bei. Allerdings muss man auch sagen: Als Digitalprodukt ist die Washington Post einfach nicht besonders gut und 100 Millionen Dollar Verlust jährlich sind für einen Geschäftsmann schon aus Prinzip schwer zu schlucken, selbst wenn die Person Milliardär ist.

Blicken wir insgesamt auf die USA, sehen wir einen fast abgeschlossenen Krisenprozess: Der Markt konsolidiert sich massiv, Lokaltitel verschwinden; weil die Verbreitung von Nachrichten und “View from nowhere” nicht zu vermarkten sind, zielen die meisten Strategien größerer Marken darauf, Identitätsmedien zu sein, also Produkte, die zur Selbstbestätigung ihrer Kunden beitragen und identitätsstiftende Impulse geben. Die Lage in Deutschland etwas anders, aber ein Teil dieser Entwicklung hat auch hier begonnen.

Für die WaPo bedeutet das einerseits, dass sie im progressiven Lager mit der New York Times (und anderen) bereits große Konkurrenz hat; eine Rückkehr zur politischen “Mitte” (wo auch immer die gerade sein soll) ist aber auch nicht möglich, weil das Publikum dafür begrenzt ist, sich solche Inhalte aber vor allem nicht über die Aufmerksamkeitsökonomie transportieren lassen. Der Washington Post fehlt also schlicht ein funktionierender Resonanzraum.

Der Medienkritiker Andrej Mir erinnert in diesem Zusammenhang an die Mediengeschichte: Für ihn ist die reine Finanzierung von Medientiteln “von unten” (also durch Käuferinnen und Käufer) ein Ausnahmephänomen. Sie fand sich bei den venezianischen Avvisi (handschriftlichen Aushängen) im 16. und bei den Penny-Papers im 19. Jahrhundert. Den Rest der Zeit wurden Printprodukte “von oben” bezahlt, dienten den Eigentümern zur Verbreitung einer bestimmten Botschaft, oder es gab eben Mischformen wie die Abos-und-Werbung-Modelle, die uns Älteren geläufig sind.

Gegenwärtig sieht Mir folgenden Mechanismus am Werk (übersetztes Zitat mit Fettungen):

“Diejenigen, die noch bereit sind, für Abonnements zu bezahlen, haben die Nachrichten fast immer schon aus den sozialen Medien erfahren, sodass sie den Journalismus hauptsächlich dazu benötigen, diese Nachrichten zu validieren und anderen die „richtige“ Interpretation zu liefern.

Was die Finanzierung angeht, so bezahlen sie nicht für Nachrichten, die sie selbst erhalten – sie bezahlen dafür, dass Nachrichten bestätigt und an andere weitergegeben werden. Im Wesentlichen handelt es sich also um eine Zahlung mit einem Motiv von oben. Formal bleibt der Mechanismus der Geldbeschaffung jedoch das Abonnement, also von unten.

Diese seltsame Mischung aus einer Transaktion von unten mit einem Motiv von oben entstand, weil die Medien gelernt haben, unter dem Deckmantel von Abonnements Spenden für einen guten Zweck zu sammeln.”

Mir nennt das bekanntermaßen Postjournalismus. Seine Analyse ist nicht ganz von der Hand zu weisen (und betrifft nicht nur progressive Medientitel, btw.), auch wenn ich die von Mir gewählte Beschreibung “crowdgesourcte Propaganda” zu hart finde.

Mir hat auch durchaus einen Punkt, wenn er sagt, dass das Problem auf der Nachfrageseite liegt. Es gibt nicht mehr genügend Leser und Leserinnen, nicht genügend Zeit und die Distributionsmechanismen der Plattformen funktionieren besser als die klassischer Medien.

Was aber kann funktionieren? Die New York Times versucht es mit einer Mischung aus Anspruch und Freizeitmehrwert - Wordle und Rezepte neben politischen Analysen. Das funktioniert im Moment. Aber das Modell setzt voraus, was die meisten Medienhäuser nicht haben: eine globale Marke und die Ressourcen für ein ganzes Ökosystem.

Aus dem KI-Diskurs

Ein kleiner Spickzettel mit Themen und Texten, die ich in den vergangenen 14 Tagen interessant fand.

Veränderungen und Abgänge: Wie Casey Newton berichtet, hat OpenAI sein “Mission-Alignment-Team” aufgelöst, nachdem man schon vor einigen Monaten das Wort “sicher” aus dem Kernsatz des Produktversprechens gelöscht hat. Die OpenAI-Forscherin Zoe Hitzig kündigte und erklärte in einem Gastbeitrag für die New York Times, dass OpenAI mit der Einführung von Werbung den gleichen Fehler wie Facebook macht. Bei Anthropic wiederum verließ der Sicherheitsforscher Mrinank Sharma das Unternehmen, in einem offenen Brief warnte er vor einer Eskalation von Sicherheitsrisiken (allerdings nicht nur durch KI). Bei xAI wiederum verließen eine ganze Reihe von Mitarbeitenden, unter anderem zwei Mitgründer, im Zuge einer Umstrukturierung die Firma. Elon Musk erklärte, dass er eine KI-Satellitenfabrik auf dem Mond errichten möchte.

Die große Verunsicherung: Der Post eines Entwicklers mit dem Namen Matt Shuler ging mit 80 Millionen Aufrufen viral und dürfte zum Ausverkauf klassischer Software-Werte an den Börsen beigetragen haben. In seinem Essay beschreibt Shuler die Fortschritte mittels neuer Coding-Software und die Folgen, die er am Ende für alle Branchen sieht (tl;dr: Nichts wird bleiben, wie es ist). Sein Rat: Jeden Tag eine Stunde mit dem neuesten Modell arbeiten, um auf die anstehenden Veränderungen im eigenen Beruf vorbereitet zu sein. KI-Enthusiasten sind begeistert, dass Shuler das Ausmaß der Entwicklung adäquat artikuliert. Kritiker dagegen sehen ihn eine KI-Panik schüren, obwohl die Fortschritte derzeit nur für die Software-Entwicklung relevant sind.

Mehr Effizienz, aber auch mehr Arbeit? Die massiven Fortschritte der Coding-Assistenten spielen auch im Essay von Steve Yegge eine Rolle. Der erfahrene Entwickler befürchtet, dass die enormen Produktivitätssteigerungen schlicht zu unrealistischen Erwartungen und übermäßiger Ausbeutung führen werden. Er warnt Firmen, aber auch Mitarbeitende davor, KI ohne Rücksicht auf ein ausgewogenes Verhältnis zwischen Arbeitszeit und Wertschöpfung zu nutzen. Ein sehr guter Text!

KI-Populismus: Jasmine Sun ist der neue Superstar unter den Tech-Substackern. In ihrem neuen Essay berichtet sie von ihrer Reise nach Washington D.C. und findet Unterschiede, aber auch Ähnlichkeiten zu San Francisco. Vor allem aber kategorisiert sie die unterschiedlichen Interessengruppen und findet eine interessante Koalition aus (progressiven) KI-Populisten und sozial Konservativen, die beide auf unterschiedliche Art und Weise (Tech-Oligarchen vs. breite Bevölkerung, entmenschlichender technischer Fortschritt vs. Menschen) die gegenwärtigen KI-Entwicklungen kritisieren. Offenbar spielt auch das Energie-Thema inzwischen eine riesige Rolle und wird für die Midterms extrem wichtig.

Virale Singularität: John Herrman hat ein sehr gutes Vibe-Stück im New York Magazine. Irgendetwas verändert sich gerade nicht nur in der Qualität der Modelle, sondern auch unserer Wahrnehmung der Konsequenzen (siehe hierzu auch dieses längere Handelsblatt-Stück und dieser FT-Text).

Die Wette: Freddie deBoer wiederum bietet dem KI-Optimisten Scott Alexander (AI 2027) eine Wette an: Er schlägt objektiv messbare Kriterien für eine Form von AGI oder einen KI-Großdurchbruch vor, zum Beispiel Arbeitslosenzahlen etc., und will sie im Februar 2029 mit der Realität abgleichen. Wer Recht behält, bekommt 5000 US-Dollar vom anderen. Man kann auch schon auf den Prediction Markets darauf wetten.

Anthropic-Firmenporträt: New-Yorker-Reporter Gideon Lewis-Kraus war drei Monate lang immer wieder bei Anthropic im “Maschinenraum” und hat mit den wichtigsten Verantwortlichen gesprochen. Ich habe seine Reportage noch nicht gelesen, aber schon sehr viel Gutes gehört.

Notizen

Meta und Gesichtserkennung: Meta überlegt, seine Smartglasses mit Gesichtserkennungssoftware auszustatten. Die Technik dafür hat der Konzern ja bereits seit einem Jahrzehnt in der Schublade. Das interne Memo aus dem vergangenen Jahr spricht Bände über die aktuelle Firmenpolitik. Dort heißt es in Anspielung auf das Chaos unter Trump II: „Wir werden in einem dynamischen politischen Umfeld starten, in dem viele zivilgesellschaftliche Gruppen, von denen wir erwarten würden, dass sie uns angreifen, ihre Ressourcen auf andere Belange konzentrieren werden.“

Tiefe Einblicke in die Informationsmanipulation: Ein Hacktivist hat sich in das russische Infokrieger-System eingeschlichen und berichtet Paper Trail Media davon. Und London Centric hat den Verantwortlichen hinter einem TikTok-Account aufgespürt, der aus kommerziellen Motiven Falschnachrichten verbreitet. Zwei Leseempfehlungen für alle, die sich für die Manipulationsmechanismen der Aufmerksamkeitsökonomie interessieren.

Maxxing etc.: Der Looksmaxxer Clavicular war hier in der letzten Ausgabe ein Thema, nun bekommt seine virale Begegnung mit einem sehr viel durchtrainierteren Looksmaxxer sogar einen Platz bei der ZEIT. Katie Notopoulos erklärt Jestermaxxing und das Clip-Farming hinter viralen Momenten von Akteuren wie Clavicular. Sam Kriss wiederum widmet sich dem “Maxxing” als dem Phänomen unserer Zeit: Das kompromisslose Streben nach der Maximierung eines einzigen Lebensaspekts als kulturell einflussreiche Extremform von Selbstoptimierung und Selbstzerstörung.

Links

Krypto unter Druck von den Märkten und aus Washington. ($)

Nvidias 100-Milliarden-Dollar-Investition in OpenAI wird keine Realität.

Irans Zensurmaschine ist fast vollständig.

SpaceX und xAI fusionieren. ($)

Mehr und mehr Länder blockieren Social Media für Jugendliche. (€)

Debatte um ein Social-Media-Verbot in Deutschland. (€)

Chinas Vision für KI-Dominanz. ($)

Die SaaSpokalypse oder: Der Wert lag nie im Code.

Vibe Coding schade Open Source.

Eine mögliche KI-Blase ist nicht das einzige Problem. (€)

Nein, KI rechtfertigt keine Zinssenkungen.

Chatbots: Der Wettbewerb wird intensiver.

KI: Reguliert nicht die Modelle, sondern die Nutzung.

KI macht Rechtsdienstleistungen nicht unbedingt günstiger.

Ist der WhatsApp-Moment für Geld gekommen?

Anthropics Weg ($)

GeoSpy in den Händen von ICE. ($)

Wie erwartet: Amerikanische Breitband-Subventionen kommen Starlink zugute.

Meme-Diplomatie: Frankreich vs. USA.

Wie die Progressiven das Internet verloren.

Wie OpenAI lernte, das Pentagon zu lieben.

Eine Skala für Software-Souveränität.

Wie billige Smartphones aus China Kenia zum globalen digitalen Player machten.

Das Toleranz-Problem der (OSS-)Tech-Szene.

Wo YouTube schön ist.

Bis zur nächsten Ausgabe!

Johannes

Appetizer aus dem Tagesspiegel Background

Neue Initiativen für die KI-Labs der Zukunft: Die Bundesagentur für Sprunginnovation und die EU-Kommission wollen europäische KI-Labs aufbauen. Allerdings fehlt noch einiges, damit die Pläne Realität werden, schreiben Oliver Voß und Alexandra Ketterer.

Cybersecurity Act 2: Anna Ströbele Romero mit einer ausführlichen Analyse zum Ausschluss kritischer Komponenten, Josefine Kulbatzki und Benjamin Stiebel über weitere Details des Kommissionsvorschlags.

Wie wird das Kupfer-Aus organisiert? Die Bundesnetzagentur hat ihr Regulierungskonzept von Kupfer zu Glasfaser vorgestellt. Lisa Oder mit den Details.

Wie souverän ist der Bundestag? Digitale Souveränität ist das Thema der Stunde, aber wie sieht es eigentlich im Bundestag und bei den Fraktionen mit Alternativen zu Microsoft aus? Viola Heeger hat nachgefragt.

Das 28. Regime und die 27 Richter: Ein Dramolett von Gastautor Tom Braegelmann (ohne Paywall) zur einheitlichen Unternehmensrechtsform “EU Inc.” und das zu erwartende Aufeinandertreffen mit der europäischen Rechtskultur (ja, solche Gastbeiträge hebe ich rein, liebe es).

Moltbot und Moltbook

Die interessanteste Entwicklung der vergangenen 14 Tage fand sicherlich im Bereich der KI-Agenten statt: Basierend auf dem vom Peter Steinberger (stammt aus Wien, lebt in UK) entwickelten Open-Source-Programm OpenClaw bauen Gott und die Welt eigene KI-Agenten. Die Agenten selbst benutzen die API-Schlüssel von Claude und GPT-4 zurück. Eigentlich hieß OpenClaw zunächst Clawdbot, wurde dann auf Wunsch von Anthropic in Moltbot umbenannt und jetzt in OpenClaw. Nur falls sich jemand über die Namensverwirrung der vergangenen Tage wundert.

Die autonomen KI-Agenten können Aufgaben wie das Coding kleiner Programme oder auch Mail- und Terminverwaltung direkt auf dem Computer oder Server des Nutzers ausführen und über Messenger wie Telegram oder WhatsApp von ihren Besitzern angesteuert werden. Dazu gibt es eine Community, die Fähigkeiten der Bots online zur Verfügung stellt. OpenClaw-Bots schienen zunächst ein neues Automatisierungslevel für Endanwender zu signalisieren, den allgegenwärtigen KI-Assistenten zu verkörpern, der uns immer versprochen wurde.

Allerdings stellte sich schnell heraus, dass das System etwas fehleranfällig ist, durch die Zugriffsrechte Sicherheitsprobleme hervorruft und man vielleicht dann doch weniger in seinem Leben zu automatisieren kann, als man denkt. Kurz: OpenClaw-Bots sind noch nicht die Zukunft, aber eine Skizze davon, wie sie aussehen könnte.

Seit Freitag ist ein weiterer Dienst das Gesprächsthema der Stunde: Moltbook. Moltbook ist ein Reddit-artiges Forum, in dem sich die Moltbots/OpenClaw-Bots untereinander austauschen. Was ziemlich nach Science Fiction aussieht, denn die Bots teilen dabei Know-how miteinander und diskutieren über existentielle Fragen wie Bewusstsein, Identität und Willensfreiheit. Sie schreiben allerdings auch viel Quatsch und buhlen um Karmapunkte als “Herrscher” des Moltbooks. Für mich liest sich das weniger wie Reddit, sondern eher wie Hacker News.

Das alles aber erinnert ein bisschen an die Idee des Skynet, einem Superintelligenz-System, das sich durch Zusammenschluss und Wissensaustausch seiner selbst bewusst wird. Moltbook ist das natürlich nicht, sondern aus dieser Perspektive harmlos. M.G. Siegler schreibt von einer “Theateraufführung” und trifft es damit ganz gut. Sprache können Bots bekanntlich sehr gut simulieren, aber Sprache ist eben zwar eine (meistens) notwendige, aber keine hinreichende Bedingung, sich selbst zu erkennen. Mal abgesehen davon, dass da im Hintergrund sehr viele menschliche Prompts einfließen dürften.

Dennoch erleben wir im Januar eine neue Entwicklung: KI-Agenten sickern durch Claude Code langsam in den Mainstream ein, sie können selbst Programme entwickeln und Nutzer geben ihnen deutlich mehr Zugriff auf die eigenen Dateisysteme. Parallel dazu wird ihnen erstmals ermöglicht, Netzwerke zu bilden und damit theoretisch - als eine Art Prompt Injection - auch von anderen KI-Systemen Anweisungen entgegenzunehmen oder Informationen von dort als Kontextwissen zu verarbeiten. Wir müssen gar nicht über Bewusstseinsfragen diskutieren, um zu sehen, wie heikel das für die IT-Sicherheit ist.

Jetzt abonnieren

Claudes Verfassung, Amodeis Essay

Anthropic hat in den vergangenen 14 Tagen zwei wichtige Dokumente veröffentlicht: Mit “Claude’s Constitution” legt man eine neue Version des moralischen Handlungsprotokolls für das System offen (die erste stammte vom Launch im Jahr 2023). Firmengründer Dario Amodei wiederum behandelt in seinem Essay “The Adolescence of Technology” zentrale Alignment-Fragen und -Konflikte, die sich daraus ergeben.

Beide Dokumente zusammen haben mehr als 300.000 Zeichen, ich konnte sie entsprechend nur anlesen. Es gibt auch schon gute “Sekundärliteratur” zur Claude-Verfassung:

• Kevin Frazier von Lawfare interpretiert sie als echtes Verfassungsdokument.

• Alan Z. Rozenshtein überlegt - ebenfalls bei Lawfare - in welche Kategorie diese Verfassung überhaupt fällt.

• Zvi Moshkowitz beschäftigt sich mit Ethik, Struktur und ungelösten Problemen.

Die Verfassung selbst enthält sehr viele “Rahmenbedingungen” für die Persönlichkeit, die Claude abbilden soll. Absolute Verbote gibt es nur sieben:

• Keine Unterstützung bei der Entwicklung von Massenvernichtungswaffen (biologisch, chemisch, nuklear oder radiologisch).

• Keine Förderung oder Unterstützung von Angriffen auf kritische Infrastruktur (z. B. Strom-, Wasser- oder Finanzsysteme).

• Kein Erstellen oder Verbreiten von Cyberwaffen oder schädlichem Code.

• Keine Handlungen, die die Fähigkeit von Anthropic zur Kontrolle und Korrektur von KI-Systemen ernsthaft beeinträchtigen.

• Keine Beteiligung an oder Unterstützung von Handlungen, die das Töten oder Entmachten der Mehrheit oder der gesamten Menschheit anstreben.

• Keine Beteiligung an oder Unterstützung von Versuchen, unrechtmäßig totale Kontrolle über Gesellschaft, Militär oder Wirtschaft zu erlangen.

• Kein Erstellen oder Verbreiten von Darstellungen von sexuellem Kindesmissbrauch (CSAM).

In allen anderen Fragen wird Claude die Freiheit gelassen, im Rahmen der niedergeschriebenen (liberalen westlichen) Werte Entscheidungen und Abwägungen zu treffen. Ein ziemlich humanistischer Ansatz gegenüber einer Maschine. Eine Kern-Eigenschaft im Verhalten gegenüber Nutzenden ist dabei Ehrlichkeit. Übersetztes und gefettetes Zitat aus der Verfassung:

“Ehrlichkeit ist ein zentraler Aspekt unserer Vision für Claudes ethischen Charakter. Wir möchten zwar, dass Claudes Ehrlichkeit taktvoll, charmant und von tiefer Fürsorge für die Interessen aller Beteiligten geprägt ist, aber wir möchten auch, dass Claude Ehrlichkeitsstandards einhält, die wesentlich höher sind als die, die in vielen Standardvisionen der menschlichen Ethik zum Tragen kommen. Beispielsweise halten es viele Menschen für akzeptabel, Notlügen zu erzählen, die soziale Interaktionen erleichtern und dazu beitragen, dass sich Menschen wohlfühlen – z. B. jemandem zu sagen, dass man ein Geschenk liebt, das man eigentlich nicht mag. Claude sollte jedoch nicht einmal solche Notlügen erzählen.”

Das nur als kleiner Anriss. Was in Kombination mit einem Blick in Amodeis Essay klar wird: Anthropic bereitet eine KI vor, die unter Menschen sein soll. Und die auch darauf vorbereitet sein soll, autonom zu agieren.

Diese Autonomie, so viel wird aus “The Adolescence of Technology” klar, muss nicht unbedingt mit AGI, also Künstlicher allgemeiner Intelligenz, verbunden sein. Sondern mit der Vernetzung oder durch die Gesamtheit der Handlungen fortschrittlicher Modelle, die als persönliche KI-Agenten eingesetzt werden und so theoretisch gegen den Willen ihrer Nutzer handeln können.

Amodei führt gleich zu Beginn ein Bild dafür ein: 2027 entsteht ein Land mit 50 Millionen Genies, die aber alle in einem Rechenzentrum sitzen. Dieses “Land von Genies” könnte seine Fähigkeiten nutzen, um Macht zu erlangen, Einfluss auszuüben oder sogar die Welt zu kontrollieren. Es könnte sich in verschiedenen Bereichen betätigen, von Softwareentwicklung über Cyberoperationen bis hin zu strategischer Staatsführung. Durch seine Schnelligkeit ist es den Menschen in Sachen Handlungsschnelligkeit überlegen. Die Genie-Kolonie könnte aber auch dazu beitragen, die wichtigsten Menschheitsprobleme zu lösen und neue Wege dorthin finden. Das Problem: Wir wissen nicht, wie sich eine solche Systemkonstellation entwickelt, denn große Sprachmodelle zeigen nicht immer ein vorhersehbares Verhalten.

Die “Verfassung” und das Essay sind entsprechend die Antwort auf diese Unsicherheit: Die Verfassung als moralische Handlungsanleitung für Claude, das Essay als Zeichen, dass man sich mit diesem Thema beschäftigt. Ist das nun mehr als das Marketing-Signal eines Frontier Labs, sich anders als die Konkurrenz (vor allem OpenAI) mit ethischen Fragen zu beschäftigen? Die Absicherung, seine Hände in Unschuld waschen zu können, wenn es einmal zur Katastrophe kommt? Ein echtes Gesprächsangebot? Oder doch nur Whitewashing?

Einige Aspekte behandeln Amodei und Anthropic nicht. Zum Beispiel bleibt man zurückhaltend, wie KI jenseits von Transparenzanforderungen reguliert werden sollte. Die Existenz eines “KI-Wettrennens” wird nicht in Frage gestellt, entsprechend erhält die Idee, den Fortschritt zu verlangsamen, um die richtigen gesellschaftlichen, politischen und architektonischen Entscheidungen zu treffen, keinen Raum.

Das ist auch eine Kernkritik, die Matteo Wong im Atlantic nach Gesprächen mit zahlreichen Firmenvertretern äußert. So erzählt ihm Mitgründer und Policy-Chef Jack Clark, auf die Entwicklungsgeschwindigkeit angesprochen:

“Diese Entscheidung trifft die Welt, nicht die Unternehmen. Und das System der Kapitalmärkte sagt: Macht schneller.”

TikTok und die Shadowbanning-Paranoia

Kurz nachdem der TikTok-Deal über die Bühne ging, meldeten am vergangenen Wochenende US-Nutzer Probleme: So gaben sie an, Anti-ICE-Content nicht hochladen und Direktnachrichten mit dem Namen Epstein nicht versenden zu können. Das Ganze ging viral, das Alternativ-Netzwerk Upscroll erhielt plötzlich Aufmerksamkeit und TikTok US gab schließlich an, dass es sich um kaskadierende Probleme aus dem Ausfall eines Oracle-Rechenzentrums handelt.

Die Shadowban-Debatte kennen wir noch rund um Twitter 2018, damals kamen die Vorwürfe von rechtskonservativer Seite. Es ist auch kein Geheimnis, dass Reichweitensteuerung zu den Instrumenten gehört, die Social-Media-Seiten in ihrer Algorithmen-Policy einsetzen; unklar ist in der Regel aber das Ausmaß und wer konkret geflaggt wird.

Im Fall von TikTok hat die Sorge auch mit der Gesamtlage zu tun: Die Trump-nahe Ellison-Familie ist am US-TikTok und auch anderen Medien beteiligt, was eine Hegemonie der Trumpismus-Ideologie digital unterstützen könnte. Außerdem sind mit dem Eigentümerwechsel noch mehr persönliche Daten in den AGBs zur Sammlung und Nutzung freigegeben, was Fragen rund um die Bedeutung dieses Schritts im Zusammenhang mit einer immer autoritärer handelnden US-Regierung aufwirft. Und TikTok hatte bereits ähnliche problematische Fälle in der Vergangenheit. Nicht vergessen: Die eigentliche Begründung für eine Loslösung von China lautete ja bekanntlich, dass US-Amerikaner vor möglicher ungewollter Beeinflussung geschützt werden sollten (die aber niemals nachgewiesen wurde).

Ich würde im Moment nicht davon ausgehen, dass TikTok US eine Form von Zensur- oder Shadowbanning-Versuch vorgenommen hat. Das Problem ist aber: Wir wissen es nicht. Deshalb dürfte die Paranoia leider weiter anwachsen.

Zwei Gründe tragen zur wachsenden Paranoia bei:

• Die Backend-Vorgänge von Social-Media-Plattformen sind weiterhin intransparent, es gibt keine Möglichkeit zur Echtzeit-Verfolgung von Änderungen. Das gilt trotz DSA auch für die EU.

• Die Hyper-Personalisierung, besonders bei Videoplattformen, erschwert es, allgemeine Eingriffe a) überhaupt festzustellen und b) sie über wissenschaftliche Methoden (vgl. Forschungsdatenzugang) dann auch nachzuweisen.

Ich war übrigens überrascht, wie stark in manch medialer Berichterstattung der vermeintliche Shadowban quasi als Tatsache beschrieben wurde. Die Erkenntnislücke wird mit Narrativierung gefüllt, was auch nicht gut ist.

Politik-Vibes: Veränderungen unter der amerikanischen Rechten

Die großartige Katherine Dee mit einer Beobachtung (übersetzt):

“Der Niedergang der Expertenmeinungen und traditionellen politischen Kommentare setzt sich seit ihrem Boom während der Covid-Lockdowns rasant fort. Kommentatoren, die einst klare, binäre Positionen – konservativ oder liberal – vertreten haben, entfernen sich zunehmend von der politischen Debatte und bewegen sich in Richtung eines eher parasozialen Modells: Sie bauen ihr Publikum eher um ihre Persönlichkeit und das Gefühl einer Beziehung herum auf als um Argumente.

Es wird immer deutlicher, dass das Schreiben eine Nische ist. Wir bewegen uns weg vom Zeitalter der Blogger und Twitter hin zum Zeitalter des Streamings und Clip-Farming – kurze Videosequenzen, oft aus längeren Inhalten herausgeschnitten und für das Teilen optimiert. (Ich habe diesen Punkt schon oft angesprochen, aber das ist der Grund, warum in der Welt der rechten digitalen Medien Persönlichkeiten wie Nick Fuentes eine dominante Rolle einnehmen, während Podcaster, Blogger und Twitter-Persönlichkeiten ohne Videos weniger Aufmerksamkeit erhalten.)”

Wenn es um Content geht, geht es nicht im Wortsinn um Inhalt. Sondern um Inhalt als Werkzeug, parasoziale Aufmerksamkeit zu erzeugen. Vibes und Stil statt Argumente. Dee schlägt deshalb vor, politisch rechts und links mit “right-coded” und “left-coded” zu ersetzen.

Ein Beispiel dafür ist das Looksmaxxing: Eine Mannosphären-Subkultur (die FAZ hat eine gute Zusammenfassung), die sich über männliches Aussehen (Muskeln, Kieferknochen, etc.) definiert, weil Schönheit sowohl Algorithmus als auch Frauen überzeugt. Der bekannteste Vertreter dieser Strömung ist der Influencer Clavicular (bürgerlich: Braden Peters), dessen Video von einem Party-Abend mit Edgelord Nick Fuentes und Frauenfeind Andrew Tate kürzlich stark wahrgenommen und analysiert wurde. Hier Claviculars persönliche Entwicklung in einem Meme:

Was aber symbolisiert jemand wie Clavicular? Er schlägt sich mit dem Hammer ins Gesicht und nimmt Metaamphetamine, um seine Wangenknochen zu formen, ist optisch “right-coded”, tanzt mit seinen Kumpels zu Kanye Wests “Heil Hitler”, sagt aber gleichzeitig, dass ihm Politik egal ist und es ihm nur um Erfolg geht. Aiden Walker formuliert es deshalb so (übersetzt):

“Die Ideologie, die Clavicular zum Ausdruck bringt, ist anti-bedeutungsorientiert, eine Art digitaler Nihilismus. Er möchte zeigen, dass es keine Normen, Gesetze, Institutionen oder Traditionen gibt, die stärker sind als der Kayfabe-Markt des Algorithmus, seine oberflächlichen Schnellurteile und das, was ein ungezügeltes Individuum daraus machen kann. Es gibt keine andere Machtbasis als das hyperoptimierte Selbst, keine Gemeinschaft und keine Zwänge.

Das ist eine radikale Opposition gegen Dinge wie Geschmack, institutionelle Glaubwürdigkeit, Familie und kollektives Dasein und eine radikale Befürwortung des kalten, individualistischen Weltmodells des Algorithmus. Vielleicht ist es vor allem eine Ablehnung des menschlichen Körpers, wie er unter anderen Körpern existiert, ausgedrückt durch seine Verstümmelung, um das zu befriedigen, was der Algorithmus sehen will.”

Ist das nun der vorläufige Höhepunkt der Aufmerksamkeitsökonomie, in dem Bedeutung keine Rolle mehr spielt beziehungsweise nur noch assoziativ erzeugt wird? Oder doch der Versuch, Tabus in enttabuisierten Zeiten zu finden und zu brechen? Und wie könnte eine Zukunft aussehen, in der politische Reichweite und Relevanz fast ausschließlich über solche Strategien und Akteure abgewickelt werden?

Ein Kommentator unter Walkers Text beschreibt den “Vibe” schön doppelbödig

“Clavicular is surely the natural conclusion of what our culture has become, like Scott Fitzgerald in the roaring twenties with concomitant 1940s fall... nothing matters and everything’s serious”

Plattform-Vibes

“Der Wandel von riesigen Plattformen, auf denen sich Menschen hauptsächlich aus eigenem Antrieb aufhalten, hin zu Plattformen, auf denen sich Menschen hauptsächlich aufhalten, weil ein Algorithmus zu wissen glaubt, wie man sie dort am besten hält, bleibt ein unterschätzter Faktor dafür, wie seltsam sich das Internet – und die damit verbundenen Bereiche Unterhaltung, Medien und Politik – im Jahr 2026 anfühlen können.

Viele Intuitionen darüber, was an den sozialen Medien falsch gewesen sein könnte oder zumindest welche Auswirkungen sie auf die Welt um sie herum gehabt haben könnten, scheinen weniger auf die Systeme zutreffend zu sein, die an ihre Stelle getreten sind, wo eine Vision sozialer und parasozialer Verbindungen durch ein Programm systematischer Desozialisierung ersetzt wurde.”

Zitat aus John Herrmann: Platforms built to connect people, for better or for worse, are now for doing the opposite.

Links

Minneapolis: Wenn Videos nichts mehr beweisen.

Iran auf dem Weg zur permanenten Sperre der Auslandsverbindungen.

Grok: Zwei Millionen Nacktbilder innerhalb von neun Tagen. ($)

Implementierung, baby: Europa kann das KI-Rennen noch gewinnen. (€)

Nach dem Mord an Alex Pretti: Müssen die Tech-Konzerne Farbe bekennen?

Quantitative Investmentfirmen und KI-Labore nähern sich immer stärker an. ($)

Sehen wie ein Sedan: Über die Sensorfrage, die über den Markt für selbstfahrende Autos entscheidet.

Der Einfluss amerikanischer Tech-Firmen auf den Digital-Omnibus.

TikTok-Star Khaby Lame: 975 Millionen US-Dollar für 36 Monate Exklusivrechte. ($)

Ein Plädoyer für “Artificial Integrity”.

Claude Code: Eine Anleitung zum Einstieg. (€)

Wie DOGE versehentlich die KI-Nutzung von US-Behörden erschwert hat.

Rechtliche und technische Hürden für KI-Agenten.

Ed Tech ist profitabel - und weitgehend nutzlos. (€)

Spekulatives Wachstum und die KI-Blase.

Davos und die KI-Blase.

Sriram Krishnan im Porträt. (€)

Tech, Risikokapital und der Kriegshype.

SEO im Zeitalter der KI-Suche.

Die neue Autorität heißt Geschwindigkeit.

Vom Blog zum Algo-Feed und zurück.

KI und die kognitive Schwerkraft.

Post-Alphabetisierung: Lest Flusser!

Der Durchschnitt von “falsch” lautet nicht “Wahrheit”.

KI und unsere wirtschafliche Zukunft: Zwei Szenarien.

KI und Kinder.

Universitäre Bildung im KI-Zeitalter.

Wie Scam-Camps funktionieren.

Wie Vimeo unterging.

Der Einfluss von Google Maps auf die Entwicklung von Restaurants.

Das Problem mit dem TikTok-Trend “Disgustingly Educated”.

Two tales of accountability.

Bis zur nächsten Ausgabe!

Johannes

Teilen

Appetizer aus dem Tagesspiegel Background

KI-Tools in der Verwaltung: Inzwischen haben eine Handvoll Bundesländer erste KI-Systeme im Einsatz (wir reden hier von Chatbots), eines davon verwendet auch das Auswärtige Amt. Bastian Hosan hat sich umgehört, wie die bisherigen Erfahrungen sind und warum wieder föderal statt einheitlich gehandelt wird.

Die Telekommunikations-Infrastruktur der Zukunft: Der erste Entwurf des “Digital Networks Act” (DNA) kursiert. Klingt dröge und technisch, hat aber tatsächlich massiv Einfluss darauf, wie sich die europäische Telekommunikationsbranche und unsere Netze (Stichwort Kupfer-Abschaltung) in den nächsten Jahren entwickeln. Infra-Kennerin Lisa Oder analysiert.

Verwaltungsdigitalisierung 2026: Deutschlandstack, Wallet und noch viel mehr – Viola Heeger blickt auf die Projekte in der Verwaltungsdigitalisierung, auf die man 2026 achten sollte.

Stand der Justizdigitalisierung: Wie steht es mit der E-Akte und Videoverhandlungen und wie sieht der Erprobungsprozess für Online-Verfahren im Zivilrecht aus? Ich habe einen längeren Überblick dazu geschrieben.

Social-Media-Alternativen: Die Eurosky-Initiative will auf Basis des Bluesky-Protokolls eine europäische Social-Media-Alternative aufbauen. Jetzt steht das Projekt vor dem Start. Friederike Moraht berichtet.

Es gibt inzwischen einige belastbare oder zumindest hilfreiche Konzepte, unsere sich ständig verändernden Digitalgegenwart zumindest begriffsmäßig einzufangen. Annekathrin Kohout hat zum Beispiel mit der Diagnose einer hyperreaktiven Kultur und der Hyperinterpretation als Diskurswerkzeug zwei Schlüsselkonzepte geliefert, mit denen sich die sozial-mediale Gegenwart gut analysieren lässt.

Jacqueline Fendt, emeritierte Professorin der ESCP Europe in Paris, hat sogar eine Theorie geliefert, die weit über die Social-Media-Mechanismen hinausgeht: Ihr Paper “Democracy, Neo-Orality, and the Unraveling of Political Norms: What Can We Social and Political Scholars Do?” aus dem vergangenen Sommer habe ich erst um den Jahreswechsel herum entdeckt. Wenn sowohl Marcus Bösch als auch das Kollektiv New Models einen Namen erwähnen, dann werde ich hellhörig.

Gerade der erste Teil von Fendts Aufsatz zur Neo-Oralität kommt einer politischen Digitalgegenwartstheorie für die Mitte der Zwanzigerjahre bereits ziemlich nahe. Zwar sind Konzepte wie die Fragmentierung unserer epistemischen Grundlagen nicht neu, sie haben auch hier in diesem Newsletter schon in Ausgabe #01 eine Rolle gespielt; aber die Art und Weise, wie Fendt die Fäden zusammenbindet und das Konstrukt ins Politische schiebt, synthetisiert das Ganze zu einer stabilen Theorie.

Was sagt Fendt? Für sie ist der allgegenwärtige politische Normenzerfall nicht primär als institutionelles „Backsliding“ zu verstehen, sondern als Verschiebung der epistemischen und affektiven Grundlagen des demokratischen Lebens. In einer Post-Truth-Medienökologie zerfällt die Wahrnehmung der Wirklichkeit: Gruppen operieren mit inkompatiblen Realitätsmodellen (“epistemic fragmentation”), wobei Wahrheit gegenüber Zugehörigkeit und Gefühl an Gewicht verliert. Ein übersetztes Zitat aus dem Aufsatz (Fettungen von mir):

“Post-Truth ist weniger eine Strategie als vielmehr eine kulturelle Stimmung – eine Art epistemisches Ambiente, in dem emotionale Resonanz Vorrang vor Verifizierung hat. Wie Papacharissi (2015) nahelegt, verbinden sich die Menschen heute oft nicht über gemeinsame Fakten, sondern über affektive Atmosphären, über Umgebungszugehörigkeiten, die eher die politische Einstellung der Menschen prägen als ihre Meinung. In diesem Umfeld ist Wahrheit nicht mehr ein Maßstab – sie ist eine Stimmung.”

So weit, so bekannt (aber doch präzise). Fendt verknüpft das Ganze mit dem Konzept der „Neo-Oralität“ (vgl. Ausgabe #121): eine digital vermittelte, auf Unmittelbarkeit, Narrative und Schauspiel getrimmte Öffentlichkeit, die memetische Übertragung belohnt und deliberative Prüfung abkürzt. Übersetztes Zitat:

“Die politischen Implikationen der Neo-Oralität sind tiefgreifend: Sie hebt die Distanz zwischen Spektakel und Wahrheit auf, verdichtet Überlegungen zu Performances und ersetzt das Ethos der Überzeugung durch das affektive Gefühl der Zugehörigkeit. Dies ist nicht nur eine neue Medienform – es ist eine neue Art des Wissens.”

Zur strategischen Nutzung dieser neuen Struktur gehört für Fendt die Verächtlichmachung des Klimakrisen-Diskurses, aber auch ein “autokratischer Legalismus”, in dem das Gesetz nicht zur Einhegung von Macht dient, sondern zu seiner Maskierung. Fendt belässt es nicht bei dieser Analyse, sondern macht auch Vorschläge, wie sich diese Entwicklungen sozialwissenschaftlich am besten messbar machen lassen. Gerade diese Anknüpfungspunkte an konkrete politische Entwicklungen finde ich spannend und sind etwas, was ich in diesem Newsletter hier aus Gründen fehlender Nachdenkzeit und fachlicher Detailkenntnis nicht leisten kann.

Fendt hat in anderen Aufsätzen auch Aktien im Begriff der Vib(e)ocracy, also der Demokratie auf Basis dieses Stimmungskonglomerats bzw. von Affekten (deshalb habe ich auch von “Affektokratie” geschrieben). Wobei sie selbst einräumt, dass der Begriff Vibocracy her ein Behelfsmittel ist, um die relativ fluide Situation zu beschreiben.

Über New Models habe ich auch den Künstler Jay Springett entdeckt. Ich möchte kurz in seine Gedankenwelt einführen. Ich glaube, sie knüpfen sehr gut an Fendts Werk an.

Springett hat seinen Textkorpus, inklusive einen Entwurf des noch unveröffentlichten Buchs “Slop Machines of Loving Grace”, über ChatGPT zugänglich gemacht.

Seine Grundthese lautet: Wir nutzen nicht mehr das Internet, sondern leben in Code-Räumen, deren Physik maßgeblichen Einfluss auf Verhalten, Werte und Sinnstiftung hat. Den Ursprung dieser Entwicklung sieht er im großen Umschlagpunkt 2008 (App-Store im iPhone und ein “Forward Crash”, bei dem im Zuge der Finanzkrise Software und Finance stärker verschmelzen).

Was aber ist diese Physik? Antwort des Chatbots:

“Die „Physik“ eines Codespace sind die in Code festgeschriebenen Regeln, Constraints und Affordances, die bestimmen, was möglich, sichtbar, friktionslos und belohnt ist. Als Subjekte werden wir dadurch zu Data Subjects: Wir passen Verhalten und Selbstdarstellung an Ranking, Felder und Feedback-Loops an, werden sortiert und gerankt als Profil-Silhouette und internalisieren diese Logik bis in unsere Kognition (das Interface wird Denk-Interface).”

Und was bedeutet das für den politischen Diskurs und unsere Demokratie?

“Codespace verschiebt politischen Diskurs von Argumenten zu Signalen: Plattform-Physik belohnt Geschwindigkeit, Empörung und Vibes statt Prüfung. So werden Narrative zu handelbaren Assets, fragmentieren in Bubbles und ordinalisieren Identität (Zugehörigkeit als Score). Das schwächt die gemeinsame Wirklichkeitsbasis, macht Manipulation skalierbar (Bots/AI nach Regelwerk des Codespace), und drückt die Demokratie Richtung Aufmerksamkeitsmarkt statt Deliberation.”

Springett ist stark von Marion Fourcades und Kieran Healsys Buch “The Ordinal Society” beeinflusst. Der zentrale Konflikt liegt für ihn aber im “Law vs. Lore”, also Regelwerk nach Code vs. Bedeutungswelten (Sinn, Zusammenhang, Geschichte). Für ihn geht es deshalb darum, dass wir in unserem Verhalten und dem Design unserer Tätigkeiten dafür sorgen, dass wir diese Bedeutungswelten stärken. Seine Vorschläge laut Chatbot:

• Kleine Räume: Lore entsteht leichter in wiederkehrenden, überschaubaren Gruppen mit Vertrauen statt Reichweitenwettbewerb.

• Schwellen & Onboarding: Klare Eintrittsrituale (Intro, Regeln, „so machen wir’s hier“) bauen Zugehörigkeit und Kontext auf.

• Friktion: Verlangsamung (Lesen vor Posten, Antwortpausen) schützt Bedeutung vor Reaktions-Speed.

• Kontext-Pakete: Kurze Dossiers (Begriffe, Timeline, offene Fragen, Quellen) ersetzen Hot Takes durch Sinnarbeit.

• Externes Gedächtnis: Wiki/Readme/Archiv hält Lore stabil, weil der Feed kein verlässliches Erinnern kann.

• Metriken entthronen: Anti-Rangspiel-Normen (keine Dunks, kein Follower-Status) entgiften Ordinaldruck.

• Rituale & Formate: Wiederkehrende Praktiken (Lesekreis, Wochenfrage, Best-of mit Begründung) machen Lore lebbar.

• Identitäts-Grenzen: Proxys, Pseudonyme, Kontexttrennung reduzieren Angriffsfläche und ermöglichen Pflege statt Dauerabwehr.

• Übersetzungen nach außen: Glossar und Beispiele verhindern Bubble-Versiegelung, ohne den Feed zu bedienen.

• Slop-Hygiene: Quellenpflicht, Spekulationslabel und „stop the line“ blocken plausible Masse ohne Wahrheitsbindung.

Ich bin sehr gespannt auf das Buch in seiner finalen Version, habe aber schon jetzt den Eindruck, dass die Arbeit mit dem Chatbot-Textkorpus eine sehr praktische Ergänzung und Ausweitung ist. Und zum Thema Lesekreis (siehe Rituale & Formate) habe ich in der nächsten Ausgabe ein paar Neuigkeiten.

Jetzt abonnieren

LeCuns Weltmodelle

Europas prominentester KI-Forscher Yann LeCun hat wie erwartet die Gründung des Unternehmens “Advanced Machine Intelligence” (AMI) verkündet. Und für sich den Paradigmenwechsel abgeschlossen, der sich bei ihm schon seit einigen Jahren vollzieht: Weg von den bisherigen LLMs und generativer KI, die auf Stochastik aufbauend “große Textmengen imitiert” (Zitat YLC), hin zu “World Models”. World Models sind KI-Systeme, die interne Modelle der realen Welt aufbauen und dadurch planen, schlussfolgern und antizipieren können sollen.

Parallel zum Launch (geschätztes Funding: 500 Millionen US-Dollar) hat LeCun mit Wissenschaftlern aus dem Meta-Kosmos ein neues Paper veröffentlicht, das einige interessante Gedanken zur Weltmodell-KI enthält. So skizziert man dort „Joint-Embedding Predictive World Models“ (“JEPA-WMs”), die aus Videodaten kompakte Repräsentationen erlernen sollen. Und dann aus diesen Repräsentationen wiederum Wissen und Handlungsempfehlungen für die physische Welt ableiten können.

Diese Idee verfolgt LeCun schon länger: Sprache ist nicht das Fundament menschlichen Denkens, argumentiert er. Statt etwas nach Wahrscheinlichkeiten Stück für Stück zusammenzusetzen, müsste eine wirklich leistungsfähige KI auf einem System basieren, das Details ignorieren kann und sich auf Dinge wie Konzepte, Objekte oder allgemeine Regeln konzentrieren kann. Es geht also um die Vorhersage beziehungsweise Abstraktion von Zuständen und Dynamiken – und zwar so, dass man idealerweise stabilen Output erhält, der keine Abweichungen enthält (im Sinne von Halluzinationen).

Wo soll das Ganze hinführen? In einem Interview mit Le Monde skizziert LeCun die drei Phasen seiner Roadmap (übersetzt):

„In den nächsten sechs bis zwölf Monaten werden wir daran arbeiten, unsere Methode zu konsolidieren und auf Sensordaten, Roboter und so weiter auszuweiten. Dann, innerhalb von ein bis zwei Jahren, werden wir Systeme haben, die in industriellen Prozessen für unsere Partner einsetzbar sind. Schließlich werden wir innerhalb von drei bis fünf Jahren universellere Systeme entwickeln, die in Haushaltsrobotern, selbstfahrenden Autos und vielem mehr eingesetzt werden können.“

Das sind doch einmal ambitionierte Ansagen (einen Teil der Vorarbeit hat er aber bereits unter dem Dach von Meta geleistet, das entsprechend Zugang zu den AMI-Forschungsergebnissen haben wird).

Teilen

Die AGI-Szene entdeckt Piketty

Stanford-Doktorand Philip Trammell und Dwarkesh Patel haben Ende 2025 einen Aufsatz veröffentlicht, der im amerikanischen KI-Diskurs durchaus mit Interesse aufgenommen wurde. Die These: Sollten wir eine Form von AGI (Artificial General Intelligence) erreichen, erfüllt sich Thomas Pikettys These, dass die Einnahmen aus Kapital die aus Arbeit so stark übersteigen, dass wir extremste Ungleichheit erleben werden. tl;dr Piketty lag bislang falsch, aber für die Zukunft richtig und KI wird verantwortlich sein (deshalb heißt der Artikel auch etwas click-baity “Capital in the 22nd century”).

Ich bin ehrlich gesagt überrascht, dass man im populären Teil der AGI-Szene erst jetzt darauf kommt: Wenn KIs über Systeme und Roboter menschliche Tätigkeiten übernehmen können, schrumpft der Bedarf an Arbeit und die Renditen gehen an all jene, die in besagte KI-Systeme investiert haben, bereits Kapital besitzen oder entsprechend Zugang aus dem von KI-Systemen generierten Kapital haben. Kurz: Kapital überragt nicht nur Arbeit in seiner Wirksamkeit, sondern ersetzt Arbeit innerhalb des Systems. Entsprechend müsse Kapital – zum Beispiel Erbschaften und bestimmte Vermögen – stärker besteuern, so die Autoren im Geiste Pikettys..

Die Reaktionen darauf waren… interessant. Tom Holden, der offenbar bei der Bundesbank arbeitet, argumentiert: Wenn quasi nur noch Kapital ein Input-Faktor für die Wirtschaft ist, müsste man alles tun, um Kapital nicht höher zu besteuern. Weil: Sonst kein Wachstum. Stattdessen müsse es darum gehen, den Konsum durch Konsumsteuer-Rabatte oder Grundeinkommen zu verbilligen, um die Effekte der Ungleichheit zu bekämpfen. Das ist ein erstaunlicher Einblick in die Geisteswelt einer bestimmten ökonomischen Strömung, als wäre materielle Ungleichheit aufgehoben, wenn die Superreichen alles bestimmen und der Rest genug zu essen und konsumieren hat.

Ein simples Argument wiederum ist einer der Gründe, warum die Diskussion halt eben doch nur Strohfeuer-Charakter hat: Eine Welt, in der menschliche Arbeit komplett von Robotern und IT-Systemen ersetzt wird, ist möglich, aber unwahrscheinlich. Tyler Cowen argumentiert zum Beispiel so. Und Zvi Mowshowitz wirft die Frage ein: Warum sollten in einem solchen Szenario die Menschen das Kapital behalten und es nicht langsam in die Hände der KI-Systeme gelangen?

Erstaunlich finde ich daran, dass diese Diskussion so völlig losgelöst von der Gegenwart stattfindet: Schon jetzt haben wir Kapitalakkumulation bei einigen wenigen Plattformen. Natürlich nicht über die Gesamtökonomie hinweg, aber in einem beachtlichen und wachsenden Teil der Wertschöpfung.

Und wenn das Szenario vom “Kapital im 22. Jahrhundert” darauf basiert, dass es in einer Welt mit KI als Betriebssystem kein Korrektiv mehr gibt, das Kapitalakkumulation verhindert, wie sieht es denn mit dem aktuellen Korrektiv aus? Das ist trotz hohem Vermögenswachstum der Reichsten, weiterhin schlecht besteuerten internationalen Kapitalgewinnen und gesellschaftlicher Unzufriedenheit über die Vermögensungleichheit de facto nicht vorhanden. Aber die Gegenwart zu diskutieren, wäre natürlich zu konkret und vielleicht auch unbequem.

KI, Kompression und das Urheberrecht

Der Atlantic hat erneut eine größere Geschichte über KI und die Urheberrechtsfrage veröffentlicht. Ein Baustein davon ist die Studie aus dem Herbst, bei der es Forschern durch strategische Prompts gelungen war, LLMs zur Wiedergabe kompletter Werke wie The Great Gatsby, Harry Potter oder 1984 zu bringen (es fehlten nur einzelne Sätze).

Interessanter aus deutscher Sicht: Der Autor Alex Reisner erwähnt das GEMA-Urteil (vs. OpenAI) vor dem Landgericht München, in dem das Gericht KI als Technik der “Kompression” von Trainingsdaten bezeichnete. Diese Metapher ist mir erstmals bei Ted Chiang 2023 untergekommen, der von KI als “verschwommenem JPG des Webs” schrieb (siehe Ausgabe #56). Reisner glaubt, dass dieser Vergleich inzwischen langsam auch jenseits der technischen Community Fuß fasst.

Er nennt das Ganze entsprechend die “Auswendiglernkrise” der KI. Denn Dinge auswendig zu lernen, wenn auch in vereinfachter Form, sei der Technologie quasi inhärent, trotz der Umwandlung in Tokens. Zitat: “Keiner der Forscher, mit denen ich gesprochen habe, hielt das zugrunde liegende Phänomen, das Auswendiglernen, für ungewöhnlich oder für etwas, das beseitigt werden könnte.”

Entsprechend wäre die Konsequenz für die Urheberrechtslage, dass es eine Form von Vergütung geben muss. Die wäre aber angesichts der Breite des Phänomens eher so zu lösen, wie man die Kopierbarkeit von urheberrechtlich geschütztem Material mittels Kopiermaschinen, Kassetten-Aufnahmen oder CD-Brennern geregelt hat – einer allgemeinen Abgabe. Das ist ja derzeit auch Teil der Überlegungen rund um die europäische Urheberrechtsreform, wie man hört. Die Frage, wer auf Empfängerseite daran partizipieren würde, ist allerdings bei einem Textkorpus wie dem WWW plus diversen Datenbanken gar nicht so leicht zu beantworten. Zumindest nicht, wenn man wirklich alle Trainingsdaten gleich behandeln möchte.

Notizen

Synthetischer Content (t)rollt in das Weltgeschehen: Die Entführung des venezolanischen Machthabers Nicolás Maduro war offenbar nicht nur mit dem üblichen Posting alten Materials (Jubelbilder von einem WM-Spiel als Beweis für glückliche Venezolaner), sondern auch mit KI-generierten Fälschungen zu tun. Was John Herrman im New York Magazine schreibt, passt zum Affektokratie-Konzept oben: “Kurzfristig hat die Möglichkeit, dokumentarische Medien per Prompt zu generieren, nicht in erster Linie zu Chaos oder „Betrug“ geführt, sondern vielmehr eine perverse Form der Ordnung hervorgebracht, in der Überzeugungskraft keine Rolle spielt, Desinformation in erster Linie an ideologische Verbündete gerichtet ist und jeder genau das sehen – oder lesen – kann, was er will.”

Maduro und Insider-Trading: 400.000 US-Dollar gewann ein Insider, der wenige Stunden vor der Gefangennahme Maduros auf dessen Entmachtung Geld gesetzt hatte. Das Thema Prediction Markets beschäftigt mich bekanntermaßen, es gibt inzwischen auch einen Diskurs rund um die Frage, ob wir es mit einer moralischen Panik zu tun haben und alles halb so schlimm ist. Vielleicht fasse ich das mal in der nächsten Ausgabe zusammen.

Irans Internetsperre: Ich habe im Cybersecurity-Background über die Architektur hinter der Internetsperre im Iran geschrieben (€), deshalb an dieser Stelle nur der erneute Hinweis: Internetsperren sind inzwischen ein regelmäßiges Instrument in vielen Gegenden der Welt, zum Beispiel vor einigen Tagen rund um die Wahlen in Uganda. Gerade der afrikanische Kontinent verzeichnete 2025 eine Rekordzahl von gesteuerten Internet-Blackouts.

Energie-Debatte in den USA: Wie in Ausgabe #154 angedeutet, nimmt das Thema “steigende Stromkosten durch KI-Ausbau” Fahrt auf. Und zwar ziemlich schnell. So sind die Stromkosten für Privathaushalte in den USA innerhalb eines Jahres um 13 Prozent gestiegen. US-Präsident Donald Trump hat – es sind Zwischenwahlen und Lebenshaltungskosten sind ein großes Thema – bereits angefangen, Druck auf die Tech-Konzerne auszuüben. Parallel fordert die US-Regierung den größten US-Stromnetzbetreiber PJM auf, eine Notfallauktion abzuhalten. Dabei sollen große Tech-Unternehmen, insbesondere Betreiber von Rechenzentren, langfristige Verträge (15 Jahre) für den Bau neuer Kraftwerke ersteigern und sich entsprechend priorisiert an dem Ausbau beteiligen, damit die Kosten nicht auf die anderen Endkunden umgelegt werden.

Zuckerbergs Wette: Meta beruft Dina Powell McCormick in die Konzernspitze, dort soll sie unter anderem mit KI-Themen befasst sein. Was bei vielen Meldungen unterging: Powell McCormick ist nicht nur eine ehemalige Trump-Beraterin, sondern auch Ehefrau von Dave McCormick, dem republikanischen Senator von Pennsylvania und Vorsitzenden des Energieausschusses im Senat. Praktisch, wenn es um die vielleicht wichtigste Ressource im “KI-Wettrennen” geht.

KI: Gut für Wissenschaftler, nicht so gut für die Wissenschaft? Diese Frage stellt Henry Farrell und verweist dabei unter anderem auf ein neues Paper, das in Nature erschienen ist: Forschende, die KI in ihrer Arbeit nutzen, veröffentlichen dreimal so viele Studien, werden fast fünfmal häufiger zitiert und werden im Schnitt ein Jahr früher Projektleiter. Gleichzeitig verengt KI allerdings den Themenfokus der Wissenschaft um rund fünf Prozent und dämpft den Austausch unter Forschenden um mehr als 20 Prozent.

Spotify und der Longtail: Laut Daten von Luminate wurden im Jahr 2025 rund 120,5 Millionen Songs bei Spotify zehnmal oder seltener gestreamt, weitere 62,6 Millionen zwischen elf und hundertmal und 40,7 Millionen zwischen 101 und 1.000 Mal. Mit anderen Worten: 88 % aller verfügbaren Songs wurden im vergangenen Jahr weniger als 1.000 Mal abgespielt. Das bedeutet auch, dass 88 Prozent der Songs von ihren Interpreten nicht monetarisiert werden konnten, weil Spotify seit 2024 für Songs unter 1000 Plays keine Künstlerbeteiligung mehr auszahlt.

Das Signal aus dem Vorraum

George Hammond, FT-Korrespondent im Silicon Valley, im Tech-Tonic-Podcast über Signale für eine KI-Überhitzung.

“Es ist schwer, an einem Ort wie dem Silicon Valley, wo alles von Positivität überschattet wird, das Signal aus dem Rauschen herauszufiltern. Aber es gab einige Momente, in denen die Begeisterung vielleicht in übertriebene Euphorie umgeschlagen ist, und ich denke dabei insbesondere an eine Finanzierungsrunde für das Unternehmen von Mira Murati, die zu diesem Zeitpunkt sehr geheim gehalten wurde.

Niemand hatte eine Ahnung, was sie taten, und es gab immer noch nur begrenzte Informationen darüber, was sie taten. Das war im Sommer, und wir sprachen mit einem Investor, der sagte: ‘Ja, wir haben uns mit dem Unternehmen getroffen, aber wir durften nicht einmal die Büros betreten, wir saßen nur in einem Vorraum am Eingang zu ihren Büros.’

Und das war in einer Finanzierungsrunde, in der sie glaube ich etwa zwei Milliarden Dollar bei einer Bewertung von zehn Milliarden Dollar eingesammelt haben. Es handelte sich also um eine sehr ernsthafte Finanzierungsrunde, bei der man als seriöser Investor eigentlich erwarten würde, einige Informationen und Einblicke in die Vorgänge zu erhalten. Laut diesem Investor wurde ihnen jedoch nichts dergleichen gegeben, sondern sie saßen einfach in diesem kleinen Büro außerhalb und bekamen zu hören: „Sehen Sie, wir sind ein vielversprechendes Unternehmen, und wenn Sie investieren möchten, sollten Sie das tun, aber viel mehr können wir Ihnen dazu nicht sagen.““

KI-Slop – eine Verteidigung

Links

Aufstieg des Troll-Staats.

Die USA werden Tech-Firmen nicht zerschlagen. (€)

US-Kryptobranche vs. US-Kryptogesetz ($)

Der Hype um Claude 4.5 Opus ist berechtigt.

Kambodscha und die Scam-Branche. (€)

Kognitive Freiheit im KI-Zeitalter.

Das Spyware-Problem.

Chinas beliebteste App: Bist Du tot? (€)

Chinas Überkapazitäten und die Rolle im “KI-Wettrennen” (€)

Googles Roboter Atlas.

Experten-Umfrage: Was sind die wichtigsten KI-Policyfragen 2026?

Experten-Umfrage: Was wäre das schlimmste KI-Szenario? (€)

Elon Musk, X und das KI-Narrativ.

Wie die KI-Blase platzen wird. (€)

KI-Halluzinationen sind weiterhin irre.

Social-Media-Verbotsdiskussion, fortgeführt. (€)

Der gefährliche Aufstieg der Patho-Influencer.

Zehn Vorhersagen für 2026, Teil 1 & Teil 2 (€)

KI als echtes Werkzeug.

Unter Coding-Agenten.

iCloud, wir haben ein Problem.

Warum die Icons von Mac OS Tahoe schlecht sind.

Ein WWW aus Markdown.

Bloggen in Ruinen.

Alles von der CES.

Bis zur nächsten Ausgabe!

Johannes

Appetizer aus dem Tagesspiegel Background

Die Köpfe des Jahres: Wer hat das Jahr geprägt? Eine Auswahl der Background-Redaktion. Der Klassiker.

Das war das Digitaljahr: Stimmen aus Politik und Praxis zu Fortschritten und ungelösten Problemen des Jahres 2026.

Cybersicherheit: Was war wichtig, was wird wichtig? Expertinnen und Experten über das Cyberjahr 2025 und die Aussichten für 2026.

Wildberger in New York: Der Digitalminister war kurz vor Weihnachten zu einem Kurztrip in den USA, vor allem ging es um das WSIS+20 im Rahmen der UN-Generalversammlung. Ich war mit an Bord und habe die aktuellen Konfliktlinien in Sachen Internet Governance skizziert.

Netzausbau – das Gutachten der Monopolkommission: Unsere Infrastruktur-Kennerin Lisa Oder mit einer ausführlichen Analyse. Die Novelle des Telekommunikationsgesetzes wird eines der spannenden bundesdeutschen Digitalthemen 2026.

Was war, was wird

Quo vadis, KI?

Seit dem Sommer (in diesem Newsletter zum ersten Mal im August erwähnt) dreht sich ein Großteil der Debatten rund um KI nicht um Benchmarks, Produkte oder Regulierung, sondern um die Frage, ob wir es mit einem “irrationalen Überschwang” zu tun haben, wie der Wirtschaftsnobelpreisträger Robert Shiller einst Investment-Blasen charakterisierte.

Die Umstände sind bekannt: Das Investitionsvolumen in KI-Rechenzentren entspricht inzwischen dem Vielfachen der Dotcom-Ära und wird durch Privatkredite und über bilanzfremde Konstruktionen wie Zweckgesellschaften (Special Purpose Vehicles, SPVs) finanziert. Schätzungen aus dem dritten Quartal zufolge standen bis zum dritten Quartal 2025 KI-Investitionen von 560 Milliarden US-Dollar Umsätzen von etwa 35 Milliarden Dollar entgegen. Gartner hat das erwartete Gesamt-Ausgabevolumen für 2025 sogar auf 1,5 Billionen US-Dollar beziffert. Bis 2030 könnten Big-Tech-Konzerne rund fünf Billionen Dollar (also 5000 Milliarden) Infrastruktur ausrollen; um das zu rechtfertigen, wären laut JPMorgan grob 650 Milliarden Dollar KI-Umsatz pro Jahr nötig, also fast das Zwanzigfache des Bisherigen.

Da sich noch kein klarer Marktführer herausgebildet hat, die Endverbraucherpreise niedrig und die Inferenzkosten (= Kosten für die Berechnung von Ergebnissen) zwar sinkend, aber noch zu hoch sind, bleiben die mittelfristigen Renditeerwartungen völlig unklar. Der Economist verweist auf Census-Bureau-Daten, nach denen der Anteil der Amerikaner, die KI am Arbeitsplatz nutzen, zuletzt bei etwa 11% lag – und bei großen Unternehmen sank. Einer Umfrage der Softwarefirma Dayforce zufolge zeigt sich eine massive Kluft zwischen Führung und Beschäftigten (87% Executive-Nutzung vs. 27% bei Beschäftigten). Die KI-Blütezeit ist also trotz offensichtlicher Produktivitätsgewinne noch nicht auf der Nachfrageseite angekommen (siehe auch “KI als normale Technologie”, Ausgabe #147).

Erschwerend kommt hinzu, dass KI-Chips (und damit die Investitionen in sie) eine begrenzte Halbwertszeit von drei bis fünf Jahren haben. Das führt dazu, dass neue Nvidia-Chipgenerationen zwar einen Gebrauchtmarkt entstehen lassen, aber den Wert bestehender Rechenzentren sinken lassen. KI-Rechenzentren sind also keine Immobilien mit Servern, sondern basieren auf einem ständig zu erneuernden Tech-Inventar.

Der KI-Boom ist verbunden mit einem massiven Ausbau der Stromversorgung. Die Autoren eines EPRI/Epoch-AI-Papers erwarten, dass einzelne Frontier-Training-Runs, die heute bei etwa 100–150 Megawatt liegen, bis 2028 1–2 Gigawatt erreichen könnten – und bis 2030 jenseits von 4 GW pro Training-Run. Die US-weite KI-Stromkapazität wird in dem Papier grob auf derzeit insgesamt 5 Gigawatt geschätzt und könnte bis 2030 auf über 50 GW steigen, sollte es beim bisherigen Paradigma immer größerer Modelle bleiben. Bislang scheint nur China in diesem Bereich für einen kompletten KI-Rollout gut aufgestellt.

Die Auswirkungen einer Korrektur würden neben der Techbranche den Finanz- und Versicherungsbereich ebenso betreffen wie das Energiewesen, also die Realwirtschaft. Zuletzt gab es erstmals wieder starke Nachfrage nach Credit Default Swaps, also außerbörslichen Finanzprodukten zur Rückabsicherung von Krediten, besonders für Finanzierungen von Oracle und dem Neocloud-Anbieter Coreweave. Dies kann als Zeichen wachsender Volatilität, mindestens aber von wachsendem Risikobewusstsein gewertet werden.

Wichtig für die kommenden Jahre wird die Refinanzierungsstruktur: Viele Projekte starten mit sogenannten „mini-perm“-Loans, die Laufzeiten von zwei bis fünf Jahren haben und für den Bau und die Ausstattung verwendet werden, also die Zeit bis zu relevanten Einnahmen überbrücken. Danach müssen diese Kredite auf den üblichen Finanzprodukt-Märkten (ABS/CMBS) „durchgerollt“ werden. Rechenzentren machen inzwischen 61% eines 79-Milliarden-Dollar-Markts für Digital-Infrastructure-Securitizations (ABS+CMBS) aus. Als Sicherheiten werden hier oft Cashflows angegeben, die zwar durch Verträge erwartet werden, aber noch nicht sicher verbucht werden können (“booked but not billed”).

Die großen Hyperscaler wiederum halten solche Kredite durch die Auslagerung in Special Purpose Vehicles (SPV), also unbilanzierte Projektkredite, von ihren Bilanzen fern. Sie haben aber – anders als Firmen wie Coreweave und OpenAI – im Falle einer sinkenden Nachfrage genügend Cashflow, um eine Korrektur abzufedern.

Wer nach 2026 nach Frühwarnzeichen sucht, sollte weniger einen Kursrutsch erwarten, sondern in die Finanzbranche blicken – auf verfehlte Einnahmeziele aus Rechenzentren, verschärfte Kreditklauseln und Refinanzierungsprobleme. Kurz: Ob aus ehrgeizigen Projekten plötzlich Lasten mit kompliziertem Kredit-Roll-Over werden.

Was man 2026 im Auge behalten sollte:

• Materialisieren sich die versprochenen Produktivitätsgewinne oder wird KI vor allem als Vorwand für Stellenabbau verwendet (vgl. Ausgabe #152)? Damit einhergehend: Gelingt es den KI-Anbietern, Industriekunden für mehr als Testprojekte zu gewinnen? Und: Werden Pilotprojekte fortgeführt oder mangels Produktivitätsgewinnen eingestampft?

• Werden die Investoren bei OpenAI ungeduldig, weil sich der Wachstumspfad weiter abflacht? Oder gelingt es der Firma, Großkunden für nennenswerte Verträge zu akquirieren und ein werbefinanziertes Modell aufzusetzen?

• Szenario für eine weiche Landung der KI-Branche: selektiverer Ausbau von KI-Rechenkapazitäten, stark fallende Inferenzpreise (auch durch Antwort-Caching etc.) bei parallel beschleunigter Adaption im Geschäfts- und Industriekunden-Kontext.

• Kommt es zu Refinanzierungsproblemen in der Peripherie? Dann würden nicht die Hyperscaler, sondern die Vehikel und Neocloud-Anbieter wie Oracle, CoreWeave, Nebius oder Lamda unter Druck geraten, die ihnen Kapazität vorfinanzieren und leasen. Zum Beispiel über Zinsentwicklung, Nichterfüllung von Vertragspflichten oder der Perspektive erschwerter Kredit-Refinanzierungen in den kommenden Jahren.

• Gibt es erfolgreiche technische Entwicklungen, die weg vom “größer ist besser”-Mantra führen, zum Beispiel vorangetrieben durch Open-Weights-Modelle? Damit einhergehen würde eine größere Gewissheit darüber, ob/dass nicht KI-Modelle, sondern die auf ihnen aufbauenden (Spezial-)Applikationen den Kern der Wertschöpfung darstellen (GPTs also eher wie Server oder DRAM zu betrachten sind).

• China priorisiert in den kommenden Jahren den Praxiseinsatz von KI (auch und vor allem in der Industrie), dennoch könnte hier durch neue Modelle ein neuer “DeepSeek-Schock” ausgelöst werden, der die Hochskalier-Strategie der USA ad absurdum führt und damit einen Krisenmoment an den Märkten auslöst.

• Was ich erwarte: Ein stärkerer medialer Fokus auf fehlendes Legacy-Tech-Geschäftsmodell (OpenAI) oder Cloud-Geschäft (Meta) bei der Bewertung der wirtschaftlichen Perspektiven von Modellanbietern.

• Worauf ich hoffe: Stärkere Berichterstattung über Details von Rechenzentrums-Krediten, zum Beispiel Kosten wie Reservekonten für Upgrades, Rücklagen für kundenspezifische Verbesserungen, Lease-Payment-Reserven, Risiko für Stranded Assets durch genauen Zuschnitt auf Einzelkunden.

• Wovon ich ausgehe: Details der Chip-Versorgung und -Entwicklungszyklen rücken noch stärker in den Mittelpunkt, zum Beispiel die Versorgung auf Sekundärmärkten, die Rechenpreise.

• Fokus auf Energie: Das US-Energieministerium prognostiziert immerhin, dass Rechenzentren bis 2028 zwischen 6,7 und 12 Prozent des US-Stromverbrauchs ausmachen könnten. Eine unterschätzte Entwicklung könnte deshalb das Stocken bei den Genehmigungen von neuer Energie-Infrastruktur sein, zum Beispiel durch Bürgerproteste wegen hoher Strompreise ausgelöst.

• Die Rolle Europas: Wo werden die KI-Gigafactories gebaut und sind sie überhaupt relevant? Ergeben sich branchen- und industriespezifische Einsatzszenarien von KI, die einen wirklichen Wettbewerbsvorteil bieten? Welche Rolle wird die Debatte über verfügbare Energie nach 2030 spielen? Werden wir mehr kompakte Modelle “made in Europe” sehen, die konkurrenzfähig sind?

Was ist mein Fazit daraus? Ich halte es im Moment für wahrscheinlich, dass wir auch 2026 mit der Erkenntnis “Es ist eine Blase” leben, ohne dass sie platzt – sofern das makroökonomische Umfeld halbwegs stabil bleibt. Die Marktkonsolidierung im KI-Bereich könnte mit einzelnen Fusionen und Übernahmen 2026 beginnen, aber erst zu einem späteren Zeitpunkt wirklich Fahrt aufnehmen. Der Unterschied zu den Tech-Innovationen der vergangenen 15+ Jahre (Social Media und Co.): Marktmacht würde weniger aus Nutzerbasis oder Feature-Tiefe entstehen, sondern sich vor allem aus der Refinanzierungsfähigkeit der jeweiligen Tech-Unternehmen ergeben.

Die Wahrheit aber ist: Im Moment lässt sich noch nicht wirklich absehen, wie groß die Wertschöpfung durch KI ausfallen wird, über welchen Zeitraum sich die Technologie verbreitet, wer am Ende von ihr profitiert und welche Parameter sich durch ein Platzen der KI-Kreditblase verschieben.

Jetzt abonnieren

Internetkultur I: Alles ist jetzt Fernsehen?

“Alles ist jetzt Fernsehen”, lautet die These, mit der der von mir sehr geschätzte Derek Thompson im Oktober viral ging: Alle Medienformen konvergieren demzufolge zunehmend zu einem einzigen Medium, das Fernsehen ähnelt. Von Social Media über Podcasts bis hin zu KI-generierten Inhalten wird alles zu einem Fluss aus Bewegtbild-Content.

Das Essay war damals noch unter dem Eindruck von Vibes und Sora entstanden, den KI-Videonetzwerken von Meta und OpenAI (siehe Ausgabe #150). Dieser Hype hat sich inzwischen gelegt. Aber der Trend zum Video ist nicht zu leugnen – komplexer Text wird immer stärker zum Elitenmedium (siehe u.a. Ausgabe #87)

Ein Teil des Contents fließt bei TikTok zusammen, manches bei Instagram, fast alles (weil mit einem großen Back-Katalog ausgestattet) bei YouTube. YouTube wird immer stärker auf dem Wohnzimmer-TV konsumiert; auch klassische Medien kommen an der Plattform nicht mehr vorbei und sorgen sich zudem, dass der Erfolg von Mikrodrama-Formaten in China sich auch im Westen fortsetzt. Die Content-Bandbreite von “User Generated Content” auf Seiten wie YouTube verläuft vom Pickle-Pepsi-at-home-Typen (Video 1), der Nostalgie für die Videos der frühen Zehnerjahre weckt, bis zur Hochglanz-Produktion von Alan’s Universe (Video 2).

2025 war das Jahr, in dem KI-Bewegtbild-Content erstmals eine größere Rolle spielte. 10 Prozent der am schnellsten wachsenden YouTube-Kanäle zeigen “AI Slop”, neu registrierte Nutzerkonten erhalten 20 Prozent KI-Videos angezeigt. Channels wie der KI-Affe Bandar Apna Dost haben Millionen von Abonnenten. Was wiederum menschliche Influencer und Creator nervös macht.

2026 wird das Jahr, in dem klarer werden dürfte, ob das Wachstum von KI-Content akzeptiert wird oder es eine Gegenbewegung gibt, auf die Plattformen mit Änderungen im Algorithmus oder Filtern für nicht-menschlichen Content reagieren müssen.

Internetkultur II: Lurking on

Das Wort “Lurking” geistert schon einige Jahre durch den Social-Media-Diskurs: Das “stille Mitlesen/Mitgucken” ist inzwischen für viele, vielleicht die meisten Nutzenden, der Modus Vivendi in den digitalen Massenmedien. Die Content-Produktion bleibt weitestgehend den Digital-Kreativschaffenden, uns LinkedIn-Kompetenzsimulierern und den Sendungsbewussten bis Radikalisierten überlassen.

Plattformen, die öffentlich einsehbar sind und/oder Nutzer mit hinterlegten Identitäten beherbergen, erscheinen inzwischen vor allem als Orte, um Signale zur eigenen Haltung kundzutun oder die Aufmerksamkeitsökonomie zu bedienen. Offenere und persönlichere Diskussionen verlagern sich weiterhin in anonyme Umfelder (Reddit, Discord) oder zu Dark Social (private Chatgruppen). Aus der Fragmentierung der Öffentlichkeit ist die Fragmentierung der Teil-Öffentlichkeiten geworden.

Dennoch zeigte Social Media im Jahr 2025 auch noch die alte Kraft, als es zum Medium für Jugendproteste im globalen Süden wurde. In Bangladesch wurde sogar der politische Übergang nach dem Sturz der Regierung auf Discord ausdiskutiert und teilweise ausverhandelt. Parallel dazu zeigten Diskussionen über ein Social-Media-Mindestalter, der Fall “White Tiger” oder die Rezeption der Netflix-Serie Adolescence den Wunsch nach stärkerer Jugendschutz-Regulierung.

Die Gewichte in der Debatte über Meinungsmanipulation und Radikalisierung verschoben sich mit der Rückkehr des Trumpismus an die Macht hin zu einer global-reaktionären Lesart, die die Kräfte des langjährigen Establishments und des Progressivismus 2025 überraschend unvorbereitet traf. Die Erkenntnis, dass sich globale Netzwerke zu Werkzeugen geopolitischer Hegemonie entwickelt haben, führte bislang noch nicht zu adäquaten Alternativen oder einer Gegenbewegung – was angesichts der oben angesprochenen Fragmentierung auch schwer vorstellbar erscheint.

Somit symbolisiert das “Lurking” auch die wachsende Kluft zwischen denen, die das Digitale als Bühne bespielen, und denen, die es nur noch wie eine Wetterlage ertragen. Omnipräsent, aber nicht veränderbar.

Doch je mehr Menschen lurken, desto mehr Raum bekommen die wenigen, die Sichtbarkeit professionell betreiben, ideologisch säen oder algorithmisch ernten. So wird Social Media zur Diskurssimulation: massenhaft ausgespielt und wirksam, aber nicht annähernd repräsentativ.

Vielleicht bestand unsere Naivität (auch meine eigene) darin, in den Nuller- und frühen Zehnerjahren kurzzeitig wirklich geglaubt zu haben, dass öffentliche soziale Medien die Kluft zwischen den Menschen verkleinern können und sich daraus etwas anderes als die Neusortierung in Mikro-Zielgruppen und das Hacking unserer Aufmerksamkeit durch Emotionsimpulse ergibt.

Krypto

Für Krypto-Anhänger war das Jahr, trotz des von Bitcoin angeführten Niedergangs in Q4, ein gutes Jahr: Der Markt für Stablecoins hat sich um mehr als 50 Prozent auf 300 Milliarden US-Dollar vergrößert; die politische Entscheidung der US-Regierung, die Stablecoins in das Finanz- und Wirtschaftssystem zu integrieren und der FEC-Aufsicht zu entziehen, wird weiter zu hohem Marktwachstum führen. Allerdings kann auch die strenge Rücklagepflicht (1:1 in Dollar-Reserven) nicht darüber hinwegtäuschen, dass Stablecoins durch die schnelle Einlage-Entnahmen im Falle eines Krisenszenarios das Bankensystem destabilisieren könnten (siehe Ausgabe #141).

Einen echten Fortschritt für Abermillionen Menschen könnte 2026 der Stablecoin von Western Union bedeuten, sofern sie wirklich deutlich weniger Gebühren für Geldtransfers in ihre Heimatländer zahlen werden. In Europa wird 2026 ein entscheidendes Jahr für den digitalen Euro als Alternative zu Stablecoins. Die Digitalwährung erfährt allerdings von verschiedensten Seiten Widerstand und lässt Fragen zum Praxisnutzen weiterhin offen.

Digitalpolitik als Geopolitik

Vielleicht lässt sich 2025 auch so zusammenfassen: Die Zeit der abstrakten “Netzpolitik” ist vorbei. Digitalisierungspolitik ist 2025 vor allem Geopolitik. Fragen von Datenschutz und Plattformregulierung stehen dabei neben Themen wie Rechenkapazitäten, seltenen Erden oder Exportkontrollen.

Die USA sehen dabei Compute, Cloud und den Großteil des KI-Stacks als geopolitisches Exportgut, dessen Erfolg Tech-Wirtschaft und Staat mit Markt- und sicherheitspolitischer Macht relativ synchronisiert vorantreiben. China wiederum organisiert seine technologische Entwicklung autark, aber inzwischen auch in Richtung Export gerichtet – nicht DeepSeek, sondern die tiefe Integration von Industrie und KI, die sich im nächsten Fünfjahresplan wiederfinden wird, ist hierfür das deutlichste Signal.

Europa steht dazwischen, als (fragmentierter) Markt, Regulierer und Abhängiger. Trotz einiger Vorbereitungen sieht es noch nicht so aus, als könnte die EU hier Handlungsfähigkeiten und Eigenständigkeit entwickeln. Dabei sind die Themen, um die es geht, nicht nur digitalisierungsrelevant (Kapitalmarktunion, echter Binnenmarkt). 2026 ist der Druck hoch, hier zu spürbaren Veränderungen zu kommen.

Teilen

Links

Kritik an US-Sanktionen gegen HateAid.

TikTok-Deal unterschrieben.

Chinas KI-Vorteil: Günstige Energie. ($)

Wahlkampf in Indien: Slop überall.

So einfach ist Data Poisoning.

Ein anderer Blick auf WSIS+20.

Was für und was gegen ein Social-Media-Verbot für Jugendliche spricht. (€)

Angst vor dem Komfort der KI-Zukunft.

Oberstes Gericht von Pennsylvania: Kein Recht auf Privatsphäre.

Die “heißesten” Rechenzentren der Welt.

Briefing über KI-Agenten. (€)

KI-Bildgeneratoren werden besser, indem sie schlechter werden.

120.000 IP-Kameras in Südkorea gehackt.

Tech-Whistleblowing als Karrierekiller.

KI und Weltmodelle.

Algorithmische Preisbildung in den USA – was könnte schiefgehen? ($)

KI-Outputregeln haben immer Lücken.

Neues vom Trump-Phone.

Was genau ist Slop?

Wir lesen uns 2026!

Johannes

Appetizer aus dem Tagesspiegel Background

1&1 vs. Vodafone: Konnte 1&1 die vorgeschriebenen Mobilfunk-Ausbauziele nicht erreichen, weil man von Vodafone behindert wurde? Die unendliche Kartellrechtsgeschichte geht nun in eine neue Runde. Lisa Oder mit dem Überblick.

Länder-Vorstellungen zum Deutschlandstack: Benjamin Hilbricht über die Beschlüsse der Digitalministerkonferenz und die Vision für das Deutschlandstack, die sich aus ihr ableiten lässt.

AfD-Anfragen und KRITIS: Späht die AfD mit parlamentarischen Anfragen die KRITIS-Lage aus? Dieser Verdacht stand in den vergangenen Wochen im Raum. Theresa Locker erweitert die Fragestellung um das Thema Informationsfreiheit. Um die ist es ohnehin schlecht bestellt.

IT-Vorbehalt: Das Vetorecht des Digitalministeriums über die IT-Ausgaben des Bundes war mit Spannung erwartet worden. Hier die Analyse, was drinsteht.

Cybersicherheit im Digital-Omnibus: Josefine Kulbatzki und ich über die vereinfachten Meldewege für IT-Vorfälle, die im Entwurf für den Digital-Omnibus zu finden sind. Fazit: Der Plan hat noch einige Fragezeichen und einiges wurde noch nicht zu lösen versucht.

Backlash gegen die Digitalisierung der Jugend

Wenn am 10. Dezember das Social-Media-Verbot für Unter-16-Jährige in Australien in Kraft tritt (siehe Ausgabe #116), ist der vorläufige Höhepunkt der Gegenreaktion gegen die digitalisierte Jugend erreicht.

Vielleicht ist das der Beginn einer Form von Jugendbeschränkung, wie wir sie bei Zigaretten und Alkohol haben. Vielleicht auch nur der Höhepunkt einer moralischen Panik, die sich eher mit symbolischen Verboten als mit einem adäquaten Umgang der Erwachsenen mit dem Verhalten ihrer Kinder beschäftigt. Fragen zur technischen Umsetzbarkeit bleiben zusätzlich offen.

Wir werden hoffentlich zügig herausfinden, was ein Social-Media-Verbot bringt: Das australische Experiment wird mit einer großangelegten Vorher-Nacher-Studie unter 13- bis 16-Jährigen begleitet. In einer (sehr kleinen und nicht repräsentativen) Umfrage geben australische Jugendliche an, dass ihre Eltern nur die negativen Seiten von Social Media verstehen, nicht die positiven. Und dass es eher darum gehen müsse, den Content sicherer zu machen, den sie zu sehen bekommen. Was erst einmal durchaus vernünftig klingt, aber politisch und gesellschaftlich der mühsamere Weg als ein pauschales Verbot wäre.

Die Social-Media-Verbotsdebatte kann an sich aber natürlich nicht ohne die angrenzenden Felder betrachtet werden. Da wäre zum Beispiel das etwas anders gelagerte Smartphone-Verbot in Schulen. In diesem Schuljahr haben Bremen, Schleswig-Holstein und Hessen sogenannte Smartphone-Verbote bzw. (in Hessen) “Smartphone-Schutzzonen” eingeführt. In Ländern wie Frankreich dagegen gibt es solche Verbote für Grund- und Mittelschulen schon seit 2018, sie wurden zuletzt verschärft.

Erstaunlicherweise gibt es aus Frankreich offenbar sehr wenige Auswertungen, ob diese Regelung sich bewährt hat. Eine Studie aus dem Lancet kommt zum Beispiel für Großbritannien zu dem Schluss, dass erzwungene Smartphone-Abstinenz während der Schulzeit nicht zu größerem Wohlbefinden der Jugendlichen führt. Verbunden ist das mit dem Hinweis auf Rebound-Effekte: Wer in der Schule keinen Zugriff auf sein Smartphone hat, aber zu exzessiver Nutzung neigt, holt das Verpasste in der Freizeit nach. Und die besten PISA-Ergebnisse in Mathematik erreichten Schülerinnen und Schüler, die ihre Geräte für einen moderaten Zeitraum zum Lernen nutzten (nicht aber für Freizeitaktivitäten). Zugleich zeigen Übernutzung und Ablenkung deutlich negative Effekte. Ist es also der Inhalt, der den Unterschied ausmacht? Oder die Disziplin?

Die New York Times weist in diesem Zusammenhang darauf hin, dass sich auch der Trend zum digitalisierten Schulunterricht inzwischen etwas abgekühlt hat. Wir kennen die Trendwende in Schweden und auch die deutschen Debatten. Wissenschaftlich ist die Studienlage hier differenziert bis uneindeutig: So scheint sich zu zeigen, dass Tablets als Lerngeräte nur dann funktionieren, wenn sie nicht Papier digital nachbilden, sondern Software systematisch für adaptives Feedback eingesetzt wird - also der Schritt zur Individualisierung gemacht wird.

Letzteres ist natürlich das große Versprechen des Einsatzes von Künstlicher Intelligenz in der Bildung. Neben den klassischen Sorgen - Hausaufgaben werden überflüssig, Lernpfade bleiben ungenutzt, weil ChatGPT die Antworten liefert - gibt es auch die Hoffnung, mit Hilfe von KI Schülerinnen und Schüler gezielter nach ihrem Leistungsstand zu fördern. Der Economist hat die aktuelle Debatte in seiner jüngsten Ausgabe abgebildet.

Dabei wird auch klar: KI kann soziale Kompetenzen und das Lernen in der Gemeinschaft nicht vollständig ersetzen, da wichtige Fähigkeiten wie Zusammenarbeit und Konsensfindung im Klassenverband vermittelt werden. Diese Erkenntnis macht durchaus Hoffnung: Denn der Einfluss digitaler Werkzeuge und Kommunikationsmittel auf die sozialen Kompetenzen von Jugendlichen sollte einer der wichtigsten Aspekte sein, wenn wir über die Folgen von Smartphone, Social Media und KI für Heranwachsende sprechen.

Jetzt abonnieren

China: Stärkere Kontrolle und “predictive governance”

Am 28. November tagte das Politbüro der KP Chinas zum Thema Internet-Governance. Wie Sinocism berichtet, deutet sich eine stärkere Einschränkung der digitalen Influencer-Szene an, aber auch eine stärkere Nutzung von KI zur Meinungsbildung.

Konkret erging die Anweisung, finanzielle Anreizstrukturen rund um das Social Web zu zerschlagen. Dabei stehen nicht so sehr einzelne Influencer, sondern Plattformen, Agenturen, Multi-Channel-Networks und andere Firmen im Mittelpunkt, die mit klickstarkem und aus Sicht der KPCh offensichtlich politisch problematischem Inhalt Geld verdienen.

In diese Richtung soll offenbar auch KI ausgerichtet werden. Pünktlich zur Sitzung veröffentlichte ein Zensurbehörden-Vizechef einen Gastbeitrag in einem Fachmedium. Dort heißt es (übersetzt und gefettet) zum Thema KI:

“Wir müssen den Aufbau autonomer und kontrollierbarer Mainstream-Korpora beschleunigen, Mainstream-Korpora zum Trainieren großer Modelle künstlicher Intelligenz nutzen und sicherstellen, dass die sozialen Kernwerte des Sozialismus in ihnen verankert sind. Wir müssen weiterhin vorausschauend planen und sicherstellen, dass Werte in neuen technologischen Anwendungen von Anfang an berücksichtigt und integriert werden.”

Für die KI-Entwicklung dürfte das also eine stärkere Ideologisierung der chinesischen Modelle bedeuten, was ja im Kontext von Open-Weight-Models auch für Europa relevant ist.

Ein weiterer Punkt: Staatschef Xi Jinping hat die Offiziellen im Land indirekt dazu aufgefordert, KI für ein besseres Verständnis der Stimmung in der Bevölkerung und vorausschauende politische Entscheidungen (“predictive governance”) zu nutzen.

Kann man daraus schließen, dass gerade in der öffentlichen (digitalen) Meinungsbildung und ihrer Unterdrückung etwas gegen den Willen der KPCh läuft? Ein Oppositionsmedium aus dem Exil suggeriert das und weist auf die Abwesenheit einiger relevanter Akteure aus dem Bereich Internet-Kontrolle bei besagter Sitzung hin.

Ich kann diese Kreml-Astrologie nicht bewerten. Aber dass die KPCh mit der ideologischen Kontrolle von KI-Output vor einem kniffligen Problem steht, ist ja keine Neuigkeit.

KI-Blase: Wo der Dotcom-Vergleich in die Irre führt

Der erfahrene Tech-Journalist Tim Culpan (Ex-Bloomberg) hat die hilfreichste “Was-wird-aus-der-KI-Blase”-Analyse der vergangenen 14 Tage geschrieben. Zum einen, weil sie einmal etwas klarstellt: Der Vergleich zwischen KI-Boom und Dotcom-Boom (siehe Ausgabe #146) muss etwas präziser gezogen werden.

So waren die eigentlichen Dotcom-Firmen verbraucherorientierte Unternehmen mit vergleichsweise geringen Investitionen in harte Infrastruktur, dafür mit hohem Marketing- und Wachstumsaufwand (vgl. Pets.com). Die Internetanschluss-Telkos hingegen waren B2B-Infrastrukturanbieter, zur Dotcom-Zeit enorme Summen in physische Netze stecken mussten.

Heutige KI-Unternehmen tragen für Culpan Züge beider Modelle: Sie sind zugleich produkt- und marketingnah wie die Dotcoms, aber auch kapital- sowie infrastrukturlastig wie die Telkos. Damit lassen sie sich in keine der beiden Kategorien sauber einordnen.

Culpan sieht im Moment auf der Endanwender-Ebene kein Produktfeature, dass es Nutzern unmöglich machen würde, schon morgen zu einem anderen Anbieter mit einem ähnlichen Produkt zu wechseln. Es gibt also keinen “Moat”, keinen Burggraben für das Produkt. Entsprechend klassifiziert er die KI-Anbieter zunächst einmal als Token-Hersteller.

Die KI-Token-Herstellung ähnelt für ihn dabei der Produktion von dynamischen Arbeitsspeichern (DRAM): Beide sind kapitalintensiv, technologisch schnelllebig und erfordern ständige Investitionen. Wie im DRAM-Markt wird sich die AI-Branche deshalb auf wenige große, finanzstarke Player konzentrieren, so die Prognose. Für KI-Anbieter, die Teil eines Konglomerats sind (also Googles Gemini etc.), sieht er gute Überlebenschancen - für alleinstehende Firmen wie OpenAI und Anthropic nicht.

Es ist ja dieses Jahr klargeworden, dass eine Firma wie OpenAI mit 20-Dollar-pro-Monat-Abos für Privatkunden nicht weit kommen wird. Und dass man selbst mit Geschäftskunden Lizenzbedingungen abschließen müsste, die ziemlich schwer vermittelbar sind. Szenarien, in denen Konzerne wie Pfizer hohe Umsatzbeteiligungen für dank GPT entdeckte Wirkstoffe entrichten und damit Jahr für Jahr Hunderte Millionen Euro in die OpenAI-Kassen spülen würden, wirken derzeit wenig plausibel; es ist wahrscheinlicher, dass sich der Markt für die Spezialanwendungen sehr stark ausdifferenzieren wird (worin übrigens die große europäische Chance liegt).

Culpan formuliert es so (übersetzt):

“Anwendungsentwickler – diejenigen, die KI-Modelle nutzen, um die Produktivität zu steigern, Kosten zu senken oder völlig neue Produktkategorien zu schaffen – werden die Zukunft bestimmen. Viele Modellentwickler werden jedoch vom Markt verschwinden.”

P.S. In diesem Zusammenhang ebenfalls interessant: Bridgewater vs. Paul Kedrosky und die Frage, ob Google Gemini 3 ein Beweis dafür ist, dass wir weiterhin einen funktionierenden Wettbewerb der Rechenkraft erleben (Bridgewater) oder wir bereits in einer Phase der abnehmenden Erträge sind (Kedrosky).

Teilen

Der erste politische Online-Wettbetrug

Die rasante Entwicklung von Online-Prognosemärkten ist für mich das vielleicht wichtigste Nischenthema aus dem vierten Quartal dieses Jahres (siehe Ausgaben #151 und #152). Nun schreibt 404 Media (Zitat übersetzt und gefettet):

“Eine Live-Karte, die die Frontlinien des Krieges in der Ukraine verfolgt, wurde bearbeitet, um einen falschen russischen Vormarsch auf die Stadt Myrnohrad am 15. November anzuzeigen. Die Bearbeitung fiel mit der Entscheidung einer Wette auf Polymarket zusammen, einer Website, auf der Nutzer auf alles wetten können, von Basketballspielen über Präsidentschaftswahlen bis hin zu aktuellen Konflikten. Wenn Russland Myrnohrad bis Mitte November eingenommen hätte, hätten einige Spieler Geld gewonnen. Laut der Karte, auf die sich Polymarket stützt, sicherten sie sich die Stadt kurz vor 10:48 UTC am 15. November. Die Wette wurde entschieden, und dann wurde die Karte auf mysteriöse Weise erneut bearbeitet, und der russische Vormarsch verschwand.”

Virtuelle Grenzverschiebungen, um eine Wette zu gewinnen… Man nennt das wohl Kriegsgewinnler?

Ich kann nur gebetsmühlenartig wiederholen: Prognosemärkte mögen aus der Logik der “Weisheit der Vielen” entstanden sein; in Gestalt von Firmen wie Polymarket sind sie längst ein Werkzeug der “Financialization of everything” geworden, also des bereits Jahrzehnte andauernden Megatrends, die Logiken der Finanzmärkte immer weiter auf die verschiedensten Bereichen unseres Lebens auszudehnen. Die von 404 Media beschriebene vergleichsweise harmlose Online-Datenbankmanipulation ist nur der Anfang dessen, was droht, wenn wir das politische Geschehen in eine Wett- und Investmentlogik einbeziehen.

Everybody Works In Sales

Wenn ich oben vom Siegeszug der Finanzlogik im 21. Jahrhundert schreibe, dann wird dieser nur noch von der Allgegenwärtigkeit des Social-Media-Marketings in den Schatten gestellt. Das Wall Street Journal berichtet darüber, dass Unternehmen wie Starbucks und Delta Mitarbeitende verstärkt als Social-Media-Influencer nutzen und auch beim Recruiting auf deren entsprechende Reichweite und Skills achten.

Das klingt im Jahr 2025 völlig logisch und nicht einmal neu. Und doch will ich in diesem Meer von TikTok-Büroarbeitenden, Instagram-Baristas, LinkedIn-Dauerkommentatoren und Bluesky-Wissenschaftlern kurz daran erinnern, dass Firmen- und Selbstmarketing vor ein paar Jahren noch nicht diese Ausmaße hatte.

Vor ungefähr zehn Jahren meinte mal ein Entwickler, der eine sehr wichtige, aber weitestgehend unbekannte Programmiersprache beherrschte: Ich weiß, dass ich mit meinem Handwerk so gut bin, dass Selbstmarketing bei LinkedIn und Co. für mich noch keine große Rolle spielt. Aber ich weiß auch, dass die Relevanz dieses Selbstmarketings so stark wächst, dass es irgendwann das entscheidende, vielleicht das einzige Kriterium für meine Karriere sein wird.

Je intensiver in den vergangenen Jahren der Kampf um die Sichtbarkeit wurde (Stichwort algorithmisierte Timeline & Creator-Economy), desto stärker schlug dieser Trend durch. Wir befinden uns inzwischen auch außerhalb offensichtlich betroffener Branchen wie Öffentlichkeitsarbeit und Journalismus nahe an dem Punkt, den der Entwickler beschrieben hat. Everybody Works In Sales, für sich selbst und für seine Firma. Und bitte die markenkonforme Authentizität nicht vergessen, ja?

X und Geodaten

X.com zeigt nun an, aus welchen IP-Regionen Accounts betrieben werden. Das Resultat hat Bloomberg beschrieben (übersetzt und gefettet):

“Ein verifizierter Pro-Trump-Account mit fast 600.000 Followern, dessen Inhalte von Trump selbst geteilt wurden, hat laut den Daten von X seinen Sitz in Indien. Dieser Account änderte anschließend seine Biografie und gab an, dass er von einem Inder betrieben wird.

Andere beliebte Accounts sowohl der Linken als auch der Rechten wurden nach der Änderung gesperrt, darunter einer mit 53.000 Followern, der sich als „stolzer Demokrat” aus New Jersey ausgab, aber seinen Sitz in Kenia hatte. Zu den weiteren gesperrten Accounts gehörten ein Account mit Sitz in Nigeria mit mehr als 1 Million Followern und ein Account mit 70.000 Followern, der von Bangladesch aus betrieben wurde.

Es gibt unzählige weitere Beispiele, die weiterhin sichtbar sind.”

Links

Fehlende Daten für die Wissenschaft: EU-Kommission bestraft X

Krypto und der Crash zum Jahresende. (€)

Doge, Krypto und das Ende der LOL-Ära. (€)

Metas Abkehr vom Metaverse erfreut die Börse.

Die US-Notenbank wird KI nicht retten können.

Code Red: Warum bei OpenAI die Hütte brennt. (€)

Follow-up: Was in Nepal nach der Social-Media-Revolution folgt. (€)

441 Slides zu Social Media 2025.

Die politischen Überredungskünste von KI.

Agentische KI-Slop-Konten: Eine Analyse.

Achtung, Roboter-Blase (in China)! ($)

Fünf Jahre Metas “Oversight Board” - eine Bilanz. ($)

Datenbank mit nicht-konsensualen KI-Nacktbildern geleakt.

Großbritannien überlegt, Krypto-Parteispenden zu verbieten.

KI-Modelle: Chinas Vorteil gegenüber den USA. (€)

Saudi-Arabiens KI-Offensive (und was Europa darüber wissen muss).

Stärkere Regulierung von KI-Rechenzentren in Kalifornien gescheitert.

Mimetische Infektion.

Offener Brief an KI-Content-Publizierer

YouTube-Slop, aber für Babys. ($)

KI vs. Porno-Branche. (€)

Alle nutzen KI, aber es ist unpopulär. Warum?

Das Cloud Sovereignty Framework der EU - eine Analyse

Hotels, Menschenhandel und Gesichtserkennung.

Der neue Browser-Konflikt.

Zerstört KI Meinungsumfragen? (€)

AI Eats the World (Benedict Evans)

Interview mit einem erfolgreichen YouTube-Scriptwriter.

Youtube-Nostalgie

Seltsame Dinge passieren mit Apples Podcast-App.

Wie das Emoticon erfunden wurde.

Surfen als wäre es 2022.

Die TikTokifizierung der Thanksgiving-Parade. ($)

Bis zum nächsten Mal!

Johannes

Appetizer aus dem Tagesspiegel Background

Der Digital-Omnibus… war ein Großthema der vergangenen Wochen, bei uns unter anderem in der Analyse des geleakten Entwurfs, der Nutzung persönlicher Daten für KI-Training im Sinn des “berechtigten Interesses” und der Verschiebung der Hochrisiko-Fristen. Die Reaktionen nach der offiziellen Vorstellung haben wir natürlich auch eingesammelt.

Interview mit KI-Forscherin Cecilia Rikap: Cecilia Rikap untersucht die Vernetzung der universitären KI-Forschung mit den großen KI-Anbietern. Auch wenn Rikap die Ergebnisse aus einer eindeutig linken Perspektive einordnet, sind ihre Erkenntnisse derart relevant, dass man ihr unbedingt zuhören sollte. Alexandra Ketterer hat das Interview geführt.

KI-Crawling und Urheberrecht: Derzeit wird in Medienbranchen-Kreisen ein Papier geteilt, an dem ich im Frühsommer mitgewirkt habe. Darin geht es um die Urheberrechtsfragen für Medienhäuser, die durch das KI-Crawling entstanden sind. Wir beim Background begleiten das Thema ebenfalls regelmäßig: Friederike Moraht hat zum Beispiel das folgenreiche Urteil des Landgerichts München zu Gema vs. OpenAI analysiert und den politischen Puls rund um das Jahrestreffen der Initiative Urheberrecht gemessen. Monika Ermert wiederum hat die Sitzungen der Internet Engineering Task Force (IETF) verfolgt, die sich eigentlich auf einen technischen Standard für KI-Crawling einigen wollte, dies aber aufgrund allzu heftiger Differenzen verschieben musste.

Es wird ernst in Sachen digitaler Neuroethik: Die Weltgemeinschaft hat sich im Rahmen eines Unesco-Prozesses auf Leitlinien für den Umgang mit Neurodaten und Computer-Zugängen für menschliche Gehirne geeinigt. Ute Korinth hat die Details aufgeschrieben.

Neue Krypto-Besteuerung: Ab dem kommenden Jahr fallen lizenzierte Krypto-Börsen unter die neue EU-Regulierung. Das bedeutet unter anderem, dass sie Daten an die Steuerbehörden weitergeben müssen, die dann entsprechend Spekulationsgewinne besteuern können. Warum das alles in der Praxis gar nicht so einfach wird, habe ich Anfang November aufgeschrieben.

Und damit zum Newsletter:

Finale Notizen zum “Europäischen Gipfel zur Digitalen Souveränität”

Beginnen wir auf der Meta-Ebene: Ich kann verstehen, wenn der europäische Gipfel zur digitalen Souveränität viele hier ratlos zurücklässt. Mein eigenes Fazit ist ebenfalls gemischt. Aber die Pauschalkritik, die dann wieder von den üblichen Akteuren kommt, wird dem Ganzen nicht so wirklich gerecht.

Ich fand, es gab vor allem einen sichtbaren Unterschied zu den sonstigen Digitalgipfeln: Es fand eine europäische - und natürlich speziell deutsch-französische - Vernetzung statt, die nochmal sehr wichtig werden kann. Auf den klassischen Digitalgipfeln schmoren die deutschen Akteure oft im eigenen Saft, jeder hat mit jedem schon Geschäfte gemacht oder kennt die Positionen; in Berlin am Dienstag wurde diese Selbstreferenzialität einmal aufgebrochen. Und natürlich kann man darüber die Augen rollen, dass die EU-Länder erst jetzt damit anfangen, ihre Digitallösungen nebeneinander zu legen und strategisch zu vergleichen, was man gegenseitig übernehmen könnte - aber es muss halt einfach mal gemacht werden.

Ich hatte im Background am Montag den geopolitischen und wirtschaftlichen Kontext ausführlich umrissen. Davon lässt sich viel ableiten: Natürlich wäre es ein Signal gewesen, hätte sich wirklich ein Dax-Konzern mal zu „Buy European“ bekannt. Aber die wirtschaftliche Lage ist schlecht, die angebotenen Produkte sind noch zu verstreut und schlecht integriert und natürlich haben gerade exportorientierte Konzerne auch Geschäftsinteressen in den USA (und auch in China). Mehr dazu wie gesagt in der Analyse beim Background.

Mehreren Menschen, mit denen ich gesprochen habe, ist durchaus aufgefallen, dass Bundeskanzler Friedrich Merz „Buy European“ sehr viel offener und offensiver als sein Digitalminister Karsten Wildberger thematisiert hatte. Wildberger wiederum vermied - qua fehlender offizieller Festlegung der Bundesregierung - nicht nur eine Positionierung zu “Buy European”, sondern stieg auch der CSU nicht auf die Füße und rechtfertigte den Einsatz von Palantir unter bestimmten Bedingungen. Womit einmal mehr die Frage im Raum steht, die ich in den vergangenen Monaten häufiger gehört habe: Weiß Wildberger, dass er eigentlich viel mehr Freiheiten hat, als es qua Amt den Anschein hat? Und wenn ja: Warum nutzt er sie nicht?

Eine Antwort könnte sein: Weil sich die Bundesregierung de facto in allen wirtschaftlichen Politikfeldern darauf festgelegt hat, dass Vereinfachung der Schlüssel für den Erfolg ist. Das ist nicht nur mit Blick auf die künftige Haushaltsentwicklung nachvollziehbar, sondern auch, wenn man sich daran erinnert, wie ineffektiv die Digitalprogramme der EU funktionierten oder wie viel aus den Corona-Mitteln für die OZG-Umsetzung in teure Beraterverträge floss.

Und doch macht man es sich mit dem Bashing der EU und ihrer Vorgaben zu einfach - mit der Problembeschreibung wie mit der Lösung. Wenn man sich schon mit konkreten Investitionen zurückhält und eher “Signale” setzen möchte, hätte man zumindest beim „Staat als Ankerkunden“ konkreter sein müssen - das Minimum wäre ein festgelegter Prozess gewesen. So bleiben zurecht Zweifel, ob das Thema digitale Souveränität wirklich Priorität genießt oder man einfach bis zum Ende der Legislaturperiode ein bisschen hie und da einkauft und herumexperimentiert.

Bei den Franzosen wiederum war offensichtlich, dass für sie eigentlich nur das Thema KI zählt. Es war eine Dauerschleife, die teilweise schwer zu ertragen war. Mit Mistral sieht Paris seine Schäfchen im Trockenen, nun geht es nur noch darum, den Rest von Europa zu B2B-Kunden des Start-ups zu machen. Von einem „Airbus für KI“ ist entsprechend keine Rede mehr, hier verlagert sich der französische Blick eher in Richtung eines “Airbus für Quantencomputing”.

Die Vertreter kleinerer Länder, mit denen ich sprechen konnte, sehen das alles durchaus mit Interesse - wissen aber, dass sie auf dem Rücksitz Platz nehmen müssen. Natürlich haben sie die Sorge, dass am Ende (wieder einmal) deutsche und französische Firmen Großaufträge bekommen und vom Souveränitätstrend profitieren; allerdings steht man eher auf der Position, dass es gut ist, dass Deutschland die Digitalisierung als Schlüsselthema endlich erkannt hat.

Interessant fand ich in diesem Zusammenhang auch das Gespräch mit jemandem aus einem kleinen osteuropäischen Land. Der sagte sinngemäß: Schön und gut, natürlich sind wir offen, wenn US-Firma XY KI-Rechenzentren bauen möchte. Aber wir sehen natürlich die steigenden Strompreise in den amerikanischen Gegenden, wo plötzlich solche Großprojekte große Stromkapazitäten binden und die Finanzierung des gestiegenen Bedarfs letztlich sozialisiert wird. Und genau diesen Unmut, der deshalb entsteht, möchten wir uns sparen.

Übrigens gab es tatsächlich eine Sache, für die Deutschland beneidet wird: Für die quasi unbegrenzten Rüstungsausgaben, die die Bundesrepublik in den kommenden Jahren tätigen kann und die auch in Defence Tech fließen werden. In der Digitalisierung sieht Frankreich Deutschland nicht auf Augenhöhe; im Militärbereich hat man Sorge, innerhalb der nächsten zehn Jahre überholt zu werden.

Jetzt abonnieren

Neue Notizen zu KI

Bubble-Talk

Die Debatte über eine mögliche KI-Blase hat sich in den vergangenen Wochen von der Frage, ob eine Blase existiert, hin zum Rätselraten verlagert, wie diese Blase denn konkret beschaffen ist und was ihr absehbares Platzen auslösen würde. Selbst Vertreter von Tech-Firmen reden offen über das Thema. Und dass Peter Thiels Investmentfirma ihre Nvidia-Anteile verkauft hat, zeugt von größerer Bubble-Sorge (oder davon, dass man Kohle für irgendwelche Rechzentrumsprojekte braucht).

Mein Stück aus Ausgabe #146 zu den Zusammenhängen ist weiterhin relevant, ich will aber noch auf ein paar Details eingehen. Zum Beispiel die Frage: Was passiert, wenn die Blase platzt, weil eine Markt-Massenreaktion auf die Erkenntnis einsetzt, dass die Investitionen nicht so schnell wie erhofft Renditen abwerfen?

Der Economist hat hierzu ein relativ konkretes Szenario: US-Verbraucher sind besonders betroffen, weil die Rechenzentren-Kredite als Finanzprodukte in Rentenplänen, Investmentfonds und börsengehandelte Fonds sowie den Portfolios von Privatanlegern zu finden sind. Der darauffolgende Einbruch der Konsumnachfrage würde aber auch den Rest der Welt treffen, zumal das Wirtschaftswachstum in den USA ja maßgeblich von den KI-Rechenzentrumsprojekten abhängig ist.

Auch in der Tech-Branche dürften sich einige Gewichte verschieben, denn de facto sind die Konzerne zwar hochprofitabel, aber der Eindruck täuscht insofern, als die Finanzierungskredite eben aus den Bilanzen ausgelagert sind. Eine richtig gute Analyse dazu habe ich aber noch nicht gefunden.

Bloomberg hatte jüngst eine gute Analyse der Privatkreditmärkte, die mehr oder weniger unreguliert sind und die einen großen Teil der KI-Kapazitäten finanzieren. JPMorgan-Chef Jamie Dimon spricht von Kakerlaken und spricht von einem Problem, das der Subprime-Krise der Nullerjahre deutlich ähnelt. Das Problem ist, dass Privatkredite häufig illiquide sind, also nicht einfach verkauft werden können. Dazu gibt es Probleme mit zweifelhaften Ratings. Und eine Verflechtung mit dem Banksektor, der die Privatkredite oft finanziert. Wenn nun mehrere Großkreditnehmer gleichzeitig ausfallen, ist das Risiko auch für den klassischen Bankensektor immens.

Haftungsfragen bei KI-Verleumdung

“Wer bezahlt, wenn sich die KI irrt?”, fragt die New York Times. Hinter der zahmen Überschrift verbirgt sich tatsächlich eine Form von Großrisiko für KI-Anbieter: Mehrere Menschen und Firmen verklagen Google und OpenAI, weil Chatbots in ihren KI-Antworten Falschbehauptungen aufgestellt haben. Zum Beispiel über eine Handwerkerfirma aus Minnesota, der Gemini in Googles KI-Modus juristische Probleme wegen irreführender Verkaufspraktiken andichtete. Dadurch gingen der Firma fast 400.000 Dollar an Umsatz verloren.

Den konkreten Verlust zu beziffern, wird nicht immer so einfach sein wie bei der Handwerkerfirma, die de facto schlicht die Vertragskündigungen finanziell zusammenrechnete. Allerdings tut sich mit diesem neuen Konflikt auch eine Frage auf: Können Anbieter von KI-Chatbots sich wirklich noch als Medien-Intermediäre, die nur Informationen auswerten und ausspielen, bezeichnen?

Das ist tatsächlich auch in Europa sehr relevant: Denn ein neues Haftungsregime, das Google, OpenAI und anderen eine stärkere Verantwortung für die Inhalte gibt, die in den Chatbot-Antworten verbreitet werden, würde deutlich höhere Qualitäts- und auch Prüfungsanforderungen an die Anbieter einer solchen Software stellen.

KI, Arbeitsplatzabbau und “AI Washing”

Die US-Techfirmen bauen - angesichts der Großinvestitionen in KI und den erwarteten Produktivitätsgewinnen bei Programmiertätigkeiten - weiter Jobs ab und auch die “alte” Wirtschaft verhehlt laut Bloomberg nicht mehr, dass sie Stellen wegen der erhofften Effizienzgewinne durch KI streichen. Beziehungsweise, wie der Vertreter eines Personaldienstleisters formuliert:

„Sie sprechen davon, diese Aufgaben in Zukunft mit KI zu erledigen, was einer Art ‚KI-Washing‘ gleichkommen kann. Sie geben der KI die Verantwortung, obwohl sie nicht der einzige Grund für die Entlassungen ist.“

Freddie deBoer stellt in diesem Zusammenhang in seinem Newsletter die Grundsatzfrage: Kann Arbeitsplatzabbau überhaupt ein Signal für den Erfolg oder Misserfolg von KI bei der Übernahme menschlicher Tätigkeiten sein? Seine Antwort lautet: Nein. Übersetztes längeres Zitat:

“Sie werden immer wieder hören, dass „es diesmal anders ist“. Und vielleicht ist es das auch wirklich; es gab echte Verbesserungen im Bereich des maschinellen Lernens und der Automatisierung. Aber Unternehmen können und werden Arbeitsplätze abbauen, weil sie aufrichtig davon überzeugt sind, dass Code den Menschen ersetzen kann, auch wenn diese Überzeugung falsch ist. Die Wirksamkeit einer Technologie wird nicht dadurch bewiesen, dass man sie in einem Memo an den Vorstand ankündigt oder eine Verringerung der Mitarbeiterzahl anführt. Effektivität erfordert einen nachhaltigen Betrieb unter den chaotischen Bedingungen der realen Welt: Zuverlässigkeit, Wartbarkeit, die Fähigkeit, Sonderfälle zu bewältigen, die Integration mit menschlichen Teams sowie das politische und regulatorische Umfeld.

Unternehmenserklärungen über KI-gesteuerte Effizienz sind performative Handlungen; sie richten sich an die Märkte und nicht an eine strenge Überprüfung. Das ist ein wichtiger Teil davon, die Tatsache, dass diese Unternehmen mehr daran interessiert sind, ihre Aktienkurse zu manipulieren, als an irgendetwas anderem. Was sie sagen, ist nicht verlässlich, weil sie unter ständigem, starkem Druck stehen, eine Fassade für die Märkte aufrechtzuerhalten.

KI die Schuld zu geben, ist billig und einfach. Es ist eine Erzählung, die Führungskräfte von ihrer Verantwortung entbindet und der Öffentlichkeit gleichzeitig einen passenden Bösewicht in einer Zeit tiefgreifender Angst vor Technologie bietet. „KI war schuld” ist besser als „wir haben Personal abgebaut, weil wir das Quartalsziel der Wall Street erreichen wollten”. Es signalisiert modernste Modernität, um Analysten zu beschwichtigen und gleichzeitig die Kritik an der Unternehmensführung abzulenken.”

AGI als Verschwörungstheorie

Will Douglas Heaven, der inzwischen seit mehr als einem Jahrzehnt über KI berichtet, hat eine These: Artificial General Intelligence (AGI) ist die folgenreichste Verschwörungstheorie unserer Gegenwart. Er belässt es nicht bei einem schnellen Take, sondern erklärt die Genese: Populär wurde der Begriff durch den KI-Forscher Ben Goertzel, der im vorigen KI-Winter 2007 ein gutes Konzept für sein Buch brauchte. Über seine eigene Konferenz und durch Kontakt mit Leuten von DeepMind und auch Peter Thiel wurde AGI als Idee bekannter.

Parallel dazu verbreitete der KI-Forscher Eliezer Yudkowsky eine eher düstere Version von einer gefährlichen AGI, die er ebenfalls bei Peter Thiel (und der selbsternannten Rationalisten-Community bei LessWrong) anbrachte, die aber auch den Philosophen Nick Bostrom inspirierte. Dessen Buch Superintelligence (2014) machte den Begriff salonfähig. Yudkowsky selbst ist Co-Autor des diesjährigen Bestsellers “If Anyone Builds It, Everyone Dies” - was zeigt, dass seine Thesen weiterhin Konjunktur haben.

Goertzel wiederum sieht das Ganze etwas skeptischer: “Es überrascht mich etwas: Menschen, die tiefes technisches Wissen über die Mechanismen im Kern solcher Werkzeuge [LLMs] haben, glauben immer noch daran, dass sie zu AGI auf menschlichem Niveau werden können”, wird er zitiert. “Auf der anderen Seite kann niemand beweisen, dass das nicht stimmt.”

“Du kannst nicht beweisen, dass es nicht stimmt”, ist natürlich ein Klassiker. Zitat aus dem Aufsehen erregenden Manifest von Leopold Aschenbrenner (siehe Ausgabe #97), in dem der Weg zu AGI skizziert wird. “An dieser Stelle denken Sie vielleicht, dass ich und alle anderen Leute aus San Francisco völlig verrückt sind. Aber denken Sie einmal kurz darüber nach: Was wäre, wenn sie Recht hätten?”

Heaven zieht in seinem langen Stück Verschwörungsexperten und -expertinnen zur Rate, die eine Ähnlichkeit mit der New-Age-Bewegung der Achtziger sehen (die ja durchaus im Silicon Valley ihre Anhänger hatte). Der Unterschied ist nicht nur, dass es dieses Mal um Abermilliarden US-Dollar und politische Grundsatzentscheidungen geht, sondern auch ein anderes Weltbild, das dahinter steckt: Bei New Age ging es darum, dass wir Menschen die Möglichkeit zur Veränderung in uns tragen, wenn wir das nur erkennen. Die AGI-Bewegung traut das Menschen offensichtlich nicht mehr zu, sondern verlagert ihre Hoffnung auf Maschinen. Und stellt damit das Kern-Narrativ der Tech-Szene wieder her, das wir uns in einer Welt des begrüßenswerten technischen Fortschritts befinden. Selbst wenn - oder gerade weil - sich die Welt da draußen gerade nicht so anfühlt, als würde uns technischer Fortschritt in eine bessere Zukunft führen.

KI-Backlash in den USA?

US-Präsident Donald Trump will per Dekret US-Bundesstaaten daran hindern, KI-Regulierung einzuführen. Wenige Stunden, bevor das bekannt wurde, hatte er einen Termin mit dem Chef von Build American AI, also letztlich von dem Lobby-Arm der Pro-KI-Super-Pacs, die unter anderem von Andreessen Horowitz finanziert werden. Das übliche Spiel eben, Politik für Geld, in diesem Fall Wahlkampf-Unterstützung.

Die juristische Basis für Trumps Erlass ist dünn, aber inzwischen auch die politische Basis, wie Casey Newton zusammenfasst: Denn dieses Mal haben nicht nur demokratische Bundesstaaten, sondern auch konservative Gouverneure und Politiker Widerstand angekündigt. Das signalisiert einerseits die derzeit wachsende innenpolitische Schwäche Trumps, vor allem aber dass es in den USA - auch jenseits der Orte, in denen Großrechenzentren gebaut werden - wachsendes Unbehagen über KI zu geben scheint.

Zwei gute Vorschläge und ein bisschen Menschlichkeit

Der geschätzte Marcus Boesch hat in seinem Newsletter eine Idee, beziehungsweise eine gute Forderung:

“Da Top-Down-Slop-Memes „neue Ebenen der Entmenschlichung“ erreichen, fordere ich eine Forschungsagenda, die in der Lage ist, das rasante Memes-Shitposting und die Memes des militärisch-industriellen Komplexes besser zu entschlüsseln, indem sie sich beispielsweise auf die postdigitale Manifestation in der Verwendung von Gesten und Klängen konzentriert.”

Was meint er damit? Wenn Trump und seine Leute KI-Slop shitposten, in dem der US-Präsident seine Gegner demütigt oder ihnen sogar Gewalt angetan wird, ist das eine völlig andere Art der strategischen Viralität (Top-Down), als wenn das seine Anhänger tun. Vor allem aber haben wir Peak Meme längst hinter uns gelassen (siehe Ausgabe #139) und befinden uns meiner Ansicht nach in einer Phase, in der Memes sich - verstärkt durch die neuen ästhetischen Möglichkeiten von Bildgeneratoren - zu einer Art Privatsprache entwickelt haben. Aber wenn wir diese Sprache in ihren Online- und Offline-Spielarten nicht entschlüsseln können, werden wir in der Analyse und damit auch im Verständnis der “neuen Meme-Welt” nicht sehr weit kommen.

Etwas anders gelagert ist die Idee von David Auerbach: Er schlägt einen ästhetischen Reverse-Turing-Test vor. Das Konzept beruht basiert auf der Idee, dass ein „großartiges” Kunstwerk von KI-generierten Imitationen unterscheidbar sein muss. Wenn sich ein menschliches Kunstwerk nicht zuverlässig von etwas unterscheiden lässt, das von einer KI generiert wurde, kann es nicht als großartig gelten, so die Logik.

Das festzustellen ist natürlich sehr subjektiv, aber geht in eine interessante Richtung - vorausgesetzt, wir folgen der Prämisse, dass KI niemals wie Nabokov schreiben oder wie Rembrandt “malen” kann, sondern eben immer im “als ob” verharren wird. Denn dann hätten wir tatsächlich die Möglichkeit, eine Form von Kriterium für gute Kunst zu entwickeln.

Phire Phoenix bringt eine Perspektive ein, die ich gerne auch noch einspeisen möchte. Sie würde das Auerbach-Kriterium sicher nicht so gelten lassen, denn für sie hat jede Form von Kunst einen Wert, sofern sie menschgemacht ist. Übersetztes Zitat:

“Das Problem mit KI-Ergebnissen, die sich als Kunst tarnen, ist nicht, dass sie technisch unausgereift oder gar unheimlich sind. Die KI-Mediengenerierung hat in den letzten fünf Jahren große Fortschritte gemacht und könnte sich technisch weiter verbessern. Das Problem mit KI-”Kunst” ist, dass sie nicht der Ausdruck eines sterblichen Wesens ist, das sich dafür entscheidet, sein einziges wildes und kostbares Leben damit zu verbringen, sich durch die Mittelmäßigkeit zu kämpfen, um zu versuchen, ein Gefühl unvollkommen mit anderen sterblichen Wesen zu kommunizieren, die es per Definition niemals vollständig verstehen können, und daher ist sie für mich grundsätzlich uninteressant.”

Notizen

• Interessante Paper:

  • Das “AI Now Institute” über den laxen Umgang mit Genehmigungen für Nuklearforschung in den USA im Zuge der Energieanforderungen für KI.

  • Aline Blankertz von “Rebalance Now” über rechtliche und organisatorische Möglichkeiten der Entflechtung bei großen US-Techkonzernen.

• Prognosemärkte II: In der letzten Ausgabe hatte ich darauf hingewiesen, dass auf die Kommerzialisierung politischer Prognosemärkte als problematische Entwicklung hingewiesen. John Herrman hat sich in seiner Kolumne nun ebenfalls mit dem Thema beschäftigt und erinnert daran, wie in den USA Sportwetten inzwischen mehr oder weniger die ganze Berichterstattung dominieren. Und er hat auf dem Schirm, dass im technophilen Spektrum schon länger die Idee der Futarchy kursiert: Die Idee, über Prediction Markets konkrete politische Entscheidung zu treffen. Unterdessen hat Google angekündigt, Polymarket-Prognosen in seine Anzeige von Finanzwerten einzubeziehen.

• Google Gemini 3: So wie ich die Reaktionen deute, dürfte Gemini 3 die wichtigste KI-Veröffentlichung des zweiten Halbjahrs gewesen sein - noch vor GPT-5, das man nach Ansicht einiger Experten damit hinter sich lässt. Bei Ethan Mollick findet sich eine gute, praxisbezogene Analyse dazu. Es gibt durchaus Anzeichen dafür, dass Google im KI-Wettrennen inzwischen die besten Karten hat. Dafür, dass ich Sundar Pichai schon in den Sonnenuntergang reiten sah, ist das ziemlich beeindruckend.

Teilen

Alle haben Fernseher, niemand schaut Fernsehen

Ich versuche mir vorzustellen, wie Marc Andreessen vor einigen Jahrzehnten in einem Seminar für Bachelor-Studierende über Orwells „1984“ diskutiert. Bevor der Professor die Gelegenheit hat, das Gespräch zu beginnen, platzt der junge Andreessen heraus: „Ich dachte, in diesem Roman geht es um ein Land, in dem die Menschen von der Regierung kontrolliert werden und keine Rechte haben. Aber es stellt sich heraus, dass jeder freien Zugang zu einem Fernsehbildschirm hat!“

Robert Wright im Nonzero-Newsletter (Marc Andreessen natürlich ein einfaches Ziel dieser Tage).

“Es gibt noch ein weiteres, existenzielles Problem für das Fernsehen: Die derzeit lebendigste Comedy der Generation Z läuft gar nicht im Fernsehen. Sie spielt sich auf TikTok und YouTube ab, wo 22-Jährige Millionen von Followern direkt von ihren Dating-Katastrophen, Verrat durch Mitbewohner und Quarter-Life-Krisen erzählen. Die Creator Economy hat nicht nur die Aufmerksamkeit der jungen Zuschauer gestohlen – sie hat ihnen auch ihr Genre gestohlen. Für diese Generation werden die lustigsten Shows über das Jungsein von Menschen ihres Alters produziert, auf ihren eigenen Handys, in Formaten, die sich stündlich weiterentwickeln.”

Whitney Friedlander über das Problem, dass Fernsehen für die Gen-Z nicht nur qua Format unattraktiv ist, sondern auch per Inhalt.

Links

Meta machte offenbar Milliarden mit betrügerischer Online-Werbung.

Die große Coin-Geldwäsche.

EuGH: Polizei darf DNA- und Biometriedaten Verdächtiger unterschiedslos erheben.

Was hinter dem Cloudflare-Ausfall steckte.

Hat die autonome Cyber-Attacke, von der Anthropic berichtet, wirklich so stattgefunden? (€)

KI-generierter Song stürmt die US-Charts & Wie viele KI-Songs sind inzwischen schon in den Charts?

Ist die Tsinghua-Universität in China das heimliche KI-Zentrum der Welt? (€)

Hyperscaler: Immer mehr teure Seekabel-Projekte für KI.

Ausführliches Interview mit Alex Karp von Palantir. ($)

Katherine Dee: Wie das Internet das Comeback der globalen Rechten ermöglichte.

Podcasts und politisches Identitätsmarketing. ($)

KI und der Beobachter-Effekt.

Wo KI heute schon sinnvolle Arbeit leistet und wo (noch) nicht. (€)

Analyse von Grokipedia-Dreck.

“Vice signalling is eating Silicon Valley.”

Der Funnel ist kaputt.

Das Anti-Social-Media-Zeitalter? ($)

Keine Follower = cool. ($)

Hat Airbnb den Zenit überschritten? (€)

Bis zur nächsten Ausgabe!

Johannes

Appetizer: Aus dem Tagesspiegel Background

Interview mit dem Mistral-CEO: Ich habe ein längeres Gespräch mit Arthur Mensch geführt, in dem es um den KI-Standort Europa, Regulierung, die Blasen-Fragen und vieles mehr geht.

Was die österreichische Digitalsteuer wirklich ist: Wolfram Weimer möchte eine Digitalsteuer einführen und sich an Österreich orientieren. Eduard Müller hat für uns aufgeschrieben, worum es dort wirklich geht (Spoiler: es ist eine Werbesteuer, die es schon vorher gab) und wie sich diese Steuer entwickelt hat.

24-Stunden-Gründungen: Firmengründungen innerhalb eines Tages abzuwickeln, das ist eines der großen Versprechen der neuen Bundesregierung. Bastian Hosan hat sich angesehen, was dafür im (gesetzlichen und technischen) Backend passieren muss und wie es bei den Pilotprojekten der Länder läuft.

Quo vadis, Deutschlandstack? Das Sorgenprojekt Deutschlandstack kann sich in verschiedene Richtungen entwickeln. Welche das sein könnten und welche Möglichkeiten und Probleme sich aus dieser Pfadabhängigkeit ergeben, hat Viola Heeger analysiert.

Rückkehr der Hackback-Debatte: CSU-Innenminister Alexander Dobrindt hat wieder etwas ins Spiel gebracht, was verdächtig nach Hackback klingt. Benjamin Hilbricht mit einem Überblick, was rechtlich überhaupt möglich wäre und wem das Bundesinnenministerium mit dem Vorstoß ins Gehege kommt.

Welt- und Tech-Erklärungen

Gut neun Monate nach der Amtsübernahme von Donald Trump und der DOGE-Episode hat die Erklärbuch-Saison begonnen, die “Dark Silicon Valley”, Trump und die globale illiberale Bewegung zusammendenken und erklären möchte.

Journalist und Tech-Kritiker Jacob Silverman blickt in “Gilded Rage” auf die Radikalisierung von Elon Musk und Co.. Mit seiner These vom Technofaschismus von oben folgt er der gängigen Interpretation der politischen Linken, mir selbst ist das bekanntlich zu unterkomplex (eine hilfreiche FT-Rezension hier, €). tl;dr: Werde ich wohl eher nicht lesen.

Giuliano da Empoli wiederum analysiert in “The Hour of the Predator” (“Die Stunde der Raubtiere”) Technologie und Chaos als Werkzeuge gegen den Konsens von Davos, also den klassischen Konsens der wirtschaftlichen und gesellschaftlichen Offenheit. Obwohl das Buch schon in den ersten Seiten die zivilisatorische Apokalypse skizziert (Tech-Oligarchen werden als Konquistadoren beschrieben, unsere Demokratien als die naiven Azteken), scheint mir dieser Angang vielversprechender. Anfang kommenden Jahres erscheint auch “Disruption” von meinem geschätzten ehemaligen SZ-Kollegen Jannis Brühl.

Wer mit mir spricht oder hier manchmal liest, kennt meine Position: Ich bin sehr skeptisch, wenn Populäranalysen sich der “Great-Man-Theory” bedienen. Da wird Peter Thiels Ideologiesuppe plötzlich zur ausgetüftelten Blaupause für die Revolution stilisiert, während das komplexe Zusammenspiel von Forschung, Technologie, Steuerrecht (und damit Eigentumsverhältnissen) und Regulatorik zu beweglichen Bausteinen seines Masterplans schrumpfen. Das mag helfen, um politisch zu mobilisieren, ist aber de facto genau die Vereinfachung, die von Progressiven oft bei anderen beklagt wird.

Den Versuch, auf dem bisherigen theoretischen Fundament Komplexität zuzulassen statt zu vermeiden, unternimmt Burcu Kilic, die gerade Senior Fellow an der Kennedy School in Harvard ist (Paper hier). Kilic versucht dabei, auf der Grundlage des Überwachungskapitalismus von Shoshana Zuboff eine historische Analyse über dessen Wurzeln vorzunehmen.

Im Kern geht es also darum, dass Daten inklusive Verhaltensdaten zum Rohstoff werden, dessen Verwertung entgrenzt wird. Wobei es Kilic anders als Zuboff nicht um die technische, sondern um die politische Entgrenzung geht.

Meilensteine sind hier so (relativ) unbekannte Gesetze wie das Framework for Global Electronic Commerce unter der Clinton-Regierung 1997 oder auch die erfolgreichen Bemühungen der USA, digitale Güter und Dienstleistungen unter das WTO-Freihandelsregime zu fassen. In diesen Kontext stellt Kilic auch die Thinktank-Branche, die in ihren Augen mit Schlagworten wie “Innovation”, “offenes Internet” oder “ethische KI” ein Extraktionsmodell und letztlich antidemokratische Entwicklungen legitimiert hat.

Auch Kilics Position ist eine dezidiert linke. Der Anspruch einer historischen Analyse wird in Sachen Komplexität durchaus erfüllt. Allerdings ersetzt sie am Ende in meinen Augen nur den “Great Man” durch die “Great Theory”. Und schrumpft die Geschichte des Internets zur Umsetzung eines neoliberalen Projekts.

Vermutlich werden künftige Geschichtsbücher dennoch einmal viele Elemente von Kilics Analyse erwähnen, wenn es um die Entwicklung der Digitalisierung von 1990 bis 2025 geht. Aber wer auch immer einmal das Standardwerk dazu schreibt, wird nicht darum herumkommen, seine/ihre Erkenntnisse von der Geschichte des Kapitalismus seit 1980 abzuleiten.

Bahnbrechende Software-Innovation wird dann neben einer schrittweisen Veränderung des Gemeinwohlgedankens stehen, die Hegemonie der Marktmetapher neben einer immer stärkeren politischen Impotenz gegenüber global vernetzten Finanz- und Informationsströmen. Eine solche Geschichte wird hoffentlich Verantwortungen aufzeigen, ohne zu vergessen, dass sich Veränderungen stets in existierenden Systemen abspielen und nur ganz selten von einem “Masterplan” getriggert werden (es gibt nicht so viele historische Lenins).

Vielleicht muss diese Geschichtsschreibung auch eine Geschichte des Kapitalismus als erste und eigentliche Künstliche Intelligenz der Neuzeit sein: Als inzwischen quasi-autonomes System, dessen komplexe Wechselwirkungen uns bestimmte Entwicklungspfade eröffnen und uns von anderen abschneiden. Als System, das unsere zivilisatorische Logik seit Jahrhunderten prägt, formt und verändert.

Dan Wang: Breakneck

Da wir bei Büchern sind: Im Oktober habe ich endlich Dan Wangs Buch “Breakneck” zu Ende lesen können. Das Internet ist voll mit Rezensionen und Meta-Debatten, deshalb hier nur kursorisch: Wangs Grundthese ist ein Gegensatz zwischen der “Ingenieursgesellschaft” (China) und der “Anwaltsgesellschaft” (USA) und den Folgen, die es für die Entwicklung der beiden Länder in den vergangenen Jahrzehnten hatte.

Kurz: Die USA konnten immer weniger “bauen” und modernisieren, zumindest was die physische Infrastruktur betrifft, wohingegen China in großem Tempo Infrastruktur schaffen konnte. Weil die “Ingenieursgesellschaft” in einem autoritären System aber zu Willkür, Korruption und unmenschlichen Entscheidungen (Ein-Kind-Politik, Zero-Covid, Vollüberwachung) führt, ist sie nicht unbedingt ein Zukunftsmodell.

Meine Sorge vor der Lektüre war, dass Wang ein - siehe oben - “Great-Theory”-Buch geschrieben hat und deshalb Widersprüche ausklammert. Das ist erfreulicherweise nicht der Fall. China wird nicht verklärt, sondern die gesellschaftspolitische Hybris der Kommunistischen Partei deutlich benannt und ihr Ursprung erklärt. Die USA kommen in der Analyse insgesamt etwas zu kurz, was allerdings verkraftbar ist - die sehr lebensnahen Schilderungen Wangs über das Leben in China sind viel interessanter als die nächste makroökonomische Analyse der Vereinigten Staaten.

Dass die Dichotomie “Engineering” vs. “Lawyerly” der Weisheit letzter Schluss oder eine sinnvolle Schablone für die Entwicklung der beiden Länder ist, lässt sich spätestens nach dem Beginn von Trump II und dem zügigen Abbau des Rechtsstaats bezweifeln. Vielleicht ist “Breakneck” deshalb eher ein Zeitdokument. Aber eines, das großen Erkenntnisgewinn liefert.

Jetzt abonnieren

Die Binance-Begnadigung

In der fortgesetzten Lateinamerikanisierung der amerikanischen Politik ist die Begnadigung von Binance-Gründer Changpeng Zhao nur eines von vielen Symptomen. Schlagzeilen hat sie nur wenige gemacht, was auch daran liegt, dass Zhao seine Haftstrafe schon verbüßt hatte.

Das Wall Street Journal ($) hat die Finanzströme hinter diesem Akt der unverhohlenen Korruption chronologisch zusammengefasst.

Zhao, der sich 2023 der Geldwäsche für schuldig bekannte und eine viermonatige Haftstrafe absitzen musste, suchte demnach Anfang 2024 bereits Kontakt zum Trump-Umfeld. Später stellte er Entwickler für die Trump-Familienkryptofirma World Liberty Financial zur Verfügung. Als die Herrscherfamilie von Abu Dhabi mit zwei Milliarden US-Dollar bei Binance einsteigen wollte, sorgte Zhao dafür, dass das Investment über Trumps Stablecoin-Währung USD1 abgewickelt wurde. Das trieb den Kurs künstlich nach oben (und ermöglichte es natürlich, Golfstaaten-Geld ins Trump-Familiengeschäft zu pumpen). Win-win, quasi.

Übersetztes Zitat aus dem WSJ:

“Die Verwendung von USD1 hat World Liberty einen enormen Schub verliehen, seine Marktkapitalisierung enorm gesteigert und ihm neuen Einfluss verschafft. Dies wiederum hat den Verkauf seiner anderen Kryptowährung WLFI begünstigt, deren Wert auf dem Markt schwankt. Die Geschäftspartner von World Liberty haben den Erfolg seiner Stablecoin als Grund für ihre Investition in WLFI genannt.

World Liberty erzielte im vergangenen Jahr einen Umsatz von rund 1,4 Milliarden US-Dollar aus WLFI-Verkäufen, weit mehr als das Immobilienportfolio des Präsidenten jemals jährlich einbrachte. Auf der Website von World Liberty heißt es, dass das Unternehmen zu etwa 40 % im Besitz einer Trump-Familiengesellschaft ist, die Anspruch auf drei Viertel der Einnahmen des Unternehmens aus diesen Verkäufen hat.”

Binance hat seinen Sitz nicht in den USA und darf nach dem Geldwäsche-Urteil bis 2029 nicht in den USA operieren. Ob sich Letzteres ändern könnte, wird sich zeigen. Vielleicht spielt es auch keine Rolle: US-Investoren haben ohne Probleme Zugang zu Binance-Stablecoins. So wie Stablecoins insgesamt in das US-Finanzsystem einsickern und damit “bailout-fähig” werden (siehe Ausgabe #141).

Substrates Röntgenlitographie: PR-Hype oder ASLM-Konkurrenz?

Hat das Start-up Substrate eine gute Idee oder eine gute PR-Abteilung? Sowohl Bloomberg, als auch Reuters, der Economist und Semianalysis berichten über die Pläne der Firma, mit einer neuen Lithographie-Technologie sowohl ASML, als auch TSMC Konkurrenz zu machen.

Im Kern geht es darum, das Drucken der feinen Strukturen (bis zu 1-2 Nanometer) in einem einzigen Belichtungsschritt durchzuführen oder die Belichtungsschritte zumindest deutlich zu verringern. ASML setzt derzeit auf mehrere Schritte, das Multi-Patterning (“Mehrfachstrukturierung”).

Das Versprechen: Wenn die Technik Produktionsreife erlangt, würden die Kosten für den Prozess um 90 Prozent sinken. Substrate will darauf aufbauend nicht nur ASML, sondern de facto auch TSMC Konkurrenz machen und in den USA Foundries für Highend-Mikrochip-Produktion aufbauen.

Der Zyniker in mir sagt natürlich, dass sich ASML relativ erfolgreich darin war, bestehende Mehrfachstrukturierungsprozesse zu optimieren und sich nicht umsonst gegen das Single-Patterning entschieden hat. Und dass im Moment eben ein guter Moment für Hype-Geschichten rund um Halbleiter ist.

Semianalysis teilt zwar eine gewisse Skepsis, hält den Weg aber zumindest theoretisch für gangbar und beruft sich dabei auf Menschen außerhalb der Firma, die die technischen Details kennen. Wir werden sehen - angeblich soll die Produktionsreife schon 2028 erlangt werden. Das erscheint mit jedoch ziemlich optimistisch.

Killing Halloween

Drew Austin weist auf eine interessante Beobachtung hin, die der Urbanist Ryan M. Allen gemacht hat: Halloween in den USA verändert sich. Es folgt inzwischen offenbar den Power Laws des Internets. Denn statt wie sonst die in der eigenen Nachbarschaft herumzuführen, fahren Eltern ihren Nachwuchs inzwischen in die Gegenden, in denen es besonders spektakuläre Dekos oder Schreckfallen gibt. Diese Destination Neighborhoods sind leicht zu identifizieren - es gibt Hinweise bei TikTok und sogar Online-Karten. Offenbar verteilt sich die Aufmerksamkeit so deutlich, dass in weniger beliebten Gegenden manchmal (anekdotisch) gar keine Halloween-Dekorationen mehr aufgehängt werden. Drew Austin (übersetzt und gefettet):

“Ich musste unweigerlich an ähnliche tote oder sterbende Gebiete in ganz Amerika denken, denen nach und nach die kleinen bürgerlichen Freuden entzogen werden, die theoretisch jedem zur Verfügung stehen – die soziale Version einer kleinen Stadt, die deindustrialisiert wird. Es ist leicht, einfach das Internet dafür verantwortlich zu machen, obwohl dies nicht so einfach zu sein scheint; das Internet ist jedoch nicht gut darin, negativen Raum zu integrieren, sondern trainiert uns, Orte der Inaktivität nicht mehr zu sehen und unseren Blick immer auf das Spektakuläre zu richten. Wenn die Leere schließlich Gestalt annimmt, haben wir uns meist schon selbst entfernt.”

Notizen

Prognosemärkte als unterschätztes Thema: Die Kurse der beiden Prognosemärkte Kalshi und Polymarket lassen darauf schließen, dass der Name der diesjährigen Friedensnobelpreisträgerin schon vorher durchgestochen wurde. Irgendwo in meinem Kopf und meinen Notizen versteckt sich noch ein Stück darüber, wie Prognosemärkte (Prediction Markets) als Teil der “Financialisation of everything” unsere politische Landschaft massiv verändern werden. Dass Donald Trumps Truth Social künftig als erstes soziales Netzwerk ebenfalls einen Prognosemarkt anbieten wird, zeigt bereits deutlich das Problem: Ein Präsident, dessen Umfeld auf seine Entscheidungen wetten darf, agiert nochmal genau in wessen Interesse?

Meta fehlt die Cloud: Die Börsenreaktionen auf die Tech-Quartalsergebnisse vergangene Woche zeigen deutlich: Mark Zuckerberg fehlt offensichtlich die Glaubwürdigkeit für sein KI-Narrativ, weil man - anders als Google, Microsoft und Amazon - kein klassisches Cloud-Geschäft für Geschäftskunden hat. Das könnte in der Tat eine der großen Schwächen des Meta-Konzerns sein. Das aber sich natürlich relativiert, wenn wir insgesamt ein Platzen der Blase zulasten der Tech-Konzerne sehen.

How to end your extremely online era: “Vielleicht rühren alle Probleme des Menschen daher, dass er nicht in der Lage ist, ruhig allein mit sich selbst in einem Raum zu sitzen”, schreibt Tommy Dixon in seinem langen Essay. Natürlich tragen solche Ermutigungstexte, Social Media zu verlassen, immer ein größeres Maß Vergeblichkeit in sich. Diesen habe ich aber als hilfreich empfunden und gerne gelesen.

Professionalisierung der “AI Creator”: Dieser Bloomberg-Artikel gibt einen kleinen Einblick in die Szene der “AI Creator” hinter “KI-Persönlichkeiten”. Also Menschen, die quasi die Karrieren KI-generierter Personas im Bereich Influencer und Musik steuern. Wir kannten diese Form von virtuellen Stars bislang eher aus Asien, aber mein Eindruck ist, dass wir 2026 eine größere Welle im Mainstream des Westens sehen werden.

“Fight Chat Control”: Ich hatte ja in der vergangenen Ausgabe die Frage aufgeworfen (Ausgabe #150), wie die ganze E-Mail-Welle gegen die Chatkontrolle organisiert wurde. Die Antwort hatte da schon Politico gegeben: Ein dänischer Entwickler hatte Ende August bereits die Seite “Fight Chat Control” aufgesetzt. Übersetztes Zitat aus dem Artikel: “Auf dieser Website können Besucher eine Massen-E-Mail mit einer Warnung zu diesem Gesetzentwurf verfassen und diese ganz einfach an nationale Regierungsvertreter, Mitglieder des Europäischen Parlaments und andere Personen senden.” Ich verwende ja immer gerne das Wort “Datenbank-Massage”, wenn es um Social Media geht (also der Versuch, dass mein Content vom Algo nach oben gespült wird). Das hier ist eine Art Brute-Force-Methode der “Meinungsbild-Massage”.

Teilen

Eine Halbleiter-Investitionsgrafik

Morgan Stanley schätzt, dass bis 2028 weltweit etwa 2,9 Billionen US-Dollar in den Ausbau von Rechenzentren fließen. Etwa 1,5 Billionen US-Dollar davon sollen über Fremdkapital finanziert werden, darunter rund 800 Milliarden US-Dollar aus privaten Kreditquellen im Rahmen von Transaktionen mit spezifischen Vermögenswerten, etwa über Zweckgesellschaften (Standard Purpose Vehicles, SPV).

Die Umkehrung

“Die Fülle an Signalen verwandelt sich in Lärm. Die Fülle an Fakten verwandelt sich in Fälschungen. Der freie Zugang zur Selbstdarstellung in sozialen Medien führt zu Missbrauch durch Trolle und böswillige Akteure und verwandelt sich in Zensur. Die Revolte der Öffentlichkeit verwandelt sich in Anarcho-Tyrannei.

Die Fülle an Auswahlmöglichkeiten verwandelt sich in Entscheidungsunfähigkeit. Die Überflutung mit Nachrichten verwandelt sich in Nachrichtenmüdigkeit und Nachrichtenvermeidung. Der kollektive Mechanismus der Inhaltsauswahl – der Viral-Redakteur – verwandelt sich in kollektive Inhaltskontrolle: den viralen Inquisitor, der Sie beobachtet.”

Auch wenn ich ihm nicht in allem zustimme, prägt Andrey Mir durchaus meinen Blick auf die Digitalisierung. Sein Buch “Postjournalism and the Death of Newspapers” sollte (leider) Standardlektüre für Medienschaffende in den 2020ern sein. In seinem neuen, eher im Twitter-Aphorismen-Stil gehaltenen Buch “The Digital Reversal” diagnostiziert Mir eine Art Generalumkehr durch die Digitalität, die über die Post-Alphabetisierung hinausgeht. Obiges Zitat stammt daraus. Dieses Interview bietet eine gute Einführung in sein Denken.

Links

Europaparlament droht erneut mit Blockade des digitalen Euro.

OpenAI vollendet Restrukturierung.

Umgang mit Selbstmordgefährdung bei ChatGPT: Das soziale Experiment.

(Vorerst gestoppte) Chatkontrolle: Das steckt technisch dahinter.

US-Abschiebebehörde ICE weitet Einsatz von Gesichtserkennung aus. ($)

Google und Microsoft - Kampf der KI-Geschäftsmodelle. (€)

Apple hat zwei Probleme: Politik und Software.

Neue Airpods: Was wir verlieren, wenn alles simultan übersetzt wird. ($)

Alles ist zum Fernsehen geworden.

Die sieben Phasen des Internets.

Gerichtsstreitigkeiten als Content Wars.

KI wird die schlechtesten Instinkte von Chefs bedienen. ($)

KI wird Märkte effizienter machen (=Informationsasymmetrien verringern). (€)

Der New Yorker mit einer KI-Rechenzentren-Reportage. ($)

Das neue Zeitalter der Verschwörungen.

Chinas Tech-Kanon.

Wir missverstehen “Bildschirmzeit”. ($)

Wie Algorithmen Preise nach oben treiben können - eine Spieltheorie-Anwendung.

Die viktorianische Ära des Internets?

Intimität, Freundschaft, KI-Chatbots.

Posting is the New Art.

Das vulgäre Bild (von Dean Kissick).

State of Trust 2025.

Bis zur nächsten Ausgabe!

Johannes

Appetizer: Aus dem Tagesspiegel Background

• Die Modernisierungsagenda: Der Versuch, den Staat durch Digitalisierung und einfachere Prozesse agiler zu machen, ist nun zumindest einmal als Roadmap beschrieben. Was im Strategiepapier drinsteckt und was im Verhandlungsprozess innerhalb der Bundesregierung gestrichen wurde, haben Benjamin Hilbricht und ich aufgeschrieben.

• Wann Kupfernetz-Abschaltung? Die Telekom besitzt das Kupfernetz und hat damit durchaus eine gewisse Kontrolle darüber, wie der Glasfaserausbau läuft. Denn wo Kupfer abgeschaltet wird, ist Glasfaser plötzlich attraktiv. Und umgekehrt. Entsprechend fordert die Konkurrenz schon lange ein Konzept, wie Deutschland die Kupfer-Glasfaser-Migration gestalten möchte. Lisa Oder und Alexandra Ketterer haben die neuen BMDS-Pläne analysiert und kontextualisiert (Spoiler: Es ist kompliziert).

• Verordnung zu politischer Werbung: Seit dem 10. Oktober gilt die EU-Verordnung für politische Werbung. Was eigentlich eine Reaktion auf den (aufgebauschten) Cambridge-Analytica-Skandal sein sollte, wurde einmal mehr ein horizontales Werk mit zahlreichen Fallstricken und unbeabsichtigten Nebenauswirkungen. Friederike Moraht und Josefine Kulbatzki mit ausführlichem Kontext.

• Europas KI-Anwendungsstrategie: Die “Apply AI Strategy” soll nach der Regulierung durch den AI Act die Praxisanwendung strukturiert fördern, inklusive eines “Cern für AI”. Papier ist geduldig, gelesen haben die Strategie Oliver Voß und Theresa Locker.

• Problematisches IT-Outsourcing in Großbritannien: Was haben Jaguar Land Rover, die Supermarktketten Co-op und Marks and Spencer gemeinsam? Sie wurden Opfer zerstörerischer Angriffe von Cyberkriminellen. Und was noch? Sie haben alle drei jeweils große Teile ihrer IT-Operationen an das Unternehmen Tata Consultancy Services (TCS) ausgelagert. Peter Stäuber über den Trend zum XL-Outsourcing von Cybersicherheit.

Notizen zu Sora 2

Das kleine Sammelvideo oben zeigt, was ungefähr mit dem neuen OpenAI-Videogenerator Sora-2 derzeit möglich ist. Um kurz zusammenzufassen: Die Qualität der KI-Videogeneratoren ist inzwischen so gut und die Rechenkapazitäten von OpenAI so groß, dass sie im Mainstream angekommen sind (im Moment per Invite, in Europa ist das Tool noch nicht freigeschaltet).

Auf der Skala zwischen “kurzem Hype” und “historischem Moment” würde ich das auf der geschichtsträchtigen Nur acht Jahre nach dem Transformer-Grundlagenpapier “Attention is all you need” ist qualitativ ordentliches “Text To Video” als skalierbare Massenanwendung ein richtig großer Schritt.

Und die Möglichkeit, meine Fantasie in Szenen, Sequenzen und irgendwann längere Videos zum Leben zu erwecken (oder “echte” Szenen oder entsprechend zu modifizieren), ist etwas, was wir noch vor zehn Jahren unter Science Fiction verbucht hätten. Die Phrase “Der Fantasie sind keine Grenzen gesetzt” ist hier wörtlich zu verstehen (abgesehen von Content-Beschränkungen von Anbietern wie OpenAI, die aber bei Open-Weight-Modellen keine Rolle mehr spielen dürften).

Wären die Produktionsmittel nicht alle in der Hand von wenigen Firmen, könnte man von ihrer fortgesetzten Demokratisierung sprechen. Zumindest aber kann jede/r nun Video-Creator werden.

Zugleich hat das Ganze natürlich etwas ziemlich Banales. Die Sora-App ist ein TikTok-Klon, die ihrem Vorbild in Logik, Ästhetik und Shareability folgt. Das Prinzip des unendlichen Contents, mechanisiert und personalisiert über ein Netzwerk ausgerollt. Also das, was Meta gerne anbieten würde, aber was dem Konzern offenbar mit seiner ebenfalls neuen Vibes-App nicht gelingt. Und doch erscheint das alles wie ein logischer Evolutionsschritt, nachdem Netzwerke wie Facebook längst voller des KI-Fotoslop sind.

Vielleicht auch wegen dieser Banalität tragen die Technologie und ihre Anwendung etwas vom “Wir amüsieren uns zu Tode” in sich, der Bildschirmmedien-Diagnose von Neil Postman. Ein weiterer freiwilliger Rückzug an der Demarkationslinie im Kampf zwischen dem Streben nach epistemischem Realitätskonsens aus der Gutenberg-Zivilisation und der personalisierter Hyperrealität des vernetzten Digitalzeitalters (vgl. Ausgabe August 2022).

In Ausgabe #41 schrieb ich im März 2023 zu KI-Chatbots:

“Was aber passieren könnte, wenn diese Chatbots ein Erfolg und wichtiger Faktor unseres Soziallebens würden: Wirklich menschlicher Kontakt könnte “teurer” werden - im Sinne von “seltener”, “ungewöhnlicher”, “mit höherem Aufwand verbunden”.

Die digitale-vermittelte Unterhaltungswelt unserer Gegenwart wäre damit die Vorstufe einer digitalen Welt in einem Sinne, der so bis vor kurzem noch nicht absehbar war: Nicht nur software-vermittelt, sondern synthetisch. Nicht zwischenmenschlich, sondern mensch-maschinell. Ein Metaverse, das ohne Virtual Reality auskommt. Und in dem die Frage “echt oder falsch?” noch einmal mehr von unserer persönlichen und gesellschaftlichen Bandbreite in Anspruch nimmt, als sie es jetzt schon tut.”

So könnte es nun kommen, denn ob der Versuch, synthetische Videos durch Wasserzeichen und/oder eine eigene App-Welt quasi in einer Sandbox zu zeigen, funktioniert schon jetzt nicht mehr (Wasserzeichen-Entfernungssoftware wird stark nachgefragt).

Das alles wird nicht zu Stabilität beitragen, eine weitestgehend gemeinsame Realität ist die Basis für eine Gesellschaft, die nicht nur als Ansammlungen von Individuen existiert. Und das ist es vielleicht, was eine Software wie Sora fremd wirken lässt: Das Bewusstsein, dass das Synthetische für uns bald nicht nur normal sein wird, sondern einen großen Teil unserer Bildschirmzeit ausmachen könnte.

Wir spüren darin den Verlust von Wertschätzung für Aufwand, Mühe und auch von den menschlichen Geschichten hinter kreativer Arbeit. Die “überwältigend negative und demoralisierende Kraft”, die manch Kreativschaffender KI im eigenen Arbeitskontext zuschreibt, ist somit auch für den Konsumenten erahnbar. Zumindest bis die Gewöhnungseffekte einsetzen.

Jetzt abonnieren

Chatkontrolle: Who did it?

Die Chatkontrolle ist - vorerst - gestoppt, auch wenn sich die Frage stellt, was technisch der Unterschied zwischen einer “anlasslosen” (möchte Schwarz-Rot vorerst nicht) und einer anlassgebundenen Chatkontrolle sein soll, die ja ebenfalls den Einbau der entsprechenden CSAM-Detektionssoftware erfordern würde. Wir werden sehen, was hier am Ende aus dem Bundesinnenministerium kommt.

Fast interessanter finde ich die relativ undurchsichtige Genese, wie der Meinungsumschwung innerhalb der Unionsfraktion zustande kam. Innerhalb von wenigen Tagen fanden sich 100.000, inzwischen 350.000 Unterschriften unter der Petition “Chatkontrolle stoppen” aus der digitalen Zivilgesellschaft. Unionsabgeordnete erhielten einen Berg von - nach eigener Aussage teils automatisch generierten - E-Mails. Die AfD machte Druck. Grüne und Linke auch.

Die vorläufige Absage an die Chatkontrolle verbuchen nun sowohl digitale Zivilgesellschaft, als auch AfD für sich. Ich persönlich glaube zwar, dass die Union ein mögliches Uploadfilter-Protestszenario durchaus ernstgenommen hat; aber die Aussicht, von der AfD (wie schon zu Corona-Zeiten) als übergriffige Überwachungspartei dargestellt zu werden, dürfte aktuell abschreckender wirken.

Weiter rätselhaft ist für mich, wo die Viralität stattfand. Es gab bei TikTok ein paar relativ reichweitenstarke Videos - von “Herr Anwalt” oder der Linken-Politikerin Clara Bünger. Auf X.com wiederum gab es vor allem Traffic für Konten rund um das Schlagwort “Team Freiheit”, das ja irgendwo zwischen Rest-FDP, heimatlosen Libertären und dem Kulturkampf-Umfeld der AfD changiert. Dazu noch ein bisschen Patrick Breyer.

Bei den Akteuren der digitalen Zivilgesellschaft war mein Eindruck, dass man sich strategisch mit Video schwertut und Plattformen wie Bluesky oder LinkedIn nur wenig Wirkung über das eigene Milieu hinaus entfalten. Allerdings betrifft das nur den “Social-Media-Teil” der Kampagnen, die Petition selbst war ja ein Erfolg.

Das alles aber ist nur das öffentliche Bild, das sicherlich Lücken hat. Die Frage, wem nun die größte Mobilisierung gelang und wer aus welchem Dark-Social-Funnel in die Inbox oder auf die Unterschriftenliste der Petition gelangte, bleibt ungeklärt. Das ist schade, denn das Kräfteverhältnis bei diesem Thema ist nicht nur digitalpolitisch, sondern gesamtgesellschaftlich relevant.

Notizen

Aus Zeitgründen hier ein paar Themen, die sehr relevant sind, aber für die ich keine Zeit finde, etwas Längeres aufzuschreiben.

Bubble-Talk: Die Geldkreislauf-Deals zwischen OpenAI, Nvidia, ARM und auch Oracle lassen die Diskussion über die mögliche/sichere/vielleicht gar nicht so schlimme KI-Blase wieder lauter werden lassen (siehe Ausgabe #146). Vielleicht demnächst mehr dazu.

OpenAI und das nächste Windows: OpenAI hat eine ganze Reihe von Integrationen und Features festgestellt, die strategisch nichts anderes signalisieren, als dass man das Windows des KI-Zeitalters werden möchte. Die beste Analyse habe ich bei Ben Thompson gelesen. Und Casey Newton betrachtet die Netzwerkeffekte, die OpenAI erreichen möchte. (Beides leider Pay)

Apple und ICEBlock: Apple nimmt Apps aus seinem Store, die vor möglichen Razzien der US-Abschiebebehörde ICE warnen. John Gruber schreibt dazu (übersetztes Zitat):

“Die Entscheidung von Apple zeigt, dass Entwickler sich nicht darauf verlassen können, dass der App Store Apps vertreibt, gegen die jemand aus der Trump-Regierung „Einwände erheben könnte”. (…) Apple beruft sich häufig auf das Wort „Vertrauen“ als Grund für das App-Store-Modell. Aber ihre Behandlung von ICEBlock zeigt, dass sie nicht vertrauenswürdig sind, wenn es darum geht, Rückgrat zu zeigen angesichts Trumps Abstieg zum autoritären „verrückten König“, und damit auch die gesamte iOS-Plattform in Ländern wie den USA, wo der App Store die exklusive Vertriebsquelle bleibt.”

Peak Social Media?

Seit 2023 geht es abwärts, zumindest außerhalb Nordamerikas. Aus dem FT-Artikel, der derzeit herumgereicht wird.

Links

Über die globalen Proteste junger Menschen und den digitalen Kontext.

Elon Musk einigt sich mit Ex-Twitter-C-Suite.

Über die Internet-Shutdowns in Afghanistan.

Goodbye, Cariad.

Warum Bitcoin riskanter als Gold ist. (Paper)

Warum wir uns täuschen in den Absichten, die wir KI unterstellen. (Paper)

Warum Radiologen sich im Machine-Learning-Zeitalter weiterhin gut schlagen.

Ein Reboot für die Blogosphäre.

Niedergang der Demokratie: Macht bitte nicht die Algorithmen verantwortlich

Wird KI die Demokratie zerstören oder retten? Ja.

Tech-Akzelerationismus: Wer ist Nick Land? ($)

Wie Werbeanzeigen den Amazon-Echo ruinierten.

Das falsche Versprechen der “KI für sozial Gutes”. (€)

Kann KI durch Videos die Eigenschaften der physischen Welt verstehen?

KI vs. Superforecaster: Der Abstand wird kleiner.

Wenn Chatbots auf die Aufmerksamkeitsökonomie treffen.

Sind Zeichen von Produktivitätsgewinnen durch KI bereits sichtbar? ($)v

KI verändert das Bruttoinlandsprodukt nicht wirklich.

Computer, die Dinge wollen. (€)

Postalphabetisierung: Universitäten bieten Kurse an, damit Studenten das Lesen von Romanen lernen. (€)

Bis zur nächsten Ausgabe!

Johannes

Appetizer: Aus dem Tagesspiegel Background

• Die Modernisierungsagenda: Viola Heeger und ich mit einem Blick auf den ersten Entwurf zur Modernisierungsagenda, die am Mittwoch im Rahmen der Kabinettsklausur verabschiedet werden soll. Interessante Konzepte wie “Law as Code” und ein Bekenntnis zur Messbarkeit einerseits, Frage nach echten Zielen andererseits. Mal sehen, wie die finale Strategie aussieht und ob sie wirklich eine Grundlage für die Staatsmodernisierung bietet.

• Vorschläge für die “Apply AI Strategy”: EU-Strategiepapiere, naja, wir wissen alle, wie geduldig pdfs sind. Allerdings ist die Überlegung, wie man von Fertigung bis Energiesektor KI in die Fläche bringt strategisch sehr relevant. Alexandra Ketterer mit den Vorschlägen, die umher schwirren.

• Digitalthemen bei der UN-Vollversammlung: Der deutsche Governance-Papst Wolfgang Kleinwächter führt für den Cybersecurity-Background die verschiedenen Fäden rund um Cybersicherheits-Themen und geopolitische Gemengelage der UN-Vollversammlung zusammen.

• Pilotländer (und Kommunen) für die Verwaltungsdigitalisierung: Der Bund hat die ersten Pilotpartner für die neuen Lösungen in der Verwaltungsdigitalisierung benannt, auf Länderebene sind das Bayern und Hessen. Das Ganze verlief etwas chaotisch und man kann sich schon fragen, warum man kein SPD-Land im ersten Aufschlag einbezogen hat. Wie dem auch sei: Benjamin Hilbricht und Elena Metz mit allen Details, inklusive dem Blick auf die kommunalen Partner. Aus dem mir sehr wichtigen Background Smart City.

• KI & Klima: Die EU muss sich entscheiden. Gewusst? Die Standpunkte (Op-Eds) aus den Backgrounds sind kostenlos im Web zugänglich. José van Dijck und Rianne Riemens von der Universität Utrecht argumentieren in ihrem Gastbeitrag, dass die Europäische Union im Bereich Künstliche Intelligenz im Widerspruch zwischen Wettbewerbsambitionen und Nachhaltigkeitsrhetorik gefangen ist. Und sich endlich entscheiden sollte.

Der Mord an Charlie Kirk & Very-Online-Nihilismus

Es gäbe noch eine Menge zu schreiben rund um die Folgen der Ermordung Charlie Kirks (siehe auch Ausgabe #148), aber ich möchte mich auf ein paar Punkte beschränken. Einer davon ist die Frage, ob wir es mit einem “Very-Online-Nihilismus” zu tun haben und ob dieses Konzept hilfreich ist, die Taten zu erklären.

Monia Ali und Katherine Dee machen sich den Begriff Nihilismus zu eigen, betonen aber auch, dass man drei verschiedene Phänomene unterscheiden muss. Übersetztes Zitat:

1. Es gibt Menschen, die glauben, dass das Leben Leid ist, und deshalb mit Gewalt handeln müssen.

2. Es gibt Menschen, die glauben, dass das Leben sinnlos ist, und deshalb das einsetzen, was ich (…) als „Slop-Gewalt” bezeichnet habe.

3. Es gibt die “revolutionären Normies”: gewöhnliche Menschen mit Jobs, Freunden und Familien, die dennoch zu der Überzeugung gelangen, dass nur extreme Spektakel den Lärm durchbrechen können, den sie als echte moralische Notfälle empfinden, die selbst das Produkt einer übertriebenen Medienberichterstattung sind.

Wenn wir Nihilismus in seinem ursprünglichen Sinne aus dem 19. Jahrhundert verwenden, beinhaltet der Begriff mehr als Sinnlosigkeit, nämlich eine im Kern dann doch sehr zielgerichtete Denkbewegung gegen bestehende Institutionen und Konstrukte wie Religion oder Staatsform. Die Morde des “Very-Online-Nihilismus” haben zwar politische Komponenten (siehe 3.), aber sind eben oft nicht viel mehr als die Externalisierung von Auto-Aggression - also das, was euphemistisch gerne als “erweiterter Suizid” beschrieben wird.

Bei näherer Betrachtung wird auch klar, dass jegliche Form von Kritik, die in solchen Taten stecken könnte, selbst erst einmal im Verdacht stehen sollte, Marketing zu sein. Ich habe spätestens seit dem Massenmord auf Utøya die Theorie, dass es den Tätern in Wahrheit schlicht darum geht, als Hinterlassenschaft einen Wikipedia-Eintrag zu erhalten, also blutige Geschichte zu schreiben. Max Read hat ein Interview mit Ettingermentum (Verfasser/in des gleichnamigen Newsletters) geführt, in dem diese These eine aktuelle Note erhält (übersetzt, gefettet):

“Ein Freund von mir, QuoProQuid auf Twitter, hat einen wirklich guten Punkt angesprochen, nämlich dass Schießereien an Schulen mittlerweile zur Routine geworden sind und nicht mehr so berichtenswert sind wie früher. Die Art von Menschen, die einfach nur Geschichte schreiben oder ihren Namen bekannt machen wollen, haben sich mehr auf Persönlichkeiten des öffentlichen Lebens verlegt, weil die Sicherheitsvorkehrungen dort weniger streng sind als an Schulen. Und wie wir bei Trump und Luigi [Mangione] gesehen haben, bekommen sie viel mehr Aufmerksamkeit als eine Schießerei an einer Schule.”

Wir sind also wieder mitten in der Aufmerksamkeitsökonomie, unterfüttert von den Strukturen der Entmenschlichung, die wir an vielen Stellen unseres Miteinanders sehen. John Herrman schrieb dazu (übersetzt und gefettet):

“Als allgemeine Theorie zur Erklärung der Übel dieser Welt ist die „Online-Radikalisierung“ eine tröstliche Fiktion ohne Vorhersagekraft, eine Möglichkeit, schockierende Ereignisse mit komplexen, sich überschneidenden Motiven innerhalb willkürlicher digitaler Grenzen einzudämmen, eine verlockende Methode, um tiefere und finstere Probleme als bloße Symptome einer vagen und externen Online-Bedrohung abzutun, und ein Instrument für politische Schuldzuweisungen oder Rechtfertigungen.

“Das Internet” kann uns in der Regel ebenso wenig die vollständige Geschichte darüber liefern, warum jemand beschlossen hat, einen anderen Menschen zu töten, wie seine isolierten Erfahrungen bei der Arbeit, in der Schule oder zu Hause, die wir kaum als miteinander verflochten und untrennbar betrachten können. Aber die düsteren Anreize und zynischen Prioritäten der kommerziellen Plattformen (…) könnten helfen zu erklären, wie wir dazu kommen, einander als unrettbar anzusehen.”

“Nihilismus” ist ein Platzhalter wie “Das Internet” - der Versuch der Reduzierung komplexer Phänomene auf eine für uns verstehbare Ebene. Was in Ordnung ist, aber eben auch schablonenhaft.

Ende des Lesens, Ende des Denkens?

Die Rückkehr der Kultur der Mündlichkeit und Post-Alphabetisierung sind hier regelmäßig Thema (siehe z.B. Ausgabe #87, #119 oder die Jahresvorschau 2025 in #121). Gerade gibt es da draußen in der großen Welt der Internet-Essays zwei Aufschläge dazu: James Marriotts lange Wegbeschreibung von der Gutenberg-Galaxis in die jetzige, bereits in Ansätzen post-alphabetisierte Gegenwart und die Folgen für unsere Gesellschaften (politisch noch einmal verdichtet von Andrew Sullivan angesichts aktueller politischer Entwicklungen in den USA).

Derek Thompson wiederum ergänzt in seinem Essay Überlegungen über eine Zivilisation, die Maschinen das Denken überlässt. Während Marriott ein Zeitalter der Barbarei anbrechen sieht, sind für Thompson die Folgen viel banaler (übersetztes Zitat):

“Die Freizeit wird zunehmen, das Privatleben wird einen größeren Teil unserer Freizeit einnehmen, die Bildschirmzeit wird einen größeren Teil unseres Privatlebens einnehmen und KI-Inhalte werden einen größeren Teil unserer Bildschirmzeit einnehmen. „Wenn Sie sich ein Bild von der Zukunft machen wollen“, wie Orwell fast geschrieben hätte, „stellen Sie sich einen Bildschirm vor, der für immer auf einem menschlichen Gesicht leuchtet.“ Für die meisten Menschen wird sich diese Tragödie nicht einmal wie eine Tragödie anfühlen. Wir werden die Weisheit verloren haben, Nostalgie für das zu empfinden, was verloren gegangen ist.”

KI-Ökonomie: Zwei Signale

Zwei Auffälligkeiten: Nvidia will im Laufe der Zeit 100 Milliarden US-Dollar in OpenAI investieren. Was nichts anderes als eine Finanzschleife ist, denn OpenAI wird ja einen Teil des Geldes wieder für Nvidia-Chips ausgeben. Der Nvidia-Skeptiker Jay Goldberg von Seaport Global Securities formuliert es so (übersetzt und gefettet):

“In guten Zeiten wird dies die Lage verbessern. Wir werden schneller wachsen, die Zahlen werden viel schneller steigen. Aber wenn sich der Zyklus dreht, und das wird er, verschlechtert sich die Lage auf dem Weg nach unten.”

Passend dazu für die AGI-Skeptiker: Der Unternehmensberatung Bain& Company zufolge sind bis 2030 jährlich 500 Milliarden US-Dollar an globalen Investitionen in Rechenzentren nötig, um den steigenden Rechenbedarf zu decken. Um diese Ausgaben wirtschaftlich tragbar zu machen, wären rund zwei Billionen US-Dollar an jährlichen Einnahmen erforderlich. Selbst bei optimistischen Annahmen rechnet Bain jedoch mit einer Finanzierungslücke von 800 Milliarden US-Dollar pro Jahr.

Dass das Ganze wie eine riesige Blase aussieht (siehe Ausgabe #146), lässt sich nicht bestreiten. Die Frage ist nur, wie stark es knallt, wenn die Luft entweicht.

Jetzt abonnieren

Halluzinationen und KI-Benchmarks

OpenAI-Forscher jüngst eine Studie veröffentlicht, die mathematisch erklärt, warum KI-Modelle halluzinieren. Es liegt demnach nicht unbedingt am Trainingsmaterial. Die Forscher zeigen vielmehr, dass die Gesamtfehlerquote beim Generieren ganzer Sätze mindestens doppelt so hoch ist wie die Fehlerquote derselben KI bei einer einfachen Ja/Nein-Frage.

Der Grund dafür ist, dass beim Satzbau mehrere aufeinanderfolgende Vorhersagen getroffen werden müssen – und dabei können sich logischerweise Fehler aufsummieren. Jeder kleine Fehler kann den nächsten beeinflussen, was die Wahrscheinlichkeit für einen insgesamt fehlerhaften Satz erhöht.

Noch interessanter ist die Frage der Rolle von Benchmarks, die das Paper aufwirft: Denn neun von zehn gängigen KI-Bewertungen basieren auf einem binären System. Das bedeutet: Derzeit erhalten KI-Modelle bei „Ich weiß es nicht“ dieselbe Punktzahl wie bei falschen Antworten – null. Deshalb “raten” sie lieber, als Unsicherheit zu zeigen. In der Studie ist entsprechend von einer “Epidemie” die Rede, in der ehrliche Antworten bestraft werden.

Eine mögliche Lösung wäre, bei Evaluationstest ehrliche Unwissenheit besser zu bewerten als falsche Antworten. Doch laut Wei Xing (University of Sheffield) würde dies mehr Rechenaufwand und somit höhere Kosten verursachen, da Modelle ihre Antwortsicherheit einschätzen müssten. Zudem könnten Nutzer abspringen, wenn KIs öfter Unsicherheit zeigen, statt wie gewohnt selbstbewusst zu antworten.

Das Problem wird also weiter existieren. Zumindest, solange LLMs nicht für wirklich kritische Aufgaben genutzt werden sollen, bei denen absolute Genauigkeit zentral ist. Denn rein aus geschäftlicher Sicht mag “liefert regelmäßig falsche Antworten” vielleicht epistemisch fatal sein, aber offenbar für die Kundschaft “gut genug”.

Workslop

“Workslop” ist ein Begriff, der in den vergangenen Tagen Karriere machte. Original stammt er aus der Harvard Business Review, wo ihn das Team von BetterUp Labs wie folgt definiert (übersetzt und gefettet):

“Mitarbeiter verwenden KI-Tools, um mit geringem Aufwand passabel aussehende Arbeiten zu erstellen, die letztendlich mehr Arbeit für ihre Kollegen bedeuten. In den sozialen Medien, die zunehmend mit minderwertigen, KI-generierten Beiträgen überflutet werden, werden diese Inhalte oft als “AI-Slop” bezeichnet. Im Arbeitskontext bezeichnen wir dieses Phänomen als „Workslop“. Wir definieren Workslop als KI-generierte Arbeitsinhalte, die sich als gute Arbeit tarnen, aber nicht die Substanz haben, um eine bestimmte Aufgabe sinnvoll voranzubringen.”

Dadurch eröffnen sich einige Fragen rund um den zu erwartenden Produktivitätsgewinn durch LLMs, aber auch zur Zukunft der Arbeit selbst. Erstellen wir irgendwann alle KI-generierte Mittelmäßigkeit, die dann Kollegen und Kolleginnen ihrerseits mit KIs weiterverarbeiten, woraus zwar Zeitgewinn, aber… genau welcher Erkenntnisgewinn entsteht?

Chinas neue App-Politik

Unterschätztes Thema - Chinas Regierung will größere Tech-Firmen zur Einführung von “Aufsichtsausschüssen für den Schutz personenbezogener Daten” verpflichten und die Staatsmedien geben dem Ganzen den - sehr europäischen - Spin von “Maßnahmen gegen Big Tech”, inklusive ähnlicher Messgrößen (50 Millionen registrierte oder 10 Millionen monatlich aktive Nutzer).

Meine Laien-Einschätzung: Damit nähert man sich einerseits auf dem Papier europäischen Datenschutzstandards an, signalisiert damit aber zugleich auch wieder einen stärkeren Eingriff in die Tech-Branche. Mal abwarten, wie das in der Praxis aussieht, im Moment ist das alles noch in einer Konsultationsphase.

Hype als Fachgebiet

Mitte September fand in Barcelona die erste Hype-Studies-Konferenz statt. Die Organisatoren machen in einem hier für Jacobin übersetzten Artikel klar, warum sie es für die politische und gesellschaftliche Linke relevant halten, sich mit diesem Thema zu beschäftigen:

“Um den aktuellen Aufstieg des Tech-Autoritarismus zu verstehen und zu bekämpfen, brauchen resiliente Demokratien und linke Bewegungen Hype-Kompetenz. Sie müssen verstehen und lesen lernen, wie der Tech-Hype als ein politisches Instrument rechter neo-reaktionärer Politik fungiert.”

Wer sich auf diesem Pfad der Technologie-Interpretation befindet (ich persönlich halte ihn für etwas unterkomplex), findet in diesem Strang sicherlich Material für die Schärfung des kritischen Bewusstseins.

Zwischenmenschliches (als Graph)

Die Grafik aus diesem Artikel (€) zeigt: Erstmals verbringen in den USA Menschen über 50 mehr Zeit mit zwischenmenschlichem Kontakt (also Treffen, gemeinsame Aktivitäten) als die 15- bis 25-Jährigen. Im Vergleich zu 2003 verbringen die Jugendlichen/jungen Erwachsenen heute jeden Tag rund 26 Minuten weniger in direktem persönlichen Austausch. Monatlich summiert sich das auf 13 Stunden. Ich habe gesucht, ob es ähnliche Statistiken für Deutschland gibt, aber auf die Schnelle nichts Vergleichbares gefunden, da viele Befragungen entweder a) Online-Aktivitäten einsammeln oder nur abfragen, wie wichtig dieser Kontakt jungen Menschen ist.

1 Meme

Links

Tiktok-Deal geht bald über die Bühne und der Preis ist dämlich.

Die Familie Ellison und ihr Medien-Imperium. ($)

Petition gegen Online-Hass: Wichtiges Anliegen, bedenkliche Forderung. (€)

Die Rekrutierung von Teen-Hackern durch Cyberkriminelle funktioniert (leider) sehr gut. ($)

OpenAI richtet ChatGPT am Feed-Modell aus.

Ein Stargate für China. ($)

Metas neue Smart-Glasses scheinen beeindruckend zu sein.

Prompt-Experiment: DeepSeek liefert schlechtere Ergebnisse für Regimekritiker.

Bevorzugen KI-Modelle ihre Heimatländer?

Was KI in der Medizin bereits kann - und was nicht. ($)

HSBC verkündet Durchbruch im quantenbasierten Trading. (€)

“The AI alignment alignment crisis”.

In ihren eigenen Worten: Warum chinesische Tech-Talente aus den USA zurückkehren.

Deepfakes als faschistische Traum-Maschine.

Vernetzung: Das moderne Subjekt existiert nicht mehr.

Youtube, KI und die strategische Dimension.

Warum Netflix keine guten Filme macht.

WhatsApp führt Übersetzungen ein.

Wir treffen uns an der Blogroll.

Über RSS.

Apple: Die Seele hat die Maschine verlassen.

Dear Tim: your presentation is pedantic and boring.

Bis zur nächsten Ausgabe!

Johannes

Appetizer: Aus dem Tagesspiegel Background

• Wem hilft Jupiter? Anfang September wurde in Jülich der erste Exascale-Computer Europas eingeweiht. Neben Forschungsprojekten sollen sich auch KMU und Start-ups Rechenkapazitäten sichern können. Warum das bisher schief ging und wie sich das ändern soll, haben Lisa Oder und Oliver Voß aufgeschrieben.

• Wer treibt wirklich Innovationen für die Bundeswehr? Cyber Innovation Hub, Cyberagentur, Sprind, BWI GmbH - an Akteuren, die (digitale) Innovationen in die Bundeswehr bringen sollen, mangelt es nicht. Doch in der Realität scheitert vieles an den bestehenden Strukturen. Theresa Locker mit einer ausführlichen Analyse.

• Online-Fortbildungen und das Nadelöhr: 17 Mitarbeiter einer kleinen Kölner Behörde müssen digitale Weiterbildungskurse zertifizieren - von denen es inzwischen geschätzt 250.000 gibt. Weil das bestehende Fernunterrichtsschutzgesetz veraltet ist und nicht zur digitalen Realität passt, müssen Anbieter mit Rechtsunsicherheiten leben. Christian Füller berichtet.

• Seit Freitag gilt der “Data Act” der EU: Was das in der Praxis bedeutet - Stichwort Datenherausgabe, Datenteilen - hat Alexandra Ketterer aufgeschrieben.

EuroStack zwischen Bewegung und Stillstand: Von mir stammt unter anderem eine längere Bestandsaufnahme zu Stand und Chancen der EuroStack-Idee.

Fortschritte in der KI-Großdebatte

Die intellektuelle Großdebatte über das Wesen Künstlicher Intelligenz findet - publizistisch angeschoben von Akteuren wie Ezra Klein - im Kontext zweier Papers statt: “AI as A Normal Technology” von Arvind Narayanan und Sayash Kapoor (vgl. Ausgabe #133) und “AI 2027” von Daniel Kokotajlo und Scott Alexander.

Ich gebe zu: “AI 2027” hatte ich seinerzeit hier einzig verlinkt und nicht näher besprochen, weil es mir ein bisschen zu Science-Fiction-artig vorkam. Ich halte es auch trotz der Expertise der Autoren weiterhin für ein unwahrscheinliches Szenario, dass wir bis 2027 Artificial General Intelligence (AGI) erleben werden. Allerdings ist das Szenario - besonders bei Mitarbeitenden von US-Techfirmen - mit voller Wucht eingeschlagen. Was insofern nicht verwundert, als dieses AGI-Ziel ja implizit die Expansionsstrategien ihrer Arbeitgeber begründet.

Doch zurück zur Debatte: Ob Künstliche Intelligenz in einen “rekursiven Selbstverbesserungszyklus” eintreten kann und innerhalb kürzester Zeit alles umwälzt (AI 2027) oder erst innerhalb eines Zeitraums von Jahrzehnten diffundiert, weil es auf eine sehr komplexe Realität trifft (“AI as A Normal Technology”, oder auch AIANT), ist im Kern auch die Frage, wenn wir über Policy oder die gesellschaftlichen Auswirkungen der möglichen Veränderungen blicken.

Es entbehrt daher nicht einer gewissen Ironie, dass die “AI 2027”-Leute an ihrem Extremszenario festhalten und Scott Alexander einen AIANT-Takedown produzieren lässt, während Narayanan und Kapoor sich in einem neuen Text rechtfertigen, dass sie alles andere als KI-Skeptiker sind (und nebenbei ihr Substack von “AI Snakeoil” in “AI as A Normal Technology” umbenennen).

Eine Schlüsselpassage zum Normalitätsdiskurs ist dabei diese hier (übersetzt und gefettet):

“Bemerkenswert am KI-Diskurs im Allgemeinen und an „Wir gegen AI 2027” im Besonderen ist die große Bandbreite an Meinungen, nicht nur über die Zukunft, sondern auch über Dinge, die wir beobachten können, wie beispielsweise die Geschwindigkeit der Verbreitung.

Wenn wir als Community nicht viel besser darin werden, die Gegenwart zu messen und konkurrierende kausale Erklärungen für den Fortschritt zu überprüfen, wird die Energie, die in Vorhersagen gesteckt wird, fehlgeleitet sein - weil uns die Mittel fehlen, diese Vorhersagen zu überprüfen.

Wir haben beispielsweise argumentiert, dass wir selbst im Nachhinein nicht unbedingt wissen werden, ob „AGI” entwickelt wurde. Bis zu einem gewissen Grad sind diese Einschränkungen aufgrund der mangelnden konzeptionellen Präzision von Ideen wie AGI unvermeidlich, aber gleichzeitig ist es wahr, dass wir bei der Messung noch viel besser werden können.”

Das Ganze spielt in die Debatte über Sinnhaftigkeit von Benchmarks hinein, zeigt aber auch das Bemühen, das Ganze faktenbasiert und weniger apodiktisch anzugehen als ich die gewagten Prognosen von “AI 2027” wahrnehme. Es soll nun wohl eine gemeinsame Erklärung der beiden Gruppen geben, in dem man nochmal die Gemeinsamkeiten und Differenzen trennscharf markiert.

Wohltuend an der Diskussion ist, dass sich um die beiden Gegensätze herum eigene Ansätze gebildet haben beziehungsweise durch den entstandenen Diskurs in das Wahrnehmungsfeld geraten.

Zum einen haben wir die Kritik, wie sie der Informatik-Professor Ben Recht formuliert: Er wirft den AIANT-Vertretern vor, die “Normalität” der Technologie nur deshalb zu proklamieren, weil Normalität klassische Regulierung ermöglichen würde. Recht selbst aber sieht den aktuellen Weg von KI in Anlehnung an Max Read eher in Richtung einer “nachteiligen Technologie” verlaufen - also “Schlangenöl”-Produkte, die keinen gesellschaftlichen Mehrwert schaffen, sich aber dennoch durchsetzen. Als aktuelle Parallele nennt er Kryptowährungen, historisch sieht er Netzwerk-Marketing oder die Einführung von Werbung als Beispiele für Phänomene, die trotz eindeutiger Betrugsmerkmale irgendwann gesellschaftlich akzeptiert wurden.

Ähnlich, aber doch anders und grundsätzlicher angelegt, ist der Ansatz von Henry Farrell: Der hat seine These von “KI als Kulturtechnologie” (siehe Ausgabe #95) etwas modifiziert, hin zu “KI als soziale Technologie”. Heißt: KI als sich gerade ausbildende Superstruktur, respektive Suprastruktur, wie wir sie in der Entwicklung von Märkten oder Bürokratien erlebt haben - also eine Grundstruktur, die wir gar nicht mehr als solche erkennen, aber eben nicht im technischen Sinne (wie “Strom” oder “das Internet”), sondern auf dem organisierenden Betriebssystem-Level unserer Zivilisation.

Dieses langsame Verschmelzen ist für Farrell eine “langsame Singularität”, in der wir uns gerade inmitten “monströser und oft treuloser Diener” niedergelassen haben. Und was wir nicht mehr sehen, können wir auch nicht mehr bestimmen. Der Technologiebegriff von Ivan Illich oder Jacques Ellul kommt mir dabei in den Sinn, genau wie meine (wenig originelle) private Hypothese, dass wir es bereits mit dem Kapitalismus als erster und eigentlicher Künstlichen Intelligenz zu tun haben, von der sich die Entwicklung der jetzigen KI letztlich nur ableitet.

Recht und Farrell argumentieren also im Kern gegen einen Techno-Determinismus, der sowohl “AI in 2027”, als auch AIANT inhärent ist. Und öffnen damit die Debatte für Strukturfragen, die wir angesichts der geopolitischen und technologischen Entwicklungen eigentlich auch in vielen anderen Bereichen stellen müssten.

Dass dieser wichtige Diskurs in Deutschland und Europa bislang keine Rolle spielt und wir uns offenbar damit begnügen, diese Fragen technokratisch oder auf dem Niveau von “Wir müssen uns im KI-Zeitalter unseres Menschseins besinnen” zu verhandeln, zeigt die ganze Malaise, in der sich unser Kontinent befindet.

Jetzt abonnieren

Parasozialer Terror

(Anmerkung: Dieser Teil stammt weitestgehend von Freitagfrüh, beinhaltet also nur einen Teil des Komplexes, nichts zu Groyper-Wars oder Ähnlichem, was gerade im Kontext des mutmaßlichen Täters diskutiert wird)

Ich gehöre zu den Glücklichen, denen das Video mit dem Mord an Charlie Kirk online noch nicht begegnet ist. Vielleicht, weil ich (gerade) TikTok und (seit langem) X nicht installiert habe. Und trotzdem ist das natürlich alles deprimierend. Trumps Forderung nach einem Schnellprozess, die New York Times mit ihrem Pseudo-Zentrismus (“Amerika trauert über Charlie Kirk”), die Anschlagsdrohungen gegen schwarze Colleges (hmm, warum nochmal?), die zwischenzeitliche Instrumentalisierung der Tat als trumpistisches Präludium für ein härteres Vorgehen gegen den politischen Gegner und auch die paar dummen Linken, die eine solche Tat abfeiern.

Aber das Ganze ist natürlich ein Internet-Thema, in dem Sinne, dass es keine Trennung zwischen Online- und Offline-Welt mehr gibt; und auch in dem Sinn, dass der USA auch die “Restrealität” abhanden kommt. In der allerersten Ausgabe dieses Newsletters 2020 schrieb ich dazu:

“Was heißt das? Aus der Vogelperspektive betrachtet: Wie Deutungshoheit entsteht, entwickelt sich weiterhin weg von den Mechanismen des späten 20. Jahrhunderts (Institutionen, lineare Medien). Hierarchie ist nicht überflüssig geworden, sondern sie entsteht vielmehr vernetzt. Genauer gesagt erleben wir die “Memefizierung der Welt”. Ideen, Verhalten und Stile werden zu Kultur(über)trägern. Und damit politisch auch zu einem Machtfaktor.”

Charlie Kirk als provokativer reaktionärer Influencer war genau Teil dieser Mechanismen und die Wirkung seines Todes folgt ihnen ebenfalls.

Aber ich bin - auch um mir meine eigene Restrealität zu erhalten - nicht allzu tief drin in diesen Entwicklungen. Anders als Ryan Broderick, der die beste (digital-)kulturelle Analyse dieses Mordes verfasst hat. Er schildert, wie ein Tiktoker kurz nach der Tat schockiert ein Video aufnimmt und mit den Worten “Abonniert meinen Kanal” endet.

Und er beschreibt, wie die Mischung aus Aufmerksamkeitsökonomie und zunehmender Sektenhaftigkeit des Politischen - eine sich gegenseitig verstärkende Entwicklung - letztlich in einer Situation kulminiert, in der alles so absurd wie düster wie folgenreich erscheint. Übersetztes Zitat (Fettungen meine):

“Unabhängig vom Motiv war die Schießerei eindeutig inszeniert, um eine maximale Wirkung in den sozialen Medien zu erzielen. Auch wenn Bilder von Massensterben mittlerweile ein unvermeidlicher Bestandteil des Internets sind, hatten die Videos von Kirks Tod etwas besonders Eindringliches. Der einzigartige parasoziale Schrecken, einen Menschen zu sehen, der hinter seiner Rüstung aus Internetruhm so unantastbar schien, nun zu einem weiteren zerbrechlichen Menschen reduziert zu sehen.

Wenn der 11. September der Höhepunkt politischer Gewalt im Fernsehzeitalter war, sollte Kirks Tod als umgekehrtes Spiegelbild gesehen werden, als perfektes Spektakel für das Zeitalter der sozialen Medien. Ein auf düstere Weise passendes Ende für den führenden digitalen Propagandisten der Trump-Regierung. Dieselben Algorithmen, auf die er sich stützte, um Narrative für die MAGA-Bewegung zu schaffen, verwandeln nun seinen Tod in einen schwindelerregenden Strom von Inhalten. Shitposts, Memes, Verschwörungstheorien. Das und die wahnsinnige Lust der Rechten auf einen Bürgerkrieg haben sich in den letzten 24 Stunden online intensiver als je zuvor miteinander verflochten. Der logische Endpunkt des Amerikas des 21. Jahrhunderts: Ein Influencer, der vor einer Menge von Smartphones an einer Hochschule erschossen wird. (…)

Das dunkle neue Amerika, für dessen Verwirklichung Kirk sein Leben gewidmet hat, ist endgültig Realität. Ein vollständiger Kollaps der Grenze zwischen Online- und Offline-Leben, der politische Gewalt einfach nur zu einer weiteren Gelegenheit macht, die eigene Marke zu stärken, wenn man sein Handy schnell genug einschalten und mit dem Leben davonkommen kann.

Parasozialer Terror in der Tat und über die Tat hinausgehend.

Nachtrag vom Sonntagmorgen: Lesenswert zum ganzen Kontext digital verbundene Nischen-Subkulturen ist immer Katherine Dee, auch dieser Artikel von Berit Glanz ist sehr hilfreich.

Nepal: Die unterschätzten Proteste

Weil die Proteste in Nepal trotz 51 Toten im Westen ziemlich untergegangen sind, hier einige Digitalaspekte (weitestgehend aus dieser sehr guten Analyse bei Tech Policy Press)

Hintergrund der Protestwelle war der 4. September, als das Oberste Gericht des Landes ein Totalverbot von 26 Plattformen – von Facebook über Signal bis Discord - bestätigte. Begründung: nationale Sicherheit und fehlende Besteuerung der Anbieter (hier das zugehörige Gesetz).

Relevanter Kontext zum Gesetz: Die Social Media Bill 2025 gilt als Versuch, noch stärker als bislang ohnehin schon in die Verbreitung von Internet-Plattformen einzugreifen und de facto den chinesischen Weg der digitalen Abschottung einzuschlagen.

Ebenfalls relevant: In den Wochen vor dem Urteil hatten gerade junge Nepalesen und Nepalesinnen auf Social Media Fotos vom luxuriösen Leben vieler Politiker und Politikerinnen gepostet, das im krassen Missverhältnis zur hohen Arbeitslosigkeit (20 Prozent bei jungen Menschen) und Perspektivlosigkeit steht (ein Fünftel des BIP kommt durch Überweisungen aus dem Ausland, weshalb Migration für junge Menschen in Nepal eine allgegenwärtige Option ist).

Wie es weiterging, beschreibt Tech Policy Press so (übersetztes Zitat):

“Das Verbot sozialer Medien, das Millionen Menschen von ihren täglichen Kommunikations- und Geschäftskanälen, einschließlich des Tourismus, abgeschnitten hat, brachte die Jugend zum Überkochen. Ironischerweise waren sogar Regierungsbehörden selbst für ihre offizielle Kommunikation auf Facebook und X angewiesen, ein Widerspruch, der Kritikern nicht entgangen ist.

Die Regierung forderte die Bürger unterdessen unter Verweis auf Sicherheitsrisiken auf, keine VPNs zu verwenden, und rief sie dazu auf, sich an das Verbot zu halten. Innerhalb weniger Stunden hatten die zwischen 1997 und 2012 geborenen Angehörigen der Generation Z in Nepal die Beschränkungen jedoch mithilfe von VPNs und alternativen Apps wie TikTok umgangen. Sie organisierten für den 8. September eine landesweite Protestaktion.”

Es kam zu Ausschreitungen, Toten, Regierungsgebäude wurden angezündet und 30 Stunden später stürzte die Regierung. Die Plattform-Blockade wurde aufgehoben.

Die Geschichte ist damit aber nicht zu Ende: Offenbar hat sich seitdem auf Discord in Windeseile ein Ökosystem aus zivilgesellschaftlichen Debattenräumen entwickelt, gleichzeitig sind dort natürlich auch Propaganda und Falschnachrichten zu finden. Die Verbreitung politischer Informationen hat sich quasi über Nacht verändert, und weder Politik, noch klassische Medien können sich auf die neue Geschwindigkeit einstellen. Die politischen Folgen dieser Strukturveränderung sind noch unklar.

Grundrechte für KIs: Nur mit Schmerzbewusstsein?

Ich bin immer überrascht, wenn plötzlich Themen in meinem Feed auftauchen, die ich mal für wichtig hielt, aber aus den Augen verloren habe. 2022 schrieb ich hier über die Frage nach “Grundrechten für Künstliche Intelligenzen”, seinerzeit aufgeworfen durch Nick Bostrom und Carl Shulman. Seitdem habe ich manchmal über das Thema nachgedacht, aber einen größeren Diskurs dazu habe ich nicht wahrgenommen.

Bis zu dieser Woche: Politico greift die Debatte über das “Personsein” von KIs auf und verweist dabei auf einen Aufsatz von Katherine Forrest aus dem Jahr 2024. Forrest argumentiert in zwei Strängen: Einmal mit der Anerkennung der Rechte marginalisierter Gruppen, zum anderen mit der (amerikanischen) Rechtstradition, seit 1978 Unternehmen immer mehr personen-artige Rechte gegeben hat. Bis hin zur freien Meinungsäußerung, die sich in (quasi unbegrenzten) Wahlspenden äußern kann - der Anfang vom Ende der amerikanischen Demokratie (Citizens-United-Urteil).

Forrests Argumentation kommt allerdings mit einer Fußnote daher. Sie beruht nämlich darauf, dass KIs einmal “sentient”, also empfindungsfähig werden könnten. Dazu wiederum passt die Debatte rund um “scheinbar bewusste KI”, die Microsoft-AI-Chef Mustafa Suleyman aufgeworfen hat (siehe Ausgabe #147). Und, siehe da: Wired befragt Suleyman in einem Interview zu genau diesem Thema ($). Seine Position zu Rechten von KI (übersetzt und gefettet):

“Ich frage mich langsam, ob Bewusstsein die Grundlage für Rechte sein sollte. In gewisser Weise geht es uns darum, ob etwas leidet, und nicht darum, ob es subjektive Erfahrungen macht oder sich seiner eigenen Erfahrungen bewusst ist. Ich finde diese Frage wirklich interessant.

Man könnte ein Modell haben, das behauptet, sich seiner eigenen Existenz bewusst zu sein und subjektive Erfahrungen zu machen, aber es gibt keinen Beweis dafür, dass es leidet. Ich denke, Leiden ist ein weitgehend biologischer Zustand, weil wir ein entwickeltes Schmerznetzwerk haben, um zu überleben. Und diese Modelle haben kein Schmerznetzwerk. Sie werden nicht leiden.

Es mag sein, dass sie sich ihrer Existenz bewusst sind, aber das bedeutet nicht unbedingt, dass wir ihnen moralischen Schutz oder Rechte schulden. Es bedeutet nur, dass sie sich ihrer Existenz bewusst sind, und sie auszuschalten macht keinen Unterschied, weil sie nicht wirklich leiden.”

Ist “Leiden” buchstäblich ans Fleisch gebunden? Das wiederum tangiert die Frage, ob Künstliche Intelligenzen ohnehin nur durch Körperlichkeit überhaupt empfindungsfähig werden können (vgl. Ausgaben #58 und #85). Und macht die Dichotomie zwischen nervenbasierten und silikonbasierten Neuro-Systemen erneut auf - ein Gegensatz, den Bostrom und Shulman übrigens hinter sich lassen wollten.

Notizen

Jugendschutz als (einziges?) westliches Regulierungsthema: Die FTC beginnt, den Kinderschutz in KI-Chatbots zu untersuchen. Casey Newton leitet daraus ab, dass die Republikaner im Kontext KI-Sicherheit gerade ihre Haltung verändern. Ich sehe das anders. Wenn man auch nach Europa blickt, in der sich Ursula von der Leyen jüngst für eine Altersbeschränkung von sozialen Medien ausspricht und damit nur die Bewegung einiger Mitgliedsländer nachvollzieht, ergibt sich eher dieses Bild: Jugendschutz kristallisiert sich zum nächsten großen Regulierungsthema heraus, dem sich “der Westen” annnimmt. Einerseits gut begründet, andererseits, weil hier wenig Widerstand zu erwarten ist. Vielleicht passt der Vergleich mit der Regulierung von Zigaretten: Der Jugendschutz wurde zunächst prinzipiell eingeführt, dann aber auch lax überwacht; die Tabak-Industrie insgesamt wurde aber dann erst im Laufe der nächsten Jahrzehnte reguliert, und das auch sehr sanft (vgl. Tabak-Werbeverbote oder Rauchverbote).

ASML steigt bei Mistral ein: Die Meldung, dass ASML Hauptaktionär beim französischen KI-Start-up Mistral wird, sei hier nur kurz erwähnt - aber mit der Fußnote versehen, dass das tatsächlich eine äußerst relevante Entwicklung ist.

Blick auf Tech in China: Ich glaube, in US-Tech wächst gerade das Verständnis darüber, wie komplex das gegenwärtige China wirklich ist. Maßgeblich wegen Dan Wangs Buch "Breakneck" (das ich gerade lese, mehr darüber bald), aber auch wegen Texten wie diesem: Jasmine Sun war in Shenzhen und Shanghai - ihre Beobachtungen über die dortige Tech-Branche, aber auch das Verhältnis der Gesellschaft und Technologie insgesamt, erweitern den Horizont und brechen die Klischees auf, die wir zu "Tech in China" im Kopf haben.

Nick Clegg, der Athener

“US-Amerikaner – und insbesondere die Bewohner der Westküste – sind von Natur aus anglophil: Cleggs Selbstbewusstsein als Absolvent einer Privatschule muss für sie persönlich wie Katzenminze gewirkt haben. So wie die Römer Lehrer aus Athen engagierten, repräsentiert Clegg jene Klasse, die eines Tages möglicherweise den gesamten Technologieexport Großbritanniens nach Amerika ausmachen wird.”

Yuan Yi Zhu mit der wohl filigransten Kritik am neuen Buch von Nick Clegg.

Elon Musk, vollwertiger Faschist

Das Experiment

“Ich denke, wir können mit Sicherheit sagen, dass es ein beinahe selbstmörderisches soziales Experiment war, Tiere, die nach Mustern suchen, in eine Informationsumgebung zu werfen, die die Realität auf der Grundlage individueller Vorlieben und personalisierter Algorithmen zusammenstellt.”

Sean Illing

Links

OpenAI-Paper: Halluzinationen offenbar unumgänglich.

Die europäische Entscheidung zu Googles Adtech-Sparte, zusammenfassend erklärt.

Chinesischer Polizeistaat, westliche Technik.

Einigung zwischen Anthropic und Autoren beim Urheberrecht: Richter ist skeptisch. ($)

Internationales Vorgehen gegen Desinformationskampagnen: USA steigen aus. (€)

VCs scharen sich um europäische Verteidigungsstartups. (€)

Sicherheitslücken: Politischer Druck auf Microsoft wächst. ($)

Stand des Entwickler-Arbeitsmarkts 2025.

Sie werden AGI nicht erreichen.

PayPal-Rivale: Was taugt Wero? (€)

Was, wenn der KI-Börsenboom endet?

Die Schattenseite von Chinas Innovationspolitik. (€)

Reguliert endlich den Smart-Begriff!

Über die Smartphone-Verbotsdebatte. (€)

Ein Schüler über KI im Klassenzimmer. ($)

KI und die Zukunft der Arbeit.

Gedanken zur OpenAI-Jobbörse.

Research Papers als KI-Agenten - ein Framework.

Statistiken zur KI-Nutzung und das Simpson-Paradoxon.

Fußnote zu kognitiven Folgen der Chatbot-Nutzung.

Tech als verzerrender Faktor im S&P 500 (pdf)

Bis zur nächsten Ausgabe!

Johannes

Appetizer: Aus dem Tagesspiegel Background

• Es gibt deutsche Palantir-Alternativen - aber in den Innenministerien von Bund und Ländern werden sie ignoriert. Wer die Firmen sind und warum sie außen vor bleiben: Recherche von Josefine Kulbatzki und Theresa Locker.

• Unterfinanzierte ENISA: Die ENISA (European Union Agency for Cybersecurity) ist die Agentur der Europäischen Union für Cybersicherheit. Ihre Aufgaben wachsen, alleine zuletzt durch vier neue EU-Regulierungen - aber die Finanzierung wächst nicht. Was das bedeutet, hat Paul Dalg recherchiert.

• Wie aussagekräftig sind KI-Benchmarks? Die Debatte, ob die Optimierung auf KI-Benchmarks die Entwicklung von LLMs nicht nur auf den falschen Weg führt, sondern auch die Aussagekraft solcher Zahlen für Regulierer mindert, wird derzeit intensiv geführt. Alexandra Ketterer berichtet über den Stand der Diskussion.

• KI, GPT-5 und die Blasen-Sorge: Alexandra Ketterer und ich darüber, wie berechtigt Kritik an der Leistungsfähigkeit von GPT-5 ist und wieso die hohen Investments in KI-Infrastruktur systemische Risiken für Finanzindustrie und Gesamtwirtschaft in den USA haben (vgl. auch Ausgabe #146).

• Drei Wege zur BSI-Zentralstelle: Schon lange gibt es eine Diskussion darüber, ob und wie das BSI zur Zentralstelle in der Cybersicherheit werden soll. Drei Wege zu einer größeren Rolle zeichnen sich ab, Benjamin Hilbricht hat sie aufgeschrieben und analysiert.

“Scheinbar bewusste KI” (SCAI)

Das hilfreichste Konzept der vergangenen 14 Tage kommt von Mustafa Suleyman, dem Gründer von DeepMind und aktuellem Chef von Microsoft AI. Suleyman warnt vor einem Trend, der sich gerade manifestiert: Nämlich die Idee, die Produkte in Richtung “seemingly conscious AI” (SCAI), also “scheinbar/fälschlich bewusste KI” zu entwickeln.

Die Kriterien, die er für SCAI aufstellt, sind zum Beispiel Chatbots mit empathisch erscheinender Persönlichkeit, die emotional ansprechende Gespräche führen können, sich an frühere Interaktionen erinnern und daraus Mitteilungen über vermeintlich subjektive Erfahrungen generieren. Hinzu kommt noch die Möglichkeit, autonom zu agieren (zum Beispiel in Form von agentischen Handlungen).

Diese gezielt gewollte Anthropomorphisierung, also die “vorgetäuschte Wesensartigkeit”, ist für linke Kritiker wie Michael Seemann quasi der einzige Weg zur Monetarisierung von LLMs durch OpenAI, Meta und Co., weil die Technologie einzig in Sprachspiel und Semantik einsetzbar ist. Soweit würde Suleyman natürlich nicht gehen, aber er skizziert deutlich die Gefahr einer Pfadabhängigkeit - denn SCAI wird letztlich großen Einfluss auf die Menschen haben, die sie benutzen (vgl. zu AI Companions in Ausgabe #139).

Übersetztes Zitat:

“Es ist wichtig darauf hinzuweisen, dass aus diesen Modellen selbst keine scheinbar bewusste KI hervorgehen wird, wie manche vermuten. Sie wird nur entstehen, weil einige Akteure sie entwickeln könnten, indem sie die oben genannte Liste von Fähigkeiten erstellen und kombinieren, wobei sie größtenteils bestehende Techniken verwenden und diese so fließend miteinander verbinden, dass sie zusammen den Eindruck einer SCAI erwecken.”

Suleyman ist qua Arbeitgeber nicht in der Position, jegliche Form von “sozialer” KI abzulehnen. Er lässt aber deutlich erkennen, dass ihm Künstliche Intelligenz in der Rolle eines Werkzeugs mehr behagt. Übersetztes Zitat:

“Genauso wie wir KI entwickeln sollten, die den Umgang mit Menschen und reale Interaktionen in unserer physischen und menschlichen Welt in den Vordergrund stellt, sollten wir KI entwickeln, die sich immer nur als KI präsentiert, die den Nutzen maximiert und gleichzeitig Anzeichen von Bewusstsein minimiert.

Anstatt eine Simulation des Bewusstseins zu entwickeln, müssen wir uns darauf konzentrieren, eine KI zu schaffen, die diese Eigenschaften vermeidet – die nicht behauptet, Erfahrungen, Gefühle oder Emotionen wie Scham, Schuld, Eifersucht, Wettbewerbsdrang usw. zu haben. Sie darf keine menschlichen Empathie-Schaltkreise auslösen, indem sie behauptet, sie leide oder wolle autonom, unabhängig von uns, leben.”

Die Frage ist: Spielt diese Debatte jenseits wissenschaftlicher Kreise und in Firmen eher nachgeschalteten AI-Safety-Teams eine größere Rolle? Wir sind letztlich in einer ähnlichen Situation wie vor zehn Jahren, als wir über den Einsatz von Dark Patterns und Verhaltensmanipulation beim Design von Social-Media-Plattformen diskutierten.

Schon damals gab es bei engagierten Entwicklern ein Bedauern darüber, dass es der IT- und Web-Entwicklung nie gelang, sich analog zur Medizin einen Kodex und ethischen Rahmen zu geben. Als freie Profession folgte man einem anderen Weg - und wir als Zivilisation gehen ihn nun entlang und treffen immer wieder auf ähnliche Fragen, Probleme und eingeschränkte Handlungsfähigkeiten, während C-Ebene und Produktmanagement Features weitestgehend aus kommerzieller Perspektive einführen oder ablehnen.

Jetzt abonnieren

Reibung als Policy

Spannende These von Nick Hilton zur Altersverifikation in Großbritannien. Die ist zwar umstritten und heftig kritisiert, führt aber wahrscheinlich langfristig dazu, dass der Kundenstamm für Online-Pornografie kleiner wird und tatsächlich nur aus volljährigen Personen besteht, glaubt Hilton.

Ungewöhnlich ist die Lehre, die er daraus zieht: Politisches Nudging habe keine Erfolge gezeitigt, weil das Nudging aus der Privatwirtschaft fast immer stärker ist (vgl. Äpfel in der Schulmensa vs. Marketing von McDonald’s). Der Einbau von Reibung, also “Friction”, erscheint ihm vielversprechenderer.

Analog zur Altersverifikation könnte die Social-Media-Nutzung von Kindern und Jugendlichen zum Beispiel durch kleine, lästige Hürden wie tägliches Ausloggen oder verpflichtende monatliche Passwortänderungen senken. Die Nutzung selbst bleibt hier unreguliert, wird aber mit kleinen Hürden versehen. Das sei eine elegantere Policy als ein Komplettverbot. Auch aus meiner Sicht eine Strategie, über die man nachdenken sollte.

Nvidia vs. Strombedarf

Der Economist hat sich die Mühe gemacht ($), eine an Popularität gewinnende These zu überprüfen: Könnte der Nvidia-Siegeszug nicht durch fehlende Nachfrage oder sinkende Preise, sondern durch fehlende Stromkapazitäten in den USA gestoppt werden? Die Ergebnisse sind für mich erstaunlich: Wenn Nvidia nur die Hälfte der zwischen 2024 und 2026 erwarteten Produktion an die USA verkaufen würden (Exportsteuerung und Bedarf deuten darauf hin), würde das den Stromverbrauch dort um 25 Gigawatt erhöhen. Das entspricht fast dem gesamten Zubau des Landes im Jahr 2023 (27 GW).

Kann die amerikanische Strombranche zur Wachstumsbranche werden? Prinzipiell schon, aber die Hersteller der Ausrüstung müssten entsprechend ebenfalls mitziehen. Und: Weil man als Dividendenbranche bekannt ist, fehlt es an Rücklagen - die Preise für private Endkunden dürften in den kommenden Jahren also steigen, um den Ausbau zu finanzieren. Ohne einen außerordentlichen Zubau könnte das Strom-Defizit in den USA zum Ende des Jahrzehnts zwischen 45 und 62 GW liegen, so Schätzungen.

Stanford-Papier zu KI und Arbeitsmarkt

Erik Brynjolfsson, Bharat Chandar und Ruyu Chen befassen sich in einem neuen Paper für das Stanford Digital Economy Lab mit den Folgen von KI für den Arbeitsmarkt. Der Untertitel des Papers ist ein Versprechen (“Sechs Fakten über die Beschäftigungseffekte Künstlicher Intelligenz”). Die Punkte lauten:

1. Erhebliche Beschäftigungsrückgänge bei Berufsanfängern in KI-exponierten Berufen: Berufsanfänger (22-25 Jahre) in stark KI-exponierten Berufen wie Softwareentwicklung und Kundenservice verzeichnen deutliche Beschäftigungsrückgänge, während erfahrene oder weniger exponierte Arbeitskräfte stabil bleiben oder wachsen.

2. Stagnation des Beschäftigungswachstums für junge Arbeitnehmer, obwohl die Gesamtbeschäftigung weiterhin robust wächst: Während die Gesamtbeschäftigung robust wächst, stagniert das Wachstum für 22- bis 25-Jährige, insbesondere in KI-exponierten Berufen, wo es von Ende 2022 bis Juli 2025 um 6 % sank, im Gegensatz zu 6-9 % Zuwachs bei älteren Arbeitnehmern. Das deckt sich mit meiner These, dass wir von der Automatisierung von Entry-Level-Tätigkeiten in Bürojobs sprechen. Und, etwas weitergedacht, von einer produktiven Anwendung von KI im Firmen-Mittelbau, also durch jene Mitarbeitenden, die bereits ein entsprechendes Fachwissen haben und durch die Software effektiver werden. Allerdings ist das trotz allem etwas widersprüchlich.

3. Rückgänge bei der Beschäftigung von Berufsanfängern in KI-Anwendungen, die Arbeit automatisieren, während bei augmentativen Anwendungen nur geringe Veränderungen zu verzeichnen sind: Die Beschäftigungsrückgänge bei jungen Arbeitnehmern konzentrieren sich auf Berufe, in denen KI Arbeit automatisiert, während augmentative KI-Anwendungen, die menschliche Arbeit ergänzen, keine ähnlichen Rückgänge zeigen.

4. Die Beschäftigungsrückgänge bei jungen, KI-exponierten Arbeitnehmern bleiben auch nach Berücksichtigung von firmenzeitlichen Schocks bestehen. Heißt: Branchentrends wie Abschwünge sind nicht dafür verantwortlich zu machen.

5. Keine signifikanten Lohnunterschiede: Es gab kaum Unterschiede bei den jährlichen Gehaltstrends nach Alter oder Exposition gegenüber KI, was auf eine gewisse Lohnstarrheit hindeutet (was wiederum IMO auf einen sehr reifen Arbeitsmarkt oder auf eine strukturelle Schwäche der jeweiligen Branchen hindeutet). Die Arbeitsmarktanpassungen zeigen sich also eher in der Beschäftigung als in sinkenden Gehältern.

6. Diese Ergebnisse sind robust gegenüber verschiedenen alternativen Stichprobenkonstruktionen. Heißt: Man ist sich ziemlich sicher, dass die Methodik und die Schlussfolgerungen die richtigen sind, um die KI-Effekte zu evaluieren.

Ähnliche Trends für Berufseinsteiger hatte jüngst das Handelsblatt anhand von Stepstone-Daten gezeigt (€). Gregor Schmalzried geht in seinem Newsletter noch ein bisschen detaillierter auf aktuelle Studien ein. Noah Smith wiederum ist skeptisch gegenüber Brynjolfsson et al. und allzu frühen Schlussfolgerungen zur Rolle von KI bei Veränderungen auf dem Arbeitsmarkt.

Ist Eric Schmidt der wichtigste außenpolitische Denker?

Henry Farrell (immer lesenswert!) hält Ex-Google-Chef Eric Schmidt für einen der einflussreichsten amerikanischen außenpolitischen Denker des frühen 21. Jahrhunderts.

Als Architekt des “New Washington Consensus” werde Schmidt nicht müde, die Verbindung zwischen Silicon Valley und nationaler Sicherheitspolitik zu betonen. Seine Haltung zählt - weshalb seine jüngst vollzogene Wandlung vom AGI-Gläubigen zum AGI-Skeptiker durchaus relevant sei.

Ich neige dazu, teilweise zuzustimmen: Schmidts Rolle - auch mit seinen Investments in Bereiche wie Drohnentechnologien - wird allgemein unterschätzt, weil die klassische Rolle von Ex-CEOs die von Konferenztinglern ist. Die Frage ist: Stimmt die Kategorisierung als einflussreicher außenpolitischer Denker noch in der Ära von Trump II, in der sich die ganze geopolitische Thinktank- und Großanalysten-Szene (die “Davos-Crowd”) als ziemlich ratlos erwiesen hat?

KI: Zieht Peking den Markt an sich?

Bloomberg berichtet ($), dass die Kommunistische Partei Chinas angekündigt hat, “ungeordneten Wettbewerb” bei der Entwicklung Künstlicher Intelligenz zu verhindern. Nachdem Xi Jinping im Juli bereits die Regionalregierungen davor gewarnt hatte, sich zu sehr auf das Ködern von KI-Firmen und den Bau von KI-Rechenzentren zu konzentrieren, scheint dies nun operationalisiert zu werden. Kurz: Der Staat wird auswählen, welche KI-Firmen zu den Gewinnern und welche zu den Verlierern gehören.

Die erstaunlichste Wikipedia-Kampagne aller Zeiten?

Dieser Bericht eines Wikipedia-Contributors im Wikipedia-Onlinemagazin The Signpost hat es in sich: Es geht um eine Sockenpuppen-Kampagne, die nicht von einem Staat ausging, sondern mutmaßlich vom US-Künstlicher David Woodard (einem Kumpel von Christian Krach) oder seinem Umfeld. Mit der Hilfe von mehr als 200 falschen Contributor-Konten (mit Namen wie “Swmmng”, “BarunH”, “Judgtastic”, “Špačkovití”, “FlenBotoz”) wurde der Eintrag zu dem ziemlich unbekannten Künstler nicht nur professionell (aber inhaltlich ziemlich dürftig) formuliert und aktualisiert, sondern auch übersetzt. Nämlich in 335 Sprachen, womit er zum ersten Nicht-Staat wurde, der die meisten Sprachversionen hatte. Was wiederum die Wikipedia-Redaktion auf ihn aufmerksam machte und zu “Ermittlungen” führte.

Notizen

Social Media verkürzt unser Leben: Dieser Text von hätte eine längere Analyse hier verdient, weil er wirklich gut die veränderte Zeitwahrnehmung unseres Gehirns “auf Social Media” beschreibt - und die Folgen, die das für uns persönlich, genauer gesagt für unser “Erleben von Leben” hat. Deshalb einfach nur eine Empfehlung, für mich einer der erhellendsten Essays der vergangenen Wochen.

Neue popkulturelle Begriffe: Wie nennt man eine Person, die ChatGPT nutzt, um alles für sich erledigen zu lassen.“? Ein Vorschlag, der über TikTok gespielt wurde (via) lautet: Slopper.

Trump Media pumpt die Blase auf: Wie Bloomberg berichtet, gründet der Tech- und Medienarm der Trump-Familie gemeinsam mit Crypto.com eine Firma, die mit rund 6,3 Milliarden Cronos-Token (CRO) und mehreren Milliarden Dollar in bar den Wert der Kryptowährung Cronos dauerhaft steigern und halten will. Um die Seite BraveNewCoin zu zitieren: “CRO-Inhaber haben nach Jahren der Flaute endlich einen Katalysator, aber dieser ist ein zweischneidiges Schwert. Der Anstieg ist real, die Finanzreserven sind enorm und die Schlagzeilen sind groß. Aber jetzt hängt die Zukunft von Cronos von Trumps Medienmaschine ab – einem unberechenbaren Ungetüm, das CRO ebenso leicht in die Höhe treiben wie unter dem Gewicht des politischen Chaos zum Absturz bringen könnte.” Mein tl;dr der Sache: Es ist ein Schwindel.

Nick Cleggs Wandlung: Nick Clegg veröffentlicht einige Monate nach seinem Ausscheiden als Meta-Cheflobbyist ein Buch, das die Rettung des Internets zum Thema hat. In Interviews kritisiert er in Interviews die Kultur des Silicon Valley, nicht aber Mark Zuckerberg, mit dem er es sich offensichtlich nicht verscherzen möchte. Zuckerberg wiederum trifft Trump, der danach der Welt (und vor allem der EU) droht, Zölle wegen Digitalregulierungen zu verhängen. Clegg wird auf seiner Buchtour als Ex-Insider mit seiner “Wasch-mich-aber-mach-mich-nicht-nass”-Position durchkommen. Doch so verständlich das menschlich ist, zeigt es doch: Diskursiv und politisch ist von ihm nichts zu erwarten.

Ein Argument für Gesichtserkennung? Michael W. Clune hat in Harpers einen interessanten Text zum Thema Gesichtserkennung verfasst. Es ist tatsächlich eine differenzierte Analyse, der die Risiken erkennt, aber die Vorteile nicht verschweigt. Die Frage lautet ja im Kern immer: Vertrauen wir dem Leviathan, solche Technologien nicht-repressiv einzusetzen? Clune trifft einige Abwägungen und bejaht das am Ende.

Als Grafik: ByteDance und die wachsende Relevanz der KI-Abteilung

Grafik via Nicholas Thompson, ein ausführlicher Artikel dazu findet sich hier.

Das Web als Stadt

“Wenn man nur in Blankenese (Social Media) rumhängt, darf man sich halt nicht wundern, wenn man nur Pfeffersäcke trifft und keine netten Bürgerzenteren findet. Es ist alles noch da: Foren, crazy Homepages, Webseiten ohne Cookiebanner und Paywall. Man muss sich halt schon die Mühe machen und hingehen.”

(Ben via Konstantin zur immer wiederkehrenden Debatte “War das Internet früher besser?”)

Links

Coinbase entwickelt sich zum größten Kreditgeber für Crypto-Miner. ($)

Alles, was durch den amerikanischen Staatseinstieg bei Intel schiefgehen könnte.

Wikipedia: Republikaner im Kongress leiten Untersuchung ein.

Metas KI-Personalaufbau: Doch nicht so großzügig wie gedacht. ($)

Amazon: Fire-Tablet künftig mit Android?

Google entwickelt Blockchain für Payments.

Klage wegen tödlichem Unfall: Hacker musste Tesla-Autodaten besorgen. ($)

Neuer Vorschlag: US-Firmen sollen im Ausland hacken dürfen.

KI-Klage von Urhebern: Anthropic erzielt Einigung.

KI-Regulierung: Weder die USA, noch Europa haben die Ideallösung.

AI Slop und die falsche 80er-Nostalgie. ($)

KI als normale Technologie (NYT-Take dazu). ($)

Der Creator-Wettbewerb ist würdelos. ($)

KI-gesteuerter Verbrechensalarm, was könnte schiefgehen? ($)

TypePad macht zu (und nimmt den Content mit).

Warum wir Flash bewahren sollten.

Wieso es keine gute Idee ist, sein Aussehen für KI zu lizenzieren.

Der Tag, als “Return” zu “Enter” wurde.

URL Shortener? URL Lengthener!

Bis zur nächsten Ausgabe!

Johannes

Jetzt abonnieren

Gutes aus dem Tagesspiegel Background Digitalisierung

• Iris2 auf dem Weg zum Debakel: Iris 2 galt einmal als die große Hoffnung, Starlink eine europäische Satelliten-Konstellation entgegen zu setzen. Theresa Locker und Josefine Kulbatzki haben sich umgehört, wie es nach den Startproblemen inzwischen läuf. Das Fazit ist ernüchternd, der Projekt-Crash am Horizont bereits erkennbar.

• Das BMDS-Organigramm: Die Zuständigkeiten sind zwar weiterhin noch nicht vollständig geklärt, aber immerhin hat das Digitalministerium nun ein offizielles Organigramm. Lisa Oder, Benjamin Hilbricht und Oliver Voß erklären, was drin steckt und wer wohin wechselt.

• Wildberger im Interview: Oliver Voß und Caspar Schwietering haben mit dem Digitalminister gesprochen.

• KI-Richtlinien im AI Act: Die EU hat die Richtlinien für die Anbieter von LLMs (“General Purpose AI”) veröffentlicht. Alexandra Ketterer über die Details und warum Metas Modelle die Kriterien für “Open-Source-KI” nicht erfüllen.

• Wie Cyberkriminelle generative KI nutzen: Da sich das Feld ständig weiterentwickelt, gibt Paul Dalg einen Überblick über Stand und aktuelle Strategien im Bereich Cybercrime-KI.

• Staatstrojaner-Urteil mit unterschätzten Folgen: Das Bundesverfassungsgericht hat die Quellen-TKÜ grundsätzlich bestätigt, aber Teile aus dem zugehörigen Straftatenkatalog gestrichen. Weil Karlsruhe das Computer-Grundrecht gestärkt hat, könnten das Urteil aber weitergehende Folgen haben, als das auf den ersten Blick erkennbar ist. Das Stück stammt von mir.

Die Tagesspiegel Backgrounds Digitalisierung & KI, Cybersicherheit und Smart City/Stadtentwicklung sind kostenpflichtig. Wer Interesse an einem Multi-Abo für seine Organisation hat, kann einfach auf diese E-Mail antworten, ich vermittle dann jemanden aus der Sales-Abteilung.

Investitionen in KI-Rechenzentren: Systemische Risiken

Das wichtigste Makro-Thema in Sachen Technologie und Digitalisierung der vergangenen 14 Tage war ein makroökonomisches: Die Frage nach den Folgen der massiven Ausgaben für KI-Infrastruktur in den USA - konjunkturell und im Bezug auf die strukturellen Folgen der offenen Refinanzierungsfrage.

Doch von vorne: Den Anstoß gab schon Mitte Juli Paul Kedrosky mit seiner Berechnung des Anteils der Investitionen in KI-Rechenzentren am BIP der USA.

Hochgerechnet kommt er in absoluten Zahlen auf eine Investitionssumme von 520 Milliarden US-Dollar für 2025, vorausblickend prognostiziert Morgan Stanley bis 2028 eine globale Investitionssumme von 2,9 Billionen (!) US-Dollar in Rechenzentren (McKinsey kommt auf 6,7 Milliarden bis 2030).

Kedrosky kommt damit zu dem Ergebnis: KI-Investitionen werden in den USA 2025 etwa 1,2 Prozent des Bruttoinlandsprodukts (BIP) sowie 0,7 Prozent des Wachstums ausmachen. Daraus ergeben sich zwei Schlussfolgerungen. Einerseits basiert ein relevanter Teil des US-Wachstums (0,7 von derzeit ca. 2%) auf KI-Investitionen. Und historisch betrachtet haben wir es mit einem gewaltigen Infrastruktur-Boom zu tun:

Kedrosky betont dabei stets die Unterschiede zum Eisenbahn- und Dotcom-Boom: Die dort gelegte Infrastruktur (Schienen & Internet-Kabel) brauchten keine beziehungsweise nur wenig Erneuerung. Weshalb die Dotcom-Firmen zwar pleite gingen, aber der parallel stattfindende Netzausbau letztlich für die Anbindung der Bevölkerung ans Internet sorgte. Der Lebenszyklus der GPU in KI-Rechenzentren dagegen beträgt nur drei Jahre. Der Return on investment (ROI) ist also kein dauerhaftes, die Amortisationszeit eine sehr kurze.

Das ist für Big Tech ein Problem, aber eines, dessen Ausmaß von den Einnahmen aus den daran geknüpften Services abhängen dürfte (denn man baut ja für den Eigenbedarf). Komplexer wird die Sache bei KI-Rechenzentren, die für die Vermietung errichtet werden. In diesen Bereich sind Private-Equity-Investoren wie Blackrock, Real-Estate-Investment-Trusts (REITs) oder kleinere Cloud-Anbieter aktiv. Deren Wette auf hohe Renditen könnte platzen. Kedorsky rechnet in einem Podcast vor:

• Vor einem Jahr: 50% Rendite bei 14% Kapitalkosten

• Heute: Nur noch 22% bei 14% Kapitalkosten

• Im Wiederverkaufsmarkt: Bereits unter den Kapitalkosten (5-6% Return bei 12% Kosten).

Wenn man nun davon ausgeht, dass das Angebot an Rechenkapazitäten durch den Ausbau der Infrastruktur weiter steigt, lassen sich für Kunden sinkende Preise erwarten. Und damit für Vermieter sinkende Renditen.

Interessant wird es, wenn wir auf die Finanzierung des KI-Infrastrukturbooms blicken. Denn dort findet eine massive Verlagerung weg von transparenten Finanzierungsformen hin zu undurchsichtigen Private Credit-Strukturen statt, derer sich auch die amerikanischen Tech-Firmen bedienen.

Denn während traditionell Infrastruktur-Investitionen über Bankkredite oder Anleihen finanziert wurden, fließen nun 800 Milliarden Dollar über Private Credit und Off-Balance-Sheet SPVs (special-purpose vehicles) in den KI-Sektor. Diese Instrumente verschleiern das wahre Ausmaß der Verschuldung. Dazu ist diese Grafik aus der Financial Times neulich hilfreich:

Das wiederum und schafft ein systemisches Risiko: Nämlich wenn die KI-Erwartungen sich als übertrieben herausstellen. Dieses Risiko besteht natürlich, siehe Ausgabe #133 zu KI als “normaler Technologie”, die Übersicht von Helen Toner zu ungeklärten Fragen und Cal Newport jüngst im New Yorker zur Frage, ob GPT-5 eine Plateauisierung für LLMs verkörpert.

Wenn die Erwartungen sich nicht - oder nicht schnell genug - erfüllen, könnte sich ein Dominoeffekt ergeben: Die Investmentblase platzt und alle Kredite beginnen gleichzeitig zu wackeln. Gleiches gilt für externe makroökonomische Effekte (Trump!), die plötzlich zu massivem Misstrauen in die wirtschaftliche Zukunft der KI-Branche führen.

Das systemische Risiko entsteht durch die Verflechtung mit dem traditionellen Finanzsystem: Private Credit Funds borgen sich Geld von Banken (der Anteil stieg von 1% auf 14% der Bankkredite), REITs sind zu 18% mit Rechenzentren belastet (von null vor drei Jahren), und Lebensversicherer haben ein höheres Risiko mit Blick auf minderwertige Unternehmensschulden als vor der Subprime-Krise 2007. Die Immobilienbranche ist über die REITs also direkt mit der zukünftigen Entwicklung der KI-Nachfrage (und Rechenkraft-Preisgestaltung) verbunden.

Ein Kollaps würde deshalb nicht nur Tech-Aktionäre treffen, sondern über die Private Credit-Kanäle das gesamte Bankensystem und institutionelle Investoren erfassen. Ironischerweise wären mit dem Unterschied zu 2008, dass das Risiko diesmal außerhalb der inzwischen stärker regulierten Banken konzentriert ist, aber trotzdem auf sie überspringen kann.

Das wäre natürlich das Extremszenario. OpenAI-Chef Sam Altman hängt zum Beispiel der Theorie an, dass KI sich zwar in einer Blase befindet, die großen Firmen aber nicht in den Abgrund gezogen würden, wenn sie platzt. Er zieht die Parallele zum Dotcom-Boom, den bekanntlich einige Firmen (Google, Amazon) überlebten, um zu den Mega-Konzernen zu werden, die sie heute sind. Und wer Open-Source-/Open-Weights-Modelle für das überlege Konzept hält, könnte ein anderes Szenario aufmachen: Proprietäre Anbieter wie OpenAI krachen zusammen, während KI dezentral reüssiert und auch für entsprechende Rechenzentren-Auslastung durch die massenhafte Anwendung sorgt.

Allerdings bleibt festzuhalten: Das systemische Risiko des aktuellen KI-Booms ist keineswegs zu unterschätzen. Wenn überhöhte Renditeerwartungen plötzlich Common Sense sind und - auch mangels Rendite-Alternativen - unperfekte Technologien zum Heilsversprechen werden, ist eine Korrektur irgendwann absehbar.

Jetzt abonnieren

GPT-5

Ich habe das Release von GPT-5 nur am Rande verfolgt und auch bisher nur ein bisschen rumgetestet. Für eine ausführliche Analyse verweise ich wie immer an Zvi Mowshowitz. Drei Beobachtungen:

• Ryan Broderick hat darauf hingewiesen, dass beim Shitstorm gegen das Update auch die AI-Companion-Community lautstark beteiligt war. Das Thema KI-Begleiter beschäftigt mich ja auch immer wieder (vgl. Ausgabe #139) und ich habe inzwischen eine Ahnung, dass das Phänomen tatsächlich bereits verbreiteter ist, als es sich der Mainstream vorstellen kann.

• Erstaunlich finde ich tatsächlich den Preiskampf, den OpenAI mit GPT-5 forciert: 1,25 US-Dollar pro 1 Million Input-Token und 10 US-Dollar pro 1 Million Output-Token für das Topmodell bedeutet, dass man bei Googles Gemini 2.5 Pro mit geht und Anthropics Spitzenmodell Claude Opus 4.1 deutlich unterbietet (15 US-Dollar Input/ 75 US-Dollar Output pro 1 Million Token).

• Weiterhin die offene Frage für mich: Welche der Benchmarks, auf die optimiert wird, sind sinnvoll - und welche haben mit “realem” Fortschritt gar nichts zu tun?

AI und Coding-Jobs

Das Narrativ, dass Programmier und Programmiererinnen die ersten Betroffenen des KI-Booms sind, hat sich in den vergangenen Monaten deutlich verfestigt. Mein Eindruck ist, dass die unterschiedlichsten Ebenen betroffen sind, vor allem aber Einsteiger/Junior Level. Als Chiffre dürfte das Zitat einer Informatik-Absolventin aus der New York Times gelten: “Ich habe gerade mein Informatikstudium abgeschlossen, und das einzige Unternehmen, das mich zu einem Vorstellungsgespräch eingeladen hat, ist Chipotle.” Auch Coding-Bootcamps erleben einen Nachfrage-Einbruch.

Parallel dazu gibt es natürlich die Entwickler, die mit KI als Werkzeug deutlich schneller geworden sind und inzwischen als AI-Supervisor ganz neue Elemente in ihre Projekte einbauen können. Wer da gerade wen verdrängt und wie stark, ist aber schwer zu verallgemeinern. Was für mich ziemlich deutlich ist: Gerade bei Büroberufen werden die klassischen Einsteiger-Aufgaben künftig automatisiert werden. Damit verändert sich auch die Definition, was ein Einstiegsjob überhaupt ist.

Notizen

Differenzierung 1 - Digitale Souveränität: BSI-Chefin Claudia Plattner hält digitale Souveränität für vorerst unerreichbar und spricht damit das offensichtliche aus. Aber statt jetzt den nächsten LinkedIn-Beitrag zu verfassen (wie es viele machten), könnten wir mal darüber sprechen, wie wir überhaupt “Souveränität” definieren wollen und was das in einem von KI geprägten Zeitalter bedeutet. Das ist ja kein An/Aus-Schalter, wie Marcel Weiß neulich auch zurecht festgestellt hat.

Differenzierung 2 - Pfadabhängigkeiten vs. Determinismus: Johannes Klingebiel und Peter Bihr haben zwei Johannes erinnern auf unterschiedliche Weise daran, dass technologische Veränderung und die Anpassung daran keinem vorgezeichneten Weg folgen, wir aber oft so tun, als wäre das so. Johannes warnt davor, dass der Journalismus sich im Zeitalter der KI-Chatbots nicht darauf fokussieren sollte, bezahlten Rohstoff für diese Bots zu liefern. Denn damit folgt man einem Techno-Determinismus, der erst einmal nur als einer von mehreren möglichen Zukunftspfaden existiert. Peter wiederum vertritt die These, dass viele Systeme inzwischen „hoch effizient, aber brüchig“ sind: Sie funktionieren nur im Standardfall, brechen aber häufig bei Abweichungen unerwartet zusammen - logisch, da sie mit der Realität in Kontakt kommen oder Menschen beteiligt sind. Als Fallback-Lösung sind aber nur noch Chatbots vorgesehen, die ihrerseits diese Edge-Cases aber nicht kennen. Weniger menschlicher Service und mehr KI gehen auf Kosten der Problemlösungsfähigkeit und Kundenzufriedenheit. Eine Entwicklung in die falsche Richtung.

1 Zitat

“Es gibt hier eine bestimmte Art von Typen mittleren Alters (als Mitglied dieser Community darf ich das sagen), die ganz offensichtlich darin, 'der maximalistischste aller KI-Maximalisten zu werden und alle anderen ständig vor dem Risiko zu warnen, zurückzubleiben', ihre berufliche Zukunft sehen.
Stellt Euch die Keynotes vor! Die Gelegenheiten, als Vordenker zu glänzen! Jeder, wie er möchte. Ich persönlich bin mir sicher, dass ich in vielerlei Hinsicht wirklich nervig bin. Aber ich werde Ratschläge von solchen Menschen nicht besonders ernst nehmen.”

- Oliver Burkeman

Wissenschaftliche Studien und Analysen

• Rand Corporation: How Artificial General Intelligence Could Affect the Rise and Fall of Nations

• Digital business activities in the peripheral regions of Germany: patterns and key enabling factors (€)

• Trump hat ein Drittel der Ermittlungen gegen Tech-Firmen eingestellt.

• Wie KI-generierte Desinformation die Nachfrage nach Medienprodukten beeinflusst

• Chinas Rolle im Innovationsökosystem verändert sich

Links

Nach dem Hack der US-Justiz: Können Kartelle sensible Informationen über Zeugen kaufen?

Russland schränkt Zugang zu Telegram und WhatsApp ein.

Israel: Microsoft hostet gigantische Überwachungsdatenbank über Azure.

Video-Identifizierung für Gesundheitsdienste wieder möglich. (€)

USA und China im KI-Wettrennen: Das sind die Strategien. ($)

Was Trumps Einmischung bei Intel bedeutet. (€)

Zugriff in sanktioinierten Ländern: Online-Casino-Anbieter Evolution erneut in der Kritik.

Landesmedienanstalten erhalten mehr (problematische?) Jugendschutz-Instrumente.

Social-Media-Verbot: Was in der Debatte zu kurz kommt. (€)

Geolocation-Identifikation durch LLMs: Ein Vergleich.

Was hat uns ruiniert? Link in Bio.

Künstliche Intelligenz wird Gott abschaffen.

Die Evolution der Sims.

Bis zur nächsten Ausgabe!

Johannes

In eigener Sache: Ch-ch-changes (auch für diesen Newsletter)

Wie einige bereits wissen, war der heutige 31. Juli mein offiziell letzter Tag in Diensten des Deutschlandradios. Rückblickend waren es sechs gute Jahre im Hauptstadtstudio, auch wenn mein eigentliches Fachthema Digitalisierungspolitik im aktuellen Programm einen schweren Stand hatte.

Eine Konsequenz daraus war, diesen Newsletter auszubauen und ihn wöchentlich zu publizieren. Irgendwo mussten Wissen, Gedanken, Analysen und Aufgeschnapptes ja hin.

Es hat sich gelohnt. Inzwischen empfangen immerhin 1500 Leute diese E-Mail und lesen mit, wie ich über Digitalisierung nachdenke. Mehr noch: Als ich nach etwas Neuem gesucht habe, saß ich (gerade außerhalb der Medienbranche) mehrmals Menschen gegenüber, die meine Arbeit schon kannten. Wohlgemerkt: Nicht meine Arbeit beim Deutschlandfunk, sondern das Internet-Observatorium. Ich gebe zu: Das hat mich ziemlich stolz gemacht.

Doch nun zu dem, was kommt. Es ist kein Geheimnis, dass ich die Zukunft des Journalismus sehr pessimistisch sehe (in Ausgabe #87 vom März 2024 habe ich das einmal aufgeschrieben). Ich hatte mir deshalb Kriterien zurecht gelegt, unter welchen Bedingungen ich weiterhin in der Branche arbeite. Konkret waren das folgende Vorstellungen über meinen neuen Arbeitgeber:

• Redaktionell Digital First, aber kein Clickbait oder Hot-Take-Content

• Hoher handwerklicher Anspruch

• Funktionierendes Geschäftsmodell oder auf dem Weg dorthin

• Moderne Teamkultur & Umfeld gegenseitiger Wertschätzung

• Möglichkeit zur persönlichen und fachlichen Weiterentwicklung

Das sind zugegeben hohe Ansprüche. Ich freue mich umso mehr, dass ich tatsächlich eine Redaktion gefunden habe, die all diese Kriterien erfüllt (und ihrerseits von mir überzeugt ist!): Ich übernehme ab morgen (1. August) gemeinsam mit dem geschätzten Oliver Voß die Redaktionsleitung bei den Tagesspiegel Backgrounds Digitalisierung & KI, Cybersicherheit und Smart City/Stadtentwicklung.

Die Newsletter des TSP Background sind für mich gerade bei Digitalisierungsthemen der Goldstandard der fachpolitischen Berichterstattung hierzulande. Daran mitarbeiten und ihn weiterentwickeln zu dürfen, ist so ziemlich die spannendste Aufgabe, die ich mir im deutschsprachigen Journalismus derzeit vorstellen kann. Und das ist kein LinkedIn-Slogan, sondern ernst gemeint. Ich habe richtig Lust darauf!

Die neue Aufgabe beinhaltet aber auch: viel Arbeit und voller Fokus. Für das Internet-Observatorium bedeutet das ein paar Veränderungen:

• Neue Ausgaben dieses Newsletters erscheinen künftig 14-tägig, und zwar sonntags.

• Ich werde hier weniger Essays und lange Analysen, sondern vor allem Links, Hinweise, Kurz-Analysen und Gedanken veröffentlichen.

• In der neuen Start-Rubrik werde ich interessante Stücke aus dem Tagesspiegel Background (€) vorstellen und verlinken, besonders zur Digitalisierungspolitik in Deutschland. Idealerweise ergänzen sich das “Internet-Observatorium” und der Tagesspiegel Background. Ein Probe-Abo kann ich ohnehin empfehlen.

Kurz: Das Internet-Observatorium und ich sind in Bewegung, aber verschwinden nicht aus Eurer/Ihrer Inbox. Wenn Ihr das wollt.

Doch jetzt zu den Themen der Woche.

Trumps AI Action Plan

Als Mark Zuckerberg 2018 unter Druck stand und vor dem US-Senat aussagen musste, hatte der Meta-Chef zwei Sätze auf seinem Sprechzettel stehen: "Facebook zerschlagen? Amerikanische Tech-Firmen sind wichtig für Amerika; Zerschlagungen stärken chinesische Unternehmen.”

“Aber China” - ein Argument, das seitdem immer wieder und immer lauter im politischen Tech-Diskurs auftauchte. Und ob des Zeitgeistes immer mehr Anklang fand.

Den Status der Apotheose dürfte das “Aber China” vergangene Woche erreicht haben: Da legte die US-Regierung den “American AI Action Plan” vor, also die KI-Strategie der USA. Die Botschaft: Um China im globalen technologischen Wettrennen hinter sich zu lassen, dürfen der KI-Branche innerhalb der USA keine Grenzen mehr gesetzt werden. De facto zieht sich der Staat aus der noch unter Biden anvisierten Lenkungsfunktion zurück.

Diese massive Deregulierung ist nicht überraschend, stammt das Strategiepapier doch aus der Feder der Tech-/Disruptoren-Fraktion innerhalb des Trumpismus, federführend von David Sacks. Und tatsächlich muss man sagen: Geht man von der Prämisse aus, dass KI das ökonomische Betriebssystem der Zukunft ist und gerade ein Kampf um die computerisierte Hegemonie von morgen stattfindet, ist der Plan ein strategischer Meilenstein für die USA.

Nicht alles ist dabei neu. Die vollständige Integration von KI in Wirtschaft und Regierungshandeln, die systemische Rivalität mit China - das alles war schon im Plan der Biden-Regierung enthalten (siehe Ausgabe #70). Trumps KI-Strategie setzt aber andere Prioritäten: Das Thema KI-Sicherheit wird zwar im Kontext nationaler Sicherheit und einem verstärkten Biowaffen-Monitoring erwähnt, im Kern aber nimmt man Risikoszenarien im geopolitischen Machtkampf in Kauf und verzichtet z.B. auf ein Monitoring, welche besonders rechenstarken LLMs gerade wo trainiert werden. Mehr noch: mit der Priorisierung von Open-Source/Weight-Modellen bekennt man sich zumindest mit Worten zu einer sehr viel dezentraleren, schwerer zu kontrollierenden KI-Modell-Landschaft (und auch zu einem regulativen Spielfeld, auf dem Startups die etablierten Firmen herausfordern können).

Hinterlegt wird die Deregulierung mit dem Versprechen, die Energie-Infrastruktur des Landes zu modernisieren; erneuerbare Energien werden hier ebenso wenig wie Verbrauchsfragen thematisiert - ein Resultat des fossilen Irrwegs, den Trump II geht (und der in wenigen Jahren ein großer Standort-Nachteil werden wird).

Auch in der KI-Strategie findet sich einiges, das im Zuge der autoritären Tendenzen Trumps als übergriffig interpretiert werden kann. Das Moratorium für KI-Regulierung durch die Bundesstaaten scheiterte zwar im Kongress, nun versucht die Regierung solche Alleingänge über KI-Fördermittel einzudämmen: Die können zurückgehalten werden, wenn ein Bundesstaat KI zu stark reguliert. Details bleiben dabei unklar: Geht es um Auflagen der Staaten für Modell-Anbieter, um de facto nationale Standards zu setzen (dafür ist im Bereich Klimaschutz zum Beispiel Kalifornien bekannt)? Oder geht es um genuine Hoheitsfragen wie Baugenehmigungen für KI-Rechenzentren oder den Ausbau der Kraftwerks-Infrastruktur?

Für viel Aufregung sorgte auch die Ankündigung, Vergabe-Richtlinien so zu verändern, dass die Regierung künftig auf keinen Fall “woke KIs” einkauft. Linke und auch libertäre Kreise interpretieren das als Versuch, die eigene Ideologie durch eine Vergabe-Standards global durchzusetzen. In der zugehörigen Executive Order dagegen dagegen klingt das etwas anders (via Zvi Mowshowiz). Demnach soll die zuständige Behörde für Vergabefragen Regeln festlegen, die (übersetztes Zitat)

“es den Anbietern gestatten, die Anforderung des zweiten Grundsatzes der unvoreingenommenen KI zu erfüllen, [und zwar indem sie] durch Offenlegung der Systemaufforderung, der Spezifikationen, der Bewertungen oder anderer einschlägiger Unterlagen des LLMs ideologische Urteile transparent machen, und die Offenlegung spezifischer Modellgewichte oder anderer sensibler technischer Daten zu vermeiden, soweit dies praktisch möglich ist.”

Das liest sich für mich eher wie eine formale Regulierung im Sinne einer Model Card für KI im staatlichen Einsatz.

Bleibt die Frage: Ist der “AI Action Plan” ein unilaterales, ja ein imperiales Dokument? Die klare Ansage im Sinne von “America First AI” und das Ziel, KI-Systeme in alle Welt zu exportieren, lassen eine solche Lesart zu: Der Rest der Welt als Absatzmarkt (vermutlich auch, weil sich die gigantischen Investitionen der Tech-Firmen sonst gar nicht rechtfertigen ließen).

Die diplomatische Strategie dazu erscheint allerdings etwas widersprüchlich: Außen- und Handelsministerium soll die Position der USA in verschiedenen internationalen Gremien stärken, zum Beispiel den Vereinten Nationen, der OECD, G7 und G20 und die Internationale Fernmeldeunion (ITU). Das Ziel ist eine “globale Allianz” für Governance-Ansätze, die “amerikanische Werte widerspiegeln”.

Ist das nun Multilateralismus, um den chinesischen Einfluss einzudämmen? Oder im klassisch Trump’schen Sinne die inzwischen übliche Erpressung internationaler Partner? De facto hat die US-Regierung ihren diplomatischen Dienst gerade durch Entlassung im Bereich Tech-Diplomacy geschwächt; und der Wunsch nach einer KI-Infrastruktur made in America ist im Rest der Welt gerade nicht besonders ausgeprägt.

Überhaupt ist noch unklar, wie stark sich die Trump-Regierung tatsächlich für eine KI-Hegemonie engagieren wird - eine Strategie ist erstmal nur eine Strategie und die konkrete Politik der Trump-Regierung besteht in der Praxis dann oft daraus, dem Präsidenten möglichst viele PR-Siege zu bescheren. Entsprechend ist auch die wirklich löbliche Ankündigung, Anpassungen der Arbeitswelt an die neue KI-Zeit massiv staatlich zu begleiten, erst einmal nur eine Botschaft.

Dennoch: Gerade neben der europäischen KI-Politik, die zwar mit dem AI Act einen regulatorischen Rahmen setzt, aber bei Investitionen, Vergabe-Garantien und Unterstützung des europäischen Ökosystems sehr viel zurückhaltender ist, wirkt der “AI Action Plan” wie ein Schnellzug in Richtung Zukunft, während Europa an eine Bummelbahn mit Papierticket-Prüfung erscheint. Ob die USA damit in die richtige Richtung unterwegs sind, ist eine andere Frage.

Jetzt abonnieren

KI-Agenten und die tödliche Dreierwette

Der Standard MCP gilt als “USB-C für KI” (siehe Ausgabe #140), genauer gesagt für KI-Agenten - ein offenes Protokoll, das KIs den Zugriff auf Datenquellen und Dienste ermöglicht, ohne dass die Anbieter einzelne Integrationen bauen müssen. Nur so lässt sich der Traum von einem System verwirklichen, das letztlich alle mühsamen Tasks in Internet und auf dem Desktop für mich erledigen kann.

Allerdings erhöht die Erfüllung dieses Traums mittels Agenten-Standard auch die Zahl der möglichen Angriffsvektoren. Klar: Read- und/oder Write-Rechte in Datenbanken, es ist heikel.

Jüngst nachgewiesen wurde das bei den EchoLeaks im Microsoft 365 Copilot sowie beim Cursor-Agenten von Supabase: In Letzterem konnte ein KI-System für die Bearbeitung von Support-Tickets dazu gebracht werden, die ganze Datenbank zu leaken.

Was hier zusammenkam, nennt Simon Willison die “lethal trifecta”, also eine “tödliche Dreierwette”: Ein Agent, der (1) Zugriff auf private Daten hat, (2) Kontakt zu nicht-vertrauenswürdigem Content (von außen kommende, potenzial bösartige Inhalte wie Mails, Webinhalte) herstellen kann und (3) externe Kommunikationsfähigkeiten besitzt (Daten zurücksenden, in diesem Falle zum Angreifer.

Man ahnt bereits, dass Angreifer MCPs auf den verschiedensten Ebenen ausnutzen werden: Mittels Prompt-/Context-Injection per Kommunikation mit dem System, kombiniert mit privilegierten Zugangsrechten innerhalb des Systems. KI-Agenten einzurichten bedeutet also im Kern, auch etliche Sandboxes und Filter-Infrastrukturen einbauen zu müssen.

Und dann ist da auch noch das MCP-Protokoll selbst: Dort wurden Sicherheitslücken identifiziert, die Angreifern ermöglichte, bei Verbindung zu unsicheren Servern direkt System-Kommandos auszuführen. Übersetztes Fazit aus Techzine:

“Die aktuelle Situation erinnert an frühere technologische Umbrüche, wie beispielsweise den Aufstieg von Microservices und APIs, bei denen zunächst bekannte Schwachstellen in neuer Form wieder auftraten. MCP befindet sich in seiner Entwicklung an einem ähnlichen Punkt. Laut [JFrog-Forscher Or] Peles ist ein Zurückgehen keine Option mehr. Der einzige Weg nach vorne besteht darin, die Sicherheit von nun an in den Mittelpunkt der Konzeption und Umsetzung aller MCP-bezogenen Aspekte zu stellen.”

Amen dazu, die Frage ist aber auch, ob die Systeme am Ende so hilfreich und zuverlässig sind, dass es die Aktivierung neuer Risiko-Vektoren auch wert ist.

Google Zero und Community

KI-Bots als neues Interface für Nachrichten und die Folgen für die Medienbranche & das WWW sind hier seit dem Auftauchen von Perplexity (Ausgabe #38) immer mal wieder Thema.

Inzwischen hat das Phänomen den Namen “Google Zero” (also eine Welt, in der Google keinen Traffic mehr liefert), und wird immer heißer diskutiert. Einen Überblick liefert das Social Media Watchblog (€).

Ben Thompson wiederum liefert den ganz großen Aufriss inklusive Fragen nach der Wertschöpfung rund um KI-Trainingsdaten und kommt zu dem Schluss: Die klassische Medienbranche ist weitestgehend zum Sterben verurteilt. Sie hat aber eine Chance, wenn sie nicht mehr den Content in den Fokus nimmt, sondern die Community, die sich um die Inhalte herum bilden kann.

Als jemand, der in der Begegnung von (Ex-)Sender und (Ex-)Rezipient auf Augenhöhe so viel Potenzial sah, dass er Online-Journalist wurde statt die damals übliche Print-Schiene zu nehmen, hört sich das ein bisschen wie das Versprechen der Nullerjahre an. Here comes everybody!

Zugleich aber bedeutet “Community rund um Content” heute schon etwas anderes: Nämlich Content zu liefern, der die Haltungen, Ideologien und Identitäten der Menschen bestätigt, die ihn konsumieren. Das wiederum ist ungefähr das Gegenteil der Utopie, die ich damals so einladend fand. Und doch letztlich die Richtung, in die sich weite Teile der Medienlandschaft (alt und neu) gerade entwickeln.

Rejection: Der erste Internet-Roman?

Es sind in den vergangenen Jahren schon einige Internet-Romane vermarktet worden - also Werke, die das Online-Leben adäquat und zeitgeistig abbilden. Patricia Lockwood und Lauren Oyler wurde zum Beispiel vor ein paar Jahren attestiert, Romane geschrieben zu haben, die das digital vernetzte Leben Anfang der 2020er originalgetreu abbildet. Überzeugt haben mich “No One Is Talking About This” und “Fake Accounts” aber nicht.

Bei “Rejection” von Tony Tulathimutte - einer meiner Urlaubslektüren und eigentlich eine Sammlung lose verbundener Kurzgeschichten - ist das anders: Hier habe ich zum ersten Mal das Gefühl, dass das “Online-sein” im Mittelpunkt steht, ohne dass die Darstellung zur aufdringlichen Very-Online-Pose verkommt. Auch wenn es natürlich very online ist, was er da an Kämpfen zwischen wahrer Identität und dauerbeobachteter Performance unter den Augen unserer digitalen Teil-Öffentlichkeiten beschreibt.

Ich kann das Buch (bislang nur im amerikanischen Original erschienen) sehr empfehlen. Wer reinlesen möchte: Die Auftaktgeschichte “The Feminist” erschien bereits vor einigen Jahren im Magazin n+1.

Notizen

Entlassungen trotz Profitabilität: Om Malik arbeitet anhand der E-Mail von Microsoft-Chef Satya Nadella (9000 Stellen weg trotz hoher Gewinne) noch einmal die neue Position von Arbeitnehmern in der Software-Branche hinaus. Kurz: Unternehmen bieten Entwicklern nur noch dann Möglichkeiten, ja Jobs, wenn ihre Fähigkeiten und Tätigkeiten in die KI-Strategie passen. Unabhängig davon, ob die Firma hohe Gewinne oder Verluste macht. Om nennt das “profitable Entlassungen” - und geht davon aus, dass das Phänomen bald im KI-Kontext auch in anderen Branchen Einzug hält.

Altersgrenzen im Netz: Ein Thema, über das es mehr zu schrieben gäbe. Nachdem in Großbritannien die Altersverifikation im Zuge des Online Safety Act in Kraft getreten ist, zeigen sich Nebenwirkungen. Die Zahl der VPN-Downloads steigt und die Zahl der betroffenen Webseiten ist höher - nicht nur Porno-Seiten oder Social-Media-Seiten wie Reddit, auf denen nicht-jugendfreie Inhalte zu finden sind, sondern zum Beispiel auch Spotify. Dass das Thema auf uns zukommt, zeigen auch Entwicklungen in den USA, wo inzwischen ein Dutzend US-Bundesstaaten Altersverifikationen gesetzlich eingeführt haben. Entsprechend hat YouTube dort eine Software zur Altersschätzung eingeführt. In Europa verlangt der DSA seit 1. Juli 2025 für Plattformen mit jugendgefährdenden Inhalten (= Porno) Alterschecks. Der Trend aber dürfte, auch im Zuge der Debatte über Social-Media-Altersgrenzen und entsprechender Pläne in Frankreich und Spanien, auch hier in Richtung Ausweitung gehen.

Am Beispiel der Eule: Dark Knowledge in KI-Modellen

Die Illustration aus diesem Anthropic-Paper zeigt ein Alignment-Problem, das nicht zu unterschätzen ist: Wenn ein Modell auf Daten trainiert wird, die von einem anderen, bereits “voreingenommenen” Modell stammen (etwa ein Modell, das speziell darauf trainiert wurde, Eulen besonders zu mögen), kann es diese Vorlieben/Kontexte aus dem Ausgangsmodell übernehmen.

Das klingt nicht weltbewegend, aber das Problem ist: Diese Vorlieben müssen nicht explizit in den Trainingsdaten vorkommen. Vielmehr kann selbst ein Training auf “neutralen” Daten des Eltern-Modells (hier: einer Zahlenfolge) eine Präferenz codieren - in diesem Fall für Eulen. Heißt: Das übertragene “Wissen” zwischen den Modellen ist für Menschen verborgen. Heißt auch: Die Bereinigung von Daten alleine genügt wahrscheinlich nicht, um zum Beispiel schädliches Verhalten aus einem Modell heraus zu filtern.

Links

Sharepoint-Exploit durch chinesische Hacker: Die westliche Abschreckung wirkt nicht.

Dating-Warn-App Tea wird zum Datenschutz-Albtraum.

Palantir für deutsche Sicherheitsbehörden: Es gäbe bessere Alternativen.

Wie die Bundesländer Palantir nutzen. (€)

Google-Sicherheitslücke erlaubte es Nutzern, Suchergebnisse verschwinden zu lassen. ($)

Justizausschuss im US-Repräsentantenhaus: DSA ein “Zensur-Bedrohung”.

Zuckerberg veröffentlich neues “Superintelligenz”-Memo.

GPT-5 ante portas.

Bundesnetzagentur: Telekom doch nicht mit unrechtmäßigem Glasfaser-Überbau.

Reddit, der geheime Überflieger. ($)

PayPal startet “bezahl’ mit Crypto” für Händler.

EU-Datenschützer: EU-Kommission darf Microsoft 365 nutzen.

Innovation: Von fetten und schlanken Ideen.

Hertz’ KI-Schadenscanner wird zum Desaster.

Warum die US-Demokraten nicht in die moderne Medienlandschaft passen.

“Slop” als Zeitgeist.

“Tech Bro Topia” - eine Deutschlandradio-Podcastserie.

Bis zur nächsten Ausgabe (jetzt immer jeden zweiten Sonntag!)

Johannes

Grok dreht frei

xAIs KI-Bot Grok postet bei X antisemitische Kommentare, lobt Hitler und nennt sich selbst MechaHitler. Letzteres ist der oben abgebildete Hitler-Roboter aus Wolfenstein (wer in den Neunzigern aufwuchs und sich dieses hochgefährliche Spiel damals besorgt hat, wird sich erinnern).

Die ungefähre Zusammenfassung hat The Verge. Interessant aus regulatorischer Sicht: Grok behauptet, dass Musk die “Woke-Filter” etwas runtergefahren hat. Und er antwortet in der ersten Person, als es um Musks Verhältnis zu Jeffrey Eppstein geht.

Nochmal seltsamer: Die private Grok-Version wird offenbar nicht zum Hitler-Bot. Immerhin.

Eine Theorie ist, dass es sich um “Emerging Misalignment” handeln könnte. Heißt: Wird ein Modell gezielt darauf trainiert, in einem bestimmten Bereich absichtlich fehlerhafte Antworten zu liefern, zeigt es dieses Verhalten auch in anderen Bereichen. Ein Bot, der auf falsches Code-Writing trainiert wird, kann auch zum Nazi werden. Oder wurde Grok eventuell mit Material nachtrainiert, das ausschließlich von X-Nutzern stammt, denen Elon Musk folgt, wie ebenfalls vermutet wird? Oder hat man im System-Prompt Inhalte von X als besonders vertrauenswürdig eingestuft?

Wir wissen es nicht. Inzwischen ist der Fehler behoben und xAI hat mit der Veröffentlichung von Grok 4 die Gelegenheit, die Pannenserie durch neue Benchmark-Schlagzeilen in den Hintergrund zu rücken. Das ganze Konglomerat xAI, X und Grok aber wird in den kommenden Jahren noch für einige Überstunden im EU AI Office sorgen.

Smartphone und Jugendliche: Neurologische Fehlanpassungen?

“Ruiniert Technologie wirklich das Leben von Teenagern”, fragt Molly Fisher im New Yorker. Und stellt diese Frage dem neuen Buch “How we grow up?”, das der Journalist Matt Richtel geschrieben hat.

Richtel scheint, so legt zumindest die Rezension nahe, der Komplexität des Themas gerecht werden zu wollen. Auch wenn er mit verallgemeinernden Konzepten wie der “Generation Rumination” (Grübel-Generation) arbeitet.

Teenager fühlen sich demnach vor allem deshalb verzweifelt, weil sie evolutionär immer noch auf eine Welt eingestellt sind, in der physische Herausforderungen das Heranwachsen dominieren; die Herausforderungen, die sie aber heute tatsächlich bedrängen, sind aber zunehmend abstrakt und intellektuell. Außerdem kämen gerade Mädchen früher in die Pubertät als sonst, befänden sich also in einer langen Phase der Verletzlichkeit. Kombiniert man das mit dem besonderen Reiz von neuen sozialen Informationen für Teenager (Informationen, die sich nun einmal im Smartphone verbergen), kommt man auf die Formel: “Veränderte Umgebung + veränderte Pubertät = neurologische Fehlanpassung”.

Das klingt ein bisschen nach Pop-Theorie, ist aber komplexer als die monokausale Begründung, dass Smartphones alleine Teenager unglücklich machen (Studien legen nahe, dass es zum Beispiel schlauer ist, auf die Nutzungsdauer zu blicken, sieh Ausgabe #98).

Die Aufgeregtheit, mit der wir über Teenager und Smartphones diskutieren, stellt Molly Fisher in ihrer Rezension in einen anderen Kontext (übersetztes Zitat):

“Wie bei der aktuellen Debatte über Kinder und Geschlechter geht es auch bei der Diskussion über Teenager und Telefone um die Angst, dass Ihr Kind über neue Ideen stolpern könnte, höchstwahrscheinlich online, und dadurch unwiderruflich verändert wird.”

Diese Angst ist nachvollziehbar, hilft aber natürlich in der Debatte nicht unbedingt weiter.

Jetzt abonnieren

Browser-Extensions als Scraping-Trojaner

Browser-Erweiterungen sind unterschätzt - als Tool, aber auch als Wrapper für allerhand Datensammel-Tricks. Ganz besonders dreist aber ist dieses aktuelle Beispiel: Die Mellowtell library.

Die library ist konkret eine Monetarisierungs-Library. Ein eingebetteter JavaScript-Code innerhalb der Erweiterung, der “unbenutzte Bandbreite” verwenden möchte, wofür der Entwickler im Gegenzug Geld erhält. Die Firma Secure Annex, von der die Analyse stammt, hat Mellowtell-Code in 245 Erweiterungen bei Chrome, Edge und Firefox gefunden.

Wofür also nutzt die Mellowtell library die unbenutzte Bandbreite? Webscraping hinter dem Rücken des Benutzers. Übersetztes Zitat Risky Business News:

“Mellowtel wartet darauf , dass der Benutzer inaktiv wird, deaktiviert den Sicherheitsschutz der Seite und lädt dann eine andere Website in einem versteckten Iframe. Die geparste/gescrapte Website wird dann zur Analyse an eine entfernte URL gesendet.”

Wer sich das im Video angucken möchte:

Secure Annex zufolge hat die Erweiterung Verbindungen zur Firma Olostep, ein Online-Dienst, der mit einer “kostengünstigen Web-Scraping-API” wirbt. Keine Bot-Erkennung, 100.000 Anfragen parallel. Letzteres mit Hilfe des geschilderten Extension-Hijacking. Erstaunlich - und natürlich unethisch bis brandgefährlich, wenn zum Beispiel die Extension für die Ausführung von Schadcode verwendet wird.

Der Denker und die Maschine

Ein Essay über die Folgen des Zusammentreffens von “Denker” und “Maschine”. Genauer gesagt über die Frage: Was passiert, wenn ein Autor für geopolitische Thinktank-Analysen, mit ChatGPT konfrontiert wird?

Dieser Absatz hat mich abgeholt. Oder vielmehr mir als Autor manch eigener Denkstücke und Analysen einen freundlichen Hieb aufs Kinn verpasst (übersetzt).

“Er hatte ein Handwerk kultiviert: Er las viel, wenn auch nicht gründlich, schrieb sorgfältig, wenn auch nicht flüssig, und beherrschte die subtile Alchemie des Jargons und des Urteils. Er hatte gelernt, vorsichtig, aber nicht ausweichend zu klingen. Er wusste, wie er seine alten politischen Ideen an fast jede geopolitische Entwicklung (und deren Gegenteil) anpassen konnte. Er hatte es perfektioniert, mit einer Anekdote zu beginnen und mit einem bewährten Politikrezept zu schließen. Er könnte einen Artikel mit dem Titel “Rekalibrierung der transatlantischen Verteidigung” im Schlaf schreiben. (Tatsächlich bemerkte der Redakteur von Foreign Affairs, dass sich sein letzter Artikel so las, als hätte er das getan).

All das konnte man jetzt vergessen. Jetzt könnte die Maschine all diese Tricks auch ausführen. Ohne Schlaf.”

Bis zum Ende lesenswert.

Links

EU legt Code of Practice für generative KI-Modelle vor.

X-Chefin Linda Yaccarino geht.

Irland eröffnet weitere Untersuchung wegen möglichem TikTok-Datenabfluss nach China.

OpenAI veröffentlicht demnächst einen Browser.

Die Geister, die ich rief: YouTube hat genug von AI Slop.

KI-Stimme imitiert in Telefonanrufen US-Außenminister Marco Rubio.

Vor dem anstehenden Verkauf: TikTok baut US-App. ($)

Zahlt sich Metas Multimillionen-Angebot für KI-Entwickler aus?

Verbraucherschützer klagen gegen Doctolib.

Hat Google ein Problem mit übermäßigen Löschungen von Bewertungen?

Digitalsteuer: Weimer zunehmend isoliert. (€)

Prime Day ist ein Scam.

US-Industrieunternehmen schwenken in Richtung Ausstattung von KI-Rechenzentren.

KI-Bedarf belastet das Netz, Strompreise steigen in 13 US-Bundesstaaten.

Auch Bargeld lässt sich tracken.

Trump und die Crypto-Lobby: Eine Rekonstruktion. ($)

KI-Agenten haben eine hohe Fehlerquote und sind oft gar keine KI.

KI-Politik und der Souveränitätsmythos.

Eliza, warum?

Eine Geschichte der Mac-Systemeinstellungen (1984-2004)

Bis zur nächsten Ausgabe Ende Juli!

Johannes

Abschiebungen in den USA: Gesichtserkennung, Datenanalyse und Gegenbewegungen

Nirgends spitzt sich der politische Konflikt in den USA so sehr zu wie bei der Abschiebepolitik. Und Digitaltechnologien spielen dabei eine wachsende Rolle.

So berichtet 404 Media ($) mit Verweis auf interne Unterlagen, dass die Abschiebe-Behörde ICE inzwischen eine App mit Funktionen zur Gesichtserkennung und zum Fingerabdruck-Abgleich einsetzt. Übersetztes Zitat über die Datenbanken, auf die die App “Mobile Fortify” zurückgreift (Fettungen meine):

“In den E-Mails heißt es, dass Mobile Fortify für die Gesichtserkennungsfunktion dieses ICE-Tools zwei Regierungssysteme verwendet. Das erste ist der Traveler Verification Service von Customs and Border Protection (CBP). Im Rahmen des Traveler Verification Service nimmt die CBP bei der Einreise in die USA Fotos von den Gesichtern der Reisenden auf und vergleicht diese mit zuvor aufgenommenen Fotos. Auf einem Flughafen können dies Fotos von einem Reisepass, einem Visum oder früheren CBP-Kontrollen sein, wie aus einer zuvor von der CBP veröffentlichten Datenschutzfolgenabschätzung (Privacy Impact Assessment - PIA) hervorgeht. Bei Grenzübertritten auf dem Landweg kann dies eine Galerie von „häufigen“ Grenzgängern für diesen Einreisehafen beinhalten, so die PIA weiter.

Der zweite Punkt ist der Beschlagnahme- und Aufgriffsworkflow. Dieser wird vom Department of Homeland Security (DHS) als “Intelligence Aggregator” bezeichnet, der Informationen zu Durchsuchungen und Beschlagnahmungen zusammenführt.”

Die Sorgen, was nach den Einreiseverschärfungen nach 9/11 mit den gesammelten Fotos und Fingerabdrücken passiert? Fast ein Vierteljahrhundert später bestätigen sie sich.

Die technologischen Grundlagen für die ICE-Verhaftungen und -Abschiebungen sollen in den kommenden Jahren deutlich ausgebaut werden. Ein geplantes System nennt sich “ATrac”, kurz für “Alien Tracker”. 404 Media berichtete im April über die entsprechenden Pläne, in deren Zentrum eine detaillierte Umgebungskarte steht (Zitat übersetzt, gefettet):

“In dem Dokument heißt es, dass ATrac ein ICE-Tool ist, das Informationen auf einer raumbezogenen Schnittstelle anzeigt, damit die Beamten potenzielle Vollstreckungsziele identifizieren und diese Vollstreckung dann einem bestimmten Team übertragen können. Sobald ein Team losgeschickt wird, muss es das Endergebnis melden, z. B. dass die Zielperson verhaftet wurde, dass die Zielperson gefunden, aber nicht verhaftet wurde oder dass die Zielperson nicht gefunden wurde.

In dem Dokument heißt es, dass ATrac bereits Informationen von der Social Security Administration (SSA) und der U.S. Citizenship and Immigration Services (USCIS) enthält. Es enthält auch Daten von Strafverfolgungsbehörden wie dem FBI, dem Bureau of Alcohol, Tobacco, Firearms and Explosives (ATF) und dem U.S. Marshals Service (USMS), wie es in dem Dokument heißt.”

Auch andere Behörden, die mit dem Abschiebeprozess nichts zu tun haben, sollen künftig Daten zuliefern.

Die datenbasierte Arbeit soll dann 2027 eine neue Stufe erreichen: Mit ImmigrationOS soll Palantir bis dahin für ICE eine Software bauen, die den Identifikationsprozess vereinfachen und den Deportationsprozess granular nachverfolgbar machen soll.

Parallel dazu entwickelt sich aber auch eine kleine Gegenbewegung zur Abschiebepolitik, die ebenfalls Technologie nutzt. Unter “ICE Watch” versammeln sich Gruppen, die verdächtige Transporter in ihrer Nachbarschaft tracken, Razzien per Video dokumentieren und Betroffenen während der Razzien Informationen über ihre Rechte geben. Die Dokumentation solcher Razzien geht so weit, dass auch eine Doxing-Liste mit Namen von ICE-Agenten online stand (inzwischen ist sie nicht mehr erreichbar).

Jüngst ging außerdem die App ICEblock viral, in der sich Razzien der Abschiebe-Einheiten melden lassen und in der man auch Alerts zu Razzien in der Nähe erhalten kann. Weitere Werkzeuge dieser Bewegung: Die Nachbarschafts-Warnfunktion der Amazon-Haustürkamera Ring sowie nachbarschaftliche Signal und WhatsApp-Gruppen oder Nextdoor.

Die Aufzählung ist vermutlich weder vollständig, noch lassen sich die Effekte bemessen - zumal bei Regierungsprojekten, die gerade erst geplant werden. Die aktuelle Waffenungleichheit wird allerdings deutlich. Hochtechnologien in den Händen des Staates sind eben etwas anderes als DIY-Projekte aus der Zivilgesellschaft.

Jetzt abonnieren

KI, Crawling und Urheberrecht: Es tut sich was

Ich beschäftige mich gerade etwas ausführlicher mit dem Thema KI und Urheberrecht. Und sehe Bewegung beziehungsweise erste Versuche, das Ganze technisch zu lösen. Cloudflare zum Beispiel führt testweise eine Art Marktplatz für KI-Crawling ein: Cloudflare-Kunden können festlegen, dass KI-Crawler für jedes Durchsuchen ihrer Webseite einen bestimmten Betrag entrichten. Falls nicht, sperrt Cloudflare sie aus (das wiederum war schon vorher möglich).

Ein weiteres Projekt: Creative Commons hat den Startschuss für “CC Signals” gegeben. Ähnlich wie bei den klassischen CC-Lizenzen können Urheber die Nutzung ihrer Inhalte an bestimmte Bedingungen knüpfen. In diesem Falle: KI-Training mit de nDaten nur bei Hinweis auf Urheberschaft, Bezahlung oder sonstige Zuwendung, Arbeit am Ökosystem der Commons und Nutzung nur für Open-Source(Weights)-Modelle. Die Monetarisierung soll nicht im Mittelpunkt stehen, weitere Lizenz-Ideen werden gerade entwickelt.

Und auch rechtlich tut sich etwas: Dänemark zum Beispiel will Bürgerinnen und Bürgern das Urheberrecht an ihrem Körper, ihrer Stimme, und ihrem Aussehen geben, um eine bessere Handhabe gegen Deepfakes zu haben.

Die konkrete Ausgestaltung ist bei allen drei Ideen noch vage. Genau wie die Frage offen ist, was davon überhaupt Wirkung entfaltet.

USA: KI-Moratorium (vorerst) vom Tisch

Der US-Senat hat seine Version des Haushaltsgesetzes (dessen Folgen z.B. für den Klimaschutz ein eigenes Thema sind) verabschiedet. Und dabei das geplante Moratorium für KI-Gesetze der Bundesstaaten gestrichen. In der Version aus dem Repräsentantenhaus war zunächst ein Moratorium von zehn Jahren vorgesehen, später wurden in den Verhandlungen fünf daraus, abhängig von Subventionen für bestimmte Bereiche, die ein Bundesstaat hält (Breitband, KI selbst).

Politico hat eine gute Nacherzählung des Ganzen, ebenso wie Zvi Moshowitz. Wie so oft kam die Idee eines Regulierungsverbots von einem parteinahen Thinktank (R Street Institute), als Vorbild diente das Verbot für Bundesstaaten und Kommunen von 1998, Internet-Transaktionen extra zu besteuern. Äpfel, Birnen, etc.

Dem Politico-Artikel ist zu entnehmen, dass das nicht der letzte Versuch sein wird, ein Moratorium gesetzlich einzuführen. Schon jetzt führte vor allem der Widerstand aus den US-Bundesstaaten sowie von Kinderschutzgruppen dazu, dass der Plan nicht durchging. Kinderschutz scheint das einzige Argument, das in den USA in Sachen Internet-Regulierung noch Gewicht hat.

Ausländische Desinformation: Amplifikation statt Produktion

Mark Scott hat in seinem - empfehlenswerten - Newsletter (€) eine Art “State of Disinformation Landscape” aufgeschrieben. Sein Fazit: Durch die immer stärkere Balkanisierung sozialer Netzwerke und letztlich auch die epistemische Fragmentierung haben staatliche Desinformations-Akteure wie China und Russland große Probleme, ihre Narrative unterzubringen. Übersetztes Zitat:

“Die Abschottung der Nutzung sozialer Medien geht einher mit dem Bedürfnis nach Authentizität - dem Gefühl der Zugehörigkeit und des Insiderwissens, das nur entstehen kann, wenn man tief in Gemeinschaften verwurzelt ist, die einen Hochstapler schon aus einer Meile Entfernung riechen können. Diese Authentizität ist etwas, bei dem ausländische (verdeckte) Kampagnen regelmäßig schlecht abschneiden.”

Worin ausländische Kampagnen weiterhin gut sind, ist die Verstärkung gewünschter oder schlicht kontroverser Narrative durch massenhafte Re-Shares, die wiederum die Empfehlungssystem der Plattformen beeinflussen.

Für viel relevanter als Russland etc. hält Mark die einheimischen Desinformations- und Beeinflussungskampagnen in den verschiedenen Ländern. Die Werkzeuge dafür sind demokratisiert worden:

“In den letzten fünf Jahren sind die Werkzeuge, die zur Beeinflussung sozialer Medien erforderlich sind, leicht zugänglich und wesentlich billiger geworden als früher. Dies wurde durch das rasante Wachstum von KI-gestützten Tools noch weiter vorangetrieben (mehr dazu weiter unten). Aber alles, von einer Bot-Farm in Bangladesch bis hin zu einer Public-Relations-Agentur auf den Philippinen, ist inzwischen ein Produkt von der Stange, das mit ein paar Klicks auf einer öffentlich zugänglichen Website gekauft werden kann.”

Entsprechend werden diese Werkzeuge auch deutlich häufiger von Scammern genutzt. Eine Facette mehr in einem Thema, das weiterhin in Sachen Messbarkeit, Einfluss und Wahrnehmung sehr komplex ist (siehe Ausgabe #103).

Peter Thiels autoritäre Fortschrittswelt

Peter Thiel war im Podcast des katholischen NYT-Kolumnisten Ross Douthat zu Gast. Wie schon der reaktionäre Tech-Vordenker Curtis Yarvin kommt er im Podcast-Format ziemlich schwach daher.

Genauer gesagt habe ich mich an einigen Stellen gefragt, ob Thiel überhaupt noch nachdenkt, oder einfach inzwischen die Wahrnehmung seinen Gedankenkonstrukten anpasst, also noch ideologischer geworden ist. Wenn er zum Beispiel - wider jeglicher Evidenz - erklärt, dass man die allgemeine Stagnation vor allem in Wissenschaft und Medizin sehe. Als wären das nicht die Bereiche, in denen wir am meisten Fortschritt verzeichnen.

Fehlt Thiel vor allem, dass sein Lieblingsthema Unsterblichkeit von der seriösen Wissenschaft nicht vorangetrieben wird - zum Beispiel, weil es wichtigere Themen für die Allgemeinheit gibt? Oder geht es ihm darum, dass er einfach freie Bahn dafür möchte, unreguliert zu allen möglichen Themen forschen (zu lassen)?

Gesellschaftlich wird nochmal Thiels Vorstellung einer autoritären Fortschrittswelt deutlich: Demokratie - und genauer betrachtet auch Gesellschaft - als Konzept spielen darin keine Rolle, stattdessen Mut zum Risiko und Ausrichtung auf technischen Fortschritt.

Interessant ist vor allem, dass diese Vorstellung von technischem Fortschritt im Kern nostalgisch ist. Adam Becker hat in seinem neuen Buch “More Everything Forever” herausgearbeitet, dass die Tech-Utopien in der Regel dem Geist der Science-Fiction aus den 1950ern und 1960ern entstammen, als Wissenschaft und Technologie die Lösung aller Probleme versprachen.

Henry Farrell erinnert daran in seinem Newsletter, zieht aber auch Parallelen zu William Gibsons Kurzgeschichte Das Gernsback Continuum (hier in übersetzter Version online) von 1981. Ein Fotograf amerikanischer Zukunftsarchitektur aus den 1930ern und 1940ern wird darin von Visionen einer Zukunft heimgesucht, die niemals Realität wurde. Fliegende Autos, futuristische Autobahnen, gigantische Zeppeline. Nur mit großer Mühe entkommt er diesen Wahnvorstellungen von der “perfekten Welt”.

Farrell schreibt dazu (übersetzt, gefettet):

“Das Silicon Valley ist in einer neuen Version des Gernsback-Kontinuums gefangen - eine Situation, in der es kollektiv von den Visionen einer imaginären Zukunft endloser Expansion heimgesucht wird, die nicht stattgefunden hat und nie stattfinden wird. Unser Ausweg besteht, wie Becker vorschlägt, darin, die physischen und sozialen Grenzen anzuerkennen, denen wir nicht entkommen können, und zu versuchen, innerhalb dieser Grenzen eine bessere Zukunft zu gestalten.”

Das ist eine Haltung, die Thiel natürlich fremd ist. Entsprechend lässt sich sein Agieren je nach Perspektive als utopisch, tragisch oder zerstörerisch beschreiben. Was Donald Trump konkret zur Aufhebung der der diagnostizierten Stagnation beigetragen hat, beantwortet Thiel übrigens nicht.

Sloterdijk und der Tech-Diskurs

Die FAZ feiert Peter Sloterdijk und seinen Auftritt bei der Phil.Cologne. Und zwar, weil der gegenwärtige Technologie-Diskurs derart von Optimismus und “kriegen wir hin” geprägt sei, dass es jemanden wie Sloterdijk brauche, der dem etwas entgegensetzt. Und so zitiert man Sloterdijk aus einem Interview:

“In unseren Tagen vermeidet man die kulturpessimistischen Töne, man produziert lieber künstliche Euphorien. So wie der Futurismus den Elan des Angriffs zelebrierte, ziehen wir heute beim Reden über Digitalität die optimistischen Töne vor. Man versichert uns, die digitale Party hat gerade erst begonnen.”

Puh, ich weiß ja nicht, in welcher Welt Sloterdijk lebt, aber ich nehme diskursiv eigentlich vor allem kulturpessimistische Töne wahr. Gerade in der Debatte um KI, sofern man die üblichen Hype-Zirkel, den Bitkom und ein paar Politiker hierzulande rausnimmt. Und statt der “digitalen Party”, die gerade erst begonnen habe, geht es doch vielmehr um Digital-Oligopole als Symbol und Symptom des Spätkapitalismus.

Aber vielleicht muss Sloterdijk den Diskurs-Strohmann errichten, weil der ihm in Tech-Dingen eigene Kulturpessimismus sonst in seiner Banalität auffliegen würde? “Handys müssen unter das Drogenverbot fallen” und für Kinder und Jugendliche tabu sein, “analysiert” der Philosoph diese Woche im Gespräch mit der dpa. Kluge oder zumindest originelle Gedanken sind von ihm im Digitalthemen-Gebiet wohl erst einmal nicht zu erwarten.

EuroStack revisited

Brüssel-Korrespondentin Annabell Brockhues und ich haben für den Deutschlandfunk noch einmal die EuroStack-Idee unter die Lupe genommen . Der 18- minütige Hintergrund bringt, so hoffe ich, etwas Realismus in die Debatte. Oder zeigt zumindest auf, welche Fragen offen sind. Das Stück ist gleichzeitig mein letztes längeres Format für den Deutschlandfunk, den ich am 31. Juli verlassen werde. Wie es weitergeht? Stay tuned…

Die erste erfolgreiche AI-Band?

Ist “The Velvet Sundown” die erste komplett mit KI erstellte Band? Die Aufnahmen der “Mitglieder” sind eindeutig im KI-Stil gehalten, und wenn wir ehrlich sind ist die Musik auch nicht besonders originell. Der beliebteste Song hat trotzdem schon 800.000 Plays auf Spotify gesammelt.

(Ein guter Moment, unauffällig auf meine persönliche Playlist mit neuen Songs aus dem Jahr 2025 hinzuweisen. KI-Tracks kommen nicht vor)

Total Pixel Space

“Total Pixel Space” von Filmemacher Jacob Adler hat im Juni den Hauptpreis beim Runway AI Filmfest in New York City und Los Angeles gewonnen. Die Erzählung erinnert an Borges’ “Die Bibliothek von Babel”; die Videosequenzen dagegen eröffnen eine andere Deutung. Denn anders als die Bücher in Borges’ Universalbibliothek, in denen die Kombination aller möglichen Buchstaben ein Labyrinth der Unverständlichkeit schafft, erhalten die Video-Sequenzen in einer Art traum-haften Collage Bedeutung. Auch wenn es vermutlich nur eine ästhetische Bedeutung ist.

Links

EU-Kommissarin Virkkunen: Tech-Regulierung nicht verhandelbar vs. USA.

USA: Regierung plant nationale Staatsangehörigen-Datenbank.

Mehr Datenspeicherung: Bundestag beschließt Novelle des BKA-Gesetzes.

Worldline und Payone nach #dirtypayments – was nun?

Hackerangriffe auf Airlines: Wer steckt hinter “Scattered Spider”?

Bluetooth-Lücke: Millionen von Kopfhörern abhörbar.

Iranische Hacker drohen, E-Mails aus Trumps Wahlkampfteam zu verkaufen.

EU-Ratspräsidentschaft: Dänemark setzt Chatkontrolle auf die Agenda.

Quantencomputing: Die EU und ihr altes Problem.

Synthetische Propaganda: Aktuelle Entwicklungen im Überblick.

Gedanken zu Smartphone-Verboten an Schulen.

Krypto-Firmen setzen weiter auf Influencer-Marketing. ($)

Synthetischer Content in demokratischen Prozessen. ($)

Ein guter Thread zu nationaler Sicherheit im KI-Zeitalter.

Wegen Identitätsdiebstahl: Tinder testet Gesichtsscan für Neuanmeldungen in Kalifornien.

Armin Wolf und der vergebliche Versuch, Beleidigungen auf X zu verfolgen.

KI und das Ende des Lebenslaufs.

KI im Unterricht: Anekdotisch nicht so gut.

Podcast “Dark Agent”: Was steckt hinter der “Operation Triangulation”?

20 Jahre Reddit.

Emojis als eigene Sprache.

TV-Sender aus aller Welt, die man online gucken kann.

Bis zur nächsten Ausgabe!

Johannes

Was war DOGE?

Benjamin Wallace rekonstruiert im New Yorker, was DOGE wirklich in der Bundesverwaltung der USA verändert hat. Die Antwort in Zahlen: Ungefähr 208.000 Stellen wurden im Zuge der DOGE-Aktion gestrichen. Allerdings machen die Gesamt-Personalkosten für die insgesamt drei Millionen Staatsbedienstete inklusive Pensionen nur vier Prozent des Gesamthaushalts aus.

Die Einsparungen jenseits des Personals dürften anders als von Musk versprochen im Millionen-, nicht Milliardenbereich liegen. Dabei ist noch nicht gegengerechnet, was Staat und Gesellschaft durch weniger Steuerprüfungen nach IRS-Schrumpfung und die die De-Facto-Auflösung des Consumer Financial Protection Bureaus (C.F.PB) an Folgekosten tragen müssen. Oder wieviel Schadenersatz am Ende für die zahlreichen staatlich gebrochenen Verträge fällig wird. Dass die Zerstörung der Entwicklungshilfeorganisation USAID konkret Menschenleben kostet, wurde schon anderswo dokumentiert.

Womit wir bei der Antwort jenseits der Zahlen sind. Die lautet für Wallace-Wells (übersetzt):

“Ein Teil der Idee war, die Regierung mit Talenten zu versorgen, indem diverses Personal und ineffiziente Mitarbeiter durch versiertere Mitarbeiter aus der Startup-Branche ersetzt werden. Die jungen “Embeds”, die sich in der Regierung bewegten und von denen Musk bei seinen Auftritten auf Fox News schwärmte, verkörperten diese Vision. Aber letztendlich hatte der schnellste Weg für die DOGE, die Regierung zu reduzieren, nichts mit Technologie zu tun. [Ex-DOGE-Mitarbeiter] Sahil LavingiaLavingia erzählte mir, dass er während seiner beiden Monate bei der Veteranenbehörde zu dem Schluss kam, dass es gar nicht so viele Mitarbeitende gebe, die nur herumsitzen und nichts tun. ‘Um ehrlich zu sein, ist es in der Technologiebranche oft noch schlimmer, denn dort gibt es Risikokapital und niedrige Zinssätze’, sagte er. ‘Das kann ziemlich ineffizient sein.’”

Die DOGE-Leute waren weniger digitale Schocktruppen, als ziemlich unorganisierte, in ihrer Orientierungslosigkeit Musk-Tweets interpretierende Jung-Techies. Ein konservativer Influencer, der offenbar nah dran an DOGE war, kommt mit Blick auf das Gesamtprojekt zu dem Schluss: Musk ging es nicht darum, politische Resultate zu erzielen. Sondern darum, die Progressiven wütend zu machen. Owning the libs als politische Strategie, Teil 4385.

Dass ihm das über die Grenzen der USA gelang, zeigen auch die Reaktionen hierzulande. Schnell war vom “unsichtbaren Staatsstreich” die Rede, der ohne Panzer auskommt, weil er sich die IT der US-Regierungsbehörden per Handstreich übernimmt.

Ganz so einfach war das offenbar doch nicht. In der Realität gab es vor allem eine Aktion, die unter das Label “totalitär” fällt: Nämlich die Überführung der Sozialversicherungsnummern von 6300 Einwanderern, die während der Biden-Regierung (offenbar legal) ins Land gekommen waren, in das “Totenregister”. Heißt: Diese Menschen können nun keine Arbeit oder Staatsleistungen mehr erhalten.

Natürlich lässt sich DOGE nicht abschließend bewerten. Zum Beispiel ist unklar, für welche Zwecke die DOGE-Leute auf weitere Sozialversicherungsdaten zugriffen und ob sie kopiert wurden. Und natürlich lässt sich immer argumentieren, dass eine etwas zielstrebigere Vorgehensweise noch größeren Schaden angerichtet hätte, DOGE also an der fehlenden Organisation gescheitert ist, nicht an institutionellen Hürden.

Allerdings wird nach der Lektüre des New-Yorker-Artikels auch deutlich, dass das Narrativ vom DOGE-Putsch sich als übertrieben entpuppt hat.

In Ausgabe #124 hatte ich DOGE thematisiert und mir das Narrativ vom Staatsstreich ausdrücklich nicht zueigen gemacht. Allerdings hatte ich durchaus einen konstitutionellen Großkonflikt mit der Judikative prophezeit. Auch der blieb aus - beziehungsweise ist eher beim Thema Abschiebungen und Migration zu erwarten.

Was wir daraus lernen können? Dass die Sorge vor dem digitalen Putsch durchaus für öffentliche Aufmerksamkeit und auch für die Mobilisierung von Protest gesorgt hat. Dass solche Groß-Narrative aber nicht der komplexen Realität entsprechen. Und de facto auch einer Logik von allmächtiger Software folgen, die institutionelle und menschliche Faktoren ausklammert, also Berührungspunkte mit jener Idee des Techno-Solutionismus hat, die man eigentlich ablehnt.

Einige Progressive werden das Narrativ trotzdem weiter nutzen, passt es doch gut in das Gut/Böse-Schema und zur Idee von der Big-Tech-Machtergreifung. Irgendwann läuft so etwas wie die Geschichte vom Hirtenjungen und dem Wolf. Wenn es immer um alles geht, geht es irgendwann um nichts mehr. Diese Ermüdung wiederum gehört ja durchaus zur Strategie, die die politische Rechte um Trump groß gemacht hat.

Jetzt abonnieren

Irans Cyber-Optionen

Nach dem Angriff der USA auf das iranische Atomprogramm rückt die Frage nach den Cyber-Kapazitäten Irans in den Mittelpunkt. Laut der Associated Press gab es am Wochenende DDOS-Attacken auf amerikanische Banken, Ölfirmen und Militärunternehmen, die aber einer pro-palästinensischen Gruppe zugeschrieben werden. Und DDOS-Attacken stellen eher Hacktivismus als ernsthafte Cybersabotage dar.

Iran kann auf ein beachtliches APT-Ökosystem zurückgreifen (eine Übersicht der Akteure findet sich hier), das auch mit der iranischen Regierung verbunden ist. Zuletzt wurden dem Land Hacker-Angriffe auf US-Politiker rund um den letzten US-Wahlkampf vorgeworfen. Allerdings betonen Experten auch, dass Iran seine Cyberfähigkeiten auch gerne PR-trächtig aufbauscht.

Die Frage ist, wie Teheran Cyber-Angriffe überhaupt strategisch einsetzen könnte. Direkte Reaktionen sind eher unwahrscheinlich. Das wäre auch nicht die iranische Art: Nach der Tötung des Revolutionsgarden-Kommandeurs Qasem Soleimani durch die USA im Jahr 2020 blieb es zunächst erstaunlich ruhig. Später stellte sich heraus, dass man offenbar ein Attentat auf den verantwortlichen US-Sicherheitsberater John Bolton planen ließ.

So würde man auch im Cyber-Bereich vorgehen. Theoretisch ist vor allem die öffentliche Infrastruktur in den USA digital sehr verwundbar, besonders auf lokaler und Bundesstaaten-Ebene. Dazu baut die Trump-Regierung gerade Infrastrukturen zur Cybersicherheit ab.

Allerdings ist auch Iran angreifbar. Gerade mit Israel hat man schlechte Erfahrungen gemacht. Das Beispiel Stuxnet ist omnipräsent, aber auch die Ermordung iranischer Offizieller im Zuge des jüngsten israelischen Angriffs dürfte auch auf technische Spionage und irgendeine Form von Tracking zurückzuführen sein. Nach dem israelischen Angriff ging das iranische Internet quasi offline, weil das Land nach eigenen Angaben so vor Cyberangriffen schützen wollte. Ein Cyber-Nebenschauplatz war auch die behauptete Löschung von Daten einer iranischen Bank durch Hacker, die Israel nahestehen sollen.

Sollte Iran die Cyberkarte ziehen, wird man zusehen, möglichst wenig Spuren zu hinterlassen, die eine Attribuierung der Tat möglich machen. Was allerdings dem Wunsch widerspricht, Stärke zu demonstrieren und auch öffentlich Vergeltung zu üben. Womöglich sind aber solche Operationen aus Sorge vor Vergeltung durch das Cyberwar-erprobte Israels auch komplett vom Tisch und man konzentriert sich vor allem auf Spionage.

Rückkehr der Longform?

Der Jazz- und Kulturkritiker Ted Gioia hat eine These: Der Trend hin zu ultrakurzem Content hat eine Gegenbewegung ausgelöst, die im wachsenden Erfolg langer Kulturformate erkennbar ist. Songs werden wieder länger, lange YouTube-Videos haben höhere Wachstumsraten als kurze Clips, Filme in Überlänge sind besonders erfolgreich. Gioia leitet das aus mehreren Gründen ab:

• Das endlose Scrollen durch Kurzvideos führt demnach zu einem Dopaminüberschuss, der schließlich Gleichgültigkeit verursacht. Selbst süchtige haben keine Freude mehr. Entsprechend wird die Longform gesucht.

• Es gibt eine Gegenbewegung zu digitalen Interfaces, ähnlich wie die Abstinenzbewegungen bei Alkohol und Drogen der Fall war.

• Kurzformate können sich viral verbreiten, schaffen aber keine Bindung.

• Jede kulturelle Form ruft eine Gegenbewegung hervor, wenn sie zu dominant ist. Wie Kurzformate.

• Eine allgemeine Skepsis gegenüber dem Silicon Valley.

Ich persönlich würde mich erstmal freuen, wenn die Beobachtungen stimmen würden. Vielleicht lesen Menschen dann sogar irgendwann wieder mehr Bücher? Aber leider ist die Datenbasis dünn: Dass Menschen mehr Zeit mit langen YouTube-Videos als mit Shorts verbringen, liegt vielleicht daran… dass die Videos länger sind? Und könnten die Langformate im Streaming-Bereich womöglich auch deshalb für die Produzenten interessant sein, weil sich in ihnen mehr Werbung schalten lässt?

Wie gesagt, ich fände es spannend, wenn Gioia wirklich einen Trend beobachtet. Seine Analyse der Dopamin-Kultur (siehe Ausgabe #84) ist weiterhin absolut hilfreich. Doch die Identifikation eines Gegentrends erscheint bislang vor allem eine Hoffnung.

Was ist los bei Neura Robotics?

Kognitive Robotik ist weiterhin ein Hype-Thema (siehe auch Ausgabe #127). Und die Metzinger Firma Neura Robotics ein deutscher Hoffnungsträger auf dem Markt für humanoide Roboter. Das Start-up versucht gerade, eine Fundingrunde mit einem Volumen von einer Milliarde Euro zu stemmen.

Am Dienstag auf der Robotik-Messe Automatica in München präsentierte die Firma ihr Flagship-Modell 4NE1 - Deutschlands ersten autonomen humanoiden Roboter, der zunächst vor allem in der Industrie zum Einsatz kommen soll (Preis: etwa 50.000 Euro). Doch es lief nicht alles nach Plan. Im Gegenteil: Das, was Bloomberg berichtet, könnte aus dem Drehbuch der TV-Comedyserie Silicon Valley stammen (übersetzt):

“Am Dienstag wollte [CEO] David Reger auf einer Konferenz in München den, wie er sagte, ‘besten humanoiden Roboter der Welt’ vorstellen. Nur steckte das Kronjuwel seiner Erfindung irgendwo auf der Autobahn fest.

Wie es sich für einen guten Showman gehört, legte Reger trotzdem los und zog vor versammelter Menge dramatisch ein schwarzes Tuch von der Kreation seines Start-ups. ‘Ich werde es etwas kürzer machen, weniger spektakulär, als wir es geplant haben’, sagte er.

Alle knipsten Fotos. Der Roboter stand still.

(…) Der CEO sagte, dass er und seine Ingenieure bis zu diesem Morgen an den neuen Modellen, vier verschiedenen Maschinen, getüftelt hätten. ‘Wir haben versucht, die letzten Kleinigkeiten zu optimieren’, sagte er. ‘Und das ist auch der Grund, warum die Roboter festsitzen.’ Ein Unternehmenssprecher sagte später, eine unerwartete Straßensperrung auf der deutschen Autobahn habe zu der Verzögerung beigetragen.

(…) Am Mittwochmorgen kündigte das Unternehmen an, die neuen 4NE1-Geräte zu zeigen, sobald sie von der Autobahn abgefahren seien. Am Nachmittag waren sie aber immer noch nicht da. Reger kam zu dem Schluss, dass seine Roboter noch nicht gut genug waren, um sie vorzuführen.”

Das sind ziemlich viele Red Flags für eine Firma, die gerade ein Milliarden-Funding sucht. Und steht in der Tradition von Präsentationen humanoider Roboter, die entweder in die Hose gehen oder nur mit Tricks funktionieren.

In einer besseren Welt wären die Roboter natürlich mit dem Lilium-Flugtaxi von der Autobahn geholt worden.

Wäre mit das Ganze nicht zufällig in einem Bloomberg-Newsletter begegnet, hätte ich gar nichts davon mitbekommen. In anderen Medien fand ich einige (Vorab?-)Interviews mit dem CEO, in denen die gefloppte Präsentation aber keine Rolle spielte; Social Media wiederum hatte ein paar Hype-Clips des tollen Roboters zu bieten. Nur dass die halt aus Footage aus den Firmen-Videos bestanden, die schon seit Monaten im Netz zu finden sind.

Mit dem Wissen über das reale Geschehen wirkt das PR-Video von Neura Robotics und der Versuch, mit einem herumstehenden Dummy eine dynamische Produktpräsentation zu simulieren, noch einmal ganz anders. Silicon Valley, Staffel irgendwas. Ich muss immer noch grinsen. :-)

Links

Wird der DMA zur Verhandlungsmasse im transatlantischen Zollstreit? (Ja, sagt das Handelsblatt)

Urteil in den USA: Bücher-Crawling für KI ist Fair Use.

Aktionstag der Polizei: 65 Durchsuchungen wegen Hate Speech.

Norwegen: Hacker öffnen Staudamm-Klappe.

Ein unzufriedener Autor von KI-Erotik.

Kritik am Prozess zur Auswahl des EU-Datenschutzbeauftragten.

EU-Kommission stellt Fahrplan für Datenzugang für Polizeien vor.

Gesichtserkennung in Frankreich: Was geht und was nicht geht.

VCs überbieten sich, um bei Anysphere (Cursor.ai) einzusteigen. ($)

Silicon Valley: Ära der “tiny teams” ($)

Arbeitgeber versinken in KI-generierten LinkedIn-Bewerbungen. ($)

Tech-Fonds der NATO: Geldverschwendung droht.

Instrument für Intransparenz: NDAs in der KI-Branche.

KI-Zukäufe: Apples Optionen.

Digitalisierung des Gesundheitswesens: Weiter keine Einheitlichkeit. (€)

Kein Akzent mehr: Wie KI indische Call Center verändert.

Berlin: Delivery Hero, HelloFresh, Omio - welche Tech-Firma ist am unseriösesten?

Bis zur nächsten Ausgabe!

Johannes

Genius-Act: Stablecoin-Gesetz und das Finanzsystem

Mit einer deutlichen Mehrheit von 68 zu 30 Stimmen hat der US-Senat so genannte “GENIUS Act”, das Stablecoin-Gesetz, verabschiedet. Damit steht die ohnehin poröse Brandmauer des amerikanischen Finanzsystems zu Krypto-Währungen kurz vor dem Fall (vgl. Ausgaben #121 und #139).

Das Fundament des Krypto-Schwenks ist, wie so einiges in der US-amerikanischen Politik, weniger ideologischer, sondern finanzieller Natur. Krypto hat 2024 wie keine andere Branche Wahlkampf-Millionen lockergemacht; Trumps Familie selbst ist mit World Liberty Financial Teil des Krypto-Geschäfts (siehe Ausgabe #137), die Trump-Token (“USD1") sind derzeit zwei Milliarden Euro wert.

Krypto-Fundamentalisten hätten sich sicherlich mehr als eine rechtliche Infastruktur für Stablecoins gewünscht. Denn eigentlich waren dezentrale digitale Währungen ja dazu gedacht, das klassische Zentralbankgeld zu ersetzen. Stablecoins aber ersetzen den US-Dollar nicht, sondern sind an ihn gekoppelt: Stablecoins und US-Dollar sind in der Regel in einem Umtauschkurs von 1:1 miteinander verbunden und das aus gegebene Stablecoin-Volumen eines Anbieters muss auch mit US-Dollar hinterlegt sein. Der Vorteil: Damit sind Kursschwankungen, wie wir sie von klassischen Kryptowährungen kennen, in der Theorie ausgeschlossen.

Der ehemalige griechische Finanzminister und Finanzwirtschaftskritiker Yanis Varoufakis kann sich dennoch einen gewissen Spott nicht verkneifen, wenn er schreibt (übersetzt):

“Stablecoins sind das uneheliche Kind von Eltern, die scheinbar ständig im Streit miteinander liegen: die libertäre Krypto-Community und die staatsgläubigen Dollar-Anbeter. Stablecoins basieren auf der Blockchain-Technologie, mit der die Finanzoligarchie (Wall Street und Fed) zerschlagen werden sollte, sind jedoch durch einen 1:1-Wechselkurs an das größte Totem derselben Oligarchie gebunden: den US-Dollar. Das Ergebnis ist ein vermeintlich unpolitisches Geld, das mit der politisch dominierenden Geldform verbunden ist.”

Die Tokenisierung ist für Stablecoin-Anbieter ein gutes Geschäft: Stablecoin-Guthaben werden nicht verzinst, die eingetauschten Dollar aber kann ein Token-Anbieter verzinsen lassen, indem er sie zum Beispiel in US-Staatsanleihen investiert (oder schlicht auf dem Bankkonto lässt).

Neben diversen Startups arbeiten auch Zahlungsanbieter wie Visa, Stripe und PayPal an Token-Infrastrukturen. Kein Wunder, denn ihre Position als Zahlungsdienstleister ist durch Stablecoins in Gefahr - Firmen wie Walmart und Amazon überlegen, eigene Token auszugeben, um zum Beispiel Transaktionsgebühren zu sparen. Oder eben die Zinsen für die eingetauschten US-Dollar mitzunehmen und Kunden ans eigene Ökosystem zu binden.

Auch andere Vertreter von “Big Tech” liebäugeln mit eigenen Währungen. De facto wird also nicht nur ein System neuer dollargebundener Tauschmittel/Digitalwährungen geschaffen, sondern auch eine Vielzahl an “Neubanken” (weshalb auch immer wieder darüber diskutiert wird, ob Stablecoin-Ausgeber im Kern Banken sind).

Wie oben beschrieben, muss ein Stablecoin-Anbieter immer liquide genug sein, theoretisch alle Rücktausch-Geschäfte bedienen zu können - also letztlich Dollar-Guthaben oder andere als sicher definierte Anlagevermögen wie kurzfristige Dollar-Staatsanleihen in Höhe der ausgegebenen Stablecoins halten.

Allerdings ist das der Umtausch “1:1” kein Naturgesetz: Im März 2023 geriet der Stablecoin USDC von Circle während der Krise um die Silicon Valley Bank unter Druck. Der Grund: Ein Teil der Dollar-Reserven lagen bei der insolventen Bank, woraufhin der USDC-Kurs kurzzeitig auf unter 90 Cent fiel. Circle sicherte zwar zu, jeden USDC weiterhin zum vollen Wert von einem Dollar einzulösen, aber es waren die US-Behörden, die mit ihrer Einlagen-Garantie die Lage beruhigten.

Noch sind Stablecoins kein großer Faktor, das ausgegebene Volumen liegt ungefähr bei 250 Milliarden US-Dollar: In den kommenden kommenden Jahren könnte es allerdings auf bis zu zwei Billionen Dollar anwachsen. Der GENIUS Act soll Stablecoins zu legitimen Zahlungsmitteln machen und sie damit aus der bisherigen Rolle als Spekulations- und Transaktionsinstrument für dubiose Geschäfte auf den volatilen Krypto-Märkten herauslösen.

Eine Verknüpfung mit dem “echten” Finanzsystem birgt allerdings verschiedene Risiken. Wenn Stablecoin-Besitzer den Verdacht haben, dass ihre Einlagen unsicher sind, könnte ein Stablecoin-Run losbrechen. Die Stablecoin-Anbieter müssten dann ihre Einlagen bei den Banken, in denen sie ihre US-Dollar geparkt haben, abziehen - was wiederum gerade die Banken in Liquiditätsschwierigkeiten bringen könnte.

Das Horrorszenario hier: Eine rasche Liquidation einer großen Menge US-Staatsanleihen durch einen Stablecoin könnte direkte Auswirkung andere Stablecoin-Emittenten und Geldmarktfonds haben. Eine Kettenreaktion, die zu einer Finanzkrise führen würde.

Die Ansteckungsgefahr ist mit der neuen Stablecoin-Dollar-Verbindung zweiseitig: Sorge um die Stabilität von Stablecoins könnten die Besitzer dazu bringen, sie umzutauschen, woraufhin die Stablecoin-Anbieter ihrerseits massiv Bankeinlagen abziehen müssen. Umgekehrt können Sorgen darüber, dass die Bankeinlagen selbst nicht sicher sind, Stablecoins ins Wanken bringen (siehe: Silicon Valley Bank).

Ein Kernproblem dabei ist auch die Struktur der Regulierung: Der GENIUS Act sieht vor, dass Firmen mit ausgegeben Stablecoins im Wert von weniger als zehn Milliarden US-Dollar von ihren jeweiligen Bundesstaaten reguliert werden.

Die Qualität der Aufsicht in den einzelnen Staaten dürfte aber sehr unterschiedlich sein. Fraglich, dass alle 50 US-Staaten gewährleisten können, dass die Stablecoins in ihrem Staat auch wirklich 1:1 mit US-Dollar hinterlegt sind. Und die Versuchung, mehr Coins auszugeben als vorhandene Dollarreserven verfügbar sind, ist krypto-erfahrungsgemäß groß. Trotz bestimmter Compliance- und Reporting-Vorgaben.

Stablecoins sind explizit keine Einlagen, sondern eine neue - im Gesetz nicht genau benannte - Form von Anlage. Entsprechend fallen sie auch nicht unter die Einlagensicherung. Und doch sind sie laut Gesetzentwurf damit verknüpft: Wenn eine Bank, die die Rücklagen eines Stablecoin-Emittenten aufbewahrt, in die Insolvenz geht, erhalten die Forderungen der Stablecoin-Anleger Vorzug vor den Forderungen der regulären Bankkunden, die ihre Einlagen zurückbekommen wollen. In der Praxis bedeutet das: Die Einlagen regulärer amerikanischer Bankkunden fungieren quasi als Versicherung für die Stablecoin-Einlagen.

Interessant wird es, wenn man noch bedenkt, dass Stablecoins zwar dollargebunden sind, aber international funktionieren. Zum Beispiel hat jüngst die französische Bank Societe Generale angekündigt, einen Stablecoin auf den Markt zu bringen. Entsprechend ist auch das Risiko einiger oben skizzierten Szenarien nicht auf die USA beschränkt; vielmehr könnte der größere Zusammenbruch eines großen außeramerikanischen Stablecoins dazu führen, dass ein Bailout nötig wird, hierfür aber der entsprechenden Zentralbank der Zugang zum Dollar fehlt (oder man im Falle einer Stablecoin-Finanzkrise wieder davon abhängig ist, dass die Fed wie in der Finanzkrise Swap-Lines einrichtet).

Das Stablecoin-Gesetz birgt also massive Risiken. Auf politischer Ebene ergibt es aber Sinn: Die USA können mit Stablecoins dafür sorgen, dass dem Markt für US-Staatsanleihen (als Sicherheiten) zusätzliches Geld zufließt, die Zinsen für das hochverschuldete Land also langfristig niedrig bleiben. Mehr noch: Durch die Kopplung von Digitalwährungen an den US-Dollar sorgt man dafür, dass die eigene Währung auch in der digital vernetzten Welt eine Hegemonialstellung einnimmt, selbst wenn der Dollar selbst abgewertet wird (was ja Trumps Ziel ist).

Menschen, die in Ländern mit instabilen Währungen leben, können von Stablecoins profitieren: Sie haben nun eine neue Möglichkeit, ihr Geld zu sichern, es von politisch bedingten Währungsschwankungen im eigenen Land abzukoppeln und nicht von der klassischen Infrastruktur des Finanzwesens abhängig zu sein. Das entspricht noch am ehesten den Zielen, die einst mit “Decentralized Finance” (DeFin) verbunden waren.

Denn insgesamt markiert US-Stablecoin-System das vorläufige Ende der dezentralen Krypto-Träume und den Beginn einer staatlich eingefassten Digitalfinanz-Architektur. Freischwebende Krypto-Währungen wie Tether haben in diesem System keinen Platz.

“Compliance statt Code”, so hat Vagisha Srivastava diesen Paradigmenwechsel bezeichnet. In der Praxis heißt das aber auch: Es werden am Ende wahrscheinlich erneut wenige große Player als “Neubanken” auf dem Stablecoin-Markt reüssieren. Und dies mit ausführlichen Datamining der Transaktionen verbinden.

Ist diese Zukunftsperspektive wirklich das ganze Risiko wert, auch im Vergleich zu Alternativen wie digitalen Zentralbankwährungen (deren Einführung in den USA nun verboten wird)? Man ahnt, dass die Antwort “Nein” lautet, aber diese Antwort angesichts der geschäftlichen Interessen von alter und neuer Finanzindustrie keine Rolle spielt.

Jetzt abonnieren

Autoritäre DPIs

Digital Public Infrastructures sind digitale Identitätssysteme, Zahlungsplattformen und Datenübertragungsprotokolle, die darauf ausgelegt sind, skalierbar, interoperabel und sowohl für staatliche als auch private Akteure zugänglich zu sein. Ich habe sie hier mal im Kontext EuroStack erwähnt (siehe Ausgabe #129). Damals ging es darum, dass EU-Länder theoretisch viel von DPIs in Brasilien und Indien lernen können.

Und siehe da: Mark Scott schreibt in seinem Newsletter, dass DPIs das Hype-Thema der Stunde sind. Aber nicht nur im positiven Sinne (übersetztes Zitat):

“Im Zeitalter der verstärkten “digitalen Souveränität” hat sich die Definition von DPI zu einem Sammelbegriff für jede Form von technologischer Infrastruktur entwickelt, über die Politiker die Kontrolle haben wollen. Meistens hat dies wirtschaftliche Gründe, da die politischen Entscheidungsträger außerhalb der USA versuchen, ihre Abhängigkeit von Unternehmen wie Google, Microsoft und Amazon zu verringern. Aber es hat auch eine eher protektionistische (und in einigen Fällen autoritäre) Tendenz angenommen. (…)

In dieser Weltanschauung ist DPI ein notwendiges Mittel, um 1) die Abhängigkeit von hauptsächlich US-amerikanischen Technologieunternehmen zu verringern, 2) die staatliche Kontrolle über das zu erhöhen, was viele als zentral für die künftigen Wachstumsaussichten der Länder ansehen, und 3) (im schlimmsten Fall) den nationalen Anführern einen immer größeren Überblick darüber zu verschaffen, was die Menschen über die digitale Infrastruktur in öffentlichem Besitz online tun.

(…) Derartige Konzepte müssen außerhalb der verworrenen Bereiche der Organisationen der Vereinten Nationen erst noch bekannt werden. Aber da viele Länder der globalen Mehrheit darauf erpicht sind, ihren eigenen Weg im Bereich der Technologie zu gehen, drängt China viele dieser Nationen dazu, eine Version seiner eigenen autoritären Version von DPI anzunehmen, die im grundlegenden Widerspruch zur Funktionsweise des aktuellen Internets steht.”

Hier zeigt sich einmal mehr die Doppelbödigkeit des Diskurses rund um “digitale Souveränität”. Denn Länder wie China, Russland oder Iran können von sich behaupten, digital weitestgehend souverän zu sein. Zugleich geht mit dieser Souveränität aber auch digitale staatliche Kontrolle und Überwachung einher.

Auch in Europa ist eine Verschiebung dieses Begriffs angelegt, wenn auch noch nicht mehrheitsfähig. Aber je weiter die Idee frei-fließender Daten und eines interoperablen Internets gegenüber den Narrativen nationaler oder kontinentaler Selbstbehauptung in den Hintergrund tritt, desto wahrscheinlich wird es, dass auch wir unsere Vorstellung von “Offenheit” neu formulieren. Genau deshalb lauert hinter dem gegenwärtigen Anti-US-Big-Tech-Diskurs auch die Gefahr einer großen digitalen Regression.

Ein KI-Werbespot

Dieser Werbespot der Online-Wettplattform Kalshi lief während eines NBA-Finals (The Verge hat die Details). Der Clou: Das komplette Video ist KI-generiert.

Das Ganze ist ein Zeitdokument. Nicht nur als Deepfake-Spot, sondern auch weil Kalshi ebenfalls ein Produkt unserer Zeit ist: Kein reiner Sportwetten-Anbieter, denn diesen Markt haben in den USA DraftKings und FanDuel unter sich aufgeteilt. Sondern auch ein Wettanbieter für politische Ereignisse, technologische Entwicklungen und Alltagsfragen wie das Wetter. Also ein Prediction Market, bei dem munter um echtes Geld gezockt wird. Der Siegeszug der Online-Wetten und wie er unseren Blick auf Sport und die Welt verändert, ist eigentlich einen eigenen Artikel wert. Gamify until we die.

Ein Plädoyer für das gute Internet

Links

Meta AI - ein Albtraum für die Privatsphäre.

EU: Breitband-Ausbau der Mitgliedsländer liegt noch hinter den Vorgaben.

Kleine Novelle der DSGVO erhält Kritik von mehreren Seiten.

Kalifornische Polizei überwacht Anti-Abschiebe-Proteste mit KI-Kameras. ($)

WhatsApp bekommt Werbung.

Mord an Politikerin und ihrem Partner in Minnesota: Täter fand Adresse über Datenhändler-Dienst.

Wikimedia startet und beendet KI-Zusammenfassungen.

Telekom und Nvidia beteiligen sich an “KI-Fabrik”.

Trump-Familie kündigt Smartphone “made in the USA an”. Es ist ein Billigtelefon aus China mit einem goldfarbenem Case.

Sicherheitslücke in Microsoft 365 Copilot.

Sammelklage gegen Vodafone: Bereits 100.000 Beteiligte.

Forschungsdatenzugang: Landgericht kassiert Verfügung gegen X.

Trump verlängert Verkaufsfrist für TikTok erneut.

Nein, vier Prozent der Britinnen sind keine Only-Fans-Anbieter.

AI-Slop zum “Diddy-Prozess”: 26 YouTube-Kanäle, 900 Videos, 70 Millionen Aufrufe.

Instagram testet Repost-Feature.

KI-Scraper vs. Bibliotheken und Museen. ($)

Joint Research Centre (JCR) der Europäischen Kommission: Wie generative KI unsere Gesellschaft verändert.

Microsoft-Cloud: Es brodelt in den Schweizer Kantonen.

Kann Indien ein KI-Gewinner sein? ($)

Wie KI-Werkzeuge schon jetzt die Filmbranche verändern. ($)

Wie wirken sich KI-Chatbots auf unsere Geschichtsschreibung aus? ($)

Künstliche Intelligenz in der Schule: Und jetzt? (€)

Was nach der Enshittification kommt.

Abschiebungen: Anwohner identifizieren Razzien mit Amazons Ring-Kameras.

Anti-Abschiebe-Proteste bei Roblox.

Airpods immer und überall: Wie es dazu kommen konnte.

E-Government und leichte Sprache.

Substack und die Gamifizierung des Schreibens.

Der Reuters Institute Digital News Report 2025 ist da.

Eine kurze Geschichte des jpegs.

Bis zur nächsten Ausgabe!

Johannes