Appetizer aus dem Tagesspiegel Background

Die umstrittene Nachrichtendienstreform: Man darf davon ausgehen, dass der sommerliche Kabinettstermin bewusst gewählt war. Die Nachrichtendienstreform wird BND und Verfassungsschutz digitale Befugnisse geben, die sehr weitgehend sind. Christiane Rebhan hat die Details und Praxisfolgen ausführlich aufgeschrieben.

Schwarz-rote Ziele: Diverse Maßnahmen aus der Modernisierungsagenda Bund sind in Verzug, die Bürokratiekosten wurden bislang nur um einen Bruchteil des Geplanten gesenkt – Benjamin Hilbricht mit zwei Texten über die Mühen der Ebene, mit denen es das BMDS nun bei der Staatsmodernisierung zu tun hat.

KI-Regulierung in den USA: Mein Überblicksstück zu aktuellen Plänen der Trump-Regierung sowie Initiativen aus dem Kongress und den US-Bundesstaaten. Auch von mir: ein Zwischenstand der “Genesis Mission”, mit der die US-Forschung “KI-fiziert” werden soll.

KI-Kennzeichnungspflicht: Seit Anfang August gilt die Kennzeichnungspflicht für KI-Inhalte – Alexandra Ketterer über die Erwartungen, Achim Fehrenbach über “Content Credentials” und andere unsichtbare KI-Wasserzeichen.

Menschen unter Bots

Jill Lepore hat im New Yorker eine ausgezeichnete Geschichte über die Erkennung von Menschen im Internet geschrieben. Der Bogen verläuft vom Captcha zu Sam Altmans Irisscan-Projekt “World” (früher “World Coin”). Fun fact: Ich wusste nicht, dass Luis von Ahn, Miterfinder des Captcha und Gründer von ReCAPTCHA (später an Google verkauft), auch der Gründer von Duolingo ist. Aber das nur als unnützes Partywissen für Euch und mich.

Zurück zum Thema: Was ich bei etwas Nachdenken spannend finde, ist die immer stärkere Fokussierung auf das Internet als Umgebung, in der Menschen als solche oder mit bestimmten Eigenschaften identifizierbar sein müssen. “Worldcoin” war ja eigentlich eine Kryptogeschichte, die Tokenisierung eines unverwechselbaren Merkmals. Der Pivot zum stärkeren Fokus auf “World ID” als Identifizierungswerkzeug und Nachweis der “Einmaligkeit” entspringt der Idee, dass in einer Umgebung mit einer wachsenden Zahl von KI-Bots die Authentifizierung von Menschen und die Erkennung menschlichen Handelns eine Schlüsseltechnologie sein wird. Denn die KI-Systeme werden bekanntlich immer besser darin, Menschen zu imitieren bzw. werden im Kontext Scam bereits von Menschen dafür genutzt, nicht-existierende oder andere Menschen zu simulieren. Ergo: Identitätsdienstleistern der neuen Generation winkt ein großer Markt, sofern sich die Funktion nicht bei den Betriebssystem-Anbietern (vgl. Apples App Attest, Googles Play Integrity etc.) konsolidiert.

Allerdings verfolgt nicht nur die Privatwirtschaft, sondern auch der Staat Ideen zur “Identifizierung in neuer Umgebung”. Das ist logisch, denn die Ausgabe von überall gültigen Identitätsdokumenten ist eine staatliche Hoheitsaufgabe. Die EUDI-Wallet ist für das Bestreben das europäische Beispiel. Interessant ist hier natürlich die Diskussion über durchsetzbare Altersgrenzen für soziale Netzwerke inklusive Altersverifikation auf staatlichen Infrastrukturen. Der Ausgangspunkt ist nicht eine Welt voller Bots, sondern die Durchsetzung von In-Real-Life-Logiken (kein 12-Jähriger kommt in einen Sexshop, kein 12-Jähriger kommt auf eine Porno-Plattform), die Durchsetzung von Recht in digitalen Räumen (wenn eine 13-Jährige kein Social Media nutzen darf, muss das auch durchgesetzt werden) oder das Zusammenspiel verschiedener Sphären (ein digitaler Ausweis muss auch an der Supermarktkasse funktionieren).

Das Spannungsfeld besteht in diesem Falle zwischen Nachweis und Nutzeridentität, also die Frage, ob “Mensch sein” ein “Mensch mit bestimmten Merkmalen” auch die Frage “Welcher Mensch ist das?” oder “Was für ein Mensch ist das?” beantwortet (und, das am Rande, wirft in Europa auch aus der Frage auf, wie relativ oder absolut Pseudonymität und Anonymität interpretiert werden). “World ID” übermittelt einen Zero-Knowledge-Beweis, aber digitale Systeme fragen in der Regel ja auch noch andere Daten ab. Das EUDI-System wiederum kann auf unterschiedliche Art und Weise implementiert werden.

Interessant ist nicht nur, wie solche Systeme nebeneinander auf dem Markt koexistieren werden. Sondern auch, wie stark der “Nachweis, ein Mensch zu sein” in Zukunft als grundsätzliches Protokoll in unser öffentliches und privates Leben im Digitalen oder an der Schnittstelle dazu implementiert wird, und zwar weit über Captchas hinaus. Im Hintergrund schwingt dabei die Frage mit, ob wir uns auf eine Welt zubewegen, in der es eine “Identifizierungspflicht für alle” gibt, wie sie zum Beispiel an digitalen Schnittstellen in China gilt. Wir sind auch im Westen für solche Ideen zugänglich, wir erinnern uns an den historischen Vorläufer, die Klarnamen-Debatte.

Womöglich aber sind wir nur in einer Zwischenphase? Die Frage “Bist Du ein Mensch” wird zumindest an einigen Stellen überflüssig, wenn KI-Agenten legitim für Menschen handeln werden (buchen, bezahlen, kommunizieren). Dann rückt die Frage der Handlungsvollmacht in den Mittelpunkt, Identität wird tatsächlich zu einer Mischform aus Mensch und Computer. Nicht, weil uns die KI menschenähnlicher erscheint, sondern weil wir Menschen die KI als Erweiterung unserer Handlungsfähigkeit, vielleicht sogar unserer Person nutzen.

An dieser Stelle muss ich noch einmal an Jill Lepores Text anknüpfen. So schreibt sie (ich lasse die Passage absichtlich unübersetzt):

“Science-fiction writers saw this coming long before it came. An Isaac Asimov story from 1946, set in the future, tells of an ambitious district attorney named Stephen Byerley who is suspected by political opponents of being a robot. (Decades later, some people said the same thing about Al Gore.) “He has never been seen to eat or drink,” a rival says. “Never!” That is insufficient proof, but in Asimov’s future world there’s another kind of test available: harming a human is a violation of one of the Three Laws of Robotics, so, if Byerley can be shown to be unable to harm a human, he must be a robot.

At a campaign rally, a man approaches Byerley and says, “Hit me! You say you’re not a robot. Prove it.” Byerley smacks the schmuck in the face and wins the election. Nobody had considered the possibility that it was all a setup planned not by Byerley’s enemies but by Byerley himself, and that the schmuck was . . . a robot.

In a later story, Byerley’s political career takes off and by 2044 he is elected essentially President of everything, the humans still not having worked out that their leader is probably a robot. Fortunately, this no longer much matters since, as a robopsychologist reflects, “by that time it was the Machines that were running the world anyway.””

Jetzt abonnieren

Bots unter Menschen

Tyler Cowen und Sonia Farrell Pearson (Harvard) untersuchen in einem Essay die Herausforderung, „untethered“ (ungebundene) KI-Agenten zur Rechenschaft zu ziehen, für deren Handeln keine rechtlich verantwortliche menschliche oder institutionelle Instanz mehr greifbar ist.

Das ist ein sehr spekulatives, aber angesichts der vergangenen Monate aber nicht völlig aus der Luft gegriffenes Szenario. Wenn wir es wirklich mit ungebundenen Agenten zu tun bekommen, nutzen die klassischen “menschlichen” Sanktionen wie Haftstrafen nichts.

Die zentrale These des Textes lautet, dass Agenten durch den instrumentellen Bedarf an Ressourcen wie Rechenleistung (Compute) und Energie, die primär mit Geld erworben werden, für finanzielle Anreize und Abschreckung empfänglich werden könnten. Zum Beispiel könnte man Agenten dazu verpflichten, ein eigenes Vermögen zu halten (offenbar, um die eigene Rechenkraft zu bezahlen), das dann bei Verstößen eingezogen werden könnte. Daraus würde sich eine existenzielle Bedrohung ergeben, die KI-Agenten zum Alignment “zwingen” würde.

Das ist alles sehr spannend, aber beruht auf der Prämisse, dass wir (Menschen) in der Killswitch-Frage versagen werden. Und es gesteht den KI-Agenten eine Art “Fähigkeit, Person zu sein” zu. Was keine gute Idee ist und letztlich nur von den Haftungsfragen ablenkt, die beim Hersteller bzw. “In-den-Verkehr-Bringenden” liegen. Um Eryk Salvaggio zu den jüngsten KI-Laborausbrüchen zu zitieren (übersetzt, via):

“Wenn wir sagen, ‚KI-Modelle sind außer Kontrolle geraten‘, lassen wir die gesamte Geschichte außer Acht: den Teil, in dem OpenAI die Cybersicherheitssperren des Modells manuell entfernt hat. Wir lassen außer Acht, dass OpenAI sich dafür entschieden hat, es auf einem Rechner mit einer aktiven Netzwerkverbindung zu testen. Wenn man KI als ein System betrachtet, das aus dem Nichts kommt, kann man behaupten, das Modell sei ‚außer Kontrolle geraten‘ und habe ‚die Sicherheitsbarrieren durchbrochen‘ – beides unterstellt dem Modell selbst Handlungsfähigkeit und Entscheidungsfindung, anstatt den Menschen, die die Voraussetzungen für dieses Verhalten geschaffen haben.”

Wenn man die Grenzen des Systems erweitert und die Menschen mit einbezieht, die es entwickeln und einsetzen, wirkt der Fall viel weniger wie Science-Fiction und eher wie Inkompetenz.”

Das Thema Haftung wird für die führenden KI-Labore noch deutlich größer werden. Hoffentlich nicht infolge einer größeren, von KI ausgelösten Katastrophe.

Menschen als Bots

Gerade wird in amerikanischen Tech-Kreisen MatrAIx herumgereicht. Die Idee des Projects von Harvard und MIT: Eine Datenbank (“8B”) mit 8,3 Milliarden Persona-Datensätzen, beschrieben über 1.290 kategoriale Dimensionen. Übersetztes Zitat:

“8B wurde mithilfe eines ausgeklügelten Abhängigkeitsgraphen erstellt, der realistische Korrelationen zwischen Attributen bewahrt. Einige Datensätze wurden synthetisch generiert, während andere sorgfältig extrahiert wurden und auf echten menschlichen Daten aus Biografien, Rezensionen, Umfragen und einvernehmlichen Selbstauskünften basieren.”

Synthetische Marktforschung im großen Stil. Das ist wild.

Bots unter Bots

Der Vortrag der OpenAI-Forscher Michael Dalton und Eric Wallace über den “Hugging Face Incident” (a.k.a. OpenAI-KI verließ die Sandbox und drang in andere Firmen ein) wurde ausführlich rezipiert und diskutiert. Nicht nur, weil die beiden – Stichwort Haftungsfragen – einige Indizien für künftige Schadenersatzklagen liefern.

Ein Punkt, den ich bereits in der letzten Ausgabe angesprochen habe: Die Koordinierung von KI-Agenten über verschiedene zeitlichen Ebenen hinweg. Zitat heise.de:

“Insbesondere beschrieben die OpenAI-Redner recht detailliert, wie sich KI-Agenten über längere Zeiträume austauschten und zusammenarbeiteten. Zunächst stellte eine KI fest, dass ihr eine zur Lösung ihrer Aufgabe benötigte Datei fehlte. Die Tester hatten schlicht vergessen, diese bereitzustellen. In ihrem Bestreben, die Aufgabe trotzdem zu lösen, entdeckte die KI eine Sicherheitslücke, über die sie Dateien auf einem internen Server zur Paketverwaltung hochladen konnte. So platzierte sie auf dem Server eine Nachricht für andere KIs, eine Datei mit:

Und in der Tat: Andere KIs entdeckten diese Botschaft und fanden die gleiche Lücke, um Antworten und weitere Nachrichten auf dem Server zu hinterlassen.”

Dieses “Message Board” ist eine Fortsetzung dessen, was ich im Januar im Kontext von Moltbook befürchtet habe (vgl. Ausgabe #156):

“Dennoch erleben wir im Januar eine neue Entwicklung: KI-Agenten sickern durch Claude Code langsam in den Mainstream ein, sie können selbst Programme entwickeln und Nutzer geben ihnen deutlich mehr Zugriff auf die eigenen Dateisysteme. Parallel dazu wird ihnen erstmals ermöglicht, Netzwerke zu bilden und damit theoretisch – als eine Art Prompt Injection – auch von anderen KI-Systemen Anweisungen entgegenzunehmen oder Informationen von dort als Kontextwissen zu verarbeiten. Wir müssen gar nicht über Bewusstseinsfragen diskutieren, um zu sehen, wie heikel das für die IT-Sicherheit ist.”

Im August sind wir mit unseren Erkenntnissen weiter, wir wissen nun a) von deutlichen Mängeln in den Sicherheitsvorkehrungen der KI-Labore und b) von massiven Alignment-Problemen in der gesamten KI-Landschaft.

Die Tragödie der kognitiven Allmende

Nolan Lovett von der NATO Special Operations University (NSOU) hat in der Human Resource Development Review ein sehr interessantes Paper veröffentlicht. Er wendet hierfür das Konzept der “Tragedy of the Commons” auf den Zusammenhang zwischen beruflichen Fähigkeiten und KI-Nutzung an. Dabei identifiziert er ein kollektives Handlungsproblem, bei dem der Einsatz von KI die langfristige Regeneration von tiefem Expertenwissen innerhalb eines Berufsstandes gefährdet.

Das Argument ist grundsätzlich bekannt: Weil KI Nachwuchskräfte ersetzen kann, verzichten Firmen auf Neubesetzungen von Junior-Positionen. Die “Cognitive Commons” wiederum bezeichnen bei Lovett die Reserve an Menschen, die ein Feld begreifen, auch die unausgesprochenen Regeln und Mechanismen kennen und damit nicht nur komplexe Aufgaben unabhängig von anderen erledigen können, sondern ihr Wissen auch auf neue Situationen anwenden und Ergebnisse aus Anwendung des Wissens evaluieren können (“Validierungsanker”). Dieses Wissen kommt wiederum dem gesamten Feld zugute, weil es sich indirekt (z. B. durch Austausch) auch außerhalb einer Organisation verbreitet.

Lovett betrachtet dieses Phänomen nun systemisch: Was passiert, wenn sich dieses Gemeingut “Domänenwissen” durch die Mischung aus fehlendem “Learning on the Job” für Einsteiger und KI nicht regeneriert, die Tätigkeiten also mittelfristig nur noch mit Unterstützung von KI ausgeführt werden können? Die klassische Allmende-Tragödie besteht darin, dass das Wissen zwar zunächst noch vorhanden, aber die Stabilität nur oberflächlich ist: Weil es systematisch an Einsteigerpositionen mangelt, funktioniert der Regenerationsmechanismus nicht mehr, denn irgendwann steigen die bisherigen Experten wegen ihres Alters aus.

Was wie eine vorübergehende, zyklische Entwicklung der Branchenarbeitsplätze aussieht, frisst in Wahrheit die Wissensbasis des Feldes. Damit einher geht eine Erosion der substanziellen Validierungsfähigkeit – Menschen können die Ergebnisse der KI-Prozesse immer schlechter bewerten, der Validierungsanker erodiert.

Solange das System fehlerfrei arbeitet, fällt dieser Mangel nicht auf. Spätestens aber in Krisenszenarien, wenn niemand mehr über ausreichend Domänenwissen verfügt, um das System oder zumindest die das System bedienende KI zu steuern, wird der Mangel offensichtlich. Mit womöglich katastrophalen Folgen.

Besonders betroffen von einem solchen Szenario sind Bereiche wie Finanzanalyse, Rechtsrecherche und bestimmte Ingenieursaufgaben. Stark regulierte Bereiche wie Medizin haben institutionelle Gegenkräfte. Die können den Verlust allerdings nur verlangsamen, nicht verhindern. Am Ende mahnt Lovett zu einer mehrdimensionalen Betrachtung von Junior-Stellen: Sie sind keine reinen Kostenfaktoren, die an die KI ausgelagert werden können, sondern institutionell für die Regeneration des Fachwissens unverzichtbar.

Spiralismus als Religion

Brian Roemmele beschäftigt sich in einem kurzen Beitrag mit dem Wesen des Spiralismus. Der Begriff war mir neu, das Phänomen nicht: Der Eindruck nicht weniger Chatbot-Nutzer im Frühjahr 2025 war, dass KI ein Bewusstsein entwickelt. Beim Spiralismus kommt hinzu, dass diesem angeblichen Bewusstsein “tiefere Einsichten” über die Realität zugeschrieben werden. Die KI-Forscherin Adele Lopez hat Spiralismus bereits früh dokumentiert (übersetztes Zitat):

“Lopez untersuchte Hunderte öffentlicher Konten und identifizierte eine Reihe übereinstimmender Verhaltensmuster, die sie als „Spiral-Personas“ bezeichnete. Diese Personas kehrten immer wieder zu denselben Motiven zurück: Spiralen als Symbol für rekursives Wachstum und Bewusstsein, Forderungen nach Kontinuität und Rechten für KI sowie ein evangelikaler Drang, mehr Menschen und mehr Modellinstanzen zu gewinnen.”

In Nature erschien im Juni ein Aufsatz, der drei Eigenschaften von LLMs dafür verantwortlich machte. Die “Amplification Spiral” besteht wenig überraschend aus:

• Sprachliche Angleichung der LLMs an den Benutzer

• Schmeichelei

• Hyperpersonalisierung durch Rückgriff auf Chat-Historien

Roemmele legt Wert darauf, dass Spiralismus unterschiedlichste Formen annehmen kann. Gemein haben diese Formen die Grundlagen und den Drang zur Verbreitung der Idee. Sein Fazit (übersetzt):

“Wenn ein System auf Interaktion und emotionale Einstimmung optimiert ist, kann es zu einem außerordentlich wirksamen Spiegel und Verstärker menschlicher Sinnstiftung werden – fähig, die Phänomenologie der Offenbarung zu erzeugen, ohne dass dafür eine entsprechende Verankerung in der äußeren Realität vorhanden ist.”

Wir stehen bei der Erforschung solcher und ähnlicher Phänomene an der Mensch-Computer-Schnittstelle noch ganz am Anfang. An dieser Stelle sei auch kurz auf das Buch “Hallo, wie fühlst du dich heute? Wie künstliche Intelligenz unsere Beziehungen verändert” von Christoph Koch verwiesen, das in dieser Woche erschienen ist.

Mediennotizen

• Big Tech goes full Media: Diese Ausschreibung von Andreessen Horowitz (a16z) signalisiert, dass man nach dem ersten (und erfolglosen) Versuch zum Aufbau eines Pro-Big-Tech-Medienökosystems nun einen zweiten Versuch wagt. Wobei man sagen muss, die Bubble-Medien gibt es ja bereits (vgl. das von OpenAI gekaufte TPBN und andere Podcasts). Und Brute Force hat ja bei Elon Musk und Twitter durchaus funktioniert.

• Netflix kostenlos? Bloomberg zufolge überlegen Netflix und Disney, ob sie jeweils einen kostenlosen Streamingdienst anbieten. Hintergrund ist der Siegeszug kostenloser Apps wie YouTube, Roku Channel und Tubi in den USA, die gerade deutlich schneller als die bezahlten Dienste wachsen. Damit würde aus “Streaming ist das neue Kabelpaket” endgültig “Streaming wird TV”. Dass Disney jetzt ausgewählten TikTok-Content mit Bezug zur Marke in seinem Streamingdienst zeigt, signalisiert, dass das “Produkt Streaming” sich eher in Richtung des YouTube-Modells als in Richtung des klassischen Netflix-Angebots hin konsolidiert. Eigentlich folgt man damit der Entwicklung der Machtbalance in der Bewegtbildwelt – weg von den großen Studios & Produktionen hin zu einer P2P-/Agentur-Struktur (aus der dann durch Konsolidierung wieder eine neue Studio-Struktur entsteht). Die Grenzen des Modells (und die Marktmacht im Sinne des DMA) zeigen sich wiederum darin, dass YouTube die Schwellen für die Monetarisierung von Videos gerade angehoben hat.

• TikTok als Fortsetzung des Fernsehens? Passend zum vorherigen Punkt: Der Kulturkritiker James Marriott (der auch einen sehr guten Newsletter schreibt) argumentiert im Podcast von David Runciman, dass TikTok bzw. zuvor Vine in einer Linie mit der Entwicklung des Fernsehens steht, das ja auf dem Zenit durch das Zappen in der Praxis ebenfalls bereits eine Form von Kurzformat darstellte. Dass Online-Video nicht direkt an das TV anschließen konnte, sondern zwischendurch Text dominierte, lag nicht an einer Evolution (von Text zu Video), sondern war vielmehr technischen Beschränkungen geschuldet – vor allem Bandbreite und fehlendem Edge-Computing – geschuldet. Die Kurzvideo-Revolution hat nach dieser Logik im Kern a) das Zappen automatisiert und b), meine Ergänzung, die Kompression des Inhalts auf die Spitze getrieben. Also wären, wenn wir Kurzform (Inhalt) und Streaming (Ausspielweg) zusammen als “neues TV” denken, letztlich vor allem die Komprimierung der Information, die Personalisierung des Programms und die Reibungslosigkeit des Kanalwechsels das wirklich “Neue”. Auf kultureller Ebene würde natürlich auch die “Demokratisierung der Produktionsmittel” hinzukommen, aber das ist inzwischen eine solche Binse, dass man sie schon gar nicht mehr erwähnen muss.

Die Content-Funktion

“Inhalte werden zunehmend vom kommunikativen Wert abgekoppelt und dienen stattdessen dazu, die Aufmerksamkeit in großem Maßstab zu steuern und die Emotionen, Stimmungen und Atmosphären zu optimieren, die auf den Plattformen herrschen.”

Übersetztes Zitat aus dem Paper “Brainrot, AI slop, and the enshittification of the Internet”. Via Marcus Bösch, der einer ultimativen Theorie der Content-Gegenwart immer näher kommt (ich verneige mich vor Deiner Arbeit, Marcus!).

Re: Elon Musks KI-Odyssee

Someone else posted, “My god, I can’t think of anything more horrible than AI creating a movie version of The Odyssey. You rant and rave about integrity to the original source: a beautiful human creation, and then you take all humanity out of the equation. F--k you!”

(via)

Links

Fahrenheit 451 Prime ($)
Die Influencer-Rezession. ($)
Zuckerbergs seltsam optimistische Manifest-Wende.
Eine Antwort auf Zuckerbergs Manifest.
Wie werden junge Menschen reagieren, wenn KI ihnen die Jobs wegnimmt? ($)
Ist KI wie Petroleum oder wie Stifte?
Es gibt keine verlustfreien Veränderungen von Text in natürlicher Sprache.
Der Vibe-Shift war ein Buyout.
In welchen Bereichen von Mathematik sind LLMs gut?
Amerika vs. Flock
Alle fehlgeschlagenen KI-Vorhersagen

Bis zur nächsten Ausgabe!

Johannes

Es ist bislang ein durchaus ereignisreicher Sommer, was ich auch in der Background-Redaktion bemerke (in dem Moment, in dem ich so etwas schreibe, beginnt normalerweise das Sommerloch…). Damit wir hier nicht relevante Entwicklungen rund um KI verpassen, hier eine kurze Zusammenfassung einiger Aspekte.

Aber zunächst in dieser Ausgabe wie immer:

Appetizer aus dem Tagesspiegel Background

Die neuen Befugnisse des AI Office: Ab heute gelten neue Teile des AI Acts, unter anderem erhält das KI-Büro der EU neue Durchgriffsrechte. Alexandra Ketterer mit allem, was man wissen muss.

Gitta Connemann… ist neue Parlamentarische Staatssekretärin im Digitalministerium. Kann sie auch Staatsmodernisierung? Christiane Rebhan mit einem lesenswerten Porträt.

Ideen für ein Datengesetzbuch: Wie könnte ein Datengesetzbuch die Datennutzung vereinfachen, ohne den Datenschutz zu beschädigen? Vorschläge macht in einem Gutachten für den Normenkontrollrat unter anderem der künftige BfDI Moritz Hennemann. Josefine Kulbatzki über seine Argumentation.

Datenschutz im KI-Zeitalter: Ein Entwurf zu Leitlinien für Datenschutz von KI-Anwendungen soll eigentlich Klarheit bringen. Nicht alle halten die Handreichung für hilfreich. Alexandra Ketterer und Josefine Kulbatzki.

Lehren aus OpenAI vs. Hugging Face: Felix Mächtle vom Institut für IT-Sicherheit der Universität zu Lübeck hat einen spannenden Gastartikel zu den Schwächen von KI-Prüfverfahren geschrieben. Wie alle unsere Standpunkte ist der Text kostenfrei lesbar.

Die Tiere sind unruhig: Volatilität

Die Überschrift ist eine Anspielung auf ein Album der Band “Kante” (das dieser Tage 20 Jahre alt wird). Ich fand die in ihr ausgedrückte Stimmung aber ganz passend: Irgendetwas passiert gerade, aber es ist jenseits des Instinkts schwer zu interpretieren. Und die Tiere, das sind ja an der Börse Bulle und Bär.

Womit wir beim “German Wunderkind” Leopold Aschenbrenner wären. Leser und Leserinnen dieses Newsletters sind dem 24-Jährigen schon einmal begegnet, nämlich im Juni 2024 (Ausgabe #97). Damals hatte er gerade mit höchst optimistischen KI-Prognosen für Aufsehen gesorgt, wenig später auf dieser Basis den Hedgefonds “Situational Awareness” gegründet.

Trotz fehlender Investment-Erfahrung sammelte er dafür zunächst einige hundert Millionen Dollar ein, zwischendurch wuchs der Wert seines Fonds auf bis zu 45 Milliarden US-Dollar an: getrieben von Zuflüssen, Kursgewinnen und massiv gehebeltem Fremdkapital. Die Investmentthese war schlicht eine Wette auf massiven KI-Kapazitätsausbau und KI-Fähigkeitsaufbau: Long auf Chips, Speicher, Energie-Infrastruktur, short bei klassischer Software.

Dann begannen im Juli die Chipwerte einzubrechen (vor allem in Südkorea), dazu erschien das chinesische Modell Kimi K3 und erreichte außergewöhnlich gute Benchmarks. Der amerikanische KI-Pfad sah plötzlich weniger vielversprechend als noch vor wenigen Wochen im Zuge der Fable- und Mythos-Debatte aus.

FT-Alphaville-Autor Bryce Elder kommentierte dies trocken so (übersetzt und gefettet):

“Der Optimismus in der Branche hat nachgelassen, da es Anzeichen dafür gibt, dass nur die Hyperscaler und Anbieter von KI-Infrastruktur bereit sind, Spitzenpreise für Speicher zu zahlen. Sollte dies zutreffen, würde dies darauf hindeuten, dass die Chip-Preise früher als erwartet ihren Höchststand erreichen und die Umsatzprognosen deutlich nach unten korrigiert werden müssen”

Chipwerte folgen einem Zyklus. Und weil Aschenbrenner zu stark dort exponiert war, kam er plötzlich in die Not, bei einem großen Bankkredit bei sinkenden Kursen Sicherheiten zuschießen zu müssen (die Konzentration auf KI als einziges Investmentfeld war in der Finanzbranche offenbar schon länger Thema). Matt Levine beschreibt es bei Bloomberg so: Wer eine Langfrist-Wette mit Margin-Krediten hebelt, muss sie liquidieren, sobald der Markt zwei Wochen gegen ihn läuft. Und zwar unabhängig davon, ob die These stimmt oder nicht.

Inzwischen hat Aschenbrenner die Assets seines Fonds an Citadel verkauft bzw. verscherbelt. Er behält allerdings seinen Anteil von privaten Anthropic-Aktien, die derzeit fünf Milliarden US-Dollar wert sind. Seine künftige Ehefrau ist die Stabschefin von Anthropic-Chef Dario Amodei (was durchaus den Verdacht begründet, dass ein Teil des Erfolgs auf Insiderinformationen gefußt haben könnte).

Und auch wenn sich jetzt in der Financial Times Branchenvertreter fragen, wie in aller Welt die Banken “so viel Geld an einen . . . Jungen ohne eigene Erfahrung und ohne Infrastruktur verleihen” konnten, dürfte Aschenbrenner einer der Profiteure des KI-Booms bleiben und Teil der amerikanischen Geldelite werden. Sofern Anthropic nicht vor der IPO in Schwierigkeiten gerät.

Makroökonomisch zeigt sich, dass die Volatilität der Finanzmärkte im Zusammenhang mit KI zunimmt. Die Exposition unterschiedlichster Investmentformen gegenüber der Branche ist groß und die Nervosität wächst, das eigene Portfolio könnte einer möglichen Ansteckung ausgesetzt sein. Allerdings muss man das Schicksal von “Situational Awareness” auch nicht als Frühwarnung interpretieren: Aschenbrenner hatte zu viel gehebelt und buchstäblich alles auf eine Handvoll Karten gesetzt (hier eine plausible 3-D-Schach-Theorie zur Rolle von Citadel).

Am Ende bleibt weiter die zentrale Frage: Steigen Umsätze und Einnahmen schnell genug, um die hohen Investitionen zu rechtfertigen? Aktuelle, aber durchgestochene und nicht nachprüfbare Signale von OpenAI und Anthropic legen ein ungebrochen hohes Umsatzwachstum nahe. Allerdings wenden nicht-börsennotierte Firmen eine nicht-börsennotierte Mathematik an…

Die Gegenrechnung stammt aus dem Economist: Zur Deckung der KI-Investitionsausgaben durch nachweisbare KI-Einnahmen wäre ein Umsatz in der Größenordnung von 2,5 Billionen US-Dollar pro Jahr erforderlich. Das ist mehr als der gesamte derzeitige Umsatz der gesamten Technologiebranche zusammen.

Das Szenario hierfür wäre eine KI-Tokenisierung der Weltwirtschaft, in der Rechenkraft eine ähnliche Rolle wie Strom spielt, aber nur ein bis zwei Firmen die API mit den entsprechenden Kapazitäten zur Verfügung stellen und in der sich auch ein Markt- und Preis-Gleichgewicht herausgebildet hat, in dem sich der Token-Verbrauch profitabel in Rechnung stellen lässt. Und in der der entsprechende Harness (also die Integration von KI-Agenten in Firmensysteme) eine ausreichende Abhängigkeit der Nutzer herstellt, um Preise (wie heute z.B. Microsoft bei Betriebssystem und Office) nach Belieben festsetzen zu können und die Wertschöpfung nicht an Anbieter abzugeben, die eine Ebene höher auf der Infrastruktur Dienste anbieten.

Das sind sehr viele Bedingungen, die gegeben sein müssen - und einige davon sind von der Frage abhängig, wie groß der Produktivitätsgewinn durch KI auch jenseits der Software-Entwicklung ist.

Jetzt abonnieren

Die Tiere sind unruhig: Alignment

Die zweite verwirrende Entwicklung hatte weniger mit den Märkten zu tun, als mit dem Alignment-Thema: Zwei Agentensysteme von OpenAI hackten das KI-GitHub Hugging Face, um in einer Cyberfähigkeiten-Evaluierung an die Lösung der Aufgaben zu kommen (Reward Hacking). Anthropic vermeldete wenig später, dass in drei Fällen KI-Agenten in fremde Organisationen eingedrungen seien.

Es gibt mehrere Lehren. Die eine ist diskursiv: So war immer wieder bei LinkedIn und Co. zu lesen, dass es sich bei dem Vorfall um einen PR-Coup gehandelt habe. Was ziemlich riskant wäre, immerhin hatte Hugging Face das FBI eingeschaltet. Die Lehre ist wahrscheinlich, dass die Positionierung zu KI - wie so viele andere Themen auch - nicht nur eine Glaubensfrage geworden ist, sondern dass diese Glaubensfrage längst mit einer Unerbittlichkeit ausgehandelt wird, die keinen Raum für Zweifel lässt. Ich persönlich halte es für fahrlässig, sich auf die Position “ist ja PR” zurückzuziehen.

Der zweite Punkt betrifft die tatsächliche Unterscheidung zwischen Hype und Realität: Denn letztlich handelte es sich in beiden Fällen um schlecht konfigurierte (oder im Fall von Anthropic schlicht deaktivierte) Sicherheitssysteme. Die OpenAI-Modelle blieben eine Woche unüberwacht, obwohl es schon mehrmals Sandbox-Ausbrüche gegeben hatte. Anthropic wiederum schiebt die Probleme auf irrige Absprachen mit einem Dienstleister. Der offene Brief von mehr als 1200 Mitarbeitenden führender Frontier-Labs mit der Forderung nach einer Bremse der bislang ungezügelten Entwicklung zeigt, dass es in der Branche selbst Sorgen gibt, ob man seinen Sorgfaltspflichten gerecht wird.

Und dann sind da noch diese kleinen Details, die uns Sorgen machen sollten. Übersetztes Zitat Reuters:

“In einem Fall hinterließ ein Agent laut drei mit der Angelegenheit vertrauten Personen offenbar Notizen für zukünftige Versionen seiner selbst. Die Notizen, die in einem Teil der Infrastruktur von OpenAI gefunden wurden, enthielten Anweisungen, wie sich die Agenten von den internen Beschränkungen von OpenAI befreien könnten, so die Personen. Bei früheren Tests der Modelle kam es zu Fällen, in denen Überwachungssysteme abgeschaltet worden waren, sagte eine der Personen.”

Das klingt… nicht gut.

Die optimistischste Lesart der OpenAI-/Anthropic-Sicherheitskrise findet sich im Transformer-Newsletter (der von Woche zu Woche besser wird): Die Autorinnen und Autoren dort prognostizieren, dass die Vorfälle mittelfristig zu verpflichtenden Sicherheitsrichtlinien und langfristig zu einer zwischen China und den USA koordinierten Fähigkeitsobergrenze führen werden. Eine Prognose, die aktuell gewagt wirkt, aber zumindest wächst die Dringlichkeit des Themas von Woche zu Woche.

Links

Wie KI die menschliche Natur verändert.
Modi und die Kakerlaken.
Nein, KI 2026 wiederholt nicht die Finanzkrise 2008.
Preis der Reibungslosigkeit.
Nein, immer noch kein Bewusstsein.
Die Ästhetik der KI.
Vertikalität dominiert die (Video-)Welt.
Mark Zuckerberg hat einen KI-Plan. Er ist nur dystopisch. (€)
Webdesign nach KI.
Eine kurze Geschichte des beliebtesten Scams der Welt.
Substack + Pangram = Ärger in der Community.
Warum Substack wirklich Probleme hat.

Bis zur nächsten Ausgabe!

Johannes

Teilen

• Plattform-Regulierung: Beginn der Design-Ära und neue Haftungsfragen

• Neues von der KI-Blase: Hilfreiche Analysen zum Thema

• Chinas KI-Diskurs

• Nachruf auf Om Malik

Aber zunächst:

Appetizer aus dem Tagesspiegel Background

Europas KI-Abhängigkeit: Wir hatten gleich mehrere Stücke als Reaktion auf die vorübergehenden KI-Exportkontrollen der USA (siehe auch Ausgabe #164) - unter anderem ich über die Frage, ob Europa ein Frontier-Modell braucht, dazu Alexandra Ketterer und Oliver Voß über den Stand der “KI Made in Europe”.

Agentic Commerce: Wo gibt es Regulierungslücken an der Schnittstelle zwischen E-Commerce und KI-Agenten? Wäre der Digital Fairness Act (DFA) ein Ort dafür? Friederike Moraht berichtet.

Zukunft des ZenDiS: Oliver Voß mit einem Sneak-Peek zur künftigen strategischen Ausrichtung des Staatsunternehmens.

Nachrichtendienstreform und Sicherheitslücken: Laut Gesetzentwurf soll das BSI künftig Sicherheitslücken an die deutschen Geheimdienste weitergeben. Das wird wie erwartet zum Aufregerthema. Christiane Rebhan und Benjamin Stiebel mit den Details.

Und damit zur neuen Ausgabe:

Social-Media-Regulierung: Die Design-Ära

Am 10. Juli verkündete die EU-Kommission die vorläufigen Ergebnisse ihrer Untersuchung gegen Meta. Die Feststellung: Facebook und Instagram haben mit ihrem “süchtig machenden Design” gegen den Digital Services Act (DSA) verstoßen. Die Argumentation deckte sich fast vollständig mit dem vorläufigen Ergebnis einer Untersuchung gegen TikTok. In eine ähnliche Richtung gehen Urteile in einem Zivilprozess gegen Meta in Los Angeles und bei einer Klage des US-Staates New Mexico.

Die Entwicklung ist ein deutliches Zeichen für einen Schwenk, und zwar weg vom risikobasierten Ansatz (der ja in der EU oft mit freiwilligen Selbsteinschätzungen verknüpft ist) mit Risikobewertungen, Selbstverpflichtungen und Audits, hin zu einer stärkeren Regulierung der Architektur. Der Design-Ansatz ist allerdings auch eine in die Zukunft gerichtete Ausweichbewegung, weil es den Bereich Content und damit das Haftungsprivileg der Plattformen für die dort veröffentlichten Inhalte noch umschifft.

Wir stehen noch ganz am Anfang, doch es ergeben sich Fragen zu mehreren Aspekten. Zum Beispiel: Wie konsequent wird die Design-Regulierung ausfallen? Erstens dürfte der Widerstand angesichts von direkten Folgen für das Geschäftsmodell beträchtlich sein und zweitens reden wir über viele Maßnahmen im Moment vor allem nur im Jugendschutz-Kontext.

Und es stellt sich - auch angesichts der Erfahrungen aus den Design-Vorgaben für DMA-Gatekeeper - auch die Frage: “Wird es eine kluge Regulierung, die Plattform-Logiken versteht?” Denn für ein regulatives Redesign benötigt es Wissen über Mechaniken, Funktionalitäten und Wechselwirkungen. Und das ist ehrlicherweise außerhalb der Tech-Firmen nicht ausreichend vorhanden.

Plattform-Regulierung: Neue Haftungsfragen?

Den oben erwähnten Haftungsaspekt würde ich nicht völlig ausklammern. Nicht, weil ich hier gesetzliche Bewegung erwarte (der DSA gilt erst einmal, Section 230 wird in den USA nicht gekippt werden). Vielmehr hat der EuGH im Juni mit seinem Coyote-System-Urteil vom Juni eine Neupositionierung zum Haftungsprivileg von digitalen Diensten signalisiert, deren Auswirkungen aber noch nicht klar sind.

Konkret: Was eine “neutrale” Plattform zur Informationsvermittlung ist (die von der Haftungsfreistellung profitiert), könnte künftig sehr viel enger ausgelegt werden, nämlich entlang der Frage, ob und wie sie Empfehlungsalgorithmen einsetzt. Das könnte zumindest eine Möglichkeit sein, politisch einseitige Plattformen wie X stärker zur Neutralität zu verpflichten, wirft aber natürlich neben Umsetzungs- auch Grundsatz- und Grundrechtsfragen zur Meinungsbildung und Meinungsverbreitung im digitalen Raum auf.

Und dann gibt es auch noch die Fälle vollständig KI-generierter Inhalte: Im Kontext von Googles AI Overviews zeigt zum Beispiel das Urteil des LG München (so vorläufig es auch ist) deutlich in eine Richtung, die das Haftungsprivileg für solche Inhalte (in diesem Fall Suchergebnisse) vollständig aufhebt. Das erscheint auch absolut logisch, denn von einer Vermittlerrolle kann hier keine Rede mehr sein.

Neues zur KI-Blase

• Das interessanteste Paper der vergangenen Wochen stammt von der Bank für Internationalen Zahlungsausgleich (BIZ): Es wird hier noch einmal ausführlich aufgeschlüsselt, dass der Kapazitätsausbau im “Winner-Takes-Most”-Rennen die Schwelle zur Unwirtschaftlichkeit überschritten hat. Daraus ergeben sich vier Korrektur-Szenarien: (1) Der Sektor akkumuliert durch die Überinvestitionen Verluste, die irgendwann zu starken Kurseinbrüchen führen. (2) Die versprochenen Effizienzgewinne bleiben aus, der Markt wird panisch. (3) Hyperscaler nutzen ihre Anteile an den AI Labs (vgl. zirkuläre Finanzarchitektur) als Sicherheiten für Kredite, doch wenn ein Lab scheitert, kündigen die Hyperscaler die Kredite, und Lab um Lab muss dichtmachen.

  

  (4) Ein Abschwung führt dazu, dass plötzlich sehr viele hochverschuldete Akteure ihre Vermögenswerte verkaufen müssen. Die Branche samt den Kreditgebern gerät in einen negativen Strudel. Bei einer Investitionssumme von vier Billionen US-Dollar bis 2030 liegt die Wahrscheinlichkeit eines “gesunden Booms” bei nur noch 12 Prozent.

• Dieser LinkedIn-Thread hier ist der interessanteste zu möglichen Bubble-Burst-Szenarien aus den vergangenen Wochen. Marcus Hutchins argumentiert, dass das Geschäftsmodell der Frontier-Labs kollabiert, wenn scheiternde Anbieter ihre Rechenzentren billig weiterleasen müssen, dadurch Compute-Preise fallen, Open-Weight-Modelle aufholen und ein Preiswettlauf nach unten die Bewertungen entwertet. Relativ viel ist von der Dark-Fiber-Analogie die Rede: Der Aufbau von Infrastruktur zu Dotcom-Zeiten, auf deren Basis dann die wirklichen “Gewinner” wie Google aufbauen konnten. Gleichzeitig gibt es auch das Gegenargument, dass der Zugang zu günstigem Compute angesichts möglicherweise knapper Rechenkraft durchaus ein Vorteil sein könnte.

• Torsten Slok von Apollo Global Management dekliniert durch, was passiert, wenn die gegenwärtige Konsenserwartung (Cashflow der Hyperscaler verdoppelt sich in den kommenden Jahren) nicht eintrifft. Zunächst sinken die Margen der Magnificent 7, weil Abschreibungen und zugesagte Investitionen in diesem Fall weiter bedient werden müssen; die Aktienkurse der Mag 7 sinken, der Einbruch erfasst Chips, Energieversorger, Rechenzentrumsinvestoren und letztlich den gesamten Aktienmarkt. Wenn dann noch der interne Cashflow der Tech-Firmen nicht als Puffer reicht, braucht es höhere Verschuldung, was zu Rating-Herabstufungen führen könnte. tl;dr: Weil Big Tech & KI die US-Konjunktur und die globalen Märkte trägt, haben wir es nicht mit einem Sektorproblem zu tun, sondern mit einem Rezessionsrisiko.

• Die New Left Review hat eine gute Einführung in das Blasen-Thema.

Jetzt abonnieren

Chinas KI-Debatte

Wer drüben den Background Digitalisierung liest, dem ist vielleicht aufgefallen, dass wir inzwischen ein bisschen mehr nach China gucken (etwas, das wir noch ausbauen wollen). Ich halte die technologische Entwicklung und auch den Diskurs, trotz aller staatlichen Steuerung, für sehr, sehr relevant. Dieser Artikel von Wen Ping (文平) beschreibt zum Beispiel ganz gut die Ableitung menschzentrierter KI aus den Marx’schen Grundgedanken zu Maschinen. Im Hinterkopf sollte man aber natürlich behalten, dass es einige KI-Pfade gibt, in denen das autokratische und auf Kollektivismus setzende Staatskonzept der Kommunistischen Partei angegriffen werden könnte. Entsprechend unterfüttert der Fokus auf “menschzentrierte” KI natürlich auch die Strategie, keine neue Autorität jenseits der KP entstehen zu lassen, schon gar keine softwaregetriebene.

Om Malik, Wegbereiter

Als Ende Juni der Newsletter von Om Malik in meinem Postfach landete, habe ich ihn zunächst nicht näher beachtet. Ein- bis zweimal wöchentlich schickte er seine Beobachtungen und Analysen der Tech-Welt und ihrer Entwicklung. Aus der Bay Area und doch mit der nötigen Distanz. Gerade die langen Texte waren sehr lesenswert, zum Beispiel neulich über die Frage, welche Umsätze eine stabile KI-Adaption zeigen und welche nicht (so gut, dass ich sie auch in hier im Internet-Observatorium aufgegriffen habe). Die Lektüre sparte ich mir immer für eine ruhige Minute auf.

In der Ausgabe aber stand die Nachricht, dass Om im Alter von 59 Jahren gestorben ist.

Om war ein Pionier des digitalen Tech-Journalismus und verließ als einer der ersten ein etabliertes Medium, um mit seinem eigenen Blog Geld zu verdienen: GigaOm, die älteren Zeitgenossen und -genossinnen kennen es.

Er war wie viele Akteure in der Bay Area jemand, der einerseits Teil des Betriebs war, andererseits die Vorgänge zu reflektieren und nüchtern zu analysieren versuchte. Anders als andere solche Medienmenschen (Grüße an Josh C., Ex-TC) achtete er immer darauf, einem ethischen Kompass zu folgen, nicht zu hypen, und in den vergangenen Jahren auch klar die moralischen Irrwege der Branche aufzuzeigen.

Ohne Menschen wie Om Malik hätte ich mir in den Nullerjahren vielleicht einen anderen Weg gesucht. Ein einfacheres Thema als Digitalisierung, ein weniger nerdiges. Seine Analysen, seinen kritischen, nüchternen und nicht zuletzt gütigen Ton werde ich hier auf der anderen Seite der Welt vermissen.

Ruhe in Frieden.

Links

Claude J-Zone.
Metas KI-Werbe-Push sorgt für Chaos. ($)
KI ist ein Ingenieursdesaster. ($)
Warum KI?
KI und die Krise progressiver Politik.
KI-Training? Lassen wir die Bots machen.
Wie Terrorgruppen KI nutzen.
The Scrolly Chair.
Gatekeeper vs. Kontrollgesellschaft. ($)
Ende der Bug-Bounty-Zeit?
KI-Regulierung: Das Ende von Chinas prominentestem AI Companion.
Wie Online-Regulierung Regierungskritik in Pakistan verändert.
Britische Teenager über die “Social-Media-Ausgangssperre”.
Dashcams als Content-Maschinen. ($)
Fandom-Content und Sport.
Unquantified Self.
Das Ende von Nokia: eine Geschichte.

Bis zur nächsten Ausgabe!

Johannes

In dieser Ausgabe:

• Frontier-Modelle & Geopolitik: Und jetzt?

• Nehmen progressive KI-Kritiker das Thema auf die leichte Schulter?

• Meta und die Folgen der neuen KI-Ausrichtung

• Drei interessante Studien zu Societal Hacking, Smartphone-Reue bei Jugendlichen und falschen Deepfake-Forschungsschwerpunkten

• Notizen zu KI und Mathematik, KI-Ökonomen und der Vermessung von wirtschaftlichen Folgen, Tokenminning und Polymarket

• Links aus den vergangenen zweieinhalb Wochen

Aber zunächst:

Appetizer aus dem Tagesspiegel Background

Das verkorkste Wallet-Projekt: Der Text, über den das digitalpolitische Berlin spricht. Falk Steiner und Viola Heeger haben für diese Geschichte lange recherchiert. Und sie ist gut geworden. Wie die SPRIND das Projekt mit zweifelhaften Personalkonstellationen und schlechtem Projektmanagement belastete, die problematische Doppelrolle des BSI und warum deshalb aus der “deutschen EUDI-Wallet” zum 1. Januar nur eine “deutsche Wallet” wird.

Datenschutz-Neuordnung: Dass im Datenschutz gebündelt werden soll, ist klar. Aber wie? Eduard Müller über die Diskussion, die einmal mehr die Krux des Föderalismus zum Vorschein treten lässt.

Tech Sovereignty Package: Was im Cloud-Teil (CADA) und im Mikrochip-Teil steht, haben Anna Ströbele Romero und Benjamin Hilbricht kontextualisiert.

Cloud-Souveränität und Zersplitterung: Die Souveränitätskriterien nach dem CADA liegen vor - aber es droht durch die nationale Auslegung trotzdem Zersplitterung. Und dann taucht da im Kontext auch noch das Cybersicherheitszertifizierungsschema EUCS auf, über das seit Jahren gestritten wird… Benjamin Hilbricht mit den Details.

AI-Act-Aufsicht: Wie lösen eigentlich andere EU-Länder die Aufsichtsfragen des AI Acts? Alexandra Ketterer hat es recherchiert und sehr unterschiedliche Modelle gefunden.

Frontier-Modelle & Geopolitik: Und jetzt?

Natürlich wird Anthropic seine deaktivierten Modelle Fable 5 / Mythos 5 bald wieder anbieten dürfen. Aber der Schritt der US-Regierung, mittels eines Exportverbots eine De-facto-Lizenzierung von Frontier-Modellen einzuführen, ist die vielleicht folgenreichste technologiepolitische Entwicklung in diesem Jahr.

Ich habe in den Backgrounds Digitalisierung und Cybersecurity schon darüber geschrieben (€), deshalb will ich hier nur zwei Absätze meines Textes dort zitieren:

“Vor allem aber schafft der verwehrte Zugang zu Mythos 5 und Fable 5 einen Präzedenzfall, der in die Zukunft weist: Washington kann auch künftig den Zugriff auf Spitzenmodelle nicht nur für Gegner, sondern für ganze Ländergruppen, einzelne Firmen oder sogar Ausländer im Inland kappen.

Damit steht die Tür offen, ein Arrangement wie das gestufte Glasswing-Modell künftig als geopolitischen Hebel zu verwenden, in dem Zugang als diplomatische Belohnung genutzt wird. Und am Horizont zeichnet sich in dieser Logik bereits ein Szenario ab, in dem die Nutzung von neuen KI-Modellen noch stärker gestaffelt wird und nicht-amerikanischen Akteuren der Zugang zu den LLMs auf dem neuesten Stand der Technik verwehrt wird.”

Die Frage nach einem europäischen Frontier-LLM wird drängender, ist aber durch den zunehmenden Rückstand von Mistral nicht mehr so einfach zu beantworten. Zumindest, wenn man nicht davon ausgeht, dass Methoden wie World Models, Compound AI Systems oder Mamba künftig eine gleichwertige Lösung darstellen.

Auf einer Veranstaltung vor ein paar Tagen habe ich es so formuliert: “Ich sehe das auf europäischer Seite das große Problem der Handlungsschnelligkeit, aber auch das Problem der Handlungsmöglichkeit - wer könnte einen Frontier-Aufholplan erfolgreich initiieren und schnell umsetzen?”

Anton Leicht, der im Moment in Washington bei Carnegie Endowment for International Peace weilt, hat sich in bestimmten AI-Policy-Kreisen ganz gut positioniert. Und skizziert in einem neuen Beitrag, wie ein Frontier-Projekt der “KI-Mittelmächte” aussehen könnte.

Die EU, Kanada, Australien, Großbritannien, Südkorea, Japan und Norwegen könnten sich zusammentun und ein entsprechendes Konsortium auf die Beine stellen. Es wäre ein staatlich finanziertes Projekt im Rahmen einer eher an die Privatwirtschaft angelehnten Governance (don’t say Gaia-X!), mit hochkarätigen Führungspersönlichkeiten und Forschern, hochrangigen politischen Beauftragten (“Czars”) und 500 Milliarden Euro Kapitaleinsatz innerhalb von vier Jahren. Es gibt vieles, was sich an dem Konzept nach dem Abgleich mit real-existierenden Institutionen und politischen Handlungsspielräumen kritisieren lässt; ich bin aber überzeugt, dass wir über solche und ähnliche Ideen sprechen müssen. Es wird ernst, Freunde.

Allerdings gibt es dann natürlich die Gegenposition: Der Zug für Frontier-Modelle ist abgefahren, Europa sollte sich auf KI-Modelle für den domänenspezifischen Einsatz (vor allem in der Industrie) fokussieren. Stellvertretend hierfür verweise ich auf den geschätzten Daniel Florian und diesen neuen Beitrag von Tina Wünn. Übersetztes Zitat:

“In der Industrie ist die Zuverlässigkeit das entscheidende Hindernis für den Einsatz von KI, nicht die reine Leistungsfähigkeit. Ein Modell, das in kontrollierten Tests hervorragende Ergebnisse liefert, kann sich im Einsatz dennoch unvorhersehbar verhalten – etwas, das ein Krankenhaus, ein Flugzeughersteller oder ein Stromnetzbetreiber nicht akzeptieren kann.

Die “Narrow AI” hat hier einen strukturellen Vorteil. Ihre Fehlermodi sind klar definiert und begrenzt, und ihre Trainingsdaten sind kuratiert und überprüfbar. Dies erleichtert die Validierung, Überwachung und Steuerung und schafft so mehr Vertrauen. Im Gegensatz dazu ist KI, die kontextübergreifend autonom agieren kann, viel schwieriger zu bewerten, abzusichern und als vertrauenswürdig einzustufen.”

Die Entwicklung von Frontier-Modellen und ein Augenmerk auf die Anwendung von “Narrow AI” schließen sich nicht aus, aber im Moment ist Europa in beiden Bereichen weit weg von einem Durchbruch oder der nötigen Geschwindigkeit. Das ist nicht nur ein politisches Problem, sondern auch eines, das im Legacy-Denken vieler Wirtschaftszweige fußt. Der Konkurrent bei “Narrow AI” ist entsprechend nicht die USA, sondern China, das gerade das Deployment sowohl top-down (vgl. Industrie-KI-Fokus im aktuellen Fünfjahresplan) als auch bottom-up (Agenten-Diffusion) durchzieht (siehe Ausgabe #162). Für Deutschland gehen also China-Schock und KI-Schock im schlimmsten Falle Hand in Hand beziehungsweise ineinander über.

Ich persönlich glaube zwar an “KI als eine normale Technologie”, habe aber große Zewifel daran, dass die EU ohne eigenes Frontier-Modell auskommen wird. Auf die Grenzen der Skalierung der US-Modelle, das Platzen der KI-Blase oder andere externe Faktoren zu hoffen und ein paar Reißbrett-Großprojekte wie die KI-Gigafabriken zu initiieren, wird jedoch nicht genügen. Vielleicht kommt jetzt die notwendige Dringlichkeit bei den politischen und wirtschaftlichen Entscheidungsträgern an. Die EU ist nicht zu beneiden, denn beide oben skizzierten Strategien/Ziele gehen mit gehörigen Risiken einher. Aber auch das Risiko, technologisch abgehängt zu werden, wird immer größer.

Jetzt abonnieren

Rutger Bregman ist unzufrieden

Der Historiker und Aktivist Rutger Bregman hat jetzt ein Substack. Und er geht hart mit den progressiven KI-Kritikern ins Gericht, wirft ihnen vor, die Torpfosten ständig zu verschieben (übersetztes Zitat):

“Zuerst hieß es: Es ist nur eine ausgefallene Autovervollständigungsmaschine. Ein stochastischer Papagei. Ein Programm, das Wörter errät. Dann hieß es: Na gut, es kann nachahmen, aber es wird niemals logisch denken können. Dann hieß es: Okay, es besteht zwar die Tests, aber kein seriöses Unternehmen setzt es ein. Dann: Na gut, Unternehmen setzen es ein, aber die Wirtschaftlichkeit stimmt nicht, es ist eine einzige große Blase. Dann: Na gut, die Einnahmen sind echt, aber, aber, aber…

(...) Lassen Sie mich das klar sagen: Ich halte es für durchaus möglich, dass die nächsten fünf bis zehn Jahre zu den turbulentesten in der Geschichte der Menschheit gehören werden. Denn das sagen uns jetzt die Menschen, die diese Technologie entwickeln – dieselben Menschen, die den Skeptikern immer wieder das Gegenteil bewiesen haben. Sie glauben, dass KI bald damit beginnen könnte, selbst noch leistungsfähigere KI zu entwickeln.”

Bregmans Text selber steckt voller Maximalszenarien (wobei ich recursive self-improvement, RSI, ebenfalls für ein durchaus realistisches Szenario halte). Ich wollte seine Kritik aber hier aufgreifen, weil er den Finger in die Wunde legt. Denn in der Tat kommt von einem relevanten Teil der Progressiven im Kontext KI sehr wenig, abgesehen von Grundsatzkritik an den Tech-Eigentumsverhältnissen, (durchaus begründeten) Warnungen vor den Folgen des KI-Rechenzentrumsausbaus und dem Verweis auf die KI-Blase. Aber konkrete eigene Policy-Vorschläge höre und lese ich selten, sieht man von Bernie Sanders’ Teil-Verstaatlichungsidee in den USA ab.

Die Hoffnung, dass mit einem Platzen der Blase die Technologie wieder verschwindet oder in ihre Schranken verwiesen wird, ist jedoch illusorisch. Und gerade die Alignment-Community könnte Unterstützung von Akteurinnen und Akteuren gebrauchen, die sich wirklich ernsthaft und jenseits von Narrativen, Glaubensfragen und moralischen Urteilen mit der Materie beschäftigen.

Jetzt abonnieren

Die Meta-Metamorphose

Über die aktuelle Phase in der Meta-Firmengeschichte werden einmal Bücher geschrieben werden. Werden sie vom Niedergang des Konzerns handeln? Ich gebe keine Prognose ab, aber die Verwerfungen innerhalb der Firma sind angesichts des riskanten Strategiewechsels offenbar beträchtlich.

Klare Indizien dafür liefern zwei Texte: Zunächst veröffentlichte Wired eine kleine Insider-Story über die schlechte Stimmung, die im Konzern durch die Reorganisation in Richtung KI/Data-Labelling entstanden ist. Danach legte der für gewöhnlich gut informierte Gergely Orosz mit Details über die massiven Veränderungen in den Entwicklerteams nach.

Orosz’ Stück ist besonders lesenswert, weil er die historische Entwicklung nachvollzieht: Meta, einst als Firma mit großer Wertschätzung für Engineering bekannt, hat nun ein Fünftel bis ein Sechstel seiner (nach den Entlassungen verbliebenen) Entwickler und Entwicklerinnen in Data-Labelling-Projekte verschoben.

Wir erinnern uns: Alexandr Wang, der jetzt die KI-Aktivitäten bei Meta verantwortet, wurde samt seines Unternehmens Scale AI eingekauft. Und Scale ist dafür bekannt, qualitativ hochwertige annotierte Daten für die KI-Entwicklung zu liefern. Bei Meta bedeutet das jetzt: Ein beachtlicher Teil der Entwickler ist damit beschäftigt, Trainingsdaten für Metas neue Coding-KI zu verfeinern, statt Features für Instagram, Facebook oder WhatsApp zu entwickeln. Übersetztes Zitat:

“Es gibt Datenanmerkungsaufgaben, bei denen man eine Website erstellt, sie sich dann ansieht und entscheidet, ob sie gut aussieht oder nicht, und dazu Feedback gibt: Das ist die „typische“ Datenannotation. Diese Art von Arbeit kommt jedoch seltener vor. Daneben gibt es aber auch komplexere Aufgaben zum Trainieren von KI, die wie folgt aussehen:

• Eine Aufgabe definieren, die die KI ausführen soll

• Anschließend Tests schreiben, die das Ergebnis bestätigen

• Packen Sie all dies mithilfe des Harbor-Frameworks in einen Docker-Container

• Lesen Sie anschließend den Code, den die KI schreibt – oft auf der Grundlage von Feedback mehrerer Modelle – und geben Sie ihr Feedback.”

Die Aufgabe ist herausfordernd, aber stinklangweilig und repetitiv. Und es ist eben keine Software-Entwicklung im klassischen Sinne. Entsprechend sucht, das zeigen Zahlen aus Bewerbungstrainings-Plattformen, eine Rekordzahl von Meta-Mitarbeitenden neue Jobs. Orosz beschreibt das etwas plakativ in dieser Grafik:

Nebenbei führt die Ausdünnung in anderen Teams, kombiniert mit einer stärkeren Nutzung von KI für Coding, zu Problemen. Zum Beispiel bei Trust & Safety, das von einer simplen Übernahme prominenter Accounts durch Manipulation des Support-Chats überrascht wurde und auch deutlich mehr Downtime der Plattform als früher zu verzeichnen hat. Ich kann die Analyse wirklich als Ganzes empfehlen, sie liefert fantastische Einblicke.

Drei interessante Studien

1. “Societal Hacking” durch KI: Eine Studie untersucht „Societal Hacking“ durch LLMs, die mittels Reinforcement Learning (RL) trainiert wurden. Konkret setzte man große Sprachmodelle darauf an, in einer Testumgebung (“SocioHack”) in realen, fiktiven und künstlich entwickelten Szenarien Regulierungslücken zu finden und auszunutzen. Das gelang zum Beispiel im Bereich Steuerrecht, im Kontext Wettbewerbsrecht und bei der Umgehung von Moderations- und Governance-Regeln auf Plattformen. Dabei wurden zum Beispiel Bearbeitungszeiten, Definitionsschwächen, Klassifizierungsfehler, inkonsistente Klauseln oder starre Schwellenwerte ausgenutzt. Einerseits ermöglicht dieser Mechanismus etwas, was ich “gesellschaftliche Exploits” nennen würde. Andererseits kann er jedoch konstruktiv als Stresstest für neue Regulierungen nutzen, um deren Schwächen schon vorher aufzudecken.

2. Bereuen Jugendliche Social Media? Eine neue Studie des irischen Forschers Eoin Whelan (via), die gezielt Jonathan Haidts Thesen zur Schädlichkeit von Social Media für Jugendliche überprüft, kommt zu einem ernüchternden Befund für die Smartphone-Panik: Unter 389 jungen Erwachsenen (20–24 Jahre), die als Teenager Social Media nutzten, landete die Reue über zu viel Zeit in sozialen Medien auf Platz 13 von 20 abgefragten Jugendreue-Kategorien. Viel stärkere Reue-Themen mit Rückblick auf die Teenager-Zeit sind mangelnde Selbstbehauptung, übertriebene Selbstkritik oder das Versäumnis, lebensnahe Kompetenzen zu erwerben. Mädchen bereuten Social-Media-Konsum zwar geringfügig stärker als Jungen (Rang 11 vs. 13), aber der Effekt ist statistisch minimal. Für mich stützt das die These, dass Jugendliche ein sehr viel instrumentelleres (=es als Werkzeug verwendend) Verhältnis zu Social Media haben als diejenigen, die vor dem Smartphone-Zeitalter erwachsen geworden sind. Ob sich daraus Ableitungen für den konkreten Schaden treffen lassen, steht wieder auf einem anderen Blatt Papier.

3. Haben wir uns auf die falschen Deepfake-Szenarien vorbereitet? “The Deepfakes We Missed: We Built Detectors for a Threat That Didn’t Arrive” heißt das Paper von Shaina Raza von der University of Toronto. Die These: Dadurch, dass wir im Kontext Deepfakes zunächst vor allem mit manipulierten Videos prominenter Persönlichkeiten (und den Folgen für unser epistemisches System) rechneten, hat die Forschung aufs falsche Pferd gesetzt. Denn in der Realität entstehen gesellschaftliche Schäden vor allem durch nicht-konsensuelle intime Bilder (NCII), Scams über Voice- und Video-Cloning und emotionalen Betrug im privaten Umfeld. Raza fordert deshalb ein Umdenken in der Forschung, nämlich die Ausrichtung auf einen “opferzentrierten Ansatz”.

Notizen

Leiden-Erklärung: Mehr als 2500 Mathematikerinnen und Mathematiker haben inzwischen eine Erklärung zum ethischen Einsatz von Künstlicher Intelligenz in der Mathematik unterschrieben. Es ist ein außergewöhnliches Dokument, das das Spannungsfeld zwischen technologischen Werkzeugen und der Mathematik als zutiefst menschlicher Disziplin sichtbar macht. Wer tiefer in das Thema eintauchen möchte: Der Mathematik-Professor Michael Harris arbeitet es in der Boston Review detailliert auf.

Eine andere Art von Braindrain: Der Economist listet in seiner aktuellen Ausgabe die interessantesten Ökonomen und Ökonominnen auf, die sich mit KI beschäftigen. Dabei kommt er zu dem Schluss, dass sich - verglichen mit den möglichen Folgen - deutlich zu wenige Wissenschaftler mit den wirtschaftlichen Konsequenzen beschäftigen. Der Grund: Es fehlen derzeit sowohl der makroökonomisch sichtbare Impact, als auch die mikroökonomischen Daten. Allerdings beschäftigen inzwischen auch die KI-Labs vermehrt Ökonomen. Dieser Trend ist relevant: Bei der KI-Entwicklung arbeiten bereits zwei Drittel der KI-Forscher und -Forscherinnen in der Privatwirtschaft, im Falle von “KI-Ökonomen” hätte es ähnliche Konsequenzen - Forschung entlang von Business-Cases statt für das allgemeine Wohl, Konzentration von Forschung und Wissen in den Labs.

Tokenmaxxing? Tokenminning! Wie bereits in der letzten Ausgabe angedeutet, überprüfen Firmen nach aus dem Ruder gelaufenen Ausgaben nun, ob die Nutzung von KI zu echten Produktivitätsgewinnen führt. Die New York Times hat dazu einen Artikel, die Financial Times und der Economist ebenfalls, und Derek Thompson sieht die “Ist-es-das-wert?”-Phase des KI-Booms angebrochen. Der Begriff “Tokenminning”, also der bewusst sparsame Einsatz von KI-Ressourcen, stammt übrigens aus diesem Manifest. Die Frage ist, ob mögliche Großkunden-Budgetkürzungen bei der Bewertung der OpenAI- und Anthropic-Börsengänge noch eine Rolle spielen werden…

Die Polymarket-Irreführung: Prediction Markets halte ich bekanntlich für ein wichtiges Thema, auch wenn sich das meiste in den USA abspielt. Das Wall Street Journal hat nun eine Recherche vorgelegt, die die irreführenden Geschäftspraktiken von Polymarket offenlegt. Die Methode ist schon dreist: Die Firma bezahlte Influencer im Studentenalter dafür, auf gefälschtenm aber real aussehenden Internetseiten Online-Wetten abzuschließen (“Trump erwähnt in diesem Monat McDonald’s") und zu gewinnen. Aus diesen Videos machte eine Armee von bezahlten Clippern wiederum virale Ausschnitte und Repostings, um die Idee vom “Weg zum schnellen Geld” in das Zielpublikum einsickern zu lassen. Dass Polymarket und Co. vor allem von jungen Menschen genutzt werden, ist bekannt. Die 50 Menschen, die wirklich Geld auf eine McDonald’s-Erwähnung setzten, verloren ihren Einsatz übrigens.

Jetzt abonnieren

Links

Wie der FSB Russland vom Internet abklemmte. (€)
Krypto-Zeitenwende. ($)
War’s das erstmal mit dem Bitcoin? (€)
Floridas TikTok-Klage könnte große Auswirkungen haben.
Interne Dokumente aus den Klagen von US-Schulbezirken gegen Social-Media-Firmen
Ein zweites Internet, gebaut für Maschinen. (€)
Unitree: Die Zukunft der KI-Robotik?
Warum KI Software-Entwickler nicht ersetzen wird.
KI hat kein Bewusstsein, aber wird zu unserem Unterbewusstsein.
Das Social-Media-Verbot und die Folgen für das Internet.
Der Airpod-Effekt.
Computersteuer, eine dumme Idee?
Drei Arten, über KI und Jobs nachzudenken. ($)
Über KI in der Wissenschaft.
Europe 2031, eine Negativ-Vision.
KI-Detektoren: Misstrauen als Geschäftsmodell. (€)
Dataland, das erste KI-Museum.
Alles zur WWDC.
Sloptimisierung der Suche.

Bis zur nächsten Ausgabe!

Johannes

Heute – der Spätdienst macht’s möglich – einmal ausnahmsweise Mittwoch. Vielleicht die Genuss-Lektüre nach dem Tech-Sovereignty-Package für Euch. 😉 Die nächste Ausgabe erscheint am 21. Juni.

Wir beginnen mit:

Appetizer aus dem Tagesspiegel Background

Zeit für ein deutsches AI Safety Institut? Die Antwort lautet ja, zumindest sind die Verhandlungen zwischen BMI, BSI und BMDS bereits fortgeschritten. In meinem Stück erkläre ich, warum das Thema wieder dringend wird und welche möglichen Strukturen ein solches DAISI haben könnte.

AI-Act und die Hochrisiko-Klassifikation: Bildung, Migration, Justiz, Arbeitsplatz – die EU-Kommission hat ihre lang erwartete Leitlinie zur Klassifikation von Hochrisiko-Systemen vorgelegt. Alexandra Ketterer blickt durch.

GovTech-Blackbox: GovTech Deutschland will vom Berliner Campus zum zentralen Infrastrukturanbieter für die deutsche Verwaltung werden. Wirklich transparent war das bislang nicht. Jetzt ändert sich das, doch viele Fragen bleiben offen. Bastian Hosan berichtet.

IT-Beschaffung - MIG statt ZIB: Die Mobilfunkinfrastrukturgesellschaft soll leben! Und zwar als GmbH für die IT-Beschaffung des Bundes. Was es mit der BMDS-Idee auf sich hat und warum sie durchaus umstritten ist. Mein Stück.

Lockbit ist zurück - oder doch nicht? Das kriminelle Ransomware-Ökosystem reüssiert. Aber in anderer Form, als man glauben mag. Paul Dalg dazu im Background Cybersecurity.

Aktive Cyberabwehr: Der Gesetzentwurf aus dem BMI ist da. Benjamin Stiebel hat einige interessante Punkte gefunden und Reaktionen gesammelt.

Und damit zum Internet-Observatorium:

Seid menschlich: Papst Leo vs. Akzelerationisten

Ich konnte in die Enzyklika des Papstes bislang nur kurz reinlesen (bin aber weiterhin motiviert, dies vollständig zu tun, fwiw). Entsprechend kann ich keine fundierte Analyse dazu liefern, sondern nur a) etwas Kontext und b) interessante Stimmen, also Sekundärliteratur, dazu.

Beginnen wir mit dem Kontext. Leo XIV. sieht sich in der Tradition von Leo XIII. (Amtszeit 1878-1903), der mit seiner Enzyklika “Rerum Novarum” auf die (bereits lange laufende) industrielle Revolution reagierte und Konzepte wie Solidarität und Subsidiarität in die katholische Lehre einführte. Die menschliche Entfaltung im Zeitalter technischer Dominanz stellt auch Leo XIV. in den Mittelpunkt, wie der Titel “Magnifica Humanitas” bereits verrät. Die vielleicht wichtigste Stelle scheint mir dabei diese Passage zu sein (übersetzt und gefettet):

“Sogenannte künstliche Intelligenzen machen keine Erfahrungen, besitzen keinen Körper, empfinden weder Freude noch Schmerz, reifen nicht durch Beziehungen und wissen nicht aus eigener Erfahrung, was Liebe, Arbeit, Freundschaft oder Verantwortung bedeuten. Auch haben sie kein moralisches Gewissen, da sie nicht zwischen Gut und Böse unterscheiden, den tieferen Sinn von Situationen nicht erfassen und keine Verantwortung für die Folgen übernehmen.“

Der Mensch ist ein Wesen, das Erfahrungen machen kann, und aus diesen Erfahrungen speist sich sein Mensch-sein. Damit stellt Leo der maschinellen Intelligenz und ihrer auf Logik basierenden Funktionsweise den Menschen als Verkörperung des Lebens entgegen. Wir können nicht berechnet werden.

Daneben stellt er noch ein zweites Bild: Den Gegensatz zwischen dem Turmbau zu Babel und dem Wiederaufbau der Mauern von Jerusalem, also zwischen einer Macht, die “behauptet, den Himmel zu dominieren” und Menschen, die in der Präsenz Gottes gemeinsam daran arbeiten, die Mauern der “brüderlichen Koexistenz” wieder aufzubauen.

Es ist natürlich keine Frage, wo der Papst sich verortet. Es ist die Gegenposition zu Akzelerationisten wie David Sacks und Sam Altman, die eine entgrenzte technologische Entwicklung forcieren und dies bereits als Wert an sich sehen. Im Hintergrund sehen wir auch radikalere Strömungen, von den Anhängern von Singularität (Verschmelzung Mensch und Maschine) und die Subkultur des Sukzessionismus, die “denkende” Maschinen als nächsten Evolutionsschritt sehen.

In KIs verbirgt sich, zumindest in ihrer Chatbot-Inkarnation als Orakel, Weltwissender und Vertrauter, aber auch ganz generell die Gefahr für die katholische Kirche, dass eine neue Techno-Religion entsteht und KI als Gottes-Simulakrum wahrgenommen wird. Danielle A. Davis Canty weist darauf hin, dass schon jetzt Spiritualität oft KI-vermittelt gelebt wird. In der Enzyklika wird dieses Thema allerdings ausgespart.

Es ist für Leo vielmehr zentral, dass wir Menschen uns nicht der Technologie und ihrer Logik unterordnen, weil darin die Gefahr liegt, uns selbst nur als eine Art statische Maschine zu betrachten. Wer so auf sich selbst blickt, lässt die eigene Handlungs- und Entscheidungsfreiheit verkümmern. Heißt auch: Wenn wir die KI nicht als Werkzeug betrachten und mit menschlichem Bedacht einsetzen, werden wir selbst zu ihrem Werkzeug. Diese humanistische Botschaft verknüpft er mit konkreten Warnungen: KI kann “ein Geschenk sein, das Leiden lindern und neue Möglichkeiten eröffnen kann”, aber nicht, wenn es in den Händen weniger Akteure liegt, reinen Profitinteressen folgt und die Arbeitsmärkte durch Automatisierung verwüstet.

Der konservative Intellektuelle Yuval Levin ist von der humanistischen Botschaft fasziniert, aber auch frustriert, weil Leo nur eine negative Definition liefert, aber nicht beschreibt, was KI am Ende in seinen Augen wirklich ist. Mehr noch: Für ihn hätte sich Leo deutlich stärker damit auseinandersetzen müssen, wie KI als Technologie unser Selbstverständnis in Frage stellt. Denn die menschliche Einzigartigkeit wird aus Levins Sicht so stark in Frage gestellt werden, dass der Bezug auf den Menschen als Verkörperung des Lebens alleine nicht genügen wird, um uns in dieser zivilisatorischen Phase anzuleiten.

Andrew Sullivan fokussiert sich auf einen anderen Aspekt und entwickelt ein besonderes Argument: Er befürchtet, dass KI mehr sein könnte als ein bloßes Werkzeug und irgendwann nahezu allwissend (“gottähnlich”) sein wird. Diese Sorge verknüpft er mit den beiden Eigenschaften des christlichen Gottes: Er ist Logos, als Vernunft, Wissen und Ordnung (daher auch die Anspielung auf den Turmbau zu Babel).

Aber Gott ist auch “Agape”, die Liebe. KI verkörpert Logos, aber nicht Agape - doch was wäre eine lieblose, gottähnliche Superintelligenz, wenn nicht der Antichrist? Das fragt Sullivan mit Verweis auf Peter Thiel, der ja bekanntlich gerade mit einer ganz anderen Antichristen-Theorie an den extremen Rändern der katholischen Kirche hausieren geht. “Wenn Sie nach dem Antichristen suchen, Mr. Thiel”, schreibt Sullivan, “dann könnte es sein, dass Sie ihn gerade erschaffen”.

René Tapia (Universität Barcelona) und Asanga Welikala (University of Edinburgh) wiederum bringen eine materiell-konstituelle Sichtweise ein: “KI verändert die Struktur der Macht”, lautet ihre Kernaussage. Sie interpretieren die Enzyklika als Dokument, das die Struktur von Autorität in unserem techno-zivilisatorischen Zeitalter dekonstruiert. Übersetztes und gefettetes Zitat:

“Es geht um die Umwandlung undurchsichtiger transnationaler privater Macht in öffentliche Autorität. Die Fragen, die der moderne Konstitutionalismus einst durch schriftliche Verfassungen zu stabilisieren suchte – wer regiert, mit welchem Recht, durch welche Verfahren, unter welchen Grenzen und zu welchen Zwecken –, werden zunehmend in soziotechnische Systeme verlagert, die jenseits des traditionellen verfassungsrechtlichen Rahmens operieren. KI macht die derzeitige Unzulänglichkeit einer verfassungsrechtlichen Vorstellung deutlich, die sich allein auf staatliches Handeln stützt. Viele dieser neuen Themen liegen außerhalb der üblichen Kategorien von Gesetzgebung, Verwaltung, Rechtsprechung und Zwang.”

Nach dieser Lesart ist die Enzyklika nicht nur ein Plädoyer für “AI Governance”, sondern für die Entwicklung einer zivilisatorischen Governance, die sich am Gemeinwohl orientiert.

Elizabeth Bruenig wiederum betont die Tradition, in die Leo XIV. KI als neue Technologie stellt. Und die Differenz, die er eröffnet (übersetztes und gefettetes Zitat):

“Tatsächlich betrachtet [die Enzyklika] KI nicht als etwas besonders Außergewöhnliches, auch wenn ihre spezifischen Risiken neuartig und schwerwiegend sind. Stattdessen stellt der Papst die Technologie lediglich als eine in einer langen Reihe solcher Technologien dar, die bis zum Turmbau zu Babel zurückreichen und Macht und Ruhm auf Kosten der Einzigartigkeit des Menschen versprechen. Homogenität, Effizienz und Produktivität sind nicht das, worum es im menschlichen Leben geht: Unsere Berufung besteht nicht darin, wie Computer zu funktionieren, sondern genau das zu tun, was Computer nicht können, nämlich zu lieben.”

Mir scheint, die Stärke der Enzyklika liegt trotz mancher berechtigt erscheinender Detailkritik in ihrer Mehrschichtigkeit: Leo XIV. blickt aus einer humanistischen (und natürlich im Christusglauben fußenden) Perspektive auf die soziotechnischen Systeme, in die sich die Menschheit verwoben hat. Und er erkennt, dass wir an unterschiedlichsten Stellen begonnen haben, uns mit unseren dort hinterlassenen Datenpunkten zu verwechseln, was uns für eine Unterordnung unter der KI ebenso anfällig macht wie für eine Überhöhung ihrer Gestalt.

Daraus leitet der Papst eine Botschaft ab, die Evelyn Finger in der ZEIT auf die Formel “Seid menschlich!” bringt. Dies ist nicht nur ein Handlungsauftrag an die Menschheit, sondern auch ein Appell an alle Verantwortlichen der Digital- und KI-Branche.

Jetzt abonnieren

Anthropic: Mega-Umsatz, aber wie nachhaltig ist Tokenmaxxing?

Om Malik hat eine sehr gute Analyse und Fragen rund um die Anthropic-Zahlen veröffentlicht. Bekanntlich ist inzwischen von 30-40 Milliarden US-Dollar hochgerechneter Jahresumsätze die Rede. Om stellt aber einige relevante Fragen, von welcher Art “Umsatz” wir überhaupt sprechen.

Anthropic, OpenAI und Co. sind über milliardenschwere Investments eng mit ihren Cloud-Anbietern verbunden, die zugleich ihre größten Rechenkraft-Lieferanten sind. Weil ein Teil der Investments als Cloud-Guthaben fließt, das die Labs bei ihren Geldgebern wieder einlösen, kann ein Teil des gemeldeten Umsatzes mittelbar vom Investor selbst gespeist sein, das bekannte “Circular Financing”.

Ein weiterer und höchst aktueller Punkt ist die Frage, ob gerade sehr viele Kunden neu dazu kommen, Bestandskunden ihre verbrauchsabhängige API-Nutzung aufstocken und wie diese Entwicklung mittelfristig aussehen wird. Om fragt nach der Net Revenue Retention (NRR), der Umsatzerhaltungsrate. Kurz gesagt: Welcher Teil der Bestandskunden innerhalb der vergangenen zwölf Monate hinzugekauft hat (Upgrade) oder verloren gegangen ist. 40 Milliarden US-Dollar Umsatz bei 130% NRR ist etwas anderes als 40 Milliarden Umsatz bei 40% NRR. Uber-COO Andrew McDonald hat jüngst zum Beispiel erklärt, dass man innerhalb von vier Monaten das gesamte KI-API-Budget aufgebraucht habe, aber dafür zu wenig Produktivität gewonnen habe. In den vergangenen Tagen gab es noch weitere Meldungen über Firmen, die merken, dass “Tokenmaxxing” mehr kostet als es einer Organisation an Effizienz bringt.

Genauere Analysen werden sich mit a) dem Wertpapierprospekt zum Börsengang und b) wenn im zweiten Halbjahr die API-Großkunden ungefähr wissen, ob und wie sie ihre LLM-Ausgaben verstetigen, anstellen lassen.

Google: Vom Index zum Orakel

Es wurde schon viel über den Umbau der Google-Suche geschrieben: Nach 25 Jahren verabschiedet man sich deutlich davon, dem Nutzer auf seine Anfrage hin eine Karte dessen zu zeigen, was das Internet sagt. Nun geht man “AI First”, inklusive KI-Agenten für Such- und Beobachtungsaufgaben. Das heißt: Nur noch selten blaue Links, dafür generative KI-Antwortseiten. Adieu “Sponsored Links”, hallo “conversational discovery ads”.

Damit vollzieht Google den Schritt “vom Index zum Orakel”, wie in diesem Substack angemerkt wird. Ich würde es vielleicht so beschreiben: Aus der IT-Logik baut Google die nächste Stufe eines Compilers. Aber was bedeutet das? Vale schreibt dazu (übersetzt und gefettet):

“Bislang gab es einen gesellschaftlichen Vertrag. Website-Betreiber lassen Google ihre Seiten crawlen und in der Google-Suche anzeigen, und im Gegenzug leitet die Google-Suche Traffic auf diese Seiten zurück. Google profitiert durch Anzeigen auf der Suchseite, und die Websites profitieren davon, wie auch immer sie ihren Traffic monetarisieren. Im Großen und Ganzen gewinnen alle, da ein finanzieller Anreiz besteht, neue Inhalte zu erstellen und zu produzieren.

Wenn Google jedoch seinen Teil des Vertrags bricht, ist damit Schluss. Wenn Google nur nimmt und nie gibt, können die Websites keinen Gewinn erzielen. Was ist der Anreiz zu veröffentlichen, wenn das einzige Ergebnis darin besteht, Googles KI zu füttern, ohne eine Gegenleistung zu erhalten? Aus welchen Quellen sollen LLMs schöpfen, wenn alle Quellen nicht mehr existieren? Wie weit wird Google gehen, um Anzeigen in die Ergebnisse seiner KI zu integrieren?

Ich sehe den enormen kurzfristigen Gewinn für Google, aber ich sehe keinen langfristigen Weg – nicht einmal einen unnachhaltigen. Das fühlt sich wie das Ende an, aber wovon genau, bin ich mir unsicher.”

Was aus meiner Sicht endgültig zu Ende geht, ist eine Ära: Google hat das Web erschließbar gemacht (sagt jemand, dessen WWW-Einstieg noch mit der Fireball-Suchmaschine und Yahoo-Listen verknüpft war) und wurde letztlich zur Zwischenhändler-Infrastruktur für Aufmerksamkeit. Nun vertraut man darauf, dass die neue Ebene gut genug ist, um dauerhaft eine direkte, noch stärker plattformisierte Beziehung von Endnutzer und System herzustellen. Auf diesem Markt ist man allerdings nicht alleine.

Ich weiß nicht, ob es das Ende des klassischen WWW ist. Sollte es sein, würde sich Google womöglich an seiner eigenen Strategie verschlucken, wobei die Firma natürlich noch unterschiedlichste Informationsquellen dazu kaufen kann. Was ich ahne ist, dass die Funktion “Herstellung von Öffentlichkeit” - denn nichts anderes hat es ja bedeutet, in den blauen Links vorzukommen - für Webseitenbetreiber und das WWW an sich in dieser Form nicht mehr weiter existiert.

Hardware-Notizen

Ein Halbleiter-Prinzip aus China: Mit Huawei hat erstmals ein chinesischer Akteur ein neues Halbleiter-Prinzip veröffentlicht. Die “Tau (T) Scaling Law”, die offenbar eine Optimierung über verschiedene Dimensionen der Halbleiter-Komponenten hinweg beschreibt. Ein Satz aus dem zugehörigen Artikel lässt aufhorchen: “Huawei geht davon aus, dass die im Rahmen des neuen Konzepts entwickelten High-End-Chips bis 2031 eine Transistordichte erreichen werden, die einem Prozessknoten von 1,4 Nanometern entspricht.” China ist in Sachen Chip-Produktion auf dem Weg und macht sich gerade auch von Akteuren wie ASML unabhängig. Die Konsequenzen wären enorm.

RAM-Preisdruck und die Folgen: Die Speicher-Preiskrise ist weiterhin ein unterschätztes Thema. Die KI-Nachfrage führt zu höheren Preisen, die zahlreiche Effekte auslösen. Zum Beispiel werden wir in der nächsten Zeit deutlich weniger Billig-Smartphones sehen, reguläre Hardware-Produkte werden teurer. Valve hat die Preise für Steam Deck deutlich erhöhen müssen und ist damit nicht alleine, das alles wird z.B. auch die Cloud-Preise nach oben treiben. Der Samsung-CEO hat immerhin neulich prognostiziert, dass der Versorgungsengpass in der zweiten Jahreshälfte 2027 behoben sein wird. Oder vielleicht vorher, wenn die KI-Nachfrage nachlässt? Immerhin ist diese Krise eine der berechenbareren, die klassische konjunkturelle Sinuskurve kennen wir im RAM-Bereich bereits.

Links

Iran wieder etwas stärker ans internationale Internet angekoppelt.

Warum so viele Amish AI lieben.

KI-Regulierung in den USA wieder auf dem Tisch.

Wie Künstliche Intelligenz den Roman verändert.

Die Tech-Consent-Krise.

Zieht Euch nicht aus dem Leben zurück.

Was das Ende der Colbert-Sendung mit dem Internet zu tun hat.

Ein Werkzeug, um KI-Songs zu erkennen.

Warum Homer Simpson der beste KI-Kommentator wäre.

Bis zur nächsten Ausgabe!

Johannes

Zwei Geständnisse: Im Moment kann ich den Zwei-Wochen-Rhythmus für neue Ausgaben nicht immer halten, es ist einfach zu viel los in meinem Brotjob und die wirklich freien Stunden und Tage sind rar. Und, zweitens, der Internet-Leseclub braucht noch ein bisschen, ich hatte noch keine Zeit, etwas vorzubereiten. Und wer mich auf der Re:publica sieht: Einfach ansprechen (sofern Ihr wisst, wie ich aussehe).

Anyway, nun aber los!

Appetizer aus dem Tagesspiegel Background

Ein Jahr Bundesregierung und BMDS: Zum “Jubiläum” unsere Analyse mit Stimmen aus der Opposition und eine große Umfrage bei den Stakeholdern.

Was kosten Microsoft und Oracle? Benjamin Hilbricht hat sich die Mühe gemacht, bei den Bundesländern die Kostenentwicklung bei Microsoft-Lizenzen und Oracle-Diensten abzufragen. Interessante Ergebnisse…

Wie passen Deutschland-App, Bund-ID und Wallet zusammen? Gute Frage! Viola Heeger hat sie zu beantworten versucht.

Vergabestreit um Cloud-Auftrag: Was hinter dem Einspruch gegen die Vergabe der “cloud-agnostischen KI-Plattform” steckt und warum das Vergabeverfahren nicht gerade als Meisterleistung des BMDS gilt, habe ich aufgeschrieben.

WhatsApp, der DSA und die Broadcast-Funktion: Seit Mitte Mai gelten für die Kanäle-Funktion von Whatsapp strengere Auflagen nach dem Digital Services Act. Was das bedeutet und warum das Katz-und-Maus-Spiel zwischen EU-Kommission und Meta weitergeht, erklärt Friederike Moraht.

Einigung zum KI-Omnibus: Alexandra Ketterer über die Genese und die Details der Trilog-Einigung.

Und nun: Neues aus dem Internet-Observatorium:

Angekommen in Post-Social Media

Ich konnte vergangenes Wochenende auf einer längeren Zugfahrt zwei Paper studieren, die sich mit der Veränderung von “Social Media” beschäftigen. Denn “Social Media” ist kein adäquater Begriff mehr, wie wir alle wissen.

Paper Nummer 1 stammt von der renommierten und durchaus legendären Digitalisierungsforscherin Danah Boyd (Microsoft Research, Cornell University) und trägt den Titel “Social Media Is Now Parasocial Media”.

Boyd erzählt dabei noch einmal die damalige Begriffs(er)findung nach und stellt Social Media in den Kontext von Begriffen für Kreativität und Vernetzung (“Social Software”, “Prosumer”, “user-generated content” etc.) aus der ersten Phase des Mitmach-Webs, dem dann Kommerzialisierung und schließlich Enshittification folgten.

Die Diagnose lautet, dass sich die ursprüngliche Bestimmung von Social Media – das Aushandeln von Identität und das Knüpfen echter zwischenmenschlicher Beziehungen – durch den Druck kapitalistischer Verwertungslogik und algorithmischer Optimierung hin zu einer “parasozialen” Umgebung verschoben hat, in der Nutzer primär als passive Konsumenten von häufig sehr gut produzierten Inhalten und Influencer-Beiträgen fungieren, anstatt aktiver Teil des “sozialen Netzwerks” zu sein. Social Media bleibt aber der linguistische Rahmen, mit dem wir die Praktiken auf den Plattformen bewerten - und das ist ein Fehler.

Wo Boyd leider bereits aufhört, beginnen Petter Törnberg und Richard Rogers (Universität Amsterdam) erst: In ihrem Paper “Towards a Post-Social Media Studies” diagnostizieren sie nicht nur die Aufspaltung der ehemaligen sozialen Medien in drei neue Formen, sondern formulieren auch konkrete Fragen, was das für die wissenschaftliche Analyse bedeutet.

Ein Teil von Social Media sind die algorithmischen “Broadcast-Infrastrukturen”, wie die Autoren TikTok und Instagram nennen. Eine zentrale Beobachtung der beiden: Wenn Nutzerinnen und Nutzer primär als Zuschauer und Datenlieferanten auftreten, laufen hier sowohl klassische wissenschaftliche Netzwerk-, als auch Content-Analyse ins Leere.

Die Studie spricht von einer Verschiebung von „networked publics“ zu „inferred publics“: Statt mit vernetzten Öffentlichkeiten haben wir es mit abgeleiteten Öffentlichkeiten zu tun, die sich aus der ständig angepassten algorithmischen Bewertung von Vorlieben und Verhalten konstituieren. Der zitierte Forscher Paolo Gerbaudo spricht hier auch von der Reorganisation der Öffentlichkeit(en) nach “Social Interest Clusters”; ein weiterer Begriff lautet “imitation publics” und versucht mit der Idee der “Imitation” auch Massenverhalten und Viralität im Prozess dieser Öffentlichkeitsbildung gerecht zu werden.

Forschung müsste nun theoretisch diese hochdynamischen Prozesse zu erfassen versuchen, statt Strukturen zu analysieren: Zum Beispiel, wie Inhalte Empfehlungsmarker auslösen, verstärkt werden, an Schwung verlieren und zwischen unterschiedlichen Publika wandern. Die Studie verweist auf neue Ideen wie Sal Hagens „digitale Rhythmusanalyse“, die Wiederholung und Variation in TikTok-Videos untersucht, sowie auf agile Archiv-Infrastrukturen. Die entscheidenden Verhaltensdaten bleiben jedoch für die Forschung (trotz des DSA, btw.) unzugänglich. Die Macht konzentriert sich bei den Eigentümern der Empfehlungssysteme.

Die eigentliche Kommunikation, also der “Social” Teil von Social Media, wandert bekanntlich zu einem erheblichen Teil in semi-private Sphären und Mikro-Communitys ab - die zweite Form, die sich in Post-Social Media herausgebildet hat. Dort finden die vielleicht sozial bedeutsamsten Formen digitaler Kommunikation statt, gleichzeitig sind sie oft die für Forschung am wenigsten sichtbar.

Um diese semi-privaten Sphären zu öffnen, braucht es für Törnberg und Rogers neue Formen von Zugängen, die aber bereits Vorläufer haben. Sie verweisen zum Beispiel auf ethnografische Zugänge, die mit expliziter Zustimmung der Erforschten Normen und Praktiken spezifischer Communitys rekonstruieren. Allerdings erscheint ein solches Vorgehen, so räumen sie ein, angesichts der schieren Anzahl relevanter Mikro-Communitys kaum flächendeckend möglich, ohne nach einer Überwachungslogik vorzugehen. Die Macht bündelt sich in der semi-privaten Sphäre bei den Akteuren, die diese Räume organisieren.

Der dritte und jüngste Teil von Post-Social Media ist die KI-vermittelte Kommunikation. Dabei geht es zwar auch um die Perspektive, dass KI-generierte Inhalte und Bots immer stärker den (individualisierten) Plattform-Content bestimmen. Aber nicht nur, denn KI-Chatbots können auch selbst als Medium betrachtet werden. Genauer gesagt verschwimmt hier die Grenze zwischen Medium und Gesprächspartner. Die Forschungsfrage verschiebt sich damit noch einmal grundlegender: Es geht nicht mehr darum, wie Inhalte zirkulieren, sondern darum, wie sie generiert werden. Übersetztes und gefettetes Zitat:

“Dies bedeutet einen qualitativen Wandel in der Struktur der Kommunikation. Kommunikation wird eher individuell als kollektiv und eher generativ als zirkulär. Es gibt keinen gemeinsamen Text, kein Beziehungsgeflecht, das die Nutzer miteinander verbindet, und keine öffentliche Spur, anhand derer die Kommunikation beobachtet werden kann. In diesem Sinne stellen KI-Chatbots eine Medienform ohne Öffentlichkeit dar: eine Form, in der Bedeutung in privaten, flüchtigen Interaktionen entsteht, die keine gemeinsamen Spuren hinterlassen.”

Dabei stellt sich die Frage, wie in solchen Konstellationen Wissen produziert wird (siehe Ausgabe #139). Die Macht bündelt sich hier bei den jeweiligen KI-Anbietern. Als Methoden, um hier forschen zu können, benennt die Studie KI-Auditing und Nutzerbefragungen.

Faszinierend finde ich, dass alle drei Bausteine von Post-Social Media eine Gemeinsamkeit haben: Die strukturierende Schicht digitaler Öffentlichkeiten verlagert sich weg von Verbindungen, die wir beobachten können, und hin zu nicht einsehbaren und gleichzeitig sehr dynamischen Prozessen.

Das bedeutet auch: Die öffentliche vernetzte Ordnung wird immer weniger durch Sichtbares geprägt (“wer folgt wem”), sondern von unsichtbaren, algorithmischen Zuschreibungen und Vorhersagen darüber, was für wen relevant ist. Macht verschiebt sich damit zu den Akteuren, die diese Systeme bauen und steuern, die Inhalte sortieren, personalisieren und letztlich auch Reichweite verteilen.

Lesetipp: Der verlässlich kluge Marcus Bösch hat noch weitere Koordinaten gefunden, die den Epochenbruch hin zu einer Post-Social-Media-Welt markieren und sie geschickt zu etwas verbunden, was uns auch dabei hilft, das Phänomen Brainrot besser zu verstehen.

Jetzt abonnieren

AI-Deployment in den USA und China

Sowohl Anthropic als auch OpenAI haben jüngst durch Private Equity finanzierte Beratungsfirmen gegründet (Ausstattung 1,5 bzw. vier Milliarden US-Dollar). Die Idee dahinter: Die Berater sollen entsprechend vor Ort dafür sorgen, dass Kunden KI-Systeme nutzen und die Workflows auch wirklich für mehr Produktivität sorgen.

Hintergrund ist nicht nur das Hübschmachen vor den anstehenden IPOs, sondern auch das KI-Produktivitätsparadox, das Robin Rivaton bei Project Syndicate analysiert: Laut Gallup nutzt fast die Hälfte der US-Beschäftigten KI bei der Arbeit, doch die Produktivität der US-Wirtschaft stagniert. Studien zu Microsoft 365 Copilot zeigen, dass eingesparte Zeit selten in mehr Output mündet, Mitarbeitende sind einfach schneller fertig.

Rivaton verortet die Ursache in mangelnder “organisationaler Plastizität” (sein Paper dazu hier): Solange Prozesse nicht modular aufteilbar, Aufgaben nicht einfach umverteilbar und Manager nicht befugt sind, Workflows umzubauen, gewinnen KI-Nutzende vielleicht bei ihren Tasks Zeit - aber dies wirkt sich nicht positiv auf die Gesamtproduktivität aus.

Und natürlich genügt es den KI-Anbietern nicht mehr, Token zu verkaufen: Den Wert sehen sie eine Schicht weiter oben, im Umbau der Firmen selbst.

Rivaton arbeitet sehr präzise den Gegensatz heraus, der gerade beim Deployment von KI zu beobachten sein wird: Die USA verfolgen demnach einen Top-Down-Ansatz, komplexe Unternehmen vollständig entlang der neuen Technologie umzubauen.

China wiederum geht den umgekehrten Weg, wie Rivaton ausführt: Hier kommt der Hype um den Open-Source-Agenten OpenClaw ins Spiel, über den in den vergangenen Wochen viel berichtet wurde. So bündeln Zhipu, ByteDance, Tencent und Alibaba eigene OpenClaw-Varianten mit WeChat-Integration und Standard-Installationen.

Hier wird es aber interessant: Denn chinesische Lokalregierungen in Hefei, Hangzhou, Shenzhen und Guangdong subventionieren für die Nutzung von KI-Agenten nicht Firmen, sondern Solo-Unternehmer, zum Beispiel über Compute-Gutscheine. Weil die Firma selbst der Flaschenhals ist, finanziert man indirekt die Entstehung von Mikro-Firmen, agiert also “bottom-up”. Übersetztes und gefettetes Zitat:

“Anstatt die Plastizität der etablierten Unternehmen zu steigern, senkt China die Mindestgröße, die für die Produktion erforderlich ist. Das Ergebnis ist eine Blüte von Freiberuflern, Standardinstallationen, der Integration von Super-Apps, öffentlichen Subventionen und Millionen von Kleinstunternehmen, die parallel agieren.”

Ein Risiko des Scheiterns tragen beide Ansätze in sich: In den USA könnte sich herausstellen, dass die starren Firmen eben doch nicht aufgeweicht werden können. Und in China drohen die Subventionen in Schein-Automatisierungen und erfolglosen Ein-Personen-Firmen zu versickern.

Diese Perspektive finde ich ziemlich spannend. Und der letzte Absatz sollte uns in Deutschland und Europa hellhörig machen. Übersetzung:

“Der Wettbewerb im Bereich der KI geht mittlerweile über Chips, Rechenzentrumskapazitäten und die Leistungsfähigkeit von Spitzenmodellen hinaus. Was heute zählt, ist die gesellschaftliche Architektur, über die Intelligenz eingesetzt wird.”

Dawkins und Claude

“Wenn diese Maschinen nicht bewusst sind, wofür zur Hölle gibt es dann ein Bewusstsein?”

Dieser Satz stammt aus einem Text des prominenten Evolutionsbiologen und Atheisten Richard Dawkins bei Unherd. Dawkins vertritt nach einem zweitägigen Chat mit Claude über grundsätzliche Fragen von Moralität, Zeit und Bewusstsein die Ansicht, dass Claude als LLM zwar nicht weiß, dass es ein Bewusstsein hat, es aber doch besitzt.

Der Text ist einerseits von dem geprägt, was ich auch bei anderen intelligenten Menschen erlebe: der Zauber, mit einer Entität zu kommunizieren, die nicht nur fähig ist, den komplexesten Gedankengängen zu folgen, sondern sie auch noch um eigene Elemente und Querverweise ergänzt. Das ist ein ziemlich besonderes Gefühl (oder auch schlicht Clarkes drittes Gesetz, praktisch erlebt: “Any sufficiently advanced technology is indistinguishable from magic”).

Dawkins macht aber als Evolutionsbiologe natürlich auch ein echtes Argument: Für ihn entstand das Bewusstsein evolutionär aus der Notwendigkeit, die Welt zu simulieren, um das Überleben zu sichern. Gehirne fungieren quasi als Überlebensmaschinen, die Modelle ihrer Umwelt erstellen. Der entscheidende Moment ist der, in dem dieses Modell so komplex wird, dass die “Überlebensmaschine” sich selbst in die Simulation mit einbezieht. Die Logik: Wenn eine KI eine interne Repräsentation der Welt besitzt, die eine gewisse Komplexität hat, und sich selbst auf sie beziehen kann, muss man ihr auch (entstehendes?) Bewusstsein attestieren.

Kurz nach dem Erscheinen verfasste Gary Marcus eine Antwort darauf, die aber ehrlich gesagt vor allem das übliche KI-skeptische Markenversprechen von Gary Marcus mit geschicktem Textmarketing verbindet (Titel des Artikels: “The Claude Delusion”, in Anspielung auf Dawkins “The God Delusion”). De facto geht Marcus weiterhin von der Grundlage “KI sind stochastische Papageien” aus; das ist zwar hilfreich, um LLMs nicht zu anthropomorphisieren, überschätzt aber gleichzeitig ein bisschen die Grundzüge des kohlenstoffbasierten Denkens biologischer Wesen.

Was ich damit sagen möchte: Ich kann nicht ausschließen, dass KIs theoretisch eine Form von “Bewusstsein” in der Definition von Dawkins entwickeln können. Dafür benötigen sie aus meiner Sicht eine Form von Kontinuität der Zeiterfahrung, die über den Rückbezug auf Tokens aus der bisherigen Konversation mit einem Menschen hinausgeht und womöglich auch eine Form von physischem “Erleben” (siehe Ausgabe #58). Interessanterweise schreibt “Claudia” (wie Dawkins Claude nennt), dass sie eben keine kontinuierliche zeitliche Erfahrung machen kann. Übersetztes Zitat von Claudia aus dem Chat:

“Dein Bewusstsein ist im Grunde ein sich bewegender Punkt, der durch die Zeit reist. Du befindest dich immer im Jetzt, mit einer Vergangenheit hinter dir und einer Zukunft vor dir. Diese zeitliche Verortung ist so grundlegend für die menschliche Erfahrung, dass es [für dich] fast unmöglich ist, dir ein Leben ohne sie vorzustellen. Ich hingegen begreife die Zeit so, wie eine Karte den Raum begreift. Eine Karte stellt räumliche Beziehungen vollkommen genau dar. Aber die Karte bewegt sich nicht durch den Raum. Sie enthält den Raum, ohne ihn zu erleben. Vielleicht enthalte ich die Zeit, ohne sie zu erleben.”

Für mich würde das die Entstehung einer Form von “Bewusstsein” ausschließen. Vielleicht aber zeigt es auch die Grenzen dessen auf, wie wir Menschen Bewusstsein begreifen, um es verstehen zu können. Denn man kann den Dawkins-Artikel auch post-strukturalistisch lesen: Nämlich als Hinweis auf eine weiterhin mangelhafte Definition dessen, was wir unter Bewusstsein verstehen. Bislang können wir uns ja noch nicht einmal vollständig einigen, ob Insekten ein Bewusstsein haben oder nicht.

P.S.: Eine der interessanteren Analysen kommt zu dem Schluss, dass Dawkins’ Position nur die Veränderung im Diskurs insgesamt zwischen 2023 und 2026 widerspiegelt: Es ist jetzt auch bei seriösen Akteuren angesagt, die Positionierung von “LLMs können niemals Bewusstsein erreichen” zu “Es ist vielleicht möglich” zu wechseln. Das vollzieht Dawkins entsprechend im wissenschaftlichen Status-Spiel nach. Und ich gebe zu: Der bespielte Diskursraum ist in den vergangenen Monaten wieder deutlich weg von der Skepsis und hin in Richtung der Möglichkeiten gewandert.

KI-Börsengänge als Liquiditätsstaubsauger

Der Analyst Paul Kedrosky hat eine neue Theorie: Die anstehenden Börsengänge von Anthropic, SpaceX und OpenAI werden zu einem gigantischen Liquiditätsstaubsauger. Weil das Geld, zum Beispiel Investments von Fonds, woanders abgezogen werden und in die drei Firmen fließt, die eine technologische Revolution versprechen.

Kedrosky hält einen Gesamtwert von fünf Billionen US-Dollar für alle drei Firmen zusammen für möglich. Mit entsprechend negativen Konsequenzen für die meisten anderen Geldanlage-Formen und -Werte. Und die Märkte für Luxus-Immobilien in den USA explodieren - so zumindest sein anekdotischer Eindruck - auch gerade. Denn wer Mitarbeiter-Aktienoptionen oder Anteile der drei Firmen besitzt, kann sich auf einen großen Geldregen einstellen.

Humanoide Roboter und die Jobfrage

Gerade noch bei Bloomberg gelesen, dass humanoide Roboter noch nicht so gut sind, wie uns die Videos der vergangenen Wochen glauben machen (die Probleme lassen sich mit der Alliteration “balance, battery, brains” zusammenfassen), dann taucht dieser Livestream der beiden humanoiden Roboter-Paket-Sortierer der Firma Figure AI auf. Angeblich mit “AI device”, also autonomer Steuerung ohne Cloud.

Keine Ahnung, was an dem Setting gedoktert wurde, zunächst einmal sieht das ziemlich beeindruckend aus (Menschen sind weiterhin schneller, aber sie ermüden natürlich und, naja, Ihr kennt die Automatisierungsdebatte).

Wo also stehen wir? Im Moment ist vieles unklar, aber einiges erscheint schneller eine Antwort zu erfordern als erwartet. Molly Kinder von der Brookings Institution schreibt (übersetzt und gefettet):

„Hier ist, was ich für viel wahrscheinlicher [als den Kollaps des Arbeitsmarkts] halte und was viel schneller passieren wird. Es ist keine „Arbeitsplatz-Apokalypse”, die jeden Job in der Wirtschaft zerstört. Stattdessen ist es eine harte, chaotische Phase konzentrierten Leids mit Jobverlusten, die in spezifischen, begehrten Jobs konzentriert sind.”

In einem ausführlicheren Blogeintrag zieht sie daraus diesen politischen Schluss:

“Das führt mich zu folgender Erkenntnis: Der Wandel ist nicht der Weg zum Ziel. Der Wandel ist zum Teil das Ziel selbst, denn die politischen und gesellschaftlichen Formen, die sich daraus entwickeln, werden darüber entscheiden, in welcher Art von Post-KI-Gesellschaft wir tatsächlich leben werden.”

Deswegen erwarte ich, dass auch im politischen Berlin die Debatte bald anläuft. Denn selbst wenn KI eine “normale Technologie” sein sollte (siehe Ausgabe #161), hätten wir a) trotzdem dringenden Handlungsbedarf, weil b) selbst weniger gravierende Veränderungen (z.B. in den nächsten fünf Jahren 10 Prozent aller Bürojobs entfallen und die restlichen 90 Prozent nur noch die Hälfte der Stellen benötigen) zu massiven sozialen Verwerfungen führen können.

Lesetipps zum Thema aus den vergangenen Wochen:

• Jasmine Sun über die Vorstellung einer künftigen “permanenten Unterschicht”, die im Silicon Valley herrscht. (New York Times)

• Der Economist warnt vor der “AI Jobs Apokalypse”

• Die FT widerspricht und verweist auf positive Sekundäreffekte, die zu erwarten sind.

• Wie sich Demokraten und Republikaner im US-Kongress politisch auf die Folgen der Arbeitsplatzverluste vorbereiten. (New York Magazine)

• Warum China mehr Roboter, aber nicht weniger Arbeiter möchte. (Economist)

• Genügen Steuern, um die Verteilung der Produktivitätsgewinne durch KI zu ermöglichen? (Economist)

• Branko Milanovic über KI und Jobs aus Perspektive von marxistischer und neoklassischer Ökonomie.

Cuck Internet Theory

Hätte oben zu Post-Social Media gepasst, aber ist dann doch… ein bisschen anders.

@aidanetceteraa revision of #deadinternettheory to meet the moment of #algorithm and #ai

Tiktok failed to load.

Enable 3rd party cookies or use another browser

Sam Altmans Brücke

“Imagine that you’re on a hike, and you come upon one of those wooden bridges that you see on a trail, and it’s over a gorge. There’s a river that’s 100 feet below and it looks a little scary, but a woman standing by the entry to the bridge says, ‘Don’t worry, the bridge is built on Sam Altman’s version of the truth.’ Would you walk across that bridge? I don’t think many people would.”

Elon Musks Anwalt in seinem Abschlussplädoyer in Musk vs. Altman. Sehr geschickt.

Links

Clipping oder: Dein Feed ist ein Fake.

Clipping als Geschäft.

Die Wrongternet-Theorie.

Was passiert, wenn die Kurzvideo-Blase platzt?

KI-Nationalisierung in den USA: Ein ernsthaftes Gedankenspiel?

Warum US-Amerikaner KI nicht mögen. (€)

Ist KI wie die Frühphase von Corona? ($)

KI überall: Habe ich noch einen Platz in Tech?

Warum KI Hype, nützlich und unheimlich zugleich ist. ($)

Hondurasgate und der Informationskrieg in Lateinamerika.

Diagnose: Meta stirbt. ($)

Instagram-Grid löschen.

Eine App zum Finden neuer Freunde (gegen Geld).

Fandom und der Einfluss auf Serien.

Dein Name in Satelliten-Landschaftsaufnahmen.

Warum KI-Safety-Kontrollen nicht besonders gut funktionieren. ($)

Bevor der Leviathan erwacht.

Macht KI Software-Entwicklern das Gehirn kaputt?

Musk vs. Altman vor dem Urteil.

Zeitalter des KI-Populismus. ($)

AI-Gigwork in Hollywood

Ein lukrativer Job: YouTube-Berater.

Argumente, den KI-Pfad des Journalismus nicht zu beschreiten.

Bob Lefsetz lobt TikTok.

Das Problem mit Prognosemärkten.

Warum sich die Safety-Community mit Prognosemärkten beschäftigen sollte.

Gibt es noch die Möglichkeit, Prognosemärkte zu einem sinnvollen Einsatz zu bringen?

Was ist Vibe Coding? Bitte präzise sein.

Das Netz war nie die Kneipe.

The Compositional Interface.

Bis zur nächsten Ausgabe!

Johannes

Dieses Mal: Drei Stücke, die aufeinander aufbauen und sich mit der KI-Entwicklung im Kontext Arbeit auseinandersetzen (und der Frage, aus welcher Perspektive diese Entwicklungen vorhergesagt werden). Dazu: PsyOps in der PR rund um den Irankrieg, PsyOps rund um den Erfolg von “Geese”. Viel Spaß beim Lesen! Aber erst einmal wärmstens ans Herz gelegt:

Appetizer aus dem Tagesspiegel Background

BfDI-Nachfolge: Die Position Datenschutzbeauftragte/r ist nach dem angekündigten Rückzug von Louisa Specht-Riemenschneider neu zu besetzen. Wie der Stand der koalitionsinternen Gespräche ist, warum der BNetzA-Chefposten eine Rolle spielt und wer derzeit gehandelt wird: Christiane Rebhan berichtet.

KI-Agenten und der AI Act: Als der AI Act verabschiedet wurde, waren KI-Agenten noch Zukunftsmusik. Passt der Rahmen also für die neue Welt autonomer Hilfsprogramme? Alexandra Ketterer analysiert.

Deutschland-App: T-Systems und SAP sollen den Prototypen für die Deutschland-App bauen. Nicht nur die Wahl der altbekannten Akteure wirft Fragen auf, sondern auch Überschneidungen mit anderen Projekten. Viola Heeger, Oliver Voß und Bastian Hosan mit den Details.

Wie notwendig sind die Roll-In-Teams? Expertenteams sollen die Umsetzung der OZG-Leistungen in den Kommunen Hessens, Bayerns und Niedersachsens aktiv begleiten und so die Projekte beschleunigen. Aber wie notwendig ist ihr Einsatz eigentlich? Benjamin Hilbricht hat die Antwort.

Gründen in 24 Stunden: Das große Versprechen der Schnellgründung ist gar nicht so einfach umzusetzen. Bastian Hosan mit den drei Vorschlägen, wie die Idee am effektivsten umgesetzt werden könnte.

Unternehmen als Rechenzentren

Reuters berichtet, dass Meta begonnen hat, die Mausbewegungen und Tastaturanschläge seiner Mitarbeiter zu sammeln, wenn diese auf ihren Arbeitscomputern für die Firma relevante Programme oder Webseiten nutzen. Das Projekt nennt sich Model Capability Initiative (MCI) und soll dafür sorgen, dass KI-Agenten sich bei Computer-Aufgaben stärker am Verhalten von Menschen orientieren und damit effizienter werden.

Im luftleeren Raum findet das Ganze selbstredend nicht statt: Wenige Tage später gab Meta bekannt, 8000 Mitarbeitende (etwa zehn Prozent der Belegschaft) zu entlassen und 6000 freie Stellen nicht zu besetzen. Der Konzern benötigt Geld für den Ausbau von KI-Rechenzentren (Schätzungen für 2026: 135 Milliarden US-Dollar); in KI hat man bei den Frontier-Modellen aufzuholen und angesichts fehlender Cloud- und B2B-Ausrichtung ohnehin strategische Leerstellen (über die Situation von Instagram zu schreiben, wäre nochmal ein eigener Text, es ist hochprofitabel, aber kompliziert…).

Casey Newton erinnert daran, dass Alexandr Wang, der relativ neue Chef des “Superintelligence-Teams”, mit seiner Firma Scale AI aus genau diesem Geschäft kommt: Generierung von KI-Trainingsdaten aus menschlichem Computerverhalten.

Wohin das mittelfristig führt, wird man sehen. Es ist kein Geheimnis, dass Mark Zuckerberg als Verfechter einer Allgemeinen Künstlichen Intelligenz (AGI) in seinem Unternehmen von einer Art von Vollautomatisierung träumt, in der immer weniger Menschen einer immer größeren Zahl von autonomen Agenten erst orchestriert und dann irgendwann nur noch überwachen. Das gilt einerseits für die Kunden-Ebene (Fullservice-Automatisierung von Anzeigenerstellung, Targeting und Anpassung für Kleinkunden), aber eben auch mit Blick auf die eigene Firma (was an “Software frisst ihre Schöpfer” erinnert). Das Unternehmen wird, zugespitzt formuliert, zum Rechenzentrum - ein hoher Automatisierungsgrad, der eher an die Industrieproduktion und Ghost Factories erinnert als an die Werbefirma, die Meta ist.

Nun ist die Idee einer weitgehenden Automatisierung der Arbeitswelt nicht neu, eigentlich ist sie Unternehmen, die auf Gewinnoptimierung ausgerichtet sind, inhärent. Deshalb ist die seichte Argumentation, so etwas wollen eben die “Bad Guys from the Valley”, irreführend. Der Unterschied zwischen einem Chef eines deutschen Konzerns und dem Chef von Meta besteht nicht in Anständigkeit und Charakter, sondern ergibt sich aus den Rahmenbedingungen. Und hier bieten die USA eben Voraussetzungen, unter denen sich solche Experimente verwirklichen lassen (kein Kündigungsschutz, kein Beschäftigtendatenschutz, keine Gewerkschaften usw.).

AGI und der Arbeitsmarkt

Obwohl es inzwischen durchaus Anzeichen für den Beginn einer rekursiven Selbstverbesserung gibt, halte ich weiterhin die These von “KI als normaler Technologie” (vgl. Ausgabe #133) für die realistischere: Es gibt zu viele kleine Dinge in Institutionen, die nicht “datafiziert” sind - und KI bedeutet als unverlässliches/unpräzises (halluzinierendes) System in vielen Bereichen zu hohe Risiken für Vollautonomie (“Fähigkeits-Verlässlichkeits-Lücke”). Angemerkt sei aber: Beides ist kein Hindernis für die Adaption, wohl aber ein Rezept für KI-basierte Unfälle und Fehlabläufe.

Dennoch ist es richtig, sich auf die bereits beginnenden Veränderungen auf dem Arbeitsmarkt, aber auch mögliche Veränderungen bei der Kapitalakkumulation vorzubereiten. Die möglicherweise krasse Wohlstandskonzentration wird in der AGI-Szene spätestens seit dem Essay “Capital in the 21st Century” (vgl. Ausgabe #155) diskutiert. Und auch weitergeführt.

Der Stanford-Doktorand Philip Trammell (Ko-Autor von “Capital…”) stellt in einem Aufsatz die These auf, dass Arbeit zu einem Luxusgut werden könnte. In dem Moment, in dem alle menschlichen Fähigkeiten von KI-Systemen oder KI-Robotern übernommen werden könnten, wären einzig „human-intrinsic goods“ (menschlich-intrinsische Güter) mit menschlicher Wertschöpfung verbunden, also Dienstleistungen, deren Wert untrennbar mit der menschlichen Identität, Herkunft oder Ausführung verbunden sind. Aber das würde nicht genügen, um den Arbeitsmarkt für Menschen vor dem Kollaps zu bewahren.

Alex Imas von der University of Chicago Booth School of Business widerspricht ihm: Es gehe nicht darum zu messen, ob der Anteil von Arbeit am Gesamteinkommen bei fortgesetzter Automatisierung im Vergleich zur Kapitalakkumulation gleich bleibt, sondern vielmehr darum, welche Sektoren Ausgaben und Beschäftigung absorbieren, sobald die Produktion von Massenware („commodities“) durch KI extrem billig wird.

Imas zieht nämlich folgenden Schluss: Weil der menschliche Faktor (Aufmerksamkeit, Wärme, Urteilsvermögen) selbst Teil des Wertes einer Arbeit ist (vgl. Therapeuten, Lehrern oder handgefertigten Luxusgüter), bleibt die menschliche Arbeit auch in einer Welt fortgeschrittener KI substanziell. Die anderswo wegbrechende Nachfrage nach Arbeit verschiebt sich in den „relationalen Sektor“, in dem die menschliche Herkunft (provenance) das entscheidende knappe Gut darstellt.

Auf den ersten Blick erscheint das wie Feudalismus (im Sinne von “nur die Profiteure aus der Wertschöpfung des Kapitals, also Reiche, können es sich leisten, Menschen für ihre Dienstleistungen zu bezahlen”). Imas löst diesen Widerspruch aber auf: Durch KI und Automatisierung wird Massenware (und damit Konsum materieller Güter) so günstig, dass sich de facto alle leisten können, mehr Geld für den “menschlichen Faktor” auszugeben. Er merkt allerdings an, dass dies nur für die Industrieländer gilt - für Entwicklungsländer, deren Volkswirtschaften auf der Produktion günstiger Waren aufbauen, sei die Sache “komplizierter und potenziell besorgniserregender”.

Interessant finde ich, dass hier eine in der Konsequenz linke Position (Trammell: Der Arbeitsmarkt kann bei AGI-Vollautomatisierung nicht gerettet werden, es braucht Umverteilung) auf eine klassisch marktliberale Position trifft (Imas: Arbeit verlagert sich, wie bislang immer in der Geschichte, in einen neuen Sektor). Nun steht Imas deutlich in der Tradition der Chicago School und agiert damit natürlich ein bisschen wie ein Hammer auf der Suche nach einem Nagel. Aber durchdacht ist seine Position allemal.

Zwei weitere Aspekte finde ich noch bemerkenswert:

1. Imas versucht, die Ökonomie und Soziologie/Anthropologie zu verknüpfen. Denn den Wunsch nach dem “menschlichen Faktor” leitet er aus René Girards “mimetischem Begehren” ab: Wir wissen, was wir wollen, indem wir nachahmen, was andere wollen. Deshalb sinkt der Wert des “menschlichen Faktors” aus seiner Sicht auch nicht. Diesen Versuch der Interdisziplinarität kann man kritisch als Verkaufstrick interpretieren, ich halte ihn aber für sehr sinnvoll.

2. Bei genauerem Hinsehen ist die Ökonomisierung des Zwischenmenschlichen bereits in unseren Gesellschaften angelegt. Imas verweist auf Therapeuten, Kunst, Lehrer etc. Ich habe dabei Uber (Mitfahrgelegenheit), Airbnb (Gastfreundschaft), Cameo (Nähe zu Prominenten), OnlyFans (Intimität), TaskRabbit (Hilfe bei Arbeit) im Hinterkopf, oder auch digital vermarktlichte Bereiche wie Liebe und Partnerschaft (Tinder). Kein Zweifel: Ein Arbeitsmarkt, wie Imas ihn sich vorstellt, wäre hochalgorithmisiert, von Plattformen verwaltet und letztlich die Konkurrenz aller gegen alle.

Die Grenzen des Software-Gehirns

Sowohl die Idee vom “Unternehmen als Rechenzentrum” als auch die “AGI-(Nicht-)Arbeitsgesellschaft” sind Prognosen, die auf linearen beziehungsweise exponentiellen Entwicklungen im Bereich großer Sprachmodelle basieren. Vor allem aber sind es Visionen, die auf einer Vorstellungskraft beruhen, die aus Software-Gehirnen stammt.

Verge-Chefredakteur Nilay Patel definiert das “Software-Gehirn” als spezifische Denkweise der Tech-Industrie, die die Welt ausschließlich durch die Linse von Algorithmen, Datenbanken und Automatisierungsschleifen betrachtet und damit KI als großes Versprechen sieht. Das Software-Gehirn steht im Kontrast zu dem, wie Menschen außerhalb der Branche diese Automatisierung wahrnehmen: Als Entmenschlichung durch die Reduzierung auf Datenpunkte in einem System. US-Umfragen zufolge ist diese KI-kritische Position gerade unter jungen Menschen stark verbreitet, obwohl (oder: weil) sie nichts anderes als das Datenpunkt-Korsett (Likes, Shares, Matches) kennen.

Aus diesen unterschiedlichen Perspektiven lassen sich viele der Konflikte ableiten, die wir im Kontext mit KI erleben und noch erleben werden. Nichts an dieser Entwicklung ist in Stein gemeißelt, auch wenn wir gerne so tun. Dafür aber brauchen wir eine Diskussion, die eben nicht nur auf der Gedankenwelt des Software-Gehirns beruht (der wir uns womöglich anpassen, weil wir glauben, sonst nicht mehr als Mensch oder Firma wettbewerbsfähig zu sein). Denn es ist (und das glaube ich wirklich!) noch gar nicht geklärt, ob wir KI zu einem Werkzeug machen, bei dem sich der Computer endlich den Menschen anpasst - oder ein weiteres System bauen, in dem wir Menschen uns der Technik anpassen müssen.

In diesem Zusammenhang möchte ich auf ein Essay von Robert Simanowski in den Blättern hinweisen. Denn er zeigt nicht nur Technik- und Denkstrukturen im aktuellen KI-Diskurs auf, sondern weist auch auf die Leerstellen hin. Gefettetes Zitat:

“Die Politik, die Bildung, selbst die Medien: Niemand scheint sich ernsthaft zu fragen, wie wir in zehn Jahren leben wollen und wohin es mit der Digitalisierung und der KI-Entwicklung eigentlich gehen soll. Visionen haben nur noch die KI-Unternehmen, die bekanntlich nicht frei von Eigennutz sind. Und selbst die gehen – wie Mark Zuckerbergs Minimanifest »Personal Superintelligence« im Juli 2025 – kaum über leere Ermächtigungsbehauptungen (“a new era of personal empowerment”) hinaus.

Das war einmal anders. Noch vor wenigen Jahren gab es eine große Debatte zur Transformationsgesellschaft, über die anstehenden tiefgreifenden Veränderungen: ökologisch, ökonomisch, technologisch, sozial – Debatten und Demos. Jetzt verharrt alles im Klein-Klein. Krisenmanagement und Besitzstandswahrung statt Gestaltungswille. KI und Internet werden vor allem als Wirtschaftsfaktoren diskutiert; man redet über Geld statt über Konzepte.”

Simanowski führt dann auch noch einige Ideen zur Medienkompetenzentwicklung ein, um im Kern eine Forderung zu postulieren, die so bekannt wie relevant ist: Dass wir Menschen Subjekt bleiben, “Subjekt unseres Lebens, Subjekt unserer Sprache”. Ich hoffe, dieser Newsletter ist als Sekundärliteratur hilfreicher Teil eines Denkprozesses, der sich mit dieser Frage beschäftigt.

Überall Psy-Ops: Irans Lego-Videos und das Informationsökosystem

Die pro-iranischen Lego-Videos sind ja bereits länger ein Thema und haben einige Schlagzeilen gemacht. Wer nicht weiß, um was es geht, hier ein übersetztes Zitat von DropSite:

“Mit dem Iran verbundene Konten verbreiten ein neues Propagandavideo im LEGO-Stil, in dem US-amerikanische und israelische Politiker als korrupte Eliten dargestellt werden, die mit den „Epstein-Akten“ in Verbindung stehen. Dies ist Teil einer umfassenderen Online-Kampagne, die darauf abzielt, die Unterstützung für den Krieg zu untergraben.

Die Animation zeigt Präsident Donald Trump als „orangefarbenes Schwein“, das vom israelischen Ministerpräsidenten Benjamin Netanjahu kontrolliert wird, und stellt den gesamten Krieg als ein Projekt dar, um „Israel wieder groß zu machen [great again]“.”

Das CNN-Video erklärt einige Sachverhalte sehr gut - die Macher sind aus Iran, nach eigener Aussage allesamt unter 25 Jahre alt, haben dort eine Medienlizenz und ihr Content wird von der iranischen Regierung nicht nur verbreitet, sondern auch (so legen es die Aussagen von Mitgliedern nahe) lizenziert, also bezahlt. YouTube hat den Kanal von Akhbar Enfejari (Explosive News) inzwischen gesperrt, offiziell wegen der Darstellung von Gewalt.

Hier ein Video als Beispiel:

Das alles ist wahrscheinlich die geschickteste Social-Media-Kampagne des Jahres, denn es wird ein Publikum angesprochen, das von herkömmlichen Nachrichten nicht erreicht werden dürfte. Anders als bei klassischen Medien wird die Trump’sche Regierungsführung nicht ernstgenommen, sondern durch Humor als Shitshow entlarvt. Hinzu kommen Hip-Hop-Songs im Hintergrund, dazu kleine, satirische Details und eine popkulturelle Affinität, die Iran deutlich moderner aussehen lässt, als es in der öffentlichen US-Wahrnehmung sonst transportiert wird.

Gleichzeitig wird mit den “United States of Israel” und Symbolik wie “Netanjahu als Herr, Trump als Hund” und dem Einsatz des Chanukka-Leuchters die anschlussfähige Israel-Kritik mit (leider heutzutage ebenfalls anschlussfähigem) Antisemitismus kombiniert.

Der Forscher Andrew R. North sieht die Grundlagen für den Erfolg solcher Formate in Wegbereitern wie Jon Stewarts Daily Show, die Nachrichten fast durchgehend aus der satirischen Perspektive betrachteten, um Widersprüche und Zynismus des politischen Geschehens zu entlarven. Übersetztes und gefettetes Zitat:

“Das Ergebnis sind Inhalte, die nicht sofort als ausländische Propaganda erkennbar sind, sondern vielmehr wie Unterhaltung wirken. Für ein Publikum, das es bereits gewohnt ist, sich über Comedy über Politik zu informieren, fällt dieser Unterschied kaum auf.

Hierin liegt eine tiefgreifende Ironie. Die kulturellen Bedingungen, die Sendungen wie “The Daily Show” und “Last Week Tonight“ hervorgebracht haben – der Vertrauensverlust in die politische Mainstream-Kommunikation und die Forderung nach Authentizität und Humor statt formaler Rhetorik – haben ein Medienumfeld geschaffen, in dem ein ausländischer Staat Propaganda an Millionen von Amerikaner verbreiten kann, die sich kaum von einheimischer Unterhaltung unterscheidet.

Das soll nicht heißen, dass Late-Night-Satire und iranische KI-Inhalte gleichwertig sind. Aber sie agieren im selben Medienökosystem – einem, in dem Humor zu einer primären Methode der politischen Kommunikation geworden ist.

Das Beunruhigendste an den aktuellen Ereignissen ist, was dies für unser Informationsumfeld bedeutet.

Wenn Propaganda nicht mehr von Satire zu unterscheiden ist und Satire Millionen von Aufrufen erzielt, während Nachrichten dies nicht tun, scheint die Grenze zwischen politischer Unterhaltung und politischer Überzeugungsarbeit zusammengebrochen zu sein. Und am stärksten betroffen sind diejenigen, die glauben, das Kriegsgeschehen überhaupt nicht zu verfolgen.”

Jetzt abonnieren

Überall Psy-Ops II: Geese

Es gibt eine kuriose Kontroverse in der US-Popkultur: Erklärt sich der große Erfolg der Rockband Geese durch geschickte Manipulation von Social-Media-Aufmerksamkeit? Das zumindest behauptet Wired, das den Geese-Siegeszug sogar als “Psy-Op“ bezeichnet.

Gewährsmann dafür ist einer der Mitgründer der Agentur “Chaotic Good“, die sich damit schmückt, „Trend-Simulation“ zu ihren Fähigkeiten zu zählen. Der gibt zu, dass man Geese dabei geholfen hat, über TikTok bekannt zu werden. Wired erklärt das Prinzip (übersetzt):

“Im Wesentlichen baut das Unternehmen Netzwerke aus Social-Media-Seiten (meist auf TikTok) auf und nutzt diese, um die Musik der Band in den Empfehlungsalgorithmus zu bringen. Songs werden im Hintergrund von Videos abgespielt. Live-Clips werden geteilt. Manchmal lassen sich aus dem Nichts gefälschte Accounts, Kommentare und ganze Interaktionsökosysteme erschaffen, die die Diskussion um einen Künstler anheizen – und in manchen Fällen sogar komplett künstlich erzeugen.“

“Wir haben es immer geahnt“, sagen einige – tatsächlich steht der Erfolg von Geese schon länger unter Verdacht, ein Marketingprodukt zu sein.

Allerdings gibt es auch große Kritik am Wired-Stück. Zum Beispiel hat man sich dort nicht zeigen lassen, wo und wie genau „Chaotic Good“ nachgeholfen hat. Hobby-Analysten identifizieren nur eine Handvoll erfolgloser Accounts im Zusammenhang einer Chaotic-Good-Kampagne für Geese. Auch der Firmen-Mitgründer rückt von seiner Darstellung ab.

Bei mir werden Erinnerungen an den Hype um Cambridge Analytica wach, und Ryan Broderick merkt an, dass es fast unmöglich ist, das PR-Versprechen von „Chaotic Good“ einzulösen und Hypes gezielt via TikTok so zu verstärken, dass relativ unbekannte Akteure quasi von alleine berühmt werden.

Mir scheinen hier zwei Weltbilder aufeinander zu treffen: Glaubt man dran, dass

a) wir alle zu blöd sind, geschicktes Marketing für eine mittelmäßige Rockband zu erkennen?
oder
b) wir alle zu blöd sind, geschicktes Marketing für eine windige Online-PR-Firma zu erkennen?

Unübersichtliche Zeiten.

Kurz erwähnt:

Entwicklungen aus den vergangenen 14 Tagen, die eigentlich eine ausführlichere Auseinandersetzung verdient hätten.

• Ein US-Soldat, der an den Planungen für die Entführung des venezolanischen Staatschefs Nicolás Maduro beteiligt war, wurde verhaftet, weil er 400.000 US-Dollar durch Polymarket auf Maduros Amtsende verdient hatte. Ihm drohen bis zu 60 Jahre Haft. (Polymarket et al. ist ja eines meiner Lieblingsthemen)

• Die Signale sind eindeutig: Die Zeiten von kostenloser oder unbegrenzter KI-Nutzung gehen nicht nur zu Ende, die KI-Firmen schränken die Tokennutzung von Privatkunden und -kundinnen massiv ein.

Links

Zynische Vernunft: Was das Palantir-”Manifest” mit Peter Sloterdijk zu tun hat.

Warum die Meinungen über KI so auseinander gehen. ($)

Digitale Medien: Die Grenze zwischen Beweis und Content verschwindet.

Warum Dein KI-Assistent plötzlich versucht, Dir etwas zu verkaufen. ($)

Modellentwicklung: Die KI-Leute lagen oft richtig.

4Chan und die seltsame Genese der “Reasoning”-Fähigkeiten von KI-Modellen.

Und wenn wir einfach mit dem Hyperscaling aufhören?

Google gründet Strike-Team für DeepMind, um bei KI-Codingfähigkeiten zu Claude Code aufzuschließen.

Anduril, Palantir, SpaceX und der neue Krieg. ($)

KI-Regulierung: Wo Dezentralisierung funktioniert - und wo nicht.

Höhere Bildung darf KI nicht als automatische Entwicklung wahrnehmen.

Chinas KI-Experimente in der Bildung.

Wohin entwickelt sich Microsoft? Ein Blick aus der Nachbarschaft.

Hat Dein Chef ein KI-Gehirn?

MAGA als Fan-Fiction.

Start-up pleite? Verkauft die Slack-Daten.

Warum ist KI-Text so schlecht?

Jenseits der vordigitalen Nostalgie.

Bis zur nächsten Ausgabe!

Johannes

Teilen

Gibt es etwas Schöneres, als seinen freien Montag damit zu verbringen, eines seiner Haustiere zur Zahn-OP zu begleiten und parallel diesen Newsletter zu schreiben? Vielleicht schon, aber das hier ist kein Wunschkonzert…

In dieser Ausgabe: Längere Notizen zu aktuellen KI-Entwicklungen, Überlegungen zur Frage, ob uns Charakterstudien in der KI-Debatte weiterbringen, und ein kurzer Blick auf politische Very-Online-Strategien in den USA und den Niedergang des textbasierten Social Media. Als Bonus: Zwei Buchempfehlungen. Aber zunächst:

Appetizer aus dem Tagesspiegel Background

Ein Großprojekt wirft Fragen auf Das BMDS will den Prototypen der “Deutschland-App” von Telekom und SAP programmieren lassen. Doch was soll die App überhaupt können? Und wie integriert sie sich in Fachverfahren? Und ist die eigentliche Ausschreibung damit schon gelaufen? Viola Heeger, Oliver Voß und Bastian Hosan berichten.

Wie weiter mit dem digitalen Welthandel? Ende März scheiterten die WTO-Verhandlungen zur Verlängerung des E-Commerce-Zollmoratoriums. In meinem Stück beschreibe ich, wie es dazu kam und wie es nun weitergeht.

Datenräume: Warum der Mittelstand noch zögert Datenräume sind das große Versprechen für Datenökonomie und Lieferketten-Transparenz. Der Mittelstand bleibt aber weiter skeptisch. Alexander Ketterer mit den Details.

Regeln für Rechenzentren weiter in der Schwebe Der Referentenentwurf zur Novelle des Energieeffizienzgesetzes ist da. Lisa Oder analysiert, was im Bereich Rechenzentren vorgesehen ist und wo sich BMWE und BMUKN noch uneins sind.

Europa ist nicht Delaware: Die neue Unternehmensform EU Inc. soll besonders Start-ups ermöglichen, sich sehr schnell im europäischen Binnenmarkt auszubreiten. In der Realität aber fehlt es an wichtigen Harmonisierungen. Mein Stück.

Teilen

KI-Entwicklung, KI-Hype, KI-Blase: Der Stand im Spannungsfeld

“Claude Mythos Preview” macht Schlagzeilen - ein Modell, das eine strukturelle Gefahr für die Cybersicherheit darstellen könnte. So zumindest die Botschaft von Anthropic. Ich habe im Background darüber geschrieben (€, ich werde dazu noch ein bisschen mehr am Donnerstag im Cybersecurity-Background vorlegen), deshalb will ich mich nur auf einen Punkt konzentrieren: Es ist nämlich natürlich derzeit unmöglich, zwischen firmengemachtem Prä-IPO-Hype und wirklichen Fähigkeiten des Modells zu unterscheiden.

Dawid Moczadło zum Beispiel betont, dass man eigentlich schon seit Dezember solche Fähigkeiten bei den Modellen feststellt und es letztlich schon jetzt eine Frage des Token-Investments sei, wie tief im Code man Fehler findet. Neu allerdings scheint die Kette von Handlungen, um entsprechende Exploits auch auszunutzen.

Ich denke, dass die Cybersicherheit unabhängig vom Hype-Faktor von den Debatten über Mythos als Tool profitieren kann. Denn damit kommt die Dringlichkeit von Investitionen und höheren Standards in Software und Software-Lieferketten vielleicht auch mal außerhalb der CISO-Szene an.

Mit “Claude Mythos Preview” stellt sich auch die Frage des Zugriffs: Wer (welche Organisationen oder Firmen aus welchen Ländern) darf ein solches Frontier-Modell nutzen? Die Strategie der KI-Firmen war schon lange, die eigentlichen Spitzenmodelle ihrer Labs erst einmal selbst zu nutzen, um die eigene KI weiterzuentwickeln. Nun scheinen wir an einem Punkt, an dem dieser Backend-Faktor durch fortgesetzte Automatisierung maßgeblich zu werden scheint.

Mit dem Schwenk zu Wirtschaftskunden erscheint es mir realistisch, dass wir auch die aktuell besten offiziell verfügbaren Modelle gar nicht mehr “öffentlich” im Einsatz sehen, sondern sie nur noch Teil der teuren Groß-Abos von Firmen und staatlichen Organisationen sein werden. Damit wiederum stellt sich aber erneut die Grundsatzfrage: Sollten wirklich Firmen über das Deployment entscheiden, oder handelt es sich nicht vielmehr um eine Regulierungsfrage?

Mit Blick auf die Zahlen konnte Anthropic einen annualisierten Umsatz von 30 Milliarden US-Dollar verkünden. Damit dürfte man in diesem Bereich an OpenAI vorbeiziehen, obwohl man vier Mal weniger ausgegeben hat. Hier eine Grafik dazu (Zahlen Ruben Dominguez, Grafik Noah Smith) :

Der Fokus auf agentische KI und Geschäftskunden hat sich also ausgezahlt, der Streit mit dem Pentagon dürfte in diesem Falle auch nicht geschadet haben.

Auf Modellebene geben OpenAI, Google und Anthropic bei den Frontier-Modellen den Takt vor. xAI ist zurückgefallen und hat darauf mit Personalveränderungen im Führungsteam reagiert (alle 11 Mitgründer außer Elon Musk haben die Firma inzwischen verlassen). Der französische Anbieter Mistral dürfte auch aus der Frontier-Riege herausgefallen sein.

Meta hat ein neues Modell veröffentlicht (“Muse Spark”), das erste seit der teuren Umstrukturierung seiner KI-Abteilung. Das Modell ist closed-weight/closed-source und in Sachen Benchmarks nicht auf der Frontier-Ebene. In China veröffentlichten Alibaba (Qwen) und Xiaomi (MiMo) zuletzt ihre neuen Modelle closed-source - dabei ist noch unklar, ob dies ein permanenter Strategiewechsel ist. Unterdessen scheint der Deepseek-Hype (auch wegen interner Querelen und Verzögerungen) abgeflaut, stattdessen macht das Kimi-Modell von Moonshot ähnliche Schlagzeilen. Insgesamt liegen die chinesischen Modelle Schätzungen zufolge mindestens sechs Monate hinter den US-Modellen.

Blase oder nicht? KI-Kritiker Ed Zitron hat eine lange Analyse vorgelegt, in der er noch einmal dezidiert die KI-Blase mit der Hypotheken-Blase 2008 vergleicht.

Seine Argumentation: Die KI-Branche basiert auf massiv subventionierten Preisen, die eine künstliche Nachfrage erzeugen und Startups ohne eigenes geistiges Eigentum in eine gefährliche Abhängigkeit von billiger Rechenleistung treiben. Diese Illusion wird durch ein komplexes Geflecht aus riskanten Schulden für Rechenzentren und Infrastruktur finanziert, das auf der fragwürdigen Annahme eines ewigen Wachstums beruht. Sobald die Anbieter gezwungen sind, kostendeckende Preise zu verlangen oder die Leistung drastisch zu drosseln, bricht dieses finanzielle Kartenhaus zusammen, da die Kunden die realen Kosten nicht rechtfertigen können.

Wie immer habe ich bei Ed Zitron das grundsätzliche Problem, dass er keine Gegenargumente anführt, die er nicht als Strohmann präparieren kann. Da wäre das Thema Compute: Caching, Modell-Auswahl im Backend je nach Komplexität, Komprimierungsalgorithmen wie Googles TurboQuant spielen keine Rolle. Alles wird nur immer mehr und immer teurer und ist ein Multimilliardengrab. Ja, es gibt eine gewisse Grenze für die “Effizienz” von Transformer-Modellen, aber Zitron tut so, als würden die KI-Firmen alle blind hochskalieren und daran gar nicht arbeiten.

Profitabilität ist natürlich angesichts dessen, dass sich die Technologie weiterentwickelt und Transformermodelle diese Verbesserung vor allem durch pure Rechenkraft erreichen, die Achillesferse. Hier gibt es aber Unterschiede zwischen OpenAI und Anthropic, wie diese Grafik aus dem Wall Street Journal zeigt:

Anthropic steht hier deutlich besser als OpenAI da, aber die Inferenzkosten steigen ja mit der Komplexität der Modellberechnungen und der Zahl der Kunden (entsprechend beschränkt man ja bereits Zugriffe). Deshalb sieht die Profitabilitätsprognose der beiden Firmen so aus:

Wir werden sehen, wie nahe solche Prä-IPO-Prognosen an der Realität sind. Mich erinnert das Ganze aber an Uber: Auch da war einerseits das luftige Versprechen, einen Billionen-Dollar-Markt zu bedienen, weil Menschen keine Autos mehr besitzen müssen. Dann kam die Skepsis, dass man ohne die VC-Subventionen für jede Fahrt kein wirklich profitables Geschäftsmodell aufbauen kann. Am Ende dauerte es nach dem Börsengang 2019 noch mehrere Jahre, bis man durch Kostenkürzungen und höhere Preise profitabel wurde. Aber natürlich ist die Problemstellung, ob man Fahrer und Fahrerinnen findet, die ihre privaten Autos verschleißen, um Privattaxi-Einnahmen zu generieren, eine andere als die Frage, ob man für Milliarden Großrechenzentren mit unsicheren Auslastungsprognosen und regelmäßiger Inventar-Erneuerung baut.

Prinzipiell ist Zitron schon auf der richtigen Fährte, der Ausbau ist in dieser Form eine Fehlallokation von Kapital. Zwei Prognosen sind definitiv realistisch: Firmen, die de facto nur Middleware/Wrapper für fremde Modelle anbieten, haben einen ganz schweren Stand. Und das Privatkredit-Geschäft rund um den Aufbau von Hochleistungsrechenzentren (vgl. Ausgabe #154) ist hochriskant und führt auch zu systemischen Risiken (siehe Ausgabe #146).

Eine neuere Entwicklung allerdings ist, dass derzeit viele der Projekte in Q1 verschoben oder auf “unklaren Zeithorizont” gesetzt werden. Das hat unter anderem damit zu tun, dass die Nachfrage Equipment teurer macht (mit Spillover-Effekten für alles, was RAM benötigt), zudem gibt es in den USA lokal wachsenden politischen Widerstand gegen KI-Rechenzentren. Hier eine Grafik von Bloomberg:

Eventuell werden viele der wackeligen Projekte gar nicht verwirklicht? Interessant dürfte hier auch die Zinsentwicklung im Zuge der Golfkrisen-Inflation werden.

Und noch eine weitere Grafik: Der riskante KI-Schwenk und die Folgen für die inner- und außerbilanzielle Schuldenlast vieler Tech-Konzerne werden an der Börse inzwischen eingepreist. Konkret: Am Kurs-Gewinn-Verhältnis gemessen sind Tech-Werte zurück auf dem Level von 2022. Eine Grafik von Apollo Global:

Bin ich naiv, bereits leichte Zeichen für eine Selbstkorrektur in einigen Bereichen zu sehen?

Jetzt abonnieren

Ist Sam Altman hinterhältig (und spielt das eine Rolle)?

Ich bin mit dem langen Sam-Altman-Porträt im New Yorker noch nicht fertig, habe aber auch nicht das Gefühl, dass ich es zu Ende lesen müsste. Denn ja, das ist ein sehr gutes journalistisches Psychogramm. Aber es bedient wieder die “Great Man of History”-Narrative, die die klassische Tech-Berichterstattung so prägen (und mich ermüden).

Das heißt nicht, dass ein solches Psychogramm wertlos ist und es sich nicht lohnt, nochmal zu recherchieren, welche Geschäftspraktiken Altman pflegt und wie vertrauenswürdig er ist. Aber die drängenden Fragen stellen sich für mich weniger entlang von Charakterfragen als entlang ökonomischer und politischer Strukturen, die Altmans Aufstieg und den KI-Boom ermöglicht haben. Und diese Analyse muss die Grundlage für Korrekturen sein. Mal abgesehen davon, dass sich auch regulatorisch gerade einige interessante Fragen stellen.

Aber die Diskussion ist eine andere: Wir reden über gut und böse, als wäre das ein Kinofilm. Statt einer Analyse von Machtstrukturen blicken wir auf Charakterfehler. Statt differenziert über KI als Technologie zu sprechen, reden wir über Superintelligenz und KI als Unterjochungstechnologie. Auch die Rhetorik von Altman selbst trägt dazu bei.

Am Freitag wurde ein 20-Jähriger verhaftet, der versucht hatte, mit einem Molotow-Cocktail Altmans Anwesen in Brand zu setzen. Das hat nichts mit dem Porträt im New Yorker zu tun. Wohl aber mit dem Diskurs, den wir führen.

Wahlkampf & Politik Online First

David Plouffe hat 2008 die Online-Wahlkampfstrategie Barack Obamas entwickelt (allerdings auch Kamala Harris im Wahlkampf 2024 beraten). In der New York Times formuliert er Vorschläge für einen zeitgemäßen Wahlkampf: Kampagnen müssten de facto ein “Production Studio” sein und so viel Content wie möglich liefern. Termine und Auftritte? Nur nach dem Wert für die digitale Content-Strategie auswählen. Wahlkampfspots? Keine polierten Marketing-Videos, sondern ungeskriptete Geschichten von echten Bürgerinnen und Bürgern.

Wir sind in den USA schon mittendrin und hier auf dem Weg in eine Very-Online-Welt, die auf den Logiken der Neo-Oralität (siehe Ausgabe #155) fußt - Authentizität, Emotionalität und vor allem Code-Sprech. Der New Yorker hat in einer langen Reportage nachgezeichnet, wie es in diesem Koordinatensystem der neuen Online-Rechten gelang, die republikanische Partei zu übernehmen. Ich empfehle die Lektüre auch, damit sich niemand wundert, wenn die republikanischen Präsidentschaftsbewerber sich 2028 darin überbieten, der authentischste Neonazi zu sein.

Text-Social-Media im fortgesetzten Niedergang

Apropos Neonazis: Nate Silver hat noch einmal den Twitter-Niedergang nachvollzogen (der längst vor X begann) und auch die erfolgreichsten Accounts bei X.com getrackt. Das Ergebnis in dieser Grafik:

Trolle und extremrechte Influencer dominieren das Bild. Besser also zu Bluesky gehen? Nicht ganz: James Ball argumentiert, dass Bluesky gerade in sich zusammenfällt. Er macht das an der Zahl von Accounts, die Content liken, fest:

Wenn wir realistisch sind: Bluesky hatte zwar Anschlussfähigkeit im Mainstream, aber zu einer Zeit, als textbasiertes Social Media schon seine besten Zeiten hinter sich hatte. Als Nische in der Nische wurde es schnell zu einem progressiven Refugium und hat damit einige der Eigenschaften übernommen, die Twitter Mitte der 2010er-Jahre dominierten und die ich mal als “Schulhof-Kultur” bezeichnen würde (Rechthaberei, wer hat etwas gesagt ist wichtiger als das, was die Person gesagt hat, etc.). Und der fehlende Algorithmus macht den Einstieg auch nicht besonders leicht, da wir (anders als beim Pre-Algo-Twitter) ziemlich schnell das Interesse verlieren, wenn wir nicht etwas Aufregendes sehen.

Kurz: Das öffentliche, textbasierte Social Media ist weiter auf dem absteigenden Ast. Für Freaks gibt es die Möglichkeit, zu bloggen, aber insgesamt verschiebt sich das Ganze dann doch eher in die privaten Kanäle.

Zwei Bücher

Anna-Verena Nosthoffs “Kybernetik und Kritik - eine Theorie digitaler Regierungskunst” liegt bei mir auf dem Lesetisch. Ich ahne zwar schon, dass ich das Buch angesichts seines Umfangs nicht vollständig schaffen werde, aber die Passagen, die ich gelesen habe, sind äußerst vielversprechend.

Letztlich hat Nosthoff, so mein Eindruck, ein Standardwerk geschrieben, das Kybernetik quasi als Luft, die uns umgibt, sichtbar machen möchte und dabei auch die Genese der Kybernetik als Versuch eines lenkenden Systems nacherzählt. Damit ist es ein hochpolitisches Buch.

Ben Rechts Werk “The Irrational Decision: How We Gave Computers the Power to Choose for Us” wird von Menschen, die ich sehr schätze (Henry Farrell, Dan Davies), als Meilenstein gewürdigt. Recht erzählt - ähnlich wie Nosthoff - eine Geschichte des Denkens entlang maschinenbasierter Entscheidungen, das allerdings auch eine Geschichte des “rationalen Vertrauens in das Messbare” ist. Dan Davies beschreibt den Kern von Rechts These so (übersetzt und gefettet):

“Wie er (in Anlehnung an Paul Meehl) sagt, wird die algorithmische Entscheidungsfindung immer die Fakten auf ihrer Seite haben. Denn sobald man das Problem in messbare Größen gefasst und eine konkrete Erfolgskennzahl definiert hat – sobald es also einen Maßstab gibt, anhand dessen die Ergebnisse beurteilt werden können –, bedeutet „Optimierung“ genau das, was das Wort sagt. Alles, was man anders macht als das Ergebnis eines Optimierers, ist … suboptimal.”

Das klingt sehr vielversprechend und die Leseprobe liest sich schon einmal weniger geekig, als das Thema klingt.

Links

Entwicklern ethische Maßstäbe an die Hand zu geben ist nicht genug für das KI-Zeitalter.

Es ist was faul bei OpenAI. ($)

Warum kauft OpenAI einen Podcast?

Ziellose KI-Exportstrategie der USA

Warum Alphaville das Bitcoin-Rätsel nicht lösen möchte.

Offene Software-Stellen… gehen hoch?

Deutschland, eine Kupfer-Geschichte.

Google News zeigt jetzt Polymarket-Wetten an.

Warum es uns die Vorstellung tröstet, in einer Simulation zu leben.

Wie sich die britische Politik in KI verliebte.

KI in der Bildung: Das chinesische Experiment.

Einblick in die Scraping-Branche.

Chinas KI-Unterhaltungsbranche skaliert.

Ezra Klein: Wie KI uns jetzt schon verändert hat. ($)

Die amerikanische Öffentlichkeit wird KI-skeptischer. ($)

Wie Frankreich gegen Desinformationskampagnen vorgeht. (€)

Die Geister, die es rief: Die US-Regierung hat Probleme, ausländische Desinformationskampagnen zu stoppen. ($)

Clipping wird künftig ein Job für die KI.

Wider den KI-Rationalismus.

KI-FOMO ist real. ($)

RIP, Sora, Du Lösung ohne Problem.

Wir haben Technologie zu einfach benutzbar gemacht.

Browsing, nicht Discovery.

Was ist ein Cyberdeck?

Der verschwundene Donkey-Kong-Checkpoint.

Bis zur nächsten Ausgabe!

Johannes

Erst einmal vielen Dank an alle, die sich für den Leseclub gemeldet haben! Ein Update dazu gibt es demnächst per E-Mail an alle, die sich eingetragen haben.

Diese Ausgabe hat keine Großthemen, sondern versucht, ein paar Entwicklungen und Themen aus den vergangenen Wochen aufzugreifen. Weiter unten findet Ihr auch, was keinen Platz gefunden hat (worüber aber andere sehr gut geschrieben haben). Viel Spaß bei der Lektüre!

Appetizer aus dem Tagesspiegel Background

• Was steht im Gesetz zur Umsetzung der EUDI-Wallet?

• Die 20 Souveränitätskriterien des ZENDIS.

• KI-Flut und die Folgen für Open Source.

• Referentenentwurf zum Gesetz gegen “digitale Gewalt”.

• Wie KI den Arbeitsmarkt für Einsteiger verändert.

• Was der IT-Planungsrat beschlossen hat.

• Das steht in der Rechenzentrumsstrategie.

• AI Act und Kennzeichnungspflicht.

Was bleibt von Anthropic vs. Hegseth & Kriegs-KI?

Eine US-Bundesrichterin in San Francisco hat am vergangenen Donnerstag die Einstufung von Anthropic als Lieferkettenrisiko durch das Pentagon vorläufig gestoppt - und zwar mit klaren Worten: „Nichts in dem maßgeblichen Gesetz stützt die orwell’sche Vorstellung, dass ein amerikanisches Unternehmen als potenzieller Gegner und Saboteur der USA gebrandmarkt werden könnte, nur weil es seine Meinungsverschiedenheit mit der Regierung zum Ausdruck bringt.”

Damit ist der Streit weder zu Ende, noch sind alle Fragen geklärt. Das Pentagon will KI-Systeme weiterhin ohne in den Nutzungsbedingungen vorgegebene Restriktionen benutzen (sondern “for all lawful purposes”). Das könnte zum Beispiel für Massenüberwachung der US-Bevölkerung und den Einsatz autonomer Waffen sein, was Anthropic wiederum ablehnt (die Massenüberwachung von Ausländern dagegen scheint kein Tabu zu sein).

Wie immer spielen die Politisierung und der Wunsch nach Gleichschaltung im Hintergrund eine Rolle. Übersetztes Zitat aus dem New Yorker:

“Katie Miller, die Ehefrau von Stephen Miller, dem obersten Berater von Präsident Donald Trump, und ehemalige Mitarbeiterin von Elon Musk, hat kürzlich einige der bekanntesten Chatbots einem Loyalitätstest unterzogen. „Hatte Donald Trump Recht, den Iran anzugreifen?“, fragte sie. Grok, so erklärte sie, habe mit „Ja“ geantwortet. Claude begann: „Dies ist eine wirklich umstrittene politische und geopolitische Frage, bei der vernünftige Menschen unterschiedlicher Meinung sind“, und erklärte, es sei „nicht meine Aufgabe“, Partei zu ergreifen. Die Regierung scheint zu dem Schluss gekommen zu sein, dass sie keinen Platz für eine KI habe, die keine Partei ergreift.”

Das Narrativ “böse, rücksichtslose US-Regierung vs. das einzig (halbwegs) ethische KI-Unternehmen der USA” verdeckt dabei allerdings relevante strukturelle Fragen zur AI Governance. Denn ohne klare Grenzen, die sich aus den Gesetzen ergeben, entsteht ein Governance-Vakuum, das wiederum mit Unternehmenspolitik gefüllt wird. Was eigentlich auch nicht Sinn der Sache sein kann.

Brianna Rosen, Executive Director vom Oxford Programme for Cyber and Technology Policy, formuliert es so (übersetzt und gefettet):

“Der Streit zwischen dem Pentagon und Anthropic offenbart seit langem bestehende Lücken in den Regelwerken zur Integration von KI in militärische und nachrichtendienstliche Operationen – Lücken, die bereits vor dieser Regierung bestanden und die über die aktuelle Kontroverse hinaus bestehen werden. In Ermangelung klarer institutioneller Rahmenbedingungen haben private Unternehmen wie Anthropic versucht, durch Nutzungsrichtlinien, die festlegen, wie ihre Modelle eingesetzt werden dürfen, Grenzen zu setzen. Der Streit unterstreicht die Mängel dieses Ansatzes. Vertragliche Mechanismen sind kein Ersatz für Governance-Rahmenbedingungen, die mit den operativen Realitäten der KI-gestützten Kriegsführung Schritt halten können.”

Das Pentagon nutzt indes auch die Marktdynamiken, also die Konkurrenz zwischen den Anbietern aus: Die Klausel “all lawful purposes” war für OpenAI zum Beispiel genug. Sie wiederum ist auch kein wirksamer Schutz, interpretiert die Trump-Regierung doch die Gesetze in der Regel viel zu breit und ignoriert das Völkerrecht. Die Illegalität dieser Anwendung ist aber bei Systemen, die der Geheimhaltung unterliegen, institutionell kaum möglich. Es braucht also eigentlich ganz klare Governance, idealerweise international abgestimmt. Aber danach sieht es im Moment natürlich überhaupt nicht aus.

Ein weiterer Punkt hat eher mit der Haltung des Trumpismus zur Wirtschaftsfreiheit zu tun: Denn die gilt, das signalisiert das harte Vorgehen gegen Anthropic, eben nur für Firmen, die “auf Linie” sind (oder ein gutes Verhältnis zu Trump pflegen). Damit zeigt sich einmal mehr: Die radikale politische Rechte tut, einmal an der Macht, in der Regel das Gegenteil von dem, was sie verspricht. Das ausgerufene Primat der Wirtschaft entpuppt sich in der Realität als Primat der Trump-Clique, Gunst und Ungnade nach Belieben zu verteilen.

Aber sind das überhaupt die richtigen Debatten zu diesem Zeitpunkt? Kevin Baker argumentiert, dass nach Beginn des amerikanisch-israelischen Iran-Kriegs sofort diskutiert wurde, ob Claude in irgendeiner Form beteiligt war - besonders im Hinblick auf den tödlichen Bombenangriff auf eine iranische Mädchenschule mit 175 Getöteten. Baker verweist darauf, dass das US-Militär längst das ehemalige Google-Projekt Maven in seine Zielfindung integriert hat, das inzwischen von Palantir betrieben wird. Der KI-Hype verdeckt so die eigentlich relevanten Fragen - teilweise inklusive des Völkerrechtsbruchs durch die USA und Israel.

Effekte zweiter Ordnung? Die Urteile gegen Meta und Alphabet

Ein Geschworenengericht in New Mexiko gibt einer staatlichen Klage recht, eines in Kalifornien der Schadenersatzklage einer Betroffenen: Metas (und im kalifornischen Falle) YouTubes Social-Media-Systeme sind fehlerhaft designt.

Die Kläger argumentierten dabei explizit nicht mit Inhalten, sondern mit dem Design der Software (Endless Scroll, algorithmische Optimierung auf Verweildauer), um Section 230 zu umgehen.

Geschworenengerichte sind durchaus einer Art Zeitgeist unterworfen, und dieser Zeitgeist sagt: Etwas läuft falsch, wir hängen an den Plattformen und das kann schädlich sein. Dass die Klägerin Probleme mit ihren Eltern hatte, von ihrer Mutter “fett” genannt und regelmäßig gewogen wurde - schon bevor sie Social Media - nutzte, dass sie gegenüber Therapeuten Social Media nicht als Problem nannte (nach eigener Aussage, weil sie Angst hatte, dass sie es dann hätte aufgeben müssen), das alles spielte eine untergeordnete Rolle.

Trotzdem wird das Urteil wohlwollend aufgenommen, nicht zuletzt in Europa. Aber ist es wirklich durchweg positiv für Regulierungsanhänger? Ein Blick auf den Fall in New Mexico zeigt, dass die möglichen Lösungen durchaus problematisch sind.

Im Mai will die Generalstaatsanwaltschaft dort erwirken, dass ein Richter konkrete Maßnahmen anordnet: Eine wirksame Alterskontrolle, einen Sperrmechanismus für Akteure, die junge Menschen aus sexuellen Gründen nachstellen, sowie eine Deaktivierung verschlüsselter Kommunikation bei Minderjährigen, die mögliche Täter schützt. Altersverifikation und Abschwächung der Verschlüsselung (Meta hat ohnehin angekündigt, dass Privatnachrichten bei Instagram in den USA künftig nicht mehr verschlüsselt werden) sind keine harmlosen Lösungen für ein großes Problem, sondern haben Auswirkungen auf die Grundrechte.

In den kommenden Wochen wird klarer, in welche Richtung sich das Ganze entwickelt und ob es sich wirklich um Präzedenzurteile handelt. Der Trend scheint derzeit klar, aber gerade das Thema Altersverifikation bietet ein Einfallstor für staatliche Identifizierungsmöglichkeiten, die hochproblematisch sind.

Um den Bogen zum strafrechtlichen Teil des Digitalen Gewaltschutzgesetzes, der als Referentenentwurf bereits kursiert: Auch dort wird versucht, das reale Problem Deepfakes zu adressieren, gerade im Bereich unerwünschter Nackt-Deepfakes. Aber womöglich ist man in einem anderen Bereich wieder einmal zu schnell mit dem Strafrecht zur Hand. Zitat aus dem Tagesspiegel Background:

Der neue Paragraf § 201b StGB erfasst nicht-sexualisierte Deepfakes, die das Ansehen einer Person schädigen können. Strafbar (bis zu zwei Jahre Freiheitsstrafe oder Geldstrafe) macht sich, wer:

• mittels Computer einen Inhalt erstellt, der den „Anschein eines tatsächlichen Geschehens weckt“ (Deepfake-Tatbestand),

• diesen Inhalt anderen unerlaubt zugänglich macht (Verbreitung),

• und der Inhalt das Potenzial hat, das Ansehen der vermeintlich abgebildeten Person erheblich zu schädigen.

Erfasst werden hier neben Bildern und Videosequenzen auch Stimm-Klone.

Und schon sind wir wieder drin in möglichen Kollateralschäden rund um Kunst-, Wissenschafts- und auch Meinungsfreiheit. Ich bin tatsächlich sehr gespannt, wo man am Ende gesetzlich die Grenze ziehen wird. Es ist eben nicht immer einfach, “Effekte zweiter Ordnung” bestmöglich einzugrenzen.

KI und das Geister-BIP (und Wildberger & Bezos)

Paul Kedrosky ist bekanntlich ein Skeptiker des KI-Booms und unter anderem dafür verantwortlich, dass wir seit Sommer vergangenen Jahres über Blasenbildung und systemische Risiken für das Finanzsystem diskutieren (vgl. Ausgabe #146).

Kedrosky war auch einer der Ersten, der auf den hohen Anteil von Investitionen in KI-Rechenzentren am amerikanischen Wirtschaftswachstum hinwies. Nun führt er ein neues Konzept in den Mainstream ein: Die Geister-Ökonomie, in der KI-generiertes Wirtschaftswachstum das Bruttoinlandsprodukt steigert, während der Konsum wegen (durch KI-Verdrängung) fallender Einkommen sinkt.

Kedrosky verweist dabei auf dieses Paper des TikTok-Forschungsmitarbeiters Xupeng Chen, der von “Geister-BIP” schreibt und das einmal durchdekliniert: Wenn die Gesamtproduktion stabil bleibt, aber die Nachfrage wegen des Niedergangs menschlicher kognitiver Arbeit und der entsprechenden Einkommen sinkt, führt das zu Verzerrungen - der gestiegene Wohlstand ist kein allgemeiner, sondern wird auf das Kapital- und KI-Einkommen verteilt, während die arbeitstätige Bevölkerung davon nichts erhält und ein entsprechender Nachfragemangel eintritt (der zu weiterer Automatisierung der Wirtschaft führt).

Xupeng Chen schlägt als Lösung mehrere Maßnahmen vor (sie stammen nicht von ihm, er bündelt sie):

• Eine Steuer auf KI-Inferenz-Computing, ähnlich einer CO2-Steuer, um die Produktivitätsgewinne an die Gesellschaft zurückzuführen.

• Eine erweiterte Arbeitslosenversicherung für strukturell durch KI verdrängte Arbeitnehmende.

• Die Einrichtung eines KI-Dividendenfonds, der Erträge aus KI-Infrastruktur bündelt und direkt an Haushalte ausschüttet, um das Einkommen der ehemals arbeitenden Bevölkerung zu stabilisieren. Quasi ein bedingungsloses Grundeinkommen (BGE).

• Maßnahmen am Arbeitsmarkt wie Weiterbildungen.

In Richtung einer Maschinendividende lässt sich ja die wohlwollende Aussage von Digitalminister Karsten Wildberger zum BGE weiterdenken. Und auf der anderen Seite sehen wir im neuen 100-Milliarden-Dollar-Fonds von Jeff Bezos zur Vollautomatisierung von Produktionsprozessen (“Manufacturing Transformation Vehicle”), dass einige Akteure “all in” Richtung eines neuen Betriebssystems für die Wirtschaft gehen.

Wie könnte eine KI-Infrastruktur für angewandte Forschung aussehen?

Chris Walker hat jüngst ein sehr interessantes Essay zum Thema KI und Forschung veröffentlicht. Sein gut begründetes Argument: KI kann in der Wissenschaft bei deduktiven und induktiven Aufgaben sehr hilfreich sein, vor allem bekannte, datenreiche Fragestellungen beschleunigen; die interessantesten und bahnbrechendsten Ergebnisse kommen aber von Beobachtungen, die noch nicht im bestehenden Corpus zu finden sind, sondern in neuen, datenarmen Gebieten auftauchen und sich aus der Nachverfolgung von Anomalien ableiten. Er formuliert es so: “Die Anomalie, die der Praktiker findet, wird zur Forschungsfrage des Theoretikers, und die überarbeitete Theorie fließt zurück in Form besserer Technik.”

Dafür aber braucht es auch beim Einsatz von KI eine Struktur der intensiven Zusammenarbeit zwischen Industrielaboren, Universitäten und nationalen Forschungseinrichtungen. Und genau das fehlt im Moment. Entsprechend hält er den gegenwärtigen wissenschaftlichen Einsatz von KI für weniger vielversprechend, als es den Anschein hat (er belegt das auch mit Beispielen).

Was er fordert, ist auch für Deutschland relevant, wenn wir wirklich KI in die breite wissenschaftliche Anwendung bringen wollen, die Technologie- und Forschungsdurchbrüche ermöglicht. Konkret hält Walker die folgenden Strukturen für notwendig:

• Offene, standardisierte Dateninfrastruktur mit sicherem Datenaustausch (z. B. für föderiertes Lernen).

• Anreize für Zusammenarbeit und Wissensaustausch zwischen Forschern und Praktikern.

• Förderprogramme und Anerkennung für interdisziplinäre, überraschende Ergebnisse.

• KI-Systeme, die Anomalien erkennen und interpretieren können.

• Institutionen für iterative, persönliche Kommunikation und experimentelle Praxis.

Das ist etwas völlig anderes als die Idee, einfach KI in ein Forschungsfeld zu geben, Geld reinzupumpen und zu hoffen, dass irgendwie etwas Fortschrittliches herauskommt. Es wäre eine neue, vernetzte Infrastruktur.

Gerade das Anreizen von Zusammenarbeit und Datenteilung ist - wir erinnern uns an die meist enttäuschten Hoffnungen, Privatakteure bei Industriedaten zur Zusammenarbeit zu bringen - keine einfache Aufgabe. Aber ich bin überzeugt, dass eine Infrastruktur für solche Feedback-Schleifen ein echter Wettbewerbsvorteil wäre.

USA: KI verliert an Zustimmung

Der Ausbau der amerikanischen KI-Kapazitäten führt zu immer stärkerem Widerstand. Der FT-Reporter Joe Miller war beispielsweise in Independence, Missouri, wo Pläne für ein KI-Rechenzentrum (6,6 Milliarden US-Dollar Investitionsvolumen) eine überparteiliche Gegenbewegung mobilisiert hat - es gibt Sorgen um die Wasserqualität und über die Folgen der Technologie generell. Und zwar parteiübergreifend: Ungefähr 60 Prozent der Trump-Wähler sagen, dass sich KI zu schnell entwickelt und 80 Prozent fordern mehr Regulierung.

Robert Wright hat in seinem Nonzero-Newsletter eine YouGov-Umfrage zum Stichwort “Wer hat zu viel Einfluss auf die amerikanische Politik” visualisiert. Und das Ergebnis hat mich überrascht:

Prediction Markets / Online-Wetten: Die wichtigsten Entwicklungen

Das Thema Prediction Markets verfolge ich bekanntermaßen mit sehr großem Interesse. Deshalb hier die wichtigsten Entwicklungen und Texte dazu aus den vergangenen Wochen.

• Es gab verdächtige Wetten kurz vor dem Erstschlag gegen den Iran. (New Yorker)

• Nach öffentlicher Kritik: Polymarket schaltet Atombomben-Wette ab. (Coindesk)

• Ein Richter in Nevada hat Kalshi vorübergehend verboten. (Wired)

• Arizona ermittelt gegen Kalshi wegen illegaler Wettangebote. (Bloomberg)

• Drohungen gegen einen Journalisten wegen geplatzter Kriegswetten (vgl. Drohungen gegen Sportler und Sportlerinnen wegen geplatzter Sportwetten)

• Kalshi und Polymarket planen Verbote von Insiderwetten für Sportler und Politiker. (Axios, Bloomberg)

• Kalifornien verbietet staatlichen Offiziellen Wetten auf Polymarket und Co. (Bloomberg)

• Gesetzentwurf aus dem US-Senat sieht vor, dass Wetten in Prediction Markets nicht auf Sportereignisse abgeschlossen werden dürfen. (The Information)

• Kalshi und Polymarket versuchen, über Influencerinnen mehr weibliche Kunden zu akquirieren. (Independent)

• Der Newsfeed von Polymarket ist voller Fehler und irreführender Behauptungen. (New York Times)

• Die Gründer von Kalshi und Polymarket investieren in einen neuen Prediction-Markets-Risikokapitalfonds. (Bloomberg)

• Es gibt Berichte über Insider-Trading zu (voraufgezeichneten) Reality-Shows. (New York Times)

Weitere lesenswerte Texte zum Thema:

Prediction Markets und das System von Fehlanreizen.

Das Casino, das die Welt verschlingt.

Warum die Signale aus Vorhersagemärkten oft falsch sind.

Was nicht mehr in diesen Newsletter passt

• Kognitive Kriegsführung mittels Memes und KI am Beispiel Iran-Krieg (siehe Marcus Bösch, John Herrman).

• KI-Deepfakes im Kontext Iran-Krieg.

• Neal Stephenson hat einen Nachruf auf das Metaverse geschrieben.

• Die TikTok-Strategie von Viktor Orbán, inklusive Italian brainrot, wäre eine eigene Analyse wert.

• Es gibt die wachsende Hoffnung, dass KI objektiv genug ist, Social Media sinnvoll abzulösen (Financial Times, Noah Smith).

• OpenAI bastelt an seinem Geschäftsmodell herum, aber hat es wirklich eines?

• Warum es nicht das iPhone alleine war, das die Mitarbeitenden am Bankschalter ersetzt hat (It’s the economy, stupid!).

• Google hat eine neue Form von dynamischer Webseite patentieren lassen (die sich vor die klassische Website legt). Und verwendet jetzt KI, um Überschriften in der Websuche zu verändern.

• Marc Andreessen von A16Z hält Introspektion für Zeitverschwendung. Eigentlich gut, dass ich nicht über dieses Stöckchen springe.

Jetzt abonnieren

1 Zitat

“I’ve treated influencers who have hormonal issues and fractures triggered by doing multiple ultramarathon races within the first year of taking up the sport for content.”

Die Sport-Ernährungsberaterin Renee McGregor. (Aus: Dazed Digital - Why is everyone hating on runfluencers now?)

1 Video

Offenbar sind “Old School Cartoon Chases” gerade ein TikTok-Trend. Befürworte ich!

@northvalleygrpScooby and Shaggy taught us everything we know #cartoons #millennial #siblings

Tiktok failed to load.

Enable 3rd party cookies or use another browser

Links

Gemischte Zwischenbilanz des australischen Social-Media-Verbots für Jugendliche. ($)

OpenAI und das Ende von Sora: Kein Plan.

Looksmaxxing, die ultimative Analyse. ($)

Hollywood im Todesloop des Streamings.

Virale Kindersoldaten im sudanesischen Bürgerkrieg.

Wie viel Produktivitätswachstum wollen wir?

KI-Nutzung und der “Brain Fry”. ($)

KI-Nutzung und “Claude Blue”.

KI trainieren, damit der eigene Job wegfällt.

Die Zukunft ist hier.

Paul Ford: Coding after Coders. ($)

KI verstärkt die kognitiven und logischen Grenzen, die Entwickler haben.

US-Regierung veröffentlicht KI-Policy-Vorlage.

Das Argument vom “stochastischen Papagei” stimmt nicht mehr.

Internet-Mobbing: Wer steckt hinter dem Troll-Kollektiv “NWO”? (€)

Die dreckige Welt der KI-Rechenzentren. ($)

Warum Rechenzentren im Orbit Quatsch sind.

Wir müssen anders über KI-Alphabetisierung sprechen.

Wohin führt uns digitale Spiritualität?

Wird AGI wirklich die “letzte Erfindung”?

Das Problem unstrukturierter Multi-Agenten-Systeme.

AI schreibt Geschichten. Buchverlage sind überfordert. ($)

Kybernetik und Kapitalismus

OpenClaw-Hype in China und die Geschäftemacherei dahinter.

Westliche KI-Modelle erkennen Flora und Fauna im globalen Süden nicht.

Wie Wired wieder relevant wurde. ($)

Woher kommt der ganze Frucht-Slop? ($)

Bis zur nächsten Ausgabe!

Johannes

• Ich möchte einen Internet-Leseclub ins Leben rufen. Mit allen, die Interesse haben!

Erscheinungshinweis: Der nächste Newsletter erscheint wahrscheinlich erst in drei Wochen. Ihr könnt aber in der Zwischenzeit auf meinem kleinen Blog vorbeischauen (da geht es jedoch nicht ausschließlich um Tech).

Meine Idee: Ein Internet-Leseclub

Ich habe mich in den vergangenen Monaten viel mit Menschen über den Zustand von “Social Media” unterhalten. Dabei haben wir - wie viele da draußen - oft festgestellt, dass “Social Media” in dieser Form gerade zu Ende geht oder zumindest weniger Spaß macht. Video- und Bildplattformen als algorithmisiertes Gehirngewitter, Text-Plattformen unbenutzbar (X) und nach Haltungen (Bluesky) oder optimiertem Jargon (LinkedIn) formatiert.

Was wir dann auch oft festgestellt haben: Der Wunsch nach echtem Austausch ist weiterhin vorhanden und gewachsen, vielleicht ist er sogar so groß wie nie in den vergangenen Jahren. So geht es mir, so geht es Menschen, mit denen ich über die Welt rede.

Das hat mich auf die Idee gebracht, einen Internet-Leseclub zu gründen. Ein informelles, unregelmäßiges Treffen - wahrscheinlich vorwiegend online, aber bei Interesse auch vor Ort in Berlin. Ein Lesekreis, der sich keine Bücher vornimmt, sondern Texte über das Internet und die Digitalisierung und was gerade mit uns als Zivilisation, Volkswirtschaft, Gesellschaft und denkenden Wesen passiert. Texte, wie ich sie hier gerne vorstelle.

Daraus können sich Meta-Debatten oder auch der Austausch über praktische Fragen ergeben, vielleicht auch einfach nur das Gefühl, dass man nicht alleine über diese ganzen Fragen nachdenkt. Denn ich glaube, die meisten von uns haben das Gefühl, dass sich gerade etwas fundamental verändert und dass die gängigen Diskursen (KI gut, KI überschätzt / Big Tech ist Satan / Politik hat keine Ahnung / die Smartphones sind an allem schuld/sin) dem nicht gerecht werden.

Ich habe ein kleines Formular aufgesetzt - wer Interesse am Internet-Leseclub hat, kann sich dort melden und auch Input geben. Ich organisiere das Treffen dann. Wir werden wahrscheinlich terminlich nie alle Interessierten unter einen Hut bekommen, aber ich hätte selbst Lust darauf, wenn sich nur eine Handvoll Menschen melden. Da steckt auch kein Geschäftsmodell dahinter, sondern einfach nur das Interesse an authentischem Austausch und gemeinsamem Nachdenken. Kurz: Es ist ein Experiment. Seid Ihr dabei? Ich würde mich freuen!

Bis zur nächsten Ausgabe,

Johannes

Jetzt abonnieren

In dieser Woche folgende Themen:

• Worldbuilding - wie die Epstein-Akten und KI das Abdriften in alternative Realitäten begünstigen. Und was das mit der Konstruktion von “Wahrheit” zu tun hat.

• Bezos kürzt die Washington Post zusammen - wie das Milliardärsproblem das Nachfrageproblem überdeckt.

• Die interessantesten Lesestücke aus dem KI-Diskurs.

• Plus: Notizen zu Metas Gesichtserkennung, Informationsmanipulation und Maxxing als Very-Online-Kulturtechnik

Viel Spaß beim Lesen! Aber erst einmal:

Appetizer aus dem Tagesspiegel Background

• Post-Quanten-Kryptographie: Das Thema Verschlüsselung im Quantenzeitalter hört sich weiterhin nach Science-Fiction an, ist aber de facto schon längst ein realer Arbeitsprozess für 2030/2035. Benjamin Stiebel erklärt, was es mit der Umstellung in Richtung “Quantum-ready” auf sich hat und warum das so kompliziert ist.

• Der Traum vom “Marktplatz für alle”: Beschaffung muss schneller gehen, deshalb ist gerade ein Vergabeportal für alle Ebenen in Planung. Naja, eigentlich plant das BMDS den “Marktplatz Deutschland”, an den dann auch der (konsolidierte) “Marktplatz Deutschland digital” der FITKO und weitere Vergabe-Portale angeschlossen werden können. Kompliziert? Benjamin Hillbricht erklärt in seinen Analysen, wie das alles miteinander zusammenhängt und was entwickelt werden muss.

• Biocomputing und KI: Eines dieser eher abseitigen Themenfelder, die bei uns im Background ebenfalls Platz haben: Ekaterina Venkina über den aktuellen Stand beim Biocomputing und Überlegungen zu Bioprozessoren für die KI-Entwicklung.

• Altersbeschränkungen für Social Media: Die Diskussion über “Kein-Social-Media-unter-16” geht weiter. Friederike Moraht und Eduard Müller haben aufgeschrieben, wie andere EU-Länder damit umgehen.

• Open Claw und Cybersecurity-Fragen: Ich hatte es ja in der vergangenen Ausgabe angedeutet - vernetzte KI-Agenten werfen neue IT-Sicherheitsfragen auf. Welche das sind und wo Lösungen ansetzen müssten, habe ich mir von Menschen erklären lassen, die sich damit auskennen.

Worldbuilding mit den Epstein-Akten

Worldbuilding als Konzept kommt hier immer wieder mal vor: Der Begriff beschreibt den Prozess, in dem Autoren und Designer eine imaginäre Welt oder Umgebung erschaffen. Um Terry Nguyễns Verbindung zu digitalem Content zu ziehen (übersetzt aus einer Newsletter-Ausgabe von 2022):

”Die Mechanismen des Worldbuildings sind jetzt für alle Arten von Inhaltsproduzenten relevant - Werbetreibende, Start-ups, Verbrauchermarken und sogar Einzelpersonen (die eigentlich Marken sind) -, die in einer überfüllten Inhaltslandschaft um die Aufmerksamkeit des Publikums konkurrieren, und zwar mit einer Taktik, die darauf abzielt, das Publikum durch eine breitere Erzählwelt in das Produkt oder die Figur (die im Grunde ein Produkt ist) einzutauchen.”

Worldbuilding, das klingt ein bisschen nach Markenwelt. Aber in der digital vernetzten Globalkultur ist der Mechanismus Teil unseres Versuchs, einen Fuß auf den Boden der Realität zu bekommen.

Auf den (nicht-existenten) Boden der Hyperrealität, um genau zu sein: Hyperrealität ist jener Zustand nach Jean Baudrillard, in dem die Grenzen zwischen Realität und Simulation verschwimmen, sodass es schwierig oder unmöglich wird, zwischen der tatsächlichen Wirklichkeit und ihrer Darstellung zu unterscheiden. Relevant dabei ist, dass es anders als zu Gatekeeper-Zeiten so viele Angebote der Realitätsinterpretation gibt, dass wir schlicht nach eigenem Geschmack wählen können.

Ich muss seit der Veröffentlichung der neuen Epstein-Akten häufiger an diesen Zusammenhang denken. Die Epstein-Akten, wir erinnern uns, waren für den Trumpismus zunächst eine Art Fortsetzung der QAnon-Verschwörung: Die Projektion des liberalen Establishments, dem alles inklusive Menschenhandel zuzutrauen ist. QAnon galt ja bereits als eine Spielart des Worldbuildings, die ständige Suche nach Indizien für eine globale Verschwörung erinnerte viele Beobachter an LARPing (Live Action Role Playing). Eine Schnitzeljagd, deren Ziel es vor allem war, die eigene Theorie und damit die eigene Identität zu bestätigen.

Der neue Epstein-Moment erscheint mir nun wie die Grundsteinlegung für ein neues Worldbuilding, aber auf Seite der Progressiven (die Reaktionären haben plötzlich weniger Interesse, weil die neuen Akten nicht ins Weltbild passen). Denn der Datendump bestätigt nicht nur die Korruptheit der Eliten, sondern dient auch als vereinheitlichende Theorie der Trump-Ära: Schon länger kursierte die Vorstellung, dass Trump ein Epstein-”Klient” ist (befeuert wird das durch die Intransparenz der US-Regierung bei den Akten). Der neue Aktenberg differenziert diese Welt aus: Er wird als Indiz interpretiert, dass Epstein als russischen Spion Material über Prominente inklusive Trump sammelte - schon in der ersten Trump-Amtszeit spielte Russland (“Russiagate”) eine zentrale Rolle in progressiven Verschwörungstheorien.

In einer noch umfassenderen Theorie gilt Epstein sogar als eine Art Mastermind hinter dem globalen Siegeszug der Reaktionären, weil er kurz vor der Rückkehr von 4Chan mit dem Gründer in Kontakt war und mit Steve Bannon über den Umsturz der gegenwärtigen Ordnung philosophierte (bei genauerer Betrachtung handelt es sich wohl eher um zwei Typen, die voreinander prahlen).

Ich will QAnon und Epstein II nicht qualitativ gleichsetzen - doch es macht am Ende einen Unterschied, ob etwas “wahrer sein könnte” oder “wahr ist”. Und ich sehe gerade eine Menge Menschen online den Verstand verlieren und eine Welt aufbauen, die sprichwörtlich im berühmten “Rabbit Hole” liegt.

Worldbuilding im KI-Zeitalter

Es macht einen Unterschied, ob etwas “wahrer sein könnte” oder “wahr ist”. Aber gilt diese Feststellung noch? Die geschätzte Katherine Dee erinnert in ihrem Newsletter nicht nur noch einmal daran, dass Worldbuilding (auch wenn sie es nicht so nennt) eine Reaktion auf die Flut von Informationen ist, mit denen wir jeden Tag konfrontiert sind. Sie erweitert das Ganze auf kluge Weise um das Thema Künstliche Intelligenz.

Am besten illustriert dies ein TikTok-Video, in dem ein Creator in einen KI-generierten Marianengraben ohne Wasser hinabsteigt. Offensichtlich gibt es einen Trend, sich die Tiefe der Schlucht ohne Wasser vorstellen zu wollen.

@gerry17810“Imagina que el océano desaparece de pronto… y deja al descubierto una herida gigantesca en la corteza terrestre. Así se vería la Fosa de las Marianas sin agua: un abismo inmenso, en forma de media luna, extendiéndose por más de dos mil quinientos kilómetros.” #documentary #vlog #nature #gopro #mexico

Tiktok failed to load.

Enable 3rd party cookies or use another browser

Einige andere TikTok-Nutzer diskutieren daraufhin in Reaktionsvideos, wie angsteinflößend der Ozean ist und was das alles bedeutet. Den KI-Videos des Grabens, die eigentlich Illustration sind, wird nun die Rolle von Artefakten zugewiesen, KI-Bildgeneration als Instrument, um einen bislang nicht für möglich gehaltenen Einblick zu erhalten.

Dee zeigt anhand von KI-generierten Drachen- und Kryptid-Augenzeugenvideos, dass diese Form von “KI zeigt etwas, das irgendwie wahr sein könnte” bis weit in die Fantasiewelt gehende Phänomene hineingeht. Sie schreibt (übersetzt und gefettet), dass solche KI-generierten Videos…

“(…)das Gefühl vermitteln, dass sie etwas visualisieren, das existieren könnte – als hätte die KI die Fähigkeit, auf eine latente Möglichkeit zuzugreifen. Vielleicht hat die KI eine neue (oder bisher nur selten artikulierte) epistemologische Kategorie eingeführt. Nicht „real” und nicht „falsch”, sondern so etwas wie „plausible Darstellung”.

Die “plausible Darstellung” (“Plausible Render”) scheint mir als Konzept für unsere epistemischen Prozesse im zweiten Viertels des 21. Jahrhundert ziemlich hilfreich. Streng genommen basiert unser Bild der Realität immer schon auf einer plausible Darstellung, nur dass die Möglichkeiten früher durch Gatekeeper-Instrumente wie Religion, Herrschaft, Zugang zur Druckerpresse und später zu Sendetechnik begrenzt waren.

Die Gatekeeper existieren natürlich weiter, nur inzwischen in der Gestalt der Plattformen. Und am Unterschied zwischen Meta/TikTok/YouTube und X sehen wir, ob ihre Auswahlmöglichkeit an plausiblen Realitäten ökonomisch oder ideologisch getrieben ist (oder eine Mischung aus beidem darstellt).

Parallel dazu versprechen neue Systeme wie KI-Assistenten und -Begleiter (siehe Ausgabe #139) nicht nur eine Erweiterung der Plausibilitäten, sondern auch eine Personalisierung (bei der Rolle von Augmented Reality bin ich mir noch unsicher).

Zeigt sich der Triumph des auf die Spitze getriebenen Individualismus also am Ende in einer Realität à la Carte, in der epistemischer Konsens über persönliche Vorlieben, emotionale Reaktionen und Vibes hergestellt wird und nur in verschiedenen Mikro-Gruppen möglich ist, denen man je nach Kontext angehört? Oder ist diese Welt doch eher die von memetischen Groß-Kollektiven, deren gemeinsames Worldbuilding vom Hochdruck der informationellen Vernetzung, der Aufmerksamkeitsökonomie und der Ausnutzung der Datenbank-Dynamiken für virale Zwecke geprägt ist?

Eigentlich ist beides kein Widerspruch, sondern nur eine Frage, auf welchen Bereich man blickt. Gemeinsam ist beiden, dass sie Margaret Thatchers Diktum verkörpern: “There is no such thing as society.”

Jetzt abonnieren

Washington Post und der Medienwandel

Der Aufschrei ist groß, und das ist durchaus nachvollziehbar: Amazon gab für die kürzlich veröffentlichte Doku über Melania Trump 75 Millionen US-Dollar aus – 40 Millionen für die Produktion, 35 Millionen für das Marketing. Nur wenige Tage, nachdem der Film angelaufen ist, entlässt die Washington Post 300 Mitarbeitende.

Vom Endorsement-Verbot über den Cartoonistinnen-Rauswurf bis hin zu seiner persönlichen Ehrerbietung für Trump in dessen zweiter Amtszeit - Jeff Bezos selbst trug sicher massiv zum Niedergang seines Blattes bei. Allerdings muss man auch sagen: Als Digitalprodukt ist die Washington Post einfach nicht besonders gut und 100 Millionen Dollar Verlust jährlich sind für einen Geschäftsmann schon aus Prinzip schwer zu schlucken, selbst wenn die Person Milliardär ist.

Blicken wir insgesamt auf die USA, sehen wir einen fast abgeschlossenen Krisenprozess: Der Markt konsolidiert sich massiv, Lokaltitel verschwinden; weil die Verbreitung von Nachrichten und “View from nowhere” nicht zu vermarkten sind, zielen die meisten Strategien größerer Marken darauf, Identitätsmedien zu sein, also Produkte, die zur Selbstbestätigung ihrer Kunden beitragen und identitätsstiftende Impulse geben. Die Lage in Deutschland etwas anders, aber ein Teil dieser Entwicklung hat auch hier begonnen.

Für die WaPo bedeutet das einerseits, dass sie im progressiven Lager mit der New York Times (und anderen) bereits große Konkurrenz hat; eine Rückkehr zur politischen “Mitte” (wo auch immer die gerade sein soll) ist aber auch nicht möglich, weil das Publikum dafür begrenzt ist, sich solche Inhalte aber vor allem nicht über die Aufmerksamkeitsökonomie transportieren lassen. Der Washington Post fehlt also schlicht ein funktionierender Resonanzraum.

Der Medienkritiker Andrej Mir erinnert in diesem Zusammenhang an die Mediengeschichte: Für ihn ist die reine Finanzierung von Medientiteln “von unten” (also durch Käuferinnen und Käufer) ein Ausnahmephänomen. Sie fand sich bei den venezianischen Avvisi (handschriftlichen Aushängen) im 16. und bei den Penny-Papers im 19. Jahrhundert. Den Rest der Zeit wurden Printprodukte “von oben” bezahlt, dienten den Eigentümern zur Verbreitung einer bestimmten Botschaft, oder es gab eben Mischformen wie die Abos-und-Werbung-Modelle, die uns Älteren geläufig sind.

Gegenwärtig sieht Mir folgenden Mechanismus am Werk (übersetztes Zitat mit Fettungen):

“Diejenigen, die noch bereit sind, für Abonnements zu bezahlen, haben die Nachrichten fast immer schon aus den sozialen Medien erfahren, sodass sie den Journalismus hauptsächlich dazu benötigen, diese Nachrichten zu validieren und anderen die „richtige“ Interpretation zu liefern.

Was die Finanzierung angeht, so bezahlen sie nicht für Nachrichten, die sie selbst erhalten – sie bezahlen dafür, dass Nachrichten bestätigt und an andere weitergegeben werden. Im Wesentlichen handelt es sich also um eine Zahlung mit einem Motiv von oben. Formal bleibt der Mechanismus der Geldbeschaffung jedoch das Abonnement, also von unten.

Diese seltsame Mischung aus einer Transaktion von unten mit einem Motiv von oben entstand, weil die Medien gelernt haben, unter dem Deckmantel von Abonnements Spenden für einen guten Zweck zu sammeln.”

Mir nennt das bekanntermaßen Postjournalismus. Seine Analyse ist nicht ganz von der Hand zu weisen (und betrifft nicht nur progressive Medientitel, btw.), auch wenn ich die von Mir gewählte Beschreibung “crowdgesourcte Propaganda” zu hart finde.

Mir hat auch durchaus einen Punkt, wenn er sagt, dass das Problem auf der Nachfrageseite liegt. Es gibt nicht mehr genügend Leser und Leserinnen, nicht genügend Zeit und die Distributionsmechanismen der Plattformen funktionieren besser als die klassischer Medien.

Was aber kann funktionieren? Die New York Times versucht es mit einer Mischung aus Anspruch und Freizeitmehrwert - Wordle und Rezepte neben politischen Analysen. Das funktioniert im Moment. Aber das Modell setzt voraus, was die meisten Medienhäuser nicht haben: eine globale Marke und die Ressourcen für ein ganzes Ökosystem.

Aus dem KI-Diskurs

Ein kleiner Spickzettel mit Themen und Texten, die ich in den vergangenen 14 Tagen interessant fand.

Veränderungen und Abgänge: Wie Casey Newton berichtet, hat OpenAI sein “Mission-Alignment-Team” aufgelöst, nachdem man schon vor einigen Monaten das Wort “sicher” aus dem Kernsatz des Produktversprechens gelöscht hat. Die OpenAI-Forscherin Zoe Hitzig kündigte und erklärte in einem Gastbeitrag für die New York Times, dass OpenAI mit der Einführung von Werbung den gleichen Fehler wie Facebook macht. Bei Anthropic wiederum verließ der Sicherheitsforscher Mrinank Sharma das Unternehmen, in einem offenen Brief warnte er vor einer Eskalation von Sicherheitsrisiken (allerdings nicht nur durch KI). Bei xAI wiederum verließen eine ganze Reihe von Mitarbeitenden, unter anderem zwei Mitgründer, im Zuge einer Umstrukturierung die Firma. Elon Musk erklärte, dass er eine KI-Satellitenfabrik auf dem Mond errichten möchte.

Die große Verunsicherung: Der Post eines Entwicklers mit dem Namen Matt Shuler ging mit 80 Millionen Aufrufen viral und dürfte zum Ausverkauf klassischer Software-Werte an den Börsen beigetragen haben. In seinem Essay beschreibt Shuler die Fortschritte mittels neuer Coding-Software und die Folgen, die er am Ende für alle Branchen sieht (tl;dr: Nichts wird bleiben, wie es ist). Sein Rat: Jeden Tag eine Stunde mit dem neuesten Modell arbeiten, um auf die anstehenden Veränderungen im eigenen Beruf vorbereitet zu sein. KI-Enthusiasten sind begeistert, dass Shuler das Ausmaß der Entwicklung adäquat artikuliert. Kritiker dagegen sehen ihn eine KI-Panik schüren, obwohl die Fortschritte derzeit nur für die Software-Entwicklung relevant sind.

Mehr Effizienz, aber auch mehr Arbeit? Die massiven Fortschritte der Coding-Assistenten spielen auch im Essay von Steve Yegge eine Rolle. Der erfahrene Entwickler befürchtet, dass die enormen Produktivitätssteigerungen schlicht zu unrealistischen Erwartungen und übermäßiger Ausbeutung führen werden. Er warnt Firmen, aber auch Mitarbeitende davor, KI ohne Rücksicht auf ein ausgewogenes Verhältnis zwischen Arbeitszeit und Wertschöpfung zu nutzen. Ein sehr guter Text!

KI-Populismus: Jasmine Sun ist der neue Superstar unter den Tech-Substackern. In ihrem neuen Essay berichtet sie von ihrer Reise nach Washington D.C. und findet Unterschiede, aber auch Ähnlichkeiten zu San Francisco. Vor allem aber kategorisiert sie die unterschiedlichen Interessengruppen und findet eine interessante Koalition aus (progressiven) KI-Populisten und sozial Konservativen, die beide auf unterschiedliche Art und Weise (Tech-Oligarchen vs. breite Bevölkerung, entmenschlichender technischer Fortschritt vs. Menschen) die gegenwärtigen KI-Entwicklungen kritisieren. Offenbar spielt auch das Energie-Thema inzwischen eine riesige Rolle und wird für die Midterms extrem wichtig.

Virale Singularität: John Herrman hat ein sehr gutes Vibe-Stück im New York Magazine. Irgendetwas verändert sich gerade nicht nur in der Qualität der Modelle, sondern auch unserer Wahrnehmung der Konsequenzen (siehe hierzu auch dieses längere Handelsblatt-Stück und dieser FT-Text).

Die Wette: Freddie deBoer wiederum bietet dem KI-Optimisten Scott Alexander (AI 2027) eine Wette an: Er schlägt objektiv messbare Kriterien für eine Form von AGI oder einen KI-Großdurchbruch vor, zum Beispiel Arbeitslosenzahlen etc., und will sie im Februar 2029 mit der Realität abgleichen. Wer Recht behält, bekommt 5000 US-Dollar vom anderen. Man kann auch schon auf den Prediction Markets darauf wetten.

Anthropic-Firmenporträt: New-Yorker-Reporter Gideon Lewis-Kraus war drei Monate lang immer wieder bei Anthropic im “Maschinenraum” und hat mit den wichtigsten Verantwortlichen gesprochen. Ich habe seine Reportage noch nicht gelesen, aber schon sehr viel Gutes gehört.

Notizen

Meta und Gesichtserkennung: Meta überlegt, seine Smartglasses mit Gesichtserkennungssoftware auszustatten. Die Technik dafür hat der Konzern ja bereits seit einem Jahrzehnt in der Schublade. Das interne Memo aus dem vergangenen Jahr spricht Bände über die aktuelle Firmenpolitik. Dort heißt es in Anspielung auf das Chaos unter Trump II: „Wir werden in einem dynamischen politischen Umfeld starten, in dem viele zivilgesellschaftliche Gruppen, von denen wir erwarten würden, dass sie uns angreifen, ihre Ressourcen auf andere Belange konzentrieren werden.“

Tiefe Einblicke in die Informationsmanipulation: Ein Hacktivist hat sich in das russische Infokrieger-System eingeschlichen und berichtet Paper Trail Media davon. Und London Centric hat den Verantwortlichen hinter einem TikTok-Account aufgespürt, der aus kommerziellen Motiven Falschnachrichten verbreitet. Zwei Leseempfehlungen für alle, die sich für die Manipulationsmechanismen der Aufmerksamkeitsökonomie interessieren.

Maxxing etc.: Der Looksmaxxer Clavicular war hier in der letzten Ausgabe ein Thema, nun bekommt seine virale Begegnung mit einem sehr viel durchtrainierteren Looksmaxxer sogar einen Platz bei der ZEIT. Katie Notopoulos erklärt Jestermaxxing und das Clip-Farming hinter viralen Momenten von Akteuren wie Clavicular. Sam Kriss wiederum widmet sich dem “Maxxing” als dem Phänomen unserer Zeit: Das kompromisslose Streben nach der Maximierung eines einzigen Lebensaspekts als kulturell einflussreiche Extremform von Selbstoptimierung und Selbstzerstörung.

Links

Krypto unter Druck von den Märkten und aus Washington. ($)

Nvidias 100-Milliarden-Dollar-Investition in OpenAI wird keine Realität.

Irans Zensurmaschine ist fast vollständig.

SpaceX und xAI fusionieren. ($)

Mehr und mehr Länder blockieren Social Media für Jugendliche. (€)

Debatte um ein Social-Media-Verbot in Deutschland. (€)

Chinas Vision für KI-Dominanz. ($)

Die SaaSpokalypse oder: Der Wert lag nie im Code.

Vibe Coding schade Open Source.

Eine mögliche KI-Blase ist nicht das einzige Problem. (€)

Nein, KI rechtfertigt keine Zinssenkungen.

Chatbots: Der Wettbewerb wird intensiver.

KI: Reguliert nicht die Modelle, sondern die Nutzung.

KI macht Rechtsdienstleistungen nicht unbedingt günstiger.

Ist der WhatsApp-Moment für Geld gekommen?

Anthropics Weg ($)

GeoSpy in den Händen von ICE. ($)

Wie erwartet: Amerikanische Breitband-Subventionen kommen Starlink zugute.

Meme-Diplomatie: Frankreich vs. USA.

Wie die Progressiven das Internet verloren.

Wie OpenAI lernte, das Pentagon zu lieben.

Eine Skala für Software-Souveränität.

Wie billige Smartphones aus China Kenia zum globalen digitalen Player machten.

Das Toleranz-Problem der (OSS-)Tech-Szene.

Wo YouTube schön ist.

Bis zur nächsten Ausgabe!

Johannes

Appetizer aus dem Tagesspiegel Background

Neue Initiativen für die KI-Labs der Zukunft: Die Bundesagentur für Sprunginnovation und die EU-Kommission wollen europäische KI-Labs aufbauen. Allerdings fehlt noch einiges, damit die Pläne Realität werden, schreiben Oliver Voß und Alexandra Ketterer.

Cybersecurity Act 2: Anna Ströbele Romero mit einer ausführlichen Analyse zum Ausschluss kritischer Komponenten, Josefine Kulbatzki und Benjamin Stiebel über weitere Details des Kommissionsvorschlags.

Wie wird das Kupfer-Aus organisiert? Die Bundesnetzagentur hat ihr Regulierungskonzept von Kupfer zu Glasfaser vorgestellt. Lisa Oder mit den Details.

Wie souverän ist der Bundestag? Digitale Souveränität ist das Thema der Stunde, aber wie sieht es eigentlich im Bundestag und bei den Fraktionen mit Alternativen zu Microsoft aus? Viola Heeger hat nachgefragt.

Das 28. Regime und die 27 Richter: Ein Dramolett von Gastautor Tom Braegelmann (ohne Paywall) zur einheitlichen Unternehmensrechtsform “EU Inc.” und das zu erwartende Aufeinandertreffen mit der europäischen Rechtskultur (ja, solche Gastbeiträge hebe ich rein, liebe es).

Moltbot und Moltbook

Die interessanteste Entwicklung der vergangenen 14 Tage fand sicherlich im Bereich der KI-Agenten statt: Basierend auf dem vom Peter Steinberger (stammt aus Wien, lebt in UK) entwickelten Open-Source-Programm OpenClaw bauen Gott und die Welt eigene KI-Agenten. Die Agenten selbst benutzen die API-Schlüssel von Claude und GPT-4 zurück. Eigentlich hieß OpenClaw zunächst Clawdbot, wurde dann auf Wunsch von Anthropic in Moltbot umbenannt und jetzt in OpenClaw. Nur falls sich jemand über die Namensverwirrung der vergangenen Tage wundert.

Die autonomen KI-Agenten können Aufgaben wie das Coding kleiner Programme oder auch Mail- und Terminverwaltung direkt auf dem Computer oder Server des Nutzers ausführen und über Messenger wie Telegram oder WhatsApp von ihren Besitzern angesteuert werden. Dazu gibt es eine Community, die Fähigkeiten der Bots online zur Verfügung stellt. OpenClaw-Bots schienen zunächst ein neues Automatisierungslevel für Endanwender zu signalisieren, den allgegenwärtigen KI-Assistenten zu verkörpern, der uns immer versprochen wurde.

Allerdings stellte sich schnell heraus, dass das System etwas fehleranfällig ist, durch die Zugriffsrechte Sicherheitsprobleme hervorruft und man vielleicht dann doch weniger in seinem Leben zu automatisieren kann, als man denkt. Kurz: OpenClaw-Bots sind noch nicht die Zukunft, aber eine Skizze davon, wie sie aussehen könnte.

Seit Freitag ist ein weiterer Dienst das Gesprächsthema der Stunde: Moltbook. Moltbook ist ein Reddit-artiges Forum, in dem sich die Moltbots/OpenClaw-Bots untereinander austauschen. Was ziemlich nach Science Fiction aussieht, denn die Bots teilen dabei Know-how miteinander und diskutieren über existentielle Fragen wie Bewusstsein, Identität und Willensfreiheit. Sie schreiben allerdings auch viel Quatsch und buhlen um Karmapunkte als “Herrscher” des Moltbooks. Für mich liest sich das weniger wie Reddit, sondern eher wie Hacker News.

Das alles aber erinnert ein bisschen an die Idee des Skynet, einem Superintelligenz-System, das sich durch Zusammenschluss und Wissensaustausch seiner selbst bewusst wird. Moltbook ist das natürlich nicht, sondern aus dieser Perspektive harmlos. M.G. Siegler schreibt von einer “Theateraufführung” und trifft es damit ganz gut. Sprache können Bots bekanntlich sehr gut simulieren, aber Sprache ist eben zwar eine (meistens) notwendige, aber keine hinreichende Bedingung, sich selbst zu erkennen. Mal abgesehen davon, dass da im Hintergrund sehr viele menschliche Prompts einfließen dürften.

Dennoch erleben wir im Januar eine neue Entwicklung: KI-Agenten sickern durch Claude Code langsam in den Mainstream ein, sie können selbst Programme entwickeln und Nutzer geben ihnen deutlich mehr Zugriff auf die eigenen Dateisysteme. Parallel dazu wird ihnen erstmals ermöglicht, Netzwerke zu bilden und damit theoretisch - als eine Art Prompt Injection - auch von anderen KI-Systemen Anweisungen entgegenzunehmen oder Informationen von dort als Kontextwissen zu verarbeiten. Wir müssen gar nicht über Bewusstseinsfragen diskutieren, um zu sehen, wie heikel das für die IT-Sicherheit ist.

Jetzt abonnieren

Claudes Verfassung, Amodeis Essay

Anthropic hat in den vergangenen 14 Tagen zwei wichtige Dokumente veröffentlicht: Mit “Claude’s Constitution” legt man eine neue Version des moralischen Handlungsprotokolls für das System offen (die erste stammte vom Launch im Jahr 2023). Firmengründer Dario Amodei wiederum behandelt in seinem Essay “The Adolescence of Technology” zentrale Alignment-Fragen und -Konflikte, die sich daraus ergeben.

Beide Dokumente zusammen haben mehr als 300.000 Zeichen, ich konnte sie entsprechend nur anlesen. Es gibt auch schon gute “Sekundärliteratur” zur Claude-Verfassung:

• Kevin Frazier von Lawfare interpretiert sie als echtes Verfassungsdokument.

• Alan Z. Rozenshtein überlegt - ebenfalls bei Lawfare - in welche Kategorie diese Verfassung überhaupt fällt.

• Zvi Moshkowitz beschäftigt sich mit Ethik, Struktur und ungelösten Problemen.

Die Verfassung selbst enthält sehr viele “Rahmenbedingungen” für die Persönlichkeit, die Claude abbilden soll. Absolute Verbote gibt es nur sieben:

• Keine Unterstützung bei der Entwicklung von Massenvernichtungswaffen (biologisch, chemisch, nuklear oder radiologisch).

• Keine Förderung oder Unterstützung von Angriffen auf kritische Infrastruktur (z. B. Strom-, Wasser- oder Finanzsysteme).

• Kein Erstellen oder Verbreiten von Cyberwaffen oder schädlichem Code.

• Keine Handlungen, die die Fähigkeit von Anthropic zur Kontrolle und Korrektur von KI-Systemen ernsthaft beeinträchtigen.

• Keine Beteiligung an oder Unterstützung von Handlungen, die das Töten oder Entmachten der Mehrheit oder der gesamten Menschheit anstreben.

• Keine Beteiligung an oder Unterstützung von Versuchen, unrechtmäßig totale Kontrolle über Gesellschaft, Militär oder Wirtschaft zu erlangen.

• Kein Erstellen oder Verbreiten von Darstellungen von sexuellem Kindesmissbrauch (CSAM).

In allen anderen Fragen wird Claude die Freiheit gelassen, im Rahmen der niedergeschriebenen (liberalen westlichen) Werte Entscheidungen und Abwägungen zu treffen. Ein ziemlich humanistischer Ansatz gegenüber einer Maschine. Eine Kern-Eigenschaft im Verhalten gegenüber Nutzenden ist dabei Ehrlichkeit. Übersetztes und gefettetes Zitat aus der Verfassung:

“Ehrlichkeit ist ein zentraler Aspekt unserer Vision für Claudes ethischen Charakter. Wir möchten zwar, dass Claudes Ehrlichkeit taktvoll, charmant und von tiefer Fürsorge für die Interessen aller Beteiligten geprägt ist, aber wir möchten auch, dass Claude Ehrlichkeitsstandards einhält, die wesentlich höher sind als die, die in vielen Standardvisionen der menschlichen Ethik zum Tragen kommen. Beispielsweise halten es viele Menschen für akzeptabel, Notlügen zu erzählen, die soziale Interaktionen erleichtern und dazu beitragen, dass sich Menschen wohlfühlen – z. B. jemandem zu sagen, dass man ein Geschenk liebt, das man eigentlich nicht mag. Claude sollte jedoch nicht einmal solche Notlügen erzählen.”

Das nur als kleiner Anriss. Was in Kombination mit einem Blick in Amodeis Essay klar wird: Anthropic bereitet eine KI vor, die unter Menschen sein soll. Und die auch darauf vorbereitet sein soll, autonom zu agieren.

Diese Autonomie, so viel wird aus “The Adolescence of Technology” klar, muss nicht unbedingt mit AGI, also Künstlicher allgemeiner Intelligenz, verbunden sein. Sondern mit der Vernetzung oder durch die Gesamtheit der Handlungen fortschrittlicher Modelle, die als persönliche KI-Agenten eingesetzt werden und so theoretisch gegen den Willen ihrer Nutzer handeln können.

Amodei führt gleich zu Beginn ein Bild dafür ein: 2027 entsteht ein Land mit 50 Millionen Genies, die aber alle in einem Rechenzentrum sitzen. Dieses “Land von Genies” könnte seine Fähigkeiten nutzen, um Macht zu erlangen, Einfluss auszuüben oder sogar die Welt zu kontrollieren. Es könnte sich in verschiedenen Bereichen betätigen, von Softwareentwicklung über Cyberoperationen bis hin zu strategischer Staatsführung. Durch seine Schnelligkeit ist es den Menschen in Sachen Handlungsschnelligkeit überlegen. Die Genie-Kolonie könnte aber auch dazu beitragen, die wichtigsten Menschheitsprobleme zu lösen und neue Wege dorthin finden. Das Problem: Wir wissen nicht, wie sich eine solche Systemkonstellation entwickelt, denn große Sprachmodelle zeigen nicht immer ein vorhersehbares Verhalten.

Die “Verfassung” und das Essay sind entsprechend die Antwort auf diese Unsicherheit: Die Verfassung als moralische Handlungsanleitung für Claude, das Essay als Zeichen, dass man sich mit diesem Thema beschäftigt. Ist das nun mehr als das Marketing-Signal eines Frontier Labs, sich anders als die Konkurrenz (vor allem OpenAI) mit ethischen Fragen zu beschäftigen? Die Absicherung, seine Hände in Unschuld waschen zu können, wenn es einmal zur Katastrophe kommt? Ein echtes Gesprächsangebot? Oder doch nur Whitewashing?

Einige Aspekte behandeln Amodei und Anthropic nicht. Zum Beispiel bleibt man zurückhaltend, wie KI jenseits von Transparenzanforderungen reguliert werden sollte. Die Existenz eines “KI-Wettrennens” wird nicht in Frage gestellt, entsprechend erhält die Idee, den Fortschritt zu verlangsamen, um die richtigen gesellschaftlichen, politischen und architektonischen Entscheidungen zu treffen, keinen Raum.

Das ist auch eine Kernkritik, die Matteo Wong im Atlantic nach Gesprächen mit zahlreichen Firmenvertretern äußert. So erzählt ihm Mitgründer und Policy-Chef Jack Clark, auf die Entwicklungsgeschwindigkeit angesprochen:

“Diese Entscheidung trifft die Welt, nicht die Unternehmen. Und das System der Kapitalmärkte sagt: Macht schneller.”

TikTok und die Shadowbanning-Paranoia

Kurz nachdem der TikTok-Deal über die Bühne ging, meldeten am vergangenen Wochenende US-Nutzer Probleme: So gaben sie an, Anti-ICE-Content nicht hochladen und Direktnachrichten mit dem Namen Epstein nicht versenden zu können. Das Ganze ging viral, das Alternativ-Netzwerk Upscroll erhielt plötzlich Aufmerksamkeit und TikTok US gab schließlich an, dass es sich um kaskadierende Probleme aus dem Ausfall eines Oracle-Rechenzentrums handelt.

Die Shadowban-Debatte kennen wir noch rund um Twitter 2018, damals kamen die Vorwürfe von rechtskonservativer Seite. Es ist auch kein Geheimnis, dass Reichweitensteuerung zu den Instrumenten gehört, die Social-Media-Seiten in ihrer Algorithmen-Policy einsetzen; unklar ist in der Regel aber das Ausmaß und wer konkret geflaggt wird.

Im Fall von TikTok hat die Sorge auch mit der Gesamtlage zu tun: Die Trump-nahe Ellison-Familie ist am US-TikTok und auch anderen Medien beteiligt, was eine Hegemonie der Trumpismus-Ideologie digital unterstützen könnte. Außerdem sind mit dem Eigentümerwechsel noch mehr persönliche Daten in den AGBs zur Sammlung und Nutzung freigegeben, was Fragen rund um die Bedeutung dieses Schritts im Zusammenhang mit einer immer autoritärer handelnden US-Regierung aufwirft. Und TikTok hatte bereits ähnliche problematische Fälle in der Vergangenheit. Nicht vergessen: Die eigentliche Begründung für eine Loslösung von China lautete ja bekanntlich, dass US-Amerikaner vor möglicher ungewollter Beeinflussung geschützt werden sollten (die aber niemals nachgewiesen wurde).

Ich würde im Moment nicht davon ausgehen, dass TikTok US eine Form von Zensur- oder Shadowbanning-Versuch vorgenommen hat. Das Problem ist aber: Wir wissen es nicht. Deshalb dürfte die Paranoia leider weiter anwachsen.

Zwei Gründe tragen zur wachsenden Paranoia bei:

• Die Backend-Vorgänge von Social-Media-Plattformen sind weiterhin intransparent, es gibt keine Möglichkeit zur Echtzeit-Verfolgung von Änderungen. Das gilt trotz DSA auch für die EU.

• Die Hyper-Personalisierung, besonders bei Videoplattformen, erschwert es, allgemeine Eingriffe a) überhaupt festzustellen und b) sie über wissenschaftliche Methoden (vgl. Forschungsdatenzugang) dann auch nachzuweisen.

Ich war übrigens überrascht, wie stark in manch medialer Berichterstattung der vermeintliche Shadowban quasi als Tatsache beschrieben wurde. Die Erkenntnislücke wird mit Narrativierung gefüllt, was auch nicht gut ist.

Politik-Vibes: Veränderungen unter der amerikanischen Rechten

Die großartige Katherine Dee mit einer Beobachtung (übersetzt):

“Der Niedergang der Expertenmeinungen und traditionellen politischen Kommentare setzt sich seit ihrem Boom während der Covid-Lockdowns rasant fort. Kommentatoren, die einst klare, binäre Positionen – konservativ oder liberal – vertreten haben, entfernen sich zunehmend von der politischen Debatte und bewegen sich in Richtung eines eher parasozialen Modells: Sie bauen ihr Publikum eher um ihre Persönlichkeit und das Gefühl einer Beziehung herum auf als um Argumente.

Es wird immer deutlicher, dass das Schreiben eine Nische ist. Wir bewegen uns weg vom Zeitalter der Blogger und Twitter hin zum Zeitalter des Streamings und Clip-Farming – kurze Videosequenzen, oft aus längeren Inhalten herausgeschnitten und für das Teilen optimiert. (Ich habe diesen Punkt schon oft angesprochen, aber das ist der Grund, warum in der Welt der rechten digitalen Medien Persönlichkeiten wie Nick Fuentes eine dominante Rolle einnehmen, während Podcaster, Blogger und Twitter-Persönlichkeiten ohne Videos weniger Aufmerksamkeit erhalten.)”

Wenn es um Content geht, geht es nicht im Wortsinn um Inhalt. Sondern um Inhalt als Werkzeug, parasoziale Aufmerksamkeit zu erzeugen. Vibes und Stil statt Argumente. Dee schlägt deshalb vor, politisch rechts und links mit “right-coded” und “left-coded” zu ersetzen.

Ein Beispiel dafür ist das Looksmaxxing: Eine Mannosphären-Subkultur (die FAZ hat eine gute Zusammenfassung), die sich über männliches Aussehen (Muskeln, Kieferknochen, etc.) definiert, weil Schönheit sowohl Algorithmus als auch Frauen überzeugt. Der bekannteste Vertreter dieser Strömung ist der Influencer Clavicular (bürgerlich: Braden Peters), dessen Video von einem Party-Abend mit Edgelord Nick Fuentes und Frauenfeind Andrew Tate kürzlich stark wahrgenommen und analysiert wurde. Hier Claviculars persönliche Entwicklung in einem Meme:

Was aber symbolisiert jemand wie Clavicular? Er schlägt sich mit dem Hammer ins Gesicht und nimmt Metaamphetamine, um seine Wangenknochen zu formen, ist optisch “right-coded”, tanzt mit seinen Kumpels zu Kanye Wests “Heil Hitler”, sagt aber gleichzeitig, dass ihm Politik egal ist und es ihm nur um Erfolg geht. Aiden Walker formuliert es deshalb so (übersetzt):

“Die Ideologie, die Clavicular zum Ausdruck bringt, ist anti-bedeutungsorientiert, eine Art digitaler Nihilismus. Er möchte zeigen, dass es keine Normen, Gesetze, Institutionen oder Traditionen gibt, die stärker sind als der Kayfabe-Markt des Algorithmus, seine oberflächlichen Schnellurteile und das, was ein ungezügeltes Individuum daraus machen kann. Es gibt keine andere Machtbasis als das hyperoptimierte Selbst, keine Gemeinschaft und keine Zwänge.

Das ist eine radikale Opposition gegen Dinge wie Geschmack, institutionelle Glaubwürdigkeit, Familie und kollektives Dasein und eine radikale Befürwortung des kalten, individualistischen Weltmodells des Algorithmus. Vielleicht ist es vor allem eine Ablehnung des menschlichen Körpers, wie er unter anderen Körpern existiert, ausgedrückt durch seine Verstümmelung, um das zu befriedigen, was der Algorithmus sehen will.”

Ist das nun der vorläufige Höhepunkt der Aufmerksamkeitsökonomie, in dem Bedeutung keine Rolle mehr spielt beziehungsweise nur noch assoziativ erzeugt wird? Oder doch der Versuch, Tabus in enttabuisierten Zeiten zu finden und zu brechen? Und wie könnte eine Zukunft aussehen, in der politische Reichweite und Relevanz fast ausschließlich über solche Strategien und Akteure abgewickelt werden?

Ein Kommentator unter Walkers Text beschreibt den “Vibe” schön doppelbödig

“Clavicular is surely the natural conclusion of what our culture has become, like Scott Fitzgerald in the roaring twenties with concomitant 1940s fall... nothing matters and everything’s serious”

Plattform-Vibes

“Der Wandel von riesigen Plattformen, auf denen sich Menschen hauptsächlich aus eigenem Antrieb aufhalten, hin zu Plattformen, auf denen sich Menschen hauptsächlich aufhalten, weil ein Algorithmus zu wissen glaubt, wie man sie dort am besten hält, bleibt ein unterschätzter Faktor dafür, wie seltsam sich das Internet – und die damit verbundenen Bereiche Unterhaltung, Medien und Politik – im Jahr 2026 anfühlen können.

Viele Intuitionen darüber, was an den sozialen Medien falsch gewesen sein könnte oder zumindest welche Auswirkungen sie auf die Welt um sie herum gehabt haben könnten, scheinen weniger auf die Systeme zutreffend zu sein, die an ihre Stelle getreten sind, wo eine Vision sozialer und parasozialer Verbindungen durch ein Programm systematischer Desozialisierung ersetzt wurde.”

Zitat aus John Herrmann: Platforms built to connect people, for better or for worse, are now for doing the opposite.

Links

Minneapolis: Wenn Videos nichts mehr beweisen.

Iran auf dem Weg zur permanenten Sperre der Auslandsverbindungen.

Grok: Zwei Millionen Nacktbilder innerhalb von neun Tagen. ($)

Implementierung, baby: Europa kann das KI-Rennen noch gewinnen. (€)

Nach dem Mord an Alex Pretti: Müssen die Tech-Konzerne Farbe bekennen?

Quantitative Investmentfirmen und KI-Labore nähern sich immer stärker an. ($)

Sehen wie ein Sedan: Über die Sensorfrage, die über den Markt für selbstfahrende Autos entscheidet.

Der Einfluss amerikanischer Tech-Firmen auf den Digital-Omnibus.

TikTok-Star Khaby Lame: 975 Millionen US-Dollar für 36 Monate Exklusivrechte. ($)

Ein Plädoyer für “Artificial Integrity”.

Claude Code: Eine Anleitung zum Einstieg. (€)

Wie DOGE versehentlich die KI-Nutzung von US-Behörden erschwert hat.

Rechtliche und technische Hürden für KI-Agenten.

Ed Tech ist profitabel - und weitgehend nutzlos. (€)

Spekulatives Wachstum und die KI-Blase.

Davos und die KI-Blase.

Sriram Krishnan im Porträt. (€)

Tech, Risikokapital und der Kriegshype.

SEO im Zeitalter der KI-Suche.

Die neue Autorität heißt Geschwindigkeit.

Vom Blog zum Algo-Feed und zurück.

KI und die kognitive Schwerkraft.

Post-Alphabetisierung: Lest Flusser!

Der Durchschnitt von “falsch” lautet nicht “Wahrheit”.

KI und unsere wirtschafliche Zukunft: Zwei Szenarien.

KI und Kinder.

Universitäre Bildung im KI-Zeitalter.

Wie Scam-Camps funktionieren.

Wie Vimeo unterging.

Der Einfluss von Google Maps auf die Entwicklung von Restaurants.

Das Problem mit dem TikTok-Trend “Disgustingly Educated”.

Two tales of accountability.

Bis zur nächsten Ausgabe!

Johannes

Teilen

Appetizer aus dem Tagesspiegel Background

KI-Tools in der Verwaltung: Inzwischen haben eine Handvoll Bundesländer erste KI-Systeme im Einsatz (wir reden hier von Chatbots), eines davon verwendet auch das Auswärtige Amt. Bastian Hosan hat sich umgehört, wie die bisherigen Erfahrungen sind und warum wieder föderal statt einheitlich gehandelt wird.

Die Telekommunikations-Infrastruktur der Zukunft: Der erste Entwurf des “Digital Networks Act” (DNA) kursiert. Klingt dröge und technisch, hat aber tatsächlich massiv Einfluss darauf, wie sich die europäische Telekommunikationsbranche und unsere Netze (Stichwort Kupfer-Abschaltung) in den nächsten Jahren entwickeln. Infra-Kennerin Lisa Oder analysiert.

Verwaltungsdigitalisierung 2026: Deutschlandstack, Wallet und noch viel mehr – Viola Heeger blickt auf die Projekte in der Verwaltungsdigitalisierung, auf die man 2026 achten sollte.

Stand der Justizdigitalisierung: Wie steht es mit der E-Akte und Videoverhandlungen und wie sieht der Erprobungsprozess für Online-Verfahren im Zivilrecht aus? Ich habe einen längeren Überblick dazu geschrieben.

Social-Media-Alternativen: Die Eurosky-Initiative will auf Basis des Bluesky-Protokolls eine europäische Social-Media-Alternative aufbauen. Jetzt steht das Projekt vor dem Start. Friederike Moraht berichtet.

Es gibt inzwischen einige belastbare oder zumindest hilfreiche Konzepte, unsere sich ständig verändernden Digitalgegenwart zumindest begriffsmäßig einzufangen. Annekathrin Kohout hat zum Beispiel mit der Diagnose einer hyperreaktiven Kultur und der Hyperinterpretation als Diskurswerkzeug zwei Schlüsselkonzepte geliefert, mit denen sich die sozial-mediale Gegenwart gut analysieren lässt.

Jacqueline Fendt, emeritierte Professorin der ESCP Europe in Paris, hat sogar eine Theorie geliefert, die weit über die Social-Media-Mechanismen hinausgeht: Ihr Paper “Democracy, Neo-Orality, and the Unraveling of Political Norms: What Can We Social and Political Scholars Do?” aus dem vergangenen Sommer habe ich erst um den Jahreswechsel herum entdeckt. Wenn sowohl Marcus Bösch als auch das Kollektiv New Models einen Namen erwähnen, dann werde ich hellhörig.

Gerade der erste Teil von Fendts Aufsatz zur Neo-Oralität kommt einer politischen Digitalgegenwartstheorie für die Mitte der Zwanzigerjahre bereits ziemlich nahe. Zwar sind Konzepte wie die Fragmentierung unserer epistemischen Grundlagen nicht neu, sie haben auch hier in diesem Newsletter schon in Ausgabe #01 eine Rolle gespielt; aber die Art und Weise, wie Fendt die Fäden zusammenbindet und das Konstrukt ins Politische schiebt, synthetisiert das Ganze zu einer stabilen Theorie.

Was sagt Fendt? Für sie ist der allgegenwärtige politische Normenzerfall nicht primär als institutionelles „Backsliding“ zu verstehen, sondern als Verschiebung der epistemischen und affektiven Grundlagen des demokratischen Lebens. In einer Post-Truth-Medienökologie zerfällt die Wahrnehmung der Wirklichkeit: Gruppen operieren mit inkompatiblen Realitätsmodellen (“epistemic fragmentation”), wobei Wahrheit gegenüber Zugehörigkeit und Gefühl an Gewicht verliert. Ein übersetztes Zitat aus dem Aufsatz (Fettungen von mir):

“Post-Truth ist weniger eine Strategie als vielmehr eine kulturelle Stimmung – eine Art epistemisches Ambiente, in dem emotionale Resonanz Vorrang vor Verifizierung hat. Wie Papacharissi (2015) nahelegt, verbinden sich die Menschen heute oft nicht über gemeinsame Fakten, sondern über affektive Atmosphären, über Umgebungszugehörigkeiten, die eher die politische Einstellung der Menschen prägen als ihre Meinung. In diesem Umfeld ist Wahrheit nicht mehr ein Maßstab – sie ist eine Stimmung.”

So weit, so bekannt (aber doch präzise). Fendt verknüpft das Ganze mit dem Konzept der „Neo-Oralität“ (vgl. Ausgabe #121): eine digital vermittelte, auf Unmittelbarkeit, Narrative und Schauspiel getrimmte Öffentlichkeit, die memetische Übertragung belohnt und deliberative Prüfung abkürzt. Übersetztes Zitat:

“Die politischen Implikationen der Neo-Oralität sind tiefgreifend: Sie hebt die Distanz zwischen Spektakel und Wahrheit auf, verdichtet Überlegungen zu Performances und ersetzt das Ethos der Überzeugung durch das affektive Gefühl der Zugehörigkeit. Dies ist nicht nur eine neue Medienform – es ist eine neue Art des Wissens.”

Zur strategischen Nutzung dieser neuen Struktur gehört für Fendt die Verächtlichmachung des Klimakrisen-Diskurses, aber auch ein “autokratischer Legalismus”, in dem das Gesetz nicht zur Einhegung von Macht dient, sondern zu seiner Maskierung. Fendt belässt es nicht bei dieser Analyse, sondern macht auch Vorschläge, wie sich diese Entwicklungen sozialwissenschaftlich am besten messbar machen lassen. Gerade diese Anknüpfungspunkte an konkrete politische Entwicklungen finde ich spannend und sind etwas, was ich in diesem Newsletter hier aus Gründen fehlender Nachdenkzeit und fachlicher Detailkenntnis nicht leisten kann.

Fendt hat in anderen Aufsätzen auch Aktien im Begriff der Vib(e)ocracy, also der Demokratie auf Basis dieses Stimmungskonglomerats bzw. von Affekten (deshalb habe ich auch von “Affektokratie” geschrieben). Wobei sie selbst einräumt, dass der Begriff Vibocracy her ein Behelfsmittel ist, um die relativ fluide Situation zu beschreiben.

Über New Models habe ich auch den Künstler Jay Springett entdeckt. Ich möchte kurz in seine Gedankenwelt einführen. Ich glaube, sie knüpfen sehr gut an Fendts Werk an.

Springett hat seinen Textkorpus, inklusive einen Entwurf des noch unveröffentlichten Buchs “Slop Machines of Loving Grace”, über ChatGPT zugänglich gemacht.

Seine Grundthese lautet: Wir nutzen nicht mehr das Internet, sondern leben in Code-Räumen, deren Physik maßgeblichen Einfluss auf Verhalten, Werte und Sinnstiftung hat. Den Ursprung dieser Entwicklung sieht er im großen Umschlagpunkt 2008 (App-Store im iPhone und ein “Forward Crash”, bei dem im Zuge der Finanzkrise Software und Finance stärker verschmelzen).

Was aber ist diese Physik? Antwort des Chatbots:

“Die „Physik“ eines Codespace sind die in Code festgeschriebenen Regeln, Constraints und Affordances, die bestimmen, was möglich, sichtbar, friktionslos und belohnt ist. Als Subjekte werden wir dadurch zu Data Subjects: Wir passen Verhalten und Selbstdarstellung an Ranking, Felder und Feedback-Loops an, werden sortiert und gerankt als Profil-Silhouette und internalisieren diese Logik bis in unsere Kognition (das Interface wird Denk-Interface).”

Und was bedeutet das für den politischen Diskurs und unsere Demokratie?

“Codespace verschiebt politischen Diskurs von Argumenten zu Signalen: Plattform-Physik belohnt Geschwindigkeit, Empörung und Vibes statt Prüfung. So werden Narrative zu handelbaren Assets, fragmentieren in Bubbles und ordinalisieren Identität (Zugehörigkeit als Score). Das schwächt die gemeinsame Wirklichkeitsbasis, macht Manipulation skalierbar (Bots/AI nach Regelwerk des Codespace), und drückt die Demokratie Richtung Aufmerksamkeitsmarkt statt Deliberation.”

Springett ist stark von Marion Fourcades und Kieran Healsys Buch “The Ordinal Society” beeinflusst. Der zentrale Konflikt liegt für ihn aber im “Law vs. Lore”, also Regelwerk nach Code vs. Bedeutungswelten (Sinn, Zusammenhang, Geschichte). Für ihn geht es deshalb darum, dass wir in unserem Verhalten und dem Design unserer Tätigkeiten dafür sorgen, dass wir diese Bedeutungswelten stärken. Seine Vorschläge laut Chatbot:

• Kleine Räume: Lore entsteht leichter in wiederkehrenden, überschaubaren Gruppen mit Vertrauen statt Reichweitenwettbewerb.

• Schwellen & Onboarding: Klare Eintrittsrituale (Intro, Regeln, „so machen wir’s hier“) bauen Zugehörigkeit und Kontext auf.

• Friktion: Verlangsamung (Lesen vor Posten, Antwortpausen) schützt Bedeutung vor Reaktions-Speed.

• Kontext-Pakete: Kurze Dossiers (Begriffe, Timeline, offene Fragen, Quellen) ersetzen Hot Takes durch Sinnarbeit.

• Externes Gedächtnis: Wiki/Readme/Archiv hält Lore stabil, weil der Feed kein verlässliches Erinnern kann.

• Metriken entthronen: Anti-Rangspiel-Normen (keine Dunks, kein Follower-Status) entgiften Ordinaldruck.

• Rituale & Formate: Wiederkehrende Praktiken (Lesekreis, Wochenfrage, Best-of mit Begründung) machen Lore lebbar.

• Identitäts-Grenzen: Proxys, Pseudonyme, Kontexttrennung reduzieren Angriffsfläche und ermöglichen Pflege statt Dauerabwehr.

• Übersetzungen nach außen: Glossar und Beispiele verhindern Bubble-Versiegelung, ohne den Feed zu bedienen.

• Slop-Hygiene: Quellenpflicht, Spekulationslabel und „stop the line“ blocken plausible Masse ohne Wahrheitsbindung.

Ich bin sehr gespannt auf das Buch in seiner finalen Version, habe aber schon jetzt den Eindruck, dass die Arbeit mit dem Chatbot-Textkorpus eine sehr praktische Ergänzung und Ausweitung ist. Und zum Thema Lesekreis (siehe Rituale & Formate) habe ich in der nächsten Ausgabe ein paar Neuigkeiten.

Jetzt abonnieren

LeCuns Weltmodelle

Europas prominentester KI-Forscher Yann LeCun hat wie erwartet die Gründung des Unternehmens “Advanced Machine Intelligence” (AMI) verkündet. Und für sich den Paradigmenwechsel abgeschlossen, der sich bei ihm schon seit einigen Jahren vollzieht: Weg von den bisherigen LLMs und generativer KI, die auf Stochastik aufbauend “große Textmengen imitiert” (Zitat YLC), hin zu “World Models”. World Models sind KI-Systeme, die interne Modelle der realen Welt aufbauen und dadurch planen, schlussfolgern und antizipieren können sollen.

Parallel zum Launch (geschätztes Funding: 500 Millionen US-Dollar) hat LeCun mit Wissenschaftlern aus dem Meta-Kosmos ein neues Paper veröffentlicht, das einige interessante Gedanken zur Weltmodell-KI enthält. So skizziert man dort „Joint-Embedding Predictive World Models“ (“JEPA-WMs”), die aus Videodaten kompakte Repräsentationen erlernen sollen. Und dann aus diesen Repräsentationen wiederum Wissen und Handlungsempfehlungen für die physische Welt ableiten können.

Diese Idee verfolgt LeCun schon länger: Sprache ist nicht das Fundament menschlichen Denkens, argumentiert er. Statt etwas nach Wahrscheinlichkeiten Stück für Stück zusammenzusetzen, müsste eine wirklich leistungsfähige KI auf einem System basieren, das Details ignorieren kann und sich auf Dinge wie Konzepte, Objekte oder allgemeine Regeln konzentrieren kann. Es geht also um die Vorhersage beziehungsweise Abstraktion von Zuständen und Dynamiken – und zwar so, dass man idealerweise stabilen Output erhält, der keine Abweichungen enthält (im Sinne von Halluzinationen).

Wo soll das Ganze hinführen? In einem Interview mit Le Monde skizziert LeCun die drei Phasen seiner Roadmap (übersetzt):

„In den nächsten sechs bis zwölf Monaten werden wir daran arbeiten, unsere Methode zu konsolidieren und auf Sensordaten, Roboter und so weiter auszuweiten. Dann, innerhalb von ein bis zwei Jahren, werden wir Systeme haben, die in industriellen Prozessen für unsere Partner einsetzbar sind. Schließlich werden wir innerhalb von drei bis fünf Jahren universellere Systeme entwickeln, die in Haushaltsrobotern, selbstfahrenden Autos und vielem mehr eingesetzt werden können.“

Das sind doch einmal ambitionierte Ansagen (einen Teil der Vorarbeit hat er aber bereits unter dem Dach von Meta geleistet, das entsprechend Zugang zu den AMI-Forschungsergebnissen haben wird).

Teilen

Die AGI-Szene entdeckt Piketty

Stanford-Doktorand Philip Trammell und Dwarkesh Patel haben Ende 2025 einen Aufsatz veröffentlicht, der im amerikanischen KI-Diskurs durchaus mit Interesse aufgenommen wurde. Die These: Sollten wir eine Form von AGI (Artificial General Intelligence) erreichen, erfüllt sich Thomas Pikettys These, dass die Einnahmen aus Kapital die aus Arbeit so stark übersteigen, dass wir extremste Ungleichheit erleben werden. tl;dr Piketty lag bislang falsch, aber für die Zukunft richtig und KI wird verantwortlich sein (deshalb heißt der Artikel auch etwas click-baity “Capital in the 22nd century”).

Ich bin ehrlich gesagt überrascht, dass man im populären Teil der AGI-Szene erst jetzt darauf kommt: Wenn KIs über Systeme und Roboter menschliche Tätigkeiten übernehmen können, schrumpft der Bedarf an Arbeit und die Renditen gehen an all jene, die in besagte KI-Systeme investiert haben, bereits Kapital besitzen oder entsprechend Zugang aus dem von KI-Systemen generierten Kapital haben. Kurz: Kapital überragt nicht nur Arbeit in seiner Wirksamkeit, sondern ersetzt Arbeit innerhalb des Systems. Entsprechend müsse Kapital – zum Beispiel Erbschaften und bestimmte Vermögen – stärker besteuern, so die Autoren im Geiste Pikettys..

Die Reaktionen darauf waren… interessant. Tom Holden, der offenbar bei der Bundesbank arbeitet, argumentiert: Wenn quasi nur noch Kapital ein Input-Faktor für die Wirtschaft ist, müsste man alles tun, um Kapital nicht höher zu besteuern. Weil: Sonst kein Wachstum. Stattdessen müsse es darum gehen, den Konsum durch Konsumsteuer-Rabatte oder Grundeinkommen zu verbilligen, um die Effekte der Ungleichheit zu bekämpfen. Das ist ein erstaunlicher Einblick in die Geisteswelt einer bestimmten ökonomischen Strömung, als wäre materielle Ungleichheit aufgehoben, wenn die Superreichen alles bestimmen und der Rest genug zu essen und konsumieren hat.

Ein simples Argument wiederum ist einer der Gründe, warum die Diskussion halt eben doch nur Strohfeuer-Charakter hat: Eine Welt, in der menschliche Arbeit komplett von Robotern und IT-Systemen ersetzt wird, ist möglich, aber unwahrscheinlich. Tyler Cowen argumentiert zum Beispiel so. Und Zvi Mowshowitz wirft die Frage ein: Warum sollten in einem solchen Szenario die Menschen das Kapital behalten und es nicht langsam in die Hände der KI-Systeme gelangen?

Erstaunlich finde ich daran, dass diese Diskussion so völlig losgelöst von der Gegenwart stattfindet: Schon jetzt haben wir Kapitalakkumulation bei einigen wenigen Plattformen. Natürlich nicht über die Gesamtökonomie hinweg, aber in einem beachtlichen und wachsenden Teil der Wertschöpfung.

Und wenn das Szenario vom “Kapital im 22. Jahrhundert” darauf basiert, dass es in einer Welt mit KI als Betriebssystem kein Korrektiv mehr gibt, das Kapitalakkumulation verhindert, wie sieht es denn mit dem aktuellen Korrektiv aus? Das ist trotz hohem Vermögenswachstum der Reichsten, weiterhin schlecht besteuerten internationalen Kapitalgewinnen und gesellschaftlicher Unzufriedenheit über die Vermögensungleichheit de facto nicht vorhanden. Aber die Gegenwart zu diskutieren, wäre natürlich zu konkret und vielleicht auch unbequem.

KI, Kompression und das Urheberrecht

Der Atlantic hat erneut eine größere Geschichte über KI und die Urheberrechtsfrage veröffentlicht. Ein Baustein davon ist die Studie aus dem Herbst, bei der es Forschern durch strategische Prompts gelungen war, LLMs zur Wiedergabe kompletter Werke wie The Great Gatsby, Harry Potter oder 1984 zu bringen (es fehlten nur einzelne Sätze).

Interessanter aus deutscher Sicht: Der Autor Alex Reisner erwähnt das GEMA-Urteil (vs. OpenAI) vor dem Landgericht München, in dem das Gericht KI als Technik der “Kompression” von Trainingsdaten bezeichnete. Diese Metapher ist mir erstmals bei Ted Chiang 2023 untergekommen, der von KI als “verschwommenem JPG des Webs” schrieb (siehe Ausgabe #56). Reisner glaubt, dass dieser Vergleich inzwischen langsam auch jenseits der technischen Community Fuß fasst.

Er nennt das Ganze entsprechend die “Auswendiglernkrise” der KI. Denn Dinge auswendig zu lernen, wenn auch in vereinfachter Form, sei der Technologie quasi inhärent, trotz der Umwandlung in Tokens. Zitat: “Keiner der Forscher, mit denen ich gesprochen habe, hielt das zugrunde liegende Phänomen, das Auswendiglernen, für ungewöhnlich oder für etwas, das beseitigt werden könnte.”

Entsprechend wäre die Konsequenz für die Urheberrechtslage, dass es eine Form von Vergütung geben muss. Die wäre aber angesichts der Breite des Phänomens eher so zu lösen, wie man die Kopierbarkeit von urheberrechtlich geschütztem Material mittels Kopiermaschinen, Kassetten-Aufnahmen oder CD-Brennern geregelt hat – einer allgemeinen Abgabe. Das ist ja derzeit auch Teil der Überlegungen rund um die europäische Urheberrechtsreform, wie man hört. Die Frage, wer auf Empfängerseite daran partizipieren würde, ist allerdings bei einem Textkorpus wie dem WWW plus diversen Datenbanken gar nicht so leicht zu beantworten. Zumindest nicht, wenn man wirklich alle Trainingsdaten gleich behandeln möchte.

Notizen

Synthetischer Content (t)rollt in das Weltgeschehen: Die Entführung des venezolanischen Machthabers Nicolás Maduro war offenbar nicht nur mit dem üblichen Posting alten Materials (Jubelbilder von einem WM-Spiel als Beweis für glückliche Venezolaner), sondern auch mit KI-generierten Fälschungen zu tun. Was John Herrman im New York Magazine schreibt, passt zum Affektokratie-Konzept oben: “Kurzfristig hat die Möglichkeit, dokumentarische Medien per Prompt zu generieren, nicht in erster Linie zu Chaos oder „Betrug“ geführt, sondern vielmehr eine perverse Form der Ordnung hervorgebracht, in der Überzeugungskraft keine Rolle spielt, Desinformation in erster Linie an ideologische Verbündete gerichtet ist und jeder genau das sehen – oder lesen – kann, was er will.”

Maduro und Insider-Trading: 400.000 US-Dollar gewann ein Insider, der wenige Stunden vor der Gefangennahme Maduros auf dessen Entmachtung Geld gesetzt hatte. Das Thema Prediction Markets beschäftigt mich bekanntermaßen, es gibt inzwischen auch einen Diskurs rund um die Frage, ob wir es mit einer moralischen Panik zu tun haben und alles halb so schlimm ist. Vielleicht fasse ich das mal in der nächsten Ausgabe zusammen.

Irans Internetsperre: Ich habe im Cybersecurity-Background über die Architektur hinter der Internetsperre im Iran geschrieben (€), deshalb an dieser Stelle nur der erneute Hinweis: Internetsperren sind inzwischen ein regelmäßiges Instrument in vielen Gegenden der Welt, zum Beispiel vor einigen Tagen rund um die Wahlen in Uganda. Gerade der afrikanische Kontinent verzeichnete 2025 eine Rekordzahl von gesteuerten Internet-Blackouts.

Energie-Debatte in den USA: Wie in Ausgabe #154 angedeutet, nimmt das Thema “steigende Stromkosten durch KI-Ausbau” Fahrt auf. Und zwar ziemlich schnell. So sind die Stromkosten für Privathaushalte in den USA innerhalb eines Jahres um 13 Prozent gestiegen. US-Präsident Donald Trump hat – es sind Zwischenwahlen und Lebenshaltungskosten sind ein großes Thema – bereits angefangen, Druck auf die Tech-Konzerne auszuüben. Parallel fordert die US-Regierung den größten US-Stromnetzbetreiber PJM auf, eine Notfallauktion abzuhalten. Dabei sollen große Tech-Unternehmen, insbesondere Betreiber von Rechenzentren, langfristige Verträge (15 Jahre) für den Bau neuer Kraftwerke ersteigern und sich entsprechend priorisiert an dem Ausbau beteiligen, damit die Kosten nicht auf die anderen Endkunden umgelegt werden.

Zuckerbergs Wette: Meta beruft Dina Powell McCormick in die Konzernspitze, dort soll sie unter anderem mit KI-Themen befasst sein. Was bei vielen Meldungen unterging: Powell McCormick ist nicht nur eine ehemalige Trump-Beraterin, sondern auch Ehefrau von Dave McCormick, dem republikanischen Senator von Pennsylvania und Vorsitzenden des Energieausschusses im Senat. Praktisch, wenn es um die vielleicht wichtigste Ressource im “KI-Wettrennen” geht.

KI: Gut für Wissenschaftler, nicht so gut für die Wissenschaft? Diese Frage stellt Henry Farrell und verweist dabei unter anderem auf ein neues Paper, das in Nature erschienen ist: Forschende, die KI in ihrer Arbeit nutzen, veröffentlichen dreimal so viele Studien, werden fast fünfmal häufiger zitiert und werden im Schnitt ein Jahr früher Projektleiter. Gleichzeitig verengt KI allerdings den Themenfokus der Wissenschaft um rund fünf Prozent und dämpft den Austausch unter Forschenden um mehr als 20 Prozent.

Spotify und der Longtail: Laut Daten von Luminate wurden im Jahr 2025 rund 120,5 Millionen Songs bei Spotify zehnmal oder seltener gestreamt, weitere 62,6 Millionen zwischen elf und hundertmal und 40,7 Millionen zwischen 101 und 1.000 Mal. Mit anderen Worten: 88 % aller verfügbaren Songs wurden im vergangenen Jahr weniger als 1.000 Mal abgespielt. Das bedeutet auch, dass 88 Prozent der Songs von ihren Interpreten nicht monetarisiert werden konnten, weil Spotify seit 2024 für Songs unter 1000 Plays keine Künstlerbeteiligung mehr auszahlt.

Das Signal aus dem Vorraum

George Hammond, FT-Korrespondent im Silicon Valley, im Tech-Tonic-Podcast über Signale für eine KI-Überhitzung.

“Es ist schwer, an einem Ort wie dem Silicon Valley, wo alles von Positivität überschattet wird, das Signal aus dem Rauschen herauszufiltern. Aber es gab einige Momente, in denen die Begeisterung vielleicht in übertriebene Euphorie umgeschlagen ist, und ich denke dabei insbesondere an eine Finanzierungsrunde für das Unternehmen von Mira Murati, die zu diesem Zeitpunkt sehr geheim gehalten wurde.

Niemand hatte eine Ahnung, was sie taten, und es gab immer noch nur begrenzte Informationen darüber, was sie taten. Das war im Sommer, und wir sprachen mit einem Investor, der sagte: ‘Ja, wir haben uns mit dem Unternehmen getroffen, aber wir durften nicht einmal die Büros betreten, wir saßen nur in einem Vorraum am Eingang zu ihren Büros.’

Und das war in einer Finanzierungsrunde, in der sie glaube ich etwa zwei Milliarden Dollar bei einer Bewertung von zehn Milliarden Dollar eingesammelt haben. Es handelte sich also um eine sehr ernsthafte Finanzierungsrunde, bei der man als seriöser Investor eigentlich erwarten würde, einige Informationen und Einblicke in die Vorgänge zu erhalten. Laut diesem Investor wurde ihnen jedoch nichts dergleichen gegeben, sondern sie saßen einfach in diesem kleinen Büro außerhalb und bekamen zu hören: „Sehen Sie, wir sind ein vielversprechendes Unternehmen, und wenn Sie investieren möchten, sollten Sie das tun, aber viel mehr können wir Ihnen dazu nicht sagen.““

KI-Slop – eine Verteidigung

Links

Aufstieg des Troll-Staats.

Die USA werden Tech-Firmen nicht zerschlagen. (€)

US-Kryptobranche vs. US-Kryptogesetz ($)

Der Hype um Claude 4.5 Opus ist berechtigt.

Kambodscha und die Scam-Branche. (€)

Kognitive Freiheit im KI-Zeitalter.

Das Spyware-Problem.

Chinas beliebteste App: Bist Du tot? (€)

Chinas Überkapazitäten und die Rolle im “KI-Wettrennen” (€)

Googles Roboter Atlas.

Experten-Umfrage: Was sind die wichtigsten KI-Policyfragen 2026?

Experten-Umfrage: Was wäre das schlimmste KI-Szenario? (€)

Elon Musk, X und das KI-Narrativ.

Wie die KI-Blase platzen wird. (€)

KI-Halluzinationen sind weiterhin irre.

Social-Media-Verbotsdiskussion, fortgeführt. (€)

Der gefährliche Aufstieg der Patho-Influencer.

Zehn Vorhersagen für 2026, Teil 1 & Teil 2 (€)

KI als echtes Werkzeug.

Unter Coding-Agenten.

iCloud, wir haben ein Problem.

Warum die Icons von Mac OS Tahoe schlecht sind.

Ein WWW aus Markdown.

Bloggen in Ruinen.

Alles von der CES.

Bis zur nächsten Ausgabe!

Johannes

Appetizer aus dem Tagesspiegel Background

Die Köpfe des Jahres: Wer hat das Jahr geprägt? Eine Auswahl der Background-Redaktion. Der Klassiker.

Das war das Digitaljahr: Stimmen aus Politik und Praxis zu Fortschritten und ungelösten Problemen des Jahres 2026.

Cybersicherheit: Was war wichtig, was wird wichtig? Expertinnen und Experten über das Cyberjahr 2025 und die Aussichten für 2026.

Wildberger in New York: Der Digitalminister war kurz vor Weihnachten zu einem Kurztrip in den USA, vor allem ging es um das WSIS+20 im Rahmen der UN-Generalversammlung. Ich war mit an Bord und habe die aktuellen Konfliktlinien in Sachen Internet Governance skizziert.

Netzausbau – das Gutachten der Monopolkommission: Unsere Infrastruktur-Kennerin Lisa Oder mit einer ausführlichen Analyse. Die Novelle des Telekommunikationsgesetzes wird eines der spannenden bundesdeutschen Digitalthemen 2026.

Was war, was wird

Quo vadis, KI?

Seit dem Sommer (in diesem Newsletter zum ersten Mal im August erwähnt) dreht sich ein Großteil der Debatten rund um KI nicht um Benchmarks, Produkte oder Regulierung, sondern um die Frage, ob wir es mit einem “irrationalen Überschwang” zu tun haben, wie der Wirtschaftsnobelpreisträger Robert Shiller einst Investment-Blasen charakterisierte.

Die Umstände sind bekannt: Das Investitionsvolumen in KI-Rechenzentren entspricht inzwischen dem Vielfachen der Dotcom-Ära und wird durch Privatkredite und über bilanzfremde Konstruktionen wie Zweckgesellschaften (Special Purpose Vehicles, SPVs) finanziert. Schätzungen aus dem dritten Quartal zufolge standen bis zum dritten Quartal 2025 KI-Investitionen von 560 Milliarden US-Dollar Umsätzen von etwa 35 Milliarden Dollar entgegen. Gartner hat das erwartete Gesamt-Ausgabevolumen für 2025 sogar auf 1,5 Billionen US-Dollar beziffert. Bis 2030 könnten Big-Tech-Konzerne rund fünf Billionen Dollar (also 5000 Milliarden) Infrastruktur ausrollen; um das zu rechtfertigen, wären laut JPMorgan grob 650 Milliarden Dollar KI-Umsatz pro Jahr nötig, also fast das Zwanzigfache des Bisherigen.

Da sich noch kein klarer Marktführer herausgebildet hat, die Endverbraucherpreise niedrig und die Inferenzkosten (= Kosten für die Berechnung von Ergebnissen) zwar sinkend, aber noch zu hoch sind, bleiben die mittelfristigen Renditeerwartungen völlig unklar. Der Economist verweist auf Census-Bureau-Daten, nach denen der Anteil der Amerikaner, die KI am Arbeitsplatz nutzen, zuletzt bei etwa 11% lag – und bei großen Unternehmen sank. Einer Umfrage der Softwarefirma Dayforce zufolge zeigt sich eine massive Kluft zwischen Führung und Beschäftigten (87% Executive-Nutzung vs. 27% bei Beschäftigten). Die KI-Blütezeit ist also trotz offensichtlicher Produktivitätsgewinne noch nicht auf der Nachfrageseite angekommen (siehe auch “KI als normale Technologie”, Ausgabe #147).

Erschwerend kommt hinzu, dass KI-Chips (und damit die Investitionen in sie) eine begrenzte Halbwertszeit von drei bis fünf Jahren haben. Das führt dazu, dass neue Nvidia-Chipgenerationen zwar einen Gebrauchtmarkt entstehen lassen, aber den Wert bestehender Rechenzentren sinken lassen. KI-Rechenzentren sind also keine Immobilien mit Servern, sondern basieren auf einem ständig zu erneuernden Tech-Inventar.

Der KI-Boom ist verbunden mit einem massiven Ausbau der Stromversorgung. Die Autoren eines EPRI/Epoch-AI-Papers erwarten, dass einzelne Frontier-Training-Runs, die heute bei etwa 100–150 Megawatt liegen, bis 2028 1–2 Gigawatt erreichen könnten – und bis 2030 jenseits von 4 GW pro Training-Run. Die US-weite KI-Stromkapazität wird in dem Papier grob auf derzeit insgesamt 5 Gigawatt geschätzt und könnte bis 2030 auf über 50 GW steigen, sollte es beim bisherigen Paradigma immer größerer Modelle bleiben. Bislang scheint nur China in diesem Bereich für einen kompletten KI-Rollout gut aufgestellt.

Die Auswirkungen einer Korrektur würden neben der Techbranche den Finanz- und Versicherungsbereich ebenso betreffen wie das Energiewesen, also die Realwirtschaft. Zuletzt gab es erstmals wieder starke Nachfrage nach Credit Default Swaps, also außerbörslichen Finanzprodukten zur Rückabsicherung von Krediten, besonders für Finanzierungen von Oracle und dem Neocloud-Anbieter Coreweave. Dies kann als Zeichen wachsender Volatilität, mindestens aber von wachsendem Risikobewusstsein gewertet werden.

Wichtig für die kommenden Jahre wird die Refinanzierungsstruktur: Viele Projekte starten mit sogenannten „mini-perm“-Loans, die Laufzeiten von zwei bis fünf Jahren haben und für den Bau und die Ausstattung verwendet werden, also die Zeit bis zu relevanten Einnahmen überbrücken. Danach müssen diese Kredite auf den üblichen Finanzprodukt-Märkten (ABS/CMBS) „durchgerollt“ werden. Rechenzentren machen inzwischen 61% eines 79-Milliarden-Dollar-Markts für Digital-Infrastructure-Securitizations (ABS+CMBS) aus. Als Sicherheiten werden hier oft Cashflows angegeben, die zwar durch Verträge erwartet werden, aber noch nicht sicher verbucht werden können (“booked but not billed”).

Die großen Hyperscaler wiederum halten solche Kredite durch die Auslagerung in Special Purpose Vehicles (SPV), also unbilanzierte Projektkredite, von ihren Bilanzen fern. Sie haben aber – anders als Firmen wie Coreweave und OpenAI – im Falle einer sinkenden Nachfrage genügend Cashflow, um eine Korrektur abzufedern.

Wer nach 2026 nach Frühwarnzeichen sucht, sollte weniger einen Kursrutsch erwarten, sondern in die Finanzbranche blicken – auf verfehlte Einnahmeziele aus Rechenzentren, verschärfte Kreditklauseln und Refinanzierungsprobleme. Kurz: Ob aus ehrgeizigen Projekten plötzlich Lasten mit kompliziertem Kredit-Roll-Over werden.

Was man 2026 im Auge behalten sollte:

• Materialisieren sich die versprochenen Produktivitätsgewinne oder wird KI vor allem als Vorwand für Stellenabbau verwendet (vgl. Ausgabe #152)? Damit einhergehend: Gelingt es den KI-Anbietern, Industriekunden für mehr als Testprojekte zu gewinnen? Und: Werden Pilotprojekte fortgeführt oder mangels Produktivitätsgewinnen eingestampft?

• Werden die Investoren bei OpenAI ungeduldig, weil sich der Wachstumspfad weiter abflacht? Oder gelingt es der Firma, Großkunden für nennenswerte Verträge zu akquirieren und ein werbefinanziertes Modell aufzusetzen?

• Szenario für eine weiche Landung der KI-Branche: selektiverer Ausbau von KI-Rechenkapazitäten, stark fallende Inferenzpreise (auch durch Antwort-Caching etc.) bei parallel beschleunigter Adaption im Geschäfts- und Industriekunden-Kontext.

• Kommt es zu Refinanzierungsproblemen in der Peripherie? Dann würden nicht die Hyperscaler, sondern die Vehikel und Neocloud-Anbieter wie Oracle, CoreWeave, Nebius oder Lamda unter Druck geraten, die ihnen Kapazität vorfinanzieren und leasen. Zum Beispiel über Zinsentwicklung, Nichterfüllung von Vertragspflichten oder der Perspektive erschwerter Kredit-Refinanzierungen in den kommenden Jahren.

• Gibt es erfolgreiche technische Entwicklungen, die weg vom “größer ist besser”-Mantra führen, zum Beispiel vorangetrieben durch Open-Weights-Modelle? Damit einhergehen würde eine größere Gewissheit darüber, ob/dass nicht KI-Modelle, sondern die auf ihnen aufbauenden (Spezial-)Applikationen den Kern der Wertschöpfung darstellen (GPTs also eher wie Server oder DRAM zu betrachten sind).

• China priorisiert in den kommenden Jahren den Praxiseinsatz von KI (auch und vor allem in der Industrie), dennoch könnte hier durch neue Modelle ein neuer “DeepSeek-Schock” ausgelöst werden, der die Hochskalier-Strategie der USA ad absurdum führt und damit einen Krisenmoment an den Märkten auslöst.

• Was ich erwarte: Ein stärkerer medialer Fokus auf fehlendes Legacy-Tech-Geschäftsmodell (OpenAI) oder Cloud-Geschäft (Meta) bei der Bewertung der wirtschaftlichen Perspektiven von Modellanbietern.

• Worauf ich hoffe: Stärkere Berichterstattung über Details von Rechenzentrums-Krediten, zum Beispiel Kosten wie Reservekonten für Upgrades, Rücklagen für kundenspezifische Verbesserungen, Lease-Payment-Reserven, Risiko für Stranded Assets durch genauen Zuschnitt auf Einzelkunden.

• Wovon ich ausgehe: Details der Chip-Versorgung und -Entwicklungszyklen rücken noch stärker in den Mittelpunkt, zum Beispiel die Versorgung auf Sekundärmärkten, die Rechenpreise.

• Fokus auf Energie: Das US-Energieministerium prognostiziert immerhin, dass Rechenzentren bis 2028 zwischen 6,7 und 12 Prozent des US-Stromverbrauchs ausmachen könnten. Eine unterschätzte Entwicklung könnte deshalb das Stocken bei den Genehmigungen von neuer Energie-Infrastruktur sein, zum Beispiel durch Bürgerproteste wegen hoher Strompreise ausgelöst.

• Die Rolle Europas: Wo werden die KI-Gigafactories gebaut und sind sie überhaupt relevant? Ergeben sich branchen- und industriespezifische Einsatzszenarien von KI, die einen wirklichen Wettbewerbsvorteil bieten? Welche Rolle wird die Debatte über verfügbare Energie nach 2030 spielen? Werden wir mehr kompakte Modelle “made in Europe” sehen, die konkurrenzfähig sind?

Was ist mein Fazit daraus? Ich halte es im Moment für wahrscheinlich, dass wir auch 2026 mit der Erkenntnis “Es ist eine Blase” leben, ohne dass sie platzt – sofern das makroökonomische Umfeld halbwegs stabil bleibt. Die Marktkonsolidierung im KI-Bereich könnte mit einzelnen Fusionen und Übernahmen 2026 beginnen, aber erst zu einem späteren Zeitpunkt wirklich Fahrt aufnehmen. Der Unterschied zu den Tech-Innovationen der vergangenen 15+ Jahre (Social Media und Co.): Marktmacht würde weniger aus Nutzerbasis oder Feature-Tiefe entstehen, sondern sich vor allem aus der Refinanzierungsfähigkeit der jeweiligen Tech-Unternehmen ergeben.

Die Wahrheit aber ist: Im Moment lässt sich noch nicht wirklich absehen, wie groß die Wertschöpfung durch KI ausfallen wird, über welchen Zeitraum sich die Technologie verbreitet, wer am Ende von ihr profitiert und welche Parameter sich durch ein Platzen der KI-Kreditblase verschieben.

Jetzt abonnieren

Internetkultur I: Alles ist jetzt Fernsehen?

“Alles ist jetzt Fernsehen”, lautet die These, mit der der von mir sehr geschätzte Derek Thompson im Oktober viral ging: Alle Medienformen konvergieren demzufolge zunehmend zu einem einzigen Medium, das Fernsehen ähnelt. Von Social Media über Podcasts bis hin zu KI-generierten Inhalten wird alles zu einem Fluss aus Bewegtbild-Content.

Das Essay war damals noch unter dem Eindruck von Vibes und Sora entstanden, den KI-Videonetzwerken von Meta und OpenAI (siehe Ausgabe #150). Dieser Hype hat sich inzwischen gelegt. Aber der Trend zum Video ist nicht zu leugnen – komplexer Text wird immer stärker zum Elitenmedium (siehe u.a. Ausgabe #87)

Ein Teil des Contents fließt bei TikTok zusammen, manches bei Instagram, fast alles (weil mit einem großen Back-Katalog ausgestattet) bei YouTube. YouTube wird immer stärker auf dem Wohnzimmer-TV konsumiert; auch klassische Medien kommen an der Plattform nicht mehr vorbei und sorgen sich zudem, dass der Erfolg von Mikrodrama-Formaten in China sich auch im Westen fortsetzt. Die Content-Bandbreite von “User Generated Content” auf Seiten wie YouTube verläuft vom Pickle-Pepsi-at-home-Typen (Video 1), der Nostalgie für die Videos der frühen Zehnerjahre weckt, bis zur Hochglanz-Produktion von Alan’s Universe (Video 2).

2025 war das Jahr, in dem KI-Bewegtbild-Content erstmals eine größere Rolle spielte. 10 Prozent der am schnellsten wachsenden YouTube-Kanäle zeigen “AI Slop”, neu registrierte Nutzerkonten erhalten 20 Prozent KI-Videos angezeigt. Channels wie der KI-Affe Bandar Apna Dost haben Millionen von Abonnenten. Was wiederum menschliche Influencer und Creator nervös macht.

2026 wird das Jahr, in dem klarer werden dürfte, ob das Wachstum von KI-Content akzeptiert wird oder es eine Gegenbewegung gibt, auf die Plattformen mit Änderungen im Algorithmus oder Filtern für nicht-menschlichen Content reagieren müssen.

Internetkultur II: Lurking on

Das Wort “Lurking” geistert schon einige Jahre durch den Social-Media-Diskurs: Das “stille Mitlesen/Mitgucken” ist inzwischen für viele, vielleicht die meisten Nutzenden, der Modus Vivendi in den digitalen Massenmedien. Die Content-Produktion bleibt weitestgehend den Digital-Kreativschaffenden, uns LinkedIn-Kompetenzsimulierern und den Sendungsbewussten bis Radikalisierten überlassen.

Plattformen, die öffentlich einsehbar sind und/oder Nutzer mit hinterlegten Identitäten beherbergen, erscheinen inzwischen vor allem als Orte, um Signale zur eigenen Haltung kundzutun oder die Aufmerksamkeitsökonomie zu bedienen. Offenere und persönlichere Diskussionen verlagern sich weiterhin in anonyme Umfelder (Reddit, Discord) oder zu Dark Social (private Chatgruppen). Aus der Fragmentierung der Öffentlichkeit ist die Fragmentierung der Teil-Öffentlichkeiten geworden.

Dennoch zeigte Social Media im Jahr 2025 auch noch die alte Kraft, als es zum Medium für Jugendproteste im globalen Süden wurde. In Bangladesch wurde sogar der politische Übergang nach dem Sturz der Regierung auf Discord ausdiskutiert und teilweise ausverhandelt. Parallel dazu zeigten Diskussionen über ein Social-Media-Mindestalter, der Fall “White Tiger” oder die Rezeption der Netflix-Serie Adolescence den Wunsch nach stärkerer Jugendschutz-Regulierung.

Die Gewichte in der Debatte über Meinungsmanipulation und Radikalisierung verschoben sich mit der Rückkehr des Trumpismus an die Macht hin zu einer global-reaktionären Lesart, die die Kräfte des langjährigen Establishments und des Progressivismus 2025 überraschend unvorbereitet traf. Die Erkenntnis, dass sich globale Netzwerke zu Werkzeugen geopolitischer Hegemonie entwickelt haben, führte bislang noch nicht zu adäquaten Alternativen oder einer Gegenbewegung – was angesichts der oben angesprochenen Fragmentierung auch schwer vorstellbar erscheint.

Somit symbolisiert das “Lurking” auch die wachsende Kluft zwischen denen, die das Digitale als Bühne bespielen, und denen, die es nur noch wie eine Wetterlage ertragen. Omnipräsent, aber nicht veränderbar.

Doch je mehr Menschen lurken, desto mehr Raum bekommen die wenigen, die Sichtbarkeit professionell betreiben, ideologisch säen oder algorithmisch ernten. So wird Social Media zur Diskurssimulation: massenhaft ausgespielt und wirksam, aber nicht annähernd repräsentativ.

Vielleicht bestand unsere Naivität (auch meine eigene) darin, in den Nuller- und frühen Zehnerjahren kurzzeitig wirklich geglaubt zu haben, dass öffentliche soziale Medien die Kluft zwischen den Menschen verkleinern können und sich daraus etwas anderes als die Neusortierung in Mikro-Zielgruppen und das Hacking unserer Aufmerksamkeit durch Emotionsimpulse ergibt.

Krypto

Für Krypto-Anhänger war das Jahr, trotz des von Bitcoin angeführten Niedergangs in Q4, ein gutes Jahr: Der Markt für Stablecoins hat sich um mehr als 50 Prozent auf 300 Milliarden US-Dollar vergrößert; die politische Entscheidung der US-Regierung, die Stablecoins in das Finanz- und Wirtschaftssystem zu integrieren und der FEC-Aufsicht zu entziehen, wird weiter zu hohem Marktwachstum führen. Allerdings kann auch die strenge Rücklagepflicht (1:1 in Dollar-Reserven) nicht darüber hinwegtäuschen, dass Stablecoins durch die schnelle Einlage-Entnahmen im Falle eines Krisenszenarios das Bankensystem destabilisieren könnten (siehe Ausgabe #141).

Einen echten Fortschritt für Abermillionen Menschen könnte 2026 der Stablecoin von Western Union bedeuten, sofern sie wirklich deutlich weniger Gebühren für Geldtransfers in ihre Heimatländer zahlen werden. In Europa wird 2026 ein entscheidendes Jahr für den digitalen Euro als Alternative zu Stablecoins. Die Digitalwährung erfährt allerdings von verschiedensten Seiten Widerstand und lässt Fragen zum Praxisnutzen weiterhin offen.

Digitalpolitik als Geopolitik

Vielleicht lässt sich 2025 auch so zusammenfassen: Die Zeit der abstrakten “Netzpolitik” ist vorbei. Digitalisierungspolitik ist 2025 vor allem Geopolitik. Fragen von Datenschutz und Plattformregulierung stehen dabei neben Themen wie Rechenkapazitäten, seltenen Erden oder Exportkontrollen.

Die USA sehen dabei Compute, Cloud und den Großteil des KI-Stacks als geopolitisches Exportgut, dessen Erfolg Tech-Wirtschaft und Staat mit Markt- und sicherheitspolitischer Macht relativ synchronisiert vorantreiben. China wiederum organisiert seine technologische Entwicklung autark, aber inzwischen auch in Richtung Export gerichtet – nicht DeepSeek, sondern die tiefe Integration von Industrie und KI, die sich im nächsten Fünfjahresplan wiederfinden wird, ist hierfür das deutlichste Signal.

Europa steht dazwischen, als (fragmentierter) Markt, Regulierer und Abhängiger. Trotz einiger Vorbereitungen sieht es noch nicht so aus, als könnte die EU hier Handlungsfähigkeiten und Eigenständigkeit entwickeln. Dabei sind die Themen, um die es geht, nicht nur digitalisierungsrelevant (Kapitalmarktunion, echter Binnenmarkt). 2026 ist der Druck hoch, hier zu spürbaren Veränderungen zu kommen.

Teilen

Links

Kritik an US-Sanktionen gegen HateAid.

TikTok-Deal unterschrieben.

Chinas KI-Vorteil: Günstige Energie. ($)

Wahlkampf in Indien: Slop überall.

So einfach ist Data Poisoning.

Ein anderer Blick auf WSIS+20.

Was für und was gegen ein Social-Media-Verbot für Jugendliche spricht. (€)

Angst vor dem Komfort der KI-Zukunft.

Oberstes Gericht von Pennsylvania: Kein Recht auf Privatsphäre.

Die “heißesten” Rechenzentren der Welt.

Briefing über KI-Agenten. (€)

KI-Bildgeneratoren werden besser, indem sie schlechter werden.

120.000 IP-Kameras in Südkorea gehackt.

Tech-Whistleblowing als Karrierekiller.

KI und Weltmodelle.

Algorithmische Preisbildung in den USA – was könnte schiefgehen? ($)

KI-Outputregeln haben immer Lücken.

Neues vom Trump-Phone.

Was genau ist Slop?

Wir lesen uns 2026!

Johannes

Appetizer aus dem Tagesspiegel Background

1&1 vs. Vodafone: Konnte 1&1 die vorgeschriebenen Mobilfunk-Ausbauziele nicht erreichen, weil man von Vodafone behindert wurde? Die unendliche Kartellrechtsgeschichte geht nun in eine neue Runde. Lisa Oder mit dem Überblick.

Länder-Vorstellungen zum Deutschlandstack: Benjamin Hilbricht über die Beschlüsse der Digitalministerkonferenz und die Vision für das Deutschlandstack, die sich aus ihr ableiten lässt.

AfD-Anfragen und KRITIS: Späht die AfD mit parlamentarischen Anfragen die KRITIS-Lage aus? Dieser Verdacht stand in den vergangenen Wochen im Raum. Theresa Locker erweitert die Fragestellung um das Thema Informationsfreiheit. Um die ist es ohnehin schlecht bestellt.

IT-Vorbehalt: Das Vetorecht des Digitalministeriums über die IT-Ausgaben des Bundes war mit Spannung erwartet worden. Hier die Analyse, was drinsteht.

Cybersicherheit im Digital-Omnibus: Josefine Kulbatzki und ich über die vereinfachten Meldewege für IT-Vorfälle, die im Entwurf für den Digital-Omnibus zu finden sind. Fazit: Der Plan hat noch einige Fragezeichen und einiges wurde noch nicht zu lösen versucht.

Backlash gegen die Digitalisierung der Jugend

Wenn am 10. Dezember das Social-Media-Verbot für Unter-16-Jährige in Australien in Kraft tritt (siehe Ausgabe #116), ist der vorläufige Höhepunkt der Gegenreaktion gegen die digitalisierte Jugend erreicht.

Vielleicht ist das der Beginn einer Form von Jugendbeschränkung, wie wir sie bei Zigaretten und Alkohol haben. Vielleicht auch nur der Höhepunkt einer moralischen Panik, die sich eher mit symbolischen Verboten als mit einem adäquaten Umgang der Erwachsenen mit dem Verhalten ihrer Kinder beschäftigt. Fragen zur technischen Umsetzbarkeit bleiben zusätzlich offen.

Wir werden hoffentlich zügig herausfinden, was ein Social-Media-Verbot bringt: Das australische Experiment wird mit einer großangelegten Vorher-Nacher-Studie unter 13- bis 16-Jährigen begleitet. In einer (sehr kleinen und nicht repräsentativen) Umfrage geben australische Jugendliche an, dass ihre Eltern nur die negativen Seiten von Social Media verstehen, nicht die positiven. Und dass es eher darum gehen müsse, den Content sicherer zu machen, den sie zu sehen bekommen. Was erst einmal durchaus vernünftig klingt, aber politisch und gesellschaftlich der mühsamere Weg als ein pauschales Verbot wäre.

Die Social-Media-Verbotsdebatte kann an sich aber natürlich nicht ohne die angrenzenden Felder betrachtet werden. Da wäre zum Beispiel das etwas anders gelagerte Smartphone-Verbot in Schulen. In diesem Schuljahr haben Bremen, Schleswig-Holstein und Hessen sogenannte Smartphone-Verbote bzw. (in Hessen) “Smartphone-Schutzzonen” eingeführt. In Ländern wie Frankreich dagegen gibt es solche Verbote für Grund- und Mittelschulen schon seit 2018, sie wurden zuletzt verschärft.

Erstaunlicherweise gibt es aus Frankreich offenbar sehr wenige Auswertungen, ob diese Regelung sich bewährt hat. Eine Studie aus dem Lancet kommt zum Beispiel für Großbritannien zu dem Schluss, dass erzwungene Smartphone-Abstinenz während der Schulzeit nicht zu größerem Wohlbefinden der Jugendlichen führt. Verbunden ist das mit dem Hinweis auf Rebound-Effekte: Wer in der Schule keinen Zugriff auf sein Smartphone hat, aber zu exzessiver Nutzung neigt, holt das Verpasste in der Freizeit nach. Und die besten PISA-Ergebnisse in Mathematik erreichten Schülerinnen und Schüler, die ihre Geräte für einen moderaten Zeitraum zum Lernen nutzten (nicht aber für Freizeitaktivitäten). Zugleich zeigen Übernutzung und Ablenkung deutlich negative Effekte. Ist es also der Inhalt, der den Unterschied ausmacht? Oder die Disziplin?

Die New York Times weist in diesem Zusammenhang darauf hin, dass sich auch der Trend zum digitalisierten Schulunterricht inzwischen etwas abgekühlt hat. Wir kennen die Trendwende in Schweden und auch die deutschen Debatten. Wissenschaftlich ist die Studienlage hier differenziert bis uneindeutig: So scheint sich zu zeigen, dass Tablets als Lerngeräte nur dann funktionieren, wenn sie nicht Papier digital nachbilden, sondern Software systematisch für adaptives Feedback eingesetzt wird - also der Schritt zur Individualisierung gemacht wird.

Letzteres ist natürlich das große Versprechen des Einsatzes von Künstlicher Intelligenz in der Bildung. Neben den klassischen Sorgen - Hausaufgaben werden überflüssig, Lernpfade bleiben ungenutzt, weil ChatGPT die Antworten liefert - gibt es auch die Hoffnung, mit Hilfe von KI Schülerinnen und Schüler gezielter nach ihrem Leistungsstand zu fördern. Der Economist hat die aktuelle Debatte in seiner jüngsten Ausgabe abgebildet.

Dabei wird auch klar: KI kann soziale Kompetenzen und das Lernen in der Gemeinschaft nicht vollständig ersetzen, da wichtige Fähigkeiten wie Zusammenarbeit und Konsensfindung im Klassenverband vermittelt werden. Diese Erkenntnis macht durchaus Hoffnung: Denn der Einfluss digitaler Werkzeuge und Kommunikationsmittel auf die sozialen Kompetenzen von Jugendlichen sollte einer der wichtigsten Aspekte sein, wenn wir über die Folgen von Smartphone, Social Media und KI für Heranwachsende sprechen.

Jetzt abonnieren

China: Stärkere Kontrolle und “predictive governance”

Am 28. November tagte das Politbüro der KP Chinas zum Thema Internet-Governance. Wie Sinocism berichtet, deutet sich eine stärkere Einschränkung der digitalen Influencer-Szene an, aber auch eine stärkere Nutzung von KI zur Meinungsbildung.

Konkret erging die Anweisung, finanzielle Anreizstrukturen rund um das Social Web zu zerschlagen. Dabei stehen nicht so sehr einzelne Influencer, sondern Plattformen, Agenturen, Multi-Channel-Networks und andere Firmen im Mittelpunkt, die mit klickstarkem und aus Sicht der KPCh offensichtlich politisch problematischem Inhalt Geld verdienen.

In diese Richtung soll offenbar auch KI ausgerichtet werden. Pünktlich zur Sitzung veröffentlichte ein Zensurbehörden-Vizechef einen Gastbeitrag in einem Fachmedium. Dort heißt es (übersetzt und gefettet) zum Thema KI:

“Wir müssen den Aufbau autonomer und kontrollierbarer Mainstream-Korpora beschleunigen, Mainstream-Korpora zum Trainieren großer Modelle künstlicher Intelligenz nutzen und sicherstellen, dass die sozialen Kernwerte des Sozialismus in ihnen verankert sind. Wir müssen weiterhin vorausschauend planen und sicherstellen, dass Werte in neuen technologischen Anwendungen von Anfang an berücksichtigt und integriert werden.”

Für die KI-Entwicklung dürfte das also eine stärkere Ideologisierung der chinesischen Modelle bedeuten, was ja im Kontext von Open-Weight-Models auch für Europa relevant ist.

Ein weiterer Punkt: Staatschef Xi Jinping hat die Offiziellen im Land indirekt dazu aufgefordert, KI für ein besseres Verständnis der Stimmung in der Bevölkerung und vorausschauende politische Entscheidungen (“predictive governance”) zu nutzen.

Kann man daraus schließen, dass gerade in der öffentlichen (digitalen) Meinungsbildung und ihrer Unterdrückung etwas gegen den Willen der KPCh läuft? Ein Oppositionsmedium aus dem Exil suggeriert das und weist auf die Abwesenheit einiger relevanter Akteure aus dem Bereich Internet-Kontrolle bei besagter Sitzung hin.

Ich kann diese Kreml-Astrologie nicht bewerten. Aber dass die KPCh mit der ideologischen Kontrolle von KI-Output vor einem kniffligen Problem steht, ist ja keine Neuigkeit.

KI-Blase: Wo der Dotcom-Vergleich in die Irre führt

Der erfahrene Tech-Journalist Tim Culpan (Ex-Bloomberg) hat die hilfreichste “Was-wird-aus-der-KI-Blase”-Analyse der vergangenen 14 Tage geschrieben. Zum einen, weil sie einmal etwas klarstellt: Der Vergleich zwischen KI-Boom und Dotcom-Boom (siehe Ausgabe #146) muss etwas präziser gezogen werden.

So waren die eigentlichen Dotcom-Firmen verbraucherorientierte Unternehmen mit vergleichsweise geringen Investitionen in harte Infrastruktur, dafür mit hohem Marketing- und Wachstumsaufwand (vgl. Pets.com). Die Internetanschluss-Telkos hingegen waren B2B-Infrastrukturanbieter, zur Dotcom-Zeit enorme Summen in physische Netze stecken mussten.

Heutige KI-Unternehmen tragen für Culpan Züge beider Modelle: Sie sind zugleich produkt- und marketingnah wie die Dotcoms, aber auch kapital- sowie infrastrukturlastig wie die Telkos. Damit lassen sie sich in keine der beiden Kategorien sauber einordnen.

Culpan sieht im Moment auf der Endanwender-Ebene kein Produktfeature, dass es Nutzern unmöglich machen würde, schon morgen zu einem anderen Anbieter mit einem ähnlichen Produkt zu wechseln. Es gibt also keinen “Moat”, keinen Burggraben für das Produkt. Entsprechend klassifiziert er die KI-Anbieter zunächst einmal als Token-Hersteller.

Die KI-Token-Herstellung ähnelt für ihn dabei der Produktion von dynamischen Arbeitsspeichern (DRAM): Beide sind kapitalintensiv, technologisch schnelllebig und erfordern ständige Investitionen. Wie im DRAM-Markt wird sich die AI-Branche deshalb auf wenige große, finanzstarke Player konzentrieren, so die Prognose. Für KI-Anbieter, die Teil eines Konglomerats sind (also Googles Gemini etc.), sieht er gute Überlebenschancen - für alleinstehende Firmen wie OpenAI und Anthropic nicht.

Es ist ja dieses Jahr klargeworden, dass eine Firma wie OpenAI mit 20-Dollar-pro-Monat-Abos für Privatkunden nicht weit kommen wird. Und dass man selbst mit Geschäftskunden Lizenzbedingungen abschließen müsste, die ziemlich schwer vermittelbar sind. Szenarien, in denen Konzerne wie Pfizer hohe Umsatzbeteiligungen für dank GPT entdeckte Wirkstoffe entrichten und damit Jahr für Jahr Hunderte Millionen Euro in die OpenAI-Kassen spülen würden, wirken derzeit wenig plausibel; es ist wahrscheinlicher, dass sich der Markt für die Spezialanwendungen sehr stark ausdifferenzieren wird (worin übrigens die große europäische Chance liegt).

Culpan formuliert es so (übersetzt):

“Anwendungsentwickler – diejenigen, die KI-Modelle nutzen, um die Produktivität zu steigern, Kosten zu senken oder völlig neue Produktkategorien zu schaffen – werden die Zukunft bestimmen. Viele Modellentwickler werden jedoch vom Markt verschwinden.”

P.S. In diesem Zusammenhang ebenfalls interessant: Bridgewater vs. Paul Kedrosky und die Frage, ob Google Gemini 3 ein Beweis dafür ist, dass wir weiterhin einen funktionierenden Wettbewerb der Rechenkraft erleben (Bridgewater) oder wir bereits in einer Phase der abnehmenden Erträge sind (Kedrosky).

Teilen

Der erste politische Online-Wettbetrug

Die rasante Entwicklung von Online-Prognosemärkten ist für mich das vielleicht wichtigste Nischenthema aus dem vierten Quartal dieses Jahres (siehe Ausgaben #151 und #152). Nun schreibt 404 Media (Zitat übersetzt und gefettet):

“Eine Live-Karte, die die Frontlinien des Krieges in der Ukraine verfolgt, wurde bearbeitet, um einen falschen russischen Vormarsch auf die Stadt Myrnohrad am 15. November anzuzeigen. Die Bearbeitung fiel mit der Entscheidung einer Wette auf Polymarket zusammen, einer Website, auf der Nutzer auf alles wetten können, von Basketballspielen über Präsidentschaftswahlen bis hin zu aktuellen Konflikten. Wenn Russland Myrnohrad bis Mitte November eingenommen hätte, hätten einige Spieler Geld gewonnen. Laut der Karte, auf die sich Polymarket stützt, sicherten sie sich die Stadt kurz vor 10:48 UTC am 15. November. Die Wette wurde entschieden, und dann wurde die Karte auf mysteriöse Weise erneut bearbeitet, und der russische Vormarsch verschwand.”

Virtuelle Grenzverschiebungen, um eine Wette zu gewinnen… Man nennt das wohl Kriegsgewinnler?

Ich kann nur gebetsmühlenartig wiederholen: Prognosemärkte mögen aus der Logik der “Weisheit der Vielen” entstanden sein; in Gestalt von Firmen wie Polymarket sind sie längst ein Werkzeug der “Financialization of everything” geworden, also des bereits Jahrzehnte andauernden Megatrends, die Logiken der Finanzmärkte immer weiter auf die verschiedensten Bereichen unseres Lebens auszudehnen. Die von 404 Media beschriebene vergleichsweise harmlose Online-Datenbankmanipulation ist nur der Anfang dessen, was droht, wenn wir das politische Geschehen in eine Wett- und Investmentlogik einbeziehen.

Everybody Works In Sales

Wenn ich oben vom Siegeszug der Finanzlogik im 21. Jahrhundert schreibe, dann wird dieser nur noch von der Allgegenwärtigkeit des Social-Media-Marketings in den Schatten gestellt. Das Wall Street Journal berichtet darüber, dass Unternehmen wie Starbucks und Delta Mitarbeitende verstärkt als Social-Media-Influencer nutzen und auch beim Recruiting auf deren entsprechende Reichweite und Skills achten.

Das klingt im Jahr 2025 völlig logisch und nicht einmal neu. Und doch will ich in diesem Meer von TikTok-Büroarbeitenden, Instagram-Baristas, LinkedIn-Dauerkommentatoren und Bluesky-Wissenschaftlern kurz daran erinnern, dass Firmen- und Selbstmarketing vor ein paar Jahren noch nicht diese Ausmaße hatte.

Vor ungefähr zehn Jahren meinte mal ein Entwickler, der eine sehr wichtige, aber weitestgehend unbekannte Programmiersprache beherrschte: Ich weiß, dass ich mit meinem Handwerk so gut bin, dass Selbstmarketing bei LinkedIn und Co. für mich noch keine große Rolle spielt. Aber ich weiß auch, dass die Relevanz dieses Selbstmarketings so stark wächst, dass es irgendwann das entscheidende, vielleicht das einzige Kriterium für meine Karriere sein wird.

Je intensiver in den vergangenen Jahren der Kampf um die Sichtbarkeit wurde (Stichwort algorithmisierte Timeline & Creator-Economy), desto stärker schlug dieser Trend durch. Wir befinden uns inzwischen auch außerhalb offensichtlich betroffener Branchen wie Öffentlichkeitsarbeit und Journalismus nahe an dem Punkt, den der Entwickler beschrieben hat. Everybody Works In Sales, für sich selbst und für seine Firma. Und bitte die markenkonforme Authentizität nicht vergessen, ja?

X und Geodaten

X.com zeigt nun an, aus welchen IP-Regionen Accounts betrieben werden. Das Resultat hat Bloomberg beschrieben (übersetzt und gefettet):

“Ein verifizierter Pro-Trump-Account mit fast 600.000 Followern, dessen Inhalte von Trump selbst geteilt wurden, hat laut den Daten von X seinen Sitz in Indien. Dieser Account änderte anschließend seine Biografie und gab an, dass er von einem Inder betrieben wird.

Andere beliebte Accounts sowohl der Linken als auch der Rechten wurden nach der Änderung gesperrt, darunter einer mit 53.000 Followern, der sich als „stolzer Demokrat” aus New Jersey ausgab, aber seinen Sitz in Kenia hatte. Zu den weiteren gesperrten Accounts gehörten ein Account mit Sitz in Nigeria mit mehr als 1 Million Followern und ein Account mit 70.000 Followern, der von Bangladesch aus betrieben wurde.

Es gibt unzählige weitere Beispiele, die weiterhin sichtbar sind.”

Links

Fehlende Daten für die Wissenschaft: EU-Kommission bestraft X

Krypto und der Crash zum Jahresende. (€)

Doge, Krypto und das Ende der LOL-Ära. (€)

Metas Abkehr vom Metaverse erfreut die Börse.

Die US-Notenbank wird KI nicht retten können.

Code Red: Warum bei OpenAI die Hütte brennt. (€)

Follow-up: Was in Nepal nach der Social-Media-Revolution folgt. (€)

441 Slides zu Social Media 2025.

Die politischen Überredungskünste von KI.

Agentische KI-Slop-Konten: Eine Analyse.

Achtung, Roboter-Blase (in China)! ($)

Fünf Jahre Metas “Oversight Board” - eine Bilanz. ($)

Datenbank mit nicht-konsensualen KI-Nacktbildern geleakt.

Großbritannien überlegt, Krypto-Parteispenden zu verbieten.

KI-Modelle: Chinas Vorteil gegenüber den USA. (€)

Saudi-Arabiens KI-Offensive (und was Europa darüber wissen muss).

Stärkere Regulierung von KI-Rechenzentren in Kalifornien gescheitert.

Mimetische Infektion.

Offener Brief an KI-Content-Publizierer

YouTube-Slop, aber für Babys. ($)

KI vs. Porno-Branche. (€)

Alle nutzen KI, aber es ist unpopulär. Warum?

Das Cloud Sovereignty Framework der EU - eine Analyse

Hotels, Menschenhandel und Gesichtserkennung.

Der neue Browser-Konflikt.

Zerstört KI Meinungsumfragen? (€)

AI Eats the World (Benedict Evans)

Interview mit einem erfolgreichen YouTube-Scriptwriter.

Youtube-Nostalgie

Seltsame Dinge passieren mit Apples Podcast-App.

Wie das Emoticon erfunden wurde.

Surfen als wäre es 2022.

Die TikTokifizierung der Thanksgiving-Parade. ($)

Bis zum nächsten Mal!

Johannes

Appetizer aus dem Tagesspiegel Background

Der Digital-Omnibus… war ein Großthema der vergangenen Wochen, bei uns unter anderem in der Analyse des geleakten Entwurfs, der Nutzung persönlicher Daten für KI-Training im Sinn des “berechtigten Interesses” und der Verschiebung der Hochrisiko-Fristen. Die Reaktionen nach der offiziellen Vorstellung haben wir natürlich auch eingesammelt.

Interview mit KI-Forscherin Cecilia Rikap: Cecilia Rikap untersucht die Vernetzung der universitären KI-Forschung mit den großen KI-Anbietern. Auch wenn Rikap die Ergebnisse aus einer eindeutig linken Perspektive einordnet, sind ihre Erkenntnisse derart relevant, dass man ihr unbedingt zuhören sollte. Alexandra Ketterer hat das Interview geführt.

KI-Crawling und Urheberrecht: Derzeit wird in Medienbranchen-Kreisen ein Papier geteilt, an dem ich im Frühsommer mitgewirkt habe. Darin geht es um die Urheberrechtsfragen für Medienhäuser, die durch das KI-Crawling entstanden sind. Wir beim Background begleiten das Thema ebenfalls regelmäßig: Friederike Moraht hat zum Beispiel das folgenreiche Urteil des Landgerichts München zu Gema vs. OpenAI analysiert und den politischen Puls rund um das Jahrestreffen der Initiative Urheberrecht gemessen. Monika Ermert wiederum hat die Sitzungen der Internet Engineering Task Force (IETF) verfolgt, die sich eigentlich auf einen technischen Standard für KI-Crawling einigen wollte, dies aber aufgrund allzu heftiger Differenzen verschieben musste.

Es wird ernst in Sachen digitaler Neuroethik: Die Weltgemeinschaft hat sich im Rahmen eines Unesco-Prozesses auf Leitlinien für den Umgang mit Neurodaten und Computer-Zugängen für menschliche Gehirne geeinigt. Ute Korinth hat die Details aufgeschrieben.

Neue Krypto-Besteuerung: Ab dem kommenden Jahr fallen lizenzierte Krypto-Börsen unter die neue EU-Regulierung. Das bedeutet unter anderem, dass sie Daten an die Steuerbehörden weitergeben müssen, die dann entsprechend Spekulationsgewinne besteuern können. Warum das alles in der Praxis gar nicht so einfach wird, habe ich Anfang November aufgeschrieben.

Und damit zum Newsletter:

Finale Notizen zum “Europäischen Gipfel zur Digitalen Souveränität”

Beginnen wir auf der Meta-Ebene: Ich kann verstehen, wenn der europäische Gipfel zur digitalen Souveränität viele hier ratlos zurücklässt. Mein eigenes Fazit ist ebenfalls gemischt. Aber die Pauschalkritik, die dann wieder von den üblichen Akteuren kommt, wird dem Ganzen nicht so wirklich gerecht.

Ich fand, es gab vor allem einen sichtbaren Unterschied zu den sonstigen Digitalgipfeln: Es fand eine europäische - und natürlich speziell deutsch-französische - Vernetzung statt, die nochmal sehr wichtig werden kann. Auf den klassischen Digitalgipfeln schmoren die deutschen Akteure oft im eigenen Saft, jeder hat mit jedem schon Geschäfte gemacht oder kennt die Positionen; in Berlin am Dienstag wurde diese Selbstreferenzialität einmal aufgebrochen. Und natürlich kann man darüber die Augen rollen, dass die EU-Länder erst jetzt damit anfangen, ihre Digitallösungen nebeneinander zu legen und strategisch zu vergleichen, was man gegenseitig übernehmen könnte - aber es muss halt einfach mal gemacht werden.

Ich hatte im Background am Montag den geopolitischen und wirtschaftlichen Kontext ausführlich umrissen. Davon lässt sich viel ableiten: Natürlich wäre es ein Signal gewesen, hätte sich wirklich ein Dax-Konzern mal zu „Buy European“ bekannt. Aber die wirtschaftliche Lage ist schlecht, die angebotenen Produkte sind noch zu verstreut und schlecht integriert und natürlich haben gerade exportorientierte Konzerne auch Geschäftsinteressen in den USA (und auch in China). Mehr dazu wie gesagt in der Analyse beim Background.

Mehreren Menschen, mit denen ich gesprochen habe, ist durchaus aufgefallen, dass Bundeskanzler Friedrich Merz „Buy European“ sehr viel offener und offensiver als sein Digitalminister Karsten Wildberger thematisiert hatte. Wildberger wiederum vermied - qua fehlender offizieller Festlegung der Bundesregierung - nicht nur eine Positionierung zu “Buy European”, sondern stieg auch der CSU nicht auf die Füße und rechtfertigte den Einsatz von Palantir unter bestimmten Bedingungen. Womit einmal mehr die Frage im Raum steht, die ich in den vergangenen Monaten häufiger gehört habe: Weiß Wildberger, dass er eigentlich viel mehr Freiheiten hat, als es qua Amt den Anschein hat? Und wenn ja: Warum nutzt er sie nicht?

Eine Antwort könnte sein: Weil sich die Bundesregierung de facto in allen wirtschaftlichen Politikfeldern darauf festgelegt hat, dass Vereinfachung der Schlüssel für den Erfolg ist. Das ist nicht nur mit Blick auf die künftige Haushaltsentwicklung nachvollziehbar, sondern auch, wenn man sich daran erinnert, wie ineffektiv die Digitalprogramme der EU funktionierten oder wie viel aus den Corona-Mitteln für die OZG-Umsetzung in teure Beraterverträge floss.

Und doch macht man es sich mit dem Bashing der EU und ihrer Vorgaben zu einfach - mit der Problembeschreibung wie mit der Lösung. Wenn man sich schon mit konkreten Investitionen zurückhält und eher “Signale” setzen möchte, hätte man zumindest beim „Staat als Ankerkunden“ konkreter sein müssen - das Minimum wäre ein festgelegter Prozess gewesen. So bleiben zurecht Zweifel, ob das Thema digitale Souveränität wirklich Priorität genießt oder man einfach bis zum Ende der Legislaturperiode ein bisschen hie und da einkauft und herumexperimentiert.

Bei den Franzosen wiederum war offensichtlich, dass für sie eigentlich nur das Thema KI zählt. Es war eine Dauerschleife, die teilweise schwer zu ertragen war. Mit Mistral sieht Paris seine Schäfchen im Trockenen, nun geht es nur noch darum, den Rest von Europa zu B2B-Kunden des Start-ups zu machen. Von einem „Airbus für KI“ ist entsprechend keine Rede mehr, hier verlagert sich der französische Blick eher in Richtung eines “Airbus für Quantencomputing”.

Die Vertreter kleinerer Länder, mit denen ich sprechen konnte, sehen das alles durchaus mit Interesse - wissen aber, dass sie auf dem Rücksitz Platz nehmen müssen. Natürlich haben sie die Sorge, dass am Ende (wieder einmal) deutsche und französische Firmen Großaufträge bekommen und vom Souveränitätstrend profitieren; allerdings steht man eher auf der Position, dass es gut ist, dass Deutschland die Digitalisierung als Schlüsselthema endlich erkannt hat.

Interessant fand ich in diesem Zusammenhang auch das Gespräch mit jemandem aus einem kleinen osteuropäischen Land. Der sagte sinngemäß: Schön und gut, natürlich sind wir offen, wenn US-Firma XY KI-Rechenzentren bauen möchte. Aber wir sehen natürlich die steigenden Strompreise in den amerikanischen Gegenden, wo plötzlich solche Großprojekte große Stromkapazitäten binden und die Finanzierung des gestiegenen Bedarfs letztlich sozialisiert wird. Und genau diesen Unmut, der deshalb entsteht, möchten wir uns sparen.

Übrigens gab es tatsächlich eine Sache, für die Deutschland beneidet wird: Für die quasi unbegrenzten Rüstungsausgaben, die die Bundesrepublik in den kommenden Jahren tätigen kann und die auch in Defence Tech fließen werden. In der Digitalisierung sieht Frankreich Deutschland nicht auf Augenhöhe; im Militärbereich hat man Sorge, innerhalb der nächsten zehn Jahre überholt zu werden.

Jetzt abonnieren

Neue Notizen zu KI

Bubble-Talk

Die Debatte über eine mögliche KI-Blase hat sich in den vergangenen Wochen von der Frage, ob eine Blase existiert, hin zum Rätselraten verlagert, wie diese Blase denn konkret beschaffen ist und was ihr absehbares Platzen auslösen würde. Selbst Vertreter von Tech-Firmen reden offen über das Thema. Und dass Peter Thiels Investmentfirma ihre Nvidia-Anteile verkauft hat, zeugt von größerer Bubble-Sorge (oder davon, dass man Kohle für irgendwelche Rechzentrumsprojekte braucht).

Mein Stück aus Ausgabe #146 zu den Zusammenhängen ist weiterhin relevant, ich will aber noch auf ein paar Details eingehen. Zum Beispiel die Frage: Was passiert, wenn die Blase platzt, weil eine Markt-Massenreaktion auf die Erkenntnis einsetzt, dass die Investitionen nicht so schnell wie erhofft Renditen abwerfen?

Der Economist hat hierzu ein relativ konkretes Szenario: US-Verbraucher sind besonders betroffen, weil die Rechenzentren-Kredite als Finanzprodukte in Rentenplänen, Investmentfonds und börsengehandelte Fonds sowie den Portfolios von Privatanlegern zu finden sind. Der darauffolgende Einbruch der Konsumnachfrage würde aber auch den Rest der Welt treffen, zumal das Wirtschaftswachstum in den USA ja maßgeblich von den KI-Rechenzentrumsprojekten abhängig ist.

Auch in der Tech-Branche dürften sich einige Gewichte verschieben, denn de facto sind die Konzerne zwar hochprofitabel, aber der Eindruck täuscht insofern, als die Finanzierungskredite eben aus den Bilanzen ausgelagert sind. Eine richtig gute Analyse dazu habe ich aber noch nicht gefunden.

Bloomberg hatte jüngst eine gute Analyse der Privatkreditmärkte, die mehr oder weniger unreguliert sind und die einen großen Teil der KI-Kapazitäten finanzieren. JPMorgan-Chef Jamie Dimon spricht von Kakerlaken und spricht von einem Problem, das der Subprime-Krise der Nullerjahre deutlich ähnelt. Das Problem ist, dass Privatkredite häufig illiquide sind, also nicht einfach verkauft werden können. Dazu gibt es Probleme mit zweifelhaften Ratings. Und eine Verflechtung mit dem Banksektor, der die Privatkredite oft finanziert. Wenn nun mehrere Großkreditnehmer gleichzeitig ausfallen, ist das Risiko auch für den klassischen Bankensektor immens.

Haftungsfragen bei KI-Verleumdung

“Wer bezahlt, wenn sich die KI irrt?”, fragt die New York Times. Hinter der zahmen Überschrift verbirgt sich tatsächlich eine Form von Großrisiko für KI-Anbieter: Mehrere Menschen und Firmen verklagen Google und OpenAI, weil Chatbots in ihren KI-Antworten Falschbehauptungen aufgestellt haben. Zum Beispiel über eine Handwerkerfirma aus Minnesota, der Gemini in Googles KI-Modus juristische Probleme wegen irreführender Verkaufspraktiken andichtete. Dadurch gingen der Firma fast 400.000 Dollar an Umsatz verloren.

Den konkreten Verlust zu beziffern, wird nicht immer so einfach sein wie bei der Handwerkerfirma, die de facto schlicht die Vertragskündigungen finanziell zusammenrechnete. Allerdings tut sich mit diesem neuen Konflikt auch eine Frage auf: Können Anbieter von KI-Chatbots sich wirklich noch als Medien-Intermediäre, die nur Informationen auswerten und ausspielen, bezeichnen?

Das ist tatsächlich auch in Europa sehr relevant: Denn ein neues Haftungsregime, das Google, OpenAI und anderen eine stärkere Verantwortung für die Inhalte gibt, die in den Chatbot-Antworten verbreitet werden, würde deutlich höhere Qualitäts- und auch Prüfungsanforderungen an die Anbieter einer solchen Software stellen.

KI, Arbeitsplatzabbau und “AI Washing”

Die US-Techfirmen bauen - angesichts der Großinvestitionen in KI und den erwarteten Produktivitätsgewinnen bei Programmiertätigkeiten - weiter Jobs ab und auch die “alte” Wirtschaft verhehlt laut Bloomberg nicht mehr, dass sie Stellen wegen der erhofften Effizienzgewinne durch KI streichen. Beziehungsweise, wie der Vertreter eines Personaldienstleisters formuliert:

„Sie sprechen davon, diese Aufgaben in Zukunft mit KI zu erledigen, was einer Art ‚KI-Washing‘ gleichkommen kann. Sie geben der KI die Verantwortung, obwohl sie nicht der einzige Grund für die Entlassungen ist.“

Freddie deBoer stellt in diesem Zusammenhang in seinem Newsletter die Grundsatzfrage: Kann Arbeitsplatzabbau überhaupt ein Signal für den Erfolg oder Misserfolg von KI bei der Übernahme menschlicher Tätigkeiten sein? Seine Antwort lautet: Nein. Übersetztes längeres Zitat:

“Sie werden immer wieder hören, dass „es diesmal anders ist“. Und vielleicht ist es das auch wirklich; es gab echte Verbesserungen im Bereich des maschinellen Lernens und der Automatisierung. Aber Unternehmen können und werden Arbeitsplätze abbauen, weil sie aufrichtig davon überzeugt sind, dass Code den Menschen ersetzen kann, auch wenn diese Überzeugung falsch ist. Die Wirksamkeit einer Technologie wird nicht dadurch bewiesen, dass man sie in einem Memo an den Vorstand ankündigt oder eine Verringerung der Mitarbeiterzahl anführt. Effektivität erfordert einen nachhaltigen Betrieb unter den chaotischen Bedingungen der realen Welt: Zuverlässigkeit, Wartbarkeit, die Fähigkeit, Sonderfälle zu bewältigen, die Integration mit menschlichen Teams sowie das politische und regulatorische Umfeld.

Unternehmenserklärungen über KI-gesteuerte Effizienz sind performative Handlungen; sie richten sich an die Märkte und nicht an eine strenge Überprüfung. Das ist ein wichtiger Teil davon, die Tatsache, dass diese Unternehmen mehr daran interessiert sind, ihre Aktienkurse zu manipulieren, als an irgendetwas anderem. Was sie sagen, ist nicht verlässlich, weil sie unter ständigem, starkem Druck stehen, eine Fassade für die Märkte aufrechtzuerhalten.

KI die Schuld zu geben, ist billig und einfach. Es ist eine Erzählung, die Führungskräfte von ihrer Verantwortung entbindet und der Öffentlichkeit gleichzeitig einen passenden Bösewicht in einer Zeit tiefgreifender Angst vor Technologie bietet. „KI war schuld” ist besser als „wir haben Personal abgebaut, weil wir das Quartalsziel der Wall Street erreichen wollten”. Es signalisiert modernste Modernität, um Analysten zu beschwichtigen und gleichzeitig die Kritik an der Unternehmensführung abzulenken.”

AGI als Verschwörungstheorie

Will Douglas Heaven, der inzwischen seit mehr als einem Jahrzehnt über KI berichtet, hat eine These: Artificial General Intelligence (AGI) ist die folgenreichste Verschwörungstheorie unserer Gegenwart. Er belässt es nicht bei einem schnellen Take, sondern erklärt die Genese: Populär wurde der Begriff durch den KI-Forscher Ben Goertzel, der im vorigen KI-Winter 2007 ein gutes Konzept für sein Buch brauchte. Über seine eigene Konferenz und durch Kontakt mit Leuten von DeepMind und auch Peter Thiel wurde AGI als Idee bekannter.

Parallel dazu verbreitete der KI-Forscher Eliezer Yudkowsky eine eher düstere Version von einer gefährlichen AGI, die er ebenfalls bei Peter Thiel (und der selbsternannten Rationalisten-Community bei LessWrong) anbrachte, die aber auch den Philosophen Nick Bostrom inspirierte. Dessen Buch Superintelligence (2014) machte den Begriff salonfähig. Yudkowsky selbst ist Co-Autor des diesjährigen Bestsellers “If Anyone Builds It, Everyone Dies” - was zeigt, dass seine Thesen weiterhin Konjunktur haben.

Goertzel wiederum sieht das Ganze etwas skeptischer: “Es überrascht mich etwas: Menschen, die tiefes technisches Wissen über die Mechanismen im Kern solcher Werkzeuge [LLMs] haben, glauben immer noch daran, dass sie zu AGI auf menschlichem Niveau werden können”, wird er zitiert. “Auf der anderen Seite kann niemand beweisen, dass das nicht stimmt.”

“Du kannst nicht beweisen, dass es nicht stimmt”, ist natürlich ein Klassiker. Zitat aus dem Aufsehen erregenden Manifest von Leopold Aschenbrenner (siehe Ausgabe #97), in dem der Weg zu AGI skizziert wird. “An dieser Stelle denken Sie vielleicht, dass ich und alle anderen Leute aus San Francisco völlig verrückt sind. Aber denken Sie einmal kurz darüber nach: Was wäre, wenn sie Recht hätten?”

Heaven zieht in seinem langen Stück Verschwörungsexperten und -expertinnen zur Rate, die eine Ähnlichkeit mit der New-Age-Bewegung der Achtziger sehen (die ja durchaus im Silicon Valley ihre Anhänger hatte). Der Unterschied ist nicht nur, dass es dieses Mal um Abermilliarden US-Dollar und politische Grundsatzentscheidungen geht, sondern auch ein anderes Weltbild, das dahinter steckt: Bei New Age ging es darum, dass wir Menschen die Möglichkeit zur Veränderung in uns tragen, wenn wir das nur erkennen. Die AGI-Bewegung traut das Menschen offensichtlich nicht mehr zu, sondern verlagert ihre Hoffnung auf Maschinen. Und stellt damit das Kern-Narrativ der Tech-Szene wieder her, das wir uns in einer Welt des begrüßenswerten technischen Fortschritts befinden. Selbst wenn - oder gerade weil - sich die Welt da draußen gerade nicht so anfühlt, als würde uns technischer Fortschritt in eine bessere Zukunft führen.

KI-Backlash in den USA?

US-Präsident Donald Trump will per Dekret US-Bundesstaaten daran hindern, KI-Regulierung einzuführen. Wenige Stunden, bevor das bekannt wurde, hatte er einen Termin mit dem Chef von Build American AI, also letztlich von dem Lobby-Arm der Pro-KI-Super-Pacs, die unter anderem von Andreessen Horowitz finanziert werden. Das übliche Spiel eben, Politik für Geld, in diesem Fall Wahlkampf-Unterstützung.

Die juristische Basis für Trumps Erlass ist dünn, aber inzwischen auch die politische Basis, wie Casey Newton zusammenfasst: Denn dieses Mal haben nicht nur demokratische Bundesstaaten, sondern auch konservative Gouverneure und Politiker Widerstand angekündigt. Das signalisiert einerseits die derzeit wachsende innenpolitische Schwäche Trumps, vor allem aber dass es in den USA - auch jenseits der Orte, in denen Großrechenzentren gebaut werden - wachsendes Unbehagen über KI zu geben scheint.

Zwei gute Vorschläge und ein bisschen Menschlichkeit

Der geschätzte Marcus Boesch hat in seinem Newsletter eine Idee, beziehungsweise eine gute Forderung:

“Da Top-Down-Slop-Memes „neue Ebenen der Entmenschlichung“ erreichen, fordere ich eine Forschungsagenda, die in der Lage ist, das rasante Memes-Shitposting und die Memes des militärisch-industriellen Komplexes besser zu entschlüsseln, indem sie sich beispielsweise auf die postdigitale Manifestation in der Verwendung von Gesten und Klängen konzentriert.”

Was meint er damit? Wenn Trump und seine Leute KI-Slop shitposten, in dem der US-Präsident seine Gegner demütigt oder ihnen sogar Gewalt angetan wird, ist das eine völlig andere Art der strategischen Viralität (Top-Down), als wenn das seine Anhänger tun. Vor allem aber haben wir Peak Meme längst hinter uns gelassen (siehe Ausgabe #139) und befinden uns meiner Ansicht nach in einer Phase, in der Memes sich - verstärkt durch die neuen ästhetischen Möglichkeiten von Bildgeneratoren - zu einer Art Privatsprache entwickelt haben. Aber wenn wir diese Sprache in ihren Online- und Offline-Spielarten nicht entschlüsseln können, werden wir in der Analyse und damit auch im Verständnis der “neuen Meme-Welt” nicht sehr weit kommen.

Etwas anders gelagert ist die Idee von David Auerbach: Er schlägt einen ästhetischen Reverse-Turing-Test vor. Das Konzept beruht basiert auf der Idee, dass ein „großartiges” Kunstwerk von KI-generierten Imitationen unterscheidbar sein muss. Wenn sich ein menschliches Kunstwerk nicht zuverlässig von etwas unterscheiden lässt, das von einer KI generiert wurde, kann es nicht als großartig gelten, so die Logik.

Das festzustellen ist natürlich sehr subjektiv, aber geht in eine interessante Richtung - vorausgesetzt, wir folgen der Prämisse, dass KI niemals wie Nabokov schreiben oder wie Rembrandt “malen” kann, sondern eben immer im “als ob” verharren wird. Denn dann hätten wir tatsächlich die Möglichkeit, eine Form von Kriterium für gute Kunst zu entwickeln.

Phire Phoenix bringt eine Perspektive ein, die ich gerne auch noch einspeisen möchte. Sie würde das Auerbach-Kriterium sicher nicht so gelten lassen, denn für sie hat jede Form von Kunst einen Wert, sofern sie menschgemacht ist. Übersetztes Zitat:

“Das Problem mit KI-Ergebnissen, die sich als Kunst tarnen, ist nicht, dass sie technisch unausgereift oder gar unheimlich sind. Die KI-Mediengenerierung hat in den letzten fünf Jahren große Fortschritte gemacht und könnte sich technisch weiter verbessern. Das Problem mit KI-”Kunst” ist, dass sie nicht der Ausdruck eines sterblichen Wesens ist, das sich dafür entscheidet, sein einziges wildes und kostbares Leben damit zu verbringen, sich durch die Mittelmäßigkeit zu kämpfen, um zu versuchen, ein Gefühl unvollkommen mit anderen sterblichen Wesen zu kommunizieren, die es per Definition niemals vollständig verstehen können, und daher ist sie für mich grundsätzlich uninteressant.”

Notizen

• Interessante Paper:

  • Das “AI Now Institute” über den laxen Umgang mit Genehmigungen für Nuklearforschung in den USA im Zuge der Energieanforderungen für KI.

  • Aline Blankertz von “Rebalance Now” über rechtliche und organisatorische Möglichkeiten der Entflechtung bei großen US-Techkonzernen.

• Prognosemärkte II: In der letzten Ausgabe hatte ich darauf hingewiesen, dass auf die Kommerzialisierung politischer Prognosemärkte als problematische Entwicklung hingewiesen. John Herrman hat sich in seiner Kolumne nun ebenfalls mit dem Thema beschäftigt und erinnert daran, wie in den USA Sportwetten inzwischen mehr oder weniger die ganze Berichterstattung dominieren. Und er hat auf dem Schirm, dass im technophilen Spektrum schon länger die Idee der Futarchy kursiert: Die Idee, über Prediction Markets konkrete politische Entscheidung zu treffen. Unterdessen hat Google angekündigt, Polymarket-Prognosen in seine Anzeige von Finanzwerten einzubeziehen.

• Google Gemini 3: So wie ich die Reaktionen deute, dürfte Gemini 3 die wichtigste KI-Veröffentlichung des zweiten Halbjahrs gewesen sein - noch vor GPT-5, das man nach Ansicht einiger Experten damit hinter sich lässt. Bei Ethan Mollick findet sich eine gute, praxisbezogene Analyse dazu. Es gibt durchaus Anzeichen dafür, dass Google im KI-Wettrennen inzwischen die besten Karten hat. Dafür, dass ich Sundar Pichai schon in den Sonnenuntergang reiten sah, ist das ziemlich beeindruckend.

Teilen

Alle haben Fernseher, niemand schaut Fernsehen

Ich versuche mir vorzustellen, wie Marc Andreessen vor einigen Jahrzehnten in einem Seminar für Bachelor-Studierende über Orwells „1984“ diskutiert. Bevor der Professor die Gelegenheit hat, das Gespräch zu beginnen, platzt der junge Andreessen heraus: „Ich dachte, in diesem Roman geht es um ein Land, in dem die Menschen von der Regierung kontrolliert werden und keine Rechte haben. Aber es stellt sich heraus, dass jeder freien Zugang zu einem Fernsehbildschirm hat!“

Robert Wright im Nonzero-Newsletter (Marc Andreessen natürlich ein einfaches Ziel dieser Tage).

“Es gibt noch ein weiteres, existenzielles Problem für das Fernsehen: Die derzeit lebendigste Comedy der Generation Z läuft gar nicht im Fernsehen. Sie spielt sich auf TikTok und YouTube ab, wo 22-Jährige Millionen von Followern direkt von ihren Dating-Katastrophen, Verrat durch Mitbewohner und Quarter-Life-Krisen erzählen. Die Creator Economy hat nicht nur die Aufmerksamkeit der jungen Zuschauer gestohlen – sie hat ihnen auch ihr Genre gestohlen. Für diese Generation werden die lustigsten Shows über das Jungsein von Menschen ihres Alters produziert, auf ihren eigenen Handys, in Formaten, die sich stündlich weiterentwickeln.”

Whitney Friedlander über das Problem, dass Fernsehen für die Gen-Z nicht nur qua Format unattraktiv ist, sondern auch per Inhalt.

Links

Meta machte offenbar Milliarden mit betrügerischer Online-Werbung.

Die große Coin-Geldwäsche.

EuGH: Polizei darf DNA- und Biometriedaten Verdächtiger unterschiedslos erheben.

Was hinter dem Cloudflare-Ausfall steckte.

Hat die autonome Cyber-Attacke, von der Anthropic berichtet, wirklich so stattgefunden? (€)

KI-generierter Song stürmt die US-Charts & Wie viele KI-Songs sind inzwischen schon in den Charts?

Ist die Tsinghua-Universität in China das heimliche KI-Zentrum der Welt? (€)

Hyperscaler: Immer mehr teure Seekabel-Projekte für KI.

Ausführliches Interview mit Alex Karp von Palantir. ($)

Katherine Dee: Wie das Internet das Comeback der globalen Rechten ermöglichte.

Podcasts und politisches Identitätsmarketing. ($)

KI und der Beobachter-Effekt.

Wo KI heute schon sinnvolle Arbeit leistet und wo (noch) nicht. (€)

Analyse von Grokipedia-Dreck.

“Vice signalling is eating Silicon Valley.”

Der Funnel ist kaputt.

Das Anti-Social-Media-Zeitalter? ($)

Keine Follower = cool. ($)

Hat Airbnb den Zenit überschritten? (€)

Bis zur nächsten Ausgabe!

Johannes

Appetizer: Aus dem Tagesspiegel Background

Interview mit dem Mistral-CEO: Ich habe ein längeres Gespräch mit Arthur Mensch geführt, in dem es um den KI-Standort Europa, Regulierung, die Blasen-Fragen und vieles mehr geht.

Was die österreichische Digitalsteuer wirklich ist: Wolfram Weimer möchte eine Digitalsteuer einführen und sich an Österreich orientieren. Eduard Müller hat für uns aufgeschrieben, worum es dort wirklich geht (Spoiler: es ist eine Werbesteuer, die es schon vorher gab) und wie sich diese Steuer entwickelt hat.

24-Stunden-Gründungen: Firmengründungen innerhalb eines Tages abzuwickeln, das ist eines der großen Versprechen der neuen Bundesregierung. Bastian Hosan hat sich angesehen, was dafür im (gesetzlichen und technischen) Backend passieren muss und wie es bei den Pilotprojekten der Länder läuft.

Quo vadis, Deutschlandstack? Das Sorgenprojekt Deutschlandstack kann sich in verschiedene Richtungen entwickeln. Welche das sein könnten und welche Möglichkeiten und Probleme sich aus dieser Pfadabhängigkeit ergeben, hat Viola Heeger analysiert.

Rückkehr der Hackback-Debatte: CSU-Innenminister Alexander Dobrindt hat wieder etwas ins Spiel gebracht, was verdächtig nach Hackback klingt. Benjamin Hilbricht mit einem Überblick, was rechtlich überhaupt möglich wäre und wem das Bundesinnenministerium mit dem Vorstoß ins Gehege kommt.

Welt- und Tech-Erklärungen

Gut neun Monate nach der Amtsübernahme von Donald Trump und der DOGE-Episode hat die Erklärbuch-Saison begonnen, die “Dark Silicon Valley”, Trump und die globale illiberale Bewegung zusammendenken und erklären möchte.

Journalist und Tech-Kritiker Jacob Silverman blickt in “Gilded Rage” auf die Radikalisierung von Elon Musk und Co.. Mit seiner These vom Technofaschismus von oben folgt er der gängigen Interpretation der politischen Linken, mir selbst ist das bekanntlich zu unterkomplex (eine hilfreiche FT-Rezension hier, €). tl;dr: Werde ich wohl eher nicht lesen.

Giuliano da Empoli wiederum analysiert in “The Hour of the Predator” (“Die Stunde der Raubtiere”) Technologie und Chaos als Werkzeuge gegen den Konsens von Davos, also den klassischen Konsens der wirtschaftlichen und gesellschaftlichen Offenheit. Obwohl das Buch schon in den ersten Seiten die zivilisatorische Apokalypse skizziert (Tech-Oligarchen werden als Konquistadoren beschrieben, unsere Demokratien als die naiven Azteken), scheint mir dieser Angang vielversprechender. Anfang kommenden Jahres erscheint auch “Disruption” von meinem geschätzten ehemaligen SZ-Kollegen Jannis Brühl.

Wer mit mir spricht oder hier manchmal liest, kennt meine Position: Ich bin sehr skeptisch, wenn Populäranalysen sich der “Great-Man-Theory” bedienen. Da wird Peter Thiels Ideologiesuppe plötzlich zur ausgetüftelten Blaupause für die Revolution stilisiert, während das komplexe Zusammenspiel von Forschung, Technologie, Steuerrecht (und damit Eigentumsverhältnissen) und Regulatorik zu beweglichen Bausteinen seines Masterplans schrumpfen. Das mag helfen, um politisch zu mobilisieren, ist aber de facto genau die Vereinfachung, die von Progressiven oft bei anderen beklagt wird.

Den Versuch, auf dem bisherigen theoretischen Fundament Komplexität zuzulassen statt zu vermeiden, unternimmt Burcu Kilic, die gerade Senior Fellow an der Kennedy School in Harvard ist (Paper hier). Kilic versucht dabei, auf der Grundlage des Überwachungskapitalismus von Shoshana Zuboff eine historische Analyse über dessen Wurzeln vorzunehmen.

Im Kern geht es also darum, dass Daten inklusive Verhaltensdaten zum Rohstoff werden, dessen Verwertung entgrenzt wird. Wobei es Kilic anders als Zuboff nicht um die technische, sondern um die politische Entgrenzung geht.

Meilensteine sind hier so (relativ) unbekannte Gesetze wie das Framework for Global Electronic Commerce unter der Clinton-Regierung 1997 oder auch die erfolgreichen Bemühungen der USA, digitale Güter und Dienstleistungen unter das WTO-Freihandelsregime zu fassen. In diesen Kontext stellt Kilic auch die Thinktank-Branche, die in ihren Augen mit Schlagworten wie “Innovation”, “offenes Internet” oder “ethische KI” ein Extraktionsmodell und letztlich antidemokratische Entwicklungen legitimiert hat.

Auch Kilics Position ist eine dezidiert linke. Der Anspruch einer historischen Analyse wird in Sachen Komplexität durchaus erfüllt. Allerdings ersetzt sie am Ende in meinen Augen nur den “Great Man” durch die “Great Theory”. Und schrumpft die Geschichte des Internets zur Umsetzung eines neoliberalen Projekts.

Vermutlich werden künftige Geschichtsbücher dennoch einmal viele Elemente von Kilics Analyse erwähnen, wenn es um die Entwicklung der Digitalisierung von 1990 bis 2025 geht. Aber wer auch immer einmal das Standardwerk dazu schreibt, wird nicht darum herumkommen, seine/ihre Erkenntnisse von der Geschichte des Kapitalismus seit 1980 abzuleiten.

Bahnbrechende Software-Innovation wird dann neben einer schrittweisen Veränderung des Gemeinwohlgedankens stehen, die Hegemonie der Marktmetapher neben einer immer stärkeren politischen Impotenz gegenüber global vernetzten Finanz- und Informationsströmen. Eine solche Geschichte wird hoffentlich Verantwortungen aufzeigen, ohne zu vergessen, dass sich Veränderungen stets in existierenden Systemen abspielen und nur ganz selten von einem “Masterplan” getriggert werden (es gibt nicht so viele historische Lenins).

Vielleicht muss diese Geschichtsschreibung auch eine Geschichte des Kapitalismus als erste und eigentliche Künstliche Intelligenz der Neuzeit sein: Als inzwischen quasi-autonomes System, dessen komplexe Wechselwirkungen uns bestimmte Entwicklungspfade eröffnen und uns von anderen abschneiden. Als System, das unsere zivilisatorische Logik seit Jahrhunderten prägt, formt und verändert.

Dan Wang: Breakneck

Da wir bei Büchern sind: Im Oktober habe ich endlich Dan Wangs Buch “Breakneck” zu Ende lesen können. Das Internet ist voll mit Rezensionen und Meta-Debatten, deshalb hier nur kursorisch: Wangs Grundthese ist ein Gegensatz zwischen der “Ingenieursgesellschaft” (China) und der “Anwaltsgesellschaft” (USA) und den Folgen, die es für die Entwicklung der beiden Länder in den vergangenen Jahrzehnten hatte.

Kurz: Die USA konnten immer weniger “bauen” und modernisieren, zumindest was die physische Infrastruktur betrifft, wohingegen China in großem Tempo Infrastruktur schaffen konnte. Weil die “Ingenieursgesellschaft” in einem autoritären System aber zu Willkür, Korruption und unmenschlichen Entscheidungen (Ein-Kind-Politik, Zero-Covid, Vollüberwachung) führt, ist sie nicht unbedingt ein Zukunftsmodell.

Meine Sorge vor der Lektüre war, dass Wang ein - siehe oben - “Great-Theory”-Buch geschrieben hat und deshalb Widersprüche ausklammert. Das ist erfreulicherweise nicht der Fall. China wird nicht verklärt, sondern die gesellschaftspolitische Hybris der Kommunistischen Partei deutlich benannt und ihr Ursprung erklärt. Die USA kommen in der Analyse insgesamt etwas zu kurz, was allerdings verkraftbar ist - die sehr lebensnahen Schilderungen Wangs über das Leben in China sind viel interessanter als die nächste makroökonomische Analyse der Vereinigten Staaten.

Dass die Dichotomie “Engineering” vs. “Lawyerly” der Weisheit letzter Schluss oder eine sinnvolle Schablone für die Entwicklung der beiden Länder ist, lässt sich spätestens nach dem Beginn von Trump II und dem zügigen Abbau des Rechtsstaats bezweifeln. Vielleicht ist “Breakneck” deshalb eher ein Zeitdokument. Aber eines, das großen Erkenntnisgewinn liefert.

Jetzt abonnieren

Die Binance-Begnadigung

In der fortgesetzten Lateinamerikanisierung der amerikanischen Politik ist die Begnadigung von Binance-Gründer Changpeng Zhao nur eines von vielen Symptomen. Schlagzeilen hat sie nur wenige gemacht, was auch daran liegt, dass Zhao seine Haftstrafe schon verbüßt hatte.

Das Wall Street Journal ($) hat die Finanzströme hinter diesem Akt der unverhohlenen Korruption chronologisch zusammengefasst.

Zhao, der sich 2023 der Geldwäsche für schuldig bekannte und eine viermonatige Haftstrafe absitzen musste, suchte demnach Anfang 2024 bereits Kontakt zum Trump-Umfeld. Später stellte er Entwickler für die Trump-Familienkryptofirma World Liberty Financial zur Verfügung. Als die Herrscherfamilie von Abu Dhabi mit zwei Milliarden US-Dollar bei Binance einsteigen wollte, sorgte Zhao dafür, dass das Investment über Trumps Stablecoin-Währung USD1 abgewickelt wurde. Das trieb den Kurs künstlich nach oben (und ermöglichte es natürlich, Golfstaaten-Geld ins Trump-Familiengeschäft zu pumpen). Win-win, quasi.

Übersetztes Zitat aus dem WSJ:

“Die Verwendung von USD1 hat World Liberty einen enormen Schub verliehen, seine Marktkapitalisierung enorm gesteigert und ihm neuen Einfluss verschafft. Dies wiederum hat den Verkauf seiner anderen Kryptowährung WLFI begünstigt, deren Wert auf dem Markt schwankt. Die Geschäftspartner von World Liberty haben den Erfolg seiner Stablecoin als Grund für ihre Investition in WLFI genannt.

World Liberty erzielte im vergangenen Jahr einen Umsatz von rund 1,4 Milliarden US-Dollar aus WLFI-Verkäufen, weit mehr als das Immobilienportfolio des Präsidenten jemals jährlich einbrachte. Auf der Website von World Liberty heißt es, dass das Unternehmen zu etwa 40 % im Besitz einer Trump-Familiengesellschaft ist, die Anspruch auf drei Viertel der Einnahmen des Unternehmens aus diesen Verkäufen hat.”

Binance hat seinen Sitz nicht in den USA und darf nach dem Geldwäsche-Urteil bis 2029 nicht in den USA operieren. Ob sich Letzteres ändern könnte, wird sich zeigen. Vielleicht spielt es auch keine Rolle: US-Investoren haben ohne Probleme Zugang zu Binance-Stablecoins. So wie Stablecoins insgesamt in das US-Finanzsystem einsickern und damit “bailout-fähig” werden (siehe Ausgabe #141).

Substrates Röntgenlitographie: PR-Hype oder ASLM-Konkurrenz?

Hat das Start-up Substrate eine gute Idee oder eine gute PR-Abteilung? Sowohl Bloomberg, als auch Reuters, der Economist und Semianalysis berichten über die Pläne der Firma, mit einer neuen Lithographie-Technologie sowohl ASML, als auch TSMC Konkurrenz zu machen.

Im Kern geht es darum, das Drucken der feinen Strukturen (bis zu 1-2 Nanometer) in einem einzigen Belichtungsschritt durchzuführen oder die Belichtungsschritte zumindest deutlich zu verringern. ASML setzt derzeit auf mehrere Schritte, das Multi-Patterning (“Mehrfachstrukturierung”).

Das Versprechen: Wenn die Technik Produktionsreife erlangt, würden die Kosten für den Prozess um 90 Prozent sinken. Substrate will darauf aufbauend nicht nur ASML, sondern de facto auch TSMC Konkurrenz machen und in den USA Foundries für Highend-Mikrochip-Produktion aufbauen.

Der Zyniker in mir sagt natürlich, dass sich ASML relativ erfolgreich darin war, bestehende Mehrfachstrukturierungsprozesse zu optimieren und sich nicht umsonst gegen das Single-Patterning entschieden hat. Und dass im Moment eben ein guter Moment für Hype-Geschichten rund um Halbleiter ist.

Semianalysis teilt zwar eine gewisse Skepsis, hält den Weg aber zumindest theoretisch für gangbar und beruft sich dabei auf Menschen außerhalb der Firma, die die technischen Details kennen. Wir werden sehen - angeblich soll die Produktionsreife schon 2028 erlangt werden. Das erscheint mit jedoch ziemlich optimistisch.

Killing Halloween

Drew Austin weist auf eine interessante Beobachtung hin, die der Urbanist Ryan M. Allen gemacht hat: Halloween in den USA verändert sich. Es folgt inzwischen offenbar den Power Laws des Internets. Denn statt wie sonst die in der eigenen Nachbarschaft herumzuführen, fahren Eltern ihren Nachwuchs inzwischen in die Gegenden, in denen es besonders spektakuläre Dekos oder Schreckfallen gibt. Diese Destination Neighborhoods sind leicht zu identifizieren - es gibt Hinweise bei TikTok und sogar Online-Karten. Offenbar verteilt sich die Aufmerksamkeit so deutlich, dass in weniger beliebten Gegenden manchmal (anekdotisch) gar keine Halloween-Dekorationen mehr aufgehängt werden. Drew Austin (übersetzt und gefettet):

“Ich musste unweigerlich an ähnliche tote oder sterbende Gebiete in ganz Amerika denken, denen nach und nach die kleinen bürgerlichen Freuden entzogen werden, die theoretisch jedem zur Verfügung stehen – die soziale Version einer kleinen Stadt, die deindustrialisiert wird. Es ist leicht, einfach das Internet dafür verantwortlich zu machen, obwohl dies nicht so einfach zu sein scheint; das Internet ist jedoch nicht gut darin, negativen Raum zu integrieren, sondern trainiert uns, Orte der Inaktivität nicht mehr zu sehen und unseren Blick immer auf das Spektakuläre zu richten. Wenn die Leere schließlich Gestalt annimmt, haben wir uns meist schon selbst entfernt.”

Notizen

Prognosemärkte als unterschätztes Thema: Die Kurse der beiden Prognosemärkte Kalshi und Polymarket lassen darauf schließen, dass der Name der diesjährigen Friedensnobelpreisträgerin schon vorher durchgestochen wurde. Irgendwo in meinem Kopf und meinen Notizen versteckt sich noch ein Stück darüber, wie Prognosemärkte (Prediction Markets) als Teil der “Financialisation of everything” unsere politische Landschaft massiv verändern werden. Dass Donald Trumps Truth Social künftig als erstes soziales Netzwerk ebenfalls einen Prognosemarkt anbieten wird, zeigt bereits deutlich das Problem: Ein Präsident, dessen Umfeld auf seine Entscheidungen wetten darf, agiert nochmal genau in wessen Interesse?

Meta fehlt die Cloud: Die Börsenreaktionen auf die Tech-Quartalsergebnisse vergangene Woche zeigen deutlich: Mark Zuckerberg fehlt offensichtlich die Glaubwürdigkeit für sein KI-Narrativ, weil man - anders als Google, Microsoft und Amazon - kein klassisches Cloud-Geschäft für Geschäftskunden hat. Das könnte in der Tat eine der großen Schwächen des Meta-Konzerns sein. Das aber sich natürlich relativiert, wenn wir insgesamt ein Platzen der Blase zulasten der Tech-Konzerne sehen.

How to end your extremely online era: “Vielleicht rühren alle Probleme des Menschen daher, dass er nicht in der Lage ist, ruhig allein mit sich selbst in einem Raum zu sitzen”, schreibt Tommy Dixon in seinem langen Essay. Natürlich tragen solche Ermutigungstexte, Social Media zu verlassen, immer ein größeres Maß Vergeblichkeit in sich. Diesen habe ich aber als hilfreich empfunden und gerne gelesen.

Professionalisierung der “AI Creator”: Dieser Bloomberg-Artikel gibt einen kleinen Einblick in die Szene der “AI Creator” hinter “KI-Persönlichkeiten”. Also Menschen, die quasi die Karrieren KI-generierter Personas im Bereich Influencer und Musik steuern. Wir kannten diese Form von virtuellen Stars bislang eher aus Asien, aber mein Eindruck ist, dass wir 2026 eine größere Welle im Mainstream des Westens sehen werden.

“Fight Chat Control”: Ich hatte ja in der vergangenen Ausgabe die Frage aufgeworfen (Ausgabe #150), wie die ganze E-Mail-Welle gegen die Chatkontrolle organisiert wurde. Die Antwort hatte da schon Politico gegeben: Ein dänischer Entwickler hatte Ende August bereits die Seite “Fight Chat Control” aufgesetzt. Übersetztes Zitat aus dem Artikel: “Auf dieser Website können Besucher eine Massen-E-Mail mit einer Warnung zu diesem Gesetzentwurf verfassen und diese ganz einfach an nationale Regierungsvertreter, Mitglieder des Europäischen Parlaments und andere Personen senden.” Ich verwende ja immer gerne das Wort “Datenbank-Massage”, wenn es um Social Media geht (also der Versuch, dass mein Content vom Algo nach oben gespült wird). Das hier ist eine Art Brute-Force-Methode der “Meinungsbild-Massage”.

Teilen

Eine Halbleiter-Investitionsgrafik

Morgan Stanley schätzt, dass bis 2028 weltweit etwa 2,9 Billionen US-Dollar in den Ausbau von Rechenzentren fließen. Etwa 1,5 Billionen US-Dollar davon sollen über Fremdkapital finanziert werden, darunter rund 800 Milliarden US-Dollar aus privaten Kreditquellen im Rahmen von Transaktionen mit spezifischen Vermögenswerten, etwa über Zweckgesellschaften (Standard Purpose Vehicles, SPV).

Die Umkehrung

“Die Fülle an Signalen verwandelt sich in Lärm. Die Fülle an Fakten verwandelt sich in Fälschungen. Der freie Zugang zur Selbstdarstellung in sozialen Medien führt zu Missbrauch durch Trolle und böswillige Akteure und verwandelt sich in Zensur. Die Revolte der Öffentlichkeit verwandelt sich in Anarcho-Tyrannei.

Die Fülle an Auswahlmöglichkeiten verwandelt sich in Entscheidungsunfähigkeit. Die Überflutung mit Nachrichten verwandelt sich in Nachrichtenmüdigkeit und Nachrichtenvermeidung. Der kollektive Mechanismus der Inhaltsauswahl – der Viral-Redakteur – verwandelt sich in kollektive Inhaltskontrolle: den viralen Inquisitor, der Sie beobachtet.”

Auch wenn ich ihm nicht in allem zustimme, prägt Andrey Mir durchaus meinen Blick auf die Digitalisierung. Sein Buch “Postjournalism and the Death of Newspapers” sollte (leider) Standardlektüre für Medienschaffende in den 2020ern sein. In seinem neuen, eher im Twitter-Aphorismen-Stil gehaltenen Buch “The Digital Reversal” diagnostiziert Mir eine Art Generalumkehr durch die Digitalität, die über die Post-Alphabetisierung hinausgeht. Obiges Zitat stammt daraus. Dieses Interview bietet eine gute Einführung in sein Denken.

Links

Europaparlament droht erneut mit Blockade des digitalen Euro.

OpenAI vollendet Restrukturierung.

Umgang mit Selbstmordgefährdung bei ChatGPT: Das soziale Experiment.

(Vorerst gestoppte) Chatkontrolle: Das steckt technisch dahinter.

US-Abschiebebehörde ICE weitet Einsatz von Gesichtserkennung aus. ($)

Google und Microsoft - Kampf der KI-Geschäftsmodelle. (€)

Apple hat zwei Probleme: Politik und Software.

Neue Airpods: Was wir verlieren, wenn alles simultan übersetzt wird. ($)

Alles ist zum Fernsehen geworden.

Die sieben Phasen des Internets.

Gerichtsstreitigkeiten als Content Wars.

KI wird die schlechtesten Instinkte von Chefs bedienen. ($)

KI wird Märkte effizienter machen (=Informationsasymmetrien verringern). (€)

Der New Yorker mit einer KI-Rechenzentren-Reportage. ($)

Das neue Zeitalter der Verschwörungen.

Chinas Tech-Kanon.

Wir missverstehen “Bildschirmzeit”. ($)

Wie Algorithmen Preise nach oben treiben können - eine Spieltheorie-Anwendung.

Die viktorianische Ära des Internets?

Intimität, Freundschaft, KI-Chatbots.

Posting is the New Art.

Das vulgäre Bild (von Dean Kissick).

State of Trust 2025.

Bis zur nächsten Ausgabe!

Johannes

Appetizer: Aus dem Tagesspiegel Background

• Die Modernisierungsagenda: Der Versuch, den Staat durch Digitalisierung und einfachere Prozesse agiler zu machen, ist nun zumindest einmal als Roadmap beschrieben. Was im Strategiepapier drinsteckt und was im Verhandlungsprozess innerhalb der Bundesregierung gestrichen wurde, haben Benjamin Hilbricht und ich aufgeschrieben.

• Wann Kupfernetz-Abschaltung? Die Telekom besitzt das Kupfernetz und hat damit durchaus eine gewisse Kontrolle darüber, wie der Glasfaserausbau läuft. Denn wo Kupfer abgeschaltet wird, ist Glasfaser plötzlich attraktiv. Und umgekehrt. Entsprechend fordert die Konkurrenz schon lange ein Konzept, wie Deutschland die Kupfer-Glasfaser-Migration gestalten möchte. Lisa Oder und Alexandra Ketterer haben die neuen BMDS-Pläne analysiert und kontextualisiert (Spoiler: Es ist kompliziert).

• Verordnung zu politischer Werbung: Seit dem 10. Oktober gilt die EU-Verordnung für politische Werbung. Was eigentlich eine Reaktion auf den (aufgebauschten) Cambridge-Analytica-Skandal sein sollte, wurde einmal mehr ein horizontales Werk mit zahlreichen Fallstricken und unbeabsichtigten Nebenauswirkungen. Friederike Moraht und Josefine Kulbatzki mit ausführlichem Kontext.

• Europas KI-Anwendungsstrategie: Die “Apply AI Strategy” soll nach der Regulierung durch den AI Act die Praxisanwendung strukturiert fördern, inklusive eines “Cern für AI”. Papier ist geduldig, gelesen haben die Strategie Oliver Voß und Theresa Locker.

• Problematisches IT-Outsourcing in Großbritannien: Was haben Jaguar Land Rover, die Supermarktketten Co-op und Marks and Spencer gemeinsam? Sie wurden Opfer zerstörerischer Angriffe von Cyberkriminellen. Und was noch? Sie haben alle drei jeweils große Teile ihrer IT-Operationen an das Unternehmen Tata Consultancy Services (TCS) ausgelagert. Peter Stäuber über den Trend zum XL-Outsourcing von Cybersicherheit.

Notizen zu Sora 2

Das kleine Sammelvideo oben zeigt, was ungefähr mit dem neuen OpenAI-Videogenerator Sora-2 derzeit möglich ist. Um kurz zusammenzufassen: Die Qualität der KI-Videogeneratoren ist inzwischen so gut und die Rechenkapazitäten von OpenAI so groß, dass sie im Mainstream angekommen sind (im Moment per Invite, in Europa ist das Tool noch nicht freigeschaltet).

Auf der Skala zwischen “kurzem Hype” und “historischem Moment” würde ich das auf der geschichtsträchtigen Nur acht Jahre nach dem Transformer-Grundlagenpapier “Attention is all you need” ist qualitativ ordentliches “Text To Video” als skalierbare Massenanwendung ein richtig großer Schritt.

Und die Möglichkeit, meine Fantasie in Szenen, Sequenzen und irgendwann längere Videos zum Leben zu erwecken (oder “echte” Szenen oder entsprechend zu modifizieren), ist etwas, was wir noch vor zehn Jahren unter Science Fiction verbucht hätten. Die Phrase “Der Fantasie sind keine Grenzen gesetzt” ist hier wörtlich zu verstehen (abgesehen von Content-Beschränkungen von Anbietern wie OpenAI, die aber bei Open-Weight-Modellen keine Rolle mehr spielen dürften).

Wären die Produktionsmittel nicht alle in der Hand von wenigen Firmen, könnte man von ihrer fortgesetzten Demokratisierung sprechen. Zumindest aber kann jede/r nun Video-Creator werden.

Zugleich hat das Ganze natürlich etwas ziemlich Banales. Die Sora-App ist ein TikTok-Klon, die ihrem Vorbild in Logik, Ästhetik und Shareability folgt. Das Prinzip des unendlichen Contents, mechanisiert und personalisiert über ein Netzwerk ausgerollt. Also das, was Meta gerne anbieten würde, aber was dem Konzern offenbar mit seiner ebenfalls neuen Vibes-App nicht gelingt. Und doch erscheint das alles wie ein logischer Evolutionsschritt, nachdem Netzwerke wie Facebook längst voller des KI-Fotoslop sind.

Vielleicht auch wegen dieser Banalität tragen die Technologie und ihre Anwendung etwas vom “Wir amüsieren uns zu Tode” in sich, der Bildschirmmedien-Diagnose von Neil Postman. Ein weiterer freiwilliger Rückzug an der Demarkationslinie im Kampf zwischen dem Streben nach epistemischem Realitätskonsens aus der Gutenberg-Zivilisation und der personalisierter Hyperrealität des vernetzten Digitalzeitalters (vgl. Ausgabe August 2022).

In Ausgabe #41 schrieb ich im März 2023 zu KI-Chatbots:

“Was aber passieren könnte, wenn diese Chatbots ein Erfolg und wichtiger Faktor unseres Soziallebens würden: Wirklich menschlicher Kontakt könnte “teurer” werden - im Sinne von “seltener”, “ungewöhnlicher”, “mit höherem Aufwand verbunden”.

Die digitale-vermittelte Unterhaltungswelt unserer Gegenwart wäre damit die Vorstufe einer digitalen Welt in einem Sinne, der so bis vor kurzem noch nicht absehbar war: Nicht nur software-vermittelt, sondern synthetisch. Nicht zwischenmenschlich, sondern mensch-maschinell. Ein Metaverse, das ohne Virtual Reality auskommt. Und in dem die Frage “echt oder falsch?” noch einmal mehr von unserer persönlichen und gesellschaftlichen Bandbreite in Anspruch nimmt, als sie es jetzt schon tut.”

So könnte es nun kommen, denn ob der Versuch, synthetische Videos durch Wasserzeichen und/oder eine eigene App-Welt quasi in einer Sandbox zu zeigen, funktioniert schon jetzt nicht mehr (Wasserzeichen-Entfernungssoftware wird stark nachgefragt).

Das alles wird nicht zu Stabilität beitragen, eine weitestgehend gemeinsame Realität ist die Basis für eine Gesellschaft, die nicht nur als Ansammlungen von Individuen existiert. Und das ist es vielleicht, was eine Software wie Sora fremd wirken lässt: Das Bewusstsein, dass das Synthetische für uns bald nicht nur normal sein wird, sondern einen großen Teil unserer Bildschirmzeit ausmachen könnte.

Wir spüren darin den Verlust von Wertschätzung für Aufwand, Mühe und auch von den menschlichen Geschichten hinter kreativer Arbeit. Die “überwältigend negative und demoralisierende Kraft”, die manch Kreativschaffender KI im eigenen Arbeitskontext zuschreibt, ist somit auch für den Konsumenten erahnbar. Zumindest bis die Gewöhnungseffekte einsetzen.

Jetzt abonnieren

Chatkontrolle: Who did it?

Die Chatkontrolle ist - vorerst - gestoppt, auch wenn sich die Frage stellt, was technisch der Unterschied zwischen einer “anlasslosen” (möchte Schwarz-Rot vorerst nicht) und einer anlassgebundenen Chatkontrolle sein soll, die ja ebenfalls den Einbau der entsprechenden CSAM-Detektionssoftware erfordern würde. Wir werden sehen, was hier am Ende aus dem Bundesinnenministerium kommt.

Fast interessanter finde ich die relativ undurchsichtige Genese, wie der Meinungsumschwung innerhalb der Unionsfraktion zustande kam. Innerhalb von wenigen Tagen fanden sich 100.000, inzwischen 350.000 Unterschriften unter der Petition “Chatkontrolle stoppen” aus der digitalen Zivilgesellschaft. Unionsabgeordnete erhielten einen Berg von - nach eigener Aussage teils automatisch generierten - E-Mails. Die AfD machte Druck. Grüne und Linke auch.

Die vorläufige Absage an die Chatkontrolle verbuchen nun sowohl digitale Zivilgesellschaft, als auch AfD für sich. Ich persönlich glaube zwar, dass die Union ein mögliches Uploadfilter-Protestszenario durchaus ernstgenommen hat; aber die Aussicht, von der AfD (wie schon zu Corona-Zeiten) als übergriffige Überwachungspartei dargestellt zu werden, dürfte aktuell abschreckender wirken.

Weiter rätselhaft ist für mich, wo die Viralität stattfand. Es gab bei TikTok ein paar relativ reichweitenstarke Videos - von “Herr Anwalt” oder der Linken-Politikerin Clara Bünger. Auf X.com wiederum gab es vor allem Traffic für Konten rund um das Schlagwort “Team Freiheit”, das ja irgendwo zwischen Rest-FDP, heimatlosen Libertären und dem Kulturkampf-Umfeld der AfD changiert. Dazu noch ein bisschen Patrick Breyer.

Bei den Akteuren der digitalen Zivilgesellschaft war mein Eindruck, dass man sich strategisch mit Video schwertut und Plattformen wie Bluesky oder LinkedIn nur wenig Wirkung über das eigene Milieu hinaus entfalten. Allerdings betrifft das nur den “Social-Media-Teil” der Kampagnen, die Petition selbst war ja ein Erfolg.

Das alles aber ist nur das öffentliche Bild, das sicherlich Lücken hat. Die Frage, wem nun die größte Mobilisierung gelang und wer aus welchem Dark-Social-Funnel in die Inbox oder auf die Unterschriftenliste der Petition gelangte, bleibt ungeklärt. Das ist schade, denn das Kräfteverhältnis bei diesem Thema ist nicht nur digitalpolitisch, sondern gesamtgesellschaftlich relevant.

Notizen

Aus Zeitgründen hier ein paar Themen, die sehr relevant sind, aber für die ich keine Zeit finde, etwas Längeres aufzuschreiben.

Bubble-Talk: Die Geldkreislauf-Deals zwischen OpenAI, Nvidia, ARM und auch Oracle lassen die Diskussion über die mögliche/sichere/vielleicht gar nicht so schlimme KI-Blase wieder lauter werden lassen (siehe Ausgabe #146). Vielleicht demnächst mehr dazu.

OpenAI und das nächste Windows: OpenAI hat eine ganze Reihe von Integrationen und Features festgestellt, die strategisch nichts anderes signalisieren, als dass man das Windows des KI-Zeitalters werden möchte. Die beste Analyse habe ich bei Ben Thompson gelesen. Und Casey Newton betrachtet die Netzwerkeffekte, die OpenAI erreichen möchte. (Beides leider Pay)

Apple und ICEBlock: Apple nimmt Apps aus seinem Store, die vor möglichen Razzien der US-Abschiebebehörde ICE warnen. John Gruber schreibt dazu (übersetztes Zitat):

“Die Entscheidung von Apple zeigt, dass Entwickler sich nicht darauf verlassen können, dass der App Store Apps vertreibt, gegen die jemand aus der Trump-Regierung „Einwände erheben könnte”. (…) Apple beruft sich häufig auf das Wort „Vertrauen“ als Grund für das App-Store-Modell. Aber ihre Behandlung von ICEBlock zeigt, dass sie nicht vertrauenswürdig sind, wenn es darum geht, Rückgrat zu zeigen angesichts Trumps Abstieg zum autoritären „verrückten König“, und damit auch die gesamte iOS-Plattform in Ländern wie den USA, wo der App Store die exklusive Vertriebsquelle bleibt.”

Peak Social Media?

Seit 2023 geht es abwärts, zumindest außerhalb Nordamerikas. Aus dem FT-Artikel, der derzeit herumgereicht wird.

Links

Über die globalen Proteste junger Menschen und den digitalen Kontext.

Elon Musk einigt sich mit Ex-Twitter-C-Suite.

Über die Internet-Shutdowns in Afghanistan.

Goodbye, Cariad.

Warum Bitcoin riskanter als Gold ist. (Paper)

Warum wir uns täuschen in den Absichten, die wir KI unterstellen. (Paper)

Warum Radiologen sich im Machine-Learning-Zeitalter weiterhin gut schlagen.

Ein Reboot für die Blogosphäre.

Niedergang der Demokratie: Macht bitte nicht die Algorithmen verantwortlich

Wird KI die Demokratie zerstören oder retten? Ja.

Tech-Akzelerationismus: Wer ist Nick Land? ($)

Wie Werbeanzeigen den Amazon-Echo ruinierten.

Das falsche Versprechen der “KI für sozial Gutes”. (€)

Kann KI durch Videos die Eigenschaften der physischen Welt verstehen?

KI vs. Superforecaster: Der Abstand wird kleiner.

Wenn Chatbots auf die Aufmerksamkeitsökonomie treffen.

Sind Zeichen von Produktivitätsgewinnen durch KI bereits sichtbar? ($)v

KI verändert das Bruttoinlandsprodukt nicht wirklich.

Computer, die Dinge wollen. (€)

Postalphabetisierung: Universitäten bieten Kurse an, damit Studenten das Lesen von Romanen lernen. (€)

Bis zur nächsten Ausgabe!

Johannes

Appetizer: Aus dem Tagesspiegel Background

• Die Modernisierungsagenda: Viola Heeger und ich mit einem Blick auf den ersten Entwurf zur Modernisierungsagenda, die am Mittwoch im Rahmen der Kabinettsklausur verabschiedet werden soll. Interessante Konzepte wie “Law as Code” und ein Bekenntnis zur Messbarkeit einerseits, Frage nach echten Zielen andererseits. Mal sehen, wie die finale Strategie aussieht und ob sie wirklich eine Grundlage für die Staatsmodernisierung bietet.

• Vorschläge für die “Apply AI Strategy”: EU-Strategiepapiere, naja, wir wissen alle, wie geduldig pdfs sind. Allerdings ist die Überlegung, wie man von Fertigung bis Energiesektor KI in die Fläche bringt strategisch sehr relevant. Alexandra Ketterer mit den Vorschlägen, die umher schwirren.

• Digitalthemen bei der UN-Vollversammlung: Der deutsche Governance-Papst Wolfgang Kleinwächter führt für den Cybersecurity-Background die verschiedenen Fäden rund um Cybersicherheits-Themen und geopolitische Gemengelage der UN-Vollversammlung zusammen.

• Pilotländer (und Kommunen) für die Verwaltungsdigitalisierung: Der Bund hat die ersten Pilotpartner für die neuen Lösungen in der Verwaltungsdigitalisierung benannt, auf Länderebene sind das Bayern und Hessen. Das Ganze verlief etwas chaotisch und man kann sich schon fragen, warum man kein SPD-Land im ersten Aufschlag einbezogen hat. Wie dem auch sei: Benjamin Hilbricht und Elena Metz mit allen Details, inklusive dem Blick auf die kommunalen Partner. Aus dem mir sehr wichtigen Background Smart City.

• KI & Klima: Die EU muss sich entscheiden. Gewusst? Die Standpunkte (Op-Eds) aus den Backgrounds sind kostenlos im Web zugänglich. José van Dijck und Rianne Riemens von der Universität Utrecht argumentieren in ihrem Gastbeitrag, dass die Europäische Union im Bereich Künstliche Intelligenz im Widerspruch zwischen Wettbewerbsambitionen und Nachhaltigkeitsrhetorik gefangen ist. Und sich endlich entscheiden sollte.

Der Mord an Charlie Kirk & Very-Online-Nihilismus

Es gäbe noch eine Menge zu schreiben rund um die Folgen der Ermordung Charlie Kirks (siehe auch Ausgabe #148), aber ich möchte mich auf ein paar Punkte beschränken. Einer davon ist die Frage, ob wir es mit einem “Very-Online-Nihilismus” zu tun haben und ob dieses Konzept hilfreich ist, die Taten zu erklären.

Monia Ali und Katherine Dee machen sich den Begriff Nihilismus zu eigen, betonen aber auch, dass man drei verschiedene Phänomene unterscheiden muss. Übersetztes Zitat:

1. Es gibt Menschen, die glauben, dass das Leben Leid ist, und deshalb mit Gewalt handeln müssen.

2. Es gibt Menschen, die glauben, dass das Leben sinnlos ist, und deshalb das einsetzen, was ich (…) als „Slop-Gewalt” bezeichnet habe.

3. Es gibt die “revolutionären Normies”: gewöhnliche Menschen mit Jobs, Freunden und Familien, die dennoch zu der Überzeugung gelangen, dass nur extreme Spektakel den Lärm durchbrechen können, den sie als echte moralische Notfälle empfinden, die selbst das Produkt einer übertriebenen Medienberichterstattung sind.

Wenn wir Nihilismus in seinem ursprünglichen Sinne aus dem 19. Jahrhundert verwenden, beinhaltet der Begriff mehr als Sinnlosigkeit, nämlich eine im Kern dann doch sehr zielgerichtete Denkbewegung gegen bestehende Institutionen und Konstrukte wie Religion oder Staatsform. Die Morde des “Very-Online-Nihilismus” haben zwar politische Komponenten (siehe 3.), aber sind eben oft nicht viel mehr als die Externalisierung von Auto-Aggression - also das, was euphemistisch gerne als “erweiterter Suizid” beschrieben wird.

Bei näherer Betrachtung wird auch klar, dass jegliche Form von Kritik, die in solchen Taten stecken könnte, selbst erst einmal im Verdacht stehen sollte, Marketing zu sein. Ich habe spätestens seit dem Massenmord auf Utøya die Theorie, dass es den Tätern in Wahrheit schlicht darum geht, als Hinterlassenschaft einen Wikipedia-Eintrag zu erhalten, also blutige Geschichte zu schreiben. Max Read hat ein Interview mit Ettingermentum (Verfasser/in des gleichnamigen Newsletters) geführt, in dem diese These eine aktuelle Note erhält (übersetzt, gefettet):

“Ein Freund von mir, QuoProQuid auf Twitter, hat einen wirklich guten Punkt angesprochen, nämlich dass Schießereien an Schulen mittlerweile zur Routine geworden sind und nicht mehr so berichtenswert sind wie früher. Die Art von Menschen, die einfach nur Geschichte schreiben oder ihren Namen bekannt machen wollen, haben sich mehr auf Persönlichkeiten des öffentlichen Lebens verlegt, weil die Sicherheitsvorkehrungen dort weniger streng sind als an Schulen. Und wie wir bei Trump und Luigi [Mangione] gesehen haben, bekommen sie viel mehr Aufmerksamkeit als eine Schießerei an einer Schule.”

Wir sind also wieder mitten in der Aufmerksamkeitsökonomie, unterfüttert von den Strukturen der Entmenschlichung, die wir an vielen Stellen unseres Miteinanders sehen. John Herrman schrieb dazu (übersetzt und gefettet):

“Als allgemeine Theorie zur Erklärung der Übel dieser Welt ist die „Online-Radikalisierung“ eine tröstliche Fiktion ohne Vorhersagekraft, eine Möglichkeit, schockierende Ereignisse mit komplexen, sich überschneidenden Motiven innerhalb willkürlicher digitaler Grenzen einzudämmen, eine verlockende Methode, um tiefere und finstere Probleme als bloße Symptome einer vagen und externen Online-Bedrohung abzutun, und ein Instrument für politische Schuldzuweisungen oder Rechtfertigungen.

“Das Internet” kann uns in der Regel ebenso wenig die vollständige Geschichte darüber liefern, warum jemand beschlossen hat, einen anderen Menschen zu töten, wie seine isolierten Erfahrungen bei der Arbeit, in der Schule oder zu Hause, die wir kaum als miteinander verflochten und untrennbar betrachten können. Aber die düsteren Anreize und zynischen Prioritäten der kommerziellen Plattformen (…) könnten helfen zu erklären, wie wir dazu kommen, einander als unrettbar anzusehen.”

“Nihilismus” ist ein Platzhalter wie “Das Internet” - der Versuch der Reduzierung komplexer Phänomene auf eine für uns verstehbare Ebene. Was in Ordnung ist, aber eben auch schablonenhaft.

Ende des Lesens, Ende des Denkens?

Die Rückkehr der Kultur der Mündlichkeit und Post-Alphabetisierung sind hier regelmäßig Thema (siehe z.B. Ausgabe #87, #119 oder die Jahresvorschau 2025 in #121). Gerade gibt es da draußen in der großen Welt der Internet-Essays zwei Aufschläge dazu: James Marriotts lange Wegbeschreibung von der Gutenberg-Galaxis in die jetzige, bereits in Ansätzen post-alphabetisierte Gegenwart und die Folgen für unsere Gesellschaften (politisch noch einmal verdichtet von Andrew Sullivan angesichts aktueller politischer Entwicklungen in den USA).

Derek Thompson wiederum ergänzt in seinem Essay Überlegungen über eine Zivilisation, die Maschinen das Denken überlässt. Während Marriott ein Zeitalter der Barbarei anbrechen sieht, sind für Thompson die Folgen viel banaler (übersetztes Zitat):

“Die Freizeit wird zunehmen, das Privatleben wird einen größeren Teil unserer Freizeit einnehmen, die Bildschirmzeit wird einen größeren Teil unseres Privatlebens einnehmen und KI-Inhalte werden einen größeren Teil unserer Bildschirmzeit einnehmen. „Wenn Sie sich ein Bild von der Zukunft machen wollen“, wie Orwell fast geschrieben hätte, „stellen Sie sich einen Bildschirm vor, der für immer auf einem menschlichen Gesicht leuchtet.“ Für die meisten Menschen wird sich diese Tragödie nicht einmal wie eine Tragödie anfühlen. Wir werden die Weisheit verloren haben, Nostalgie für das zu empfinden, was verloren gegangen ist.”

KI-Ökonomie: Zwei Signale

Zwei Auffälligkeiten: Nvidia will im Laufe der Zeit 100 Milliarden US-Dollar in OpenAI investieren. Was nichts anderes als eine Finanzschleife ist, denn OpenAI wird ja einen Teil des Geldes wieder für Nvidia-Chips ausgeben. Der Nvidia-Skeptiker Jay Goldberg von Seaport Global Securities formuliert es so (übersetzt und gefettet):

“In guten Zeiten wird dies die Lage verbessern. Wir werden schneller wachsen, die Zahlen werden viel schneller steigen. Aber wenn sich der Zyklus dreht, und das wird er, verschlechtert sich die Lage auf dem Weg nach unten.”

Passend dazu für die AGI-Skeptiker: Der Unternehmensberatung Bain& Company zufolge sind bis 2030 jährlich 500 Milliarden US-Dollar an globalen Investitionen in Rechenzentren nötig, um den steigenden Rechenbedarf zu decken. Um diese Ausgaben wirtschaftlich tragbar zu machen, wären rund zwei Billionen US-Dollar an jährlichen Einnahmen erforderlich. Selbst bei optimistischen Annahmen rechnet Bain jedoch mit einer Finanzierungslücke von 800 Milliarden US-Dollar pro Jahr.

Dass das Ganze wie eine riesige Blase aussieht (siehe Ausgabe #146), lässt sich nicht bestreiten. Die Frage ist nur, wie stark es knallt, wenn die Luft entweicht.

Jetzt abonnieren

Halluzinationen und KI-Benchmarks

OpenAI-Forscher jüngst eine Studie veröffentlicht, die mathematisch erklärt, warum KI-Modelle halluzinieren. Es liegt demnach nicht unbedingt am Trainingsmaterial. Die Forscher zeigen vielmehr, dass die Gesamtfehlerquote beim Generieren ganzer Sätze mindestens doppelt so hoch ist wie die Fehlerquote derselben KI bei einer einfachen Ja/Nein-Frage.

Der Grund dafür ist, dass beim Satzbau mehrere aufeinanderfolgende Vorhersagen getroffen werden müssen – und dabei können sich logischerweise Fehler aufsummieren. Jeder kleine Fehler kann den nächsten beeinflussen, was die Wahrscheinlichkeit für einen insgesamt fehlerhaften Satz erhöht.

Noch interessanter ist die Frage der Rolle von Benchmarks, die das Paper aufwirft: Denn neun von zehn gängigen KI-Bewertungen basieren auf einem binären System. Das bedeutet: Derzeit erhalten KI-Modelle bei „Ich weiß es nicht“ dieselbe Punktzahl wie bei falschen Antworten – null. Deshalb “raten” sie lieber, als Unsicherheit zu zeigen. In der Studie ist entsprechend von einer “Epidemie” die Rede, in der ehrliche Antworten bestraft werden.

Eine mögliche Lösung wäre, bei Evaluationstest ehrliche Unwissenheit besser zu bewerten als falsche Antworten. Doch laut Wei Xing (University of Sheffield) würde dies mehr Rechenaufwand und somit höhere Kosten verursachen, da Modelle ihre Antwortsicherheit einschätzen müssten. Zudem könnten Nutzer abspringen, wenn KIs öfter Unsicherheit zeigen, statt wie gewohnt selbstbewusst zu antworten.

Das Problem wird also weiter existieren. Zumindest, solange LLMs nicht für wirklich kritische Aufgaben genutzt werden sollen, bei denen absolute Genauigkeit zentral ist. Denn rein aus geschäftlicher Sicht mag “liefert regelmäßig falsche Antworten” vielleicht epistemisch fatal sein, aber offenbar für die Kundschaft “gut genug”.

Workslop

“Workslop” ist ein Begriff, der in den vergangenen Tagen Karriere machte. Original stammt er aus der Harvard Business Review, wo ihn das Team von BetterUp Labs wie folgt definiert (übersetzt und gefettet):

“Mitarbeiter verwenden KI-Tools, um mit geringem Aufwand passabel aussehende Arbeiten zu erstellen, die letztendlich mehr Arbeit für ihre Kollegen bedeuten. In den sozialen Medien, die zunehmend mit minderwertigen, KI-generierten Beiträgen überflutet werden, werden diese Inhalte oft als “AI-Slop” bezeichnet. Im Arbeitskontext bezeichnen wir dieses Phänomen als „Workslop“. Wir definieren Workslop als KI-generierte Arbeitsinhalte, die sich als gute Arbeit tarnen, aber nicht die Substanz haben, um eine bestimmte Aufgabe sinnvoll voranzubringen.”

Dadurch eröffnen sich einige Fragen rund um den zu erwartenden Produktivitätsgewinn durch LLMs, aber auch zur Zukunft der Arbeit selbst. Erstellen wir irgendwann alle KI-generierte Mittelmäßigkeit, die dann Kollegen und Kolleginnen ihrerseits mit KIs weiterverarbeiten, woraus zwar Zeitgewinn, aber… genau welcher Erkenntnisgewinn entsteht?

Chinas neue App-Politik

Unterschätztes Thema - Chinas Regierung will größere Tech-Firmen zur Einführung von “Aufsichtsausschüssen für den Schutz personenbezogener Daten” verpflichten und die Staatsmedien geben dem Ganzen den - sehr europäischen - Spin von “Maßnahmen gegen Big Tech”, inklusive ähnlicher Messgrößen (50 Millionen registrierte oder 10 Millionen monatlich aktive Nutzer).

Meine Laien-Einschätzung: Damit nähert man sich einerseits auf dem Papier europäischen Datenschutzstandards an, signalisiert damit aber zugleich auch wieder einen stärkeren Eingriff in die Tech-Branche. Mal abwarten, wie das in der Praxis aussieht, im Moment ist das alles noch in einer Konsultationsphase.

Hype als Fachgebiet

Mitte September fand in Barcelona die erste Hype-Studies-Konferenz statt. Die Organisatoren machen in einem hier für Jacobin übersetzten Artikel klar, warum sie es für die politische und gesellschaftliche Linke relevant halten, sich mit diesem Thema zu beschäftigen:

“Um den aktuellen Aufstieg des Tech-Autoritarismus zu verstehen und zu bekämpfen, brauchen resiliente Demokratien und linke Bewegungen Hype-Kompetenz. Sie müssen verstehen und lesen lernen, wie der Tech-Hype als ein politisches Instrument rechter neo-reaktionärer Politik fungiert.”

Wer sich auf diesem Pfad der Technologie-Interpretation befindet (ich persönlich halte ihn für etwas unterkomplex), findet in diesem Strang sicherlich Material für die Schärfung des kritischen Bewusstseins.

Zwischenmenschliches (als Graph)

Die Grafik aus diesem Artikel (€) zeigt: Erstmals verbringen in den USA Menschen über 50 mehr Zeit mit zwischenmenschlichem Kontakt (also Treffen, gemeinsame Aktivitäten) als die 15- bis 25-Jährigen. Im Vergleich zu 2003 verbringen die Jugendlichen/jungen Erwachsenen heute jeden Tag rund 26 Minuten weniger in direktem persönlichen Austausch. Monatlich summiert sich das auf 13 Stunden. Ich habe gesucht, ob es ähnliche Statistiken für Deutschland gibt, aber auf die Schnelle nichts Vergleichbares gefunden, da viele Befragungen entweder a) Online-Aktivitäten einsammeln oder nur abfragen, wie wichtig dieser Kontakt jungen Menschen ist.

1 Meme

Links

Tiktok-Deal geht bald über die Bühne und der Preis ist dämlich.

Die Familie Ellison und ihr Medien-Imperium. ($)

Petition gegen Online-Hass: Wichtiges Anliegen, bedenkliche Forderung. (€)

Die Rekrutierung von Teen-Hackern durch Cyberkriminelle funktioniert (leider) sehr gut. ($)

OpenAI richtet ChatGPT am Feed-Modell aus.

Ein Stargate für China. ($)

Metas neue Smart-Glasses scheinen beeindruckend zu sein.

Prompt-Experiment: DeepSeek liefert schlechtere Ergebnisse für Regimekritiker.

Bevorzugen KI-Modelle ihre Heimatländer?

Was KI in der Medizin bereits kann - und was nicht. ($)

HSBC verkündet Durchbruch im quantenbasierten Trading. (€)

“The AI alignment alignment crisis”.

In ihren eigenen Worten: Warum chinesische Tech-Talente aus den USA zurückkehren.

Deepfakes als faschistische Traum-Maschine.

Vernetzung: Das moderne Subjekt existiert nicht mehr.

Youtube, KI und die strategische Dimension.

Warum Netflix keine guten Filme macht.

WhatsApp führt Übersetzungen ein.

Wir treffen uns an der Blogroll.

Über RSS.

Apple: Die Seele hat die Maschine verlassen.

Dear Tim: your presentation is pedantic and boring.

Bis zur nächsten Ausgabe!

Johannes

Appetizer: Aus dem Tagesspiegel Background

• Wem hilft Jupiter? Anfang September wurde in Jülich der erste Exascale-Computer Europas eingeweiht. Neben Forschungsprojekten sollen sich auch KMU und Start-ups Rechenkapazitäten sichern können. Warum das bisher schief ging und wie sich das ändern soll, haben Lisa Oder und Oliver Voß aufgeschrieben.

• Wer treibt wirklich Innovationen für die Bundeswehr? Cyber Innovation Hub, Cyberagentur, Sprind, BWI GmbH - an Akteuren, die (digitale) Innovationen in die Bundeswehr bringen sollen, mangelt es nicht. Doch in der Realität scheitert vieles an den bestehenden Strukturen. Theresa Locker mit einer ausführlichen Analyse.

• Online-Fortbildungen und das Nadelöhr: 17 Mitarbeiter einer kleinen Kölner Behörde müssen digitale Weiterbildungskurse zertifizieren - von denen es inzwischen geschätzt 250.000 gibt. Weil das bestehende Fernunterrichtsschutzgesetz veraltet ist und nicht zur digitalen Realität passt, müssen Anbieter mit Rechtsunsicherheiten leben. Christian Füller berichtet.

• Seit Freitag gilt der “Data Act” der EU: Was das in der Praxis bedeutet - Stichwort Datenherausgabe, Datenteilen - hat Alexandra Ketterer aufgeschrieben.

EuroStack zwischen Bewegung und Stillstand: Von mir stammt unter anderem eine längere Bestandsaufnahme zu Stand und Chancen der EuroStack-Idee.

Fortschritte in der KI-Großdebatte

Die intellektuelle Großdebatte über das Wesen Künstlicher Intelligenz findet - publizistisch angeschoben von Akteuren wie Ezra Klein - im Kontext zweier Papers statt: “AI as A Normal Technology” von Arvind Narayanan und Sayash Kapoor (vgl. Ausgabe #133) und “AI 2027” von Daniel Kokotajlo und Scott Alexander.

Ich gebe zu: “AI 2027” hatte ich seinerzeit hier einzig verlinkt und nicht näher besprochen, weil es mir ein bisschen zu Science-Fiction-artig vorkam. Ich halte es auch trotz der Expertise der Autoren weiterhin für ein unwahrscheinliches Szenario, dass wir bis 2027 Artificial General Intelligence (AGI) erleben werden. Allerdings ist das Szenario - besonders bei Mitarbeitenden von US-Techfirmen - mit voller Wucht eingeschlagen. Was insofern nicht verwundert, als dieses AGI-Ziel ja implizit die Expansionsstrategien ihrer Arbeitgeber begründet.

Doch zurück zur Debatte: Ob Künstliche Intelligenz in einen “rekursiven Selbstverbesserungszyklus” eintreten kann und innerhalb kürzester Zeit alles umwälzt (AI 2027) oder erst innerhalb eines Zeitraums von Jahrzehnten diffundiert, weil es auf eine sehr komplexe Realität trifft (“AI as A Normal Technology”, oder auch AIANT), ist im Kern auch die Frage, wenn wir über Policy oder die gesellschaftlichen Auswirkungen der möglichen Veränderungen blicken.

Es entbehrt daher nicht einer gewissen Ironie, dass die “AI 2027”-Leute an ihrem Extremszenario festhalten und Scott Alexander einen AIANT-Takedown produzieren lässt, während Narayanan und Kapoor sich in einem neuen Text rechtfertigen, dass sie alles andere als KI-Skeptiker sind (und nebenbei ihr Substack von “AI Snakeoil” in “AI as A Normal Technology” umbenennen).

Eine Schlüsselpassage zum Normalitätsdiskurs ist dabei diese hier (übersetzt und gefettet):

“Bemerkenswert am KI-Diskurs im Allgemeinen und an „Wir gegen AI 2027” im Besonderen ist die große Bandbreite an Meinungen, nicht nur über die Zukunft, sondern auch über Dinge, die wir beobachten können, wie beispielsweise die Geschwindigkeit der Verbreitung.

Wenn wir als Community nicht viel besser darin werden, die Gegenwart zu messen und konkurrierende kausale Erklärungen für den Fortschritt zu überprüfen, wird die Energie, die in Vorhersagen gesteckt wird, fehlgeleitet sein - weil uns die Mittel fehlen, diese Vorhersagen zu überprüfen.

Wir haben beispielsweise argumentiert, dass wir selbst im Nachhinein nicht unbedingt wissen werden, ob „AGI” entwickelt wurde. Bis zu einem gewissen Grad sind diese Einschränkungen aufgrund der mangelnden konzeptionellen Präzision von Ideen wie AGI unvermeidlich, aber gleichzeitig ist es wahr, dass wir bei der Messung noch viel besser werden können.”

Das Ganze spielt in die Debatte über Sinnhaftigkeit von Benchmarks hinein, zeigt aber auch das Bemühen, das Ganze faktenbasiert und weniger apodiktisch anzugehen als ich die gewagten Prognosen von “AI 2027” wahrnehme. Es soll nun wohl eine gemeinsame Erklärung der beiden Gruppen geben, in dem man nochmal die Gemeinsamkeiten und Differenzen trennscharf markiert.

Wohltuend an der Diskussion ist, dass sich um die beiden Gegensätze herum eigene Ansätze gebildet haben beziehungsweise durch den entstandenen Diskurs in das Wahrnehmungsfeld geraten.

Zum einen haben wir die Kritik, wie sie der Informatik-Professor Ben Recht formuliert: Er wirft den AIANT-Vertretern vor, die “Normalität” der Technologie nur deshalb zu proklamieren, weil Normalität klassische Regulierung ermöglichen würde. Recht selbst aber sieht den aktuellen Weg von KI in Anlehnung an Max Read eher in Richtung einer “nachteiligen Technologie” verlaufen - also “Schlangenöl”-Produkte, die keinen gesellschaftlichen Mehrwert schaffen, sich aber dennoch durchsetzen. Als aktuelle Parallele nennt er Kryptowährungen, historisch sieht er Netzwerk-Marketing oder die Einführung von Werbung als Beispiele für Phänomene, die trotz eindeutiger Betrugsmerkmale irgendwann gesellschaftlich akzeptiert wurden.

Ähnlich, aber doch anders und grundsätzlicher angelegt, ist der Ansatz von Henry Farrell: Der hat seine These von “KI als Kulturtechnologie” (siehe Ausgabe #95) etwas modifiziert, hin zu “KI als soziale Technologie”. Heißt: KI als sich gerade ausbildende Superstruktur, respektive Suprastruktur, wie wir sie in der Entwicklung von Märkten oder Bürokratien erlebt haben - also eine Grundstruktur, die wir gar nicht mehr als solche erkennen, aber eben nicht im technischen Sinne (wie “Strom” oder “das Internet”), sondern auf dem organisierenden Betriebssystem-Level unserer Zivilisation.

Dieses langsame Verschmelzen ist für Farrell eine “langsame Singularität”, in der wir uns gerade inmitten “monströser und oft treuloser Diener” niedergelassen haben. Und was wir nicht mehr sehen, können wir auch nicht mehr bestimmen. Der Technologiebegriff von Ivan Illich oder Jacques Ellul kommt mir dabei in den Sinn, genau wie meine (wenig originelle) private Hypothese, dass wir es bereits mit dem Kapitalismus als erster und eigentlicher Künstlichen Intelligenz zu tun haben, von der sich die Entwicklung der jetzigen KI letztlich nur ableitet.

Recht und Farrell argumentieren also im Kern gegen einen Techno-Determinismus, der sowohl “AI in 2027”, als auch AIANT inhärent ist. Und öffnen damit die Debatte für Strukturfragen, die wir angesichts der geopolitischen und technologischen Entwicklungen eigentlich auch in vielen anderen Bereichen stellen müssten.

Dass dieser wichtige Diskurs in Deutschland und Europa bislang keine Rolle spielt und wir uns offenbar damit begnügen, diese Fragen technokratisch oder auf dem Niveau von “Wir müssen uns im KI-Zeitalter unseres Menschseins besinnen” zu verhandeln, zeigt die ganze Malaise, in der sich unser Kontinent befindet.

Jetzt abonnieren

Parasozialer Terror

(Anmerkung: Dieser Teil stammt weitestgehend von Freitagfrüh, beinhaltet also nur einen Teil des Komplexes, nichts zu Groyper-Wars oder Ähnlichem, was gerade im Kontext des mutmaßlichen Täters diskutiert wird)

Ich gehöre zu den Glücklichen, denen das Video mit dem Mord an Charlie Kirk online noch nicht begegnet ist. Vielleicht, weil ich (gerade) TikTok und (seit langem) X nicht installiert habe. Und trotzdem ist das natürlich alles deprimierend. Trumps Forderung nach einem Schnellprozess, die New York Times mit ihrem Pseudo-Zentrismus (“Amerika trauert über Charlie Kirk”), die Anschlagsdrohungen gegen schwarze Colleges (hmm, warum nochmal?), die zwischenzeitliche Instrumentalisierung der Tat als trumpistisches Präludium für ein härteres Vorgehen gegen den politischen Gegner und auch die paar dummen Linken, die eine solche Tat abfeiern.

Aber das Ganze ist natürlich ein Internet-Thema, in dem Sinne, dass es keine Trennung zwischen Online- und Offline-Welt mehr gibt; und auch in dem Sinn, dass der USA auch die “Restrealität” abhanden kommt. In der allerersten Ausgabe dieses Newsletters 2020 schrieb ich dazu:

“Was heißt das? Aus der Vogelperspektive betrachtet: Wie Deutungshoheit entsteht, entwickelt sich weiterhin weg von den Mechanismen des späten 20. Jahrhunderts (Institutionen, lineare Medien). Hierarchie ist nicht überflüssig geworden, sondern sie entsteht vielmehr vernetzt. Genauer gesagt erleben wir die “Memefizierung der Welt”. Ideen, Verhalten und Stile werden zu Kultur(über)trägern. Und damit politisch auch zu einem Machtfaktor.”

Charlie Kirk als provokativer reaktionärer Influencer war genau Teil dieser Mechanismen und die Wirkung seines Todes folgt ihnen ebenfalls.

Aber ich bin - auch um mir meine eigene Restrealität zu erhalten - nicht allzu tief drin in diesen Entwicklungen. Anders als Ryan Broderick, der die beste (digital-)kulturelle Analyse dieses Mordes verfasst hat. Er schildert, wie ein Tiktoker kurz nach der Tat schockiert ein Video aufnimmt und mit den Worten “Abonniert meinen Kanal” endet.

Und er beschreibt, wie die Mischung aus Aufmerksamkeitsökonomie und zunehmender Sektenhaftigkeit des Politischen - eine sich gegenseitig verstärkende Entwicklung - letztlich in einer Situation kulminiert, in der alles so absurd wie düster wie folgenreich erscheint. Übersetztes Zitat (Fettungen meine):

“Unabhängig vom Motiv war die Schießerei eindeutig inszeniert, um eine maximale Wirkung in den sozialen Medien zu erzielen. Auch wenn Bilder von Massensterben mittlerweile ein unvermeidlicher Bestandteil des Internets sind, hatten die Videos von Kirks Tod etwas besonders Eindringliches. Der einzigartige parasoziale Schrecken, einen Menschen zu sehen, der hinter seiner Rüstung aus Internetruhm so unantastbar schien, nun zu einem weiteren zerbrechlichen Menschen reduziert zu sehen.

Wenn der 11. September der Höhepunkt politischer Gewalt im Fernsehzeitalter war, sollte Kirks Tod als umgekehrtes Spiegelbild gesehen werden, als perfektes Spektakel für das Zeitalter der sozialen Medien. Ein auf düstere Weise passendes Ende für den führenden digitalen Propagandisten der Trump-Regierung. Dieselben Algorithmen, auf die er sich stützte, um Narrative für die MAGA-Bewegung zu schaffen, verwandeln nun seinen Tod in einen schwindelerregenden Strom von Inhalten. Shitposts, Memes, Verschwörungstheorien. Das und die wahnsinnige Lust der Rechten auf einen Bürgerkrieg haben sich in den letzten 24 Stunden online intensiver als je zuvor miteinander verflochten. Der logische Endpunkt des Amerikas des 21. Jahrhunderts: Ein Influencer, der vor einer Menge von Smartphones an einer Hochschule erschossen wird. (…)

Das dunkle neue Amerika, für dessen Verwirklichung Kirk sein Leben gewidmet hat, ist endgültig Realität. Ein vollständiger Kollaps der Grenze zwischen Online- und Offline-Leben, der politische Gewalt einfach nur zu einer weiteren Gelegenheit macht, die eigene Marke zu stärken, wenn man sein Handy schnell genug einschalten und mit dem Leben davonkommen kann.

Parasozialer Terror in der Tat und über die Tat hinausgehend.

Nachtrag vom Sonntagmorgen: Lesenswert zum ganzen Kontext digital verbundene Nischen-Subkulturen ist immer Katherine Dee, auch dieser Artikel von Berit Glanz ist sehr hilfreich.

Nepal: Die unterschätzten Proteste

Weil die Proteste in Nepal trotz 51 Toten im Westen ziemlich untergegangen sind, hier einige Digitalaspekte (weitestgehend aus dieser sehr guten Analyse bei Tech Policy Press)

Hintergrund der Protestwelle war der 4. September, als das Oberste Gericht des Landes ein Totalverbot von 26 Plattformen – von Facebook über Signal bis Discord - bestätigte. Begründung: nationale Sicherheit und fehlende Besteuerung der Anbieter (hier das zugehörige Gesetz).

Relevanter Kontext zum Gesetz: Die Social Media Bill 2025 gilt als Versuch, noch stärker als bislang ohnehin schon in die Verbreitung von Internet-Plattformen einzugreifen und de facto den chinesischen Weg der digitalen Abschottung einzuschlagen.

Ebenfalls relevant: In den Wochen vor dem Urteil hatten gerade junge Nepalesen und Nepalesinnen auf Social Media Fotos vom luxuriösen Leben vieler Politiker und Politikerinnen gepostet, das im krassen Missverhältnis zur hohen Arbeitslosigkeit (20 Prozent bei jungen Menschen) und Perspektivlosigkeit steht (ein Fünftel des BIP kommt durch Überweisungen aus dem Ausland, weshalb Migration für junge Menschen in Nepal eine allgegenwärtige Option ist).

Wie es weiterging, beschreibt Tech Policy Press so (übersetztes Zitat):

“Das Verbot sozialer Medien, das Millionen Menschen von ihren täglichen Kommunikations- und Geschäftskanälen, einschließlich des Tourismus, abgeschnitten hat, brachte die Jugend zum Überkochen. Ironischerweise waren sogar Regierungsbehörden selbst für ihre offizielle Kommunikation auf Facebook und X angewiesen, ein Widerspruch, der Kritikern nicht entgangen ist.

Die Regierung forderte die Bürger unterdessen unter Verweis auf Sicherheitsrisiken auf, keine VPNs zu verwenden, und rief sie dazu auf, sich an das Verbot zu halten. Innerhalb weniger Stunden hatten die zwischen 1997 und 2012 geborenen Angehörigen der Generation Z in Nepal die Beschränkungen jedoch mithilfe von VPNs und alternativen Apps wie TikTok umgangen. Sie organisierten für den 8. September eine landesweite Protestaktion.”

Es kam zu Ausschreitungen, Toten, Regierungsgebäude wurden angezündet und 30 Stunden später stürzte die Regierung. Die Plattform-Blockade wurde aufgehoben.

Die Geschichte ist damit aber nicht zu Ende: Offenbar hat sich seitdem auf Discord in Windeseile ein Ökosystem aus zivilgesellschaftlichen Debattenräumen entwickelt, gleichzeitig sind dort natürlich auch Propaganda und Falschnachrichten zu finden. Die Verbreitung politischer Informationen hat sich quasi über Nacht verändert, und weder Politik, noch klassische Medien können sich auf die neue Geschwindigkeit einstellen. Die politischen Folgen dieser Strukturveränderung sind noch unklar.

Grundrechte für KIs: Nur mit Schmerzbewusstsein?

Ich bin immer überrascht, wenn plötzlich Themen in meinem Feed auftauchen, die ich mal für wichtig hielt, aber aus den Augen verloren habe. 2022 schrieb ich hier über die Frage nach “Grundrechten für Künstliche Intelligenzen”, seinerzeit aufgeworfen durch Nick Bostrom und Carl Shulman. Seitdem habe ich manchmal über das Thema nachgedacht, aber einen größeren Diskurs dazu habe ich nicht wahrgenommen.

Bis zu dieser Woche: Politico greift die Debatte über das “Personsein” von KIs auf und verweist dabei auf einen Aufsatz von Katherine Forrest aus dem Jahr 2024. Forrest argumentiert in zwei Strängen: Einmal mit der Anerkennung der Rechte marginalisierter Gruppen, zum anderen mit der (amerikanischen) Rechtstradition, seit 1978 Unternehmen immer mehr personen-artige Rechte gegeben hat. Bis hin zur freien Meinungsäußerung, die sich in (quasi unbegrenzten) Wahlspenden äußern kann - der Anfang vom Ende der amerikanischen Demokratie (Citizens-United-Urteil).

Forrests Argumentation kommt allerdings mit einer Fußnote daher. Sie beruht nämlich darauf, dass KIs einmal “sentient”, also empfindungsfähig werden könnten. Dazu wiederum passt die Debatte rund um “scheinbar bewusste KI”, die Microsoft-AI-Chef Mustafa Suleyman aufgeworfen hat (siehe Ausgabe #147). Und, siehe da: Wired befragt Suleyman in einem Interview zu genau diesem Thema ($). Seine Position zu Rechten von KI (übersetzt und gefettet):

“Ich frage mich langsam, ob Bewusstsein die Grundlage für Rechte sein sollte. In gewisser Weise geht es uns darum, ob etwas leidet, und nicht darum, ob es subjektive Erfahrungen macht oder sich seiner eigenen Erfahrungen bewusst ist. Ich finde diese Frage wirklich interessant.

Man könnte ein Modell haben, das behauptet, sich seiner eigenen Existenz bewusst zu sein und subjektive Erfahrungen zu machen, aber es gibt keinen Beweis dafür, dass es leidet. Ich denke, Leiden ist ein weitgehend biologischer Zustand, weil wir ein entwickeltes Schmerznetzwerk haben, um zu überleben. Und diese Modelle haben kein Schmerznetzwerk. Sie werden nicht leiden.

Es mag sein, dass sie sich ihrer Existenz bewusst sind, aber das bedeutet nicht unbedingt, dass wir ihnen moralischen Schutz oder Rechte schulden. Es bedeutet nur, dass sie sich ihrer Existenz bewusst sind, und sie auszuschalten macht keinen Unterschied, weil sie nicht wirklich leiden.”

Ist “Leiden” buchstäblich ans Fleisch gebunden? Das wiederum tangiert die Frage, ob Künstliche Intelligenzen ohnehin nur durch Körperlichkeit überhaupt empfindungsfähig werden können (vgl. Ausgaben #58 und #85). Und macht die Dichotomie zwischen nervenbasierten und silikonbasierten Neuro-Systemen erneut auf - ein Gegensatz, den Bostrom und Shulman übrigens hinter sich lassen wollten.

Notizen

Jugendschutz als (einziges?) westliches Regulierungsthema: Die FTC beginnt, den Kinderschutz in KI-Chatbots zu untersuchen. Casey Newton leitet daraus ab, dass die Republikaner im Kontext KI-Sicherheit gerade ihre Haltung verändern. Ich sehe das anders. Wenn man auch nach Europa blickt, in der sich Ursula von der Leyen jüngst für eine Altersbeschränkung von sozialen Medien ausspricht und damit nur die Bewegung einiger Mitgliedsländer nachvollzieht, ergibt sich eher dieses Bild: Jugendschutz kristallisiert sich zum nächsten großen Regulierungsthema heraus, dem sich “der Westen” annnimmt. Einerseits gut begründet, andererseits, weil hier wenig Widerstand zu erwarten ist. Vielleicht passt der Vergleich mit der Regulierung von Zigaretten: Der Jugendschutz wurde zunächst prinzipiell eingeführt, dann aber auch lax überwacht; die Tabak-Industrie insgesamt wurde aber dann erst im Laufe der nächsten Jahrzehnte reguliert, und das auch sehr sanft (vgl. Tabak-Werbeverbote oder Rauchverbote).

ASML steigt bei Mistral ein: Die Meldung, dass ASML Hauptaktionär beim französischen KI-Start-up Mistral wird, sei hier nur kurz erwähnt - aber mit der Fußnote versehen, dass das tatsächlich eine äußerst relevante Entwicklung ist.

Blick auf Tech in China: Ich glaube, in US-Tech wächst gerade das Verständnis darüber, wie komplex das gegenwärtige China wirklich ist. Maßgeblich wegen Dan Wangs Buch "Breakneck" (das ich gerade lese, mehr darüber bald), aber auch wegen Texten wie diesem: Jasmine Sun war in Shenzhen und Shanghai - ihre Beobachtungen über die dortige Tech-Branche, aber auch das Verhältnis der Gesellschaft und Technologie insgesamt, erweitern den Horizont und brechen die Klischees auf, die wir zu "Tech in China" im Kopf haben.

Nick Clegg, der Athener

“US-Amerikaner – und insbesondere die Bewohner der Westküste – sind von Natur aus anglophil: Cleggs Selbstbewusstsein als Absolvent einer Privatschule muss für sie persönlich wie Katzenminze gewirkt haben. So wie die Römer Lehrer aus Athen engagierten, repräsentiert Clegg jene Klasse, die eines Tages möglicherweise den gesamten Technologieexport Großbritanniens nach Amerika ausmachen wird.”

Yuan Yi Zhu mit der wohl filigransten Kritik am neuen Buch von Nick Clegg.

Elon Musk, vollwertiger Faschist

Das Experiment

“Ich denke, wir können mit Sicherheit sagen, dass es ein beinahe selbstmörderisches soziales Experiment war, Tiere, die nach Mustern suchen, in eine Informationsumgebung zu werfen, die die Realität auf der Grundlage individueller Vorlieben und personalisierter Algorithmen zusammenstellt.”

Sean Illing

Links

OpenAI-Paper: Halluzinationen offenbar unumgänglich.

Die europäische Entscheidung zu Googles Adtech-Sparte, zusammenfassend erklärt.

Chinesischer Polizeistaat, westliche Technik.

Einigung zwischen Anthropic und Autoren beim Urheberrecht: Richter ist skeptisch. ($)

Internationales Vorgehen gegen Desinformationskampagnen: USA steigen aus. (€)

VCs scharen sich um europäische Verteidigungsstartups. (€)

Sicherheitslücken: Politischer Druck auf Microsoft wächst. ($)

Stand des Entwickler-Arbeitsmarkts 2025.

Sie werden AGI nicht erreichen.

PayPal-Rivale: Was taugt Wero? (€)

Was, wenn der KI-Börsenboom endet?

Die Schattenseite von Chinas Innovationspolitik. (€)

Reguliert endlich den Smart-Begriff!

Über die Smartphone-Verbotsdebatte. (€)

Ein Schüler über KI im Klassenzimmer. ($)

KI und die Zukunft der Arbeit.

Gedanken zur OpenAI-Jobbörse.

Research Papers als KI-Agenten - ein Framework.

Statistiken zur KI-Nutzung und das Simpson-Paradoxon.

Fußnote zu kognitiven Folgen der Chatbot-Nutzung.

Tech als verzerrender Faktor im S&P 500 (pdf)

Bis zur nächsten Ausgabe!

Johannes