Aus dem Internet-Observatorium #164
Frontier-Modelle & Geopolitik: Und jetzt? / Metas interner Strategieschwenk und die Folgen / Schwächen progressiver KI-Kritik
Hallo zu einer neuen Ausgabe! Es ist Sommer und dieser Newsletter macht nach dieser Ausgabe vier Wochen Pause.
In dieser Ausgabe:
Frontier-Modelle & Geopolitik: Und jetzt?
Nehmen progressive KI-Kritiker das Thema auf die leichte Schulter?
Meta und die Folgen der neuen KI-Ausrichtung
Drei interessante Studien zu Societal Hacking, Smartphone-Reue bei Jugendlichen und falschen Deepfake-Forschungsschwerpunkten
Notizen zu KI und Mathematik, KI-Ökonomen und der Vermessung von wirtschaftlichen Folgen, Tokenminning und Polymarket
Links aus den vergangenen zweieinhalb Wochen
Aber zunächst:
Appetizer aus dem Tagesspiegel Background
Das verkorkste Wallet-Projekt: Der Text, über den das digitalpolitische Berlin spricht. Falk Steiner und Viola Heeger haben für diese Geschichte lange recherchiert. Und sie ist gut geworden. Wie die SPRIND das Projekt mit zweifelhaften Personalkonstellationen und schlechtem Projektmanagement belastete, die problematische Doppelrolle des BSI und warum deshalb aus der “deutschen EUDI-Wallet” zum 1. Januar nur eine “deutsche Wallet” wird.
Datenschutz-Neuordnung: Dass im Datenschutz gebündelt werden soll, ist klar. Aber wie? Eduard Müller über die Diskussion, die einmal mehr die Krux des Föderalismus zum Vorschein treten lässt.
Tech Sovereignty Package: Was im Cloud-Teil (CADA) und im Mikrochip-Teil steht, haben Anna Ströbele Romero und Benjamin Hilbricht kontextualisiert.
Cloud-Souveränität und Zersplitterung: Die Souveränitätskriterien nach dem CADA liegen vor - aber es droht durch die nationale Auslegung trotzdem Zersplitterung. Und dann taucht da im Kontext auch noch das Cybersicherheitszertifizierungsschema EUCS auf, über das seit Jahren gestritten wird… Benjamin Hilbricht mit den Details.
AI-Act-Aufsicht: Wie lösen eigentlich andere EU-Länder die Aufsichtsfragen des AI Acts? Alexandra Ketterer hat es recherchiert und sehr unterschiedliche Modelle gefunden.
Frontier-Modelle & Geopolitik: Und jetzt?
Natürlich wird Anthropic seine deaktivierten Modelle Fable 5 / Mythos 5 bald wieder anbieten dürfen. Aber der Schritt der US-Regierung, mittels eines Exportverbots eine De-facto-Lizenzierung von Frontier-Modellen einzuführen, ist die vielleicht folgenreichste technologiepolitische Entwicklung in diesem Jahr.
Ich habe in den Backgrounds Digitalisierung und Cybersecurity schon darüber geschrieben (€), deshalb will ich hier nur zwei Absätze meines Textes dort zitieren:
“Vor allem aber schafft der verwehrte Zugang zu Mythos 5 und Fable 5 einen Präzedenzfall, der in die Zukunft weist: Washington kann auch künftig den Zugriff auf Spitzenmodelle nicht nur für Gegner, sondern für ganze Ländergruppen, einzelne Firmen oder sogar Ausländer im Inland kappen.
Damit steht die Tür offen, ein Arrangement wie das gestufte Glasswing-Modell künftig als geopolitischen Hebel zu verwenden, in dem Zugang als diplomatische Belohnung genutzt wird. Und am Horizont zeichnet sich in dieser Logik bereits ein Szenario ab, in dem die Nutzung von neuen KI-Modellen noch stärker gestaffelt wird und nicht-amerikanischen Akteuren der Zugang zu den LLMs auf dem neuesten Stand der Technik verwehrt wird.”
Die Frage nach einem europäischen Frontier-LLM wird drängender, ist aber durch den zunehmenden Rückstand von Mistral nicht mehr so einfach zu beantworten. Zumindest, wenn man nicht davon ausgeht, dass Methoden wie World Models, Compound AI Systems oder Mamba künftig eine gleichwertige Lösung darstellen.
Auf einer Veranstaltung vor ein paar Tagen habe ich es so formuliert: “Ich sehe das auf europäischer Seite das große Problem der Handlungsschnelligkeit, aber auch das Problem der Handlungsmöglichkeit - wer könnte einen Frontier-Aufholplan erfolgreich initiieren und schnell umsetzen?”
Anton Leicht, der im Moment in Washington bei Carnegie Endowment for International Peace weilt, hat sich in bestimmten AI-Policy-Kreisen ganz gut positioniert. Und skizziert in einem neuen Beitrag, wie ein Frontier-Projekt der “KI-Mittelmächte” aussehen könnte.
Die EU, Kanada, Australien, Großbritannien, Südkorea, Japan und Norwegen könnten sich zusammentun und ein entsprechendes Konsortium auf die Beine stellen. Es wäre ein staatlich finanziertes Projekt im Rahmen einer eher an die Privatwirtschaft angelehnten Governance (don’t say Gaia-X!), mit hochkarätigen Führungspersönlichkeiten und Forschern, hochrangigen politischen Beauftragten (“Czars”) und 500 Milliarden Euro Kapitaleinsatz innerhalb von vier Jahren. Es gibt vieles, was sich an dem Konzept nach dem Abgleich mit real-existierenden Institutionen und politischen Handlungsspielräumen kritisieren lässt; ich bin aber überzeugt, dass wir über solche und ähnliche Ideen sprechen müssen. Es wird ernst, Freunde.
Allerdings gibt es dann natürlich die Gegenposition: Der Zug für Frontier-Modelle ist abgefahren, Europa sollte sich auf KI-Modelle für den domänenspezifischen Einsatz (vor allem in der Industrie) fokussieren. Stellvertretend hierfür verweise ich auf den geschätzten Daniel Florian und diesen neuen Beitrag von Tina Wünn. Übersetztes Zitat:
“In der Industrie ist die Zuverlässigkeit das entscheidende Hindernis für den Einsatz von KI, nicht die reine Leistungsfähigkeit. Ein Modell, das in kontrollierten Tests hervorragende Ergebnisse liefert, kann sich im Einsatz dennoch unvorhersehbar verhalten – etwas, das ein Krankenhaus, ein Flugzeughersteller oder ein Stromnetzbetreiber nicht akzeptieren kann.
Die “Narrow AI” hat hier einen strukturellen Vorteil. Ihre Fehlermodi sind klar definiert und begrenzt, und ihre Trainingsdaten sind kuratiert und überprüfbar. Dies erleichtert die Validierung, Überwachung und Steuerung und schafft so mehr Vertrauen. Im Gegensatz dazu ist KI, die kontextübergreifend autonom agieren kann, viel schwieriger zu bewerten, abzusichern und als vertrauenswürdig einzustufen.”
Die Entwicklung von Frontier-Modellen und ein Augenmerk auf die Anwendung von “Narrow AI” schließen sich nicht aus, aber im Moment ist Europa in beiden Bereichen weit weg von einem Durchbruch oder der nötigen Geschwindigkeit. Das ist nicht nur ein politisches Problem, sondern auch eines, das im Legacy-Denken vieler Wirtschaftszweige fußt. Der Konkurrent bei “Narrow AI” ist entsprechend nicht die USA, sondern China, das gerade das Deployment sowohl top-down (vgl. Industrie-KI-Fokus im aktuellen Fünfjahresplan) als auch bottom-up (Agenten-Diffusion) durchzieht (siehe Ausgabe #162). Für Deutschland gehen also China-Schock und KI-Schock im schlimmsten Falle Hand in Hand beziehungsweise ineinander über.
Ich persönlich glaube zwar an “KI als eine normale Technologie”, habe aber große Zewifel daran, dass die EU ohne eigenes Frontier-Modell auskommen wird. Auf die Grenzen der Skalierung der US-Modelle, das Platzen der KI-Blase oder andere externe Faktoren zu hoffen und ein paar Reißbrett-Großprojekte wie die KI-Gigafabriken zu initiieren, wird jedoch nicht genügen. Vielleicht kommt jetzt die notwendige Dringlichkeit bei den politischen und wirtschaftlichen Entscheidungsträgern an. Die EU ist nicht zu beneiden, denn beide oben skizzierten Strategien/Ziele gehen mit gehörigen Risiken einher. Aber auch das Risiko, technologisch abgehängt zu werden, wird immer größer.
Rutger Bregman ist unzufrieden
Der Historiker und Aktivist Rutger Bregman hat jetzt ein Substack. Und er geht hart mit den progressiven KI-Kritikern ins Gericht, wirft ihnen vor, die Torpfosten ständig zu verschieben (übersetztes Zitat):
“Zuerst hieß es: Es ist nur eine ausgefallene Autovervollständigungsmaschine. Ein stochastischer Papagei. Ein Programm, das Wörter errät. Dann hieß es: Na gut, es kann nachahmen, aber es wird niemals logisch denken können. Dann hieß es: Okay, es besteht zwar die Tests, aber kein seriöses Unternehmen setzt es ein. Dann: Na gut, Unternehmen setzen es ein, aber die Wirtschaftlichkeit stimmt nicht, es ist eine einzige große Blase. Dann: Na gut, die Einnahmen sind echt, aber, aber, aber…
(...) Lassen Sie mich das klar sagen: Ich halte es für durchaus möglich, dass die nächsten fünf bis zehn Jahre zu den turbulentesten in der Geschichte der Menschheit gehören werden. Denn das sagen uns jetzt die Menschen, die diese Technologie entwickeln – dieselben Menschen, die den Skeptikern immer wieder das Gegenteil bewiesen haben. Sie glauben, dass KI bald damit beginnen könnte, selbst noch leistungsfähigere KI zu entwickeln.”
Bregmans Text selber steckt voller Maximalszenarien (wobei ich recursive self-improvement, RSI, ebenfalls für ein durchaus realistisches Szenario halte). Ich wollte seine Kritik aber hier aufgreifen, weil er den Finger in die Wunde legt. Denn in der Tat kommt von einem relevanten Teil der Progressiven im Kontext KI sehr wenig, abgesehen von Grundsatzkritik an den Tech-Eigentumsverhältnissen, (durchaus begründeten) Warnungen vor den Folgen des KI-Rechenzentrumsausbaus und dem Verweis auf die KI-Blase. Aber konkrete eigene Policy-Vorschläge höre und lese ich selten, sieht man von Bernie Sanders’ Teil-Verstaatlichungsidee in den USA ab.
Die Hoffnung, dass mit einem Platzen der Blase die Technologie wieder verschwindet oder in ihre Schranken verwiesen wird, ist jedoch illusorisch. Und gerade die Alignment-Community könnte Unterstützung von Akteurinnen und Akteuren gebrauchen, die sich wirklich ernsthaft und jenseits von Narrativen, Glaubensfragen und moralischen Urteilen mit der Materie beschäftigen.
Die Meta-Metamorphose
Über die aktuelle Phase in der Meta-Firmengeschichte werden einmal Bücher geschrieben werden. Werden sie vom Niedergang des Konzerns handeln? Ich gebe keine Prognose ab, aber die Verwerfungen innerhalb der Firma sind angesichts des riskanten Strategiewechsels offenbar beträchtlich.
Klare Indizien dafür liefern zwei Texte: Zunächst veröffentlichte Wired eine kleine Insider-Story über die schlechte Stimmung, die im Konzern durch die Reorganisation in Richtung KI/Data-Labelling entstanden ist. Danach legte der für gewöhnlich gut informierte Gergely Orosz mit Details über die massiven Veränderungen in den Entwicklerteams nach.
Orosz’ Stück ist besonders lesenswert, weil er die historische Entwicklung nachvollzieht: Meta, einst als Firma mit großer Wertschätzung für Engineering bekannt, hat nun ein Fünftel bis ein Sechstel seiner (nach den Entlassungen verbliebenen) Entwickler und Entwicklerinnen in Data-Labelling-Projekte verschoben.
Wir erinnern uns: Alexandr Wang, der jetzt die KI-Aktivitäten bei Meta verantwortet, wurde samt seines Unternehmens Scale AI eingekauft. Und Scale ist dafür bekannt, qualitativ hochwertige annotierte Daten für die KI-Entwicklung zu liefern. Bei Meta bedeutet das jetzt: Ein beachtlicher Teil der Entwickler ist damit beschäftigt, Trainingsdaten für Metas neue Coding-KI zu verfeinern, statt Features für Instagram, Facebook oder WhatsApp zu entwickeln. Übersetztes Zitat:
“Es gibt Datenanmerkungsaufgaben, bei denen man eine Website erstellt, sie sich dann ansieht und entscheidet, ob sie gut aussieht oder nicht, und dazu Feedback gibt: Das ist die „typische“ Datenannotation. Diese Art von Arbeit kommt jedoch seltener vor. Daneben gibt es aber auch komplexere Aufgaben zum Trainieren von KI, die wie folgt aussehen:
Eine Aufgabe definieren, die die KI ausführen soll
Anschließend Tests schreiben, die das Ergebnis bestätigen
Packen Sie all dies mithilfe des Harbor-Frameworks in einen Docker-Container
Lesen Sie anschließend den Code, den die KI schreibt – oft auf der Grundlage von Feedback mehrerer Modelle – und geben Sie ihr Feedback.”
Die Aufgabe ist herausfordernd, aber stinklangweilig und repetitiv. Und es ist eben keine Software-Entwicklung im klassischen Sinne. Entsprechend sucht, das zeigen Zahlen aus Bewerbungstrainings-Plattformen, eine Rekordzahl von Meta-Mitarbeitenden neue Jobs. Orosz beschreibt das etwas plakativ in dieser Grafik:
Nebenbei führt die Ausdünnung in anderen Teams, kombiniert mit einer stärkeren Nutzung von KI für Coding, zu Problemen. Zum Beispiel bei Trust & Safety, das von einer simplen Übernahme prominenter Accounts durch Manipulation des Support-Chats überrascht wurde und auch deutlich mehr Downtime der Plattform als früher zu verzeichnen hat. Ich kann die Analyse wirklich als Ganzes empfehlen, sie liefert fantastische Einblicke.
Drei interessante Studien
“Societal Hacking” durch KI: Eine Studie untersucht „Societal Hacking“ durch LLMs, die mittels Reinforcement Learning (RL) trainiert wurden. Konkret setzte man große Sprachmodelle darauf an, in einer Testumgebung (“SocioHack”) in realen, fiktiven und künstlich entwickelten Szenarien Regulierungslücken zu finden und auszunutzen. Das gelang zum Beispiel im Bereich Steuerrecht, im Kontext Wettbewerbsrecht und bei der Umgehung von Moderations- und Governance-Regeln auf Plattformen. Dabei wurden zum Beispiel Bearbeitungszeiten, Definitionsschwächen, Klassifizierungsfehler, inkonsistente Klauseln oder starre Schwellenwerte ausgenutzt. Einerseits ermöglicht dieser Mechanismus etwas, was ich “gesellschaftliche Exploits” nennen würde. Andererseits kann er jedoch konstruktiv als Stresstest für neue Regulierungen nutzen, um deren Schwächen schon vorher aufzudecken.
Bereuen Jugendliche Social Media? Eine neue Studie des irischen Forschers Eoin Whelan (via), die gezielt Jonathan Haidts Thesen zur Schädlichkeit von Social Media für Jugendliche überprüft, kommt zu einem ernüchternden Befund für die Smartphone-Panik: Unter 389 jungen Erwachsenen (20–24 Jahre), die als Teenager Social Media nutzten, landete die Reue über zu viel Zeit in sozialen Medien auf Platz 13 von 20 abgefragten Jugendreue-Kategorien. Viel stärkere Reue-Themen mit Rückblick auf die Teenager-Zeit sind mangelnde Selbstbehauptung, übertriebene Selbstkritik oder das Versäumnis, lebensnahe Kompetenzen zu erwerben. Mädchen bereuten Social-Media-Konsum zwar geringfügig stärker als Jungen (Rang 11 vs. 13), aber der Effekt ist statistisch minimal. Für mich stützt das die These, dass Jugendliche ein sehr viel instrumentelleres (=es als Werkzeug verwendend) Verhältnis zu Social Media haben als diejenigen, die vor dem Smartphone-Zeitalter erwachsen geworden sind. Ob sich daraus Ableitungen für den konkreten Schaden treffen lassen, steht wieder auf einem anderen Blatt Papier.
Haben wir uns auf die falschen Deepfake-Szenarien vorbereitet? “The Deepfakes We Missed: We Built Detectors for a Threat That Didn’t Arrive” heißt das Paper von Shaina Raza von der University of Toronto. Die These: Dadurch, dass wir im Kontext Deepfakes zunächst vor allem mit manipulierten Videos prominenter Persönlichkeiten (und den Folgen für unser epistemisches System) rechneten, hat die Forschung aufs falsche Pferd gesetzt. Denn in der Realität entstehen gesellschaftliche Schäden vor allem durch nicht-konsensuelle intime Bilder (NCII), Scams über Voice- und Video-Cloning und emotionalen Betrug im privaten Umfeld. Raza fordert deshalb ein Umdenken in der Forschung, nämlich die Ausrichtung auf einen “opferzentrierten Ansatz”.
Notizen
Leiden-Erklärung: Mehr als 2500 Mathematikerinnen und Mathematiker haben inzwischen eine Erklärung zum ethischen Einsatz von Künstlicher Intelligenz in der Mathematik unterschrieben. Es ist ein außergewöhnliches Dokument, das das Spannungsfeld zwischen technologischen Werkzeugen und der Mathematik als zutiefst menschlicher Disziplin sichtbar macht. Wer tiefer in das Thema eintauchen möchte: Der Mathematik-Professor Michael Harris arbeitet es in der Boston Review detailliert auf.
Eine andere Art von Braindrain: Der Economist listet in seiner aktuellen Ausgabe die interessantesten Ökonomen und Ökonominnen auf, die sich mit KI beschäftigen. Dabei kommt er zu dem Schluss, dass sich - verglichen mit den möglichen Folgen - deutlich zu wenige Wissenschaftler mit den wirtschaftlichen Konsequenzen beschäftigen. Der Grund: Es fehlen derzeit sowohl der makroökonomisch sichtbare Impact, als auch die mikroökonomischen Daten. Allerdings beschäftigen inzwischen auch die KI-Labs vermehrt Ökonomen. Dieser Trend ist relevant: Bei der KI-Entwicklung arbeiten bereits zwei Drittel der KI-Forscher und -Forscherinnen in der Privatwirtschaft, im Falle von “KI-Ökonomen” hätte es ähnliche Konsequenzen - Forschung entlang von Business-Cases statt für das allgemeine Wohl, Konzentration von Forschung und Wissen in den Labs.
Tokenmaxxing? Tokenminning! Wie bereits in der letzten Ausgabe angedeutet, überprüfen Firmen nach aus dem Ruder gelaufenen Ausgaben nun, ob die Nutzung von KI zu echten Produktivitätsgewinnen führt. Die New York Times hat dazu einen Artikel, die Financial Times und der Economist ebenfalls, und Derek Thompson sieht die “Ist-es-das-wert?”-Phase des KI-Booms angebrochen. Der Begriff “Tokenminning”, also der bewusst sparsame Einsatz von KI-Ressourcen, stammt übrigens aus diesem Manifest. Die Frage ist, ob mögliche Großkunden-Budgetkürzungen bei der Bewertung der OpenAI- und Anthropic-Börsengänge noch eine Rolle spielen werden…
Die Polymarket-Irreführung: Prediction Markets halte ich bekanntlich für ein wichtiges Thema, auch wenn sich das meiste in den USA abspielt. Das Wall Street Journal hat nun eine Recherche vorgelegt, die die irreführenden Geschäftspraktiken von Polymarket offenlegt. Die Methode ist schon dreist: Die Firma bezahlte Influencer im Studentenalter dafür, auf gefälschtenm aber real aussehenden Internetseiten Online-Wetten abzuschließen (“Trump erwähnt in diesem Monat McDonald’s") und zu gewinnen. Aus diesen Videos machte eine Armee von bezahlten Clippern wiederum virale Ausschnitte und Repostings, um die Idee vom “Weg zum schnellen Geld” in das Zielpublikum einsickern zu lassen. Dass Polymarket und Co. vor allem von jungen Menschen genutzt werden, ist bekannt. Die 50 Menschen, die wirklich Geld auf eine McDonald’s-Erwähnung setzten, verloren ihren Einsatz übrigens.
Links
Wie der FSB Russland vom Internet abklemmte. (€)Krypto-Zeitenwende. ($)
War’s das erstmal mit dem Bitcoin? (€)
Floridas TikTok-Klage könnte große Auswirkungen haben.
Interne Dokumente aus den Klagen von US-Schulbezirken gegen Social-Media-Firmen
Ein zweites Internet, gebaut für Maschinen. (€)
Unitree: Die Zukunft der KI-Robotik?
Warum KI Software-Entwickler nicht ersetzen wird.
KI hat kein Bewusstsein, aber wird zu unserem Unterbewusstsein.
Das Social-Media-Verbot und die Folgen für das Internet.
Der Airpod-Effekt.
Computersteuer, eine dumme Idee?
Drei Arten, über KI und Jobs nachzudenken. ($)
Über KI in der Wissenschaft.
Europe 2031, eine Negativ-Vision.
KI-Detektoren: Misstrauen als Geschäftsmodell. (€)
Dataland, das erste KI-Museum.
Alles zur WWDC.
Sloptimisierung der Suche.
Bis zur nächsten Ausgabe!
Johannes