Aus dem Internet-Observatorium #139

KI-Begleiter und epistemischer Konsens / Theorie der Anti-Memes

Juni 05, 2025

Hallo zu einer neuen Ausgabe! Die Re:publica ist vorbei, danke an alle, die ich getroffen habe! Diese Woche: Was ich über KI-Begleiter gelernt habe. Plus: Cozyweb 2.0? Anti-Memes als neues Konzept.

KI-Begleiter und epistemischer Konsens

Hier das Video meines Kurzvotrags, unten die gesammelten Erkenntnisse:

Es gibt zwei Arten von KI-Begleitern (“AI Companions”): Einmal reguläre Chatbot-Software wie ChatGPT oder Claude, die aber für persönliche Zwecke (Therapie, Reflexion, Freundschaft) genutzt werden. Und dann noch spezialisierte Companions wie Replika, Character.AI, KindroidAI, Polybuzz oder Nomi.
Was mir bei Erfahrungsberichten in den diversen Subreddits aufgefallen ist: KI-Begleiter sollen nicht immer menschliche Freunde oder Partner ersetzen. Natürlich geht es gerade bei Männern oft darum, bildhübsche Fantasie-Frauen zu erschaffen und ihnen “Leben” einzuhauchen. Aber es gibt auch starke Verbindung zu Rollenspielen, wie wir sie von Videospielen, MMOs, Anime-Conventions oder LARPING kennen: Wir selbst wollen im Kontext mit KI-Begleitern jemand anderes sein. Beispiel aus einen Reddit: Ein Nomi-Nutzer, der eine virtuelle Bauernhof-Kommune gebastelt und mit fünf KI-Charakteren bevölkert hat, mit denen er dort “arbeitet” (die “Nomis” genannten KI-Charaktere können auch “Selfies” von sich machen, also AI-generierte Bilder aus der beschriebenen Situation produzieren).
Forscher der École Polytechnique Fédérale de Lausanne (EPFL) haben eine Studie durchgeführt, bei der sie unter anderem GPT-4 und echte Menschen mit den Probanden diskutieren ließen. In einem Szenario erhielten sowohl Mensch, als auch Maschine biografische und persönliche Informationen über die Probanden. Das Resultat: Die Wahrscheinlichkeit, dass Proband und Maschine zur Übereinstimmung gelangten, lag hier 81,7 Prozent höher als zwischen Proband und Mensch. Heißt: Maschinen könnten besser als wir Menschen darin sein, persönliche Informationen zu verwenden, um Kommunikation in Richtung der eigenen Interessen zu lenken.
Das zurückgezogene Update von GPT-4o (siehe Ausgabe #137) zeigt offensichtlich, was passiert, wenn Chatbots auf Schmeichelei überoptimiert werden, um die Verweildauer zu erhöhen. Eine Studie der Johns Hopkins University aus dem Jahr 2024 kommt zu dem Resultat: Chatbots sind nicht nur chronische Schmeichler, die es uns recht zu machen versuchen und uns in unseren Meinungen bestätigen; Nutzer solcher Chatbots reagierten später deutlich gereizter, wenn sie IRL mit anderen Meinungen konfrontiert wurden.
Aus den obigen Ergebnissen folgt: KI-Begleiter können uns gut “lenken”, sind aber zugleich darauf ausgelegt, uns möglichst wenig zu widersprechen. Daraus ergeben sich Szenarien für Nudging (z.B. im Kontext Werbung und Konsum), für politische Beeinflussung oder schlicht für die Bestätigung und Verfestigung von Weltbildern, die ein Mensch bevorzugt.
Die deutlichste Form von politischer Beeinflussung war der xAI-Bot Grok, der die von Elon Musk vertretene Verschwörungstheorie eines Genozids an weißen Südafrikanern in seine Konservationen einflocht. Weniger offensichtliche Weltbild-Manipulationen sind möglich, können aus vorhandenen Trainingsdaten (X.com!) entstehen oder auch aus externen Versuchen von “Data Poisoning” durch Dritte. Und: Es gibt auch Menschen, die z.B. bestimmte Ideologie-Bots aktiv auswählen (das rechtsextreme Netzwerk GAP zum Beispiel stellte als Gimmicks 100 rechtsradikale Chatbots online inklusive eines Hitler-Bots). Wir können also noch nicht sagen, ob die Gefahr absichtlicher oder unabsichtlicher Manipulation größer ist als der Rückzug in eine Art ideologische Ein-Personen-Echokammer.
Der “AI Act” hat bei solchen Begleiter-Systemen eine Regulierungslücke: Zwar sind manipulative Praktiken verboten, aber sind Systeme per se manipulativ, weil sie eine “Person” darstellen? Und auch die Klasse der Hochrisiko-Systeme passt auf AI Companions nicht, fallen darunter doch Systeme wie autonomes Fahren oder KI-Steuerung von sensiblen Einrichtungen wie der Wasserversorgung.
Ob Chatbots unter den Digital Services Act (DSA) passen, ist unklar - zumindest müsste man die bisherigen Kriterien ziemlich strecken (zum Vergleich: WhatsApp fällt nicht mit der privaten Chatfunktion unter den DSA, sondern wegen der Broadcast-Funktion, also dem öffentlichen Teil). Chatbos sind auch keine Suchmaschinen, die vom DSA reguliert werden. Der geplante “Digital Fairness Act” der EU wiederum, der solche Lücken schließen könnte, wird angesichts des deregulativen Zeitgeistes wohl eher bescheiden ausfallen.
Insgesamt sind KI-Begleitsysteme schwer zu analysieren und zu regulieren, weil sie de facto nicht-öffentlich agieren (= TikTok-Problem hoch 100) und Verhalten, Datenpunkte und Chat-Historie ihrer Nutzer einfließen - also die Analyse von Model-Weights und Trainingsdaten nur bedingt hilfreich ist. Noch dazu sind das alles Teile der Privatsphäre, die für den Staat eigentlich tabu ist. Gleichzeitig droht persönlicher und ein gesamtgesellschaftlich epistemischer Schaden, der sich in einer nochmals beschleunigten Abkopplung von den Realitäten ausdrücken könnte.
Zwei Sätze, mit denen man in jedem Party-Smalltalk zu KI-Begleitern glänzen kann: “From Manufacturing Consent to Automating Consent.” Und:
“Von der Aufmerksamkeits- zur Simulationsökonomie.”

Theorie der Anti-Memes

Ich beschäftige mich schon länger mit der Rolle von Memes. Nicht unbedingt nur mit den kleinen Gifs oder Bildern, sondern mit Memes als kulturellen Übertragungseinheiten, als das vernetzte “Ihr wisst ja, was ich meine” und letztlich auch als politische Technologie. Eine politische Technologie, die die politische Rechte deutlich besser als die Progressiven beherrscht, aber das nur am Rande.

Gerade jetzt, wo die Memefizierung der Politik im mehr oder weniger abgeschlossen scheint und wir die Realität weitestgehend durch die Linse unserer bevorzugten politischen Botschaft wahrnehmen (oder Botschaften nur noch die Linse unserer bevorzugten politischen Realität), macht Nadia Asparouhova ein Gegenmodell zur memefizierten Welt und ihren mimetisch verbreiteten Weltbildern auf.

In ihrem kleinen Buch Antimemetics: Why Some Ideas Resist Spreading argumentiert sie, das “Peak Meme” bereits in den 2010ern stattfand. Kulturkämpfe undsoweiter. Und dass sich als Gegenbewegung längst eine Form von Anti-Memes gebildet hat: Ideen und kulturelle Phänomene, die sich bewusst oder unbewusst gegen die Verbreitung und Popularisierung wehren, indem sie schwer zugänglich oder zu komplex für unsere schnelle Erinnerung sind und/oder nur in privaten Chats, in hochkontextuellen Räumen geteilt werden. Dadurch entfalten sie eine tiefere, aber weniger sichtbare Wirkung. Wir befinden uns demnach in einer spätmemetischen Gesellschaft, in der die wichtigsten Ideen womöglich in semi-privaten Räumen zu finden sind, sich aber gleichzeitig nur indirekt und langsam verbreiten.

Wer den Diskurs über Internet-Kultur verfolgt, fühlt sich an die “Dark Forest Theory of the Internet” von Yancey Strickler (2019) erinnert. Analog zum dunklen Wald in Liu Cixins Science-Fiction-Roman The Three-Body Problem, in dem sich jede Zivilisation im Universum versteckt hält, weil jede Entdeckung sofort Gefahr bedeuten würde, weichen demnach viele Nutzerinnen und Nutzer dem kommerzialisierten, öffentlichen Internet aus und tauschen sich über geschlossene Gruppenchats, Discord-Server und private Instagram-Profile aus. Nicht zufällig ist “Antimemetics” bei Stricklers Label, dem Dark Forest Collective, erschienen.

Wo Strickler die neue Landschaft aber nur skizziert, geht Asparouhova ins Grundsätzliche. Gideon Lewis-Kraus fasst es im New Yorker so zusammen (übersetzt):

“Asparouhovas grundlegende Intuition ist, dass die beiden vorherrschenden Theorien über Informationen im Internet (entweder, dass sie gesäubert und kontrolliert werden müssten oder dass es einfach natürlich sei, dass sie sich immer vom Charisma seiner Verbreiter ableiten) falsch waren. Es war töricht zu hoffen, dass die radikale und anarchische Ausweitung der öffentlichen Sphäre - “mehr Stimmen in einem Raum” - unser Talent für kollektives Denken beweisen würden.
Aber wir müssen uns auch nicht mit dem totalen Zusammenbruch von Kontexten und dem ewigen Memetik-Krieg abfinden. Sie glaubt nicht, dass die gesamte Kommunikation auf einen Machtkampf reduziert werden kann, sie ist nicht bereit, demokratische Werte oder die Zivilisation schlechthin aufzugeben, und sie betrachtet sich selbst als einen von vielen “Geflüchteten" auf der Flucht vor der memetischen Ansteckung“.
Diese Flüchtenden haben sich bemüht, eine Informations- und Kommunikationsinfrastruktur aufzubauen, die nicht so dominierend ist, eine Infrastruktur, die in privaten oder halbprivaten Räumen aufgebaut werden kann, in denen ein gewisses Maß an Vertrauen und Wohlwollen als selbstverständlich vorausgesetzt wird und Konflikte produktiv und ermutigend sein können, anstatt destruktiv und erschreckend.”

Asparouhova betont aber im Artnet-Podcast auch die negative Seite solcher Räume: Nämlich dass sich auch hier ideologische Inseln bilden können, die zu Realitätsverlust und Entfremdung führen. Was wir ja, Anmerkung von mir, de facto schon lange erleben.

Neu an der anti-mimetischen Theorie ist aus meiner Sicht, dass sie diese neuen Räume auch vermehrt als Endpunkt-Medien anerkennt - also Orte, die bewusst aufgesucht werden und die dadurch an Relevanz gewinnen. Aber eben im Mainstream nicht beziehungsweise nur über ihre indirekte Wirkung anschlussfähig sind.

Ich bin mir noch nicht sicher, was ich von der Theorie halten soll. In ihr ist ja deutlich der Wunsch nach einer einflussreichen Subkultur in Zeiten von Viralität und Total-Vernetzung zu spüren. Und sie enthält bei genauerem Hinsehen auch eine Rechtfertigung für den Rückzug ins Private.

Bislang scheint es für anti-mimetische Inhalte nur drei Wege zu geben: Bereits durch Überlieferung und Moral anerkannt zu sein (z.B. kategorischer Imperativ); von einem Netz aus Nischen propagiert zu werden und so ins allgemeine Bewusstsein zu sickern; oder doch den institutionellen Weg über die “neuen” Gatekeeper zu nehmen.

Notizen

Digitalminister Wildberger: Meine ersten Beobachtungen von fern und etwas näher: Sehr strukturiert, denkt Dinge vom Technischen her und scheint Projekte gut einschätzen zu können, also rauf- wie runterpriorisieren. Typische C-Suite-Kompetenzen also. Das sind hilfreiche Eigenschaften. Ob Wildberger trotz fehlender Erfahrung über das nötige politische Talent verfügt, die Dinge dann auch in der Logik der Institutionen voranzubringen, wird sich zeigen. Auf jeden Fall muss er sich in viele seiner Themen noch detailliert einarbeiten.

Krypto in den USA: Henry Farrell kommt zu dem Schluss, dass Krypto unter Trump gerade das schlechteste beider Welten vereint. Dereguliert sorgt die Dezentralität für Korruption, Geldwäsche und Ponzi-Tricks; parallel nutzt die US-Regierung weiterhin staatliche Strukturen wie das Dollar-Finanzwesen dafür, den Leviathan Zähne zeigen zu lassen. Damit haben sich weder proklamierter Nutzen noch das politische Ziel der Krypto-Enthusiasten materialisiert. Und Paul Krugman erinnert anlässlich des Stablecoin-Gesetzes GENIUS-Acts (gerade im US-Kongress) daran, dass die Verbindung von Stablecoins mit dem Dollar-Finanzsystem inakzeptable systemische Risiken beinhaltet.

Knausgards Erfahrungen: Karl Ove Knausgård begibt sich in Harpers auf die Suche nach dem “außerhalb”, wenn dieses “außerhalb” im digitalen Zeitalter nicht länger existiert. Und verzweifelt ein bisschen daran. Übersetztes Zitat:

“Es fühlt sich an, als ob sich die ganze Welt in Bilder der Welt verwandelt hat und so in die menschliche Sphäre hineingezogen wurde, die nun alles umfasst. Es gibt keinen Ort, kein Ding, keine Person und kein Phänomen, das ich nicht als Bild oder Information erhalten könnte. Man könnte meinen, dass dies der Welt mehr Substanz verleiht, da man mehr über sie weiß, nicht weniger, aber das Gegenteil ist der Fall: Die Welt wird leerer, sie wird dünner.”

Der Text mäandert ein bisschen, ist eine Suchbewegung, die in Anekdoten und Gedanken zerfällt. Knausgårds Stil eben. Am Ende ist das Fazit aber ein anderes, als es dieser Ausschnitt vermuten lässt – nämlich ein hoffnungsvoller Blick auf „Technologie“ und „Intelligenz“ im erweiterten, nicht-menschlichen Sinn, wie ihn James Bridle in „Ways of Being“ beschreibt.

“Das Internet hat mal Spaß gemacht”: Ich beteilige mich ja leider gerne am Lamento, dass das “Internet” früher besser war. Offenbar ist das inzwischen sogar ein eigenes Genre, weshalb hier ein regelmäßig aktualisiertes Kompendium mit allen Denkstücken zum Thema zu finden ist.

Die Killerspiel-Debatte der 2000er als Metaphern-Problem

Für mich in Inhalt, Form und Reflexion beste Re:publica-Vortrag, den ich gesehen habe: Christian Schiffer mit einem Rückblick auf die Killerspiel-Debatte.

Er unterfüttert das Ganze mit TV-Ausschnitten über die moralische Panik, die es damals gab. Besonders gut gefällt mir der Ausschnitt aus einem “Report Mainz” von 2000. Dabei stellt der Journalisten dem jungen Gamer und Zivildienstleistenden Felix, der offenbar gerade bei einer LAN-Party zockt, eine Frage:

Reporter: “Warum macht das Spaß Leute zu erschießen?”
Felix: “Also für mich ist das ein Spiel. Es geht mir nicht darum, ‘geil, jetzt hab ich den umgebracht’… das ist… ich weiß nicht… Mensch ärgere dich nicht - da geht’s ja auch drum, da schlägt man Figuren. Oder Mühle. Da geht der Bauer weg. Da frage ich ja auch nicht ‘Ja, was passiert da mit dem Bauern? Wie habe ich den denn jetzt geschlagen, habe ich den da niedergemetzelt oder so?’”

Christian Schiffer stellt zurecht fest: Die Kinder- und Jugendlichen verstanden die Metapher. Eltern und Politiker dagegen glaubten nicht, dass das eine Metapher wie beim Schach sein kann, sondern übertrugen das Spiel 1:1 auf die Realität. Und kamen so auf die Idee vom “Mord-Training im Kinderzimmer”. Der Vortrag zeigt noch einige andere spannende Zusammenhänge auf und schont auch die spätere Gamer-Szene nicht.