Aus dem Internet-Observatorium #131

KI-Neosynthetik als erodierende Kraft

Apr. 02, 2025

Hallo zu einer neuen Ausgabe!

KI-Neosynthetik als erodierende Kraft

OpenAI hat seinem Modell GPT-4o neue Fähigkeiten zur Bildgenerierung verpasst, darunter auch der Stil von Studio Ghibli. Die japanischen Zeichentrick-Künstler sind bekannt für ihre liebevollen, detaillierten Animationen, die sie in der Regel mit der Hand zeichnen. Durch den neuen KI-Filter wurde das Internet in kurzer Zeit mit allem Möglichen im Ghibli-Stil geflutet.

Auch Hitler, 9/11 und Abschiebefotos der US-Regierung wurden im Ghibli-Stil memefiziert. Nicht nur deshalb entspann sich schnell eine Debatte über die Ethik- und Urheberrechtsfragen - schließlich ist vom Ghibli-Vater Hayao Miyazaki auch KI-Kritik überliefert.

Stellvertretend für diese Debatten sei auf die Texte von tante/Jürgen Geuther und Michael Kalina sowie die Zusammenfassung der Debatten im Social Media Watchblog.

Ich selbst möchte in eine andere Richtung abbiegen und, anschließend an den letzten Newsletter (Ausgabe #130), auf die kognitiven Aspekte blicken. Auf die Frage “Was macht das mit uns und unserer Wahrnehmung?”

Die beste Antwort zur Frage nach unserer Wahrnehmung von Kunst gibt Erik Hoel mit seinem Essay “Welcome to the Semantic Apocalypse”. Wenn Ihr nur ein Tech-Essay diese Woche lest, lasst es dieses sein, es ist leidenschaftlich.

Hoel verknüpft den Blick auf ein Internet voller Ghibli-Bilder mit dem Konzept der semantischen Sättigung. Semantische Sättigung ist ein psychologisches Phänomen: Wenn wir ein Wort wiederholt aussprechen oder lange betrachten, verliert es vorübergehend seine Bedeutung. Statt als sinnvolles Wort wird es nur noch als eine Aneinanderreihung von Lauten wahrgenommen, ähnlich wie unbekannte Wörter einer Fremdsprache. Es ist noch nicht ganz klar, ob erschöpfte Neuronen das Phänomen auslösen oder etwas anderes.

Hoel sieht Parallelen zu dem, was KI mit uns macht: Aus dem originalen Ghibli-Stil, der ihn berührt, wird etwas, zu dem er keine Beziehung mehr aufbauen kann. Übersetztes Zitat (Fettungen meine)

“Die semantische Apokalypse, die die KI ankündigt, ist eine Art semantische Sättigung auf kultureller Ebene. Denn Nachahmung, was diese Modelle letztlich am besten können, ist eine Form der Wiederholung. Wiederholung im großen Stil. (…) Und so wird die Kunst - ich meine, das gesamte menschliche künstlerische Schaffen - zu einer Sache, die gesättigt ist, die ihrer Bedeutung beraubt ist, zur reinen Syntax.
Das ist es, was ich bei der KI am meisten fürchte, zumindest in der unmittelbaren Zukunft. (...) Ein Überangebot, das uns auf kultureller Ebene sättigt, bis wir uns von der semantischen Bedeutung losgelöst haben und nur noch die billigen Knochen ihrer Struktur sehen. Wenn man sich dem ausgesetzt hat, hat man keinen wirklichen Bezug mehr dazu. Nur Pixel. Nur Silben. In einer gewissen Reihenfolge, ja. Aber wen interessiert das schon?”

Diese Erosion unserer Verbindung bedeutet dabei in meiner Interpretation auch, den “menschlichen” Teil dieser Kultur zu verlieren - oder zumindest unsere Beziehung zu diesem Menschlichen. Was bleibt, ist digitale Massenproduktion und unendliche Varianten von Kitsch.

Hoel streift mit seinen Gedanken einige Themen, die uns bekannt vorkommen dürften: Die Verwertungslogik des real-existierenden Digitalen, die längst in alle gesellschaftlichen sowie unsere persönlichsten Bereiche vordringt (siehe Ausgabe #119). Walter Benjamins Überlegungen zum Wesen des Kunstwerks im Zeitalter seiner Reproduzierbarkeit, ergänzt um die Frage, ob wir uns nach der “Aura” auch von unserer bisherigen Vorstellung von “Authentizität” verabschieden müssen, weil sie in unserer maschinengesteuerter Aufmerksamkeitsökonomie keinen Platz mehr findet. Und dieses seltsame Gefühl, dass wir in der Frühzeit eines synthetischen Zeitalters leben (siehe Ausgabe #41), ohne zu wissen, was von uns und unserer bisherigen Lebensweise dort weiter existieren wird und darf.

Ein paar Tage nach Hoels Text erschienen ein Essay von Venkatesh Rao, das ähnliche Fragen berührt. In “LLMs als Index Funds” -ironischerweise mit Hilfe von KI erstellt - beschäftigt sich Rao mit dem Verhältnis von großen Sprachmodellen zu unserer Sprache an sich.

Wie der Titel sagt, zieht Rao Verbindungen zwischen Künstlicher Intelligenz und Indexfonds, also jenen Fonds, die bestimmte Börsenindizes möglichst getreu nachzubilden versuchen (und deren Betreiber darauf spekulieren, dass der Fonds wie der Index selbst jedes Jahr im Wert steigt).

Große Sprachmodelle (LLMs) versuchen in ähnlicher Weise, den Durchschnitt der menschlichen Sprache abzubilden; daraus entsteht eine effektive, aber homogenisierte Sprache (“Beta Language”), die kaum neue Konzepte und Originalität (“Alpha Language”) hervorbringen kann. Raos Prognose: Die Bedürfnisse des Mainstreams werden mit LLM-Text zufriedengestellt, echte Originalität wandert in Nischen oder private Sprachräume oder kann nur kurz hervorbrechen, bis sie wieder von den LLMs verarbeitet und Teil der Beta-Sprache werden. Übersetztes Zitat:

“Dieser rekursive Zyklus - von Alpha zu Beta, von Originalität zu Norm - formt eine zweistufige Sprachökonomie. In der öffentlichen Sphäre ist die Sprache zunehmend reibungslos, aber austauschbar. In der privaten Sphäre bleibt die Sprache riskant, erfinderisch und lebendig. Die Zukunft des Schreibens wird nicht von der Beherrschung des Durchschnitts abhängen, sondern davon, wie man sich von ihm abhebt.”

Beide, Hoel und Rao, beschäftigen sich also im Kern mit einer Erosion des individuellem Ausdrucks durch Künstliche Intelligenz: Hoel zielt auf den Kreativbereich, Rao auf die Sprache als Werkzeug des individuellen Ausdrucks von uns allen. Doch während Hoel ein Szenario andeutet, das letztlich einem Ende menschengemachter Kultur wie wir sie kennen gleich kommt, lässt Rao noch den Rückzug in private Sprachräume zu, in denen dann “Neues” entstehen kann. Denn nur dort, so impliziert er, sind wir abgeschottet vom Markt, auf dem die Sprachmodelle menschlichen Output verarbeiten und künstlichen Output produzieren.

Beide Lesarten von KI sind im Kern pessimistisch. Scott Alexander von Astral Codex Ten setzt in seinem Essay “The Colors Of Her Coat” einen Kontrapunkt: Er betrachtet als Techno-Optimist die Entwicklung in einen evolutionär-zivilisatorischen Kontext. Ultramarin war einst kaum als Farbe zu beschaffen, doch heute sehen wir die Farbe selbst in alten Gemälden kaum als besonders an; die legendären Auftritte des Opern-Sängers Caruso können wir nicht live erleben, die Aufnahmen davon sind ein Hilfsmittel, aber ersetzen nicht den Besuch eines Konzerts damals; um zu wissen, wie Paris im späten 19. Jahrhundert aussah, müssen wir keine Gemälde vergleichen, sondern können Fotos ansehen.

Alexander sieht das nicht nur als Fortschritt. Übersetztes Zitat (gefettet):

“Ich gebe zu, dass meine Unfähigkeit, eine Caruso-Oper in Neapel live zu erleben, mich etwas Tiefes und Schönes gekostet hat. Aber ich kann mir nicht wünschen, dass der Phonograph nie erfunden worden wäre. Entschädigt die größere Vielfalt und Quantität der Musik für die geringere Tiefe eines jeden Musikerlebnisses? Sicherlich ist das ein Teil davon, aber ich würde diese Ausrede in anderen Bereichen, die noch nicht billiger geworden sind, niemals akzeptieren. Tausend mäßig angenehme One-Night-Stands sind nicht gleichbedeutend mit einer leidenschaftlichen Liebesaffäre.
Vielleicht revanchiert sich der Fortschritt mit Zinsen für jedes Medium, das er braucht? Ohne massenhaft produzierte, massenhaft übertragbare Bilder, Musik und bunte Farben gäbe es kein Studio Ghibli. Dürfen wir hoffen, dass, wenn Anime zu billig wird, um geschätzt zu werden, genau diese Billigkeit die Tür zu neuen Formen der Kunst öffnen wird? Aber warum sollte das immer der Fall sein? Wenn KI besser ist als alle menschlichen Künstler und man 100.000 Inferenzkopien mit 10-facher Seriengeschwindigkeit in einem Rechenzentrum ausführen kann, warum sollte dann jemals wieder etwas nicht billig sein?”

Am Ende lautet seine Lösung, auch das Billige mit offenen Augen zu betrachten - und es nicht von vorneherein auszuschließen, dass es sinnstiftend oder persönlich kulturell relevant sein kann. Sondern daran zu glauben, dass man auch Bekanntes wie beim ersten Mal sehen kann.

Das ist natürlich sehr unbefriedigend, weil er damit eine persönliche Lösung für eine technologisch-zivilisatorische Entwicklung vorschlägt, die im Kern auf Akzeptanz hinausläuft. Oder auch: auf Resignation gegenüber einem technisch determinierten Fortschritt.

Notizen

Digitales im Koalitionsvertrag: Die Ergebnisse der “Koalitionsarbeitsgruppe 3 - Digitales” sind eine Enttäuschung, wie (nicht nur) Falk zurecht anmerkt. Vielleicht sinnbildlich dafür steht, dass die Arbeitsgruppe Digitales das Thema Cybersicherheit bei den Innenpolitikern sah, die das wiederum zunächst gar nicht auf dem Schirm hatten. Mal abwarten, was am Ende stehen wird, aber das ist bislang in der Allgemeinheit des Textes schon sehr überschaubar, was die Ambition angeht.

Digitalsteuer als Vergeltung? Wenn dieser Newsletter erscheint, sind bereits weitere Details über die amerikanischen XXL-Zölle bekannt. Wer sich schon einmal mit möglichen Gegenmaßnahmen der EU im Digitalbereich beschäftigen möchte, kann dieses von den Grünen im Europaparlament in Auftrag gegebene Paper des Center for European Policy Studies (CEPS) zu einer europaweiten Digitalsteuer lesen. tl;dr: 37,5 Milliarden Euro Mehreinnahmen schon im Jahr 2026, dazu ein stärkeres Druckmittel für eine internationale Reform der Unternehmenssteuer. Unklar aber bleibt weiterhin, welche Gegenmaßnahmen das wiederum von Seiten der USA nach sich ziehen würde.

Meme-Ebbe: Taylor Lorenz beschreibt in ihrem Newsletter, warum es schon seit längerem keine großen neuen Memes mehr zu Geben scheint. “Die Meme-Dürre vom März 2025 kann als Ausdruck dieser Erschöpfung gesehen werden, bei der der unstillbare Appetit des Internets auf Neues zu einem vorübergehenden kreativen Stillstand führte”, schreibt sie. Wenige Stunden später allerdings begann es zu regnen (um im Bild zu bleiben), als das bizarre Morning-Routine-Video nicht nur viral ging, sondern auch innerhalb kürzester Zeit zum oft zitierten und parodierten Meme wurde.

COBOL-Lob: Die DOGE-Leute wollen offensichtlich COBOL in den US-Regierungssystemen mit einer moderneren Programmiersprache ersetzen. Dagegen gibt es viele Argumente: Sicherheit, Komplexität, aber auch Robustheit. Dieser Artikel von Clive Thompson erklärt ganz gut, weshalb Banken sich an solchen Projekten die Zähne ausgebissen haben. Und dieses Logic-Stück, weshalb COBOL als Sündenbock für den Ausfälle im US-Sozialversicherungssystem während der Pandemie herhalten musste, das Problem aber in Wahrheit woanders lag.

Unterwasserkabelschneider: Aus der Reihe unterschätzte Meldungen stammt die Nachricht, dass China erstmals offiziell ein Tiefseegerät zum Durchtrennen von Datenkabeln vorgestellt hat. Übersetztes Zitat aus der South China Morning Post ($):

“Das Gerät, das in der Lage ist, Leitungen in einer Tiefe von bis zu 4.000 Metern zu durchtrennen - das Doppelte der maximalen Reichweite bestehender Unterwasser-Kommunikationsinfrastrukturen -, wurde speziell für die Integration in Chinas fortschrittliche bemannte und unbemannte Tauchboote wie die Fendouzhe (Striver) und die Haidou-Serie konzipiert.
Das vom China Ship Scientific Research Centre (CSSRC) und dem ihm angeschlossenen State Key Laboratory of Deep-sea Manned Vehicles entwickelte Gerät zielt auf gepanzerte Kabel mit Stahl-, Gummi- und Polymerumhüllungen ab, die 95 Prozent der weltweiten Datenübertragung gewährleisten.
Das Gerät wurde zwar für die zivile Bergung und den Abbau auf dem Meeresboden entwickelt, doch sein Potenzial zur doppelten Nutzung könnte bei anderen Nationen die Alarmglocken läuten lassen.”

Toffler in China: Für Interessierte der Technologiegeschichte ein sehr interessantes Lesestück aus der New York Review of Books ($) über den Einfluss des US-Futurologen Alvin Toffler auf die technologischen Überlegungen der KP Chinas. Dass Chinas technologisierte Gesellschaft inklusive Massenüberwachung auf Toffler zurückzuführen sind, wäre zu viel gesagt - aber einige seiner Ideen sind durchaus zu erkennen.

1 Zitat zu Signalgate

David Remnick: The Greater Scandal Of Signalgate (New Yorker)

“Es wäre unklug, die Bedeutung von Geheimnissen in dieser oder jeder anderen Regierung abzutun, aber der Punkt ist, dass Trump und seine ideologischen und politischen Planer kein Geheimnis aus ihren Absichten gemacht haben.
Während Richard Nixon dazu neigte, seine dunkelsten Geheimnisse und Vorurteile für private Treffen mit Adjutanten wie Henry Kissinger und H. R. Haldeman aufzusparen, gibt Trump das alles fast täglich am Mikrofon oder in den sozialen Medien zum Besten: die autokratischen Maßnahmen, die darauf abzielen, das Recht, die Wissenschaft und die Medien zu untergraben; die Missachtung demokratischer Partner und die Vorliebe für alle autoritäre Figuren; die feindseligen Pläne gegenüber Grönland, Kanada, Panama, Mexiko und Europa; die ständige Versuche, die Republikanische Partei von allen verbliebenen Andersdenkenden zu säubern; und die ständigen Bemühungen, seine Kritiker und vermeintlichen Feinde einzuschüchtern.
Die Bedrohung durch die Autokratie schreitet unter Donald Trump jeden Tag voran, und es ist ein Prozess, der sich im Verborgenen abspielt. Einige werden ihn leugnen, ihn zähmen, das Abnormale als bloße Politik abtun, alles wegwünschen nach dem Motto “auch das wird vorübergehen”. Aber die Bedrohung ist real und für alle sichtbar. Keine Verschlüsselung kann sie verbergen.”