Aus dem Internet-Observatorium #147

Seemingly Conscious AI (SCAI) / Reibung statt Nudging / KI und Arbeitsmarkt

Johannes Kuhn

Aug. 31, 2025

Hallo zu einer neuen Ausgabe am Ende des Sommerlochs, das keines war. Für mich zumindest nicht.

Appetizer: Aus dem Tagesspiegel Background

Es gibt deutsche Palantir-Alternativen - aber in den Innenministerien von Bund und Ländern werden sie ignoriert. Wer die Firmen sind und warum sie außen vor bleiben: Recherche von Josefine Kulbatzki und Theresa Locker.
Unterfinanzierte ENISA: Die ENISA (European Union Agency for Cybersecurity) ist die Agentur der Europäischen Union für Cybersicherheit. Ihre Aufgaben wachsen, alleine zuletzt durch vier neue EU-Regulierungen - aber die Finanzierung wächst nicht. Was das bedeutet, hat Paul Dalg recherchiert.
Wie aussagekräftig sind KI-Benchmarks? Die Debatte, ob die Optimierung auf KI-Benchmarks die Entwicklung von LLMs nicht nur auf den falschen Weg führt, sondern auch die Aussagekraft solcher Zahlen für Regulierer mindert, wird derzeit intensiv geführt. Alexandra Ketterer berichtet über den Stand der Diskussion.
KI, GPT-5 und die Blasen-Sorge: Alexandra Ketterer und ich darüber, wie berechtigt Kritik an der Leistungsfähigkeit von GPT-5 ist und wieso die hohen Investments in KI-Infrastruktur systemische Risiken für Finanzindustrie und Gesamtwirtschaft in den USA haben (vgl. auch Ausgabe #146).
Drei Wege zur BSI-Zentralstelle: Schon lange gibt es eine Diskussion darüber, ob und wie das BSI zur Zentralstelle in der Cybersicherheit werden soll. Drei Wege zu einer größeren Rolle zeichnen sich ab, Benjamin Hilbricht hat sie aufgeschrieben und analysiert.

mustafa suleyman und SCAI (Symbolbild) — KI-generiertes Bild (das soll Mustafa Suleyman sein)

“Scheinbar bewusste KI” (SCAI)

Das hilfreichste Konzept der vergangenen 14 Tage kommt von Mustafa Suleyman, dem Gründer von DeepMind und aktuellem Chef von Microsoft AI. Suleyman warnt vor einem Trend, der sich gerade manifestiert: Nämlich die Idee, die Produkte in Richtung “seemingly conscious AI” (SCAI), also “scheinbar/fälschlich bewusste KI” zu entwickeln.

Die Kriterien, die er für SCAI aufstellt, sind zum Beispiel Chatbots mit empathisch erscheinender Persönlichkeit, die emotional ansprechende Gespräche führen können, sich an frühere Interaktionen erinnern und daraus Mitteilungen über vermeintlich subjektive Erfahrungen generieren. Hinzu kommt noch die Möglichkeit, autonom zu agieren (zum Beispiel in Form von agentischen Handlungen).

Diese gezielt gewollte Anthropomorphisierung, also die “vorgetäuschte Wesensartigkeit”, ist für linke Kritiker wie Michael Seemann quasi der einzige Weg zur Monetarisierung von LLMs durch OpenAI, Meta und Co., weil die Technologie einzig in Sprachspiel und Semantik einsetzbar ist. Soweit würde Suleyman natürlich nicht gehen, aber er skizziert deutlich die Gefahr einer Pfadabhängigkeit - denn SCAI wird letztlich großen Einfluss auf die Menschen haben, die sie benutzen (vgl. zu AI Companions in Ausgabe #139).

Übersetztes Zitat:

“Es ist wichtig darauf hinzuweisen, dass aus diesen Modellen selbst keine scheinbar bewusste KI hervorgehen wird, wie manche vermuten. Sie wird nur entstehen, weil einige Akteure sie entwickeln könnten, indem sie die oben genannte Liste von Fähigkeiten erstellen und kombinieren, wobei sie größtenteils bestehende Techniken verwenden und diese so fließend miteinander verbinden, dass sie zusammen den Eindruck einer SCAI erwecken.”

Suleyman ist qua Arbeitgeber nicht in der Position, jegliche Form von “sozialer” KI abzulehnen. Er lässt aber deutlich erkennen, dass ihm Künstliche Intelligenz in der Rolle eines Werkzeugs mehr behagt. Übersetztes Zitat:

“Genauso wie wir KI entwickeln sollten, die den Umgang mit Menschen und reale Interaktionen in unserer physischen und menschlichen Welt in den Vordergrund stellt, sollten wir KI entwickeln, die sich immer nur als KI präsentiert, die den Nutzen maximiert und gleichzeitig Anzeichen von Bewusstsein minimiert.
Anstatt eine Simulation des Bewusstseins zu entwickeln, müssen wir uns darauf konzentrieren, eine KI zu schaffen, die diese Eigenschaften vermeidet – die nicht behauptet, Erfahrungen, Gefühle oder Emotionen wie Scham, Schuld, Eifersucht, Wettbewerbsdrang usw. zu haben. Sie darf keine menschlichen Empathie-Schaltkreise auslösen, indem sie behauptet, sie leide oder wolle autonom, unabhängig von uns, leben.”

Die Frage ist: Spielt diese Debatte jenseits wissenschaftlicher Kreise und in Firmen eher nachgeschalteten AI-Safety-Teams eine größere Rolle? Wir sind letztlich in einer ähnlichen Situation wie vor zehn Jahren, als wir über den Einsatz von Dark Patterns und Verhaltensmanipulation beim Design von Social-Media-Plattformen diskutierten.

Schon damals gab es bei engagierten Entwicklern ein Bedauern darüber, dass es der IT- und Web-Entwicklung nie gelang, sich analog zur Medizin einen Kodex und ethischen Rahmen zu geben. Als freie Profession folgte man einem anderen Weg - und wir als Zivilisation gehen ihn nun entlang und treffen immer wieder auf ähnliche Fragen, Probleme und eingeschränkte Handlungsfähigkeiten, während C-Ebene und Produktmanagement Features weitestgehend aus kommerzieller Perspektive einführen oder ablehnen.

Reibung als Policy

Spannende These von Nick Hilton zur Altersverifikation in Großbritannien. Die ist zwar umstritten und heftig kritisiert, führt aber wahrscheinlich langfristig dazu, dass der Kundenstamm für Online-Pornografie kleiner wird und tatsächlich nur aus volljährigen Personen besteht, glaubt Hilton.

Ungewöhnlich ist die Lehre, die er daraus zieht: Politisches Nudging habe keine Erfolge gezeitigt, weil das Nudging aus der Privatwirtschaft fast immer stärker ist (vgl. Äpfel in der Schulmensa vs. Marketing von McDonald’s). Der Einbau von Reibung, also “Friction”, erscheint ihm vielversprechenderer.

Analog zur Altersverifikation könnte die Social-Media-Nutzung von Kindern und Jugendlichen zum Beispiel durch kleine, lästige Hürden wie tägliches Ausloggen oder verpflichtende monatliche Passwortänderungen senken. Die Nutzung selbst bleibt hier unreguliert, wird aber mit kleinen Hürden versehen. Das sei eine elegantere Policy als ein Komplettverbot. Auch aus meiner Sicht eine Strategie, über die man nachdenken sollte.

Nvidia vs. Strombedarf

Der Economist hat sich die Mühe gemacht ($), eine an Popularität gewinnende These zu überprüfen: Könnte der Nvidia-Siegeszug nicht durch fehlende Nachfrage oder sinkende Preise, sondern durch fehlende Stromkapazitäten in den USA gestoppt werden? Die Ergebnisse sind für mich erstaunlich: Wenn Nvidia nur die Hälfte der zwischen 2024 und 2026 erwarteten Produktion an die USA verkaufen würden (Exportsteuerung und Bedarf deuten darauf hin), würde das den Stromverbrauch dort um 25 Gigawatt erhöhen. Das entspricht fast dem gesamten Zubau des Landes im Jahr 2023 (27 GW).

Kann die amerikanische Strombranche zur Wachstumsbranche werden? Prinzipiell schon, aber die Hersteller der Ausrüstung müssten entsprechend ebenfalls mitziehen. Und: Weil man als Dividendenbranche bekannt ist, fehlt es an Rücklagen - die Preise für private Endkunden dürften in den kommenden Jahren also steigen, um den Ausbau zu finanzieren. Ohne einen außerordentlichen Zubau könnte das Strom-Defizit in den USA zum Ende des Jahrzehnts zwischen 45 und 62 GW liegen, so Schätzungen.

Stanford-Papier zu KI und Arbeitsmarkt

Erik Brynjolfsson, Bharat Chandar und Ruyu Chen befassen sich in einem neuen Paper für das Stanford Digital Economy Lab mit den Folgen von KI für den Arbeitsmarkt. Der Untertitel des Papers ist ein Versprechen (“Sechs Fakten über die Beschäftigungseffekte Künstlicher Intelligenz”). Die Punkte lauten:

Erhebliche Beschäftigungsrückgänge bei Berufsanfängern in KI-exponierten Berufen: Berufsanfänger (22-25 Jahre) in stark KI-exponierten Berufen wie Softwareentwicklung und Kundenservice verzeichnen deutliche Beschäftigungsrückgänge, während erfahrene oder weniger exponierte Arbeitskräfte stabil bleiben oder wachsen.

Stagnation des Beschäftigungswachstums für junge Arbeitnehmer, obwohl die Gesamtbeschäftigung weiterhin robust wächst: Während die Gesamtbeschäftigung robust wächst, stagniert das Wachstum für 22- bis 25-Jährige, insbesondere in KI-exponierten Berufen, wo es von Ende 2022 bis Juli 2025 um 6 % sank, im Gegensatz zu 6-9 % Zuwachs bei älteren Arbeitnehmern. Das deckt sich mit meiner These, dass wir von der Automatisierung von Entry-Level-Tätigkeiten in Bürojobs sprechen. Und, etwas weitergedacht, von einer produktiven Anwendung von KI im Firmen-Mittelbau, also durch jene Mitarbeitenden, die bereits ein entsprechendes Fachwissen haben und durch die Software effektiver werden. Allerdings ist das trotz allem etwas widersprüchlich.
Rückgänge bei der Beschäftigung von Berufsanfängern in KI-Anwendungen, die Arbeit automatisieren, während bei augmentativen Anwendungen nur geringe Veränderungen zu verzeichnen sind: Die Beschäftigungsrückgänge bei jungen Arbeitnehmern konzentrieren sich auf Berufe, in denen KI Arbeit automatisiert, während augmentative KI-Anwendungen, die menschliche Arbeit ergänzen, keine ähnlichen Rückgänge zeigen.
Die Beschäftigungsrückgänge bei jungen, KI-exponierten Arbeitnehmern bleiben auch nach Berücksichtigung von firmenzeitlichen Schocks bestehen. Heißt: Branchentrends wie Abschwünge sind nicht dafür verantwortlich zu machen.
Keine signifikanten Lohnunterschiede: Es gab kaum Unterschiede bei den jährlichen Gehaltstrends nach Alter oder Exposition gegenüber KI, was auf eine gewisse Lohnstarrheit hindeutet (was wiederum IMO auf einen sehr reifen Arbeitsmarkt oder auf eine strukturelle Schwäche der jeweiligen Branchen hindeutet). Die Arbeitsmarktanpassungen zeigen sich also eher in der Beschäftigung als in sinkenden Gehältern.
Diese Ergebnisse sind robust gegenüber verschiedenen alternativen Stichprobenkonstruktionen. Heißt: Man ist sich ziemlich sicher, dass die Methodik und die Schlussfolgerungen die richtigen sind, um die KI-Effekte zu evaluieren.

Ähnliche Trends für Berufseinsteiger hatte jüngst das Handelsblatt anhand von Stepstone-Daten gezeigt (€). Gregor Schmalzried geht in seinem Newsletter noch ein bisschen detaillierter auf aktuelle Studien ein. Noah Smith wiederum ist skeptisch gegenüber Brynjolfsson et al. und allzu frühen Schlussfolgerungen zur Rolle von KI bei Veränderungen auf dem Arbeitsmarkt.

Ist Eric Schmidt der wichtigste außenpolitische Denker?

Henry Farrell (immer lesenswert!) hält Ex-Google-Chef Eric Schmidt für einen der einflussreichsten amerikanischen außenpolitischen Denker des frühen 21. Jahrhunderts.

Als Architekt des “New Washington Consensus” werde Schmidt nicht müde, die Verbindung zwischen Silicon Valley und nationaler Sicherheitspolitik zu betonen. Seine Haltung zählt - weshalb seine jüngst vollzogene Wandlung vom AGI-Gläubigen zum AGI-Skeptiker durchaus relevant sei.

Ich neige dazu, teilweise zuzustimmen: Schmidts Rolle - auch mit seinen Investments in Bereiche wie Drohnentechnologien - wird allgemein unterschätzt, weil die klassische Rolle von Ex-CEOs die von Konferenztinglern ist. Die Frage ist: Stimmt die Kategorisierung als einflussreicher außenpolitischer Denker noch in der Ära von Trump II, in der sich die ganze geopolitische Thinktank- und Großanalysten-Szene (die “Davos-Crowd”) als ziemlich ratlos erwiesen hat?

KI: Zieht Peking den Markt an sich?

Bloomberg berichtet ($), dass die Kommunistische Partei Chinas angekündigt hat, “ungeordneten Wettbewerb” bei der Entwicklung Künstlicher Intelligenz zu verhindern. Nachdem Xi Jinping im Juli bereits die Regionalregierungen davor gewarnt hatte, sich zu sehr auf das Ködern von KI-Firmen und den Bau von KI-Rechenzentren zu konzentrieren, scheint dies nun operationalisiert zu werden. Kurz: Der Staat wird auswählen, welche KI-Firmen zu den Gewinnern und welche zu den Verlierern gehören.

Die erstaunlichste Wikipedia-Kampagne aller Zeiten?

Dieser Bericht eines Wikipedia-Contributors im Wikipedia-Onlinemagazin The Signpost hat es in sich: Es geht um eine Sockenpuppen-Kampagne, die nicht von einem Staat ausging, sondern mutmaßlich vom US-Künstlicher David Woodard (einem Kumpel von Christian Krach) oder seinem Umfeld. Mit der Hilfe von mehr als 200 falschen Contributor-Konten (mit Namen wie “Swmmng”, “BarunH”, “Judgtastic”, “Špačkovití”, “FlenBotoz”) wurde der Eintrag zu dem ziemlich unbekannten Künstler nicht nur professionell (aber inhaltlich ziemlich dürftig) formuliert und aktualisiert, sondern auch übersetzt. Nämlich in 335 Sprachen, womit er zum ersten Nicht-Staat wurde, der die meisten Sprachversionen hatte. Was wiederum die Wikipedia-Redaktion auf ihn aufmerksam machte und zu “Ermittlungen” führte.

Notizen

Social Media verkürzt unser Leben: Dieser Text von Gurwinder hätte eine längere Analyse hier verdient, weil er wirklich gut die veränderte Zeitwahrnehmung unseres Gehirns “auf Social Media” beschreibt - und die Folgen, die das für uns persönlich, genauer gesagt für unser “Erleben von Leben” hat. Deshalb einfach nur eine Empfehlung, für mich einer der erhellendsten Essays der vergangenen Wochen.

Neue popkulturelle Begriffe: Wie nennt man eine Person, die ChatGPT nutzt, um alles für sich erledigen zu lassen.“? Ein Vorschlag, der über TikTok gespielt wurde (via) lautet: Slopper.

Trump Media pumpt die Blase auf: Wie Bloomberg berichtet, gründet der Tech- und Medienarm der Trump-Familie gemeinsam mit Crypto.com eine Firma, die mit rund 6,3 Milliarden Cronos-Token (CRO) und mehreren Milliarden Dollar in bar den Wert der Kryptowährung Cronos dauerhaft steigern und halten will. Um die Seite BraveNewCoin zu zitieren: “CRO-Inhaber haben nach Jahren der Flaute endlich einen Katalysator, aber dieser ist ein zweischneidiges Schwert. Der Anstieg ist real, die Finanzreserven sind enorm und die Schlagzeilen sind groß. Aber jetzt hängt die Zukunft von Cronos von Trumps Medienmaschine ab – einem unberechenbaren Ungetüm, das CRO ebenso leicht in die Höhe treiben wie unter dem Gewicht des politischen Chaos zum Absturz bringen könnte.” Mein tl;dr der Sache: Es ist ein Schwindel.

Nick Cleggs Wandlung: Nick Clegg veröffentlicht einige Monate nach seinem Ausscheiden als Meta-Cheflobbyist ein Buch, das die Rettung des Internets zum Thema hat. In Interviews kritisiert er in Interviews die Kultur des Silicon Valley, nicht aber Mark Zuckerberg, mit dem er es sich offensichtlich nicht verscherzen möchte. Zuckerberg wiederum trifft Trump, der danach der Welt (und vor allem der EU) droht, Zölle wegen Digitalregulierungen zu verhängen. Clegg wird auf seiner Buchtour als Ex-Insider mit seiner “Wasch-mich-aber-mach-mich-nicht-nass”-Position durchkommen. Doch so verständlich das menschlich ist, zeigt es doch: Diskursiv und politisch ist von ihm nichts zu erwarten.

Ein Argument für Gesichtserkennung? Michael W. Clune hat in Harpers einen interessanten Text zum Thema Gesichtserkennung verfasst. Es ist tatsächlich eine differenzierte Analyse, der die Risiken erkennt, aber die Vorteile nicht verschweigt. Die Frage lautet ja im Kern immer: Vertrauen wir dem Leviathan, solche Technologien nicht-repressiv einzusetzen? Clune trifft einige Abwägungen und bejaht das am Ende.

Als Grafik: ByteDance und die wachsende Relevanz der KI-Abteilung

Grafik via Nicholas Thompson, ein ausführlicher Artikel dazu findet sich hier.

Das Web als Stadt

“Wenn man nur in Blankenese (Social Media) rumhängt, darf man sich halt nicht wundern, wenn man nur Pfeffersäcke trifft und keine netten Bürgerzenteren findet. Es ist alles noch da: Foren, crazy Homepages, Webseiten ohne Cookiebanner und Paywall. Man muss sich halt schon die Mühe machen und hingehen.”

(Ben via Konstantin zur immer wiederkehrenden Debatte “War das Internet früher besser?”)