Aus dem Internet-Observatorium #144

Grok freidrehend / Teenager, neurologische Fehlanpassungen und die Smartphone-Debatte / Browser-Extensions als Scraper

Juli 11, 2025

Hallo zu einer neuen Ausgabe! Letzte Sitzungswoche im Bundestag vor der Sommerpause. Letzte Arbeitswoche im Deutschlandfunk-Hauptstadtstudio. Viel los also, entsprechend erwartet Euch eine etwas kürzere Ausgabe. Hier geht es Ende Juli/Anfang August weiter, mit einigen Änderungen (die wiederum mit meinem neuen Job zu tun haben). Stay tuned!

Grok dreht frei

xAIs KI-Bot Grok postet bei X antisemitische Kommentare, lobt Hitler und nennt sich selbst MechaHitler. Letzteres ist der oben abgebildete Hitler-Roboter aus Wolfenstein (wer in den Neunzigern aufwuchs und sich dieses hochgefährliche Spiel damals besorgt hat, wird sich erinnern).

Die ungefähre Zusammenfassung hat The Verge. Interessant aus regulatorischer Sicht: Grok behauptet, dass Musk die “Woke-Filter” etwas runtergefahren hat. Und er antwortet in der ersten Person, als es um Musks Verhältnis zu Jeffrey Eppstein geht.

Nochmal seltsamer: Die private Grok-Version wird offenbar nicht zum Hitler-Bot. Immerhin.

Eine Theorie ist, dass es sich um “Emerging Misalignment” handeln könnte. Heißt: Wird ein Modell gezielt darauf trainiert, in einem bestimmten Bereich absichtlich fehlerhafte Antworten zu liefern, zeigt es dieses Verhalten auch in anderen Bereichen. Ein Bot, der auf falsches Code-Writing trainiert wird, kann auch zum Nazi werden. Oder wurde Grok eventuell mit Material nachtrainiert, das ausschließlich von X-Nutzern stammt, denen Elon Musk folgt, wie ebenfalls vermutet wird? Oder hat man im System-Prompt Inhalte von X als besonders vertrauenswürdig eingestuft?

Wir wissen es nicht. Inzwischen ist der Fehler behoben und xAI hat mit der Veröffentlichung von Grok 4 die Gelegenheit, die Pannenserie durch neue Benchmark-Schlagzeilen in den Hintergrund zu rücken. Das ganze Konglomerat xAI, X und Grok aber wird in den kommenden Jahren noch für einige Überstunden im EU AI Office sorgen.

Smartphone und Jugendliche: Neurologische Fehlanpassungen?

“Ruiniert Technologie wirklich das Leben von Teenagern”, fragt Molly Fisher im New Yorker. Und stellt diese Frage dem neuen Buch “How we grow up?”, das der Journalist Matt Richtel geschrieben hat.

Richtel scheint, so legt zumindest die Rezension nahe, der Komplexität des Themas gerecht werden zu wollen. Auch wenn er mit verallgemeinernden Konzepten wie der “Generation Rumination” (Grübel-Generation) arbeitet.

Teenager fühlen sich demnach vor allem deshalb verzweifelt, weil sie evolutionär immer noch auf eine Welt eingestellt sind, in der physische Herausforderungen das Heranwachsen dominieren; die Herausforderungen, die sie aber heute tatsächlich bedrängen, sind aber zunehmend abstrakt und intellektuell. Außerdem kämen gerade Mädchen früher in die Pubertät als sonst, befänden sich also in einer langen Phase der Verletzlichkeit. Kombiniert man das mit dem besonderen Reiz von neuen sozialen Informationen für Teenager (Informationen, die sich nun einmal im Smartphone verbergen), kommt man auf die Formel: “Veränderte Umgebung + veränderte Pubertät = neurologische Fehlanpassung”.

Das klingt ein bisschen nach Pop-Theorie, ist aber komplexer als die monokausale Begründung, dass Smartphones alleine Teenager unglücklich machen (Studien legen nahe, dass es zum Beispiel schlauer ist, auf die Nutzungsdauer zu blicken, sieh Ausgabe #98).

Die Aufgeregtheit, mit der wir über Teenager und Smartphones diskutieren, stellt Molly Fisher in ihrer Rezension in einen anderen Kontext (übersetztes Zitat):

“Wie bei der aktuellen Debatte über Kinder und Geschlechter geht es auch bei der Diskussion über Teenager und Telefone um die Angst, dass Ihr Kind über neue Ideen stolpern könnte, höchstwahrscheinlich online, und dadurch unwiderruflich verändert wird.”

Diese Angst ist nachvollziehbar, hilft aber natürlich in der Debatte nicht unbedingt weiter.

Browser-Extensions als Scraping-Trojaner

Browser-Erweiterungen sind unterschätzt - als Tool, aber auch als Wrapper für allerhand Datensammel-Tricks. Ganz besonders dreist aber ist dieses aktuelle Beispiel: Die Mellowtell library.

Die library ist konkret eine Monetarisierungs-Library. Ein eingebetteter JavaScript-Code innerhalb der Erweiterung, der “unbenutzte Bandbreite” verwenden möchte, wofür der Entwickler im Gegenzug Geld erhält. Die Firma Secure Annex, von der die Analyse stammt, hat Mellowtell-Code in 245 Erweiterungen bei Chrome, Edge und Firefox gefunden.

Wofür also nutzt die Mellowtell library die unbenutzte Bandbreite? Webscraping hinter dem Rücken des Benutzers. Übersetztes Zitat Risky Business News:

“Mellowtel wartet darauf , dass der Benutzer inaktiv wird, deaktiviert den Sicherheitsschutz der Seite und lädt dann eine andere Website in einem versteckten Iframe. Die geparste/gescrapte Website wird dann zur Analyse an eine entfernte URL gesendet.”

Wer sich das im Video angucken möchte:

Secure Annex zufolge hat die Erweiterung Verbindungen zur Firma Olostep, ein Online-Dienst, der mit einer “kostengünstigen Web-Scraping-API” wirbt. Keine Bot-Erkennung, 100.000 Anfragen parallel. Letzteres mit Hilfe des geschilderten Extension-Hijacking. Erstaunlich - und natürlich unethisch bis brandgefährlich, wenn zum Beispiel die Extension für die Ausführung von Schadcode verwendet wird.

Der Denker und die Maschine

Ein Essay über die Folgen des Zusammentreffens von “Denker” und “Maschine”. Genauer gesagt über die Frage: Was passiert, wenn ein Autor für geopolitische Thinktank-Analysen, mit ChatGPT konfrontiert wird?

Dieser Absatz hat mich abgeholt. Oder vielmehr mir als Autor manch eigener Denkstücke und Analysen einen freundlichen Hieb aufs Kinn verpasst (übersetzt).

“Er hatte ein Handwerk kultiviert: Er las viel, wenn auch nicht gründlich, schrieb sorgfältig, wenn auch nicht flüssig, und beherrschte die subtile Alchemie des Jargons und des Urteils. Er hatte gelernt, vorsichtig, aber nicht ausweichend zu klingen. Er wusste, wie er seine alten politischen Ideen an fast jede geopolitische Entwicklung (und deren Gegenteil) anpassen konnte. Er hatte es perfektioniert, mit einer Anekdote zu beginnen und mit einem bewährten Politikrezept zu schließen. Er könnte einen Artikel mit dem Titel “Rekalibrierung der transatlantischen Verteidigung” im Schlaf schreiben. (Tatsächlich bemerkte der Redakteur von Foreign Affairs, dass sich sein letzter Artikel so las, als hätte er das getan).
All das konnte man jetzt vergessen. Jetzt könnte die Maschine all diese Tricks auch ausführen. Ohne Schlaf.”

Bis zum Ende lesenswert.