Aus dem Internet-Observatorium #59
Reality TV für Künstliche Intelligenzen / Zwei Fediverse-Probleme / X vs. WeChat / Sam Altman
Hallo zu einer neuen Ausgabe! Das wird alles sehr, sehr seltsam da draußen.
Reality TV für KIs
Mir fällt es immer noch schwer zu glauben, dass diese South-Park-Folge wirklich komplett von großen Sprachmodellen (LLMs) und Diffusion Models generiert wurde. Aber so sagt es dieses Paper über das zugehörige “Showrunner AI Model”. Es stammt aus dem Projekt / von der Firma The Simulation”, hinter der VR-Pionier Edward Saatchi steckt.
Was hier nach einer weiteren Evolution von Twitch-Formaten wie 24/7-Seinfeld oder der unendlichen Debatte zwischen Trump und Biden aussieht, ist dann doch etwas mehr. In diesem Interview beschreibt Saatchi seine Idee von “virtuellen Wesen”:
Virtuelle Wesen sind demnach Simulationen von Charakteren, die ihr Leben in bestimmten Umgebungen leben - vergleichbar mit der “Truman Show”. Die Charaktere in dieser Truman Show sind von KI angetriebene Wesen, die miteinander innerhalb dieser Welt interagieren und existieren können. “The Simulation” soll lebensechte Charaktere erschaffen; “Showrunner AI” soll ihre Erlebnisse dann in 22 Minuten zusammenfassen.
Philipp Maas, der Showrunner AI entwickelt hat:
“Wir bauen eine Simulation, in der KI-Charaktere 24/7 leben, sich entwickeln und interessante Geschichten erleben. Jede Woche dieser Simulationszeit erscheint eine 22-minütige Folge, was in den Leben der KIs passiert ist. Stellt euch einfach Reality-TV für Künstliche Intelligenzen vor.”
Oh, und übrigens können Nutzer und Nutzerinnen auch ihren eigenen KI-Avatar dort rein schicken (Prompt und Stimmprobe genügen offenbar). Und damit ihre eigene Serie gucken.
Das alles eröffnet mittelfristig verschiedene Szenarien. Zum Beispiel bestätigt es die berechtigte Sorge der streikenden Schauspieler und Schauspielerinnen, geklont zu werden und nach Abtritt ihrer Rechte überflüssig zu werden (allerdings wurde South Park eben auch wegen des einfachen Renderings als Demo gewählt).
Oder auch die Furcht der Drehbuchautorinnen und -autoren, mittelfristig in der Hierarchie unter oder neben die KI zu rutschen (allerdings sind die Gags des AI South Parks noch etwas holprig).
Vielleicht aber sind das die ersten Versionen einer neuen Unterhaltungsform; einer KI-basierten Version der Sims als personalisiertem Entertainment - denn eine Idee Saatchis ist es, dass die Nutzer die KIs auch trainieren können, damit sie sich in der virtuellen Welt besser zurechtfinden.
Die einzelnen Elemente kommen mir bekannt vor. Und doch in dieser Kombination völlig neuartig. Ein Format an der Schnittstelle zwischen Gaming, zurückgelehnter Unterhaltung und Reality TV. Ein Reiz des Formats könnte darin liegen, dass die KI-Figuren vielleicht schon nach wenigen Folgen den Eindruck hinterlassen werden, in ihrer “Truman Show” ein Bewusstsein zu entwickeln.
P.S: Netflix sucht gerade einen KI-Produktmanager.
Zwei Fediverse-Probleme
(1) Das Stanford Internet Observatory (keinerlei Beziehung zu diesem Internet-Observatorium) hat zwei Tage lang Mastodon untersucht und 112 Inhalte gefunden, die sexuelle Gewalt gegen Kinder zeigen, sowie etwa 2000 Postings mit den üblichen Hashtags (die in der Regel zur Kontaktanbahnung bezüglich Tausch des entsprechenden Materials genutzt werden).
Das Ganze wirft ein Schlaglicht auf Moderationsprobleme im föderierten Social Web; mich persönlich erinnert es an Ning. Das war 2005 ein Baukasten-System, mit dem jede/r ein eigenes Social Network nach Interessen aufsetzen konnte.
Eine Idee, die sich im Zeitalter von MySpace und später Facebook nicht durchsetzte und in der Praxis dazu führte, dass irgendwann die verbliebenen Ning-Netzwerke Tauschbörsen für Material von Kindesmissbrauch war.
Das Team von IFTAS arbeitet nach eigenen Angaben schon daran, Hash-und-Match-Dienste (also letztlich Werkzeuge für den Materialabgleich) sowie Meldetools für das Fediverse anzubieten. Aber letztlich bleibt es allen Instanzen selber überlassen, diese dann auch einzusetzen oder nicht.
Das riecht also mittelfristig nach einem Zusammenstoß mit Ermittlungsbehörden und Innenpolitikern. So wie es eben auch sonst einige ungelöste Moderationsprobleme im Fediverse gibt (siehe Internet-Observatorium vom November 2022).
(2) Die Electronic Frontier Foundation verweist diese Woche auf die Gefahren, die auf Hoster von Mastodon-Instanzen warten. Konkret geht es um einen Fall, in dem das FBI eine Durchsuchung bei einem Admin des Mastodon-Servers Kolektiva.social durchsucht hatte (Kolektiva.social ist ein selbsternanntes antikoloniales Anarchisten-Kollektiv). Dabei bearbeitete der Admin offenbar gerade eine Fehlermeldung und verwendete die Kopie der Datenbank. Die wiederum das FBI mitnahm, obwohl die Untersuchung damit offenbar gar nichts zu tun hatte. Das FBI besitzt nun:
Konto-Infos wie E-Mail-Adressen, Followers und Follows
Öffentliche Postings inklusive DMs.
IP-Adressen, die mit dem Konto drei Tage vor der Durchsuchung verwendet wurden.
Die Hash-Version eines Passworts.
Das Problem, das sich hier zeigt: Die dezentrale Struktur des Fediverse wird wieder ziemlich zentral, wenn jemand Zugriff über die Admins einer einzelnen Instanz erhält. Und Sicherheitsmaßnahmen wie verschlüsselte DMs gibt es bei ActivityPub (noch) nicht.
Das heißt a) jeder sollte wissen, dass alles, was auf Mastodon “privat” erscheint, nicht wirklich privat ist (viele Admins weisen ja die Mitglieder ihrer Instanzen genau darauf hin). Und b) haben Admins besondere Verantwortung, niemals unverschlüsselt irgendwelche Backups oder Kopien in ihrer privaten Umgebung zu speichern.
Musk, X und der WeChat-Traum
Nein, hier ist nicht der Ort, um über den Sinn und Unsinn des Twitter-Rebrands zu schreiben. Ich will aber kurz auf die Idee Elon Musks eingehen, Twitter a.k.a. X zur Universal-App/Super-App zu machen.
Dass Musk aus Twitter gerne das WeChat des Westens machen möchte, hat er ja schon früh nach dem Kauf hinterlegt. Aber es gibt eben entscheidende Unterschiede:
WeChat war wesentlicher Teil des chinesischen “Leapfrogging”, also dem Übergang von offline zu mobile first. Mit einer Nutzerschaft, die größtenteils zum ersten Mal 24/7 online war. Mit einer nur rudimentären Mobile-Payment-Infrastruktur, auf der sich noch kein Spitzenplayer herauskristallisiert hatte. Und auch mit Offline-Händlern und Kunden, die schnell Akzeptanz für die QR-Codes und die Anbindung an das Mobilgeschäft entwickelten. Im Westen ist alles bereits ausdefiniert: Mobile First, Payment-Möglichkeiten, etc.
WeChat ist nicht irgendeine App, sondern letztlich ein eigenes Betriebssystem, das selbst oder mit Partnern diverse Funktionen anbietet (“Apps in einer App”). Ob ich mein Auto orten möchte, eine U-Bahn-Ticket kaufe, online oder offline shoppen gehe oder einfach nur mit Freunden chatte - WeChat ist meine Anlaufstation. Glaubt jemand, dass die App-Stores von Apple und Google derart unübersichtlich sind, dass irgendein Mensch “X” als Aggregator braucht?
Auch nicht unwichtig: Die WeChat-Mutterfirma erhielt Unterstützung von der Regierung, sei es bei der Regulierung oder auch bei der Abwehr ausländischer (und vermutlich auch inländischer) Konkurrenz. Das Hochskalieren in China ist ohne den Staat nicht denkbar. Die Lage ist also völlig anders als in den USA.
Der Treppenwitz dieser Geschichte wäre, wenn Musk wirklich glauben würde, dass die Marke X hier irgendeine Form von Autorität oder Reiz ausstrahlen kann. Oder Verlässlichkeit in Sachen Datenschutz und Infrastruktur, die für die Reputation einer Payment-Plattform unerlässlich sind. Der Zug ist abgefahren. Musk kann keine Software und die Nutzer lassen seine Software hinter sich. Eigentlich eine Zeitverschwendung, über solche Super-App-Hirngespinste überhaupt zu schreiben.
Sam Altman
Diesem Tweet von OpenAI-Gründer Sam Altman war in den vergangenen Tagen nicht zu entkommen:
Zustimmung dafür kam von Elon Musk und einigen anderen Silicon-Valley-Typen. Und man fragt sich natürlich: Wie viel der Entshittification unserer Online-Umgebung hängt damit zusammen, dass ein Haufen Typen David Finchers Porträt von Mark Zuckerberg als… inspirierend wahrgenommen haben? Und welche künftigen Probleme werden sich daraus ergeben, dass das ethische Dilemma Robert Oppenheimers im zugehörigen Film als abtörnend wahrgenommen wird?
Aber ich lasse den Snark jetzt mal beiseite und verweise auf dieses lange Atlantic-Stück aus der kommenden Ausgabe (paywall-frei hier). Mit dieser Passage:
“Altman doesn’t know how powerful AI will become, or what its ascendance will mean for the average person, or whether it will put humanity at risk. I don’t hold that against him, exactly—I don’t think anyone knows where this is all going, except that we’re going there fast, whether or not we should be. Of that, Altman convinced me.”
Sollte Altman wirklich davon überzeugt sein, dass er die Auslöschung der Menschheit riskiert, wäre es nicht angebracht, sich ein bisschen mehr mit dem ethischen Dilemma auseinanderzusetzen? Womöglich sogar eine Entscheidung zu treffen, dieses Risiko nicht einzugehen?
Das ist vielleicht der Kern des Problems: Dass ein Robert Oppenheimer in Zeiten eines globalen Krieges und unter Aufsicht des Kriegsministeriums eine folgenschwere Abwägung treffen musste, ob er die Zukunft der Menschheit riskiert. Und dass ein 38-jährige Multimillionär, der niemandem verpflichtet ist, sich im Jahr 2023 offenbar weigert, diese Abwägung überhaupt als seine Aufgabe zu betrachten. Und das wahrscheinlich sogar noch als Zeichen von Führungsstärke betrachtet.
Links
Die Studie, wonach GPT-4 schlechter wird und sich ein Modellkollaps andeutet, ist Quatsch.
Reddit übernimmt eines der größten Subreddits und entfernt die drei bisherigen Moderatoren.
Die Stiftung Neue Verantwortung mit einem Policy Brief zur Regulierung von generativer KI.
Bis zur nächsten Ausgabe!
Johannes