Aus dem Internet-Observatorium #93

Alles ist ein Börsensystem / Deepfake oder synthetischer Zwilling?

May 01, 2024

Hallo zu einer neuen Ausgabe! An dieser Stelle gleich ein Programmhinweis: Dieser Newsletter macht in der ersten Maihälfte eine kurze Pause, die nächste Ausgabe erscheint am 22. Mai.

Symbolbild “Anstehen am Eingang eines Luxusrestaurants” via Dall-E3

Alles ist ein Börsensystem

Die Digitalisierung in der Gastronomie ist ein faszinierenden Themen: Die Skalen-, Risikokapital- und Billigarbeit-Strategien, die den Aufstieg der Lieferdienste ermöglicht haben; das Phänomen der “Ghost Kitchens”, die letztlich gar nicht mehr für den Publikumsverkehr gedacht sind. Und auc h die Digitalisierung der Reservierungssysteme, die in den USA inzwischen bereits zur “Finanzialisierung” geführt hat, also zu einer Art Börsen- und Wettsystem.

So schreibt der New Yorker über die Website “Appointment Trader”, einer Art Ebay für Restaurant-Reservierungen. Programmiert vom Software-Entwickler Jonas Frey, der keinen Termin für die Führerscheinbehörde in Nevada bekam. Übersetztes Zitat aus dem Artikel:

Ich dachte: „Wie ist es möglich, dass ich nicht für einen Platz in der Schlange bezahlen kann?”"

Was ziemlich alles darüber aussagt, von wem solche Angebote gemacht werden und an wen sie sich richten: Menschen, für die Geld nur eine untergeordnete Rolle spielt.

Letztlich bastelte Frey ein Trading-System für Restaurantreservierungen, das besonders für Gourmet-Restaurants in Metropolen wie New York City sehr beliebt zu sein scheint. Doch wer bietet hier Reservierungen an? Ein weiteres übersetztes Zitat (mit Fettungen):

“Wer sind also die Wiederverkäufer, Söldner und Gauner, die Appointment Trader mit erstklassigen Tischen versorgen? Es gibt Leute, die jeden Morgen mit OpenTable oder Resy vor ihrem Laptop sitzen und Reservierungen auf verschiedene Namen sammeln. Andere sind Jugendliche, die sich die schwarzen Amex-Karten ihrer Eltern ausleihen, den Centurion-Concierge von Amex anrufen und schwer zugängliche Tische reservieren, die nur für Kartennutzer reserviert sind. Andere bitten Freunde aus der Branche um einen Gefallen, bestechen Oberkellner oder schicken den Restaurants E-Mails mit erfundenen Geschichten - ein eingefleischter Feinschmecker, der die Stadt besucht (“Wir wollten schon immer mal Ihre köstlich aussehende Lasagne probieren!”), oder sie geben vor, die Königin von Marokko oder die Schwester des Königs von Saudi-Arabien zu sein.”

Für die Reservierungen werden jeweils drei- bis vierstellige Dollar-Beträge aufgerufen. Die Käufer müssen dann am Eingang oft den Namen des offiziellen Gastes nennen (weshalb einige Restaurants beginnen, die Identität per Ausweis zu kontrollieren).

“Appointment Trader” verbindet für mich drei Entwicklungen:

Den Versuch, ehemals analoge Prozesse durch ein Mittelsmann-System zu digitalisieren. Allerdings schon auf der zweiten Stufe: auf bestehende Reservierungssysteme wie OpenTable aufgesetzt und damit sozusagen einen künstlichen digitalen Sekundärmarkt schaffend.
Den Prozess, alles Erdenkliche zum Finanz- beziehungsweise Spekulationsobjekt zu machen. Es gibt eine goldene Regel, die uns die vergangenen 30 Jahre gelehrt haben: Was zu einem Finanzprodukt gemacht werden kann, wird zu einem Finanzprodukt gemacht (wenn der Bereich nicht reglementiert wird). Das Ganze ist nicht auf digitale Konsumentenzweitmärkte beschränkt. Wir werden es in Bereichen wie Produktion und Logistik mit der fortgesetzten Inventar-Digitalisierung (IoT) noch einmal in Extremform erleben (z.B. Echtzeit-Wetten, die die Routen von Handelsschiffen verändern).
Das Ersetzen von Status IRL durch Geld. Denn früher waren hochklassige Restaurants letztlich der Elite vorbehalten, es ging um Status und Kontakte. Das ist sicherlich noch heute der Fall, doch dieser Status, diese Kontakte lassen sich nun schlicht monetarisieren. So wie Menschen ihr Immobilieneigentum bei Airbnb vermieten statt an Dauermieter. Parallel gibt es eine ganze Reihe von Hustlern, die miteinander um den verknappten Zugang für Normalsterbliche kämpfen, um ihn dann zu monetarisieren. Was dazu führen kann, dass Normalsterbliche selbst keinen Zugang mehr haben, sondern sich über die Zweitmärkte versorgen müssen. Man stelle sich eine Schlange vor einem Event/Ticket-Vorverkauf etc. vor, in dem ein Großteil der Anstehenden nur als Platzhalter für die eigentlichen Besucher/Käufer fungieren.

Deepfake oder synthetischer Zwilling?

Microsoft hat ein neues Framework auf KI-Basis entwickelt. Es heißt VASA-1 und kann aus einem Foto, einer Stimmprobe und einem Manuskript ein Video erzeugen, in dem die abgebildete Person den Text vorträgt. Auf der Projektseite finden sich diverse Beispiele wie dieses hier:

Microsoft will VASA-1 vorerst nicht veröffentlichen. Die (übersetzte) Begründung:

“Wir sind gegen jedes Verhalten, das irreführende oder schädliche Inhalte von realen Personen erzeugt, und sind daran interessiert, unsere Technik zur Verbesserung der Fälschungserkennung einzusetzen. Derzeit enthalten die mit dieser Methode erzeugten Videos noch erkennbare Artefakte, und die numerische Analyse zeigt, dass es noch eine Lücke gibt, um die Authentizität echter Videos zu erreichen.
Auch wenn wir die Möglichkeit des Missbrauchs anerkennen, ist es unerlässlich, das erhebliche positive Potenzial unserer Technik zu erkennen. Die Vorteile - wie z. B. die Förderung der Bildungsgerechtigkeit, die Verbesserung der Zugänglichkeit für Menschen mit Kommunikationsschwierigkeiten, das Angebot von Begleitung oder therapeutischer Unterstützung für Menschen in Not und vieles mehr - unterstreichen die Bedeutung unserer Forschung und anderer damit verbundener Untersuchungen. Wir haben uns der verantwortungsvollen Entwicklung von KI verschrieben, mit dem Ziel, das menschliche Wohlergehen zu fördern.
Vor diesem Hintergrund haben wir keine Pläne, eine Online-Demo, eine API, ein Produkt, zusätzliche Implementierungsdetails oder andere damit verbundene Angebote zu veröffentlichen, bis wir sicher sind, dass die Technologie verantwortungsvoll und in Übereinstimmung mit den entsprechenden Vorschriften eingesetzt wird.”

Der (immer anstrengender werdende) LinkedIn-Gründer, VC und Ex-OpenAI-Beiratsmitglied Reid Hoffman wiederum hat mit einer Mischung aus Hour One (Video) und ElevenLabs (Audio) einen digitalen Zwilling erstellt, den er hier auftreten lässt:

Und Melissa Heikkilä von Technology Review hat ein ähnliches Deepfake-Experiment unter Aufsicht des Startups Synthesia durchgeführt. Synthesia ist die Firma hinter der interaktiven Kampagne “Messi Messages” (siehe Ausgabe #61) Hier ihr Avatar, der allerdings offenbar nur Shakespeare zitieren kann:

Wie man sieht, macht die Technologie Fortschritte: Vor ungefähr einem Jahr waren sogar noch die Lippenbewegungen unnatürlich, vor einem halben Jahr wirkten Gesten und Kopfbewegungen noch androidenhaft. Und das notwendige Ausgangsmaterial für die Microsoft-Software (eine Stimmprobe und ein Foto) wird wie erwartet immer schlanker.

Ob wir das ganze nun als synthetischen Content / digitalen Zwilling (positiv und selbstbestimmt) oder Deepfake (negativ und fremdbestimmt) labeln: Die Technik wird in absehbarer Zeit allgemein verfügbar sein, Microsofts Zurückhaltung hin oder her.

Ich hatte im vergangenen Jahr mal über die Möglichkeiten digitaler Zwillinge geschrieben. Ich will an dieser Stelle das Thema kurz um das erweitern, was Brad Slingerfeld anreißt: Die Frage, ob digitale Zwillinge ein wirksames Mittel zur Selbstreflexion wären, von einer Art abendlichem Reflexionsgespräch bis hin zu Therapieansätzen - oder solche neue Formen von Selbstgesprächen tatsächlich eher verstörend wären.

Ich finde das tatsächlich eine spannende Fragestellung und bin auf die Forschung dazu gespannt: Denn einerseits schrecken wir instinktiv zurück, wenn wir uns selbst in Video-Aufnahmen sehen oder unsere aufgenommene Stimme länger hören. Allerdings sind wir durch den ständigen Smartphone-Aufzeichnungen und Selbst-Broadcasts über die sozialen Medien auch daran gewöhnt, uns “wiederzusehen”.

Und Selbstgespräche führen wir ohnehin, sei es geistig oder tatsächlich (wenn niemand zuhört) laut. Womit die Frage wäre: Sollte ein digitaler Zwilling, mit dem ich gemeinsam reflektiere, meine eigene Welt abbilden, also wie ein digitaler Maschinen- oder Körperzwilling mich und meine Erfahrungen möglichst 1 zu 1 widerspiegeln (soweit das geht)? Oder würden wir es bevorzugen, unseren digitalen Zwilling an ein KI-Modell anzuschließen, das Zugang zum Wissen der Welt hat, also sehr viel schlauer als wir selbst ist?

Metas KI-Spam wird seltsamer

Am Anfang waren es nur völlig unrealistische KI-Bilder von angeblich selbstgebackenen Torten. Dann kam Shrimp Jesus. Und inzwischen verbreiten Facebook-Konten mit Namen wie “Little Ones” KI-generierte Bilder von verstümmelten oder künstlich beatmeten Kindern mit der Botschaft “This is my birthday, please like”.

404 Media, das wirklich ausgezeichnete Berichterstattung dazu liefert, verweist zudem darauf, dass der (natürlich KI-gesteuerte) Facebook-Algorithmus solche Bilder und Beiträge aktiv vorschlägt.

Zum Eindruck, dass KI-Spam die Meta-Plattformen gerade an den Rändern zerfrisst, trägt auch der Konzern selber bei: Meta bietet in den USA bei Facebook und Instagram KI-Chats an. Nutzungsszenarien sollen dabei so aussehen: “Meta AI” kann zum Beispiel in Gruppenchats getaggt werden und dann Fragen beantworten, über die es gerade Diskussionen gibt.

Das funktioniert offenbar nicht besonders gut, wie ebenfalls 404 Media berichtet. So erzählt “Meta AI” in einem der Chats, dass es - wie der menschliche Fragesteller - ebenfalls ein entwicklungsbehindertes Kind hat. Worauf der menschliche Fragesteller antwortet: “What in the Black Mirror is this?!”

Das Fazit bei 404 (übersetzt und gefettet):

“In diesem Fall ruiniert die unternehmenseigene KI die Konversation in Gruppen von Menschen, indem sie Kinder halluziniert und Geschichten erfindet. Die Existenz des Meta-KI-Bots zeigt vielleicht, warum die Plattformen nur langsam Maßnahmen ergriffen haben, um die Verbreitung von KI-generierten Inhalten einzudämmen oder zu löschen: Die Unternehmen selbst haben große Summen darauf gesetzt, ihre eigene KI in die täglichen Nutzungsszenarien zu integrieren.”

Sollte dem so sein (was ich nicht so richtig glaube), wäre Meta nicht besonders geschickt: Denn die Entwertung der Interaktion durch KI-Content, die wachsenden Zweifel am Realitätsgehalt von Bildern - das alles dürfte nicht gerade dazu beitragen, Vertrauen und Verweildauer auf den Meta-Plattformen zu steigern.

Die Google-Reorganisation

Auch über Google gäbe es einiges zu schreiben. Da wäre der Niedergang der Suche, die Ed Zitron mittels E-Mails aus Kartellprozessakten zu rekonstruieren versucht. Letztlich macht er den ehemaligen Yahoo-Manager Prabhakar Raghavan für die immer schlechtere Ergebnis-Qualität verantwortlich, es sich selbst uns allen aber vermutlich etwas zu einfach, in einer derart komplexen Organisation eine einzelne Person (die dazu noch einen “guten” Gegenspieler hat) in den Mittelpunkt zu stellen.

Wie dem auch sei - Google ordnet gerade sein Management neu, allerdings vor allem im Bereich KI. Dabei zeigt sich einmal mehr, wie absurd viele Parallelstrukturen diese Firma aufgebaut hatte. Parallelstrukturen = interne Konkurrenz = verlangsame Entwicklungszyklen lautet die Gleichung, die Google nun zumindest im Bereich Künstliche Intelligenz auflösen möchte.

Nach dem viel zu frühen Gemini-Rollout gibt es tatsächlich einiges gut zu machen, nicht nur an Boden. Und zu gewinnen? Ben Thompson zumindest sieht die Möglichkeit eines neuen Hardware-Fokus (Pixel-Smartphones plus KI) die Chance, durch den KI-getriebenen Paradigmenwechsel in der Smartphone-Nutzung Apple mit eigener, integrierter Hardware nochmal anzugreifen. Nach den jeweiligen Firmen-Konferenzen (Google I/O am 14. Mai, Apple WWDC ab 10. Juni) dürften wir etwas schlauer sein.

TikTok-Verbot - ein Nachklapp

Der Politikpodcast des Deutschlandfunks hatte mal wieder ein Tech-Thema, und damit auch mich mit am Tisch: Es ging nämlich um die Frage des TikTok-Verbots.

Wie immer bringt man natürlich nicht alles unter, aber es wird glaube ich ungefähr klar, warum ich das amerikanische Gesetz für eine sehr problematische Sache halte.