Aus dem Internet-Observatorium #91

Gefühlte Wahrheiten: KI-Hype am Abklingen / Anti-Smartphone-Bewegungen / Soziale Musik

Apr 17, 2024

Hallo zu einer neuen Ausgabe! Dieses Mal geht es um “gefühlte Wahrheiten”: Zeitgeist, der in der Luft zu liegen scheint, aber nur bedingt mit Zahlen zu unterfüttern ist. Mitunter, weil es sich gar nicht um eine reale Entwicklung handelt.

Gefühlte Wahrheit: Generative KI am Ende des Hype-Phase

In den vergangenen Monaten mehren sich Meldungen und Schlagzeilen, die ein (vorläufiges) Ende des Hypes zu Generativer KI prognostizieren. Adam Selipsky, CEO von Amazon Web Services, verglich den aktuellen Enthusiasmus inklusive Fallhöhe sogar mit der Dotcom-Blase. Und KI-Kritiker Gary Marcus sammelt ohnehin fleißig Meldungen darüber, wie KI-Systeme die in sie gesetzten Hoffnungen nicht erfüllen.

Alberto Romero hat Anfang April einmal die Indizien aufgeschrieben - und ist zu einem widersprüchlichen Ergebnis gekommen:

Wachstum, Umsatz und Gewinnmargen bleiben bislang hinter den Erwartungen zurück. Schätzungen zufolge haben Startups 2023 etwa 50 Milliarden US-Dollar in AI-Hardware von Nvidia investiert, aber nur Umsätze in Höhe von drei Milliarden US-Dollar generiert (Diskussion dazu hier). InflectionAI wurde per Aquihire Teil von Microsoft, Stability.AI wackelt. Und das sind nur die bekanntesten Firmen. Die Wirtschaft zögert demnach bei der intensiveren Nutzung von generativer KI, aus Sicherheits- wie auch Komplexitätsgründen. Und der vielleicht prominenteste Einsatz von generativer KI findet im Bereich Spam und Scam statt.
Auf der anderen Seite werden regelmäßig neue Versionen von Foundation Models veröffentlicht oder zumindest angekündigt; hinzu kommen neue Open-Source-Modelle sowie Fortschritte bei Funktionen wie Stimmklonen oder Video-Prompting. In Bereichen Bild-Einordnung, Visual Reasoning und Englisch-Verständnis übertreffen LLMs inzwischen den Menschen (nicht aber in Bereichen wie Mathematik, Planen oder visuellem Alltagsverständnis).

Die Abflachung hat natürlich auch mit den hohen Erwartungen zu tun, die rund um die Software geweckt wurde. Auch von uns Medienschaffenden.

Ich würde noch zwei Punkte ergänzen: Dass sich der Reiz des Neuen abnutzt, lässt sich gut in den gängigen Foren beobachten. Dort stapeln sich Beiträge, in denen Nutzer das Standardprodukt ChatGPT 4 kritisieren, weil es schlechter geworden sei. Das entspricht auch meiner Erfahrung - ich nehme an, dass OpenAI gerade stark in Richtung Rechensparksamkeit optimiert.

Dazu kommen noch Meldungen, die KI-Systeme nach Schlangenöl riechen lassen. So verkündete Googles DeepMind-Abteilung vor ein paar Monaten, dass ein selbstentwickeltes KI-Werkzeug “Millionen von Materialien” entdeckt habe. Nun kommen Materialforscher zu dem Schluss, dass die KI-generierten Strukturen de facto nutzlose organische Verbindungen sind und nicht als “Material” gelten sollten. Amazons kassenloses KI-Shoppingsystem “Just Walk Out” wurde in Wahrheit von menschlichen Augen überwacht. Und der “AI Pin” von Humane (siehe Ausgabe #72) erhält fast durchgehend vernichtende Kritiken.

Casey Newton kommt deshalb im Lichte des “AI Pin” zu folgendem Ergebnis (übersetzt):

“Im Verbraucherbereich enttäuscht KI weiterhin. Sie halluziniert, sie missversteht, sie widerspricht sich selbst. Oft macht sie sehr gute Vermutungen darüber, was wir von ihr wollen. Aber wer möchte schon ein Gerät kaufen, das Vermutungen anstellt?”

Wenn wir also die unvermeidliche Gartner-Grafik zum Hype-Zyklus betrachten sind wir wahrscheinlich irgendwo nach dem Gipfel der Erwartungen auf dem Weg nach unten:

Ich glaube, zwei Dinge wären hilfreich: Einmal die Differenzierung zwischen multimodalen KI-Systemen, die verschiedenen Input aufnehmen können, und an Spezialdaten trainierten KI-Systemen. Letztere erhalten zu wenig Aufmerksamkeit, weil sie schlicht einfach langweiliger sind, können aber wirtschaftlich maßgeblich zu Produktivitätssteigerungen beitragen.

Und dann bräuchten wir IMO eine genaue Differenzierung, welche KI-Software, welche LLMs wir meinen. Die Unterschiede werden dann langsam doch so relevant, dass man nicht mehr von einem einzigen “Genre” sprechen kann (auch wenn sich die Probleme, siehe Halluzinationen, weiterhin ähneln).

Hier stoßen wir allerdings auf das Problem, das im neuen “Stanford AI Index” erwähnt wird und das Kevin Roose in der New York Times thematisiert: Es gibt derzeit keine überzeugenden und beständigen Tests, um große Sprachmodelle sinnvoll zu vergleichen.

“Kurz gesagt: K.I. Die Messung ist ein Chaos – ein Gewirr aus schlampigen Tests, Vergleichen von Äpfeln mit Birnen und eigennützigem Hype, der Benutzer, Regulierungsbehörden und KI-Entwickler selbst im Dunkeln tappen lässt.”

tl;dr: Wahrscheinlich befinden wir uns zumindest auf dem Weg zum Ende der ersten Hype-Phase. Aber je schneller realistische Erwartungen, Differenzierung und objektive Messkriterien Einzug halten, desto einfacher wird es, den realen Fortschritt zu messen.

Gefühlte Wahrheit: Anti-Smartphone-Bewegungen

“Der Dumbphone-Trend ist echt”, schreibt Kyle Chayka über die Abkehr vom Smartphone. Zahlen liefert er dazu nicht, aber ähnlich wie diese ausführliche Meditation über Aufmerksamkeit und iPhones im Graustufen-Modus scheint es mal wieder eine Diskussion über den Umgang mit Smartphones zu geben. Zumindest in den USA, wo wahrscheinlich auch Jonathan Haidts neues Buch über die Smartphone-Nutzung von Teenagern eine Rolle spielt.

Ich glaube an die Existenz einer Featurephone-Bewegung erst, wenn wir mal ein paar Menschen unter 60 mit Klapphandys begegnen. Ich will mich gar nicht lustig machen, denn solche Diskussionen und Mini-Trends zeugen von einem Unbehagen an unserer technologische vermittelten Gegenwart. Und das ist weit verbreitet.

Freddie deBoer hat vor ein paar Monaten ein Essay dazu geschrieben, das ich ohnehin hier einmal unterbringen wollte. Denn ich finde nicht nur die These, sondern auch die konkrete Durchargumentation ganz spannend: deBoer sieht nämlich eine Form von gesellschaftlicher Orientierungslosigkeit, die von den erlebten technologischen Veränderungen und Verwerfungen nicht zu trennen ist - und die aus seiner Sicht zu einer neuen Form von Anti-Technologie-Terrorismus führen könnte. Zitat (übersetzt):

“Wenn genügend Menschen das Gefühl haben, von ihrer Kultur betrogen worden zu sein; wenn sie glauben, dass das Internet tief in ihr eigenes Elend verwickelt ist, und das Beispiel einer Vorhut haben, die eine Kampagne der Gewalt beginnt, dann denke ich, dass wir im 21. Jahrhundert eine echte, sich verbreitende, leidenschaftliche anti-technologische Terrorbewegung sehen könnten. Diese würde in gewisser Weise geistig den radikalen Umweltterroristen der Jahrhundertwende verpflichtet sein, jedoch gewisse praktische Vorteile gegenüber jener Bewegung genießen.”

Den Kern der Zusammenhänge legt er im nächsten Absatz frei:

“Mehr noch, gerade weil das ständige Engagement im Internet zu einer derart verbreiteten Desillusionierung und Unzufriedenheit geführt hat, gibt es eine wachsende Zahl von Personen, die genau zu dieser Art von Menschen gehören, die eine terroristische Bewegung anzuführen geeignet sind: unzufrieden, einsam, ohne Ziel oder Richtung, verzweifelt auf der Suche nach einer Art Gemeinschaft und wütend darüber, dass sie all diese Dinge fühlen.”

Eine solche Terrorbewegung könnte die Tatsache ausnutzen, dass unser Leben in Nullen und Einsen Angriffe auf/über Nullen und Einsen ermöglicht. Oder auch, dass bestimmte physische Elemente des Netzwerks angreifbar sind.

DeBoer betont, dass er das Ganze für unmoralisch und unterm Strich für wenig erfolgsversprechend hält. Ich halte es dennoch für relevant, dass wir solche Szenarien zumindest im Hinterkopf behalten. Denn dass die Frustration über die Folgen der digital-disruptierten Zwischenmenschlichkeit einmal in gewalttätigen Gegenbewegungen ihren Ausdruck findet, scheint mir langfristig realistischer als der Siegeszug einer wie auch immer gearteten Featurephone-Bewegung.

Gefühlte Wahrheit: Musik wird sozial

Erinnert sich jemand noch jemand an Ping? 2010 war das Apples Versuch, an die iTunes-Musikbibliothek seiner Nutzer ein soziales Netzwerk anzudocken. Ein gigantischer Flop.

Der Versuch, Musik als Bestandteil eines sozialen Netzwerks zu denken, ist so alt wie LastFM. Mein anekdotischer Eindruck - und damit eine weitere gefühlte Wahrheit - gerade ist: Musik wird tatsächlich sozial, aber auf eine andere Weise.

Da wäre zum Beispiel Bandle, immerhin in den Top 20 der Musik-Apps zu finden. Wie der Name nahelegt, handelt es sich um ein Riff auf das beliebte Quiz Wordle. Wer aus einzelnen Instrumententracks am schnellsten einen Song errät, gewinnt.

Das Kartenspiel Hitster wiederum haben mir gleich mehrere Menschen empfohlen - ein physisches Quiz mit Spotify-Anbindung, bei dem Musiktitel in die richtige chronologische Reihenfolge gebracht werden müssen.

Auf Music League wiederum hat Rusty Foster hingewiesen: Die App ist schon von 2022, hier geht es darum, dass Mitglieder einer Gruppe den besten Song für ein bestimmtes Thema, ein Genre, eine Stimmung oder eine Zeit auswählen. Die Teilnehmer bewerten die Songs, ob sie zur Stimmung passen, wer die coolsten Lieder auflegt, sammelt Punkte für das Ranking.

Was alle drei Beispiele gemeinsam haben: Es handelt sich um Spiele, also eine klassische Form des Sozialen. Das Netzwerk sind die Freunde und Bekannten, gegen die ich antrete. Das alles erscheint sehr viel logischer und bodenständiger als die Idee, rund um Songs und Playlists Funktionen wie Likes, Kommentare oder Follow-Funktionen zu bauen.

FISA (Fortsetzung)

Vergangene Woche sah es so aus, als sei die Verlängerung des Foreign Intelligence Surveillance Act (FISA) im US-Repräsentantenhaus gescheitert (siehe Ausgabe #90). Aber im US-Kongress leben die Dinge weiter, vor allem, wenn sie die “nationale Sicherheit” betreffen. Bürgerrechtsgruppen verweisen darauf, dass ein Zusatz in das Gesetz geschrieben werden soll, der nicht nur Netzbetreiber zur Zusammenarbeit mit den Geheimdiensten zwingt. Sondern auch, Zitat aus dem Gesetzentwurf,

“jeden anderen Diensteanbieter, der Zugang zu Geräten hat, die für die Übertragung oder Speicherung drahtgebundener oder elektronischer Kommunikation verwendet werden oder verwendet werden können.”

Ob das nun zum Beispiel auch die Reinigungskraft ist, die in einem Büro Zugriff auf einen Computer hätte, wie teilweise vermutet wird - ich würde das nicht so interpretieren. Da das Ganze aber die Geheimdienst-Arbeit betrifft und keinerlei Transparenz existiert, wie das Gesetz umgesetzt werden würde, sind solche Passagen natürlich gefährlich. Ich gehe davon aus, dass der US-Senat ebenfalls die FISA-Erneuerung beschließen wird.

1 Zitat: Das Ende der sozialen Medien

“Wir haben uns vielleicht früher vorgestellt, dass die sozialen Medien letztendlich plötzlich implodieren und wir wie am letzten Schultag in einen Sommer der Realität aufbrechen - aber eine solche Katharsis werden wir nicht erleben. Wenn diese Institutionen jetzt sterben, tun sie das ohne einen Endpunkt, an dem sie zu existieren aufhören – sie leben vielmehr in Zombieform weiter und wir lernen, die sich allmählich verschlechternden Bedingungen, die sie uns aufbürden, zu tolerieren.”

Drew Austin: The Brazilianization of the Internet (übersetzt und gefettet)