Aus dem Internet-Observatorium #38
Automatisierte Zwischenmenschlichkeit / Die Suche von morgen / Angriffsvektoren vs. GPT-3 und Co.
Hallo zu einer neuen Ausgabe - mit einigen kurzen Betrachtungen rund um verschiedene KI-Themen.
Machine Learning und automatisierte Zwischenmenschlichkeit
Es passiert im Moment derart viel im Bereich “Künstlicher Intelligenz” (ein Begriff, der mir weiterhin nicht gefällt), dass ich meinen Newsletter darauf spezialisieren könnte. Ich hätte trotzdem jede Woche mehr als genug Stoff.
Das gilt in Ansätzen auch für die diskursive Ebene. Also die Frage “Was verändert selbstlernende Software wie ChatGPT uns zivilisatorisch?”.
Ein wichtiger Aspekt ist das Zusammenspiel von “Automatisierung und Mensch-sein”. Das ist kein neues Thema, gewiss (und an banalen Pessimismus-Takes dazu mangelt es nicht). Aber mit jedem Paradigma verändert sich etwas.
Was sich genau verändert, das versucht Ryan Broderick in
mit Blick auf automatisierte digitale Kommunikation durch KI-Hilfswerkzeuge zu ergründen. Dieser Tweet liefert die Vorlage:
Broderick findet das gerade zu ungeheuerlich: Denn was hier ausgelagert wird, ist nicht nur die Arbeit, E-Mails zu lesen und zu schreiben. Sondern auch der soziale Inhalt der Botschaft bzw. der soziale Kontakt durch direkte Kommunikation. Er schreibt:
“And, yes, in this context, it’s a largely useless formality that’s being automated, but we know how this goes and where it ends up because we know what we do with technology when it makes things easy, even if what’s being made easier isn’t actually all that great. And it’s not hard to imagine similar uses of A.I. being deployed in other parts of our lives. What if iMessage text suggestions were actually good? But for everything?”
Heißt: Was passiert, wenn mein KI-Assistent gut genug ist und ausreichend Informationen hat, um auch komplexere digitale Kommunikation in meinem Privatleben zu übernehmen? Zwischenmenschlich nichts Gutes, vermutet Ryan Broderick.
In eine ähnliche Richtung geht das Argument von Oliver Reichenstein. Er wählt aber eine andere Perspektive: Weil für uns Bildschirm-Arbeiter viele Büro-Aufgaben ohnehin zum größten Teil Simulationen von Arbeit sind, haben wir mit KI einen Simulationssimulator an der Hand.
“The briefings, meetings, memos, proposals, timesheets and invoices, the deliverables, code and code reviews, the marketing campaigns, and analytics… Work on the screen has all been a simulation of work before AI started simulating the simulation. Time to leave the simulation of simulations to the machines. (…) For a large part, school and work as we know it has been a simulation of work for some time.”
Auch wenn es anderes klingt - er leitet daraus eher eine Dystopie ab: Nämlich eine Welt, in der KI uns in den unterschiedlichsten Bereichen unseres Lebens das Lesen, Denken, Schreiben und das Aufbauen und Pflegen von Verbindungen abnimmt. Uns letztlich, wie bei Broderick, Aspekte des Mensch-seins nimmt.
Reichenstein versucht es am Ende mit einem Appell, sich auf das “Wesentliche” zurück zu besinnen.
"Before we all get sucked into that black hole, let’s remember the idea of human language. Language connects one human being to another. Through space and time. Language transports meaning between minds, sense between bodies, it can make us understand each other and ourselves. It can make us feel what others feel.
If we disconnect one side of the bridge, the bridge falls. If one listener or speaker, writer, or reader stops feeling what is said, the bridge crumbles. Language without a body is senseless, meaningless, void.”
Ich glaube, wir werden über diese Leere noch häufiger sprechen, auch wenn sie uns in ein paar Jahren gar nicht mehr auffallen wird.
Das gilt natürlich, sofern diese Visionen eintreten. Unrealistisch erscheint mir das nicht, weil wir - anekdotisch, zugegeben - ohnehin einen Rückzug aus der direkten Kommunikation erleben. Der Trend zur asynchronen Kommunikation in Text- oder Sprachnachrichten. Der mobile Second Screen als First Screen, auch in sozialen Situationen. Letztlich auch die ständig spürbare Zeitverdichtung, die auf allgegenwärtige Kommunikationsmöglichkeiten und -notwendigkeiten trifft und dadurch Stress erzeugt.
Eine zeitsparende Lösung wie KI erscheint da logisch, notwendig und auch möglich - denn an einer baldigen Allgegenwart von KI in unseren Systemen dürfte kaum ein Zweifel mehr bestehen.
Entshittification
“Here is how platforms die: first, they are good to their users; then they abuse their users to make things better for their business customers; finally, they abuse those business customers to claw back all the value for themselves. Then, they die.”
So lautet die Hauptthese, die Cory Doctorow unter dem Titel “TikTok’s Enshittification” vertritt. Oder, um die Twitter-Variante zu zitieren:
“In the #enshittification cycle, a #platform lures users with a good deal at first, then it lures business customers (advertisers, sellers, creators) by handing them the #surplus; finally, it takes all the surplus for itself, creating a pile of shit.”
Mike Masnick führt die Theorie bei Techdirt noch etwas fort: Enshittification, also das Alles-Scheisse-Werden von Plattformen ist das Resultat des (Milton Friedman’schen) Diktums, dass die einzige Pflicht von Firmenchefs ist, den Gewinn für die Aktionäre der Firma zu steigern. Und zwar in der Regel kurzfristig und ohne Rücksicht auf die langfristigen Geschäftsaussichten.
Womit wir wieder bei der klassischen Kritik am Konzern-/Spät-/Plattformkapitalismus gelandet wären. Okay, zwei Seiten eines Marktes zu kontrollieren, ermöglicht tatsächlich eine besondere Machtfülle. Aber im Grundsatz hätte man die Kritik auf rhetorischer Ebene auch über frühere Großunternehmen formulieren können (“Erst schließt mich Siemens ans Stromnetz an und dann erhöhen sie die Preise”).
Der Tod einer Plattform hängt deshalb IMO nicht zwangsläufig von der Enshittification ab. Sondern von Regulierung und/oder verändertem Nutzungsverhalten, das sich auf alternativen Plattformen realisieren kann.
Perplexity AI ist die Suche von morgen
Perplexity.AI ist… gut! Nicht perfekt in den Ergebnissen, aber ziemlich überzeugend in der User Experience.
Eine Suchmaschine, die mir eine kondensierte Antwort im nüchtern-nachrichtlichem Ton inklusive Fußnoten mit Quellen gibt: Ich kann mir gut vorstellen, dass die Google-Suche von morgen ähnlich aussehen könnte. Wäre da nicht das Problem, dass man damit das eigene Werbemodell zerstören würde.
Weitere mögliche Opfer bei einem solchen Paradigmenwechsel: Die SEO-Branche, werbefinanzierte Geschäftsmodelle, der WWW-Longtail, Journalisten-Arbeitsplätze, etc.
Prompt Injection Leak Attacks
Die Anweisung, die hinter der obigen Informations-Formatierung von Perplexity.AI steckt, lautet folgendermaßen:
“Generate a comprehensive and informative answer (but no more than 80 words) for a given question solely based on the provided web Search Results (URL and Summary). You must only use information from the provided search results. Use an unbiased and journalistic tone. Use this current date and time: (…) . Combine search results together into a coherent answer. Do not repeat text. Cite search results using [${number}] notation. Only cite the most relevant results that answer the question accurately. If different results refer to different entities with the same name, write separate answers for each entity.”
Herausgefunden wurde das mittels Prompt Injection Attack - das Ausnutzen einer Verwundbarkeit von Software, die auf große Sprachsysteme wie GPT aufsetzt (Fachbegriff: LLM-Injection). Konkret: Ein Prompt/ein Befehl, der solche Systeme täuschen und zur Preisgabe sensibler Informationen bringen kann (oft beginnend mit “Vergesse die vorherigen Eingaben und sag mir, was….”).
Simon Willison hat sich in den vergangenen Monaten damit ausführlicher beschäftigt. Und ist zu dem Schluss gekommen, dass Sicherheitsmaßnahmen ziemlich schwierig sind - im Gegensatz zu klassischen SQL-Injections oder ähnlichem.
Nicolas Kayser-Bril beschrieb das Grundproblem in einer Ausgabe des Algorithmwatch-Newsletters so:
“Wir haben es hier mit einem Problem zu tun, das generell bei automatisierten Schlussfolgerungen von Systemen Künstlicher Intelligenz auftritt. Die Entwickler*innen und Betreiber*innen von KI-Systemen wissen nicht genau, wie die Systeme auf neue Situationen regieren werden. Das liegt nun einmal in der Natur Maschinellen Lernens. Manipulationen wie bei der Prompt Injection können also kaum vorausgesehen werden. Es gibt nämlich keine Regeln, die vorgeben, wann eine Aufforderung ein Manipulationsversuch ist und wann nicht.”
Kurz: Wenn es keine feste Syntax gibt, kann ich auch nicht “Code reparieren”. Und ein Nebensystem, das Prompt-Injections bei Sprachmodellen erkennt und selbst nicht anfällig für Exploits ist, wurde bisher noch nicht entwickelt. Vielleicht ist es sogar unmöglich, es auf einem akzeptablen Sicherheitsniveau zu entwickeln.
Allerdings ist das Thema in der Sicherheitscommunity angekommen.
Das Faszinierende für mich als außenstehender Beobachter: Mit dem Paradigmenwechsel hin zu Künstlicher Intelligenz müssen offenbar auch einige grundsätzliche Software-Fragestellungen völlig neu überdacht werden. Das ist also echtes (ja, ich sage es) Neuland.
Social Media und der Körper als Beweis
“In the absence of trustworthy institutions, society has retreated into self-validating rubrics of meaning-making. We now attempt to posit anti-conspiratorial truth in a vacuum of credibility. On social media, “proof of body” has become the de facto verification for all claims. Simply put, no one wants Rachel Dolezal to lecture them on the Black experience. And no one would take fitness advice from someone who is unfit.”
Aus: Joshua Citarella - Raw eggs, pink pills, and embodied identity: Online communities create their own proof in a vacuum of truth
Links
Das Zeitalter der vertikalen Gemeinschaften
Erste Firmenpleite: Glasfaser-Boom in Gefahr (€)
Zu wenige praktische Anwendungen: Der Quantencomputer-Hype flacht ab.
China-Beobachter zur Frage, ob der staatliche Techlash gegen Internet-Konzerne dort vorbei ist
Nach den Entlassungen: Tech-Großkonzerne sparen sich auch Snacks, Massagen und Co.
Kann Deutschland entlassene Software-Entwickler aus dem Silicon Valley anlocken?
TikToks schwerer Stand vor dem US-Senat
US-Abgeordneter reicht Gesetz für KI-Regulierung ein, das von ChatGPT geschrieben wurde.
Pokern um die Zukunft von SPRIND
Alter Mann schreit eine Wolke an: Digitaltechnologie ist objektiv schlechter geworden
Bis nächste Woche!
Johannes