I/O vom 12. Oktober 2022

KI-Content: Die nächste Welle ist schon da / Die Causa Schönbohm / Privacy Shield 2.0

Oct 12, 2022

Hallo da draußen, ich hoffe, es geht euch allen gut! Willkommen zu einer weiteren Ausgabe der Kurzbeobachtungen aus dem Internet-Observatorium.

KI-Content: Die nächste Welle ist schon da

Selbstlernende Software, landläufig als “Künstliche Intelligenz” bekannt, die Content erstellt: Seit Anfang dieses Newsletters 2020 hat dieses Thema immer wieder eine Rolle gespielt.

Im Moment erleben wir in diesem Feld eine rasante Entwicklung. Nach synthetischen Texten gingen dieses Jahr mehrere Programme zur synthetischen Bild- und Fotoproduktion öffentlich online. Und in den letzten 14 Tagen gab es erste Basis-Versionen von KI-Produktionssystemen für weitere Content-Felder.

Meta hat ein System mit Namen “Make-A-Video” entwickelt, bei dem Nutzer die Beschreibung einer Szene eingeben können, die dann als Video erscheint.
Auch Google hat eine Text-zu-Bewegtbild-Software (“Imagen”) vorgestellt. (Wer vergleichen möchte: Oben die Facebook-Variante, hier ein Google-Demovideo.)
Eine weitere Software (“Phenaki”) soll anhand eines Startbilds plus einer Texteingabe Videos von bis zu zwei Minuten Länge produzieren können. Die Szenen verändern sich dynamisch - je nachdem, wie man den Text ändert.
TikTok hatte im August bereits einen Effekt vorgestellt, der auf Befehl Video-Hintergründe produzierte.
Google hat auch eine Software entwickelt, die ein paar Takte Musik hört und danach daraus vollständige Stücke gestalten kann.
Und auf Produktebene zeigen Beispiele wie Interior.AI (Foto eines leeren Raum mit Möbelvorschlägen füllen), dass sich eine Menge Kreativ-Jobs künftig automatisieren lassen.

Meta und Google haben ihre Software noch nicht für die Öffentlichkeit freigegeben, wohlwissend, dass unbehobene Probleme (z.B. diskriminierendes Bildmaterial, Nutzung zu bösartigen Zwecken) ziemlich viel Aufmerksamkeit erhalten würden.

Die Diskussion über die Folgen hängt der technischen Entwicklung erwartungsgemäß wie immer hinterher. Zumal es sich um Grundsatzfragen handelt. Im Zusammenhang mit automatisierter Bildgenerierung betrifft das vor allem zwei Aspekte:

Was bedeutet diese neue Form für die Zukunft der Kunst - beziehungsweise ist es überhaupt Kunst?

Dazu gab es in den vergangenen Monaten zahlreiche Wortmeldungen, wer ein SZ-Abo hat, kann dort eine ausführlichere Einordnung der Debatte des geschätzten Jannis Brühl lesen. Ich will mich auf einige wenige Argumente beschränken.

Zum Beispiel das von Walter Kirn: Er stellt in Frage, ob Software überhaupt die Prämissen für Kunst erfüllt, da ihr der Erschaffungsprozess fehlt. Zitat:

“Whatever it is that artists do—and have been doing for all of history minus a few months or years now—they do it under threat. The threats of incomprehension, disgrace, obscurity, political reprisal, loss of love, and even the threats of wealth and fame, which are hazards of their own. But the basic, abiding threat is loss of faith.
As a writer, I face the demon of despair with every blank page, and many full ones, too, when I read what I’ve written and feel it could be better, if only I were able to make it so. A.I. knows nothing of these dramas. It compiles, sifts, and analyzes, then finally executes. But it doesn’t dare. It takes no risks. Only humans, our vulnerable species, can.”

Die Gegenposition nimmt der Schriftsteller Stephen Marche im Atlantic ein. Er wählt dabei den beliebten Vergleich mit der Phase des Übergangs von der Malerei zur Fotografie - und kritisiert ein Misstrauen gegen über Co-Creation und maschinelle Hilfe.

Die Frage, was “AI Art” mit der Kunst(szene) macht, lässt sich bislang nur spekulativ beantworten. In diesem Artikel von John W. Herrman spielt das eine größere Rolle. Letztlich gehört zu den optimistischeren Perspektiven, dass Ideen nun wichtiger werden, die Ausführung dabei einfacher wird. Oder dass Illustratoren und Illustratorinnen nun weniger Zeit für ihre (schlecht bezahlte) Arbeit aufwenden müssen. Allerdings stellt sich natürlich die Frage, wer überhaupt noch Illustratoren (oder Raumgestalter, Texterinnen, Grafiker, Schauspielerinnen etc.) einstellt, wenn sich Dinge mit ein paar Klicks halbwegs annehmbar zusammenbauen lassen.

Wem gehören Bilder, die mittels/von selbstlernender Software erschaffen wurden?

Vor kurzem erklärte Getty Images, keine Bilder mehr anzunehmen, die mit Hilfe von AI erstellt wurden. Die Gefahr, dadurch in Urheberrechtsverstöße hineingezogen zu werden, sei zu groß. Shutterstock hat eine ähnliche Policy jüngst widerrufen.

Prinzipiell gilt für solche Bilder: Maschinen können kein Urheberrecht geltend machen, auch wenn die Universität Oxford hier einen Präzedenzfall etablieren möchte (wohl aber können Menschen Urheber sein, die diese Maschinen als Werkzeug nutzen und dabei eine gewisse Schöpfungshöhe erreichen). Auch Künstler können - bislang zumindest - keine Ansprüche geltend machen, wenn sie den Eindruck haben, ihr Stil wurde für ein AI-generiertes Bild kopiert.

Und wem das noch nicht kompliziert genug ist: Die Plattformen selber haben unterschiedliche Nutzungsbedingungen. Midjourney AI überträgt die Eigentümerschaft an die Nutzer, bedingt sich aber ein eigenes Nutzungsrecht aus. Open AI (DALL-E) wiederum legt fest, dass alle dort produzierten Bilder der Plattform gehören.

Auf der Ebene der Grundsatzregulierung des Machine-Learning-Fields geht es unterdessen voran: Die US-Regierung hat vergangene Woche eine “AI Bill of Rights” vorgestellt, die EU-Kommission ihre KI-Haftungsrichtlinie.

Die Causa Schönbohm

Vorab: Ich habe diese Woche frei und habe dazu keine Gespräche geführt, habe deshalb alles rund um die Causa Schönbohm ebenfalls nur den Medien entnommen. Das Bild, das sich daraus ergibt: Die Böhmermann-Zusammenfassung oller Kamellen liefert dem Bundesinnenministerium einen Vorwand, den ungeliebten BSI-Chef loszuwerden.

So weit, so logisch: Bei der anstehenden Aufwertung des BSI hätte die SPD-Ministerin Nancy Faeser sicherlich gerne einen Gewährsmenschen an der Spitze. Dass damit dann auch ein stärkerer Einfluss des Ministeriums einhergehen soll, wie Jürgen Schmidt von heise.de vermutet, lässt sich nicht ausschließen.

Allerdings würde ich den gegenwärtigen Spin auch mit Vorsicht genießen. Denn Ministerien versuchen gerne den Eindruck zu vermitteln, strategisch zu handeln, selbst wenn sie eigentlich nur Getriebene sind. Es könnte schlicht sein, dass Faeser oder ihr ministerielles Umfeld das PR-Fiasko des (IMO ziemlich künstlich hergestellten) Zusammenhangs zwischen Schönbohm und Russland antizipiert haben und die Ministerin daraufhin am Wochenende etwas voreilig die Notbremse zu ziehen begonnen hat. Was wiederum von interessierter Ministeriumsseite durchgestochen wurde, woraufhin man nicht mehr so richtig hinter die angekündigte Ablösung zurück konnte.

Das ändert nichts an an den offenbar bereits bestehenden Vorbehalten - würde die Entscheidung aber nicht in die Kategorie politische Personalstrategie, sondern in den Bereich kommunikatives Krisenmanagement fallen lassen. Dass man ja offensichtlich noch keinen Ort für eine Versetzung gefunden hatte, spricht ebenfalls für den PR-Faktor.

Vielleicht bringt die heutige Sitzung des Digitalausschusses hier neue Erkenntnisse. Was auch immer passiert ist: Faeser ist in meinen Augen eine schwache Ministerin, die speziell an IT-Themen nur geringes Interesse zeigt und Empfehlungen aus dem Apparat dem Entwickeln einer eigenen Haltung vorzuziehen scheint. Das macht sie schwer ausrechenbar, entsprechend wenig stringent ist ihre Argumentation.

Bei Horst Seehofer konnte man trotz wahrnehmbaren Desinteresse seine Haltung zu Digitalthemen an der konservativen Grundhaltung entlang gut einschätzen, ob man sie teilte oder nicht; bei Faeser scheint man im Digitalbereich abhängig davon zu sein, wem sie gerade ihr Ohr schenkt. Keine guten Voraussetzungen für kluge und stringente Politik.

Privacy Shield 2.0

US-Präsident Joe Biden hat vergangene Woche den präsidialen Erlass unterzeichnet, der den Rahmen für die Privacy-Shield-Nachfolge bildet - also den rechtmäßigen Verkehr personenbezogener Daten zwischen den USA und der EU ermöglichen soll.

Das vorgesehene System ist kompliziert - EU-Bürgerinnen und -Bürger können sich an die bestehende Stelle des "Civil Liberties Protection Officers" wenden, die beim Direktor der nationalen Sicherheitsbehörden angesiedelt ist und Geheimdienste anweisen kann, bestimmte Praktiken einzustellen. Die Institution des “Data Protection Review Court” soll wiederum prüfen, ob die Beschwerden auch wirklich bearbeitet werden (hat aber keine Recht, Geheimdienste zur Veröffentlichung von Informationen zu zwingen).

Zwei Dinge sind zu erkennen. Erstens: Biden muss einmal mehr mit einem Erlass hantieren, eine Kodifizierung der Regeln durch den Kongress ist nicht vorgesehen. Dadurch ist das gesamte Konstrukt theoretisch einfach per Erlass zu kassieren (auch wenn ich dafür selbst unter Trump II kein wirkliches Szenario sehe).

Zweiter Punkt: Sowohl die Ombudsstelle, als auch die Aufsichtsbehörde für diese Ombudsstelle sind nicht in der Judikative, sondern in der Exekutive angesiedelt. Der Civil Liberties Protection Officer kann weder die Geheimdienste zur Veröffentlichung von Informationen zwingen, noch muss er dem Kongress Rechenschaft über sein Werk leisten.

Was alles nicht gerade für wirkliche Kontrolle spricht. Das wird die EU-Kommission nicht davon abhalten, das Konstrukt zu akzeptieren und bis nächsten Sommer das Privacy Shield 2.0 zum Abschluss zu bringen (am Ende wird einmal mehr der EuGH entscheiden, ob das genügen wird).

Der Posten des Civil Liberty Protection Officer wurde 2006 unter George W. Bush eingeführt. Bis 2019 hatte Alex Joel die Position inne, ohne wirklich in Erscheinung zu treten. Seitdem hat Ben Huebner die Stelle übernommen, der vorher die gleiche Position bei der CIA hatte. Ob das alles wirklich nach ehrlichem Kontrollversuch klingt, mag jeder selber bewerten. Die Kritik, die 2006 eine ACLU-Anwältin in der New York Times übte, gilt auf jeden Fall weiterhin:

“Those offices are crippled by their lack of authority. They are directly under the supervision of whoever’s running their agency.”

Autonome Fahrzeuge: “Mehr bei Null”

“You’d be hard-pressed to find another industry that’s invested so many dollars in R&D and that has delivered so little. Forget about profits—what’s the combined revenue of all the robo-taxi, robo-truck, robo-whatever companies? Is it a million dollars? Maybe. I think it’s more like zero.”

Anthony Lewandowski, Waymo-Mitgründer und Pionier in der Entwicklung autonomer Fahrzeuge, zu Bloomberg.