Aus dem Internet-Observatorium #125

KI-Sicherheit: Die neue geopolitische Lage / Großbritannien und die Apple-Hintertür

Feb. 13, 2025

Hallo zu einer neuen Ausgabe! Etwas knapper, da ich intensiv mit der Berichterstattung über den Bundeswahlkampf beschäftigt bin.

Emmanuel Macron auf dem “AI Action Summit”

“AI Action Summit” in Paris: Die neue geopolitische Lage

Im September 2023 schrieb ich für die Zeitschrift Internationale Politik etwas über die Frage, ob es möglich sein wird, Künstliche Intelligenz global zu regulieren. Ich war damals skeptisch, zu divergierend die nationalen Interessen, zu fundamental die ökonomischen Versprechen der Technologie, zu schwierig die Organisation eines verbindlichen Prozesses.

Dann kam der “AI Safety Summit” in Bletchley Park. Auch wenn ich weiterhin skeptisch war, ob man am Ende wirklich zu einem “Geländer” für die KI-Entwicklung kommt, öffnete sich doch eine Tür für eine globale Regulierung von KI-Risiken. Das Nachfolgetreffen in Seoul ging ebenfalls in diese Richtung.

Der “AI Action Summit” in Paris Anfang der Woche scheint nun diese kurze Ära der “KI-Sicherheitsbedenken” auf politischer Ebene zu beenden. Und markiert den endgültigen Aufbruch ins KI-Wettrennen der Nationen (mit Fokus auf den Ausbau von Rechenzentrumskapazitäten).

Das liegt maßgeblich an den USA: US-Vizepräsident J.D. Vance signalisierte, sich im Lager der “AI Accelerationists” zu positionieren. KI first, Bedenken gar nicht.

Allerdings präsentierte sich auch Frankreich als Vertreter des bedingungslosen KI-Optimismus. Wenn ich die Medienberichte richtig interpretiere, scheint Frankreichs Präsident Emmanuel Macron die Konferenz zum Event “Invest in French AI” umfunktioniert zu haben. “Frankreich ist zurück im KI-Rennen”, proklamierte er. Und kündigte an, dass der Standort mit Investments von mehr als 100 Milliarden Euro gestärkt werde (zwei Drittel davon aus dem Ausland, vorwiegend den Golfstaaten) .

Nun ist Frankreich für solch glamouröse Ankündigungen im Tech-Bereich bekannt (remember “Startup Nation”?). Ich würde angesichts der technischen Entwicklungen der letzten Monate auch nicht zwangsläufig davon ausgehen, dass der Aufbau von LLMs nach dem aufwändigen amerikanischen Modell wirklich eine bessere Strategie ist, als sich auf die Anwendungsebene offener LLMs und KIs zur Optimierung bestehender Produktionsprozesse und Erweiterung von Produkten um Digitalprozesse zu konzentrieren. Zumal es ja durchaus Zweifel gibt, ob Mistral bei den LLMs überhaupt in der ersten Liga spielt. Auch zum Standortfaktor Atomkraft für sichere Energie gäbe es angesichts von Sommer-Hitzewellen und der Wartungsrückstände französischer Anlagen einiges zu sagen.

Aber: Zumindest hat Macron einen Plan. Der dürfte allerdings weniger “europäisch”, als national sein. Ob das Ganze so wirklich mit Brüssel in Einklang gebracht wird, ist unklar. EU-Kommissionspräsidentin Ursula von der Leyen verkündete am Dienstag, die EU-AI-Champions-Initiative um 50 Milliarden Euro aufstocken zu wollen. In diesem Zuge sollen unter anderem vier neue Großrechenzentren (“AI Factories”) für das Training von Modellen im Zuge von public-private Partnerships entstehen.

Deutlich wurde in dieser Woche auch, dass Frankreich und offenbar auch relevante Teile der Kommission mit dem “AI Act” unzufrieden sind. Öffentlichstes Zeichen war nicht der Aufruf der EU-Digitalwirtschaftskommissarin Henna Virkkunen, den AI Act national innovationsfreundlich umzusetzen, sondern die Streichung der KI-Haftungsrichtlinie aus den Plänen der EU-Kommission.

Das nimmt zwar Komplexität aus der Regulierung, könnte aber dem KI-Standort Europa eher schaden: Denn die EU-Produkthaftungsrichtlinie gilt zwar auch für Software, lässt aber im Bereich KI Lücken (zum Beispiel, wenn eine KI diskriminierende Entscheidungen trifft). Damit steigt die Rechtsunsicherheit bei Anbietern weiter unten in der KI-Softwarekette, aber auch bei Endverbrauchern. Mal abgesehen davon, dass sich offenbar die Grundlage von Zivilklagerechten wieder in 27 unterschiedlichen nationale Gesetzesrahmen auffächert.

Damit markiert der “AI Action Summit” auch eine Weggabelung für Europa: Sowohl die finalen KI-Standards des - offenbar ohnehin sehr firmenlastigen Technik-Gremiums - JTC21, wie auch der derzeit in Entwicklung befindliche “Code of Practice” für Entwickler von LLMs, den das European AI Office koordiniert, dürften äußerst branchenfreundlich gestaltet werden. Der Zeitgeist hat sich gedreht.

Das muss nicht falsch sein: Wer hier länger mitliest, weiß, dass ich den AI Act durchaus kritisch sehe und mir grundsätzlich eine anpassungsfähigere EU-Regulierung in Digitalfragen wünschen würde. Aber ich teile die durchaus verbreitete Sorge, dass die von-der-Leyen-Kommission bei ihrer gesamten Deregulierungsagenda überziehen könnte und letztlich von der Idee der “menschenzentrierten KI” nur noch ein Slogan übrig bleibt. Angesichts dessen, dass wir womöglich bald auf Artificial General Intelligence (AGI) zusteuern, wäre das fatal.

Großbritannien und die Apple-Hintertür

Die britische Regierung verlangt von Apple eine Hintertür in die Cloud-Dienste der Firma. Dass das überhaupt öffentlich wird, dürfte einem Leak von Apple an die Washington Post zu verdanken sein.

Dass das eine dumme Idee ist, zeigt nicht nur der - über eine ähnliche Hintertür (“CALEA”) ermöglichte - Salt-Typhoon-Hack (siehe Ausgabe #117). Ich gehe nicht davon aus, dass die Briten das durchziehen. Spätestens, wenn Apple ankündigt, seinen Kunden keine iCloud-Verschlüsselung mehr anzubieten. Oder aber man bietet wie in China eine eigene, für die Überwachungsbedürfnisse der Behörden geöffnete iCloud in Großbritannien.