Aus dem Internet-Observatorium #40

Digitalisierung im Baltikum / Sydney-Probleme / Open Source am dünnen Faden / Adam Neumanns Pömpel

Feb 22, 2023

Hallo in die Runde! Ich bin zurück, nachdem ich vergangene Woche mit dem Verkehrs- und Digitalminister im Baltikum unterwegs war. Mehr dazu etwas weiter unten. Plus: Die Diskussion um KI-Dialogsoftware verändert sich. Viel Spaß beim Lesen!

Aušrinė Armonaitė vor einer Wand in ihrem Ministerium. — Litauens Digitalministerin Aušrinė Armonaitė.

Digitalisierung in den baltischen Staaten

Drei Länder und drei Hauptstädte in fünf Tagen: Ein knackiges Programm, das die die Delegation rund um Verkehrsdigitalminister Volker Wissing bewältigte. Okay, es war “nur” das Baltikum, aber es waren durchaus geballte Infos rund um die Digitalisierung in Estland, Lettland und Litauen.

Ich war für den Deutschlandfunk als Berichterstatter dabei (mein Radiobeitrag findet sich hier). Hier ein paar Notizen.

Allgemein

Die drei Länder sind durchaus Rivalen - Lettland und Litauen sind weiterhin etwas genervt, dass Estland die Digitalisierungserfolge mit einer gewieften PR-Strategie am besten verkauft.
Auch was das Funding betrifft, liegt Estland vorne (Nummer 1 in Europa in Sachen Unicorns pro Einwohner, Nummer 1 in Europa in Sachen Investitionssumme pro Einwohner).
Wissing hat gemeinsam mit den drei Ländern einen Innovationsclub gestartet, der abgestimmt auf europäischer Ebene digitalpolitische Prioritäten einbringen soll, zum Beispiel in Standardisierungsfragen. Wirklich funktionsfähig wird das aber erst für die Amtszeit der nächsten EU-Kommission sein. Offiziell ist der Innovationsclub für andere Länder und Ministerien offen (aber in meiner Lesart durchaus als Gegengewicht zu Wirtschaftsministerium und industrie- und datenpolitische Duftmarke zu sehen).

Litauen

Mehr als 90 Prozent der Verwaltungsdienstleistungen sind digitalisiert, ebenso das Gesundheitswesen (vom Termin über die Diagnose bis hin zum Rezept).
Man schwört auf GovTech-Labs, also Experimentierräume, in der Privatwirtschaft und öffentliche Verwaltung gemeinsam Prozesse vereinfachen.
Beispiel: Der Tax Wizard, ein Software-Overlay über die Steuererklärung, die durch die Kombination aus “die meisten Daten sind bei der Verwaltung vorhanden und werden direkt eingetragen” und “Software fragt die übrigen Infos in verständlicher Sprache ab” innerhalb weniger Minuten auszufüllen ist.
Ein Problem der umfassenden Verwaltungsdigitalisierung: Wer mit den Prozessen nicht zurecht kommt (z.B. Senioren) oder ein Sonderfall ist, der nicht ins gängige System passt, erreicht nur selten direkte Ansprechpartner.
Litauen scheint mir beim 5G-Ausbau im Vergleich mit den anderen beiden Ländern am besten dazustehen, in der Fläche liegt man schon bei 95+ Prozent.
Politisch ist die Digitalisierung auf zwei Ministerien verteilt: Das Ministerium für Verkehr und digitale Infrastruktur (zuständig für den Netzausbau), sowie das Ministerium für Wirtschaft und Innovation (alles andere).
Bemerkenswert (für uns Deutsche): Die litauische Wirtschaftsministerin Aušrinė Armonaitė ist erst 33 Jahre alt.
Die litauische Statistikbehörde heißt seit diesem Jahr “Datenbehörde”. Das soll die Verwaltung dazu bringen, sich intensiver mit Open Data (für Bürger und Firmen) und Data Analytics zu beschäftigen.
In der Wissenschaft liegt Litauen mit einem Frauenanteil von 56 Prozent EU-weit an der Spitze. Die Gesellschaft ist grundsätzlich auf Vollzeit-Beschäftigung ausgelegt, was durch Kinderbetreuung bis 19 Uhr sowie das Recht auf Home Office (bei mindestens zwei Kindern in einem bestimmten jungen Alter) unterfüttert wird.
Insgesamt sieht man sich auch als attraktiv für ausländische IT-Fachkräfte. Zwar verdient man in der Branche 20 Prozent weniger als in Deutschland, aber trotz Inflation bekommt man mehr fürs Geld.

Lettland

Die Letten sind bei der Digitalisierung sehr weit, es fehlt aber das Selbstmarketing, das Estland auszeichnet.
Seit 2006 ist es möglich, Dokumente digital rechtssicher zu unterschreiben.
Der digitale Personalausweis ist selbstverständlich, Mitte des Jahres soll der NFC-Ausweis auf dem Smartphone kommen.
Beispiel für Digitalisierung: Drohnen und Vermessungssoftware haben die Bäume gezählt, deshalb können Sägewerke aufs Kilo genau gekauften Holzbestand ausrechnen (komplette Lieferkette ist digital).
Was ich gelernt habe: Eine lettische Firma ist für die Software von Kaufland verantwortlich.
Die Zuständigkeit für die Digitalisierung liegt beim Ministerium für Umweltschutz und Regionalentwicklung.
Wegen der russischen Minderheit ist das Thema Desinformation relevant, Lettland blockiert einige russische Webkanäle.

Estland

Drei Gründe für den E-Erfolg: Man konnte mit der Verwaltung nach dem Ende der UdSSR auf der grünen Wiese beginnen (und hatte gleichzeitig zu wenig Geld, um überall Ämter zu errichten). Gleichzeitig hatte man mit dem Institut für Kybernetik seit den 1960ern eine fachliche Basis. Und man hat 1996 mit dem “Tigersprung” Informatik als Pflichtfach eingeführt, die Schulen mit Breitband ausgestattet und die Lehrerschaft entsprechend ausgebildet.
Neun Einhörner haben ihren Ursprung in Estland (bekannte Namen: Ex-Transfer, jetzt nur noch Wise, Bolt, Skeleton, bis zu einem gewissen Grad Skype).
Ein Grund für den Erfolg: Der Markt ist so klein, dass man einfach ins Ausland expandieren MUSS. Wobei man dort manchmal feststellt, dass das Interesse an digitalen Lösungen geringer als im Baltikum ist.
Die Nutzung der elektronischen identität ist verpflichtend, gut zwei Drittel nutzen ihren Ausweis online (nicht nur für Amtsgeschäfte, sondern auch für die Authentifizierung bei Banken etc.).
X-Road, das gemeinsam mit Finnland entwickelte System für digitale Register (also Austausch von Daten zwischen Verwaltungsbehörden), wird weltweit in 25 Ländern von Chile über Namibia bis Australien eingesetzt. Auch Trembita, das ukrainische System, wurde in Estland entwickelt.
In der Verwaltungsdigitalisierung ist man inzwischen bei “proaktiven Diensten”, die sich an Lebenssituationen orientieren (ich melde mich arbeitslos und bekomme automatisch das Geld, Fortbildungsoptionen etc.). Ein weiteres Projekt: Eine Art Alexa für die Amtsgeschäfte.
Es gibt großes Vertrauen in die digitalen Wahlen (Anfang März sind erneut Parlamentswahlen). Bei mir hat es Klick gemacht, als es hieß “Papierstimme am Wahltag überschreibt die vorher abgegebene Online-Stimme”. Denn im ersten Moment denkt man “Aber die Stimme ist ja schon gezählt??”. Und im zweiten Moment dann: “Ach klar, ist ja nur ein Datensatz, der einfach gelöscht werden muss.”

Mein Fazit

Es ist IMO müßig zu diskutieren, ob man ins Baltikum fahren muss, damit man gute Ideen für die Digitalisierung in Deutschland bekommt. Andere Geographie, andere Voraussetzungen, anderes Mindset, etc. Allerdings fand ich es a) interessant zu sehen, woran hier schon im Kontext Automatisierung gearbeitet wird und b) ziemlich spannend, Systeme zu erleben, in denen Probleme und Prozesse in einer digitalen Datensatz-Logik angegangen werden. Hier gibt es wirkliche eine Menge zu lernen, vom Gesetzeshandwerk bis zur Schwerpunktsetzung in der Wirtschaftsförderung.

Sydney-Probleme

Wer das hier liest und in den vergangenen beiden Wochen nicht unter einem Stein gelebt hat, dürfte Geschichte über Bings Chat-GPT-System Sydney mitbekommen haben (seltsame Dialoge, ungewöhnliche Ratschläge und letztlich als Reaktion Antwort-Limit von Microsoft). Wer sich ausführlich einlesen möchte, bitte hier entlang. Zwei Punkte will ich herausgreifen, die ich für relevant halte:

A Die Bereitschaft zur Anthropomorphisierung

… ist offenbar größer, als ich dachte. Wir scheinen uns danach zu sehnen, dass in der Maschine ein Wesen steckt. Martin Bubers Prinzip des “Ich und Du” (statt “Ich und Es”), so formuliert es Venkatesh Rao, funktioniert offenbar bereits rein textbasiert.

Ein Faktor könnte sein, dass Dialog-KIs bzw. Large Language Models sich mit wachsender Komplexität stärker an an den Positionen ihrer Nutzer orientieren. Wir hatten das Ganze ja schon einmal im Paper “Stochastische Papageien”, das damals die kritische KI-Forschung bei Alphabet aus den Angeln hob.

So formuliert das James Vincent in The Verge:

“Researchers at startup Anthropic (…) discovered that “larger Language Models are more likely to answer questions in ways that create echo chambers by repeating back a dialog user’s preferred answer.” They note that one explanation for this is that such systems are trained on conversations scraped from platforms like Reddit, where users tend to chat back and forth in like-minded groups. Add to this our culture’s obsession with intelligent machines and you can see why more and more people are convinced these chatbots are more than simple software.”

Das alles ist ziemlich faszinierend. Und es findet nicht im luftleeren Raum statt. Sondern in Gesellschaften, deren Mitglieder die Bildschirm-Interaktion immer stärker priorisieren. Die Wahrscheinlichkeit eines gesellschaftlich erlebten “Her”-Szenarios wächst wahrscheinlich mit dem Grad unserer Vereinzelung. Und es könnte schwierig werden, sich einer solchen Massen-Adaption anthropomorphisierter Vorstellungen zu entziehen.

Ich will noch einen weiteren Punkt ergänzen: Die Macht der Begriffe. Nicht nur die “künstliche Intelligenz”, sondern die Bezeichnung von Falschinformationen und Aus-der-Rolle-fallen als “Halluzinationen” des Systems, die eine wesensartige Komponente nahelegt. Aus der Gegenrichtung scheint wiederum der Begriff “Autocomplete” Konjunktur zu bekommen, der eine ganz klare Software-Funktion von großen Sprachmodellen nahelegt. Auch hier wird sich entscheiden, wie wir solchen Systemen begegnen.

P.S.: Die Autoren von AI Snake Oil haben vier Ratschläge, wie wir mit dem Thema Anthropomorphisierung verantwortungsvoll umgehen:

Entwickler sollten Funktionen vermeiden, die eine Vermenschlichung von Systemen begünstigen (es sei denn, sie sind darauf angelegt wie Begleit-Bots).
Journalisten sollten Clickbait-Überschriften und Artikel vermeiden, die dieses Problem verstärken.
Mehr Forschung zu Mensch-Chatbot-Interaktion, und zwar schnellstmöglich!
Die Botschaft “schreibe KI keine menschlichen Eigenschaften zu” bedarf dringend einer Präzisierung. Vielleicht ist auch der Begriff “Anthropomorphisierung” so vage, dass er bei Generativer KI überhaupt nicht sinnvoll ist.

B Ist im “System Sydney” etwas unreparierbar kaputt?

Zumindest legt das Gary Marcus nahe. Der Princeton-Professor Arvind Narayanan hat vier Theorien, warum Microsoft die AI-Bing in einer derart ungezügelten Form freigab.

Es handelt sich um eine Version von GPT-4, die noch nicht mit entsprechenden Sicherheitsmaßnahmen ausgestattet ist.
Existierende Filter beeinträchtigten die Suchergebnisse und wurden deshalb abgeschalten.
Microsoft schaltete die Filter absichtlich ab, um besseres Feedback über abnormales Verhalten zu bekommen.
Microsoft dachte, dass die Eingabe-Vorgaben als Filter ausreichten. Man rechnete einfach nicht damit, dass etwas daneben gehen könnte.

Marcus hat aber noch eine fünfte Theorie:

Microsoft verwendete GPT-3.6, hatte alle Filter aktiviert - aber es genügte nicht.

Und das wäre ein Problem. Denn es würde bedeuten, dass jedes Update ein komplettes Neutraining des Reinforcement-Learning-Moduls benötigen würde. Selbstlernende Maschinen müssten also mit jeder Version eine neue Version ihrer selbst zusammenbauen.

Warum das ein Problem ist? Marcus schreibt:

“This would be very bad news, not just in terms of human and economic costs (which would mean more underpaid layers doing awful work) but also in terms of trustworthiness, because it would be mean that we have zero guarantee that any new iteration of a large language model is going to safe.
That’s especially scary for two reasons: first, the big companies are free to roll out new updates whenever they like, without or without warning, and second it means that they might need go on testing them on general public over and over again, with no idea in advance of empirical testing on the public for how well they work.”

Ein solches System sollten und dürften wir niemals freigeben. Auch wenn ich dieses Szenario nicht für wahrscheinlich halte, ist es beunruhigend genug, um es nicht völlig auszuschließen.

Open-Source am dünnen Faden

Auf Github ging vor einigen Tagen der Text eines russischen JavaScript-Entwicklers herum. Der Mann ist konkret für einige wichtige JS-Libraries zuständig, die zur Grundausstattung vieler großer und kleiner Webseiten (z.B. Netflix) gehören. Seit Jahren sucht er Unterstützer, findet aber niemanden.

Im vergangenen Jahr überfuhr dieser Mann mit seinem Auto eine Frau. Und wanderte zur Untersuchungshaft (?) in ein russisches Arbeitsgefängnis. Offenbar gab es während seiner zehnmonatigen Abwesenheit lautstarke Kritik, wo zur Hölle er steckt und warum der Code nicht aktualisiert wird. Worauf er in seinem Text eingeht.

Unabhängig von dem sehr speziellen Kontext dieser Geschichte ist die ganze Sache ein gutes Beispiel dafür, an welchen dünnen Fäden viele Elemte unserer Digitalarchitektur hängen.

Zwei besonders empfehlenswerte Texte

Das Problem ist nicht, dass die Maus sich im Labyrinth befindet. Sondern dass das Labyrinth sich in der Maus befindet. So charakterisiert Praveen Seshadri, dessen Firma vor ein paar Jahren von Google aufgekauft wurde, Googles Grundproblem. Es ist ein komplexes Bild einer Firma, die - wie fast jeder Großkonzern - einer eigenen, realitätsfremden Logik und einen Anreizsystem folgt, das Innovation und Reaktion auf neue Trends fast unmöglich macht. Sehr, sehr lesenswert.

Eine zweite Empfehlung hat ebenfalls mit der Entkopplung von Geschäft und allgemeiner Logik zu tun: Ed Zitrons Rant darüber, warum das Wachstumsmodell der Digitalfirmen zu so viel Geldverbrennung und de facto verschwendeter Innovationskraft führt.