Disruption gefährdet Demokratie
Die aus der Privatwirtschaft bekannten digitalen Dynamiken spielen auch bei der Digitalisierung des Staates. Mit einigen Besonderheiten. So führen die oft zitierten Effizienzgewinne letztlich zu einer verstärkten Kontrolltätigkeit, schreiben die Forscher. Macht konzentriere sich in digitalen Systemen, die Gewaltenteilung werde untergraben und die «progressive Weiterentwicklung einer offenen Gesellschaft und ihrer Institutionen erschwert».
Die Autoren begrüssen die Digitalisierung, warnen aber vor einer «harten Zeit der Transformation». Würden aber jetzt die institutionellen Voraussetzungen für das dauerhafte Fortbestehen der demokratischen Institutionen in der digitalen Welt geschaffen, dann könne sich die Gesellschaft auf die Verheissungen eines fortschrittlichen digitalen Dienstleistungsstaats einlassen.
Massnahmen für den Wandel
Die Forscher empfehlen, Parlamente mit Technologie und Datenanalysefähigkeiten zu stärken und als Gegengewicht zur digitalen öffentlichen Verwaltung aufzubauen, um ihrem schleichenden Bedeutungsverlust im digitalen Staat entgegenzuwirken. Ebenso sollten Gerichte mit Technologie gestärkt werden, damit sie zu Urteilen befähigt werden, die vollständig digital zustande kommen.
Eine weitere Massnahme sei die Stärkung des Föderalismus durch dezentrale Digitalisierung, um zentrale Gatekeeper zu verhindern. Die Datenhaltung solle redundant ausgelegt werden, um den Einfluss einzelner Akteure zu begrenzen und Machtkonzentration zu verhindern. Digitale Souveränität kann laut den Autoren hergestellt werden, indem Informationssicherheit gestärkt und IT-Outsourcing mit Abhängigkeiten von wenigen Anbietern vermieden wird. Ulbrich und Frey sprechen hierbei von einem Balanceakt und stellen sich nicht gegen Outsourcing und proprietäre Software.
Besonders wichtig sei das Einhegen von Algorithmen durch den Einbau des Zufalls, die Definition menschlicher Hohheitsbereiche und die Organisation des künstlichen Vergessens. Das Problem der Algorithmen: Sie berechnen Vergangenheit. Dagegen helfe das zufällige Pausieren der Algorithmen, das Akzeptieren von «Fehlern» und Abweichungen.
Die Autoren propagieren «Durchsetzungslücken», denn: «Freiheit der Menschen basiert auch auf kollektiver beziehungsweise staatlicher Unwissenheit.» Ausserdem brauche es «analoge Enklaven», also Sperrzonen für Algorithmen. Das oft propagierte System des Human-in-the-Loop genügt den Autoren nicht, denn Menschen neigten dazu, KI-Vorschlägen zu folgen. Zudem reichen allgemeine Löschpflichten nicht länger, da immer umfangreicheres Trainingsmaterial verlangt wird und Daten in KI-Modellen und Risikomanagementsystemen weiterleben. Anders gesagt: Wer einmal einen Fehler macht, sollte nur einmal bestraft werden, nicht fürs ganze Leben.
