Lunch & Debate: Rettet KI die Verwaltungsdigitalisierung?

Niko Felger: Der öffentliche Sektor steht unter Druck. Nur 51 Prozent der Deutschen sind mit den Verwaltungsdienstleistungen zufrieden. Das sind 15 Prozentpunkte unter dem OECD-Durchschnitt. Im EU-Vergleich liegt Deutschland bei der Digitalisierung von Dienstleistungen im Mittelfeld – trotz milliardenschwerer Investitionen. Es braucht Fachkräfte, um den öffentlichen Sektor zu modernisieren, doch die fehlen. Im öffentlichen Dienst sind über eine halbe Million Stellen unbesetzt. Aufgrund des demografischen Wandels wird sich diese Entwicklung weiter zuspitzen. In den kommenden zehn Jahren werden mehr als eine Million Arbeitskräfte in den Ruhestand gehen, das entspricht mehr als einem Viertel der Belegschaft.

Der Staat muss befähigt werden, um seine grundlegenden Aufgaben erfüllen zu können. Künstliche Intelligenz ist ein Schlüsselinstrument, um zukunfts- und handlungsfähig zu bleiben.

Im internationalen Vergleich gibt es bereits Beispiele, wie der Einsatz von KI in der Ver­waltung praktisch aussehen kann. Im Jahr 2024 führte Frankreich ein KI-Assistenzsystem in einem Dutzend Ministerien ein. Das Ergebnis: Die Reaktionszeiten auf Bürgeranfragen sanken von fast drei Wochen auf drei Tage. Die Bürgerzufriedenheit stieg um 10 Prozentpunkte.

Magdalena Zadara: Der Einsatz von KI ist keine Alles-oder-Nichts-Entscheidung. (Empörtes Kopfschütteln) Deutsche Bürger:innen sind mit den öffentlichen Dienst­leistungen nicht zufrieden, doch die wirkliche Frage lautet: Kann uns künstliche Intelligenz wirklich helfen, dieses Problem zu lösen?

Mit einer strukturierten, zugänglichen öffentlichen Infrastruktur können KI-Systeme effektiv eingesetzt werden. Die Infrastruktur ist allerdings nicht ausreichend digitalisiert. Vieles geschieht noch immer auf dem Papierweg. Bevor wir uns von ungeprüften Tech­no­lo­gien vernebeln und ablenken lassen, müssen wir fundamentale Infrastrukturen aufbauen. Dazu gehören unter anderem die Registermodernisierung und die Struk­tu­rierung von Daten.

Niko Felger: Es bleibt uns keine Zeit zu warten: Der technologische Wandel wird unsere Welt in allen Lebensbereichen transformieren. Regierungen müssen die Hoheit über­neh­men und Künstliche Intelligenz nach liberaldemokratischen Werten gestalten. Ansonsten riskieren sie, dass sich Systeme etablieren, die nach kommerziellen, gar an­ti­de­mo­kratischen Interessen entworfen werden. Die Frage lautet also: Werden wir unsere Chance nutzen, diesen Wandel zu gestalten, oder werden uns Lösungen aufgezwungen, die von anderen Akteuren mit anderen Wertesystemen geprägt wurden?

Die Risiken sind real, wir müssen sie ernst nehmen. Doch wir tun das bereits. Artikel 22 der DSGVO verbietet vollständig automatisierte Entscheidungen, die eine rechtliche Wirkung entfalten. Das EU-KI-Gesetz schreibt zudem vor, dass KI-Systeme mit hohem Risiko so konzipiert sein müssen, dass sie vom Menschen wirksam überwacht werden können. Wenn Systeme Grenzen überschreiten, werden sie von Gerichten gestoppt. Im Jahr 2020 setzte ein niederländisches Gericht einen Sozialhilfe-Algorithmus wegen der Verletzung von Datenschutzrechten aus.

Magdalena Zadara: Aha – du sagst es doch selbst, KI-Systeme werden von Gerichten gestoppt! Die Technologien sind noch nicht reif für einen zuverlässigen Einsatz im Regierungshandeln. Der Staat muss rechtsstaatliche Prinzipien befolgen. Aktuell können wir einfach nicht garantieren, dass sich Technologien an Denk- und Demokratierahmen halten.

Bürger:innen haben in Deutschland das Recht, dass ihr Fall individuell beurteilt wird, das heißt „Einzelfallgerechtigkeit”. Für eine differenzierte Entscheidungsfindung, die kulturelle Hintergründe und menschliche Komplexität abbildet, müssten KI-Systeme extrem umfangreich trainiert werden. Der Ressourceneinsatz dafür wäre enorm! Wir müssen unsere Werte in KI-Systeme integrieren, damit sie eingesetzt werden können. Das ist der Grund dafür, dass der Staat bisher zurückhaltend gehandelt hat. Anstatt Bleeding-Edge-Technologien auf die Realität echter Menschen loszulassen, muss zunächst Forschung und Entwicklung betrieben werden – dafür bin ich doch auch.

Niko Felger: Die Einzelfallgerechtigkeit ist ein wichtiger Punkt. (Zustimmendes Nicken) Doch mit einer Audit-Protokollierung – also der detaillierten, unveränderlichen Auf­zeich­nung aller Aktivitäten und aller Faktoren, die in eine Entscheidung einfließen – lassen sich KI-Prozesse nachvollziehen, mit einer richtigen Aufsicht fundierte Entscheidungen treffen.

Und vor allem: Ungleichbehandlungen betreffen nicht nur KI! Menschen bringen diverse Hintergründe mit, gerade deshalb kommt es zu Unterschieden in Entscheidungsprozessen. Man nehme das deutsche Asylsystem: die Anerkennungsquote von Afghan:innen variiert je nach Bundesland zwischen 30,9 Prozent und 65 Prozent. Die Abwägungsgründe können allerdings nicht transparent nachvollzogen werden.

Bei existenziellen Entscheidungen braucht es den Menschen. Doch das Zusammenspiel aus Mensch und KI kann Entscheidungen transparenter und fairer machen und Un­gleich­be­handlung minimieren.

Wie KI sinnvoll eingesetzt werden kann, finden wir allerdings nicht in abstrakten Forschungslaboren heraus. Wir müssen Technologien mit der Realität konfrontieren! (Mit lauter, energischer Stimme)

Magdalena Zadara: (hebt mahnend Hand) Und genau hier liegt das Risiko. KI bekommt ausgesprochen viel Aufmerksamkeit und lenkt von grundlegenden Aufgaben ab. Es droht eine Verzögerung, weil die Modernisierung von Kernsystemen, wie Register oder Netz­werke, vernachlässigt wird.

Du kennst doch die MIT-Studie: 95 % der Organisationen, die in KI investieren, erzielen keinerlei Rendite. Interesse an KI besteht, aber die technischen Möglichkeiten, um Vorteile in der Breite zu realisieren, sind heute nicht gegeben.

Wir arbeiten mit sensiblen Bürgerdaten – diese sollten nicht wie Testobjekte behandelt werden. Bevor KI flächendeckend eingesetzt werden kann, sollte sie in einer kontrollierten Umgebung getestet werden. Die Aufmerksamkeit von Entscheider:innen muss vorerst auf zugrundeliegende Infrastrukturprobleme gelenkt und nicht in heute nicht realisierbare Versprechungen investiert werden.