Schlüsselwörter

1 Begriff

Der Begriff der künstlichen Intelligenz (Artificial Intelligence) ist seit seiner Prägung umstritten und prägt trotzdem die aktuelle Diskussion. Am 4. Dezember 2018 veröffentlichte die Bundesregierung ihre „Strategie Künstliche Intelligenz“, in der sie die öffentliche Verwaltung als eines von zwölf Handlungsfeldern identifizierte (Bundesregierung 2018, S. 1, 31). Nach der Arbeitsdefinition von Klaus Mainzer geht es bei künstlicher Intelligenz um Systeme, die „selbstständig effizient Probleme lösen“ können (Mainzer 2016, S. 3). Künstliche Intelligenz steht insofern für eine Forschungsfrage. Diese hat mittlerweile eine solche Bedeutung erlangt, dass sich eine Subdisziplin der Informatik mit ihr beschäftigt, welche im Laufe der Jahre verschiedene Technologien, Architekturen und Systeme hervorgebracht hat. Diese rückten zeitweise in den Vordergrund und wurden als Essenz oder eigentlicher Inhalt der KI-Forschung angesehen. Früher traf das auf Entscheidungsbäume und Expertensysteme zu, während heute insbesondere das maschinelle Lernen und künstliche neuronale Netze Konjunktur haben. Als künstliche neuronale Netze bezeichnet man ein mathematisches Modell, das sich durch Eingaben selbst verbessern kann. Alle diese Technologien, Systeme und Architekturen können als Antworten auf die Forschungsfrage verstanden werden. Ein System, das alle denkbaren Probleme allumfassend lösen kann, ist bisher nicht entwickelt worden. Deshalb ist die Forschungsfrage weiterhin relevant. Geprägt wurde der Begriff 1955 von vier Wissenschaftlern in einem Antrag an die Rockefeller Stiftung, dessen zentrale Passage auch heute noch bezeichnend ist:

„Die Studie soll auf der Grundlage der Vermutung durchgeführt werden, dass jeder Aspekt des Lernens oder jedes andere Merkmal der Intelligenz prinzipiell so genau beschrieben werden kann, dass eine Maschine zur Simulation hergestellt werden kann. Es wird versucht herauszufinden, wie man Maschinen dazu bringen kann, Sprache zu benutzen, Abstraktionen und Konzepte zu bilden, Arten von Problemen zu lösen, die heute dem Menschen vorbehalten sind, und sich selbst zu verbessern“ (McCarthy et al. 1955).

Es geht also um das selbstständige technische Lösen von Problemen. Das Besondere dieser Definition liegt in ihrer Offenheit. Tatsächlich handelt es sich bei KI um Querschnittstechnologien. Sie haben keinen bestimmten Zweck, sondern können mit vielen anderen technischen Einrichtungen und ferner in ganz verschiedenen Kontexten eingesetzt werden. Zum einen bedient sich die Informatik einer Reihe von Technologien zum Lösen von komplexen Problemen. Zum anderen sind auch die Einsatzmöglichkeiten in der soziotechnischen Wirklichkeit vielfältig. Künstliche Intelligenz wurde vom Ergebnis und nicht von der Technik her und als offene Forschungsfrage definiert. Welche Probleme das sind und auf welche Weise sie gelöst werden, ist grundsätzlich offen. Dieser essentielle und oft vernachlässigte Aspekt kann anhand des Datenschutzes illustriert werden: Auf der technischen Ebene kann es vorkommen, dass künstliche neuronale Netze anhand von personenbezogenen Daten trainiert werden. Im Gegensatz dazu kommen andere Technologien wie etwa Generative Adverserial Networks auch ohne das Training durch personenbezogene Daten aus. KI-Anwendungen können ebenfalls zu Gefahren für den Datenschutz führen. So können etwa intelligente Scraper Daten aus öffentlich zugänglichen Quellen extrahieren und selbstständig Profile bilden. Umgekehrt werden gerade KI-Anwendungen entwickelt, die die Datenschutzpräferenzen von Individuen abfragen und automatisiert in sozialen Netzwerken durchsetzen können.

Die unterschiedlichen Zwecksetzungen von künstlicher Intelligenz sind in der Informatik kontrovers diskutiert worden. Ein Teil des Diskurses stellte darauf ab, dass der Zweck von KI-Anwendungen Automation sei, also selbstständige Handlungen von Maschinen. Demgegenüber definierten andere Augmentation als Ziel von KI, also die Erweiterung menschlicher Fähigkeiten durch die Maschine.

2 Konzeptionelle Grundlagen

Ausgehend von der Frage nach der selbstständigen Problemlösung haben sich verschiedene Ansichten in der Informatik entwickelt. Die „starke KI-These“ versucht bis heute erfolglos, alle Aspekte des menschlichen Denkens durch KI nachzubilden und eine sogenannte „generelle künstliche Intelligenz“ zu formen. Demgegenüber fokussieren sich die Anhänger der „schwachen KI-These“ auf bestimmte Problemstellungen. Demnach soll künstliche Intelligenz immer nur bestimmte Probleme rational lösen. Technologien künstlicher Intelligenz spielen für viele Mode- und Trendbegriffe und andere Konzepte eine wichtige Rolle, ohne dass diese deckungsgleich sind. So bezeichnet der Begriff Big Data im Wesentlichen große Datenmengen. Große Datenmengen können für KI auf unterschiedlichen Ebenen eine Rolle spielen. Sie können zum Training von künstlichen neuronalen Netzen (KNN) verwendet werden. So werden KNN zum Beispiel trainiert, bestimmte Tiere auf Bildern zu erkennen, indem riesige Datensätze mit Tierbildern und Beschreibungen in das System eingespeist werden. Umgekehrt können KI-Anwendungen auch große Datenmengen produzieren, etwa wenn Bilder oder Texte erkannt werden. Komplexere Auswertungen großer Datenmengen werden ebenfalls durch KI-Anwendungen vorgenommen. Dabei kann KI insbesondere bestimmte Muster erkennen. Betont werden muss aber, dass KI keineswegs mit Big Data gleichzusetzen ist. Weder müssen Anwendungen notwendigerweise mit großen Datenmengen trainiert werden, noch muss sich KI auf die Auswertung großer Datenmengen beziehen. Ähnliches gilt für das sogenannte Internet der Dinge. Damit wird eine Technikvision von ubiquitär vernetzten Gegenständen bezeichnet. Diese können auch KI-Anwendungen enthalten, das ist aber keinesfalls notwendig. KI-Verfahren werden oft als Algorithmen (siehe hierzu den Artikel „Regulierung durch Algorithmen“) bezeichnet. Unter diesem Begriff versteht man eigentlich feste Verfahren zur Lösung eines Problems. Als Heuristiken werden richtigerweise Verfahren bezeichnet, die auf der Grundlage von Unsicherheiten und Wahrscheinlichkeiten Entscheidungen fällen.

Um KI-Systeme zu verstehen, werden sie oft nach dem Agenten-Modell dargestellt. Der Agent nimmt seine Umwelt über Sensoren wahr, verarbeitet diese Informationen und wirkt dann durch Aktorik auf seine Umwelt ein. Einen graphischen Überblick über Methoden, Technologien und Architekturen gibt das OEFIT-Trendsonar (Welzel und Grosch 2018) (Abb. 1):

Abb. 1
figure 1

OEFIT-Trendsonar. (Quelle: Welzel und Grosch 2018, S. 6 f.)

Full size image

Besonders das maschinelle Lernen sorgt nach wissenschaftlichen Durchbrüchen seit 2011 für eine zunehmende Verbesserung und Erweiterung der jeweiligen Systeme. Während wir uns in manchen Bereichen bereits daran gewöhnt haben, dass Maschinen den Menschen ersetzen und sogar übertreffen können, wurden in den letzten Jahren neue Bereiche für künstliche Intelligenz erschlossen: Auf Feldern wie der Umsetzung von Sprache in Text oder der Übersetzung oder der Bilderkennung haben KI-Anwendungen in den vergangenen Jahren große Fortschritte gemacht. Das macht sich auch im Bereich der Verwaltung bemerkbar. Zwar wird bereits seit den 1950er-Jahren über die Automatisierung der Verwaltung diskutiert, doch wie die untenstehenden Beispiele zeigen, kam es insbesondere in den letzten Jahren zu einer qualitativen und quantitativen Steigerung des Einsatzes von KI-Anwendungen.

In der jüngeren Vergangenheit widmete sich eine Vielzahl von Berichten und Strategien den Chancen und Risiken künstlicher Intelligenz. Chancen und Risiken von KI kann man allerdings nur richtig einordnen, wenn man den oben erwähnten Charakter von KI als Querschnittstechnologie ernst nimmt. Denn sowohl auf der Ebene der Entwicklung als auch auf der Ebene der soziotechnischen Einbettung bestehen so viele technische und soziale Optionen und Gestaltungsmöglichkeiten, dass es in vielen Fällen weniger um Chancen und Risiken von KI als solcher geht. Denn diese sind kontingent und hängen von ihrer Entwicklung, Verwendung und Einbettung ab. Elektrizität kann als Technologie diesen Querschnittscharakter veranschaulichen. Braunkohlekraftwerke oder Wasserkraftwerke haben bei der Produktion von Elektrizität ganz unterschiedliche Auswirkungen auf die Umwelt. Strom kann in Braunkohlekraftwerken oder Solaranlagen auf Dächern gewonnen werden. Elektrizität kann zum Betreiben medizinischer Geräte oder elektrischer Stühle verwandt werden. Genauso kann künstliche Intelligenz die Grundlage für Exoskelette für Schwerbehinderte oder für tödliche Waffensysteme sein. Es gibt zahlreiche Handlungs- und Gestaltungsmöglichkeiten von künstlicher Intelligenz in der öffentlichen Verwaltung. Nach tatsächlichen Entscheidungen richten sich auch Chancen und Risiken.

Natürlich hat die technische Entwicklung bestimmte Pfade eingeschlagen, die heute gewisse Chancen und Risiken als typisch erscheinen lassen (Mittelstadt et al. 2016). Diese Chancen und Risiken weisen jeweils auch die in der Verwaltung eingesetzten Systeme auf. Mit dem Einsatz von KI wird eine steigende Effizienz von Prozessen und mithin eine Kostenersparnis assoziiert, ferner eine steigende Effektivität, also eine Optimierung des Verhältnisses von eingesetzten Ressourcen und Ergebnissen. Entlastet werden sollen Menschen besonders von repetitiven „mechanischen“ Aufgaben, die unter dem Stichwort Massenverwaltung diskutiert werden. KI-Anwendungen werden im Vergleich zur menschlichen Erledigung eine hohe Zuverlässigkeit, Geschwindigkeit und eine permanente Verfügbarkeit zu Gute gehalten.

Was die Nachteile angeht, wird oft die mangelnde Transparenz der Systeme und die Nachvollziehbarkeit ihrer Entscheidungen moniert. Insbesondere künstliche neuronale Netze werden trainiert und entwickeln eigene Entscheidungsmodelle, die nicht ohne Weiteres eingesehen und verstanden werden können. Besonders bei Systemen, die Entscheidungen treffen oder empfehlen, kann dies Ungleichbehandlungen und Diskriminierungen zur Folge haben. Grund dafür kann zum Beispiel sein, dass die Daten, die zum Trainieren lernender Systeme benutzt werden, nicht repräsentativ sind. KI-Anwendungen kann auch die Sensitivität für bestimmte Kontexte fehlen, insbesondere wenn es zu unvorhergesehenen Fällen kommt, auf die die Anwendungen nicht trainiert wurden. Dies kann auch Anlass zu Lücken der IT-Sicherheit geben. Das autonome Erkennen von Straßenverkehrsschildern konnte etwa schon durch kleine Aufkleber auf diesen Schildern getäuscht werden. Ein weiterer Nachteil ist die Kehrseite der Effizienz- und Effektivitätssteigerung. Künstliche Intelligenz könnte dazu führen, dass es wesentlich weniger Möglichkeiten für Erwerbstätige bestehen. Voraussagen gehen davon aus, dass verschiedene Berufe größtenteils durch KI-Anwendungen ersetzt werden können. Das würde auch auf bestimmte Aufgaben der Verwaltung zutreffen, die heute noch von Sachbearbeiter∗innen erledigt werden.

3 Nutzung von KI in Staat und Verwaltung

Die Frage nach der Nutzung von künstlicher Intelligenz in Staat und Verwaltung lässt sich normativ und tatsächlich beantworten. Die normative Frage, ob und unter welchen Voraussetzungen KI eingesetzt werden soll, muss die rasante Technologieentwicklung und die vielen Alternativen ihrer soziotechnischen Einbettung beachten. Der Maßstab des gelungenen Einsatzes von künstlicher Intelligenz hängt also von einem soziotechnischen Vergleich ab. Dieser zielt darauf ab, den Zustand vor und nach der Digitalisierung unter einer umfassenden Berücksichtigung aller Vor- und Nachteile für Rechte und Interessen zu bewerten. Ein solcher soziotechnischer Vergleich wird oft nur auf der Basis von Experimenten und Studien möglich sein. Aus dieser Perspektive ist es etwa müßig, darüber zu streiten, ob Maschinen Entscheidungen über Menschen fällen können. Vielmehr ist zu fragen, an welcher Stelle in einem konkreten Prozess KI-Anwendungen eingesetzt werden können und welche Ressourcen zur Verfügung stehen, um die Entscheidungen zu prüfen und zu korrigieren. Gestaltungsmöglichkeiten bei Verfahren und Organisation sowie bei der Qualifikation der Mitarbeiter sind dabei ebenso wichtig wie die Technikgestaltung.

Schon in der heutigen Verwaltungspraxis im deutschsprachigen Raum werden zahlreiche Anwendungen von künstlicher Intelligenz eingesetzt, die komplexe Aufgaben übernehmen können. Dabei werden KI-Anwendungen zu ganz verschiedenen Zwecken genutzt. Dazu gehört etwa die Vorhersage von Risiken und Gefahren, die Überwachung des öffentlichen Raums und die Simulation zukünftigen Verhaltens.

Die Vorhersage von Gefahren und Risiken spielt seit jeher im Sicherheitsrecht eine große Rolle. Unter dem Stichwort „predicitive policing“ werden KI-Anwendungen zusammengefasst, die der Erkennung von polizeilichen Risiken und Gefahren dienen (Rademacher 2017). So können etwa ortsbezogene Risiken für Einbruchdiebstähle bestimmt werden. Hier werden beispielsweise in Deutschland die Systeme Precobs oder SKALA eingesetzt. Diese Systeme zeigen Risikostufen für verschiedene Bereiche an und übertragen sie auf Heatmaps. Bei der Planung von Streifenfahrten können Polizeibeamte besonders gefährdete Orte einbeziehen. Der österreichische Zoll konnte mit ähnlichen Analysen die Effektivität seiner Kontrollen steigern. In der Schweiz werden Anwendungen zur Vorhersage des Verhaltens bestimmter Personen genutzt. Systeme wie DyRiAS oder Octagon weisen Gewalttätern einen personenbezogenen Risiko-Score zu, der Grundlage für die Entscheidung über etwaige Gefährderansprachen ist. Im Steuerverfahren in Deutschland ist die Risikoerkennung durch KI bereits Teil des normalen Verwaltungsverfahrens geworden, insbesondere bei dem Risikomanagementsystem „Veranlagung 2.0“, das entscheidet, wer seine Belege zur Steuerprüfung einreichen muss.

Künstliche Intelligenz kann mittels Videotechnik auch zur Identifikation und Authentifizierung von Personen verwendet werden. Bereits im Einsatz ist das sog. Easypass-System, eine automatisierte Grenzkontrolle, die Reisepässe scannt und sie mit dem Gesicht des Reisenden abgleicht. So ist eine schnelle Authentifizierung möglich. Nach einem automatischen Datenbankenabgleich kann die Einreise gestattet werden. Getestet wird am Berliner Bahnhof Südkreuz die Möglichkeit, Videoüberwachung mit einer Gesichtserkennung auszustatten, sodass gesuchte Personen automatisiert identifiziert werden können. In jüngerer Zeit haben sich KI-Anwendungen auch beim Erkennen von sozialen Situationen ausgezeichnet. So können beispielsweise Verkehrsunfälle auf vielbefahrenen Straßen automatisch erfasst und an die betreffende Leitstelle gemeldet werden. Intelligente Videotechnik kann mittlerweile auch Handlungen von Menschen erkennen. Dies wird in Mannheim getestet. Mit dem Projekt „Mannheimer Weg 2.0“ sollen automatisch bestimmte Bewegungsmuster wie etwa Schlagen oder Fallen registriert und einem Mitarbeiter gemeldet werden, um die Innenstadt sicherer zu machen.

Im Rahmen von Videoüberwachung wird künstliche Intelligenz zur Anonymisierung eingesetzt. So können etwa Kamerasysteme, die freien Parkraum überwachen sollen, datenschutzfreundlich ausgestaltet werden. Denn der Personenbezug von Daten kann ausgeschlossen werden, wenn Nummernschilder oder Gesichter von Fahrern unkenntlich gemacht werden.

KI-Anwendungen werden zudem in der Verkehrslenkung eingesetzt. Insbesondere intelligente Verkehrsbeeinflussungsanlagen auf Fernstraßen nehmen über Sensoren verschiedene Daten wahr und regeln auf dieser Basis den Verkehr, etwa indem sie Überholverbote oder Geschwindigkeitsbegrenzungen anzeigen. Hier werden heute schon automatisiert Verwaltungsakte (Allgemeinverfügungen) erlassen. Wie die Verwaltungspraxis unten zeigt, wird sowohl für interne als auch für externe Angelegenheiten zunehmend auf automatische Entscheidungsfindung zurückgegriffen. Automatisiert werden hierbei insbesondere strukturierte Entscheidungen der Massenverwaltung, die ohnehin stark vorgeprägt sind, etwa durch Verwaltungsvorschriften. Dies schlägt sich im Moment insbesondere in der Sozial- und der Steuerverwaltung nieder, wo verschiedene Entscheidungen automatisiert werden.

KI-Anwendungen zur Simulation zukünftigen Verhaltens verschiedener Akteure finden z. B. in den Bereichen Verkehrssteuerung, Bevölkerungsschutz und Katastrophenvorsorge Anwendung. Durch KI lässt sich beispielsweise simulieren, wie sich Straßenbaumaßnahmen auf den Verkehr auswirken. Ebenso kann die Auswirkung von Naturkatastrophen simuliert werden.

Auch verwaltungsintern gibt es bereits zahlreiche Anwendungsfelder von künstlicher Intelligenz. Ein Bereich, in welchem dies sehr ausgeprägt ist, ist die IT- und Cybersicherheit. Komplexe Angriffe werden in der Regel durch Systeme aufgedeckt, die Anomalien erkennen können. Das Bundesamt für die Sicherheit in der Informationstechnik (BSI) hat 2018 ein eigenes Referat für künstliche Intelligenz eingerichtet. In den Behörden können auch die meisten KI-Anwendungen verwendet werden, die für das Büroumfeld von Organisationen in Wirtschaft oder Wissenschaft entwickelt wurden: von der Spracherkennung für Diktiersysteme bis zur Nutzung von Suchmaschinen. Die Aufgaben, die verwaltungsintern Suchmaschinen zukommen, werden im Außenverhältnis als e-Discovery bezeichnet: KI-Technologien ermöglichen das rasche Durchsuchen von großen Datenbeständen. Dies spielt insbesondere dort eine Rolle, wo die Verwaltung die Befugnis zur Durchsuchung von Datenbeständen besitzt, wie etwa in der Strafverfolgung oder in kartellrechtlichen Verfahren.

Auch in der Kommunikation der Verwaltung mit dem Bürger kommen KI-Anwendungen zum Einsatz. Für Anfragen von Bürger∗innen werden Chatbots als weitere Alternative zur Verfügung gestellt, die bestimmte Fragen im Rahmen von Konversationen beantworten können. Die Systeme stehen rund um die Uhr zur Verfügung und haben Schnittstellen zu Messenger-Diensten. Solche Chatbots werden zum Beispiel vom Land Berlin eingesetzt. Auch in anderen Kommunen werden Systeme getestet wie etwa der Chatbot „Botty Bonn“, der „WienBot“ oder der „Kumpel Krefeld“. Im Bürgerbüro Ludwigsburg und der Stadtbibliothek Köln werden Serviceroboter getestet, die Bürger∗innen je nach ihrem Anliegen den Weg weisen oder sie sogar zum richtigen Ort begleiten.

4 Rechtliche Aspekte

Die Rolle des Rechts bei KI-gestützten Verwaltungsreformen darf nicht auf seine begrenzende Funktion reduziert werden. Grundsätzlich kann das Verhältnis der Funktion des Rechts zur Technik mit den Schlagworten „Grund, Grenze und Gestaltung“ umschrieben werden (Djeffal 2017, S. 811). Als Grund fungiert das Recht immer dann, wenn es zur Anwendung der Technologie motiviert oder sogar verpflichtet. Im menschenrechtlichen Bereich zeichnen sich bereits einige Pflichten ab, die einen Einsatz von KI-Anwendungen in der öffentlichen Verwaltung motivieren oder sogar verpflichtend vorschreiben können. Art. 4 Absätze g und h des UN-Behindertenrechtsübereinkommens enthält eine Technologieklausel, in der sich die Mitgliedsstaaten u. a. verpflichten, inklusive Informations- und Kommunikationstechnologien zu fördern und zur Verfügung zu stellen. So können Systeme mit Bilderkennung und Sprachausgabe Blinden schon heute situativ helfen, indem bestimmte Bildausschnitte etwa einer Handykamera beschrieben werden. Die Charta der Grundrechte und Grundfreiheiten der Europäischen Union postuliert in Art. 41 ein Recht auf eine gute Verwaltung. Dies umfasst laut Abs. 1, dass „Angelegenheiten … der Union unparteiisch, gerecht und innerhalb einer angemessenen Frist behandelt werden“. Es ist sehr gut denkbar, dass dies auch die Einbindung von KI-Anwendungen umfasst, wenn diese entsprechende Vorteile bieten.

Die begrenzende Funktion des Rechts gegenüber der Technologie ist die Geläufigste. Was automatisierte Entscheidungen angeht, findet diese begrenzende Funktion allgemeinen Ausdruck in § 54 des Bundesdatenschutzgesetzes (BDSG), in Art. 22 der Datenschutzgrundverordnung (DSGVO) und in § 35a des Verwaltungsverfahrensgesetzes des Bundes (VwVfG). Den weitesten Anwendungsbereich hat dabei § 35a VwVfG, der sich auf den Erlass von Verwaltungsakten bezieht. Demgegenüber regeln Art. 22 DSGVO und § 54 BDSG nur nachteilige Entscheidungen, diese Vorschriften sind ferner nur bei der Verarbeitung personenbezogener Daten anwendbar. Allen Vorschriften gemein ist, dass es eine rechtliche Grundlage bzw. einen Erlaubnistatbestand für den betreffenden Fall geben muss. Die Grenzen müssen damit unter Wahrung der Rechte und Interessen der Einzelnen für bestimmte Anwendungen oder Arten von Anwendungen ausgelotet werden.

Dies wird es notwendig machen, dass diese Rechte und Interessen der Adressaten von Entscheidungen bereits bei der Entwicklung der Technologie berücksichtigt werden. Hier kann das Recht eine weitere Funktion entfalten, wenn es zur Technikgestaltung fruchtbar gemacht wird. Während im Datenschutzrecht und im IT-Sicherheitsrecht bereits entsprechende Pflichten bestehen, lässt sich dies gedanklich auf weitere Bereiche ausweiten. In ihrer Strategie zur künstlichen Intelligenz fordert die Europäische Kommission etwa auch zentrale Elemente wie Rechtsstaatlichkeit, Demokratie und Grund- und Menschenrechte bei der Gestaltung von KI-Systemen zu berücksichtigen. Diese Forderung erfordert ebenfalls eine umfassende Folgenabschätzung (Nemitz 2018, S. 18–19).

5 Perspektiven für Staat und Verwaltung

Schon auf dem heutigen Stand der technischen Möglichkeiten zeigt sich das Potenzial von KI-Technologien, die tradierte Verwaltung grundlegend zu verändern. Diese neue Verwaltung, an der künstliche Intelligenz einen großen Anteil hat, wird als „Smart Government“ bezeichnet (Lucke 2016). Basierend auf Querschnittstechnologien geben KI-Anwendungen aber nicht per se Zwecke oder Richtungen vor (Djeffal 2018, S. 9, 14). Daraus erwachsen große Chancen, die Entwicklung von KI-Technologien und die Bedingungen ihrer Anwendungen in Staat und Verwaltung zu beeinflussen. Diese Gestaltungschancen der Verwaltung bestehen auf verschiedenen Ebenen.

Auf der technischen Ebene kann die Verwaltung im Rahmen einer sog. Metagovernance Maßstäbe setzen, die sich auch auf andere Akteure auswirken. Eine solche Vorbildwirkung könnte die Verwaltung z. B. im Bereich der IT-Sicherheit erzielen. Aber auch indirekt können öffentliche Verwaltungen einen großen Einfluss ausüben, insbesondere über die Vergabe von Aufträgen. Über die Definition von Anforderungen und Vergabekriterien kann die Verwaltung faktische Standards setzen. Besonders in Ländern, die ihre Vergaben im Bereich der IT bündeln oder sich intensiv über Vergabekriterien austauschen, konnte die Durchsetzung höherer Standards erreicht werden.

Bei den tatsächlichen Anwendungen von künstlicher Intelligenz in der öffentlichen Verwaltung geht es um die soziotechnische Einbettung der Systeme. Die Technik muss bewusst gestaltet und in das individuelle und gesellschaftliche Leben eingefügt werden. Ein wichtiges Thema ist dabei, wie Bürger in diese Prozesse eingebunden werden. Schon heute gibt es in unterschiedlichen Verwaltungszweigen verschiedene Möglichkeiten der Information, Partizipation, Mitbestimmung und Mitgestaltung. Gelungene Entwicklungen setzen in jedem Fall Räume für Experimente und Erprobung der Technik voraus. In dieser Hinsicht könnten sich der föderale Staatsaufbau und die kommunale Selbstverwaltung als Vorteil herausstellen.

Im unternehmerischen Umfeld wird die Beteiligung von Nutzergruppen besonders auch als Anregung zu kreativen Lösungen und zur Förderung der Akzeptanz verwandt. Denn insbesondere die Akzeptanz hängt nicht nur mit der Funktionsfähigkeit der jeweiligen Anwendungen zusammen, auch das Vertrauen der handelnden Personen und der Bevölkerung hat einen großen Einfluss. In manchen Verwaltungszweigen ist der Einsatz von automatischen Einrichtungen nur stückweise durch die Medien öffentlich geworden. Hier wurde besonders deutlich, dass ein transparenter Umgang Akzeptanz und Vertrauen schaffen kann. Dies ist auch deshalb notwendig, weil der Verwaltung durch künstliche Intelligenz mehr Handlungsmöglichkeiten und auch mehr Handlungsmacht zukommt. KI-Systeme können permanent, ubiquitär und automatisch eingesetzt werden. Sie können Menschen nicht nur bei der Erfüllung von Aufgaben ersetzen, sondern in manchen Bereichen übermenschliche Fähigkeiten entwickeln. Vor diesem Hintergrund sind Transparenz, Offenheit und Möglichkeiten zur Mitbestimmung oder Beteiligung auch aus demokratischen Gründen geboten.

Schon heute wird die Debatte um die Chancen und Risiken von KI wesentlich von der öffentlichen Verwaltung geprägt. Das an anderer Stelle näher erläuterte „Social Credit Score“– System Chinas ist ein Beispiel (siehe hierzu den Artikel „Regulierung durch Algorithmen“). US-amerikanische Systeme zur Unterstützung von Strafrichtern, bei denen KI-Anwendungen Rückfallwahrscheinlichkeiten berechnen, werden für Entscheidungen zu Bewährung und Hafterleichterung herangezogen. Dem System konnten eine limitierte Funktionsfähigkeit und eine diskriminierende Wirkung gegenüber ethnischen Minderheiten nachgewiesen werden. Während bisher eher negative Auswirkungen der Verwaltungspraxis öffentlich diskutiert wurden, werden eine Reihe von positiven Beispielen in der jüngeren Debatte unter dem Schlagwort „AI for good“ zusammengefasst. Dabei geht es um KI-Anwendungen, die gezielt dazu eingesetzt werden, besondere Missstände und Probleme anzugehen. Im Lichte dieser internationalen „Großwetterlage“ wird die öffentliche Bewertung von KI-Anwendungen in der Verwaltung auch davon abhängen, ob hier ein eigener – vielleicht europäischer Ansatz – gefunden werden kann, der den KI-gestützten Reformvorhaben Profil und Leitbild gibt.

Wie bei der Verwaltungsdigitalisierung allgemein, werden auch beim zunehmenden Einsatz von KI-Anwendungen die positiven Effekte dort am größten sein, wo man bestehende Prozesse nicht einfach abbildet, sondern vor dem Hintergrund technischer Möglichkeiten neu erprobt und neu denkt. Dies erfordert an vielen Stellen, dass man sowohl Verwaltungsverfahren als auch Verwaltungsorganisation entsprechend gestaltet. Wenn etwa Art. 22 DSGVO ein Recht zur Überprüfung automatisierter Entscheidungen verleiht, muss im Verwaltungsverfahren darauf geachtet werden, wie dieses Recht verfahrensmäßig effektiv umgesetzt werden kann. Ein wichtiger Teil dieser Umsetzung hängt auch von den organisatorischen Voraussetzungen ab. Denn eine sinnvolle menschliche Prüfung erfordert eine entsprechende Befähigung der Behörden, Entscheidungen automatischer Einrichtungen verstehen, kritisieren und prüfen zu können. Von der Schulung der Mitarbeiter∗innen bis hin zur organisatorischen Einbettung in speziellen Einheiten oder sogar Behörden, gibt es viele Handlungsmöglichkeiten und auch -notwendigkeiten. Wichtig ist es insbesondere, den entsprechenden Sachverstand in den jeweiligen Behörden zu verankern.

Wie sich KI-Anwendungen in Staat und Verwaltung niederschlagen, hängt deshalb auch nicht zuletzt von den Zwecken ab, die mit künstlicher Intelligenz verfolgt werden. Im internationalen Vergleich zeigt sich, dass kosten- und effizienzgetriebene Automatisierungsprozesse fehlschlugen und am Ende sogar zu Kostensteigerungen führten, wie etwa beim australischen „Centrelink-Skandal“. Hier wurden in Australien automatisiert Bescheide zur Rückzahlung von Sozialhilfeleistungen an Bürger∗innen versandt, wenn sich ein Widerspruch zwischen verschiedenen Datenbanken ergab. Das System war allerdings sehr fehleranfällig und es waren nicht genug Prüfungen vorgesehen, die Fehler verhinderten. Über 20.000 Bescheide mussten in kurzer Zeit aufgehoben werden, es bestand auch eine hohe Dunkelziffer an Menschen, die sich nicht effektiv wehren konnten. Als Querschnittstechnologie gibt KI der Verwaltungsreform allerdings gerade keine Zwecke vor, sondern schafft neue Möglichkeiten. Bei der Realisierung dieser Möglichkeiten sind Grundsätze der Grund- und Menschenrechte, der Rechtsstaatlichkeit und der Demokratie nicht darauf beschränkt, den äußeren Rahmen der Verwaltungsreform durch KI zu bilden. Sie können vielmehr zum Movens und zu zentralen Zwecken selbst erhoben werden. Die Offenheit von KI-Technologien und die vielfältigen Möglichkeiten, die sie bieten, können Regierung und Verwaltung genauso zur Treiberin wie zur Getriebenen im Reformprozess machen.