Diskussionspapier "Einsatz von vertrauenswürdiger KI in Kommunen"

1. Treiber und erste Schlussfolgerung
Die Herausforderungen für die Kommunen sind vielfältig und komplex. Klimawandel, Migration und Integration, Wohnungs-, Arbeitskräftemangel und die kommunale Finanzsituation sind nur einige Beispiele. Fest steht: Die zu bewältigenden Aufgaben und Herausforderungen werden weiter anwachsen.
Der Arbeitskräftemangel und die kommunale Finanzsituation ragen dabei mit Blick auf die kommunale Leistungsfähigkeit heraus. Von genau dieser wird auch das Vertrauen der Menschen in die öffentlichen Institutionen abhängen. Deshalb müssen auf diese Herausforderungen Antworten gefunden werden.
Eine Antwort besteht darin, alle organisatorischen und technologischen Möglichkeiten auszuschöpfen, um die Handlungs- und Zukunftsfähigkeit eines leistungsfähigen Staates und damit auch leistungsfähiger Kommunen zu erhalten. Dies kann durch die Automatisierung von Prozessen geschehen. In diesem Zusammenhang ist der Einsatz von Künstlicher Intelligenz (KI) in den Kommunen ein möglicher Schlüssel zum Erfolg und muss aktiv angegangen werden. Dabei gilt, was für die Digitalisierung insgesamt gilt:
KI muss vertrauenswürdig und am Gemeinwohl orientiert eingesetzt und ausgerichtet werden.

2. Was ist KI und was war der „GameChanger“?
KI ist der Versuch, menschliches Denken und Handeln durch Maschinen nachzubilden. Das heißt, Maschinen werden in die Lage versetzt, Daten zu sammeln und daraus Schlüsse zu ziehen. Dabei konzentrieren sich die „Fähigkeiten“ der KI auf das Hören, Sehen, Analysieren und Entscheiden. Generell kann zwischen schwacher und starker KI unterschieden werden.
Schwache KI ahmt menschliche Fähigkeiten wie das Erkennen von Texten oder Bildern oder das Analysieren von Daten nach. Starke KI hingegen übertrifft menschliche Fähigkeiten. Derzeit handelt es sich jedoch um ein Forschungsfeld, das für Kommunen noch keine praktische Relevanz hat. Von der KI zu unterscheiden ist die einfache Automatisierung. Hier stehen einfache Wenn-Dann-Entscheidungen im Vordergrund. Hier besteht bereits ein enormes Potenzial für die Verwaltungsmodernisierung.

Der „Game Changer" für den Einsatz von KI war die Einführung der generativen KI “ChatGPT”. Generative KI kann neue Inhalte schaffen, indem Wahrscheinlichkeiten als Grundlage dafür verwendet werden, wie ein Mensch in bestimmten Situationen handeln würde. Aufgrund des großen Potenzials generativer KI wird sie in allen Branchen und in allen gesellschaftlichen Kontexten für große Veränderungen sorgen. Darauf müssen sich auch die Kommunen vorbereiten.

3. KI – heute und morgen
Durch den Einsatz von KI können Kommunen unterschiedliche Mehrwerte für die Bürger:innen und die Verwaltung selbst schaffen. Dazu gehören verbesserte Analysefähigkeiten, um bessere Entscheidungen zu treffen, Prozesse durch Automatisierung effizienter zu machen und Dienstleistungen für Kund:innen einfacher und inklusiver zu gestalten. Aktuell reicht der Einsatz von KI in Kommunen von Anwendungen zur Kommunikation mit Bürger:innen über Ampelschaltungen und Protokollierung von Ratssitzungen bis hin zur KI-gestützten Auszahlung von Sozialleistungen. Darüber hinaus werden Umwelt- und Geodaten vor dem Hintergrund des fortschreitenden Klimawandels zu einem wichtigen Analysefeld für KI. All dies sind erste wichtige „Fingerübungen“, um zu lernen und ein Bewusstsein innerhalb der Organisation zu schaffen.
Die eigentliche Transformation liegt jedoch nicht in isolierten KI-Anwendungen, sondern in einem integrierten Ansatz, bei dem KI unsere Arbeitsprozesse umfassend verbessert.
Dabei spielt das Zusammenspiel von Expert:innen-KI und generativer KI eine zentrale Rolle. Expert:innen-KI basiert auf explizitem menschlichem Wissen, das von Expert:innen in Form von Regeln und Logiken festgelegt wird. Diese Systeme sind darauf ausgerichtet, ganz bestimmte (Fach-)Aufgaben mit Hilfe des vordefinierten Wissens zu lösen. Ein Beispiel ist die Erfassung und Bewertung von Straßenzuständen oder die Prüfung von Anträgen. Generative KI kann über die gesamte Verwaltung universell in allen Wissensbereichen eingesetzt werden, um beispielsweise Pressemitteilungen im Bereich der Presse- und Öffentlichkeitsarbeit oder automatisierte Antwort-E-Mails zu erstellen.
Derzeit werden beide Ansätze häufig noch isoliert voneinander betrachtet. In Antragsprozessen können und werden beide Ansätze jedoch zukünftig miteinander verzahnt werden. Das heißt, eine Expert:innen-KI führt automatisiert Prüfungen und Berechnungen durch. Die integrierte generative KI liefert der/dem Sachbearbeiter:in automatisiert einen Text für den Bescheid oder für die Information des Antragstellenden bei z.B. fehlenden Informationen.

4. Bausteine zum Umgang mit KI und daraus abgeleitete Forderungen
Um die Potenziale im Sinne eines vertrauenswürdigen Einsatzes von KI zu heben und den Fokus auf das Gemeinwohl nicht zu verlieren, bedarf es eines systematischen Vorgehens. Folgende Aspekte sind dabei von besonderer Bedeutung.

a. Motivation und Antrieb: Klare Zielstellung
Die Motivation für den Einsatz von KI ergibt sich aus einer strategischen Ausrichtung und/oder der Lösung eines spezifischen Problems. Dabei gilt, dass der Einsatz von KI dazu dienen sollte, die Lebensqualität für alle Bürger:innen zu verbessern und soziale Ungleichheiten zu verringern. Das bedeutet, dass KI darauf ausgerichtet sein sollte, allen Menschen unabhängig von ihrem sozialen oder wirtschaftlichen Hintergrund gleiche Chancen und Zugang zu Dienstleistungen zu ermöglichen. Dies gilt analog für die Arbeit der kommunalen Beschäftigten. Ein inklusiverer Zugang zu kommunalen Dienstleistungen, schnellere Bearbeitungszeiten, die Entlastung von einfachen wiederkehrenden Tätigkeiten sind Beispiele dafür.
In diesem Zusammenhang spielen insbesondere Frei- und Experimentierräume eine zentrale Rolle. Dies gilt sowohl für die Verwaltung selbst als auch für die örtliche Gemeinschaft. In der Verwaltung und in der örtlichen Gemeinschaft können dies virtuelle und physische Experimentierräume sein, in denen Bürger:innen und Mitarbeitende KI-Systeme ausprobieren und/oder Erfahrungen dazu teilen können. Im Idealfall wird bei den physischen Räumen keine Differenzierung vorgenommen. Verwaltung und Kommune werden integriert betrachtet. Experimentierräume entstehen im Netzwerk mit sogenannten dritten Orten wie Bibliotheken, Volkshochschulen, Museen, Maker Spaces, City Labs. In der Verwaltung kommt der Aspekt der Regelungen über “Dienstvereinbarungen” hinzu. Diese sollten so ausgerichtet sein, dass sie Frei- und Experimentierräume schaffen. Sie sollten also nicht auf Verbote setzen, sondern zum Experimentieren einladen und ermutigen.

b. Transparenz
Entscheidungen, die auf KI-gestützten Analysen oder Algorithmen beruhen, müssen transparent gemacht werden. Die Bürger:innen sowie die Mitarbeiter:innen sollten nachvollziehen können, wie diese Entscheidungen zustande kommen und welche Auswirkungen sie haben können. Dazu gehört auch, dass Rechenschaftsmechanismen vorhanden sind, die sicherstellen, dass KI nicht zu diskriminierenden oder unfairen Ergebnissen führt. Die Ergebnisse müssen reproduzierbar und nachvollziehbar sein. Der Gleichheitsgrundsatz muss weiterhin gelten. Ermessensspielräume dürfen auch in Zukunft nur von den Mitarbeitenden genutzt werden.

c. Beteiligung
Die Einführung und Nutzung vertrauenswürdiger KI muss von einem partizipativen Prozess begleitet werden. Das gilt für die Bürger:innen und die Verwaltungsmitarbeiter:innen. Nur so kann sichergestellt werden, dass ihre Bedürfnisse und Bedenken angemessen berücksichtigt werden. Bürger:innenräte, Mitarbeiter:innenräte, Bürgerforen, öffentliche Anhörungen sind mögliche Instrumente. In der Verwaltung ist die Personalvertretung aktiv zu beteiligen.

d. Datennutzen, Datenschutz und Privatsphäre
Der Datenschatz der Kommunen, ihrer Unternehmen und Verwaltungen ist ein bislang nur unzureichend bestelltes Feld. Sie sind allerdings für den wirksamen Einsatz von KI die zentrale Ressource. Nur wenn diese Daten in geeigneter Qualität und Quantität vorliegen, können sie auch von KI genutzt werden. Beim Einsatz von KI in Kommunen müssen die Standards des Datenschutzes und des Schutzes der Privatsphäre eingehalten werden. Mitarbeiter:innen und Bürger:innen sollen die Kontrolle über ihre persönlichen Daten behalten und darauf vertrauen können, dass sie vor Missbrauch und unbefugtem Zugriff geschützt sind.
In diesem Zusammenhang spielt der AI-Act1 (europäisches KI-Gesetz) eine wichtige Rolle. Es definiert einen Rahmen, der den verantwortungsvollen Umgang mit KI fördert. Der AI-Act verfolgt einen risikobasierten Ansatz. KI-Systeme werden in vier Risikoklassen eingeteilt. An diesen müssen sich auch die Kommunen orientieren. Die Risikoklassen definieren Anforderungen an KI-Systeme. Von besonderem Interesse sind dabei die Systeme, die als besonders risikobehaftet eingestuft werden, da sie potenziell die Grundrechte von Menschen beeinträchtigen können. Die Risikoklasse 1 umfasst KI-Systeme, von denen ein minimales Risiko ausgeht. Ein Beispiel hierfür sind Spam-Filter. Die Risikoklasse 2 umfasst Systeme, von denen ein geringes Risiko ausgeht. Die KI-Anwendung birgt die Gefahr der Manipulation. Beispielsweise könnte den Nutzenden nicht bewusst sein, dass sie es mit einer Maschine zu tun haben. Ein Beispiel hierfür ist der Einsatz von Chatbots. In diesen Fällen besteht eine Transparenzpflicht. Ein hohes Risiko geht von KI-Systemen der Risikoklasse 3 aus. Die KI-Anwendung wirkt sich negativ auf die Sicherheit von Menschen oder deren Grundrechte aus. Beispiele für diese Risikogruppe sind kritische Infrastrukturen, Ausbildung/Personal und demokratische Prozesse. Risikogruppe 4 definiert Anwendungen mit einem inakzeptablen Risiko. Diese KI-Anwendungen stehen im Widerspruch zu den Werten der EU, weil sie Grundrechte verletzen, und dürfen daher nicht eingesetzt werden. Beispiele für diese Risikogruppe sind die staatliche Manipulation menschlichen Verhaltens und Social Scoring.

e. Stärkung der Schlüsselkompetenzen
KI-Anwendungen sind so zu gestalten, dass sie für alle Bürger:innen und Mitarbeitenden zugänglich sind, unabhängig von ihrem Bildungsstand oder ihrer finanziellen Situation. Zugleich sind in einer zunehmend digitalisierten Lebens- und Arbeitswelt Schlüsselkompetenzen, also Kompetenzen, über die mit Blick auf die Digitalisierung alle Mitarbeiter:innen und Bürger:innen verfügen sollten, zu entwickeln. Beispielsweise braucht es ein Bewusstsein dafür, dass KI maßgeblich von der ihr zugrundeliegenden Datenqualität abhängt und ihre Entscheidungen dadurch beispielsweise mit Vorurteilen belastet sein können. Außerdem wird es künftig noch wichtiger sein, Texte und Bilder kritisch zu hinterfragen. Nur so kann ein selbstbewusster und vertrauenswürdiger Umgang mit (neuen) KI-Technologien gewährleistet werden. Dies könnte bedeuten, dass Weiterbildungsmaßnahmen angeboten werden, um entsprechende Kompetenzen zu stärken und auf die Nutzung von KI-Anwendungen vorzubereiten. Damit einher geht ein umfassender Bildungsauftrag, der bereits im Kindesalter beginnt und im Sinne des lebenslangen Lernens im Erwachsenenalter endet. Hierzu können und sollten auch die bereits erwähnten Experimentierräume und Dritten Orte im Sinne der kommunalen Daseinsvorsorge genutzt werden. Gleichzeitig muss der Nutzen des Einsatzes von KI klar herausgestellt werden. Eine der Wirkungen könnte sein, dass die Mitarbeiter:innen mehr Zeit für die Bürger:innen gewinnen, z.B. für Beratung und Gespräche. Dies würde zu einem besseren gegenseitigen Verständnis beitragen und könnte das Verwaltungshandeln nachvollziehbarer machen.

f. Umstrukturierung
Der Einsatz von KI wird zu einer Umstrukturierung von Arbeitsplätzen führen. Neue Arbeitsplätze entstehen, aber bestehende Arbeitsplätze werden teilweise wegfallen. Es gilt, eine Balance zwischen Personalentwicklung und Arbeitsplatzsicherung zu finden. Besonderes Augenmerk ist dabei auf eine qualitative Personalplanung zu legen, die die Potenziale und Auswirkungen der Digitalisierung und des Einsatzes von KI aktiv berücksichtigt. Dies stellt eine große Herausforderung für das kommunale Personalmanagement dar.

5. Fazit
KI wird die Verwaltung verändern - vielleicht sogar revolutionieren. Die Anwendungsfelder sind vielfältig: Sie reichen von einer besseren Steuerung der Verwaltung, über Prozessverbesserungen bis hin zum Einsatz von KI im Rahmen einer vorausschauenden und proaktiven Verwaltung. Dieses ist ein attraktives und erstrebenswertes Zielszenario für die Kommunen, trotz der Gefahren, die eine falsch eingesetzte KI auch mit sich bringen kann.

Beschluss des Vorstandes der Bundes-SGK
vom 28. Juni 2024