Die Potenziale von Künstlicher Intelligenz für die öffentliche Verwaltung nutzen

I. Ausgangslage

Nahezu täglich kommen neue KI-basierte Programme auf den Markt, die einen erheblichen Einfluss sowohl auf unser gesellschaftliches Leben als auch die Wirtschaft haben. Auch die öffentliche Verwaltung kann von diesem Bestandteil der digitalen Transformation profitieren. KI, Maschinelles Lernen und die nächsten Stufen der Automatisierung bieten die einzigartige Möglichkeit, Effizienz, Transparenz und Serviceorientierung der öffentlichen Verwaltung zu steigern und damit eine wichtige Rolle im laufenden Modernisierungsprozess von Staat und Verwaltung einzunehmen. Mit ihrer Hilfe können Verwaltungsprozesse, etwa durch automati­sierte Datenanalyse, Vorhersagemodelle und standardisierte Entscheidungsunterstützung, ef­fizienter gestaltet werden.

Angesichts eines zunehmendem Fachkräftemangels sowie vor dem Hintergrund des demo-grafischen Wandels, ist eine Anpassung der Rahmenbedingungen auch für die öffentliche Ver­waltung unumgänglich. KI, Maschinelles Lernen und die nächsten Stufen der Automatisierung können helfen, Verfahren zu beschleunigen und Mitarbeiterinnen und Mitarbeiter zu entlasten, damit sie mehr Zeit zum Beispiel für komplexere Verwaltungsaufgaben haben. Des Weiteren bietet KI das Potenzial, die öffentliche Verwaltung benutzerfreundlicher und einfacher zu ge­stalten. So können beispielsweise Chatbots die Bürgerinnen und Bürger bei ihren Anliegen unterstützen. Dies würde die Leistungsfähigkeit der Verwaltung erhöhen und zudem Mitarbei­terinnen und Mitarbeiter weiter entlasten. Das kann zu höherer Zufriedenheit bei den Bürge­rinnen und Bürgern und innerhalb der Verwaltung beitragen.

Die digitale Transformation kann nur gelingen, wenn die Voraussetzungen dafür geschaffen werden. Die teilweise und anteilige Übertragung von Aufgaben der Mitarbeiterinnen und Mit­arbeitern der Verwaltung auf KI bedarf eines neuen Verständnisses von Verantwortung. Das Zusammenspiel von Mensch und Maschine ist nicht nur eine technische Herausforderung, sondern geht mit ethischen, rechtlichen und politischen Fragen einher, die im Rahmen eines gesamtgesellschaftlichen Diskurses beantwortet werden müssen. IT-Sicherheit und Daten­schutz müssen bei der Entwicklung und beim Einsatz von KI einen hohen Stellenwert einneh­men. Die rasanten technischen Entwicklungen, die trotz aller Dynamik noch ganz am Anfang stehen, brauchen rechtliche Leitplanken, welche für einen sicheren Umgang wichtige Grenzen setzen und Innovationen nicht verhindern.

Auf europäischer Ebene ist eine Verordnung des Europäischen Parlaments und des Rates zur Festlegung harmonisierter Vorschriften für Künstliche Intelligenz (Gesetz über Künstliche In­telligenz) und zur Änderung bestimmter Rechtsakte der Union (sog. AI Act) erarbeitet.AI Act) erarbeitet.AI Act) erarbeitet worden. Das Europäische Parlament hat ihr am 13. März 2024 zugestimmt. Eine Billigung durch den Ministerrat wird zeitnah erwartet, sodass die Verordnung in Kürze in Kraft treten wird. Der Geltungsbeginn ist für einzelnen Regelungen gestaffelt über einen Zeitraum von drei Jahren nach Inkrafttreten vorgesehen – für erste Bestandteile bereits nach sechs Monaten. Da auch die öffentliche Verwaltung in den Anwendungsbereich des AI Acts und seinen gestaffelten Geltungsbeginn einbezogen ist, steht eine Regulierung diesbe­züglich unmittelbar bevor. Ob zusätzliche oder davon abweichenden Regelugen durch den Landesgesetzgeber für die Landesverwaltung erforderlich erscheinen und rechtlich zulässig sind, bedarf vor dem Hintergrund der unmittelbaren und verbindlichen Wirkung der Verordnung einer dezidierten Auseinandersetzung.

Doch es reicht ohnehin nicht, nur die rechtlichen und gesellschaftlichen Rahmenbedingungen für die Entwicklung und den Einsatz von KI zu schaffen. Auch die Verwaltung selbst muss sich auf den Einsatz von KI weiter vorbereiten. Nur vollständig und medienbruchfrei digitalisierte Prozesse können bestmöglich automatisiert und KI-unterstützt angepasst werden. Viele Ver­waltungsprozesse befinden sich derzeit noch in der Phase der Digitalisierung. Hier geht es nicht nur darum, diese Verfahren schlicht zu digitalisieren, sondern auch darum, Mitarbeiterin­nen und Mitarbeiter für die Potenziale der digitalen Transformation zu sensibilisieren und sie mitzunehmen. Dazu gehört, dass Prozesse nicht eins zu eins ins Digitale übersetzt werden, sondern zuvor auch organisatorisch evaluiert und sodann insgesamt optimiert werden,

Dabei sind auch die Besonderheiten der öffentlichen Verwaltung im Blick zu behalten. KI ist stets menschenzentriert und werteorientiert zu gestalten. Der Schutz von persönlicher Freiheit, Selbstbestimmung und Integrität sowie von Demokratie und gesellschaftlichem Zusammenhalt sind zu wahren und zu fördern und die digitale Souveränität Deutschlands und Europas zu stärken. Insbesondere muss daher sichergestellt werden, dass KI mit den Datenschutzregeln in Einklang steht und dass die Server für die Anwendungen europäischem und deutschem Recht unterliegen.

Dies ist auch wichtig für Aspekte der IT-Sicherheit. Das Bundesamt für Sicherheit in der Infor­mationstechnik stellt in seinem aktuellen Bericht zur Lage der IT-Sicherheit in Deutschland fest, dass KI selbst angreifbar ist und eine Schwachstelle sein kann. Unter anderem die Un­schärfe im Design stelle das Schwachstellenmanagement vor nie da gewesene Herausforde­rungen.

Insgesamt bietet die Integration von KI, Maschinellem Lernen und Automatisierung in die Ver­waltung enormes Potenzial, um die Arbeitsweise von Behörden weiterzuentwickeln, Abläufe zu optimieren und die Servicequalität für die Bürgerinnen und Bürger zu steigern. Die intelli­gente und verantwortungsbewusste Anwendung von KI stärkt unsere Verwaltungsstrukturen. Es gilt so eine robuste und zukunftsorientiertere öffentliche Verwaltung zu gestalten.

II. Beschlussfassung
Der Landtag stellt fest:

• Künstliche Intelligenz, Maschinelles Lernen und die nächsten Stufen der Automatisie­rung haben ein großes Potenzial die Digitalisierung der öffentlichen Verwaltung so zu unterstützen, dass sie bürgernäher, effizienter, verlässlicher und nachvollziehbarer wird. Aber Digitalisierung darf kein Selbstzweck sein. Künstliche Intelligenz sollte in der Ver­waltung nur dort eingesetzt werden, wo ein echter Mehrwert besteht. Dabei ist auch hier, wie bei Soft- und Hardware insgesamt ein größtmögliches Maß an digitaler Souveränität des Landes zu gewährleisten.
• Wo Gesetze und Vorschriften menschlichen Ermessensspielraum vorsehen, darf dieser nicht von KI vollständig übernommen werden. Auch sozialprofessionelle Interaktionen dürfen nicht unterlaufen werden.
• Mit Hilfe von KI, Maschinellem Lernen und den nächsten Stufen der Automatisierung können Arbeitsabläufe der öffentlichen Verwaltung wirtschaftlich digitalisiert oder unter­stützt werden, so dass sich für alle Beteiligten Zeit und Aufwand reduzieren.
• KI, die dort eingesetzt wird, wo sie unmittelbare Auswirkungen auf Menschen haben kann, muss hohe Anforderungen erfüllen. Digitale Systeme müssen vertrauenswürdig, transparent und diskriminierungsfrei sein. Es muss sichergestellt werden, dass am Ende Menschen die wesentlichen Entscheidungen treffen können, die andere Menschen un­mittelbar betreffen. Zudem müssen die Sicherheit der Daten, das Recht auf informatio­nelle Selbstbestimmung und der Datenschutz gewährleistet sein. Personenbezogene o­der andere vertrauliche Informationen dürfen nur von KI verarbeitet werden, wenn es sich um Anwendungen der öffentlichen Verwaltung handelt, die auf vertrauenswürdigen Servern liegen.
• Die Entwicklung von KI in der Verwaltung ist ohne effektive Dienstleister nicht denkbar.

Der Landtag beauftragt die Landesregierung, aus vorhandenen Mitteln:

• KI-Projekte für den Einsatz in der öffentlichen Verwaltung zu fördern, die in Zusammen­arbeit mit Wissenschaft sowie Mitarbeiterinnen und Mitarbeitern der Verwaltung entwi­ckelt werden. Dabei sollen auch geeignete technische und organisatorische Vorkehrun­gen gegen den sogenannten Automation Bias entwickelt und getroffen werden.
• in Zusammenarbeit mit Bund, Ländern und Kommunen eine Strategie für den Einsatz von KI-Systemen in der öffentlichen Verwaltung in Nordrhein-Westfalen zu erarbeiten. Dazu gehört auch die digitale Aktenführung in der Landesverwaltung zu vereinheitlichen und weiterzuentwickeln, damit KI auf einer größeren Datenbasis trainiert und in mög­lichst vielen Verwaltungseinheiten für die gleichen Aufgaben eingesetzt werden kann.
• Kooperations- bzw. Nachnutzungsmöglichkeiten (EfA-Prinzip) vorhandener KI-Entwick­lungen oder KI-Projekte mit den anderen Bundesländern oder dem Bund zu prüfen.
• einen rechtlichen Rahmen für den Einsatz von KI in der öffentlichen Verwaltung zu ent­wickeln unter Berücksichtigung der unmittelbar bevorstehenden Regulierung durch den EU-Gesetzgeber
• ein besonderes Augenmerk auf den Einsatz dokumentenorientierter KI auf Basis Großer Sprachmodelle zu richten und dabei die Einrichtung von KI-Nutzungsmöglichkeiten unter Berücksichtigung ressortspezifischer Anforderungen (insbesondere Innere Sicherheit, Justiz und Finanzen) zu forcieren.
• die herausragende Expertise der KI-Forschung und die dafür notwendigen KI-Kapazitä­ten, nach Möglichkeit in zentralen Infrastrukturen zur Sicherstellung von Effizienz- und Skaleneffekten, in Nordrhein-Westfalen weiter zu stärken, gerade auch mit Blick auf An­wendungsmöglichkeiten für die öffentliche Verwaltung
• weiterhin zu prüfen, welche Chancen KI, darunter die Nutzung von Large Language Mo­dels, im Bereich der öffentlichen Verwaltung für beschleunigte und vereinfachte Verwal­tungsverfahren bietet. Grundlage dafür ist, dass Verwaltungsverfahren bereits vor der Digitalisierung möglichst optimiert, vereinfacht und an die Bedürfnisse der Bürgerinnen und Bürger angepasst werden.
• den bereits etablierten KI-Austausch zwischen den obersten Landesbehörden weiter zu institutionalisieren, u. a. um Erfahrungen auszutauschen und Synergien bei der gemein­samen Nutzung von KI-Technologien sicherzustellen.
• öffentliche Rechenzentren der Landesverwaltung zum einen und der Kommunen zum anderen zu stärken, resiliente Rechenzentrumsverbünde zusammenzubringen und wei­terzuentwickeln, damit über diese Systeme KI-Anwendungen für die öffentliche Verwal­tung arbeiten und weiterentwickelt werden können.
• Zu prüfen, einen leistungsstarken Knoten in der Deutschen Verwaltungs-Cloud aufzu­bauen, der von den resilienten Rechenzentrumsverbünden gemeinsam aufgespannt wird, KI-ready ist und ressortübergreifend genutzt werden kann.
• sich dafür einzusetzen, dass bei Entscheidungen, die anhand von messbaren und klar definierten Kriterien getroffen werden können, der vermehrte Nutzen von KI-Systemen zum Tragen kommt. Damit das Potenzial von KI und Automatisierung für die Datenver­arbeitung gehoben werden kann, müssen Daten in den Verwaltungen in geeigneter Form gespeichert werden. Dafür muss das Prinzip der E-Akte perspektivisch weiterent­wickelt werden, damit die Informationen mittels KI verarbeitet und mit enthaltenen per­sonenbezogenen Daten oder andere vertrauliche Informationen zuverlässig umgegan­gen werden kann.
• in Zusammenarbeit mit den kommunalen Spitzenverbänden, dem Landesbetrieb IT.NRW, dem Center for Advanced Internet Studies und weiteren Akteuren Fortbildun­gen zum Thema KI für Mitarbeiterinnen und Mitarbeiter der öffentlichen Verwaltung zu erarbeiten und anzubieten, die alle Aspekte rund um die Nutzung und den Einsatz von KI beinhalten.
• den KI-Einsatz in der Verwaltung in geeigneter Art und Weise möglichst vollständig und öffentlich zu dokumentieren. Die Informationen dazu müssen transparent und breit ver­ständlich sein.
• die Entwicklung von KI-Anwendungen für die öffentliche Verwaltung und den Einsatz von Anwendungen aus den Bereichen KI, Maschinelles Lernen und Automatisierung für die öffentliche Verwaltung begleitend wissenschaftlich zu evaluieren.
• gemeinsam mit IT.NRW geeignete KI-Instrumente für die Nutzung innerhalb der Verwal­tung und auch als Serviceangebot für Bürgerinnen und Bürger sowie Unternehmen zu identifizieren, nutzbar zu machen, anzupassen und ggf. zu hosten. Zudem entwickeln die IT-Dienstleister der Fachressorts Innovationen mit KI-Lösungen für ressortspezifi­sche Verfahren. Die KI-Kompetenzen der Dienstleister sollten vernetzt werden.