Dagmar Hanses: „ChatGPT halten wir für nicht geeignet, weil es nicht transparent ist“

Zum Antrag der FDP-Fraktion zu KI in der öffentlichen Verwaltung

Portrait Dagmar Hanses

Dagmar Hanses (GRÜNE): Frau Präsidentin! Sehr geehrte Kolleginnen und Kollegen der demokratischen Fraktionen! Das Gras, Herr Kollege Pfeil, wächst nicht schneller, wenn die FDP daran zieht.

Aber es ist uns eine Freude, dass wir hier wieder einmal über die vielfältigen Anwendungsgebiete und Möglichkeiten von KI mit large language models wie ChatGPT sprechen können. Wie bereits bei vorangegangenen Anträgen, Anhörungen und Reden werden wir uns mit diesem wichtigen Handlungsfeld beschäftigen. Die zentrale Frage an der Stelle ist natürlich: Wie können wir den verantwortungsvollen Einsatz von KI sicherstellen – transparent, diskriminierungsfrei, sinnvoll und nachvollziehbar –, damit wir Innovationen, die die FDP als wichtig erachtet, gewährleisten können?

Die Balance zu finden, erfordert eine wohl überlegte Herangehensweise. Wir sollten zunächst untersuchen, wo KI die Verwaltungsabläufe und den bürokratischen Verwaltungsapparat optimieren kann und tatsächlich Abläufe beschleunigt werden können. In dieser Hinsicht ist es sehr sinnvoll, die „PDFisierung“ von Ex-Minister Pinkwart konsequent rückgängig zu machen und eine sinnvolle echte Digitalisierung zu ermöglichen.

(Beifall von den GRÜNEN – Vereinzelt Beifall von der CDU)

Hierbei sollten wir endlich aus diesem Hamsterrad, aus diesem Kreislauf von „Ausdrucken – Scannen – Papier ablegen – Speichern“ herauskommen. Wir brauchen echte Digitalisierung. Im Bereich des rechtsstaatlichen und rechtssicheren Einsatzes von KI insbesondere text- und bildgenerierender Modelle wie ChatGPT oder DALL-E stoßen wir immer wieder auf Herausforderungen. ChatGPT mag zwar vielseitig sein, doch bei Amtsauskünften und Rechtsfragen ist Präzision gefragt. ChatGPT – das haben wir eben gehört – wird von allen als Spaß genutzt, und etwas wird eingegeben. Aber ChatGPT spuckt einfach die wahrscheinlichste Antwort aus und nicht automatisch die richtige Antwort. Das ist natürlich in diesem Anwendungsbereich ein großes Problem.

(Beifall von den GRÜNEN und der CDU)

Wenn Menschen KI-Systemen – oft zu stark – vertrauen, kann es problematisch sein, wenn ChatGPT Fehler macht, halluziniert und möglicherweise falsche Informationen liefert. Wir brauchen spezialisierte Modelle in solch sensiblen Bereichen, die zu verlässlichen Ergebnissen führen. Die Entwicklungen im KI-Bereich schreiten rasch voran, und Innovationen werden zweifellos neue Möglichkeiten bieten. Daher benötigen wir klare und am besten europäische Regelungen, die diesen Einsatz sichern und zukunftsfähig gestalten.

Vizepräsidentin Berivan Aymaz: Frau Kollegin Hanses, es liegt eine Zwischenfrage von dem Kollegen Herrn Dr. Pfeil vor. Möchten Sie die gestatten?

Dagmar Hanses (GRÜNE): Sehr gerne.

Dr. Werner Pfeil (FDP): Frau Kollegin, vielen Dank, dass Sie die Zwischenfrage zulassen. Sie wissen, ich schätze Sie sehr, auch Ihre Ausführungen im Rechtsausschuss.

Das, was Sie gesagt hatten, steht ja überhaupt nicht im Widerspruch zum Antrag, denn der Antrag möchte ja gerade die Verwendung von ChatGPT oder anderen Programmen in der Verwaltung durch die Menschen, die dort arbeiten, regeln und Vorgaben machen, damit es nicht falsch verwandt wird.

Vizepräsidentin Berivan Aymaz: Die Frage, Herr Kollege Dr. Pfeil.

Dr. Werner Pfeil (FDP): Vielen Dank, Frau Präsidentin.

Dagmar Hanses (GRÜNE): Ob der Antrag im Widerspruch zu dem steht. Ich kann es gerne noch mal ausführen, Frau Präsidentin.

(Dr. Werner Pfeil [FDP]: Danke!)

ChatGPT halten wir – deshalb habe ich das gesagt – für nicht geeignet, weil wir den Algorithmus nicht nachvollziehen können, weil es nicht transparent ist. Deshalb brauchen wir andere KI-Language-Modelle, die nutzbar sind.

Die Nutzung ist ja durchaus interessant. Die Handlungsbereiche haben wir uns schon mehrfach angeschaut. Da gibt es für die Handlungsbereiche ja erst mal nichts Neues. Wir brauchen aber eben die Prüfung wie gerade beschrieben.

Deshalb möchte ich noch mal betonen, dass es nicht schlau ist, sich erneut mit immer wieder den gleichen Thesen zu beschäftigen, wenn wir wissen, dass diese Software nicht geeignet ist, wir aber Anforderungen an andere Software gemeinsam definieren. Natürlich freuen wir uns auf die Diskussion, wie wir das gemeinsam gestalten werden. Nach wie vor gilt aber: Das Gras wächst nicht schneller, wenn die FDP daran zieht. – Vielen Dank.

(Beifall von den GRÜNEN und der CDU)

Mehr zum Thema

Recht & Justiz