Künstliche Intelligenz im Gesundheitswesen – Chancen und Herausforderungen von KI und ihr Einsatz zum Wohl aller!

I. Ausgangslage

Künstliche Intelligenz (KI) ist eine Schlüsseltechnologie mit großem Potenzial, die Gesund­heitsversorgung, Prävention und Gesundheitsförderung in Nordrhein-Westfalen nachhaltig zu verbessern. KI bietet eine Vielzahl an Anwendungsmöglichkeiten – von der Unterstützung bei Diagnostik und Therapieentscheidungen über die Medikamentenentwicklung bis hin zur Opti­mierung klinischer Prozesse. Dabei darf der Einsatz von Künstlicher Intelligenz kein Selbst­zweck sein. KI sollte nur dort eingesetzt werden, wo ein echter Mehrwert für Beschäftigte und Patientinnen und Patienten entsteht.

KI-Algorithmen können medizinische Bilddaten wie Röntgenbilder, MRTs, CT-Scans und Ult­raschallbilder analysieren. Diese Algorithmen sind in der Lage, Muster zu erkennen, die für das menschliche Auge schwer erkennbar sind, und unterstützen dabei, Anomalien wie Tu­more, Frakturen, Lungenentzündungen oder andere Erkrankungen frühzeitig zu diagnostizie­ren. Ein Beispiel hierfür ist der Einsatz von KI im Hautkrebsscreening, wo die Technologie dabei hilft, verdächtige Hautveränderungen schnell und präzise zu identifizieren.

Durch den Einsatz von KI können Therapien leichter personalisiert werden, was die Wirksam­keit der Behandlung erhöhen und Nebenwirkungen minimieren kann. Dies ist besonders im Bereich der Krebstherapie von großer Bedeutung, da maßgeschneiderte Behandlungspläne besser auf die spezifischen Bedingungen bei Patientinnen und Patienten abgestimmt werden können. In der Strahlentherapie kann KI dazu beitragen, Bestrahlungspläne für Krebspatienten zu optimieren, indem sie den genauen Verlauf der Strahlung berechnet. Dadurch werden Tu­morzellen effizient zerstört, während gesundes Gewebe bestmöglich geschont wird. Dies führt zu verbesserten Behandlungsergebnissen und reduziert die Nebenwirkungen für die Patien­tinnen und Patienten. In der Chirurgie unterstützt KI das medizinische Personal durch den Einsatz von „Augmented Reality“. Informationen aus vorliegenden Röntgen-, MRT- oder CT-Bildern werden während der OP nutzbar. Dadurch kann präziser operiert und das Risiko von Komplikationen minimiert werden.

Durch die Analyse großer Mengen von Daten können Arbeitsabläufe in Kliniken und das Pati­entenmanagement optimiert werden. So kann mit Hilfe der Bewertung von bisherigen und ak­tuellen Patientenströmungen der Personaleinsatz besser geplant werden. KI-basierte Sprach­erkennung erleichtert dem medizinischen Personal die Dokumentation. Das Personal kann

deutlich entlastet werden. So bleibt mehr Zeit für die direkte Patientenversorgung und andere anspruchsvolle Tätigkeiten, was zu einer insgesamt höheren Effizienz und Qualität im Ge­sundheitswesen führt. Um den Einsatz von KI im Gesundheitswesen effektiv zu unterstützen, sind der Ausbau digitaler Infrastruktur und die Bereitstellung moderner IT-Lösungen für medi­zinische Einrichtungen von zentraler Bedeutung.

KI-gestützte Chatbots können rund um die Uhr Anfragen bearbeiten, allgemeine Gesund­heitsinformationen bereitstellen oder bei Terminvereinbarungen und der Medikamentenver­waltung unterstützen. So bieten sie eine schnelle, interaktive Kommunikation, die Patientinnen und Patienten unterstützt und das medizinische Personal entlastet.

Künstliche Intelligenz bietet enorme Potenziale im Gesundheitswesen und leistet einen wich­tigen Beitrag zur Verbesserung der Versorgung. Insbesondere im Bereich der klinischen An­wendungen ermöglicht KI die Entwicklung von präziseren Diagnosemethoden und optimierten Behandlungsabläufen, was sowohl die Qualität der medizinischen Versorgung erhöht als auch das medizinische Personal entlastet. Anwendungen wie die elektronische Patientenakte (ePA) oder KI-gestützte Assistenzsysteme im OP helfen dabei, Arbeitsabläufe in Kliniken und Praxen effizienter zu gestalten. Beispielhafte Pilotprojekte wie das „Smart Hospital“ am Universitäts­klinikum Essen haben sich bereits als Blaupausen für eine digitalisierte, innovative Medizin etabliert. Solche Projekte zeigen, dass durch intelligente KI-Nutzung im Gesundheitswesen nachhaltige klinische und wirtschaftliche Erfolge erzielt werden können.

Studien zeigen, dass rund die Hälfte von Menschen mit Behinderungen Schwierigkeiten im Umgang mit Gesundheitsinformationen haben. KI kann hier helfen, Barrieren im Gesundheits­wesen abzubauen und den Zugang in der Gesundheitsversorgung zu verbessern. Large Lan-guage Models können als interaktive Tools zur Patientenaufklärung eingesetzt werden, indem sie verständliche Informationen zur Diagnose und Behandlung in einfacher Sprache und ver­schiedenen Sprachen bereitstellen.

Um die genannten Potenziale von KI voll auszuschöpfen, ist es entscheidend, dass KI-Modelle mit Daten von höchster Qualität trainiert werden. Eine hohe Verfügbarkeit und Qualität der Daten sowie eine robuste IT-Sicherheit sind daher grundlegende Voraussetzungen für den erfolgreichen Einsatz von Künstlicher Intelligenz im Gesundheitswesen. Gleichzeitig müssen die besonders im Gesundheitswesen sehr wichtigen Datenschutzstandards erfüllt werden. Deshalb müssen KI-Systeme nach europäischen Standards entwickelt werden. KI-Algorith­men im Gesundheitswesen müssen sicherstellen, dass der Schutz persönlicher Daten ge­währleistet ist, die Anwendung diskriminierungsfrei erfolgt und die Entscheidungen der KI für Menschen nachvollziehbar bleiben, um das Vertrauen in KI-gestützte Systeme zu stärken.

Mit dieser Abwägung kann KI ein Innovationstreiber im Gesundheitswesen sein, bedeutende Fortschritte ermöglichen und gleichzeitig Risiken, Herausforderungen und offene Fragen ad­ressieren. Dabei sind ethische Fragestellungen wie die Vermeidung von Diskriminierung, etwa in Bezug auf Geschlecht, sozioökonomischen Status, Behinderungen oder rassifizierte Merk­male wie dunkle Hautfarbe, sowie die Transparenz von KI-Entscheidungen zentraler Bestand­teil.

Die Weltgesundheitsorganisation WHO hat deshalb sechs ethische Grundsätze für den Ein­satz von KI im Gesundheitswesen aufgestellt. Diese Grundsätze zielen insbesondere auf die Gewährleistung von Transparenz und Nachvollziehbarkeit von KI-Anwendungen zum Schutz der Autonomie des Menschen sowie der Sicherheit des Menschen und des öffentlichen Inte­resses. Außerdem muss KI einen gerechten, inklusiven Zugang (unabhängig von Alter, Ge­schlecht, Geschlechtsidentität, Einkommen, Rasse, ethnischer Zugehörigkeit, sexueller Orientierung, Fähigkeiten oder anderen Merkmalen) ermöglichen und darf Diskriminierung nicht reproduzieren.

Die Etablierung eines angemessenen rechtlichen Rahmens ist notwendig, um sicherzustellen, dass KI ethische Kriterien erfüllt. Die EU hat hierzu den AI-Act verabschiedet, der am 1. August 2024 in Kraft trat und einige der von der WHO formulierten Grundsätze aufgreift. Zur Konkre­tisierung, und um auf die Besonderheiten im Gesundheitswesen einzugehen, braucht es je­doch landes- und bundesspezifische Gesetze und Regulierungen, die der Verselbständigungstendenz von KI frühzeitig entgegenwirken und ihr einen Rahmen geben, der den Bürge­rinnen und Bürgern insbesondere im Hinblick auf ihren Einsatz im Gesundheitswesen zugutekommt.

Der Deutsche Ethikrat hat in der Stellungnahme „Mensch und Maschine – Herausforderungen durch Künstliche Intelligenz“ neun übergreifende Empfehlungen für den erfolgreichen Einsatz von KI im Gesundheitssektor formuliert. Der Ethikrat betont die Bedeutung des Menschen in der Medizin, auch beim Einsatz von KI. KI, die Entscheidungen unterstützen soll, müsste so gestaltet sein, dass Automatismen (Automation Bias) verhindert werden. Bei der Auswahl der Datensätze müssten die relevanten Faktoren (z.B. Alter, Geschlecht, Vorerkrankungen und andere) der betroffenen Patientengruppen ausreichend berücksichtigt werden. Erfolgreiche – und anderen Methoden überlegene – KI müsse allen Patientengruppen zugänglich sein. Dem Gefühl der „Verobjektivierung“ der Patientinnen und Patienten müsse entgegengewirkt wer­den. Zudem müssten die strengen Anforderungen und hohen Standards in Bezug auf die Nut­zung gesundheitsbezogener Daten gewährleistet sein. Die Anwendung von KI im Gesund­heitswesen soll die fachliche Expertise unterstützen, jedoch nicht ersetzen. Entscheidungen über Behandlungsmaßnahmen liegen weiterhin bei den medizinischen Fachkräften, wobei KI als unterstützendes Instrument dient.

Um die Potenziale von KI voll auszuschöpfen und gleichzeitig die Herausforderungen zu be­wältigen, benötigt Nordrhein-Westfalen eine umfassende Strategie für den Einsatz von KI im Gesundheitswesen.

I. Beschlussfassung
Der Landtag stellt fest, dass

• der Einsatz von KI im Gesundheitswesen das Potenzial hat, die Versorgung der Patien­tinnen und Patienten zu verbessern sowie Prävention und Gesundheitsförderung zu stärken.
• der verstärkte Einsatz von KI im Gesundheitswesen erheblich zur Verbesserung der Ver­sorgungsqualität und zur Optimierung der Arbeitsabläufe beitragen kann. Durch gezielte Förderung soll der Transfer von Forschungsergebnissen in die Praxis beschleunigt und die Voraussetzungen für eine breite Nutzung von KI in Kliniken und Praxen geschaffen werden.
• der Einsatz von KI im Gesundheitswesen durch die Analyse und Aufbereitung großer Mengen von Daten Arbeitsabläufe optimieren und damit Beschäftigte entlasten und knappe Personalressourcen schonen kann.
• KI-Systeme im Gesundheitsbereich müssen vertrauenswürdig, transparent und diskrimi­nierungsfrei sein. Das Wohl von Patientinnen und Patienten muss stets im Mittelpunkt stehen. Zudem muss die Sicherheit der Daten, das Recht auf informationelle Selbstbe­stimmung und der Datenschutz gewährleistet sein.
• Patientinnen und Patienten sollen über die Nutzung ihrer Gesundheitsdaten für KI-An­wendungen informiert entscheiden können. Sie müssen die Möglichkeit haben, perso­nenbezogene Daten jederzeit löschen zu lassen, soweit dies technisch und rechtlich möglich ist. Für bereits anonymisierte oder aggregierte Daten, die zur Verbesserung von KI-Algorithmen beitragen, gelten hohe Transparenz- und Datenschutzstandards gemäß europäischem Recht.

• Nordrhein-Westfalen als wichtiger Standort der Gesundheitswirtschaft erheblich von den Möglichkeiten der KI profitieren kann.
• eine gesamtgesellschaftliche Debatte über die Vorzüge und Risiken von KI notwendig ist, um eine gemeinwohlorientierte und nutzenbringende Umsetzung sicherzustellen.

Der Landtag beauftragt die Landesregierung, aus vorhandenen Mitteln:

• ein interdisziplinäres Gutachten zur Entwicklung einer „KI-Strategie im Gesundheitswe­sen“ für NRW zu beauftragen. Das Gutachten soll auf den Handlungsempfehlungen des Deutschen Ethikrats und den ethischen Grundsätzen der WHO basieren.
• mit der Etablierung eines Expertenforums „KI im Gesundheitswesen“ mit den relevanten Akteuren wie Kammern, Krankenkassen, Gesundheitswirtschaft, Verbänden, Patienten­vertretungen und anderen, um die Entwicklung einer KI-Strategie für Nordrhein-Westfa­len zu begleiten und zur Vernetzung der Akteure beizutragen. So soll sichergestellt wer­den, dass die KI-Anwendungen auf die Bedarfe der Leistungserbringerinnen und -erbringer und Leistungsempfängerinnen und -empfänger abzielen, praxisrelevant sind und eine erfolgreiche Einbindung von KI in den Gesundheitssektor gewährleistet wird. Zu­dem sollen Aus- und Fortbildungen zu KI für medizinisches Personal thematisiert wer­den.
• die Forschung zur Entwicklung und zum Einsatz von KI im Gesundheitswesen zu fördern sowie Start-ups und Unternehmen der Gesundheitswirtschaft zu unterstützen, die inno­vative KI-Lösungen entwickeln.
• Entscheiderinnen und Entscheider in Gesellschaft, Wirtschaft und Medizin für den Nut­zen und Risiken von KI zu sensibilisieren und zu befähigen.