Die rasanten Fortschritte Künstlicher Intelligenz (KI) im Gesundheitswesen eröffnen neue Möglichkeiten, stellen aber auch Herausforderungen für bestehende regulatorische Rahmenbedingungen. Wissenschaftler des Else Kröner Fresenius Zentrums (EKFZ) für Digitale Gesundheit an der Technischen Universität Dresden (TUD) haben in einer Publikation in Nature Medicine innovative Ansätze vorgestellt, um autonome KI-Agenten sicher in die medizinische Praxis zu integrieren und gleichzeitig die Patientensicherheit zu gewährleisten.

Während aktuelle KI-Systeme mit klar definierten Aufgaben bereits zulassungsfähig sind, entwickelt sich die nächste Generation hin zu autonomen KI-Agenten, die komplexe Arbeitsabläufe eigenständig ausführen können. Diese bestehen aus vernetzten Komponenten wie externen Datenbanken, Bildanalysetools und großen Sprachmodellen, die Entscheidungen treffen und Fehler behandeln. Solche Systeme überschreiten jedoch die Grenzen der bisherigen Regulierung, die für statische, überwachte Technologien ausgelegt ist.

Die Forscher schlagen daher kurzfristige Lösungen wie die Ausweitung von „Enforcement Discretion“ oder die Klassifizierung als Nicht-Medizinprodukt vor. Mittelfristig könnten freiwillige alternative Zulassungswege und adaptive Regulierungsansätze, die auf dynamischer Überwachung und realen Leistungsdaten basieren, die Zulassung erleichtern. Langfristig wird eine Regulierung analog zur Qualifizierung von Medizinern diskutiert, bei der KI-Agenten nach strukturierten Trainingsprozessen schrittweise Autonomie erhalten.

Die Wissenschaftler betonen, dass ohne umfassende Reformen eine breite Einführung autonomer KI-Agenten kaum möglich sein wird. Besonders adaptive Regulierungsansätze und eine enge Zusammenarbeit zwischen Behörden, Gesundheitsdienstleistern und Entwicklern seien entscheidend, um Innovationen mit hoher Patientensicherheit zu verbinden.

Das EKFZ für Digitale Gesundheit an der TUD, gefördert von der Else Kröner-Fresenius-Stiftung, forscht an der Schnittstelle von Medizin und digitalen Technologien, um die Gesundheitsversorgung nachhaltig zu verbessern.

Original Paper:

Overcoming regulatory barriers to the implementation of AI agents in healthcare | Nature Medicine

Lesen Sie auch:

Künstliche Intelligenz unterstützt gemeinsame Entscheidungsfindung in der Medizin – MedLabPortal

_{Redaktion: X-Press Journalistenbüro GbR}

Gender-Hinweis. Die in diesem Text verwendeten Personenbezeichnungen beziehen sich immer gleichermaßen auf weibliche, männliche und diverse Personen. Auf eine Doppel/Dreifachnennung und gegenderte Bezeichnungen wird zugunsten einer besseren Lesbarkeit verzichtet.