Er gilt als Vater der Sektion „Digitale Kompetenz und Künstliche Intelligenz (KI)“  der Deutschen Gesellschaft für Klinische Chemie und Laboratoriumsmedizin (DGKL) und zählt zu den bundesweit anerkannten Experten auf dem Gebiet der KI in der Medizin. Jetzt stand Dr.med. Jakob Adler für ein Exklusivinterview im Rahmen der MedLabPortal-Reihe NACHGEFRAGT zur Verfügung – und erklärte die Auswirkungen des EU AI Act auf die Labormedizin.

MedLabPortal: Herr Dr. Adler, was verbirgt sich hinter dem EU AI Act?

Dr. Adler: Mit dem EU AI Act ist das weltweit erste Gesetz zur Regulation von Techniken der Künstlichen Intelligenz entstanden. Ziel war es dabei, nicht eine spezielle Technik wie zum Beispiel „Neuronale Netze“ zu regulieren, sondern einen Risiko-basierten Ansatz zu wählen, unabhängig von der Technik hinter einem KI-Produkt. Dabei unterscheidet der EU AI Act verbotene KI-Praktiken, wie etwas Social-Scoring-Systeme, Hochrisiko-KI (z.B. Medizinprodukte) sowie KI-Produkte mit begrenzten (z.B. einfache Chat-Bots) und minimalem Risiko (z.B. Spam-Filter). Je nach Risikoklasse und ob man als Anbieter oder Betreiber eines KI-Systems auftritt, gelten verschiedene Anforderungen, die erfüllt werden müssen, um Compliance zum EU AI Act herzustellen. Hauptziel ist dabei der Schutz der Grundrechte der Menschen in der EU.

MedLabPortal: Und das gilt dann auch für Deutschlands Ärzteschaft?

Dr. Adler: Genau, als EU-Verordnung greift der EU AI Act, auch KI-Verordnung (KI-VO) genannt, direkt auf die Rechtsprechung der Mitgliedsstaaten durch. Rechtlich gilt der EU AI Act seit dem 01.08.2024, es gibt aber verschiedene Fristen, ab wann bestimmte Teile der Verordnung angewendet werden. Da so gut wie alle KI-Systeme im medizinischen Bereich zu den Hochrisiko-KIs gezählt werden dürften, betrifft der EU AI Act also auch alle die im medizinischen Bereich KI-Produkte verwenden.

MedLabPortal: Die Labormedizin ist ohnehin technisch sehr affin. KI ist allerdings ein komplexes und neues Terrain. Wie helfen Sie in der DGKL Ihren Kolleginnen und Kollegen?

Dr. Adler: Wir haben bereits 2021 innerhalb des Jungen Labors die Arbeitsgruppe Digitale Kompetenz gegründet. Mittlerweile konnten wir die Arbeitsgruppe als eigene Sektion „Digitale Kompetenz und KI“ etablieren. Innerhalb der Sektion arbeiten wir aktuell an vier verschiedenen Themen: den Foundation Modellen, mit einem Fokus auf Sprachmodelle, dem klassischen Machine Learning und Deep Learning, den Clinical Decision Support Systemen und der von uns als notwendig betrachteten Data & AI Literacy, also dem Vermitteln von Wissen, um eine grundlegende Daten- und KI-Kompetenz zu erwerben. Dazu haben wir auch ein Opinion Paper veröffentlicht, welche Inhalte unserer Meinung nach zur Erfüllung der KI-Kompetenz nach Artikel 4 EU AI Act benötigt werden. KI kann man nur verstehen und sinnvoll einordnen, wenn man sich grundlegend mit Datenverarbeitung und den Basics der Algorithmen hinter einem KI-System beschäftigt hat.

MedLabPortal: Schule und Kurse sind ja sicher spannend – aber fehlt im Alltag nicht die Zeit, um sich vernünftig auf den EU AI Act vorzubereiten?

Dr. Adler: Das ist in der Tat ein Problem. Letztendlich muss man sich aber dringend fragen: Welche KI-Systeme hat man bereits im Einsatz, und reicht die entsprechende Schulung dazu aus? Für uns ist eine grundlegende Datenkompetenz die Basis auf der der Dreiklang von Inhalten des EU AI Acts, Grundwissen zu Algorithmen der KI und anwendungsspezifischen Schulungen zu den konkret eingesetzten Tools gedeihen kann.

MedLabPortal: Was hätte aus Ihrer Sicht die EU zumindest in Bezug auf die Labormedizin vereinfachen können?

Dr. Adler: Das ist eine schwer zu beantwortende Frage. Als EU hat man das Problem, dass man im Falle des EU AI Acts Gesetze für alle Bereich des Lebens erlässt. Man muss eine Balance finden zwischen einer Regulation, die unsere schützenswerten Rechte tatsächlich schützt, aber andererseits Innovation nicht behindert – oder schlimmstenfalls sogar verhindert. Viel relevanter für die Labormedizin ist, dass es aktuell schlichtweg nicht genug Wissen gibt, um das alles anzuwenden. Viele Fragen sind ungeklärt, das beginnt bereits bei der Definition, was eine KI eigentlich ist. Wenn ich nicht einschätzen kann, ob mein System unter die Regulation fällt oder nicht, kann ich auch keine konkreten Schritte zur Compliance einleiten. Wir alle müssen schauen, wohin wir unsere zeitlichen Ressourcen investieren. Hier würde mehr Klarheit helfen. Dann könnten die Labore vorangehen und Compliance herstellen.

MedLabPortal: Wir wollen ja nicht gehässig sein, aber schon die ePA scheint für Deutschland eine nicht zu meisternde Aufgabe zu sein. Endet das Thema KI in der Medizin so wie der Bau der A100 in Berlin? Ausufernde Kosten, keine Ergebnisse….

Dr. Adler: Ich hoffe nicht (lacht). Ich denke, wir müssen KI breit denken. Oft sind wir Ärzte dazu verleitet, KI immer nur im tatsächlich medizinischen Bereich anwenden zu wollen. Wir wollen die Krankheiten unserer Patienten schneller erkennen, wir wollen Therapie besser begleiten. Aber aktuell liegt für mich der größte ungeborgene Schatz in der Modernisierung unserer Prozesse. Wir müssen also zweigleisig denken: Wo können wir KI sinnvoll für eine bessere Versorgung einsetzen – medizinisch und prozessual. Für mich ist das Wichtigste, dass wir möglichst offen an die Herausforderungen herangehen. Darüber hinaus sollten wir keine Angst haben uns mit den Möglichkeiten von KI auseinander zu setzen, zu testen, Prototypen zu bauen – und wenn sich ein Nutzen zeigt diese auch als Produkte umzusetzen. Glücklicherweise gibt es hier die Möglichkeit auch eigene Entwicklungen einzusetzen, ohne gleich im Hochrisiko-Bereich zu landen. Wir müssen also anfangen. Mein Ziel ist es, in den nächsten Monaten diesen Prozess zu starten und dabei zu unterstützen, damit es nicht endet wie die A100.

MedLabPortal: Unsere letzte Frage: Sie selbst gelten als einer der wenigen bundesweit anerkannten Experten auf dem Gebiet der KI in der Labormedizin. Wo sehen Sie die Fachrichtung hinsichtlich KI in 10 Jahren stehen?

Dr. Adler: Ich weiß nicht, ob man bei der heutigen Entwicklungsgeschwindigkeit im KI-Bereich irgendjemanden noch als Experten bezeichnen kann (lacht). Deswegen bin ich auch immer vorsichtig mit Vorhersagen. Mit dem EU AI Act im Hinterkopf denke ich, dass sich die Fachrichtung immer mehr hin zu einer „Datenwissenschaft“ entwickeln wird, bei der wir als Laborärztinnen und Laborärzte der „Human in the Loop“ sein werden. Diagnostikbereiche die heute noch getrennt arbeiten, werden näher zusammenrücken, und die Auswertung der immer größer werdenden Datenmengen wird unsere Sicht auf Erkrankungen verändern. Auch im politischen Sinne haben wir es in der Hand: wollen wir eine „Data-Driven“ Medizin machen? Dann sollten wir die diagnostischen Fächer weiter stärken. Sie sind das Fundament unseres Gesundheitswesens.

MedLabPortal: Vielen Dank für Ihre Zeit.

Die Fragen stellten die MedLabPortal-Redakteure Vlad Georgescu und Marita Vollborn

Lesen Sie auch:

DGKL-Experte Dr. med. Jakob Adler mit starkem KI-Fokus auf dem DKLM 2025 – MedLabPortal

Labormedizin: Jakob Adler zu ePA und MIO-Laborbefund – MedLabPortal

DGKL stärkt digitale Kompetenzen: Neue Sektion für KI und Digitalisierung gegründet – MedLabPortal

---

Redaktion: X-Press Journalistenbüro GbR

Gender-Hinweis. Die in diesem Text verwendeten Personenbezeichnungen beziehen sich immer gleichermaßen auf weibliche, männliche und diverse Personen. Auf eine Doppel/Dreifachnennung und gegenderte Bezeichnungen wird zugunsten einer besseren Lesbarkeit verzichtet.