Künstliche Intelligenz (KI) verspricht, die Gesundheitsversorgung zu revolutionieren, birgt jedoch Risiken durch Cyberangriffe, die Patientensicherheit, Medizingeräte und die Arbeit von Rettungskräften gefährden können. Das Projekt „SecureNeuroAI“, ein Zusammenschluss der Universität Bonn, des Universitätsklinikums Bonn und des FIZ Karlsruhe, entwickelt sichere, KI-gestützte Methoden zur Echtzeiterkennung medizinischer Notfälle, am Beispiel epileptischer Anfälle. Gefördert wird das Vorhaben vom Bundesministerium für Forschung, Transfer und Raumfahrt (BMFTR) mit rund 2,5 Millionen Euro über drei Jahre. Die Ergebnisse sollen über die Epilepsieanfallserkennung hinaus Anwendung finden und die Cybersicherheit medizinischer Systeme stärken.

Das Projekt unter der Leitung von Prof. Dr. Elena Demidova, Leiterin der Arbeitsgruppe „Data Science and Intelligent Systems“ an der Universität Bonn, konzentriert sich auf die Entwicklung von Verfahren zur Datenauthentifizierung, die KI-Datenverarbeitung nicht beeinträchtigen, aber deren Ursprung nachweisen. Beteiligt sind zudem Prof. Dr. Michael Meier, Leiter der Arbeitsgruppe „IT-Sicherheit“ an der Universität Bonn, Prof. Dr. Björn Krüger von der Klinik für Epileptologie am Universitätsklinikum Bonn und Prof. Dr. Franziska Boehm vom FIZ Karlsruhe. Die Forschenden nutzen multimodale Sensordaten, etwa von Wearables, die Vitalparameter wie Herz- und Atemfrequenz erfassen, sowie klinische Patientendaten, um Anfälle in Echtzeit zu erkennen.

Ein zentrales Ziel ist die Entwicklung cybersicherer KI-Modelle, die Manipulationen an Sensordaten zuverlässig erkennen. Parallel dazu werden technische, organisatorische und rechtliche Maßnahmen erarbeitet, um die Integration dieser KI-Methoden in klinische und häusliche Anwendungen zu ermöglichen. Die Arbeitsgruppe von Prof. Demidova fokussiert sich auf erklärbare KI-Modelle und Manipulationserkennung, während das Universitätsklinikum Bonn die klinische Validierung und Datenerfassung übernimmt. Prof. Meier bringt Expertise in IT-Sicherheit ein, und das FIZ Karlsruhe analysiert Datenschutz- und Rechtsfragen, um Empfehlungen für digitale Infrastrukturen abzuleiten.

Die Ergebnisse von „SecureNeuroAI“ sollen KI-Modelle und Daten vor Manipulationen schützen und die Integrität sowie Verlässlichkeit KI-basierter Medizingeräte erhöhen. Damit legt das Projekt eine Grundlage für sicherere, KI-gestützte Gesundheitstechnologien, die weit über die Epilepsieanfallserkennung hinausreichen.

Redaktion: X-Press Journalistenbüro GbR

Gender-Hinweis. Die in diesem Text verwendeten Personenbezeichnungen beziehen sich immer gleichermaßen auf weibliche, männliche und diverse Personen. Auf eine Doppel/Dreifachnennung und gegenderte Bezeichnungen wird zugunsten einer besseren Lesbarkeit verzichtet.