Sicherheit bei Künstlicher Intelligenz KI-basierte Medizinprodukte per Online-Plattform testen

Von Hendrik Härter |

Anbieter zum Thema

Forscher arbeiten an einer Möglichkeit, KI-Anwendungen über eine Online-Plattform automatisiert zu validieren. Außerdem arbeiten sie daran, wie sich künstliche Patientendaten für KI-Modelle bei der medizinischen Bildgebung entwickeln lassen.

Die Standardisierung von KI-Daten in der medizinischen Bilddatenverarbeitung ist das Ziel des gemeinsamen Forschungsprojekts NeuroTest der Hochschule Landshut und dem Startup deepc.
Die Standardisierung von KI-Daten in der medizinischen Bilddatenverarbeitung ist das Ziel des gemeinsamen Forschungsprojekts NeuroTest der Hochschule Landshut und dem Startup deepc.
(Bild: deepc)

Die Künstliche Intelligenz (KI) erleichtert in der Medizin den Alltag vieler Ärzte. Eine Röntgen- oder MRT-Aufnahme erkennt Krankheitsmuster und hilft bei Diagnosen und empfiehlt Therapien. Dazu sind allerdings tausende konkreter Beispiele notwendig, um lernen zu können und die gleichzeitig überprüft sein müssen. Nur dann bekommen KI-basierte Medizingeräte ein Zulassung.

Datenbestände für die Umsetzung cleverer KI-Produkte sind allerdings nicht hinreichend groß und nicht repräsentativ für die Allgemeinheit. Hinzu kommt, dass medizinische Bilddaten hochsensible Patientendaten sind, die den strengen Regularien der Datenschutz-Grundverordnung (DSGVO) unterliegen und nicht uneingeschränkt verwendet werden können.

Patientendaten für KI-Modelle

Hier setzt das Projekt „NeuroTest“ der Hochschule Landshut unter Leitung von Prof. Dr. Stefanie Remmele an. In Zusammenarbeit mit dem Münchner Medizintechnik-Unternehmen deepc erforscht die Professorin des Forschungsschwerpunkts Medizintechnik, wie sich künstliche Patientendaten für KI-Modellen bei der medizinischen Bildgebung entwickeln lassen. Gleichzeitig arbeiten die Projektpartner an einer Online-Plattform, um Herstellern von medizinischen Geräten eine Möglichkeit zu bieten, ihre KI-basierten Medizinprodukte testen zu können, bevor sie eine Zulassung beantragen. Das Projekt wird vom Bundesministerium für Wirtschaft und Energie mit rund 400.000 Euro gefördert.

Seit langem fordern nationale, europäische und internationale medizinische Institutionen eine standardisierte Validierungsmöglichkeit für KI-Anwendungen in der Radiologie und medizinischen Bildgebung. Das Projektteam an der Hochschule Landshut will in den kommenden zwei Jahren herausfinden, unter welchen Voraussetzungen KI-Modelle in der Bildgebung ein konstantes und aussagekräftiges Ergebnis liefern können, um Ärzte entsprechend bei der Diagnose zu unterstützen.

Anders als bei herkömmlichen Verfahren hängt die Genauigkeit der KI nicht nur von der Logik der Datenverarbeitung, sondern auch von den Daten ab, auf denen die Technologie trainiert wurde. „Das ist besonders bei der Verarbeitung von MRT-Daten problematisch, da hier Kontrast und Bildqualität stark schwanken können, es keine unendliche Anzahl von Bildern gibt und die verfügbaren Trainingsbilder nie die gesamte Bandbreite an möglichen Schwankungen abdecken“, erklärt Remmele.

Mischung aus künstlichen und echten Daten

Die Hochschule Landshut erforscht dabei, welche Parameter Einfluss bei Aufnahmen des menschlichen Gehirns anhand von existierende MRT-Bildaufnahmen und künstlichen Testbildern nehmen. Alter, Geschlecht, Vorerkrankungen oder genetische und ethische Informationen des Patienten spielen eine große Rolle, genauso wie Schwankungen in den Aufnahmeparametern und der MR Hardware.

„Mithilfe der gewonnenen und ausgewerteten Daten und dem Modellwissen über technische Einflussgrößen wollen wir künstliche Datensätze erstellen, aus denen wir hardware-, befund- oder patientenabhängige Variationen simulieren“, erläutert Remmele die Vorgehensweise. „Damit können wir KI-Modelle dann gegen alle diese Variationen testen und detektieren, gegenüber welchen Veränderungen in den Daten ein Modell nicht ausreichend robust reagiert“, erzählt Remmele. Kompliziert ist, die generierten Daten so zu standardisieren, dass KI-Modelle, nachhaltig beurteilt werden können und keine Fehlinformationen liefern.

Hersteller und Ärzte unterstützen

Parallel entwickeln die KI- und Softwarespezialisten von „deepc“ eine Software, mit der Hersteller von, zum Beispiel PAC-Systemen, die Möglichkeit haben, ihre KI-basierten Produkte online zu validieren und dabei die vorgegebenen Sicherheitsstandards erreichen. „Mithilfe der Entwicklung von Methoden, um synthetische Referenzdaten in Kombination mit realen Patientendaten zu erstellen, die gleichzeitig über eine standardisierte Softwareplattform konstant überprüft, erweitert und abgeglichen werden, erwarten wir einen deutlichen Fortschritt in der Standardisierung, Anwendung und vor allem im Zulassungsverfahren von KI-Lösungen der bildgebenden Medizintechnik“, erläutert Dr. Franz Pfister, CEO von deepc die Herangehensweise.

Das Projekt

Das Projekt „NeuroTest“ läuft bis Dezember 2022. Projektleiterin an der Hochschule Landshut ist Prof. Dr. Stefanie Remmele, Leiterin des Forschungsschwerpunkts Medizintechnik. Aktiver Kooperationspartner des Projekts ist das Münchner Medizintechnik-Unternehmen „deepc“ unter Leitung von CEO Dr. Franz Pfister.

Als assoziierte Partner stehen die Technische Universität Berlin und die Physikalisch-Technische Bundesanstalt Berlin (PTB) zur Seite. Die Gesamtprojektsumme beträgt rund 630.000 Euro. Davon fördert das Bundesministerium für Wirtschaft und Energie das Projekt im Rahmen des Programms „Zentrales Innovationsprogramm Mittelstand (ZIM)" mit rund 400.000 Euro. Das Unternehmen „deepc“ steuert 225.000 Euro durch Eigenmittel bei.

Dieser Artikel stammt von unserem Partnerportal Industry of Things.

(ID:47469243)

Jetzt Newsletter abonnieren

Täglich die wichtigsten Infos zu Big Data, Analytics & AI

Mit Klick auf „Newsletter abonnieren“ erkläre ich mich mit der Verarbeitung und Nutzung meiner Daten gemäß Einwilligungserklärung (bitte aufklappen für Details) einverstanden und akzeptiere die Nutzungsbedingungen. Weitere Informationen finde ich in unserer Datenschutzerklärung.

Aufklappen für Details zu Ihrer Einwilligung