Sicherheit bei Künstlicher Intelligenz KI-basierte Medizinprodukte per Online-Plattform testen

Anbieter zum Thema

Hochschule Landshut

Fujitsu Technology Solutions GmbH

QUNIS GmbH

Fivetran Germany GmbH

Forscher arbeiten an einer Möglichkeit, KI-Anwendungen über eine Online-Plattform automatisiert zu validieren. Außerdem arbeiten sie daran, wie sich künstliche Patientendaten für KI-Modelle bei der medizinischen Bildgebung entwickeln lassen.

Die Künstliche Intelligenz (KI) erleichtert in der Medizin den Alltag vieler Ärzte. Eine Röntgen- oder MRT-Aufnahme erkennt Krankheitsmuster und hilft bei Diagnosen und empfiehlt Therapien. Dazu sind allerdings tausende konkreter Beispiele notwendig, um lernen zu können und die gleichzeitig überprüft sein müssen. Nur dann bekommen KI-basierte Medizingeräte ein Zulassung.

Datenbestände für die Umsetzung cleverer KI-Produkte sind allerdings nicht hinreichend groß und nicht repräsentativ für die Allgemeinheit. Hinzu kommt, dass medizinische Bilddaten hochsensible Patientendaten sind, die den strengen Regularien der Datenschutz-Grundverordnung (DSGVO) unterliegen und nicht uneingeschränkt verwendet werden können.

Patientendaten für KI-Modelle

Hier setzt das Projekt „NeuroTest“ der Hochschule Landshut unter Leitung von Prof. Dr. Stefanie Remmele an. In Zusammenarbeit mit dem Münchner Medizintechnik-Unternehmen deepc erforscht die Professorin des Forschungsschwerpunkts Medizintechnik, wie sich künstliche Patientendaten für KI-Modellen bei der medizinischen Bildgebung entwickeln lassen. Gleichzeitig arbeiten die Projektpartner an einer Online-Plattform, um Herstellern von medizinischen Geräten eine Möglichkeit zu bieten, ihre KI-basierten Medizinprodukte testen zu können, bevor sie eine Zulassung beantragen. Das Projekt wird vom Bundesministerium für Wirtschaft und Energie mit rund 400.000 Euro gefördert.

Seit langem fordern nationale, europäische und internationale medizinische Institutionen eine standardisierte Validierungsmöglichkeit für KI-Anwendungen in der Radiologie und medizinischen Bildgebung. Das Projektteam an der Hochschule Landshut will in den kommenden zwei Jahren herausfinden, unter welchen Voraussetzungen KI-Modelle in der Bildgebung ein konstantes und aussagekräftiges Ergebnis liefern können, um Ärzte entsprechend bei der Diagnose zu unterstützen.

Anders als bei herkömmlichen Verfahren hängt die Genauigkeit der KI nicht nur von der Logik der Datenverarbeitung, sondern auch von den Daten ab, auf denen die Technologie trainiert wurde. „Das ist besonders bei der Verarbeitung von MRT-Daten problematisch, da hier Kontrast und Bildqualität stark schwanken können, es keine unendliche Anzahl von Bildern gibt und die verfügbaren Trainingsbilder nie die gesamte Bandbreite an möglichen Schwankungen abdecken“, erklärt Remmele.

Mischung aus künstlichen und echten Daten

Die Hochschule Landshut erforscht dabei, welche Parameter Einfluss bei Aufnahmen des menschlichen Gehirns anhand von existierende MRT-Bildaufnahmen und künstlichen Testbildern nehmen. Alter, Geschlecht, Vorerkrankungen oder genetische und ethische Informationen des Patienten spielen eine große Rolle, genauso wie Schwankungen in den Aufnahmeparametern und der MR Hardware.

„Mithilfe der gewonnenen und ausgewerteten Daten und dem Modellwissen über technische Einflussgrößen wollen wir künstliche Datensätze erstellen, aus denen wir hardware-, befund- oder patientenabhängige Variationen simulieren“, erläutert Remmele die Vorgehensweise. „Damit können wir KI-Modelle dann gegen alle diese Variationen testen und detektieren, gegenüber welchen Veränderungen in den Daten ein Modell nicht ausreichend robust reagiert“, erzählt Remmele. Kompliziert ist, die generierten Daten so zu standardisieren, dass KI-Modelle, nachhaltig beurteilt werden können und keine Fehlinformationen liefern.

Hersteller und Ärzte unterstützen

Parallel entwickeln die KI- und Softwarespezialisten von „deepc“ eine Software, mit der Hersteller von, zum Beispiel PAC-Systemen, die Möglichkeit haben, ihre KI-basierten Produkte online zu validieren und dabei die vorgegebenen Sicherheitsstandards erreichen. „Mithilfe der Entwicklung von Methoden, um synthetische Referenzdaten in Kombination mit realen Patientendaten zu erstellen, die gleichzeitig über eine standardisierte Softwareplattform konstant überprüft, erweitert und abgeglichen werden, erwarten wir einen deutlichen Fortschritt in der Standardisierung, Anwendung und vor allem im Zulassungsverfahren von KI-Lösungen der bildgebenden Medizintechnik“, erläutert Dr. Franz Pfister, CEO von deepc die Herangehensweise.

Dieser Artikel stammt von unserem Partnerportal Industry of Things.

(ID:47469243)