FDA schlägt Leitlinien für KI-gestützte Medizinprodukte vor

Auch im Gesundheitswesen werden technologische Fortschritte wie künstliche Intelligenz (KI) und maschinelles Lernen (ML) eingesetzt. Aus diesem Grund hat die US-amerikanische Food and Drug Administration (FDA) veranlasst, Leitlinien für KI-gestützte Medizinprodukte herauszugeben. Die FDA ist für den Schutz der öffentlichen Gesundheit durch die Gewährleistung der Sicherheit, Wirksamkeit und Überwachung von Human- und Tierarzneimitteln zuständig. Die Leitlinien sollen daher folgendes sicherstellen: Es muss möglich sein, die mit diesen Technologien ausgestatteten Medizinprodukte sicher, effektiv und schnell zu ändern, zu aktualisieren sowie zu verbessern. Die Agentur hat bereits mehr als 500 Medizinprodukte mit KI/ML-Technologien zugelassen und viele weitere befinden sich in der Entwicklungsphase.

Der vorgeschlagene Ansatz zielt darauf ab, sichere und wirksame Geräte schneller in die Hände von medizinischem Fachpersonal zu bringen. Auf diese Weise soll sich das Innovationstempo von stärker personalisierten Behandlungen erhöhen. Denn medizinische Geräte mit KI/ML-Technologien können umfassender und schneller modifiziert werden, um zu lernen und sich an den Zustand der Patienten anzugleichen. Diagnosegeräte lassen sich damit so bauen, dass sie sich an die spezifischen Daten und Bedürfnisse von Gesundheitseinrichtungen anpassen – und therapeutische Geräte könnten dasselbe entsprechend den spezifischen Merkmalen und Bedürfnissen jedes Patienten tun.

Um die Sicherheit und Wirksamkeit von Medizinprodukten mit KI/ML-Technologien während ihres gesamten Produktlebenszyklus (TPLC) zu gewährleisten, wird für jedes Produkt ein vorher festgelegter Änderungskontrollplan verwendet. Diesen muss die FDA zunächst prüfen und genehmigen. In dem Plan sind sowohl manuell durchgeführte als auch automatisch durch Software implementierte Änderungen vorgesehen. Er enthält eine detaillierte Beschreibung der spezifischen und geplanten Modifikation der Produkte, der Methodik zur Entwicklung, Validierung und Umsetzung. Darüber hinaus führt der Plan aus, wie die notwendigen Änderungsinformationen den Anwendern klar mitzuteilen sind und wie die Bewertung von Vorteilen und Risiken der geplanten Neuerungen durchzuführen ist.

Der Ansatz zielt aber auch darauf ab sicherzustellen, dass wichtige Leistungsaspekte bei der Entwicklung, Validierung, Umsetzung und Überwachung von Produkten mit KI/ML-Technologien berücksichtigt werden – zu diesen Aspekten gehören u. a. die ethnische Zugehörigkeit, der Schweregrad der Erkrankung, Geschlecht, Alter und geografische Faktoren. Dabei legen die FDA-Leitlinien besonderen Wert darauf, dass diese Informationen den Anwendern von Medizinprodukten klar zu vermitteln sind.

Nach Angaben der FDA beruht das Konzept auf den Erfahrungen, die die Behörde in den letzten Jahren gesammelt hat. Hier spielt zum einen die Expertise bei der Regulierung von Geräten mit KI/ML-Technologien, zum anderen bei der Erforschung neuer regulatorischer Rahmenbedingungen für Medizinprodukte im Bereich der digitalen Gesundheit eine Rolle.

Die FDA-Leitlinie befindet sich noch in einem vorläufigen Stadium: Bis zum 3. Juli werden Kommentare von Interessengruppen berücksichtigt, bevor die Behörde dann eine endgültige Version der Leitlinie herausgibt.

KI im Gesundheitswesen

Der jüngste Hype um ChatGPT hat auch auf das Gesundheitswesen übergegriffen: eine generative KI, die mithilfe von Deep Learning synthetische Daten erzeugt. Dabei ist die Notwendigkeit, die ethischen und qualitativen Fragen dieser Jahre anzugehen, unbestreitbar – genauso wie das enorme Potenzial dieser Technologie.

Laut Ittai Dayan, CEO und Mitbegründer der Plattform Rhino Health, gibt es viele interessante Anwendungen der generativen KI im Bereich der Medizin und der Gesundheitsbehandlung. Darunter fallen folgende Aspekte:

• Genomik: Generierung synthetischer DNA-Sequenzen für Gene-Editing-Experimente und Prüfung der Auswirkungen verschiedener genetischer Variationen.

• Arzneimittelentwicklung: Erzeugung neuer molekularer Strukturen, die den Gesetzen der Chemie und Physik gehorchen und für bestimmte Ergebnisse optimiert sind. Um die Strukturen zu finden, die für eine bestimmte Behandlung am besten geeigneten sind, erfolgt die Testung in Simulationen.

• Klinische Studien: Erarbeitung synthetischer Daten für klinische Studien, die bisher kostspielige Prozesse beschleunigen können, indem sie eine Fülle von Daten für Simulationen und Hypothesentests erzeugen. Dadurch können verschiedene Patientenpopulationen, Behandlungsergebnisse und unerwünschte Ereignisse abgedeckt werden.

• Medizinische Bilder: Generierung synthetischer medizinischer Bilder zur Ergänzung bestehender Datensätze – zum Beispiel durch die Erstellung neuer Röntgen- oder MRT-Bilder mit spezifischen Merkmalen, die in den bestehenden Datensätzen fehlen. Außerdem kann generative KI Bilder aus Texteingaben erstellen.

• Personalisierte Medizin: Erstellung personalisierter Behandlungspläne wie Diäten oder spezifische Übungen auf der Grundlage von Patientenmerkmalen.

• Medizinische Ausbildung: Generative KI lässt als Trainingsinstrument einsetzen, um Diagnose- oder Behandlungsplanungsfähigkeiten zu testen – ähnlich wie Videospiele für Medizinstudenten mit Patientenbildern.

Laut Dayan ist es unwahrscheinlich, dass diese Anwendungen ihr volles Potenzial ohne den Einsatz von Federated Learning (FL)-Techniken zur Wahrung der Privatsphäre der Patienten ausschöpfen können. Denn die rechtlichen Rahmenbedingungen in den USA (HIPAA) und Europa (GDPR) sind zu Recht konservativ, wenn es darum geht, welche Arten von Daten mit KI-Modellentwicklern geteilt werden. Die Daten lassen sich isoliert zur Verfügung stellen, wobei der Weg des Patienten, der Diagnose, Behandlung und Ergebnis umfasst, aufgeschlüsselt wird. Stellt man diese Informationen vollständig zur Verfügung, sind sie für KI/ML-Entwickler zwar reichhaltiger – gleichzeitig bergen sie jedoch auch ein höheres Risiko der Re-Identifizierung von Patienten.

Die FL-Technik beruht auf verteiltem maschinellem Lernen, wobei die von den Modellen verwendeten Daten bei ihren Eigentümern (z. B. Krankenhausservern) verbleiben – eine Weitergabe erfolgt nicht. Schließlich werden nur die Modellparameter zur Aggregation und Aktualisierung übermittelt.

Dayan und Mona Flores, globale Leiterin der medizinischen KI bei Nvidia, führten eine Studie durch: Die Arbeit analysierte die Machbarkeit und die Vorteile des föderierten Lernens im Gesundheitsbereich. Die Autoren entwickelten darin ein Modell, das sowohl lokale Daten und als auch solche in einem föderierten Netzwerk verwendet. Damit ließen sich die Ergebnisse von Patienten vorhersagen, die mit Atembeschwerden in die Notaufnahme kamen. Die Untersuchung zeigte, dass föderiertes Lernen den Krankenhäusern bei der Zusammenarbeit hilft und Zugang zu Daten gewährt, ohne die Privatsphäre und Sicherheit der Patienten zu gefährden.