Zum Inhalt springen

Künstliche Intelligenz in der Medizintechnik: Was Hersteller wissen müssen

Regulatorische Anforderungen und Best Practices für KI-basierte Medizinprodukte.
14. Januar 2025 durch
Künstliche Intelligenz in der Medizintechnik: Was Hersteller wissen müssen
CRConsultants GmbH & Co. KG, Nienke Bär

Die Integration von Künstlicher Intelligenz (KI) in medizinische Geräte bietet enorme Chancen, stellt aber auch hohe Anforderungen an die Hersteller. Der kürzlich veröffentlichte Fragebogen der European Association of Medical Devices Notified Bodies und der German Notified Bodies Alliance bietet umfassende Leitlinien, um die Sicherheit und Konformität von KI-basierten Medizinprodukten zu gewährleisten. In diesem Blogartikel fassen wir die wichtigsten Punkte zusammen, die für Hersteller von Medizintechnik von Interesse sind. 

Zertifizierbarkeit von KI-Systemen 

Die Konformität von Medizinprodukten, die KI-Systeme verwenden, kann grundsätzlich nachgewiesen werden, sofern ein geeignetes Konformitätsbewertungsverfahren durchgeführt wurde. Die Einhaltung der allgemeinen Sicherheits- und Leistungsanforderungen gemäß den Verordnungen (EU) 2017/745 und 2017/746 ist dabei unerlässlich. Besonders herausfordernd ist der Nachweis der Konformität für Produkte, die stochastische maschinelle Lerntechniken verwenden. Benannte Stellen betrachten solche Geräte als nicht "zertifizierbar", es sei denn, der Hersteller ergreift Maßnahmen, um den sicheren Betrieb des Geräts innerhalb des beschriebenen Validierungsumfangs zu gewährleisten. Diese wesentlichen Maßnahmen werden in diesem Artikel aufgeführt. 

Die in der Verordnung (EU) 2024/1689 (“AI Act”) der Europäischen Kommission vom Juni 2024 veröffentlichten Anforderungen an KI-Systeme sind in diesem Fragebogen noch nicht berücksichtigt und werden in die nächste Überarbeitung einfließen. 

Hauptaspekte bei der Entwicklung von KI-basierten Medizinprodukten

Die Einhaltung der wesentlichen Anforderungen kann anhand des veröffentlichten Fragebogens überprüft werden und legt den Fokus auf folgende Bereiche: 

1. Prozessorientierter Ansatz 

Die Sicherheit von KI-basierten Medizinprodukten kann nur durch einen prozessorientierten Ansatz gewährleistet werden, der alle relevanten Prozesse und Phasen des Produktlebenszyklus berücksichtigt. Dieser Ansatz stellt sicher, dass alle notwendigen Maßnahmen zur Gewährleistung von Sicherheit, Qualität und Compliance integriert werden. Dies umfasst: 

  • Entwicklung 
  • Risikomanagement 
  • Datenmanagement (Kundeneigentum) 
  • Verifizierung oder Validierung 
  • Marktüberwachung und Vigilanz 
  • Software-Lebenszyklus (einschließlich Service, Installation und Außerbetriebnahme) 
  • Konfigurationsmanagement 
  • Schulung und Qualifikation 
  • Kundenkommunikation 
  • Einkauf, Lieferanten- und Lieferkettenmanagement 
  • Managementbewertung 

 

2. Kompetenzen in der Entwicklung 

Eine der zentralen Anforderungen bei der Entwicklung von KI-basierten Medizinprodukten ist die Sicherstellung, dass alle Beteiligten über die notwendigen Qualifikationen verfügen. Hersteller müssen: 

  • Eine Liste aller relevanten Rollen erstellen, die direkt oder indirekt mit der Entwicklung von KI zu tun haben, z. B. Entwickler, Datenwissenschaftler oder Kliniker. 
  • Für jede Rolle die erforderlichen KI-bezogenen Kompetenzen ermitteln und dokumentieren. 
  • Aufzeichnungen über Ausbildung, Schulung und Kompetenzen führen, um die Qualifikationen der Teammitglieder nachzuweisen. 
  • Externe Kompetenzen gemäß den Regeln für ausgelagerte Prozesse einbinden und ihre Verantwortlichkeiten klar dokumentieren. 

 

3. Dokumentation 

Die Erfüllung der regulatorischen Anforderungen setzt eine umfassende Dokumentation voraus. Hersteller müssen: 

  • Nachweisen, dass die KI die allgemeinen Sicherheits- und Leistungsanforderungen erfüllt, 
  • geeignete Aufbewahrungsfristen für Daten und Informationen festlegen und 
  • Maßnahmen implementieren, um Datenverluste zu vermeiden und die Datenintegrität zu gewährleisten. 

Beispiel: Ein Hersteller, der Patientendaten für die KI-Entwicklung verwendet, sollte diese verschlüsselt speichern und regelmäßige Backups durchführen. 

4. Anforderungen an die Produktentwicklung 

Eine klare Spezifikation des Produkts und der zugrundeliegenden KI ist essenziell. Hersteller sollten: 

  • Den medizinischen Zweck des Geräts und die spezifischen Anwendungsbereiche der KI definieren, z. B. Diagnose, Therapie oder Überwachung. 
  • Die Charakterisierung der Zielpatienten sicherstellen, einschließlich Indikationen, Kontraindikationen und assoziierter Krankheiten. 
  • Messfunktionen und deren Genauigkeit, Präzision und Stabilität für den vorgesehenen Zweck definieren. 
  • Lernziele für maschinelle Lernmethoden spezifizieren, z. B. Klassifikation oder Vorhersage. 
  • Einen KI-Lebenszyklusprozess implementieren, der auch Aktivitäten nach dem Inverkehrbringen abdeckt. 

 

5. Datenmanagement 

Daten sind das Herzstück jedes KI-Systems. Hersteller müssen: 

  • Die Menge der Datensätze spezifizieren und begründen, warum diese ausreichend sind. 
  • Einschluss- und Ausschlusskriterien für die Datenauswahl definieren. 
  • Verfahren zur Anonymisierung oder Pseudonymisierung der Daten vor dem Training und Testen einführen. 
  • Maßnahmen zur Handhabung von Kundeneigentum wie Patientendaten und Gesundheitsakten umsetzen, um deren Schutz und Vertraulichkeit sicherzustellen. 

Beispiel: Bei der Entwicklung eines KI-gestützten Diagnosetools sollten Patientendaten aus verschiedenen geographischen Regionen einbezogen werden, um Verzerrungen zu minimieren. 

6. Modellentwicklung 

Die Entwicklung des KI-Modells muss transparent und nachvollziehbar sein. Hersteller sollten: 

  • Die Auswahl der Trainingsparameter rechtfertigen und dokumentieren. 
  • Eine klare Trennung der Daten in Trainings-, Validierungs- und Testdatensätze vornehmen. 
  • Maßnahmen ergreifen, um Überanpassung (Overfitting*) zu reduzieren, z. B. durch Cross-Validation. 
  • Sicherstellen, dass die Modellarchitektur versioniert und Änderungen dokumentiert werden 

 

*Overfitting: Bei maschinellen Lerntechniken von künstlicher Intelligenz kann es dazu kommen, dass der Algorithmus zu stark auf die Trainingsdaten angepasst ist und somit ein Modell erzeugt wird, welches keine Schlussfolgerung aus anderen Daten ziehen kann. 

7. Produktfreigabe und Nachmarktüberwachung 

Nach der Entwicklung müssen Hersteller sicherstellen, dass die KI-Produkte kontinuierlich überwacht werden. Dazu gehören: 

  • Eine umfassende Dokumentation der verwendeten Modelle und Daten. 
  • Ein Plan zur Marktüberwachung nach Inverkehrbringen (Post-Market Surveillance, PMS), der die zu sammelnden Daten und zu bewertenden Qualitätskriterien festlegt. 
  • Verfahren zur Analyse unerwünschter Effekte und von Verhaltensänderungen während des Einsatzes der Produkte. 

8. Außerbetriebnahme 

Auch das Ende des Produktlebenszyklus erfordert sorgfältige Planung. Hersteller müssen: 

  • Einen Plan zur Außerbetriebnahme erstellen, der beschreibt, wie die Software deinstalliert, Daten gesichert oder exportiert und die Vertraulichkeit der Daten gewährleistet wird. 
  • Risiken der Außerbetriebnahme identifizieren, bewerten und in das Risikomanagement-Dokument einfließen lassen. 

 

Schlussfolgerung 

Künstliche Intelligenz revolutioniert die Entwicklung von Medizinprodukten und bietet Herstellern die Möglichkeit, innovative Lösungen für komplexe medizinische Herausforderungen zu entwickeln. Gleichzeitig machen regulatorische Anforderungen und die Notwendigkeit eines prozessorientierten Ansatzes deutlich, dass die Patientensicherheit immer an erster Stelle stehen muss. Hersteller, die sich frühzeitig mit den notwendigen Prozessen, Kompetenzen und Dokumentationsanforderungen auseinandersetzen, können diese Herausforderungen nicht nur meistern, sondern auch das Vertrauen des Marktes und der Patienten gewinnen. 

Nutzen Sie den KI-Fragebogen und bereiten Sie Ihr Unternehmen optimal auf die Anforderungen der MDR vor. Wenn Sie Fragen zur Entwicklung oder Implementierung von KI in der Medizintechnik haben oder weitere Informationen benötigen, nehmen Sie gerne Kontakt mit uns auf. Wir freuen uns auf Sie und Ihre Fragen. 

 

Verfasser dieses Blogartikels ist Nienke Bär, Bereich Integrierte Managementsysteme

 

Quelle: 

https://www.ig-nb.de/veroeffentlichungen 

Künstliche Intelligenz in der Medizintechnik: Was Hersteller wissen müssen
CRConsultants GmbH & Co. KG, Nienke Bär 14. Januar 2025
Stichwörter