Im Bereich der medizinischen Versorgung bietet sich für Softwaresysteme, die künstliche Intelligenz benutzen, ein enormes Einsatzgebiet. In diesem Beitrag fassen wir zusammen, wann und wie KI-basierte Medizinprodukte nach der MDR (I.) und dem AI Act (II.) qualifiziert und klassifiziert werden und welche zusätzlichen regulatorischen Anforderungen Hersteller von KI-basierten Medizinprodukten nach dem AI Act erfüllen müssen (III.).

I.            Qualifizierung und Klassifizierung nach der MDR

1.           Software als ein Medizinprodukt

Ein Medizinprodukt ist nach Art. 2 Nr. 1 MDR im Wesentlichen ein Gegenstand, einschließlich Software, der vom Hersteller für die Anwendung am Menschen bestimmt ist und der allein oder in Kombination einen der in der MDR genannten spezifischen medizinischen Zweck erfüllen soll und dessen Hauptwirkung weder durch pharmakologische oder immunologische Mittel noch metabolisch erreicht wird. Eine Software ist danach ein Medizinprodukt, wenn sie eine der in der MDR genannten medizinischen Zweckbestimmungen hat.

Software kann medizinprodukterechtlich verschiedene Erscheinungsformen haben: Sie kann Teil eines Medizinproduktes sein (sog. Embedded Software), wenn sie nicht eigenständig funktioniert und speziell für das physische Geräte entwickelt wurde. Software kann aber auch Zubehör eines Medizinproduktes sein oder sogar als ein eigenständiges Medizinprodukt (sog. Standalone Soft-ware) fungieren, sofern sie selbst eine medizinische Zweckbestimmung hat, die unabhängig von einem physischen Gerät betrieben werden kann.

2.           Klassifizierung nach der MDR

Diese Unterscheidung ist vor allem für die Klassifizierung von KI-basierten Medizinprodukten in einer der von der MDR vorgegeben Risikoklassen entscheidend. So wird Embedded Software immer derselben Risikoklasse zugerechnet, wie das physische Medizinprodukt, in das sie integriert ist (Anhang VIII, Ziff. 3.3 MDR). Standalone Software und Zubehör hingegen werden selbstständig einer Risikoklasse zugeordnet (Anhang VIII, Ziff. 3.2 MDR).

Für Standalone-Software sieht die MDR ein eigenes Klassifizierungssystem vor (Regel 11 im An-hang VIII). Sofern Software Informationen zur Entscheidungsfindung für diagnostische oder therapeutische Zwecke zur Verfügung stellt, wird sie in den in der Regel 11 genannten Fällen der Risikoklasse IIa, IIb oder III und in allen anderen Fällen der Klasse I zugeordnet. Danach dürfte ein Großteil der Standalone Software wohl mindestens der Klasse IIa zugeordnet werden, da jede Standalone Software, die der Diagnose, Untersuchung, Überwachung, Behandlung oder zur Linderung dient, zwangsläufig Informationen zur Entscheidungsfindung für diagnostische oder therapeutische Zwecke bereitstellen muss. Bemerkenswert ist diesbezüglich die Entscheidung des OLG Hamburg (Urt. v. 20.06.2024, Az. 3 U 3/24), wonach eine telemedizinische Software als Medizin-produkt der Klasse IIa (oder höher) einzustufen ist, auch wenn die in Frage stehende App zur Be-stimmung der ärztlichen Diagnose keine eigenen Daten erhebt, sondern nur die Patientendaten strukturiert übermittelt.

Für Hersteller von KI-basierten Medizinprodukten ist diese Regel von enormer Bedeutung, da bei der Zuordnung ihres Produktes in die Klasse IIa oder höher stets eine Konformitätsprüfung durch die Benannte Stelle und nicht etwa durch sie selbst zu erfolgen hat.

II.           Qualifizierung und Klassifizierung nach dem AI Act

1.           Software als KI-System nach dem AI Act

Der AI Act definiert das KI-System in Art. 3 Nr. 1 AIA als „ein maschinengestütztes System, das für einen in unterschiedlichem Grade autonomen Betrieb ausgelegt ist und das nach seiner Betriebsaufnahme anpassungsfähig sein kann und das aus den erhaltenen Eingaben für explizite oder implizite Ziele ableitet, wie Ausgaben wie etwa Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen erstellt werden, die physische oder virtuelle Umgebungen beeinflussen können.“ Insbesondere mit den Kriterien der Autonomie sowie der Lern- und Anpassungsfähigkeit des Systems soll die Abgrenzung zu regelbasierten Softwareprogrammen beschrieben werden.

Während die MDR nur auf die Medizinproduktebranche ausgerichtet ist, gilt der AI Act sektorübergreifend, d.h. für alle Branchen, in denen KI zum Einsatz kommt. Dementsprechend fallen softwarebasierte Medizinprodukte in den Anwendungsbereich des AI Acts, sofern diese KI-Systeme gemäß der obigen Definition enthalten. Anders als bei der MDR spielt die Zweckbestimmung des Produktes für die Anwendbarkeit des AI Acts keine Rolle, mit Ausnahme von KI-Modellen mit all-gemeinem Verwendungszweck (Art. 3 Nr. 66 AIA).

2.           Klassifizierung nach dem AI Act

Die Frage, welche regulatorischen Anforderungen ein KI-System nach dem AI Act einhalten muss, hängt davon ab, ob es sich um ein Hochrisiko-KI-System handelt, für das der AI Act die umfassendsten Anforderungen bereithält, oder nicht. Nach Art. 6 AIA gilt ein KI-basiertes Medizinprodukt als Hochrisiko-KI-System, wenn die folgenden beiden Bedingungen erfüllt sind:

• das KI-System soll als Sicherheitsbauteil des Medizinproduktes verwendet werden, oder das KI-System selbst ist das Medizinprodukt und
• das KI-System, das als Sicherheitsbauteil im Medizinprodukt verwendet wird oder das KI-System, das selbst das Medizinprodukt ist, unterliegt einer Konformitätsbewertung durch einen Dritten gemäß der MDR.

Der AI Act nimmt folglich keine eigene Risikobewertung vor, sondern übernimmt die Risikobetrachtungen anderer gesetzlicher Reglungen, hier der MDR. Ein KI-basiertes Medizinprodukt ist daher immer dann als Hochrisiko-KI-System einzuordnen ist, wenn es entweder selbst als KI-System oder dessen KI-System als Sicherheitsbauteil einer Konformitätsbewertung durch Dritte nach der MDR bedarf. Dies ist immer dann der Fall, wenn das Medizinprodukt als Klasse IIa oder höher eingestuft wird. Da die meisten KI-basierten Medizinprodukte als Standalone Software, wie oben beschrieben, mindestens der Risikoklasse IIa zuzuordnen sind, und somit einer Konformitätsbewertung durch die Benannte Stelle bedürfen, sind diese regelmäßig als Hochrisiko-KI-Systeme zu klassifizieren.

Wann ein KI-basiertes Medizinprodukt als Sicherheitsbauteil gilt, ist jedoch unklar. Nach Art. 3 Nr. 14 AIA ist ein Sicherheitsbauteil „ein Bestandteil eines Produktes oder eines KI-Systems, der eine Sicherheitsfunktion für dieses Produkt oder KI-System erfüllt oder dessen Ausfall oder Störung die Gesundheit und Sicherheit von Personen oder Eigentum gefährdet“. Da davon auszugehen ist, dass KI-Systeme als Teil eines Medizinproduktes regelmäßig das Risiko einer Gefährdung der Gesundheit und Sicherheit von Personen bergen, würde nahezu fast jedes in einem Medizinprodukt integrierte KI-System als Sicherheitsbauteil gelten.

III.          Regulatorische Anforderungen an KI-basierte Medizinprodukte mit hohem Risiko

Sofern das KI-basierte Medizinprodukt als Hochrisiko-KI-System gilt, sieht der AI Act ähnliche regulatorische Anforderungen wie die MDR vor, enthält aber darüber hinaus zusätzliche Vorgaben, die bei der Entwicklung von KI-basierten Medizinprodukten zu beachten sind.

1.           Gemeinsame Anforderungen

Folgende Anforderungen sind sowohl nach der MDR als auch nach dem AI Act einzuhalten:

• Erweiterte Konformitätsbewertung: Hersteller von KI-basierten Medizinprodukten mit ho-hem Risiko müssen sowohl das in der MDR als auch im AI Act vorgesehen Konformitätsbewertungsverfahren durch Dritte durchlaufen, wobei die im AI Act festgelegten Anforderungen für in die Konformitätsbewertung nach der MDR einbezogen werden können (Art. 53 MDR, Art. 43 Abs. 3 AIA).
• Implementierung von Managementsystemen: Sowohl die MDR als auch der AI Act verlangen die Errichtung eines Qualitäts- und Risikomanagementsystems, um die Qualität des KI-basierten Medizinproduktes zu gewährleisten und etwaige Risiken zu minimieren. Auch hier besteht die Möglichkeit, die KI-spezifischen Anforderungen nach dem AI Act in die nach der MDR bestehenden Managementsysteme zu integrieren (Art. 10 Abs. 2, 9 MDR, Art. 9 Abs. 10 , Art. 17 Abs. 3 AIA).
• Einheitliche Technische Dokumentation: Für KI-basierte Medizinprodukte mit hohem Risiko muss nur eine einzige Technische Dokumentation anfertigt werden, um nachzuweisen, dass die Vorgaben nach der MDR und dem AI Act erfüllt werden (Art. 10 Abs. 4, Anhang II und III MDR, Art. 11, Anhang IV AIA).

2.           Zusätzliche Anforderungen nach dem AI Act

Neben diesen Gemeinsamkeiten enthält der AI Act aber eine Reihe von zusätzlichen Anforderungen, die in Bezug auf KI-basierte Medizinprodukte zu berücksichtigen sind:

• Daten-Governance: Da der Zugang zu qualitativ hochwertigen Daten die Qualität eines KI-basierten Medizinproduktes auszeichnet, verlangt Art. 10 AIA, dass Hochrisiko-KI-Systeme mit qualitativ hochwertigen Trainings-, Validierungs-, und Testdatensätzen zu entwickeln sind, für die spezielle Daten-Governance-Verfahren gelten. Nach der MDR bestehen zwar bereits strikte Vorgaben, was die Verwendung von klinischen Daten betrifft (Art. 61 Abs. 9 MDR). Diese Pflichten werden nunmehr aber um die Anforderungen an die Daten-Governance in Bezug auf alle vom KI-System verwendeten Daten umfassend erweitert.
• Aufzeichnungspflichten: Zwar sind Medizinproduktehersteller bereits unter der MDR zur Aufzeichnung von Daten über die Leistungen und Sicherheit ihres Produktes verpflichtet (Art. 83 MDR). Nach dem AI Act müssen Hersteller von KI-basierten Medizinprodukten mit ho-hem Risiko nunmehr aber zusätzlich die Ergebnisse ihres Produktes aufzeichnen, um die Rück-verfolgbarkeit der Systemfunktionen zu gewährleisten (Art. 12 AIA).
• Transparenzpflichten: Nach Art. 13 AIA ist Transparenz eine wesentliche Anforderung an Hochrisiko-KI-Systeme. Diese muss so ausgestaltet sein, dass Betreiber von KI-Systemen in der Lage sind, die Ergebnisse richtig zu interpretieren und das System angemessen zu nutzen. Die Transparenzpflichten nach der MDR sind dagegen auf die Bereitstellung relevanter Informationen zum zweckmäßigen Gebrauch des Medizinproduktes beschränkt (Anhang I, Ziff. 23 MDR).
• Menschliche Aufsicht: Neu ist zudem die in Art. 14 AIA verankerte Verpflichtung der Hersteller, KI-basierte Medizinprodukte so zu konzipieren, dass sie während ihrer Nutzung von Menschen beaufsichtigt werden können, um Risiken für die Gesundheit, Sicherheit und der Grund-rechte zu minimieren. Es ist jedoch unklar, in welchem Umfang eine menschliche Aufsicht bei KI-basierten Medizinprodukten zu erfolgen hat.
• Genauigkeit, Robustheit und Cybersicherheit: Nach Art. 15 AIA müssen Hochrisiko-KI-Systeme so entwickelt sein, dass deren Robustheit, Cybersicherheit und Genauigkeit während ihres gesamten Lebenszyklus gewährleistet ist. Da gerade die Cybersicherheit einer der wesentlichsten Anforderungen für Hochrisiko-KI-Systeme ist und Medizinprodukte nicht dem Cyber Resilience Act unterliegen, ist das Testen von KI-basierten Medizinprodukten auf deren Robustheit und Cybersicherheit für Medizinproduktehersteller grundlegend neu.
• Wesentliche Änderungen: Während nach der MDR bei wesentlichen Änderungen eines Medizinproduktes eine neue Konformitätsbewertung zu erfolgen hat (Anhang IX, Ziff. 4.1  MDR,), besteht nach dem AI Act die Möglichkeit, zukünftige Änderungen am Hochrisiko-KI-System vorab mit der zuständigen Benannten Stelle im Rahmen der ersten Konformitätsbewertung abzustimmen, so dass diese später ohne erneute Konformitätsbewertung umgesetzt werden können (Art. 43 Abs. 4 AIA).
• Post-Market Surveillance: Sowohl die MDR als auch der AI Act sehen für Hersteller umfassende Produktbeobachtungspflichten nach dem Inverkehrbringen vor (Art. 83 f. MDR, Art. 72 AIA). Neu ist jedoch, dass für KI-basierte Medizinprodukte die etwaige Interaktion mit anderen KI-Systemen, einschließlich anderer Geräte und Software, festgestellt werden muss (Art. 72 Abs. 2 AIA).

IV.          Fazit

Welche regulatorischen Anforderungen KI-basierte Medizinprodukte einhalten müssen, hängt von deren Klassifizierung nach der MDR ab. Da die meisten KI-basierten Medizinprodukte in die Klasse IIa oder höher einzustufen sind, und somit einer Konformitätsbewertung durch Dritte bedürfen, gelten diese regelmäßig als Hochrisiko-KI-Systeme, für die der AI Act die umfassendsten Anforderungen vorsieht.

Im Hinblick auf die regulatorischen Anforderungen weisen die MDR und der AI Act große Schnittmengen auf. Begrüßenswert ist, dass einige spezielle Anforderungen nach dem AI Act in die bereits nach der MDR bestehende Prozesse und Verfahren integriert werden können. Neue Anforderungen ergeben sich insbesondere in Bezug auf die Genauigkeit, Robustheit und Cybersicherheit von KI-basierten Medizinprodukten sowie auf den Umfang der Data-Governance, Transparenz, Aufzeichnungspflichten und menschliche Aufsicht.

Es bleibt abzuwarten, wie die Behörden und Hersteller mit dem Zusammenspiel der Regelungen umgehen und verfahren. Wir halten Sie auf dem Laufenden.