KI-Software ist darauf ausgelegt, gesammelte Daten zu strukturieren oder unstrukturierte Daten zu interpretieren und aus diesen Daten abgeleitetes Wissen zu schlussfolgern. Und zwar innerhalb von Sekunden oder Minuten – so schnell, wie eine Ärztin oder ein Arzt ohne technische Hilfe wohl niemals eine entsprechende Diagnose stellen könnte. Da gerade im medizinischen Umfeld oftmals jede Sekunde zählt, erfreut sich KI zunehmender Beliebtheit auch in der Medizintechnik und ist in einigen medizintechnischen Bereichen bereits fest etabliert.
Den Rechtsrahmen für den Einsatz von KI-Produkten soll künftig der Artificial Intelligence Act (AIA) bilden. Der risikobasierte Ansatz dieser Verordnung zielt darauf ab, in Gestalt eines präventiven Verbotsgesetzes, ein Rechtsgerüst für „vertrauenswürdige“ KI zu schaffen.
Regulatorische Probleme aufgrund von Doppelregulierung
Für Medizinprodukte gibt es seit Mai 2021 eine europaweit harmonisierte Regulierung: Die EU-Medizinprodukte-Verordnung (MDR).
Die MDR regelt unter anderem, dass Produkte mit einer medizinischen Zweckbestimmung, die der Hersteller festlegt, als Medizinprodukte zu qualifizieren sind und bestimmten Anforderungen unterliegen, bevor sie in Verkehr gebracht werden dürfen. Auch KI-basierte Software kann ein Medizinprodukt sein, wenn sie beispielsweise der „Diagnose, Verhütung, Überwachung, Vorhersage, Prognose, Behandlung oder Linderung von Krankheiten“ dient. Daraus folgt, dass eine solche KI-basierte Software zunächst ein Konformitätsbewertungsverfahren durchlaufen muss und mit einer CE-Kennzeichnung versehen sein muss, bevor sie an andere abgegeben werden darf. Im Zuge des Konformitätsbewertungsverfahrens muss auch nachgewiesen werden, dass für das jeweilige Produkt „Wiederholbarkeit, Zuverlässigkeit und Leistung entsprechend ihrer bestimmungsgemäßen Verwendung gewährleistet sind“. Klassisch programmierte Software bereitet insofern keine besonderen Schwierigkeiten, da sie nach festen Regeln kontinuierlich und gleich funktioniert.
KI soll sich jedoch gerade weiterentwickeln. Selbstlernende Systeme passen sich während ihres Einsatzes ständig neuen Erkenntnissen an. Insofern ändert sich während des Lebenszyklus einer medizinischen KI-Software zwangsläufig auch seine Funktionsweise, was Einfluss auf die Konformität haben kann. Je nach aktueller Form des Systems, kann dadurch eine unterschiedliche Risikobeurteilung geboten sein. Das Phänomen stellt Hersteller vor das Problem, wie die Anforderungen an die Verkehrsfähigkeit bei medizinischer KI-Software eingehalten werden können. Ganz anders sieht das der AIA-Entwurf: Danach soll ein weitertrainiertes System nicht erneut zulassungsbedürftig sein. Es ist noch völlig unklar, wie dieses Spannungsfeld aufzulösen sein wird.
Einstufung fast aller Medizinprodukte als Hochrisiko-KI-Systeme
KI-Medizinprodukte, wie medizinische KI-Software, werden zudem unter dem AIA-Entwurf größtenteils als Hochrisiko-KI-Systeme eingestuft. Aufgrund dieser Klassifizierung gelten gesteigerte Anforderungen an die Zulässigkeit dieser Systeme. Unter anderem sind Anbieter dazu verpflichtet, bestimmte Risikomanagementsysteme zu installieren sowie zusätzlichen Anforderungen an die Transparenz der verwendeten Daten und Aufsichtspflichten zu genügen.
Zusätzlich zu den oben bereits dargestellten Anforderungen der MDR, werden die Anbieter von KI basierten Medizinprodukten damit vor hohe regulatorische Hürden gestellt, die sich als Innovationshemmer darstellen können.
Wann ist das Maß sinnvoller Regulierung erreicht?
Der Bundesverband Medizintechnologie (BVMed) äußert sich – zu Recht – kritisch zur Klassifizierung unter dem AIA-Entwurf: „die Einordnung erfolge zu pauschal und sollte sich stärker am Kontext des konkreten Einsatzes orientieren“.