KI-Software ist darauf ausgelegt, gesammelte Daten zu strukturieren und zu interpretieren und aus diesen Daten abgeleitetes Wissen zu schlussfolgern. Und zwar innerhalb von Sekunden oder Minuten – so schnell, wie ein Mensch ohne technische Hilfe wohl keine entsprechende Diagnose stellen könnte. Den Rechtsrahmen für KI soll künftig der Artificial Intelligence Act (AIA) bilden. Der risikobasierte Ansatz der Verordnung zielt darauf ab, in Gestalt eines präventiven Verbotsgesetzes, ein Rechtsgerüst für vertrauenswürdige KI zu schaffen.
Regulatorische Probleme aufgrund von Doppelregulierung
Für Medizinprodukte gibt es seit Mai 2021 die europaweit harmonisierte EU-Medizinprodukte-Verordnung (MDR). Die MDR regelt unter anderem, dass Produkte mit einer medizinischen Zweckbestimmung als Medizinprodukte zu qualifizieren sind. Medizinprodukte unterliegen besonderen Anforderungen, bevor sie in Verkehr gebracht werden dürfen. Auch KI-basierte Software kann ein Medizinprodukt sein, wenn sie z.B. der Diagnose von Krankheiten dient. In diesem Fall muss für sie Wiederholbarkeit, Zuverlässigkeit und Leistung entsprechend ihrer bestimmungsgemäßen Verwendung gewährleistet sein. Klassisch programmierte Software bereitet insofern keine besonderen Schwierigkeiten, da sie nach festen Regeln kontinuierlich und gleich funktioniert. KI jedoch soll sich gerade weiterentwickeln und ständig neuen Erkenntnissen anpassen, was Einfluss auf die genannten Kriterien und damit auf die Konformität haben kann. Ganz anders sieht das der AIA-Entwurf: Danach soll ein weitertrainiertes System nicht erneut zulassungsbedürftig sein. Es ist noch unklar, wie dieses Spannungsfeld aufzulösen sein wird.
Einstufung fast aller Medizinprodukte als Hochrisiko-KI-Systeme
KI-Medizinprodukte werden zudem nach dem AIA-Entwurf größtenteils als Hochrisiko-KI-Systeme, mit gesteigerten Anforderungen an die Zulässigkeit eingestuft. Unter anderem sind Anbieter dazu verpflichtet, spezifische Risikomanagementsysteme zu installieren sowie zusätzlichen Anforderungen an die Transparenz der verwendeten Daten zu genügen. Zusätzlich zu den oben bereits dargestellten Anforderungen der MDR werden die Anbieter von KI-Medizinprodukten damit vor hohe regulatorische Hürden gestellt, die sich als Innovationshemmer darstellen können. Der Bundesverband Medizintechnologie (BVMed) äußert sich daher – zu Recht – kritisch zur Klassifizierung unter dem AIA-Entwurf: Die Einordnung erfolge zu pauschal und sollte sich stärker am Kontext des konkreten Einsatzes orientieren. Solche Kategorisierungen sind wichtig, um überhöhte regulatorische Hürden abzubauen.
Fazit
Es bleibt zu hoffen, dass der Gesetzgeber mit Blick auf KI-Medizinprodukte noch nacharbeitet, um die EU weiterhin als Standort für Innovation in der Medizintechnik zu erhalten. Wünschenswert wäre eine klare Abgrenzung zwischen den unterschiedlichen Regularien sowie eindeutige Pflichten für Wirtschafstakteure, die den Entwicklungsprozess von KI berücksichtigen. Eine Überregulierung sollte vermieden werden, um keine übermäßigen regulatorischen Hürden aufzubauen. Gleichzeitig ist es wichtig, dass KI-Produkte differenzierten Regulierungsvorschriften unterliegen und vor allem auch der Datenschutz gewährleistet bleibt. Die Balance zwischen diesen Interessen herzustellen, wird ein gesetzgeberischer Drahtseilakt.