Doctor A.I.: Künstliche Intelligenz und Medizinprodukte
Auch in der Medizin hält künstliche Intelligenz (KI) Einzug. Ein Beispiel: Während früher die Herzinfarktdiagnose mittels wiederholtem EKG erfolgte, kommt heute vermehrt spezielle KI-Software zur Unterstützung der ärztlichen Diagnose zum Einsatz. Diese Software kann in Windeseile Profile von RNA-Molekülen auswerten und miteinander verknüpfen, sodass der Herzinfarkt „sichtbar“ wird.
Isabel Jakobs ist Rechtsanwältin bei der Kanzlei Noerr und auf die Beratung zur Produkthaftung und Product Compliance mit Schwerpunkt Life Sciences & Healthcare spezialisiert. (Bild: Noerr PartG mbB)
KI-Software ist darauf ausgelegt, gesammelte Daten zu strukturieren und zu interpretieren und aus diesen Daten abgeleitetes Wissen zu schlussfolgern. Und zwar innerhalb von Sekunden oder Minuten – so schnell, wie ein Mensch ohne technische Hilfe wohl keine entsprechende Diagnose stellen könnte. Den Rechtsrahmen für KI soll künftig der Artificial Intelligence Act (AIA) bilden. Der risikobasierte Ansatz der Verordnung zielt darauf ab, in Gestalt eines präventiven Verbotsgesetzes, ein Rechtsgerüst für vertrauenswürdige KI zu schaffen.
Regulatorische Probleme aufgrund von Doppelregulierung
Für Medizinprodukte gibt es seit Mai 2021 die europaweit harmonisierte EU-Medizinprodukte-Verordnung (MDR). Die MDR regelt unter anderem, dass Produkte mit einer medizinischen Zweckbestimmung als Medizinprodukte zu qualifizieren sind. Medizinprodukte unterliegen besonderen Anforderungen, bevor sie in Verkehr gebracht werden dürfen. Auch KI-basierte Software kann ein Medizinprodukt sein, wenn sie z.B. der Diagnose von Krankheiten dient. In diesem Fall muss für sie Wiederholbarkeit, Zuverlässigkeit und Leistung entsprechend ihrer bestimmungsgemäßen Verwendung gewährleistet sein. Klassisch programmierte Software bereitet insofern keine besonderen Schwierigkeiten, da sie nach festen Regeln kontinuierlich und gleich funktioniert. KI jedoch soll sich gerade weiterentwickeln und ständig neuen Erkenntnissen anpassen, was Einfluss auf die genannten Kriterien und damit auf die Konformität haben kann. Ganz anders sieht das der AIA-Entwurf: Danach soll ein weitertrainiertes System nicht erneut zulassungsbedürftig sein. Es ist noch unklar, wie dieses Spannungsfeld aufzulösen sein wird.
Einstufung fast aller Medizinprodukte als Hochrisiko-KI-Systeme
KI-Medizinprodukte werden zudem nach dem AIA-Entwurf größtenteils als Hochrisiko-KI-Systeme, mit gesteigerten Anforderungen an die Zulässigkeit eingestuft. Unter anderem sind Anbieter dazu verpflichtet, spezifische Risikomanagementsysteme zu installieren sowie zusätzlichen Anforderungen an die Transparenz der verwendeten Daten zu genügen. Zusätzlich zu den oben bereits dargestellten Anforderungen der MDR werden die Anbieter von KI-Medizinprodukten damit vor hohe regulatorische Hürden gestellt, die sich als Innovationshemmer darstellen können. Der Bundesverband Medizintechnologie (BVMed) äußert sich daher – zu Recht – kritisch zur Klassifizierung unter dem AIA-Entwurf: Die Einordnung erfolge zu pauschal und sollte sich stärker am Kontext des konkreten Einsatzes orientieren. Solche Kategorisierungen sind wichtig, um überhöhte regulatorische Hürden abzubauen.
