Kolumne Robotik, Recht, Risiko:
Update zum Entwurf einer europäischen KI-Verordnung

Die Europäische Kommission hat am 21. April 2021 den Entwurf einer KI-Verordnung veröffentlicht. Der Entwurf verfolgt einen risikobasierten sowie sektorübergreifenden Ansatz. Er reicht von absoluten Verboten für bestimmte KI-Systeme über hohe Standards für sogenannte Hochrisiko-KI-Systeme bis hin zu freiwilligen Maßnahmen. Mit der Stellungnahme des Europäischen Wirtschafts- und Sozialausschusses gewinnt das Gesetzgebungsverfahren und die Debatte um den Entwurf der Kommission weiter an Fahrt.

Marieke Merkle ist Rechtsanwältin bei der Kanzlei Noerr und Lehrbeauftragte für IT-Recht an der Ludwigs-Maximilian-Universität München. Sie ist spezialisiert auf die rechtliche Beratung bei IT- und IoT-Projekten (insbesondere Cloud-Computing, Open Source Software, künstliche Intelligenz). (Bild: Noerr PartGmbB)

Die Praxis hat angesichts der im Entwurf einer KI-Verordnung enthaltenen zahlreichen Anforderungen an KI-Systeme mit erheblichen Auswirkungen zu rechnen. Das gilt insbesondere vor dem Hintergrund des von der Kommission verfolgten sektorübergreifenden Ansatzes: Der KI-Verordnungsentwurf findet unabhängig von Wirtschafts- oder Industriezweigen Anwendung. Weiterhin liegt der Verordnung eine sehr weite Definition von künstlicher Intelligenz zugrunde, die unter anderem deterministische Systeme und damit nahezu jegliche Software umfasst. Im Fall der Einordnung von Software als KI-System gelten abseits der absoluten Verbote teils strenge Anforderungen. Für Hochrisiko-KI-Systeme ist in Anlehnung an das Produktsicherheitsrecht z.B. die Durchführung eines Konformitätsbewertungsverfahrens vorgesehen.

Das mit dem Entwurf der KI-Verordnung eröffnete ordentliche Gesetzgebungsverfahren hat mit der Stellungnahme des Europäischen Wirtschafts- und Sozialausschusses einen weiteren Zwischenschritt genommen. Die Stellungnahme greift die an dem Entwurf der Kommission von Wissenschaft, Praxis und Gesellschaft erhobene Kritik nur zum Teil auf. Insgesamt spricht sich der Europäische Wirtschafts- und Sozialausschuss für einen stärkeren Schutz der von KI-Systemen Betroffenen aus. Der Ausschuss fordert etwa eine Ausweitung des Verbots des Social Scoring, das im Entwurf auf öffentliche Stellen beschränkt ist, auch auf private Akteure. Daneben soll das Verbot der biometrischen Fernidentifikation als absolutes Verbot verankert werden und auf weitere biometrische Erkennungstechniken (z.B. Emotionserkennungssysteme) ausgeweitet werden. Der Ausschuss spricht sich weiterhin für eine Erstreckung des externen Konformitätsbewertungsverfahrens auch auf eigenständige Hochrisiko-KI-Systeme, für die nach dem Verordnungsentwurf bisher nur ein internes Konformitätsbewertungsverfahren vorgesehen war, aus.

Die Stellungnahme des Europäischen Wirtschafts- und Sozialausschusses enthält viele berechtigte Ansätze und Anmerkungen, insbesondere was die fehlende Bestimmtheit vieler Klauseln des Verordnungsentwurfes betrifft. Gleichzeitig vernachlässigt der Ausschuss die auf Seiten der Hersteller und Betreiber von KI-Systemen bestehenden Bedenken. Keine hinreichende Berücksichtigung findet z.B. die Frage, inwiefern die an KI-Systeme gestellten Anforderungen in technischer Sicht durchführbar sind. Beispielhaft sei hier auf die hohen Anforderungen an Trainings-, Validierungs- und Testdaten sowie die Transparenz und Überwachung von Hochrisiko-KI-Systemen verwiesen, die einer hinreichend klaren Regelung bedürfen. Das Erreichen des Ziels der Kommission, die Europäische Union zum globalen Zentrum für vertrauenswürdige KI zu machen, erfordert gerade auf Anwenderseite klare sowie technisch umsetzbare Regelungen. Ansonsten läuft die KI-Verordnung Gefahr, zu einem Innovationshemmnis zu werden, wodurch Europa den Anschluss an China und USA im Bereich künstlicher Intelligenz vollständig verlieren würde. Es verbleibt daher der Appell, das weitere Gesetzgebungsverfahren im Europäischen Parlament und im Rat der Europäischen Union zu nutzen, um einen angemessenen Ausgleich zwischen dem Schutz der Rechte der Bürger der Europäischen Union und der Vermeidung einer Überregulierung, die Innovationen im Keim zu ersticken droht, zu finden.

Hochachtungsvoll

Marieke Merkle