Anzeige
Anzeige
Anzeige
Anzeige

Kolumne Robotik, Recht, Risiko:
Update zum Entwurf einer europäischen KI-Verordnung

Die Europäische Kommission hat am 21. April 2021 den Entwurf einer KI-Verordnung veröffentlicht. Der Entwurf verfolgt einen risikobasierten sowie sektorübergreifenden Ansatz. Er reicht von absoluten Verboten für bestimmte KI-Systeme über hohe Standards für sogenannte Hochrisiko-KI-Systeme bis hin zu freiwilligen Maßnahmen. Mit der Stellungnahme des Europäischen Wirtschafts- und Sozialausschusses gewinnt das Gesetzgebungsverfahren und die Debatte um den Entwurf der Kommission weiter an Fahrt.

Marieke Merkle ist Rechtsanwältin bei der Kanzlei Noerr und Lehrbeauftragte für IT-Recht an der Ludwigs-Maximilian-Universität München. Sie ist spezialisiert auf die rechtliche Beratung bei IT- und IoT-Projekten (insbesondere Cloud-Computing, Open Source Software, künstliche Intelligenz). (Bild: Noerr PartGmbB)

Marieke Merkle ist Rechtsanwältin bei der Kanzlei Noerr und Lehrbeauftragte für IT-Recht an der Ludwigs-Maximilian-Universität München. Sie ist spezialisiert auf die rechtliche Beratung bei IT- und IoT-Projekten (insbesondere Cloud-Computing, Open Source Software, künstliche Intelligenz). (Bild: Noerr PartGmbB)

Die Praxis hat angesichts der im Entwurf einer KI-Verordnung enthaltenen zahlreichen Anforderungen an KI-Systeme mit erheblichen Auswirkungen zu rechnen. Das gilt insbesondere vor dem Hintergrund des von der Kommission verfolgten sektorübergreifenden Ansatzes: Der KI-Verordnungsentwurf findet unabhängig von Wirtschafts- oder Industriezweigen Anwendung. Weiterhin liegt der Verordnung eine sehr weite Definition von künstlicher Intelligenz zugrunde, die unter anderem deterministische Systeme und damit nahezu jegliche Software umfasst. Im Fall der Einordnung von Software als KI-System gelten abseits der absoluten Verbote teils strenge Anforderungen. Für Hochrisiko-KI-Systeme ist in Anlehnung an das Produktsicherheitsrecht z.B. die Durchführung eines Konformitätsbewertungsverfahrens vorgesehen.

Das mit dem Entwurf der KI-Verordnung eröffnete ordentliche Gesetzgebungsverfahren hat mit der Stellungnahme des Europäischen Wirtschafts- und Sozialausschusses einen weiteren Zwischenschritt genommen. Die Stellungnahme greift die an dem Entwurf der Kommission von Wissenschaft, Praxis und Gesellschaft erhobene Kritik nur zum Teil auf. Insgesamt spricht sich der Europäische Wirtschafts- und Sozialausschuss für einen stärkeren Schutz der von KI-Systemen Betroffenen aus. Der Ausschuss fordert etwa eine Ausweitung des Verbots des Social Scoring, das im Entwurf auf öffentliche Stellen beschränkt ist, auch auf private Akteure. Daneben soll das Verbot der biometrischen Fernidentifikation als absolutes Verbot verankert werden und auf weitere biometrische Erkennungstechniken (z.B. Emotionserkennungssysteme) ausgeweitet werden. Der Ausschuss spricht sich weiterhin für eine Erstreckung des externen Konformitätsbewertungsverfahrens auch auf eigenständige Hochrisiko-KI-Systeme, für die nach dem Verordnungsentwurf bisher nur ein internes Konformitätsbewertungsverfahren vorgesehen war, aus.

Die Stellungnahme des Europäischen Wirtschafts- und Sozialausschusses enthält viele berechtigte Ansätze und Anmerkungen, insbesondere was die fehlende Bestimmtheit vieler Klauseln des Verordnungsentwurfes betrifft. Gleichzeitig vernachlässigt der Ausschuss die auf Seiten der Hersteller und Betreiber von KI-Systemen bestehenden Bedenken. Keine hinreichende Berücksichtigung findet z.B. die Frage, inwiefern die an KI-Systeme gestellten Anforderungen in technischer Sicht durchführbar sind. Beispielhaft sei hier auf die hohen Anforderungen an Trainings-, Validierungs- und Testdaten sowie die Transparenz und Überwachung von Hochrisiko-KI-Systemen verwiesen, die einer hinreichend klaren Regelung bedürfen. Das Erreichen des Ziels der Kommission, die Europäische Union zum globalen Zentrum für vertrauenswürdige KI zu machen, erfordert gerade auf Anwenderseite klare sowie technisch umsetzbare Regelungen. Ansonsten läuft die KI-Verordnung Gefahr, zu einem Innovationshemmnis zu werden, wodurch Europa den Anschluss an China und USA im Bereich künstlicher Intelligenz vollständig verlieren würde. Es verbleibt daher der Appell, das weitere Gesetzgebungsverfahren im Europäischen Parlament und im Rat der Europäischen Union zu nutzen, um einen angemessenen Ausgleich zwischen dem Schutz der Rechte der Bürger der Europäischen Union und der Vermeidung einer Überregulierung, die Innovationen im Keim zu ersticken droht, zu finden.

Hochachtungsvoll

Marieke Merkle

Kolumne Robotik, Recht, Risiko: Update zum Entwurf einer europäischen KI-Verordnung
Bild: Noerr PartGmbB


Empfehlungen der Redaktion

Das könnte Sie auch interessieren

Im Bereich Advanced Robotics und Smart Factory arbeitet Daimler TSS beständig an der Verbesserung automatisierter Lösungen, um auf dem Shopfloor schnellere Anpassungen zu ermöglichen. Im Fokus stehen dafür Software-Lösungen für das Leitbild der Smart Factory, in dem Mensch und Maschine eng und effizient zusammenarbeiten. Ziel ist es, dem Personal im Werk vor Ort zu ermöglichen, die eingesetzten Roboterlösungen selbst auf sich ändernde Anforderungen anpassen zu können.‣ weiterlesen

Anzeige

Die Digital Factory der Fachhochschule Technikum Wien ist eine Pilotfabrik, in der praxistypische Industrie-4.0-Szenarien realisiert werden. Zu den Technologien und Robotersystemen, die hier erprobt werden, zählt nun auch die Lösung Spotguard des österreichischen Startups Tofmotion. Das auf dem 3D-Kameraverfahren Time of Flight (ToF) basierende Produkt ermöglicht sichere Forschungstätigkeiten im Kontext der virtuellen Arbeitsraumüberwachung.‣ weiterlesen

Anzeige

Spätestens wenn der Jahreswechsel näher rückt, hat die private Kalenderproduktion Hochkonjunktur: Individuelle Exemplare werden als ganzjährige Erinnerung an schöne Momente verschenkt. Das Startup Unchained Robotics trägt mit einer Pick&Place-Lösung in einer Druckerei dazu bei, dass die persönlichen Kalender schnellstmöglich beim Auftraggeber ankommen. Die zentralen Akteure dabei: ein kollaborativer Roboter und der 3D-Sensor von IFM.‣ weiterlesen

Das 3D-Bildverarbeitungsunternehmen LMI Technologies und der Roboterhersteller Universal Robots haben ein gemeinsames Ziel: Smarte 3D-Sensorlösungen für Roboter und Cobots. Durch die UR-Zertifizierung der Gocator-3D-Snapshot- und der Gocator-3D-Linienprofilsensoren sollen Ingenieure eine vollständige bildverarbeitungsgesteuerte Roboterlösung mit geringen Kosten und Entwicklungszeiten erhalten.‣ weiterlesen

Unchained Robotics hat eine Finanzierung in Höhe von 1,7Mio.€ erhalten. ‣ weiterlesen

Insbesondere in der Kleb- und Oberflächentechnik ist eine Absicherung von Prozessschritten von großer Bedeutung. Für ein definiertes und langzeitbeständiges Kleb- oder Beschichtungsergebnis muss als Grundlage eine definierte Oberfläche mit bekannten Eigenschaften vorliegen. Die laserinduzierte Plasmaspektroskopie bietet an dieser Stelle eine gute Möglichkeit zur Qualitätssicherung.‣ weiterlesen

Anzeige
Anzeige
Anzeige
Anzeige
Anzeige
Anzeige