Anzeige
Anzeige

KI: Eine unlösbare Aufgabe für das Haftungsrecht?

Der Einsatz künstlicher Intelligenz (KI) in allen Lebensbereichen ist seit geraumer Zeit ein großes Thema und inzwischen auch bei den Juristen angekommen. Es gilt, sich mit solch kniffeligen Fragen auseinanderzusetzen wie: „Wer haftet, wenn KI in der Produktionsanlage den Roboterarm ausscheren lässt und dabei ein Mitarbeiter verletzt wird?“

Susanne Wende berät Hersteller im Hinblick auf alle Fragen rund um Product Compliance und Produkthaftung beim Vertrieb in Europa. (Bild: Noerr LLP)

Schon eine Definition des Begriffs KI ist nicht so ganz einfach. Die von der Europäischen Kommission einberufene Artificial Intelligence High-Level Expert Group hat ein neunseitiges (!) Dokument mit dem Versuch einer Definition veröffentlicht. Im Kern wird darauf abgestellt, dass KI die eigene Umgebung analysiert und daraus – mit einem gewissen Maß an Autonomie – selbst Handlungen ableitet. Gerade das Maß der Autonomie bereitet den Juristen Schwierigkeiten. Das existierende Haftungsrecht benötigt nämlich immer eine menschliche Handlung als Anknüpfungspunkt; eine Handlung, die auf eine willentliche Entscheidung zurückführbar ist. Nur dann kann die haftungsrechtlich relevante Frage gestellt und beantwortet werden, ob in der menschlichen Willensbildung ein rechtswidriges und zugleich vorwerfbares Verhalten zu sehen ist. Der Jurist nennt dies eine vorsätzliche oder fahrlässige Pflichtverletzung. Zu einem qualitativen Sprung in der rechtlichen Wertung kommt es daher in dem Moment, in dem ein Programm aufgrund der Auswertung seiner Umgebung selbst den eigenen Algorithmus verändern kann. Damit reduziert sich zum einen die Vorhersehbarkeit, zum anderen aber auch die Rechtfertigung der Anknüpfung eines Fehlers an ein menschliches Verhalten.

Der juristische Diskurs ist breit. Es wird die Frage aufgeworfen, ob immer noch danach bewertet werden kann, ob der Programmierer jedenfalls alles Erforderliche getan hat, um sicherzustellen, dass sich der Algorithmus nicht in eine gefährliche Richtung weiterentwickelt. Oder sollte vielleicht jeder Einsatz von KI wegen der mangelnden Beherrschbarkeit und Abschätzbarkeit des Autonomierisikos als pflichtwidrig eingestuft werden, solange die Rahmenbedingungen nicht rechtlich festgelegt sind? Diskutiert wird auch die Übertragung bereits entwickelter Zurechnungsgrundsätze, wie z.B. die Haftung des Unternehmers für seine Verrichtungsgehilfen. Der Jurist stößt in diesem Zusammenhang auf ein dogmatisches Problem, da der Verrichtungsgehilfe aufgrund seiner menschlichen Willensfreiheit handelt. Diese Willensfreiheit hat eine KI nicht. Daher wird z.T. die Etablierung eines ganz eigenen Haftungsregimes angeregt oder auch eine Lösung der Haftungsfragen allein über die Definition von Risikosphären. Denn hinter der Maschine steht ja stets eine menschliche Einheit von Entwickler, Hersteller und Betreiber. Es erscheint möglich, dieser Einheit als eine Art Geflecht von Mitverursachern das Risiko des Fehlverhaltens in Form der Gefährdungshaftung zuzurechnen.

Eine wiederum andere juristische Strömung untersucht, ob als juristische Konsequenz der möglichen Entstehung eines Selbstbewusstseins der KI eine entsprechende Rechtspersönlichkeit geschaffen werden müsste. Es gäbe dann zwar formell ein Haftungssubjekt, aber eine Verteilung der finanziellen Haftungsrisiken ginge damit nicht einher. Die Europäische Kommission hat eine Expertengruppe eingesetzt, um Auslegungshilfen im Hinblick auf die rechtliche Handhabung von Haftungsfragen beim Einsatz von KI auf Grund der aktuellen Gesetzeslage zu erarbeiten. Leitlinien dieser Expertengruppe waren für Mitte Mai 2019 angekündigt. Sie sind allerdings bisher noch nicht veröffentlicht. Auch das zeigt, dass die haftungsrechtliche Erfassung des Einsatzes von KI durchaus eine Herausforderung für unser Rechtssystem ist.

Anzeige

Sie möchten effizienter produzieren und industrielle Prozesse mit Robotern automatisieren?

Bild: Artiminds Robotics GmbH

Wie der Einstieg in die Robotik erfolgreich gelingt und welche Faktoren bei der Umsetzung wichtig sind zeigen die kostenfreien ArtiMinds Webinare „5 Tipps für den flexiblen & zukunftssicheren Robotereinsatz“ und „Einfache und herstellerunabhängige Roboterprogrammierung“.

Jetzt kostenfrei anmelden!

‣ Mehr Infos

Hiermit verbleibe ich hochachtungsvoll

Ihre Susanne Wende

KI: Eine unlösbare Aufgabe für das Haftungsrecht?



Empfehlungen der Redaktion

Das könnte Sie auch interessieren

In Anbetracht der aktuellen Lage fand der Pressetag von Schmalz dieses Jahr virtuell statt. Dr. Kurt Schmalz, Geschäftsführer des Familienunternehmens, eröffnete die Veranstaltung mit einem kurzen Bericht über die Entwicklung der Schmalz-Gruppe und die aktuelle Situation rund um Corona. ‣ weiterlesen

Anzeige

Die Europe Partner Days von Hanwha Robotics in Frankfurt standen ganz im Zeichen der europäischen Distributoren des koreanischen Herstellers der Cobots HCR-3, HCR-5 und HCR-12. Neben der Erläuterung der Marktstrategie ging es auch um konkrete Anwendungen und die Ehrung der besten europäischen Distributoren.‣ weiterlesen

Anzeige

Das polnische Startup Nomagic entwickelt Software und künstliche Intelligenz für Industrieroboter, vornehmlich zum Einsatz in Logistiklagern. Die Roboter können so die meisten einfachen manuellen Arbeiten ausführen. Gründer und Ex-Google-Direktor Kacper Nowicki spricht im Interview mit ROBOTIK UND PRODUKTION über unstrukturierte Umgebungen, Bildverarbeitungssysteme und Remote-Services.‣ weiterlesen

Anzeige

Das Thema Coronavirus beherrscht derzeit die Welt. Um die Pandemie einzuschränken, greifen Regierungen zu drastischen Präventionsmaßnahmen. Auch die Wirtschaft wird herausgefordert. Die Rechte des Einzelnen müssen grundsätzlich auch dann gewahrt bleiben, wenn Unternehmen ein Interesse daran haben, den Gesundheitszustand der Beschäftigten zu erfahren.‣ weiterlesen

Matthias Ehnert studierte Betriebswirtschaft an der TU Dresden und verantwortet heute als geschäftsführender Gesellschafter die Geschicke der Firma Enwito. Für deren Marke Intelligentis ist der 40-Jährige aktiv als M&A-Berater in der Unternehmensnachfolge für Betriebe der Robotik und Automation tätig. Im Gespräch mit ROBOTIK UND PRODUKTION berichtet er über die Auswirkungen der Corona-Pandemie auf die Robotikbranche, über Firmenverkäufe und die Aufgaben eines M&A-Beraters.‣ weiterlesen

Gleich drei virtuelle Messen veranstaltet der TeDo Verlag aktuell: die inVISION Show, die Industry Show und die Smart Robotics Show. Für Hersteller, Anwender und Integratoren von Robotern ist dabei die Smart Robotics Show besonders interessant.‣ weiterlesen

Anzeige
Anzeige
Anzeige
Anzeige
Anzeige
Anzeige