Grafik: Männerhand und Roboterhand zeigen aufeinander

AI Act – EU-Rechtsrahmen zum Umgang mit Künstlicher Intelligenz (KI): Vorbereitung als Gebot der Stunde

Newsletter 1-2024

Mit dem Artificial Intelligence Act, auch bekannt als KI-Verordnung, hat die EU-Kommission im Rahmen der EU-Digitalstrategie Ende 2023 einen Entwurf zum Gesetz über Künstliche Intelligenz veröffentlicht. Der Entwurf enthält in dieser Form konkrete Vorschläge zur Regelung im Umgang mit Künstlicher Intelligenz. Der AI-Act der EU ist der erste derart umfassende Rechtsrahmen für künstliche Intelligenz weltweit.

Von Politikern als historisch bejubelt, wird das Gesetz von Juristen, Datenschützern und Bürgerrechtlern mit großer Skepsis beäugt.

Zum einen bereitet die unter bestimmten Umständen erlaubte biometrische Echtzeitüberwachung vielen Kopfzerbrechen. Zum anderen sollen neben dem AI-Act auch eine KI-Haftungsrichtlinie erlassen sowie Änderungen an der bereits bestehenden Produkthaftungsrichtlinie vorgenommen werden. Kritiker vermissen hier ein kohärentes Regelwerk.

AI-Act: Was bedeutet risikobasierter Ansatz der KI-Verordnung?

Dies meint, dass, je höher ein Risiko ist, das mit dem Einsatz eines bestimmten KI-Systems verbunden ist, umso strenger die Anwendung und die damit verbundenen Pflichten reguliert werden müssen.


Verbotene KI-Systeme sollen demnach jene sein, die eine Gefährdung der Menschenrechte, Lebensgrundlagen und Sicherheit sind. Dies wären z.B. Systeme, die menschliches Verhalten manipulieren oder bewerten.


Sogenannte Hochrisikosysteme, die in Bereichen wie Rechtspflege oder Gesundheit eingesetzt werden, unterliegen strengen Anwendungsvoraussetzungen wie der Errichtung von Risikomanagement-Systemen oder Pflichten zur Aufzeichnung.


Systeme mit nur geringem Risiko (wie z.B. Chatbots) unterliegen weniger strengen Voraussetzungen. Es gibt hier allerdings Transparenzpflichten. 

KI Haftungsrichtlinie

Die KI Haftungsrichtlinie soll nationales Recht der Mitgliedsstaaten zur verschuldensabhängigen Haftung ergänzen. Zur Beweiserleichterung für Geschädigte von Hochrisiko-KI soll eine Kausalitätsvermutung eingeführt werden. Der Schädiger ist demnach in der Pflicht, diese Vermutung der Schädigung zu widerlegen. Zusätzlich sollen Geschädigte die Offenlegung von Beweismitteln vor Gericht fordern können, wenn es sich um Schädigung durch Hochrisiko-KI handelt.

Richtlinie zur Produkthaftung

Auch die Produkthaftungsrichtlinie wird überarbeitet und an das Digitalzeitalter angepasst. Software und KI-Systeme sollen als Produkt eingestuft werden und somit eine Haftung im Sinne der Richtlinie auslösen können.

Wer haftet?

Da sich derzeit alle oben erwähnten Normen noch im Entstehungs- bzw. Überarbeitungsprozess befinden, wird es für den praktischen KI-Einsatz von großer Bedeutung sein, welche rechtlichen Folgen das Inverkehrbringen oder die damit verbundene Gehilfenhaftung haben werden. Wie Versicherer auf den Einsatz von KI versicherter Unternehmen reagieren werden, bleibt ebenfalls abzuwarten.
Ein zeitnaher Aufbau entsprechender Strukturen in den Unternehmen ist jedenfalls unerlässlich, um den neuen Pflichten gerecht zu werden und auch wettbewerbsfähig zu bleiben.