KI-Betreiber sollen haften

Wenn selbstfahrende Autos oder Paketauslieferungsdrohnen, die durch Systeme mit künstlicher Intelligenz (KI) gesteuert werden, Unfälle verursachen, sollen die Systembetreiber haften, auch wenn sie keine Schuld trifft. So heißt es im Entwurf einer Resolution des Europaparlaments. Die EU-Kommission soll aufgefordert werden, das Haftungsrecht entsprechend zu ändern.

05. Mai 2020 | von Frank Hütten

Wenn es zu Unfällen mit selbstfahrenden Autos oder Paketauslieferungsdrohnen kommt, sollen die Betreiber der mit Künstlicher Intelligenz (KI) operierenden Steuerungssysteme dafür haften müssen. Das empfiehlt der CDU-Europaabgeordnete Axel Voss, rechtspolitischer Sprecher der christdemokratischen EVP-Fraktion, in einem Entwurf für eine EP-Resolution. Wenn das Parlament sie annimmt, wird die EU-Kommission aufgefordert, in einer Verordnung zur zivilen Haftung eine „verschuldensunabhängige Gefährdungshaftung“ für die Betreiber von KI-Anwendungen einzuführen, die als „hochrisikoreich“ eingestuft werden.

In diese Kategorie sollen aus dem Verkehrsbereich Drohnen, Fahrzeuge mit dem Automatisierungsniveau 4 und 5 sowie autonome Verkehrsmanagementsysteme fallen, schlägt Voss vor. Die Liste soll regelmäßig von der EU-Kommission überprüft und bei Bedarf geändert werden. Europaparlament und Mitgliedstaaten hätten ein Einspruchsrecht. So sollen EU-Bürger geschützt werden, ohne technologische Entwicklungen auszubremsen, sagt Voss. „Wir müssen verhindern, dass sich das große Potenzial von KI-Systemen für unsere Gesellschaft durch Überregulierung nicht entfalten kann.“

Regulierungslücke schließen

Voss will eine Regelungslücke schließen. „Unser bestehendes Haftungssystem bietet dem Geschädigten auch in Zeiten von Künstlicher Intelligenz in den meisten Fällen einen ausreichenden Schutz“, sagt er. „Das Produkthaftungsgesetz greift, wenn der Schaden durch einen Defekt der Paketauslieferungsdrohne verursacht wurde. Ist ein Hacker für den Absturz verantwortlich, erfolgt der Schadensausgleich über das Deliktsrecht“.

Gegen Betreiber von KI seien Haftungsansprüche dagegen schwierig durchzusetzen, weil die konkreten Vertragsbeziehungen fehlten. KI-Systeme wie selbstfahrende Autos oder Paketauslieferungsdrohnen gefährdeten aber eine unvorhersehbare Zahl argloser Menschen. Deswegen sollten ihre Betreiber auch dann für den Schaden aufkommen müssen, wenn sie keine Schuld trifft, so wie der Halter eines Autos oder eines gefährlichen Tiers, argumentiert der CDU-Abgeordnete. Gehaftet werden soll für Personenschäden bis zu insgesamt 10 Mio. EUR und für Sachschäden für bis zu 2 Mio. EUR. Alle Betreiber von hochrisikoreichen KI-Systemen sollen eine Haftpflichtversicherung abschließen müssen. (fh)

Frank Hütten

ist EU-Korrespondent der DVZ. Von Brüssel aus beobachtet er die EU-Politik, die für die Transportwirtschaft relevant ist. Vor seinem Wechsel zur DVZ berichtete er für die Wirtschaftspublikationen „Vereinigte Wirtschaftsdienste“ (vwd), „Dow Jones News“ und „MBI Infosource“ über die EU.