Künstliche Intelligenz: Verantwortlich bleibt der Mensch

Im Bereich Procurement sieht Nicole Lau, globale Leiterin Prozessoptimierung und Implementierung bei der Deugro Group, die Vorteile autonomer KI-Agenten klar vor sich. Ein solcher Agent arbeite rund um die Uhr, erkenne binnen Sekunden veränderte Marktstrukturen, könne historische Raten konsolidieren und auswerten. „Natürlich wäre es sehr wünschenswert, einem rund um die Uhr arbeitenden KI-Agenten erweiterte Kompetenzen zuzuweisen, wie zum Beispiel Einkäufe selbst zu tätigen und dann im Nachgang Buchungen vorzunehmen“, sagt Lau. Vollständig umgesetzt sei das in ihrem Unternehmen aber noch nicht.

Es gehe zunächst darum, die eigenen Anforderungen zu verstehen. Dazu gehöre auch die Frage, was man einer KI überhaupt an Entscheidungen anvertrauen könne. Themen wie Datenschutz, Informationssicherheit und Governance stünden dabei im Zentrum. „Welche Rechte geben wir einem KI-Agenten?“, das sei derzeit eine entscheidende Frage.

Sensibel ist Lau, wenn es um das Verhältnis von Mensch und Maschine geht. Die Angst vor dem Jobkiller KI kennt sie, fast jeder stelle sich diese Frage. Für die Logistik mit ihren sich schnell verändernden Märkten und den stark gestiegenen Anforderungen an Dokumentation und Kontrolle sieht sie sogar eine Chance für mehr Arbeitssicherheit. Repetitive Tätigkeiten wie das endlose Übertragen und Durchforsten von Daten könne eine KI weitgehend übernehmen.

Realistisch sei zugleich, dass sich Berufsbilder grundlegend wandeln. So treffe der Disponent weiterhin die letzte Entscheidung, nun aber „ausgestattet mit der Hilfe eines KI-Kollegen“, erläutert Lau. Viele Jobs, wie es sie heute gebe, würden in dieser Form künftig nicht mehr existieren.

Ein Patentrezept für den Umgang mit den Mitarbeitern hat Lau nach eigenem Bekunden nicht. Entscheidend sei ein vernünftiges Change-Management: Akzeptanz lasse sich nicht verordnen. Unternehmen trügen die Verpflichtung, die frei werdende Zeit in echte Wertschöpfung zu überführen. „Das vordergründige Ziel darf nicht sein, Personal abzubauen, sondern das Personal gezielter besser einzusetzen und es mit auf die Reise zu nehmen.“ Gerade in global aufgestellten Unternehmen mit kulturellen Unterschieden sei das eine große Herausforderung, der man meist zu wenig Zeit und Vorbereitung widme. In der Praxis setze ihr Haus klassische KI-Tools längst ein, etwa zur Konsolidierung großer Datenmengen. Die agentische KI hingegen befinde sich noch in der Testphase.

Der KI-Agent haftet nicht

An diesem Punkt setzt Jurist Oliver Peltzer an. „Wer unterschreibt eigentlich? Wer ist derjenige, der tatsächlich die rechtliche Bindung eingeht?“, fragt Peltzer, Partner von ASD Law. Seine Antwort fällt eindeutig aus: Wenn der Agent nachts um drei Uhr einen Lkw bucht und sich dabei verrechnet, einen falschen Preis akzeptiert oder einen Partner von einer Sanktionsliste wählt, hafte nicht die KI und in der Regel auch nicht der Softwareanbieter, sondern das Unternehmen selbst. Die KI sei kein Rechtsobjekt und besitze auch keine Rechtsfähigkeit; „Wenn sich der Agent verrechnet, dann ist das Unternehmen in der sogenannten Verantwortlichkeit und Haftung, ob es das will oder nicht“, unterstreicht Peltzer.

Auf naheliegende Auswege sollte man besser nicht setzen. Die Standardverträge der KI-Anbieter enthielten weitreichende Haftungsausschlüsse und die Produkthaftung regele etwas ganz anderes. Auch der europäische AI Act helfe kaum weiter – mit einer zentralen Ausnahme: Wer KI anwende, müsse seine Mitarbeiter schulen. Andernfalls drohe ein Organisationsverschulden.

Peltzers Empfehlung lautet daher, klare Compliance-Regeln zu etablieren. Bei bekannten Partnern, vereinbarten Vertragsbedingungen und unterhalb einer Wertgrenze dürfe die KI ruhig buchen. Bei neuen Partnern, abweichenden Bedingungen oder höheren Beträgen brauche es unbedingt einen Menschen. Wichtig seien zudem harte Sperren bei Unternehmen, die auf Sanktionslisten stünden. Entsprechende Listen sollte niemals allein ein KI- Agent final prüfen dürfen.

Der richtige Weg zum KI-Agenten-Einsatz ist also kein Verbot, sondern, einen Rahmen zu definieren. Dazu gehört, Verantwortung zu akzeptieren, Verträge zu verhandeln, Wertgrenzen und Freigaben zu definieren, Datenschutzhinweise an die DSGVO anzupassen und Mitarbeiter zu schulen. „Dann können Sie loslegen“, sagt Peltzer. Schnellere und effizientere Abläufe mit Hilfe von KI-Agenten und Rechtssicherheit ließen sich durchaus vereinbaren.