Weniger entscheiden, genauer urteilen

Wenn KI-Agenten Lieferketten steuern, stellt sich die Frage, wer schlussendlich die Kontrolle behält. Auf der Supply Chain CX gaben Inga-Lena Darkow, Professorin an der University of Labour in Frankfurt, und Matthias Klumpp, Professor an der Universität Bremen, darauf eine Antwort, die sich auf den Leitbegriff „Calibrated Trust“ stützt: Vertrauen in ein System muss zu dessen tatsächlicher Verlässlichkeit in der konkreten Situation passen.

Drei Stufen der KI-Entwicklung

„KI verändert die Architektur von Entscheidungen“, erklärt Darkow zu Beginn des Vortrags. Die Entwicklung lasse sich in drei Stufen unterteilen: Analytische KI liefert Prognosen, während der Mensch sämtliche Entscheidungen trifft. Generative KI interpretiert Ergebnisse im Dialog, der Mensch prüft und trifft die Entscheidungen. Agentische KI hingegen nutzt Tools und handelt selbstständig, während der Mensch nur noch delegiert und überwacht.

Für die tägliche Arbeit in Logistikunternehmen könnte diese Entwicklung langfristig eine Umstellung bedeuten: Beschäftigte treffen seltener Routineentscheidungen, prüfen dafür häufiger Ergebnisse und lösen vor allem die schwierigen Aufgaben, für die es keine Standardlösung gibt. Damit steigen auch die Anforderungen an die menschliche Urteilskraft, betont Darkow.

Hybride Zusammenarbeit

Klumpp beschreibt die mögliche Zukunft des Arbeitens als Hybridisierung: „Wir wissen aus unserer Forschung, dass hybride Systeme tendenziell überlegen sind – nicht für jeden Einzelfall, aber für viele Fälle.“ Anders ausgedrückt: Die Zusammenarbeit von Mensch und Software liefere in der Regel bessere Ergebnisse als reine Automatisierung oder menschliche Alleinarbeit. Entscheidend sei die Akzeptanz der Beschäftigten.

Das Vertrauen in die Zuverlässigkeit von KI-Agenten entwickle sich aber nur schrittweise. Klumpp vergleicht die Situation mit autonomem Fahren: Zuerst glauben Menschen, dass die Technik es grundsätzlich kann, dann vertrauen sie ihr begrenzte Strecken an und schließlich geben sie die Verantwortung vollständig ab. Dahinter stecke jedoch ein Lernprozess, der sich über mehrere Jahre erstrecken kann.

Schrittweise Umsetzung, klare Regeln

Damit agentische KI in Unternehmen funktioniert, müssen laut Darkow drei Bereiche gleichzeitig gestaltet werden: Auf Systemebene gehe es um Aspekte wie den Datenzugriff, Entscheidungsmandate und Kontrollmechanismen. Auf organisatorischer Ebene müssen Aufgabenverteilung, Prozesse und Verantwortlichkeiten neu geregelt werden. Die Menschen als dritter Bereich brauchen dafür aber zunächst Kompetenzen, Handlungsspielräume und das Recht auf Mitbestimmung an den Veränderungen.

Auch klare Regeln seien für eine entsprechende KI-Transformation unverzichtbar. Sie legen fest, welche Ziele und Grenzen ein Agent hat und wann er nachfragen oder eine Entscheidung an den Menschen zurückgeben muss. Nur so könne eine „Entscheidungsarchitektur für verantwortungsvolle Autonomie in der Supply Chain“ geschaffen werden, so das Fazit der Referierenden. Oder anders ausgedrückt: „So viel Autonomie wie sinnvoll. So viel Kontrolle wie nötig. So viel Lernen wie möglich.“