Task Delegation from AI to Human: A Principal-Agent Perspective
Inhalt
Im Rahmen des Forschenden Lernens als didaktisches Kernformat des ABBA-Projekts wurde gemeinsam mit Studierenden ein extra-curriculares Forschungsvorhaben initiiert und umgesetzt. Ziel des Forschungsvorhabens war die Untersuchung von KI-geführten Delegationsprozessen in der Mensch-KI-Interaktion.
Abstract:
Durch die zunehmende Intelligenz und Autonomie von KI-basierten Agenten können immer komplexere Aufgaben von Agenten erledigt werden. In Mensch-KI-Systemen sind KI-Agenten zunehmend in der Lage die Führungsrolle zu übernehmen Autonomie und die Entscheidung der Aufgabendelegation zwischen Mensch und KI zu verantworten. Der Verschiebung der Delegationshoheit vom menschlichen zum KI-basierten Agenten birgt allerdings fundmentale Implikationen für die Interaktionsbeziehung und den Aufgabenerfolg. In dieser Studie werden Phänomene, Konflikte und Herausforderungen, die in diesem Prozess auftreten, durch die theoretische Brille der Principal-Agent-Theorie (PAT) betrachtet. Die Ergebnisse stammen aus einer systematischen Literaturrecherche und einer explorativen Interviewstudie und werden in den Kontext der bestehenden Konstrukte der PAT gestellt. Darüber hinaus identifiziert dieser Artikel neue Ursachen für Spannungen, die speziell bei der Delegation von KI an Menschen auftreten, und fordert spezielle Mechanismen, die über die klassischen Lösungen der PAT hinausgehen. Der Beitrag leistet damit einen Beitrag zum Verständnis autonomer KI und ihrer Implikationen für die Mensch-KI-Delegation.
Kernergebnisse
– Die beiden Principal-Agent-Probleme (PAPs) – versteckte Informationen und verstecktes Handeln – können auch bei Delegationen von KI-Agenten an Menschen festgestellt werden.
– Im Rahmen unserer Forschung wurden zudem neue Ursachen für Principal-Agent-Problems aufgedeckt, die speziell durch KI-Agenten als Prinzipale verursacht werden, etwa die Einstellung des menschlichen Agenten gegenüber dem KI-Agenten.
– Ein humanzentrischer Ansatz (z. B. die Erklärbarkeit von Entscheidungen) beim Design von Delegationsbeziehungen zwischen KI und Mensch ist von zentraler Bedeutung.
