Vertrauenswürdige generative KI-Copiloten für Datenanalysen in geschäftlichen Entscheidungsprozessen (GenAICopilot)

Projektbeschreibung

Unternehmen aller Branchen haben den Wert der Nutzung von Daten als Grundlage für ihre Geschäftsentscheidungen erkannt. Traditionell mussten sich Entscheidungsträgerinnen und Entscheidungsträger ohne technischen Hintergrund auf Berichte, Dashboards und andere Anwendungen verlassen, die von ihren technisch versierteren Kolleginnen und Kollegen bereitgestellt wurden. Die Fortschritte im Bereich der generativen KI und großer Sprachmodelle (LLMs) erleichtern jedoch den Zugang zu Datenanalysen und viele Unternehmen führen KI-Copiloten mit einer natürlichsprachlichen Schnittstelle ein, um Nutzenden aller Kompetenzstufen bei der Interaktion mit Daten, der Gewinnung von Erkenntnissen und der datengestützten Entscheidungsfindung zu unterstützen.

Trotz dieser vielversprechenden Entwicklungen gibt es viele Herausforderungen, die nicht nur die technischen Grenzen von LLMs betreffen, sondern auch das Vertrauen der Nutzenden in die Antworten des Copiloten während der Interaktion. Die Neigung von Nutzenden, entweder zu viel oder zu wenig Vertrauen in die Antworten zu haben, führt oft zu ineffektiver oder ineffizienter Entscheidungsfindung. Unser Forschungsprojekt adressiert diese Herausforderung, indem es die Gestaltung vertrauenswürdiger KI-Copiloten für Datenanalysen untersucht und deren Einfluss auf geschäftliche Entscheidungsprozesse von Nutzenden ohne technischen Hintergrund erforscht.

Auf der Basis von Theorien über mentale Modelle untersuchen wir zunächst das Zusammenspiel zwischen mentalen Modellen und Vertrauenskalibrierung in der Interaktion zwischen Nutzenden und Copiloten. Diese Erkenntnisse dienen dann als Grundlage für die Gestaltung eines vertrauenswürdigen Copiloten, der die Entwicklung gemeinsamer mentaler Modelle erleichtert und somit Nutzenden bei der Vertrauenskalibrierung hilft. Abschließend führen wir empirische Studien durch, um zu verstehen, wie die Interaktion mit solchen Copiloten die Entscheidungsfindung von Nutzenden mit unterschiedlicher Datenkompetenz beeinflusst.

Projektteam