| Forschungsprojekte | intern | Ethische Implikationen hybrider Teams aus Mensch und KI-System (Ethyde)
bidt background
Ethische Implikationen hybrider Teams aus Mensch und KI-System Ethyde

Ethische Implikationen hybrider Teams aus Mensch und KI-System (Ethyde)

Das Projekt untersucht Bedingungen für die Gestaltung von vertrauenswürdigen KI-Systemen in kognitionspsychologischen Experimenten und setzt diese prototypisch als Demonstratoren um. Im Fokus stehen Methoden des erklärenden interaktiven Lernens und deren Anwendung für Mensch-KI-Teams bei diagnostischen Entscheidungen in der Medizin.

Projektbeschreibung

KI-gestützte Empfehlungs- und Klassifikationssysteme, insbesondere solche, die auf datenintensiven Methoden des maschinellen Lernens basieren, gewinnen zunehmend in verschiedenen Anwendungsgebieten an Bedeutung. Hierzu gehören unter anderem verschiedene Anwendungen im medizinischen Bereich – von der Diagnoseunterstützung bis hin zu Therapieempfehlungen. Gerade in kritischen Bereichen wie der Medizin gehören menschliche Kontrolle und Aufsicht zu den wesentlichen Anforderungen an vertrauenswürdige KI-Systeme. Damit menschliche Expertinnen und Experten KI-generierte Empfehlungen und Klassifikationen einschätzen und bewerten können, muss nachvollziehbar sein, aufgrund welcher Informationen ein KI-System zu einer bestimmten Ausgabe kommt. Hybride Mensch-KI-Teams bieten die Chance, dass im partnerschaftlichen Zusammenspiel bessere Entscheidungen getroffen werden können als jeweils allein vom Menschen oder vom KI-System. Damit dies gelingt, müssen KI-Systeme so gestaltet werden, dass Menschen ihnen einerseits ein gewisses Maß an Vertrauen entgegenbringen, aber andererseits die Ausgaben dieser Systeme kritisch reflektieren.

Im BMBF-Verbundprojekt Ethyde, das gemeinsam vom bidt und dem Lehrstuhl für Wirtschafts- und Sozialethik der Universität Hohenheim (Matthias Uhl) durchgeführt wird, sollen Bedingungen für die vertrauenswürdige Gestaltung von hybriden Mensch-KI-Teams empirisch untersucht und prototypisch umgesetzt werden. Schwerpunkt des Lehrstuhls für Wirtschafts- und Sozialethik sind dabei verhaltensökonomische Experimente und die Ableitung von konkreten Handlungsempfehlungen für ein ethikkonformes Design der Interaktion von Mensch und KI-System. Am bidt liegt der Fokus auf Methoden der erklärbaren Künstlichen Intelligenz und interaktivem maschinellem Lernen. Konkret sollen spezifische Methoden der erklärbaren KI – insbesondere Merkmalsrelevanz, konzeptbasierte Erklärungen sowie beispielbasierte Erklärungen – mit interaktiven Methoden zur Korrektur von Systemausgaben und Erklärungen kombiniert und prototypisch umgesetzt werden.

Ziel des Projekts ist es, in verschiedenen kognitionspsychologischen Experimenten empirisch zu untersuchen, mit welchen Faktoren das Vertrauen von Nutzerinnen und Nutzern in KI-gestützte Empfehlungs- und Klassifikationssysteme so kalibriert werden kann, dass die von Mensch und System gemeinsam erzielten Ergebnisse verbessert werden. Von besonderem Interesse ist in diesem Zusammenhang, welche Bedeutung verschiedene Methoden der erklärbaren KI sowie unterschiedliche Interaktions- und Korrekturmöglichkeiten haben und wie sie konkret für die Gestaltung von vertrauenswürdigen KI-Systemen genutzt werden können. In einem Prototyp sollen verschiedene Methoden zur Realisierung partnerschaftlicher KI-Systeme exemplarisch für das Gebiet der medizinischen Diagnostik umgesetzt werden. Dieser soll als Webapplikation realisiert und als Demonstrator einem breiten Kreis von Interessierten zur Verfügung stehen.

Projektteam

Prof. Dr. Ute Schmid

Mitglied im bidt-Direktorium und im Geschäftsleitenden Ausschuss | Mitglied im Bayerischen KI-Rat & Professorin für Kognitive Systeme, Otto-Friedrich-Universität Bamberg

Eda Ismail-Tsaous

Wissenschaftliche Referentin Forschung, bidt

Celine Spannagl

Wissenschaftliche Referentin Forschung, bidt