Dr. Adrian Krenzer

Eine Vertrauensfrage: Entwicklung erklärbarer KI für eine verantwortungsvolle medizinische Entscheidungsfindung

Das Forschungsprojekt “Eine Vertrauensfrage: Entwicklung erklärbarer KI für eine verantwortungsvolle medizinische Entscheidungsfindung” am Bayerischen Forschungsinstitut für Digitale Transformation fokussiert sich auf den Einsatz künstlicher Intelligenz (KI) in der Gastroenterologie. Ziel ist es, durch die Entwicklung und Implementierung erklärbarer KI-Systeme das Vertrauen und die Akzeptanz dieser Technologien unter Medizinern zu stärken. Im Rahmen des Projekts werden bestehende KI-Modelle, die Ärzte bei der Diagnose und Behandlung unterstützen, um Erklärungskomponenten erweitert. Diese sollen in Echtzeit visuelle und textuelle Erläuterungen zu KI-Entscheidungen bieten und somit die Transparenz und Nachvollziehbarkeit der KI-gestützten Prozesse verbessern. Die Forschungsarbeit beinhaltet die Aufbereitung relevanter Daten, die Entwicklung spezifischer Explainability-Methoden sowie die Integration und Evaluation der erklärungsbasierten Systeme in der klinischen Praxis. Dadurch soll nicht nur die diagnostische Präzision erhöht, sondern auch die allgemeine Akzeptanz von KI in der medizinischen Diagnostik gefördert werden.