| gefördert | Responsible Robotics (RRAI) Ethische und soziale Aspekte von KI-basierten Transformationen in der Arbeits- und Wissensumgebung des Gesundheitswesens
bidt background

Responsible Robotics (RRAI) Ethische und soziale Aspekte von KI-basierten Transformationen in der Arbeits- und Wissensumgebung des Gesundheitswesens

Das Projektteam wollte die sozialen, ethischen und rechtlichen Dimensionen zweier neuartiger KI-basierter Technologien untersuchen, einen praktischen Werkzeugkasten für zukünftige interdisziplinäre KI-Innovationen entwickeln und diese Werkzeuge und Empfehlungen experimentell durch interdisziplinäre Co-Creation und Arbeitsplatzintegration von verkörperten KI-Anwendungen testen.

Projektbeschreibung

Die Integration von verkörperter künstlicher Intelligenz (KI) kann für das Gesundheitswesen und die Gesellschaft im Allgemeinen in den nächsten Jahrzehnten große Vorteile bringen.

Allerdings werden Innovationen wie KI-Operationsroboter, KI-Prothetik, Pflege- oder irgendwann auch Mikro- und Nanoroboter mit einer Reihe ethischer, sozialer, politischer und rechtlicher Herausforderungen einhergehen, darunter bahnbrechende Veränderungen in den Arbeitskulturen und der Expertise von medizinischem Fachpersonal. Diese Herausforderungen, die sich aus der neuartigen Arbeitsteilung zwischen Mensch und Maschine ergeben, müssen proaktiv angegangen werden, wenn verkörperte KI erfolgreich und verantwortungsvoll implementiert werden soll.

Während übergreifende Prinzipien (wie die der European High-Level Expert Group on Artificial Intelligence) und Standards (wie die ISO) für persönliche Pflegeroboter entwickelt wurden, fehlen weitgehend konkrete und feinkörnige Rahmenbedingungen für die verantwortungsvolle Integration verkörperter KI-Produkte in die Praxis und Arbeitskultur des Gesundheitswesens. Es fehlt auch an Best-Practice-Modellen, die die interdisziplinäre Entwicklung von Mensch-Maschine-Anwendungen in der Biomedizin unter Berücksichtigung ethischer, sozialer und regulatorischer Fragen erleichtern könnten.

Dementsprechend zielte RR-AI darauf ab,

  1. die sozialen, ethischen und rechtlichen Dimensionen zweier neuartiger KI-basierter Technologien – eines Serviceroboters namens GARMI und der haptischen Telemedizin – empirisch zu untersuchen und zu sehen, wie sie in der Praxis des Gesundheitswesens entwickelt und implementiert werden;
  2. eine praktische Toolbox für zukünftige interdisziplinäre KI-Innovationen sowie konkrete Standards und Empfehlungen für eine verantwortungsvolle Integration von verkörperter KI in die Arbeitspraxis und Ausbildung im Gesundheitswesen zu entwickeln;
  3. diese Tools und Empfehlungen experimentell durch interdisziplinäre Co-Creation und Arbeitsplatzintegration von verkörperten KI-Anwendungen zu testen.

Das Projekt verfolgte somit einen innovativen “embedded”-Ansatz, bei dem ethische, soziale, rechtliche und politische Analysen integrale Bestandteile eines KI-Produktdesignprozesses sowie dessen Arbeitsplatzintegration darstellen. Die Projektergebnisse werden mit Stakeholdern diskutiert, in Pilotprojekten erprobt und weit verbreitet.

Das Projekt wurde zum 30. Juni 2023 abgeschlossen.

Ansprechpartner

Dr. Christoph Egle

Geschäftsführer, bidt

Projektteam

Prof. Dr. med. Alena M. Buyx

Inhaberin, Lehrstuhl für Ethik der Medizin und Gesundheitstechnologien | Technische Universität München

Prof. Dr.-Ing. Sami Haddadin

Inhaber, Lehrstuhl für Robotik und Systemintelligenz | Technische Universität München

Prof. Dr. Ruth Müller

Professorin für Wissenschafts- und Technologiepolitik, Munich Center for Technology in Society (MCTS) | Technische Universität München

Prof. Dr. Iris Eisenberger

Professorin für Öffentliches Recht und Europäisches Wirtschaftsrecht, Universität Graz

Dr. Daniel Tigard

Wissenschaftlicher Mitarbeiter, Lehrstuhl für Ethik der Medizin und Gesundheitstechnologien | Technische Universität München

Konstantin Ritt

Wissenschaftlicher Mitarbeiter, Lehrstuhl für Robotik und Systemintelligenz | Technische Universität München

Svenja Breuer

Wissenschaftliche Mitarbeiterin und Doktorandin, Munich Center for Technology in Society (MCTS) | Technische Universität München

Maximilian Braun

Wissenschaftlicher Mitarbeiter und Doktorand, Munich Center for Technology in Society (MCTS) | Technische Universität München

Beiträge