Responsible Robotics (RRAI) Ethische und soziale Aspekte von KI-basierten Transformationen in der Arbeits- und Wissensumgebung des Gesundheitswesens

Projektbeschreibung

Die Integration von verkörperter künstlicher Intelligenz (KI) kann für das Gesundheitswesen und die Gesellschaft im Allgemeinen in den nächsten Jahrzehnten große Vorteile bringen.

Allerdings werden Innovationen wie KI-Operationsroboter, KI-Prothetik, Pflege- oder irgendwann auch Mikro- und Nanoroboter mit einer Reihe ethischer, sozialer, politischer und rechtlicher Herausforderungen einhergehen, darunter bahnbrechende Veränderungen in den Arbeitskulturen und der Expertise von medizinischem Fachpersonal. Diese Herausforderungen, die sich aus der neuartigen Arbeitsteilung zwischen Mensch und Maschine ergeben, müssen proaktiv angegangen werden, wenn verkörperte KI erfolgreich und verantwortungsvoll implementiert werden soll.

Während übergreifende Prinzipien (wie die der European High-Level Expert Group on Artificial Intelligence) und Standards (wie die ISO) für persönliche Pflegeroboter entwickelt wurden, fehlen weitgehend konkrete und feinkörnige Rahmenbedingungen für die verantwortungsvolle Integration verkörperter KI-Produkte in die Praxis und Arbeitskultur des Gesundheitswesens. Es fehlt auch an Best-Practice-Modellen, die die interdisziplinäre Entwicklung von Mensch-Maschine-Anwendungen in der Biomedizin unter Berücksichtigung ethischer, sozialer und regulatorischer Fragen erleichtern könnten.

Dementsprechend zielte RR-AI darauf ab,

1. die sozialen, ethischen und rechtlichen Dimensionen zweier neuartiger KI-basierter Technologien – eines Serviceroboters namens GARMI und der haptischen Telemedizin – empirisch zu untersuchen und zu sehen, wie sie in der Praxis des Gesundheitswesens entwickelt und implementiert werden;
2. eine praktische Toolbox für zukünftige interdisziplinäre KI-Innovationen sowie konkrete Standards und Empfehlungen für eine verantwortungsvolle Integration von verkörperter KI in die Arbeitspraxis und Ausbildung im Gesundheitswesen zu entwickeln;
3. diese Tools und Empfehlungen experimentell durch interdisziplinäre Co-Creation und Arbeitsplatzintegration von verkörperten KI-Anwendungen zu testen.

Das Projekt verfolgte somit einen innovativen “embedded”-Ansatz, bei dem ethische, soziale, rechtliche und politische Analysen integrale Bestandteile eines KI-Produktdesignprozesses sowie dessen Arbeitsplatzintegration darstellen.

Vor dem theoretischen Hintergrund des Verantwortungskonzeptes klassifizierte das Team vier ethische und rechtliche Grundsätze für Roboter in der Altenpflege:

1. Datenminimierung, indem nur für den Zweck notwendige Daten erfasst werden;
2. Datensicherheit durch den Schutz sensibler Nutzerdaten;
3. Transparenz durch eine genaue Darstellung des Verhaltens des Robotersystems;
4. Datenvisualisierung, damit die Nutzer selbst über die Verwendung bestimmen können.

Für die Umsetzung dieser Prinzipien schlug das Team die Implementierung eines Datenrekorders mit Verschlüsselungs-, Hashing- und Signierungstechniken im Roboter vor. Das Team identifizierte als notwendige Rechtsakte für die Nutzung der Roboter die Datenschutz-Grundverordnung, die Medizinprodukte-Verordnung und die KI-Verordnung.

Des Weiteren schlagen die Forscher das Einführen einer Reihe von „best practices“ für den Embedded Ethics and Social Science-Ansatz vor. Die Projektergebnisse wurden regelmäßig mit Stakeholdern diskutiert, in Pilotprojekten erprobt und verbreitet.

Das Projekt wurde zum 30. Juni 2023 abgeschlossen.

Ansprechpartner

Projektteam

Publikationen

Beiträge

Weitere Links