| Aktuelles | Interview | „Es geht darum, unterschiedliche Perspektiven in den Entwicklungs- und Designprozess von KI-Technologie einfließen zu lassen.“

„Es geht darum, unterschiedliche Perspektiven in den Entwicklungs- und Designprozess von KI-Technologie einfließen zu lassen.“

Wir haben mit Professorin Ruth Müller über die Entwicklung von KI-Technologie gesprochen. Sie plädiert dafür, Diversität und Inklusion zu stärken.

© Uli Benz / TU Muenchen

Frau Professorin Müller, warum ist der Austausch unterschiedlicher Disziplinen bei Events wie dem For..Net Symposium zum digitalen Wandel wichtig?

Wir müssen den Dialog auf möglichst vielen Ebenen am Laufen halten – ob beim Thema Verwaltung, Bildung oder Gesundheit. Die einzelnen Bereiche haben jeweils zwar ihre ganz speziellen Herausforderungen beim digitalen Wandel zu bewältigen. So unterscheidet sich beispielsweise auch unser Forschungsgegenstand beim Projekt „Responsible Robotics“ von dem eines Forschungsteams, das den Einsatz von KI-Technologie in der öffentlichen Verwaltung untersucht. Dennoch ist beispielsweise die Frage der sozialen Gerechtigkeit beim Thema Digitalisierung sehr zentral und beschränkt sich nicht nur auf das Gesundheitswesen.

Inwiefern kommt ethischen und sozialen Aspekten eine zentrale Rolle zu?

Fragen, die wir uns hier stellen sind: Wen haben zum Beispiel Ingenieur*innen oder Informatiker*innen bei der Entwicklung und dem Design von neuen KI-Technologien – ob für das E-Government oder im Gesundheitsbereich – im Blick? Sind diese Technologien auf spezielle Menschen genormt und was passiert mit denjenigen, die aus diesem System fallen? KI-Technologien besitzen ein enormes Potenzial, Dinge zum Positiven zu verändern. Gleichzeitig besteht die Gefahr, dass sie zu Diskriminierungstools werden. Es darf nicht passieren, dass Menschen, die nicht der Norm entsprechen – wie immer diese auch definiert wird – aus dem System fallen und von der Nutzung sowie dem Nutzen neuer Technologien ausgeschlossen werden.

Brauchen wir in der KI-Entwicklung mehr Diversität und Inklusion?

Ganz eindeutig ja. Zu diesen Themen sollte generell mehr Expertise aufgebaut werden – das fängt bereits bei der Ausbildung oder dem Studium an. Hier finden Themen wie Gender, Diversität oder Inklusion aktuell noch zu wenig Berücksichtigung. Die Forschung beginnt zwar zu verstehen, dass es essenziell ist, neue Technologien für und mit Menschen zu gestalten, aber dabei muss die Heterogenität der Gesellschaft wesentlich stärker berücksichtigt werden. In unserem Projekt „Responsible Robotics“ verfolgen wir daher einen „Embedded Ethics and Social Science“-Ansatz, der die Analyse ethischer, sozialer, rechtlicher und politischer Dimensionen der Robotik zentral in den Forschungsprozess neuer KI-Anwendungen integriert. Dazu gehört natürlich auch, wie Robotik für verschiedene Menschen in der Gesellschaft positiv nutzbar gemacht werden kann.

Was ist damit genau gemeint?

Es geht darum, unterschiedliche Perspektiven – sowohl wissenschaftliche als auch gesellschaftliche – in den Entwicklungs- und Designprozess von KI-Technologie einfließen zu lassen. Unser konkretes Beispiel ist dabei der Roboter GARMI, der von Professor Sami Haddadin und seinem Team am Munich Institute of Robotics and Machine Intelligence der TUM entwickelt wird und in der Pflege eingesetzt werden soll. Gemeinsam mit Professorin Alena Buyx und ihrem Team am Institut für Geschichte und Ethik der Medizin der TUM erforschen wir, wie die Bedürfnisse unterschiedlicher Gruppen von Nutzer*innen – von älteren Menschen bis hin zum Pflegepersonal – in die Entwicklung des Roboters einfließen können. Unser Ziel ist, konkrete Tools, Standards und Empfehlungen für eine verantwortungsvolle Entwicklung und Integration von KI-Technologien in die Arbeitspraxis und Ausbildung im Gesundheitswesen zu entwickeln.

Welche Rolle kommt hier dem Dialog zu?

Im Sinne von Co-Creation eine ganz entscheidende Rolle. Forschung sollte nicht in der eigenen „Bubble“ verbleiben. Als Co-Creation werden Forschungs- und Entwicklungsprozesse bezeichnet, die von Forscher*innen gemeinsam mit Bürger*innen und anderen Stakeholdern unternommen werden. Das Ziel ist, Technologien zu entwickeln, die auf die Bedürfnisse der Gesellschaft abgestimmt sind. Dabei ist es natürlich sehr wichtig, unterschiedliche Perspektiven aus der Gesellschaft zu berücksichtigen. Und gerade für jene, die schon gesellschaftlich benachteiligt sind, gibt es oft signifikante Hürden, an solchen Prozessen teilzunehmen. Hier braucht es Konzepte, um diese Gruppen zu erreichen und in Innovationsprozesse einzubinden. In diesem Sinn hat meine Forschungsgruppe, gemeinsam mit dem Team von Professorin Iris Eisenberger an der Universität Wien, aufbauend auf den EU-Projekt SCALINGS jüngst eine „Roadmap for Socially Inclusive and Responsible Co-Creation“ in Europa entwickelt. Die Roadmap soll Forscher*innen Werkzeuge an die Hand geben, um Co-Creation inklusiver zu gestalten. Wenn nur die Perspektiven jener berücksichtig werden, die schon privilegiert sind, kann Co-Creation auch schnell ein Tool dafür werden, bestehende Ungleichheiten zu amplifizieren und zu legitimieren.

Führt eigentlich mehr Wissen über KI automatisch zu einer positiveren Einstellung?

Mehr Wissen über eine KI-Technologie im Sinne von „Wie funktioniert etwas?“ führt nicht automatisch zu einer hohen Akzeptanz. Soziale Aspekte, ökonomischer Verhältnisse und politische Kontexte spielen hier auch eine große Rolle. Welche Folgen hat der Einsatz einer bestimmten Technologie? Wer profitiert davon – einzelne Wirtschaftsvertreter oder möglichst viele Nutzer*innen im Sinne einer bedarfsgerechten Entwicklung? Auch hier spielt das Thema gesellschaftliche Gerechtigkeit eine wichtige Rolle und müsste stärker diskutiert und integriert werden.

Zur Person

Ruth Müller ist Professorin für Wissenschafts- und Technologiepolitik am Department for Science, Technology & Society der School for Social Sciences and Technology der Technischen Universität München. Sie ist gemeinsam mit Professor Sami Haddadin und Professorin Alena Buyx Leiterin des vom bidt geförderten Projekts „Responsible Robotics.“ Beim diesjährigen For..Net Symposium sprach sie am 29. April mit Professor Dirk Heckmann über die ethischen und sozialen Aspekte von KI-basierten Transformationen in den Arbeits- und Wissensumgebungen des Gesundheitswesens.