Porträt
MENSCHEN AM BIDT

Die KI-Aufklärerin

Das Forschungsgebiet von Ute Schmid liegt an der Schnittstelle von KI-Entwicklung und ihrer Anwendung. Die bidt-Direktorin setzt sich für ein partnerschaftliches Miteinander von Mensch und Technologie ein.

Prof. Ute Schmid , bidt-Direktorium

Seit mehr als 15 Jahren forscht Ute Schmid über KI und hat schon viel Unsinn darüber gehört, zum Beispiel bis vor einigen Jahren Sprüche wie: “Was? KI machst du? Das hat doch noch nie funktioniert!“ Inzwischen hat die Entwicklung der Technologie die ehemaligen Kritiker eines Besseren belehrt.

U te Schmid forscht über ein Thema, das täglich für Schlagzeilen sorgt: Künstliche Intelligenz. Einen beachtlichen Teil ihrer Zeit setzt die bidt-Direktorin dafür ein, die Technologie zu erklären – und das nicht nur ihren Studierenden, sondern auch Politik und Wirtschaft, UnternehmerInnen und Angestellten, Lehrkräften und Kindern. Erst jüngst wurde die Wissenschaftlerin, die auch in vielen Gremien und Fachgesellschaften aktiv ist, in den KI-Rat Bayerns berufen.

Was die KI-Forscherin motiviert ist „der Wunsch, dass wir KI zum Wohle aller Menschen einsetzen“ und „Unwissenheit begegnen, Vorurteile ausräumen, zeigen, wo die eigentlichen Probleme stecken und welche Methoden man braucht, um menschzentrierte KI zu realisieren“.

Erklären, was KI kann und was nicht

Häufig sind es zu hohe Erwartungen an die Technologie, mit denen Ute Schmid aufräumen muss. So ist ein KI-System nur in einem sehr engen Sinne „intelligent“. Ist es zum Beispiel darauf trainiert worden, Verkehrszeichen zu erkennen, kann es auch nur das. „Man könnte fast sagen, KI-Systeme sind Fachidioten“, sagte Ute Schmid einmal in einem Interview. Man spricht daher auch von „schwacher KI“. Starke KI, wie sie in Science-Fiction-Darstellungen vorgeführt wird, würde dagegen wie der Mensch über allgemeine Fähigkeiten verfügen, ein eigenes Bewusstsein und einen eigenen Willen haben. Dass es je so weit kommen könnte, hält Ute Schmid für eher unwahrscheinlich.

Ein weiteres typisches Missverständnis: „Viele glauben, Machine Learning würde immer heißen, dass die Systeme ständig weiterlernen, so wie Lernen für uns Menschen lebenslang Lernen bedeutet. Es gibt solche Ansätze, aber die meisten Machine-Learning-Systeme funktionieren nicht so.“

Ute Schmid wählt das im KI-Kontext häufig zitierte Beispiel von Systemen, die Bilddaten klassifizieren, um das zu veranschaulichen. „Dafür werden erst Bilddaten gesammelt und von Menschen annotiert, also zum Beispiel mit Klassenbezeichnungen wie ‚auf diesem Bild ist eine Katze zu sehen‘ versehen. Das System, das auf dieser Basis gelernt hat, Entscheidungen zu treffen, ändert sich nicht mehr, nachdem es einmal trainiert wurde – es kann also auch nicht feststellen, wenn sich die Datenlage in der Zwischenzeit ändern sollte.“

Ute Schmid ist Professorin für Angewandte Informatik, insbes. Kognitive Systeme an der Universität Bamberg. Ihr Forschungsschwerpunkt ist „menschenähnliches“ Maschinelles Lernen. Sie entwickelt Methoden zum Lernen von Regeln aus wenigen Beispielen und ist hier vor allem an relationalen Konzepten interessiert, vergleichbar dem menschlichen Lernen aus Erfahrung in kognitiv anspruchsvollen Bereichen wie der Mathematik. Zudem erforscht sie die Erklärungen dafür, warum sich ein KI-System auf bestimmte Art entschieden hat. Damit liegt ihre Forschung an der Schnittstelle von KI-Technologie und ihrer Anwendung durch den Menschen.

KI-Systeme sollten uns fördern und auch fordern. Es reicht mir nicht, dass Menschen nur noch dazu da sein sollen, KI-Entscheidungen abzunicken.

Prof. Ute Schmid

Ute Schmid, die auch Psychologie studiert hat, spricht sich explizit gegen die Idee einer vollautomatisierten KI in jedem Bereich aus. Sie setzt auf KI, „die interaktiv und erklärbar ist: In dem Moment, wo Menschen nicht mehr in der Anwendung involviert sind, ist das nicht nur der absolute Kontroll-, sondern auch Kompetenzverlust. KI-Systeme sollten uns fördern und auch fordern. Es reicht mir nicht, dass Menschen nur noch dazu da sein sollen, KI-Entscheidungen abzunicken.“

Bei der Erklärbarkeit von KI setzt sie auf die Zusammenarbeit mit anderen Disziplinen, insbesondere der Psychologie, aber auch den Geistes- und Sozialwissenschaften. „Informatikerinnen und Informatiker haben nicht gelernt, darauf zu schauen, wann eine Erklärung hilfreich ist. Aber natürlich wäre es naiv zu glauben, dass es ausreicht, dass ein System irgendeine Erklärung liefert und Menschen dann automatisch das KI-System besser verstehen und ihm – ob gerechtfertigt oder nicht – vertrauen.“

Unabhängig von der Erforschung solcher konkreten Methoden für menschzentrierte KI-Systeme der Zukunft setzt Ute Schmid auf Bildung und ein möglichst fundiertes Wissen über die Technologie in der Bevölkerung. Ginge es nach ihr, sollten alle in der Lage sein zu beurteilen, was KI kann und was nicht.

Im Austausch mit der Öffentlichkeit

Gerade wurde Ute Schmid der Rainer-Markgraf-Preis für ihren Wissenstransfer zwischen Forschung und Gesellschaft verliehen. Auch wenn ihr Einsatz dafür sie viel Zeit kostet – die Wissenschaftlerin empfindet die Kommunikationsarbeit auch für ihre Forschungsarbeit als Gewinn: „Was mich wirklich freut, ist, dass ich Einblicke in viele Anwendungsgebiete erhalte und sich daraus auch spannende Fragen für meine Forschung ergeben.“

„Super spannend“ sei zum Beispiel das Projekt, das sie zusammen mit dem Informatiker Professor Alexander Pretschner und Juraprofessor Eric Hilgendorf am bidt gestartet hat. Im Rahmen des Forschungsvorhabens wird das Team Modelle entwickeln, die Lernen in der Interaktion von Mensch und Maschine ermöglichen sollen.

Es ist eine Freude, in der interdisziplinären Atmosphäre am bidt zu diskutieren und zu arbeiten.

Prof. Ute Schmid

Seit Februar 2020 ist Ute Schmid Mitglied im Direktorium des bidt, ab 15. März 2021 wird sie mehr Verantwortung als Mitglied im vierköpfigen Geschäftsleitenden Ausschuss des bidt-Direktoriums übernehmen. „Zu meinen absoluten Highlights in diesem KI-Hype der vergangenen Jahre gehört, dass ich ins bidt-Direktorium berufen wurde. Es ist eine Freude, in dieser interdisziplinären Atmosphäre zu diskutieren und zu arbeiten“, sagt Ute Schmid.

Die Komplexität und Schnelligkeit technologischer Entwicklung macht aus ihrer Sicht eine direkte Abstimmung zwischen den Disziplinen notwendig: „Wenn zum Beispiel sozialwissenschaftliche Forschung über neue Technologien völlig losgelöst von denen stattfindet, die diese Technologien entwickeln, kann es leicht zu Fehleinschätzungen kommen, die im direkten interdisziplinären Austausch dagegen oft geklärt werden können.“

Ute Schmid schätzt dabei nicht nur den fachlichen Austausch, sondern auch die Möglichkeit, die daraus gewonnenen Erkenntnisse bei der Gestaltung von Technologie umzusetzen und so auch mit ihrer eigenen Forschung dazu beizutragen, Künstliche Intelligenz im Sinne der Gesellschaft weiterzuentwickeln.

Projekt am bidt

Mensch-KI-Partnerschaften für Erklärungen in komplexen soziotechnischen Systemen: Im Rahmen des interdisziplinären Projekts werden Modelle entwickelt, die Lernen in der Interaktion von Mensch und Künstlicher Intelligenz ermöglichen.

Zum Projekt
19. März 2021

Weitere Beiträge

Wie lässt sich Künstliche Intelligenz (KI) vermitteln? Darum ging es bei der bidt Werkstatt digital „KI vermitteln – Erfahrungen aus der Praxis” am 17. Juli 2020.

Ein Mädchen und Roboter geben sich die Hand. Foto aufgenommen auf einem Markt in Japan.

Viele Menschen hegen unbestimmte Ängste, aber auch überzogene Erwartungen, wenn es um zukünftige Einsatzszenarien von Künstlicher Intelligenz geht, sagt KI-Forscherin Ute Schmid.

Alle Artikel

NEWSLETTER

Neuigkeiten zur digitalen
Transformation

Newsletter abonnieren