Gen KI-Vortrag: Chancen und Herausforderungen von CHATGPT

Vor der eindrucksvollen Kulisse der Bibliothek der Bayerischen Akademie der Wissenschaften in München sprach der Vorsitzende des bidt-Direktoriums und Professor für Software & Systems Engineering an der TU München vor allem über die Chancen von generativer KI. Diese sieht er beispielsweise darin, dass KI eine natürlichsprachige Schnittstelle zu technischen Systemen bieten und als individuelles Assistenzsystem eingesetzt werden kann.

Wann ist künstliche Intelligenz gut genug?

Eine der wesentlichen Fragen sei nicht, was künstliche Intelligenz kann, sondern wie gut sie in einer bestimmten Situation ist. Es gibt Anwendungsfelder, wie die Erstellung einfacher Texte, in denen die Ergebnisse intuitiv bewertet werden können – auch ohne objektiven Qualitätsbegriff. In anderen Bereichen, z. B. in der Medizin oder beim Schreiben von Code, spielt die Qualität eine größere Rolle. Um so wichtiger ist es, dass Menschen die Ausgabequalität bewerten können und eine Verständigung darüber erzielen, in welchem Kontext welche Qualität als gut genug betrachtet wird.

Schaffen oder überprüfen?

Die Rolle des Menschen wird sich höchstwahrscheinlich in vielen Anwendungsbereichen verändern – weg vom Schaffenden hin zum Überprüfenden. Dabei sollten wir KI als Werkzeug zur Unterstützung sehen. Essenziell ist dafür die Fähigkeit zur kritischen Reflexion, Überprüfung und Urteilsfindung. Am Ende werden die besten Überprüfenden zu jenen, die selbst wieder schaffen.
Zentral ist auch, dass am Ende der Mensch die Verantwortung übernehmen muss, wenn er von einer KI erstellte Inhalte nutzt. Das Problem: Menschen werden nachlässig oder unaufmerksam, wenn von einer Maschine gemachte Vorschläge fast immer richtig oder adäquat oder hinreichend gut sind.

Professor Pretschner schloss mit einem Appell an alle:

Seien Sie neugierig, optimistisch und kritisch!

Prof. Dr. Alexander Pretschner Zum Profil

In der anschließenden Diskussion wurden Fragen zu Kreativität, Risiken aufgrund des Einsatzes von KI in totalitären Staaten, Folgen für Bildung und was Deepfakes für die Demokratie bedeuten, lebhaft debattiert.