forschungsschwerpunkt Mensch und generative Künstliche Intelligenz: Trust in Co-Creation
Der Forschungsschwerpunkt „Mensch und generative Künstliche Intelligenz: Trust in Co-Creation“ widmet sich der Frage, unter welchen Bedingungen Menschen in die Interaktion mit generativer KI und den daraus resultierenden Produkten vertrauen bzw. vertrauen könnten – und wann nicht.
Forschungsschwerpunkt: Generative KI
Als generative Künstliche Intelligenz (KI) werden technische Systeme bezeichnet, die als Reaktion auf bestimmte Eingaben Texte und multimediale Inhalte autonom erstellen können. Generative KI hat das Potenzial, unser Leben zu transformieren, von Kunst und Software-Engineering über Arbeitsprozesse und Berufsbilder bis hin zu Medizin, Bildung und Wissenschaft. Gleichzeitig stellt generative KI uns vor vielfältige Herausforderungen, etwa im Hinblick auf die Qualität oder den Wahrheitsgehalt der entstandenen Produkte.
Wenn generative KI als Assistenzsystem verwendet wird, haben Mensch und Technik drei potenzielle Berührungspunkte: Sie können gemeinsam etwas produzieren und z. B. Bilder und Texte erschaffen. Sie können mit KI interagieren und durch die Interaktion selbst einen Wert schaffen, z. B. in der Therapie oder Lehre. Wenn Menschen von der KI erzeugte Produkte konsumieren oder nutzen, liegt der Fokus auf der Rezeption. In allen Fällen sehen wir den Begriff des Vertrauens als essenziell für das Gelingen dieser Unternehmungen an.
News
Ana-Maria Sîrbu zu den Forschungsergebnissen aus dem Projekt GenAICopilot beim 2026 Pre-ECIS Workshop on Human-Computer Interaction (14. Juni 2026)
Im Rahmen des 2026 Pre-ECIS Workshops on Human-Computer Interaction, der im Vorfeld der 34. European Conference on Information Systems (ECIS 2026) in Mailand stattfand, präsentierte Ana-Maria Sîrbu das gemeinsam mit Prof. Dr. Ulrich Gnewuch verfasste Research-in-Progress-Paper „A Qualitative Study on Users’ Trust Calibration Journeys in Interactions with Generative AI Assistants“. Die Studie untersucht, wie Nutzer:innen ihr Vertrauen in Interaktionen mit generativen KI-Assistenten kalibrieren und welche Faktoren diesen Prozess prägen. Der Workshop bot Gelegenheit zum Austausch für die weitere Entwicklung der Studie. Weitere Informationen zum Workshop und zur Konferenz.
Ein Paper von Sonja Niemann und Prof. Dr. Ute Schmid zu Kriterien von Code-Qualität in der Bildung auf der ITHET Konferenz (20.-22. Mai 2026)
Das Paper „Beyond Correctness: Aligning LLM Tutor Rubrics with Real-World Evaluation Criteria Derived from Expert Interviews“ von Sonja Niemann und Prof. Dr. Ute Schmid behandelt relevante Kriterien der Code-Qualität in der Informatik-Lehre, die anhand von Experten Interviews ausgearbeitet wurden. Diese fließen in Prompts und Rubriken für ein Large Language Model-gestütztes Intelligent Tutoring System ein, welches sowohl Studierende als auch Lehrpersonen im Kontext von Einführungs-Lehrveranstaltungen der Informatik unterstützen soll. Das Paper wird von Sonja Niemann auf der ITHET Konferenz vorgestellt und anschließend in den Konferenz-Proceedings erscheinen.
Prof. Dr. Hannah Schmid-Petri im Webinar des Neuburger Gesprächskreises zu KI, Journalismus und Desinformation (14. April 2026)
Im Webinar des Neuburger Gesprächskreises hielt Prof. Dr. Hannah Schmid-Petri am 14. April ihren Vortrag „Journalismus zwischen neuen Herausforderungen, KI und Fake News“ . Das Webinar thematisierte die aktuellen Entwicklungen im Medienbereich – von der zunehmenden Relevanz Künstlicher Intelligenz über den Umgang mit Desinformation bis hin zur Frage, wie die journalistische Qualität in einer digitalisierten Informationslandschaft gewahrt werden kann. Während der Veranstaltung präsentierte Professorin Schmid-Petri außerdem ihr aktuelles Forschungsprojekt des bidt zur Wahrnehmung des Einsatzes generativer KI im Journalismus. Weitere Informationen.
Aktuelles
Ansprechpartnerinnen
Prof. Dr. Hannah Schmid-Petri
Mitglied im bidt-Direktorium | Professorin für Wissenschaftskommunikation, Universität Passau
Dr. Maria Staudte
Forschungskoordinatorin „Generative KI“ | Programmleitung Nachwuchsförderung, bidt
Interne Forschungsprojekte
Mensch-KI-Co-Creation von Programmcode bei unterschiedlichen Vorkenntnissen
Das interdisziplinäre Projekt „Mensch-KI-Co-Creation von Programmcode bei unterschiedlichen Vorkenntnissen: Effekte auf Performanz und Vertrauen“ erforscht den Co-Creation-Prozess von Mensch und KI im Kontext der Erstellung von Programmcode. Der Fokus liegt auf der Gestaltung vertrauenswürdiger Schnittstellen für die Nutzung von Cogeneratoren in der Programmierausbildung und der professionellen Softwareentwicklung.
Projektteam
Prof. Dr. Ute Schmid
Mitglied im bidt-Direktorium und im Geschäftsleitenden Ausschuss | Professorin für Kognitive Systeme, Otto-Friedrich-Universität Bamberg
KI im Journalismus: Der Einfluss generativer KI auf Objektivität und Dialogbereitschaft in der Debatte um Klimaschutz
Das Projekt „KI im Journalismus: Der Einfluss generativer KI auf Objektivität und Dialogbereitschaft in der Debatte um Klimaschutz“ erforscht, inwiefern KI im Bereich Klimaschutz dazu beitragen kann, die Annahmebereitschaft von Botschaften zu erhöhen und die sachliche Auseinandersetzung mit Gegenargumenten zu befördern.
projektteam
Prof. Dr. Hannah Schmid-Petri
Mitglied im bidt-Direktorium | Professorin für Wissenschaftskommunikation, Universität Passau
Rechtsunsicherheit durch generative KI? Reformüberlegungen zur Förderung von Systemvertrauen an Hochschulen
Neben der rechtlichen Analyse im Hochschul- und Prüfungsrecht geht es in dem Projekt „Rechtsunsicherheit durch generative KI? Reformüberlegungen zur Förderung von Systemvertrauen an Hochschulen“ auch um die Frage, wie Hochschulen in der Praxis reagieren und sich anpassen könnten oder sollten.
projektteam
Prof. Dr. Dirk Heckmann
Mitglied im bidt-Direktorium | Lehrstuhlinhaber für Recht und Sicherheit der Digitalisierung, Technische Universität München
