Mensch und generative Künstliche Intelligenz: Trust in Co-Creation

Der Forschungsschwerpunkt „Mensch und generative Künstliche Intelligenz: Trust in Co-Creation“ widmet sich der Frage, unter welchen Bedingungen Menschen in die Interaktion mit generativer KI und den daraus resultierenden Produkten vertrauen bzw. vertrauen könnten – und wann nicht.

Forschungsschwerpunkt: Generative KI

Als generative Künstliche Intelligenz (KI) werden technische Systeme bezeichnet, die als Reaktion auf bestimmte Eingaben Texte und multimediale Inhalte autonom erstellen können. Generative KI hat das Potenzial, unser Leben zu transformieren, von Kunst und Software-Engineering über Arbeitsprozesse und Berufsbilder bis hin zu Medizin, Bildung und Wissenschaft. Gleichzeitig stellt generative KI uns vor vielfältige Herausforderungen, etwa im Hinblick auf die Qualität oder den Wahrheitsgehalt der entstandenen Produkte.

Wenn generative KI als Assistenzsystem verwendet wird, haben Mensch und Technik drei potenzielle Berührungspunkte: Sie können gemeinsam etwas produzieren und z. B. Bilder und Texte erschaffen. Sie können mit KI interagieren und durch die Interaktion selbst einen Wert schaffen, z. B. in der Therapie oder Lehre. Wenn Menschen von der KI erzeugte Produkte konsumieren oder nutzen, liegt der Fokus auf der Rezeption. In allen Fällen sehen wir den Begriff des Vertrauens als essenziell für das Gelingen dieser Unternehmungen an.

News

Workshop „Die Zukunft der Machine Heuristic“ mit Professor S. Shyam Sundar (23. November 2026)

Am 23. November 2026 organisieren die Projekte KI-JOURNALISMUS, ADUBAI und Gerechte KI einen Workshop mit Titel „The Future of Machine Heuristics“, mit dem Ziel das Thema Machine Heuristic aus dem Blickwinkel von Algorithmischer Darstellungsverzerrung, Recht und Journalismus zu diskutieren. Die erste Diskussionsrunde zu neuesten Entwicklungen leitet S. Shyam Sundar, Professor für Medienwirkung und Leiter des Penn State Center for Socially Responsible Artificial Intelligence, ein.

Stellungnahme von Prof. Dr. Dirk Heckmann und Carolin Fuß zur KI-Nutzung in Hochschulprüfungen (11. November 2026)

Im Rahmen der Novelle des Bayerischen Hochschulinnovationsgesetzes war Prof. Dr. Dirk Heckmann am 11. November als Sachverständiger im Ausschuss für Wissenschaft und Kunst des Bayerischen Landtags geladen. Prof. Dr. Heckmann und Carolin Fuß aus dem Projekt AFFAIRE analysierten in einer gutachterlichen Stellungnahme die Herausforderungen und Chancen einer grundsätzlich zulässigen Nutzung von KI bei unbeaufsichtigten schriftlichen Prüfungen. Die Stellungnahme behandelt unter anderem Fragen der Dokumentation von KI-Einsatz, der Sicherung individueller Prüfungsleistungen sowie mögliche ergänzende Prüfungsformate. Darüber hinaus werden datenschutzrechtliche Anforderungen an Fernprüfungen und der Bedarf an begleitender Wirkungsforschung thematisiert. Weitere Informationen.

Workshop zu KI und Strafrecht organisiert von Prof. Dr. Friederike Funk und Dr. Marvin Walczok (1. Oktober 2026)

Am 1. Oktober 2026 veranstalteten Prof. Dr. Friederike Funk und Dr. Marvin Walczok einen Workshop zu KI und Strafrecht. Nach einem Eingangsimpuls von Dr. Martin Wachter, Referatsleiter im Bayerischen Staatsministerium der Justiz, stellte Dr. Marvin Walczok Forschungsergebnisse aus dem Projekt Gerechte KI vor. Anschließend diskutierte Dr. Sebastian Döttler die Reichweite richterlicher Unabhängigkeit in Zeiten von KI und brachte dabei seine Perspektive als Richter und ehemaliger Staatsanwalt ein. Rechtsanwalt Nico Kuhlmann gab einen Überblick über die praktischen Einsatzmöglichkeiten von KI-Tools und KI-Agenten im juristischen Alltag. Den Abschluss bildete eine gemeinsame Paneldiskussion der Referierenden. Zum Nachbericht.

Aktuelles

Ansprechpartnerinnen

Prof. Dr. Hannah Schmid-Petri

Mitglied im bidt-Direktorium | Professorin für Wissenschaftskommunikation, Universität Passau

Dr. Maria Staudte

Forschungskoordinatorin „Generative KI“ | Programmleitung Nachwuchsförderung, bidt

Interne Forschungsprojekte

Mensch-KI-Co-Creation von Programmcode bei unterschiedlichen Vorkenntnissen

Mensch-KI-Co-Creation von Programmcode bei unterschiedlichen Vorkenntnissen

Das interdisziplinäre Projekt „Mensch-KI-Co-Creation von Programmcode bei unterschiedlichen Vorkenntnissen: Effekte auf Performanz und Vertrauen“ erforscht den Co-Creation-Prozess von Mensch und KI im Kontext der Erstellung von Programmcode. Der Fokus liegt auf der Gestaltung vertrauenswürdiger Schnittstellen für die Nutzung von Cogeneratoren in der Programmierausbildung und der professionellen Softwareentwicklung.

Prof. Dr. Ute Schmid

Mitglied im bidt-Direktorium und im Geschäftsleitenden Ausschuss | Professorin für Kognitive Systeme, Otto-Friedrich-Universität Bamberg

Sonja Niemann

Wissenschaftliche Referentin Forschung, bidt

KI im Journalismus: Der Einfluss generativer KI auf Objektivität und Dialogbereitschaft in der Debatte um Klimaschutz

KI als vertrauenswürdiger Journalist? Effekte KI-generierter Botschaften

Das Projekt „KI im Journalismus: Der Einfluss generativer KI auf Objektivität und Dialogbereitschaft in der Debatte um Klimaschutz“ erforscht, inwiefern KI im Bereich Klimaschutz dazu beitragen kann, die Annahmebereitschaft von Botschaften zu erhöhen und die sachliche Auseinandersetzung mit Gegenargumenten zu befördern.

Prof. Dr. Hannah Schmid-Petri

Mitglied im bidt-Direktorium | Professorin für Wissenschaftskommunikation, Universität Passau

Dr. Daria Kravets-Meinke

Wissenschaftliche Referentin Forschung, bidt

Rechtsunsicherheit durch generative KI? Reformüberlegungen zur Förderung von Systemvertrauen an Hochschulen

Rechtsunsicherheit durch generative KI? Reformüberlegungen zur Förderung von Systemvertrauen an Hochschulen

Neben der rechtlichen Analyse im Hochschul- und Prüfungsrecht geht es in dem Projekt „Rechtsunsicherheit durch generative KI? Reformüberlegungen zur Förderung von Systemvertrauen an Hochschulen“ auch um die Frage, wie Hochschulen in der Praxis reagieren und sich anpassen könnten oder sollten.

Prof. Dr. Dirk Heckmann

Mitglied im bidt-Direktorium | Lehrstuhlinhaber für Recht und Sicherheit der Digitalisierung, Technische Universität München

Antonia Becker

ehem. wissenschaftliche Referentin Forschung, bidt

Carolin Fuß

Wissenschaftliche Referentin Forschung, bidt

Im Fokus

Publikationen

Alle Forschungsprojekte

Veranstaltungen