Dr. Magdalena Obermaier
Wissenschaftliche Mitarbeiterin (Postdoc) am Institut für Kommunikationswissenschaft und Medienforschung der Ludwig-Maximilians-Universität München
Dr. Cathy Buerger
Director of Research beim Dangerous Speech Project, Washington, D.C.
Prof. Dr. Lena Frischlich
Associate Professor und Co-Director des Digital Democracy Centre an der University of Southern Denmark, Odense
Lea Bund
Projekt- und Community-Managerin bei ichbinhier e.V., Berlin
Fay Carathanassis
Wissenschaftliche Mitarbeiterin am Lehrstuhl für Recht und Sicherheit der Digitalisierung der Technischen Universität München und assoziierte Forscherin am Bayerischen Forschungsinstitut für Digitale Transformation (bidt)
Anne Clausen
Doktorandin am Digital Democracy Centre der University of Southern Denmark, Odense
Steliyana Doseva
Wissenschaftliche Referentin Forschung am Bayerischen Forschungsinstitut für Digitale Transformation (bidt)
Jan Eißfeldt
External Applied Complexity Fellow am Santa Fe Institute und Director, Global Head of Trust & Safety bei der Wikimedia Foundation
Dr. Joshua Garland
Associate Research Professor und Center Director am Center on Information and Narrative Complexity der Arizona State University
Dr. Keyan Ghazi-Zahedi
Associated Faculty Member an der Arizona State University
Prof. Dr.-Ing. Christian Grimme
Außerplanmäßiger Professor in der Forschungsgruppe Computational Social Science and Systems Analysis an der Universität Münster
Prof. Dr. Mario Haim
Professor und Vizedirektor am Institut für Kommunikationswissenschaft und Medienforschung der Ludwig-Maximilians-Universität München
Dr. Alina Herderich
Postdoktorandin am IDea Lab der Universität Graz
Yuru Li
Wissenschaftliche Mitarbeiterin (Postdoc) am Institut für Kommunikationswissenschaft der Friedrich-Schiller-Universität Jena
Hannah Ötting
Wissenschaftliche Mitarbeiterin und Doktorandin am Institut für Kommunikationswissenschaft der Universität Münster
Prof. Dr. Cornelius Puschmann
Professor für Kommunikations- und Medienwissenschaft mit dem Schwerpunkt Digitale Kommunikation am ZeMKI, Zentrum für Medien-, Kommunikations- und Informationsforschung der Universität Bremen
Prof. Dr. Eugenia Rho
Assistant Professor am Department of Computer Science der Virginia Tech, Blacksburg, Virginia
Dr. Anke Stoll
Postdoktorandin an der Faculty of Social and Behavioural Sciences der University of Amsterdam
Dr. Andreas Wenninger
Forschungskoordinator „Kommunikation und Gesellschaft“ und Projektleiter am Bayerischen Forschungsinstitut für Digitale Transformation (bidt)
Prof. Dr. Marc Ziegele
Professor für Kommunikations- und Medienwissenschaft am Institut für Sozialwissenschaften der Heinrich-Heine-Universität Düsseldorf
Hatespeech ist in digitalen Räumen weit verbreitet. Sie belastet Betroffene, verschärft Debatten und kann dazu führen, dass sich Menschen aus öffentlichen Diskussionen zurückziehen. Eine Möglichkeit, dem entgegenzuwirken, ist Counterspeech: Nutzerinnen und Nutzer widersprechen Hatespeech, unterstützen Betroffene oder setzen sich für eine sachlichere Gesprächskultur ein. Anders als Löschungen oder Sperrungen greift Counterspeech nicht direkt in die Meinungsfreiheit ein, sondern setzt auf öffentlichen Widerspruch.
Zwischen Unterstützung und Risiko: KI in der Counterspeech
Die Studie untersucht, wie Künstliche Intelligenz dabei unterstützen kann. Denn viele Menschen greifen bislang nicht ein, wenn sie Hatespeech beobachten – etwa aus Unsicherheit, Zeitmangel oder Sorge vor Angriffen. KI-Systeme könnten helfen, problematische Inhalte zu erkennen, auf Hatespeech aufmerksam zu machen, Formulierungsvorschläge für Counterspeech zu liefern oder Reaktionen nach einer Intervention einzuordnen.
Gleichzeitig zeigt die Studie, dass KI keine Universallösung für ein gesellschaftliches Problem ist. Ihr Einsatz birgt erhebliche Risiken: etwa verzerrte Trainingsdaten, fehlerhafte Einordnungen, Halluzinationen, Datenschutzfragen oder die Gefahr, dass KI-generierte Counterspeech als unpersönlich, manipulativ oder unauthentisch wahrgenommen wird. Auch Missbrauch ist möglich, wenn KI dazu eingesetzt wird, Hatespeech effizienter zu verbreiten oder Gegenrednerinnen und Gegenredner gezielt anzugreifen.
Die Publikation bündelt die Perspektiven einer internationalen und interdisziplinären Gruppe von Forschenden sowie Praktikerinnen und Praktikern aus Kommunikationswissenschaft, Medienpsychologie, Anthropologie, Rechtswissenschaft, Informatik, Zivilgesellschaft und Tech-Branche. Grundlage ist ein vom bidt geförderter Workshop an der Ludwig-Maximilians-Universität München im Februar 2025. Die Studie zeigt, unter welchen Bedingungen KI Counterspeech sinnvoll unterstützen kann und welche Anforderungen sich daraus für Politik, Plattformen, Zivilgesellschaft und Forschung ergeben.
Das Wichtigste in Kürze
KI kann Menschen bei Counterspeech unterstützen
KI kann in verschiedenen Phasen von Counterspeech hilfreich sein: beim Erkennen von Hatespeech, bei der Entscheidung, ob und wie man reagieren sollte, beim Formulieren einer Antwort und beim Umgang mit möglichen Reaktionen. Gerade für Menschen, die unsicher sind oder wenig Erfahrung mit Counterspeech haben, könnten solche Tools eine praktische Unterstützung sein.
Die Qualität der Systeme hängt stark von Daten und Kontext ab
Damit KI in diesem Bereich sinnvoll eingesetzt werden kann, braucht es verlässliche Trainingsdaten, klare Begriffe und Modelle, die regelmäßig geprüft werden. Das ist besonders anspruchsvoll, weil Hatespeech stark vom Kontext abhängt. Sprache, Plattform, kulturelles Umfeld und betroffene Gruppen können beeinflussen, ob eine Aussage als verletzend, diskriminierend oder gefährlich wahrgenommen wird.
Technische Lösungen reichen nicht aus
Viele Risiken entstehen nicht allein durch die Technik, sondern durch ihr Zusammenspiel mit sozialen Dynamiken. KI-generierte Counterspeech kann Vertrauen schaffen, aber auch Misstrauen auslösen. Sie kann Debatten entschärfen, aber auch mit automatisierten Beiträgen überfrachten. Deshalb muss der Einsatz immer im jeweiligen, konkreten Kommunikationsraum betrachtet werden.
Verantwortlicher Einsatz braucht Transparenz und Kontrolle
Die Studie macht deutlich: KI kann Counterspeech gegen Hatespeech unterstützen, ersetzt aber nicht menschliche Verantwortung. Entscheidend sind transparente Verfahren, unabhängige Prüfungen, der Schutz von Grundrechten und eine sorgfältige Abwägung möglicher Folgen für digitale Öffentlichkeit, Meinungsfreiheit und betroffene Gruppen.
