| gefördert | Einsatz von KI zur Erhöhung der Resilienz gegen Toxizität in der Online-Unterhaltung (ToxicAInment)
bidt background

Einsatz von KI zur Erhöhung der Resilienz gegen Toxizität in der Online-Unterhaltung (ToxicAInment)

In diesem Projekt werden Unterhaltungstheorien, visuelle Kommunikation und toxische Sprache zusammengeführt, um zu verstehen, wie und warum Toxizität als akzeptabler angesehen wird, wenn sie als Unterhaltung getarnt wird. Es setzt KI-Methoden ein, um toxische Unterhaltung in großem Maßstab zu identifizieren, zu klassifizieren und zu kartieren, qualitative Methoden, um ihre Eigenschaften zu untersuchen, sowie experimentelle Methoden, um ihre Auswirkungen auf das individuelle Verhalten zu verstehen.

Projektbeschreibung

Soziale Medien sind zu einem unverzichtbaren Instrument der politischen Kommunikation, sozialer Interaktionen und dem Austausch von Informationen geworden. Aber obwohl die allgemeine Nutzung dieser Plattformen mit einer Reihe positiver demokratischer Prozesse verbunden ist, werden erhebliche Bedenken darüber geäußert, wie video- oder bildbasierte Plattformen wie TikTok, YouTube und Instagram effektiv dazu beitragen, toxische, extremistische, verschwörerische und irreführende Inhalte zu verbreiten. Solche Inhalte haben nachweislich schädliche Auswirkungen auf die psychische Funktion und das Wohlbefinden der Bürger: innen. In diesem Projekt werden Unterhaltungstheorien, visuelle Kommunikation und toxische Sprache in einem neuartigen und empirisch überprüfbaren theoretischen Rahmen zusammengeführt. Dieser zielt darauf ab, das Ausmaß und die Merkmale unterhaltungsbasierter visueller toxischer Inhalte zu untersuchen, um die Auswirkungen auf die Einstellung und das Verhalten der Nutzer:innen zu verstehen. Das Forschungsdesign stützt sich auf KI-Methoden zur automatisierten Inhaltsklassifizierung und auf Umfrageexperimente zur Aufdeckung kausaler Effekte von toxischer Unterhaltung.

Das Hauptziel des Projekts besteht darin, das Ausmaß toxischer Inhalte zu verstehen, die in visuellen Formaten als Unterhaltung getarnt werden, und die Auswirkungen, die diese “leicht verdauliche” Toxizität auf individuelles Verhalten hat, insbesondere auf die Bereitschaft der Bürger:innen, verletzende Äußerungen aufgrund ihres unterhaltsamen Charakters zu tolerieren.

Projektteam

Prof. Dr. Yannis Theocharis

Professor, Lehrstuhl für Digital Governance | TUM School of Social Sciences and Technology | Technische Universität München

Prof. Dr. Diana Rieger

Professorin, Lehrstuhl für Kommunikationswissenschaft | Institut für Kommunikationswissenschaft und Medienforschung | Ludwig-Maximilians-Universität München

Prof. Dr. Carsten Schwemmer

Professor, Computational Social Sciences | Institut für Soziologie | Ludwig-Maximilians-Universität München