Einsatz von KI zur Erhöhung der Resilienz gegen Toxizität in der Online-Unterhaltung (ToxicAInment)

Projektbeschreibung

Soziale Medien sind zu einem unverzichtbaren Instrument der politischen Kommunikation, sozialer Interaktionen und dem Austausch von Informationen geworden. Aber obwohl die allgemeine Nutzung dieser Plattformen mit einer Reihe positiver demokratischer Prozesse verbunden ist, werden erhebliche Bedenken darüber geäußert, wie video- oder bildbasierte Plattformen wie TikTok, YouTube und Instagram effektiv dazu beitragen, toxische, extremistische, verschwörerische und irreführende Inhalte zu verbreiten. Solche Inhalte haben nachweislich schädliche Auswirkungen auf die psychische Funktion und das Wohlbefinden der Bürger: innen. In diesem Projekt werden Unterhaltungstheorien, visuelle Kommunikation und toxische Sprache in einem neuartigen und empirisch überprüfbaren theoretischen Rahmen zusammengeführt. Dieser zielt darauf ab, das Ausmaß und die Merkmale unterhaltungsbasierter visueller toxischer Inhalte zu untersuchen, um die Auswirkungen auf die Einstellung und das Verhalten der Nutzer:innen zu verstehen. Das Forschungsdesign stützt sich auf KI-Methoden zur automatisierten Inhaltsklassifizierung und auf Umfrageexperimente zur Aufdeckung kausaler Effekte von toxischer Unterhaltung.

Das Hauptziel des Projekts besteht darin, das Ausmaß toxischer Inhalte zu verstehen, die in visuellen Formaten als Unterhaltung getarnt werden, und die Auswirkungen, die diese “leicht verdauliche” Toxizität auf individuelles Verhalten hat, insbesondere auf die Bereitschaft der Bürger:innen, verletzende Äußerungen aufgrund ihres unterhaltsamen Charakters zu tolerieren.

Projektteam