Dr. Angelina Voggenreiter

Wissenschaftliche Mitarbeiterin, Technische Universität München

Youth Safety in an AI-Driven Online World

 

Riskante Challenges, Hungergruppen, Cybergrooming – die Online-Welt birgt zahlreiche Gefahren für Kinder und Jugendliche.  KI-Technologien, wie etwa Empfehlungsalgorithmen auf Social Media Plattformen, verschärfen diese Risiken oftmals, indem sie beispielsweise gefährliche Inhalte an Minderjährige ausspielen.

 

Umso dringlicher ist es, Mechanismen und klare Regeln zu schaffen, die den Schutz von Kindern und Jugendlichen im digitalen Raum sicherstellen. In diesem Projekt erforschen wir verschiedene Online-Risiken für Minderjährige. Wir evaluieren, wie diese Risiken entstehen, verbreitet werden und erkannt werden können. Wir analysieren, wie KI diese Gefahren zusätzlich begünstigt und wie man diese Technologien so verändern kann, dass sie junge Nutzer stattdessen schützen.

 

Auf Basis dieser Erkenntnisse formulieren wir politische Handlungsempfehlungen und Leitlinien für einen verantwortungsvollen Einsatz von KI auf Plattformen, die von Minderjährigen genutzt werden. Ergänzend dazu entwickeln wir ein Tool, das es Minderjährigen ermöglicht, KI-basierte Plattformen wie TikTok oder Instagram sicher zu nutzen.

 

Mitglied im Arbeitskreis „Diversity and Inclusion in Digital Societies Ⅱ“

angelina.voggenreiter@tum.de
Profil
Publikationen

Publikationen

  • HateAid; Koch, Luise; Voggenreiter, Angelina; Steinert, Janina Isabel (2025)

    Angegriffen & Alleingelassen. Wie sich digitale Gewalt auf politisches Engagement auswirkt

    Ein Lagebild

    Graue Literatur / Bericht / Report
    S. 1-19
    https://hateaid.org/wp-content/uploads/2025/01/hateaid-tum-studie-angegriffen-und-alleingelassen-2025
    Projekt: Misogyny_2.0
  • HateAid; Koch, Luise; Voggenreiter, Angelina; Steinert, Janina Isabel (2025)

    Angegriffen & alleingelassen. Wie sich digitale Gewalt auf politisches Engagement auswirkt. Ein Lagebild

    Graue Literatur / Bericht / Report
    S. 1-19
    DOI: 10.17605/osf.io/j4stx
    https://osf.io/j4stx/
    Projekt: Misogyny_2.0
  • Schirmer, Miriam; Voggenreiter, Angelina; Pfeffer, Jürgen; Horvat, Agnes (2025)

    Detecting Child Objectification on Social Media: Challenges in Language Modeling

    Konferenzpapier
    Association for Computational Linguistics, Proceedings of the The 9th Workshop on Online Abuse and Harms (WOAH), S. 396-412, Wien, Österreich
    https://aclanthology.org/2025.woah-1.36/
    Projekt: GC-Postdoc
  • Tibau, Jordi; Voggenreiter, Angelina; Pfeffer, Jürgen (2025)

    Prevalence, Substance and Responses to Hate Speech Against LGBTQ Communities on TikTok

    Konferenzpapier
    AAAI, Proceedings of the Nineteenth International AAAI Conference on Web and Social Media, S. 430-442
    https://doi.org/10.1609/icwsm.v19i1.35824
    Projekt: Misogyny_2.0
  • Voggenreiter, Angelina; Brandt, Sophie; Putterer, Fabian; Frings, Andreas; Pfeffer, Juergen (2024)

    The Role of Likes: How Online Feedback Impacts Users‘ Mental Health

    Konferenzpapier
    Association for Computing Machinery, Proceedings of the 16th ACM Web Science Conference, S. 302-310
    DOI: 10.1145/3614419.3643995
    Projekt: Misogyny_2.0
  • Voggenreiter, Angelina; Brandt, Sophie; Putterer, Fabian; Frings, Andreas; Pfeffer, Jürgen (2024)

    The Role of Likes: How Online Feedback Impacts Users‘ Mental Health

    Konferenzpapier
    ACM, Proceedings of the 16th ACM Web Science Conference, S. 302-310
    https://doi.org/10.1145/3614419.364399
    Projekt: Misogyny_2.0