Dr. Angelina Voggenreiter

Wissenschaftliche Mitarbeiterin, Technische Universität München

Youth Safety in an AI-Driven Online World

 

Riskante Challenges, Hungergruppen, Cybergrooming – die Online-Welt birgt zahlreiche Gefahren für Kinder und Jugendliche.  KI-Technologien, wie etwa Empfehlungsalgorithmen auf Social Media Plattformen, verschärfen diese Risiken oftmals, indem sie beispielsweise gefährliche Inhalte an Minderjährige ausspielen.

 

Umso dringlicher ist es, Mechanismen und klare Regeln zu schaffen, die den Schutz von Kindern und Jugendlichen im digitalen Raum sicherstellen. In diesem Projekt erforschen wir verschiedene Online-Risiken für Minderjährige. Wir evaluieren, wie diese Risiken entstehen, verbreitet werden und erkannt werden können. Wir analysieren, wie KI diese Gefahren zusätzlich begünstigt und wie man diese Technologien so verändern kann, dass sie junge Nutzer stattdessen schützen.

 

Auf Basis dieser Erkenntnisse formulieren wir politische Handlungsempfehlungen und Leitlinien für einen verantwortungsvollen Einsatz von KI auf Plattformen, die von Minderjährigen genutzt werden. Ergänzend dazu entwickeln wir ein Tool, das es Minderjährigen ermöglicht, KI-basierte Plattformen wie TikTok oder Instagram sicher zu nutzen.

angelina.voggenreiter@tum.de
Profil
Publikationen

Publikationen

  • HateAid; Koch, Luise; Voggenreiter, Angelina; Steinert, Janina Isabel (2025)

    Angegriffen & alleingelassen. Wie sich digitale Gewalt auf politisches Engagement auswirkt. Ein Lagebild

    Graue Literatur / Bericht / Report
    S. 1-19
    https://osf.io/j4stx/
    Projekt: Misogyny_2.0
  • Voggenreiter, Angelina; Brandt, Sophie; Putterer, Fabian; Frings, Andreas; Pfeffer, Juergen (2024)

    The Role of Likes: How Online Feedback Impacts Users‘ Mental Health

    Konferenzpapier
    Association for Computing Machinery, Proceedings of the 16th ACM Web Science Conference, S. 302-310
    DOI: 10.1145/3614419.3643995
    Projekt: Misogyny_2.0