Dr. Angelina Voggenreiter
Technische Universität München
Youth Safety in an AI-Driven Online World
Riskante Challenges, Hungergruppen, Cybergrooming – die Online-Welt birgt zahlreiche Gefahren für Kinder und Jugendliche. KI-Technologien, wie etwa Empfehlungsalgorithmen auf Social Media Plattformen, verschärfen diese Risiken oftmals, indem sie beispielsweise gefährliche Inhalte an Minderjährige ausspielen.
Umso dringlicher ist es, Mechanismen und klare Regeln zu schaffen, die den Schutz von Kindern und Jugendlichen im digitalen Raum sicherstellen. In diesem Projekt erforschen wir verschiedene Online-Risiken für Minderjährige. Wir evaluieren, wie diese Risiken entstehen, verbreitet werden und erkannt werden können. Wir analysieren, wie KI diese Gefahren zusätzlich begünstigt und wie man diese Technologien so verändern kann, dass sie junge Nutzer stattdessen schützen.
Auf Basis dieser Erkenntnisse formulieren wir politische Handlungsempfehlungen und Leitlinien für einen verantwortungsvollen Einsatz von KI auf Plattformen, die von Minderjährigen genutzt werden. Ergänzend dazu entwickeln wir ein Tool, das es Minderjährigen ermöglicht, KI-basierte Plattformen wie TikTok oder Instagram sicher zu nutzen.