Digitale Technologien und Künstliche Intelligenz (KI) bestimmen zunehmend unser Leben – sie beeinflussen jedoch auch mehr und mehr den Umgang mit Tod, Trauer und Erinnerung. Solche auch unter den Sammelbegriffen Grief Technology oder Digital Afterlife Industry bekannte Anwendungen für das digitale Weiterleben umfassen ein ganzes Spektrum von Diensten, in denen insbesondere die Interaktion mit KI-gesteuerten Simulationen von Verstorbenen eine bedeutende Rolle spielt. Einige Dienste ermöglichen es, dass sich Personen nach ihrem Tod durch Text- oder Sprachnachrichten bei Freunden und Angehörigen aktiv in Erinnerung bringen. Eine technische Steigerung ist demgegenüber das Angebot, mit den Verstorbenen über Chatbots oder Avatare in eine wechselseitige Beziehung zu treten. Diese auch Deadbots oder Thanabots genannten Anwendungen, fungieren als eine Art digitale Chronik des Lebens der Verstorbenen[1]. Für die Zusammenstellung der Informationen über die verstorbenen Personen werden einerseits Aufnahmen und Daten verwendet, die von den Betreffenden erstellt oder autorisiert wurden. Andererseits gibt es auch Dienste, die sich aus den vorhandenen Daten im Netz bedienen und sie als Grundlage für die Inhalte verwenden, die in der Interaktion mit dem Avatar der Verstorbenen kommuniziert werden. Mit anderen Worten, sie erstellen Avatare, Chatbots bzw. Digital Twins, die das Sozialverhalten einer Person nachbilden und darüber hinaus auf der Grundlage früherer Daten neue Kommunikation generieren. In diesem Zusammenhang kommen Techniken der künstlichen Intelligenz zum Einsatz, die auch für die Erstellung von synthetischen Medien in anderen Zusammenhängen genutzt werden, bekannt vor allem als Deepfakes, also Audio-, Video- oder Bildmedien, deren Inhalte künstlich erzeugt sind, aber täuschend echt wirken. Es finden zudem KI-Sprachmodelle Verwendung, die basierend auf Kommunikationsartefakten von Verstorbenen als Trainingsdaten und mittels Wahrscheinlichkeitsberechnung neue Inhalte produzieren. Aufgrund der Sensibilität des Gegenstandsbereichs, des Missbrauchspotenzials und der Datenschutzproblematik ist das digitale Weiterleben ein einschlägiges Thema der ethischen Digitalisierungsforschung.
Vergleichbarkeit mit analogen Phänomenen
Für viele Hinterbliebene spielt es eine große Rolle, sich dem oder der Verstorbenen nah zu fühlen und an bestimmten Orten oder mittels Gegenständen Erinnerungen wachzurufen und gegebenenfalls in ein (vorgestelltes) Kommunikationsverhältnis zu treten, z. B. durch den Besuch am Grab oder das Betrachten von Fotos. Herkömmliche Grabstätten, Rituale des Totengedenkens oder religiöse Symbolik – diese und noch viele weitere Formen des Umgangs mit Tod und Trauer zeigen die Bedeutung des Erinnerns für die Hinterbliebenen. In einer zunehmend digitalen Welt liegt es insofern nahe, dass bei den Hinterbliebenen der Wunsch entsteht, einen digitalen Avatar zu erschaffen und mit Verstorbenen auf diese Weise in Kontakt zu bleiben. Technisch ermöglicht wird diese Veränderung der Trauerkultur durch die Verfügbarkeit großer Datenmengen, die insbesondere durch soziale Medien, aber auch viele weitere Anwendungen über einzelne Menschen vorliegen. Sobald auf dieser Grundlage mittels generativer KI die individuellen Deadbots oder Avatare erstellt wurden, stehen diese ortsunabhängig und langfristig zur Verfügung (Permanenz) und können somit die Vorstellung eines unbegrenzten Weiterlebens beflügeln. Die Anwendungen der Digital Afterlife Industry schließen in ihrem Menschenbild somit an transhumanistische Vorstellungen einer Überwindung der Begrenzung des Menschseins durch Technik an.
Gesellschaftliche Relevanz
Technologien des digitalen Weiterlebens repräsentieren wie unter einem Brennglas viele der Möglichkeiten und Sorgen, die generell mit KI in Verbindung gebracht werden: Anthropomorphisierung und das Ersetzen von Menschen, Manipulation von Emotionen, Falschinformation, mangelnde Trainingsdatenqualität usw. Der sensible Bereich der Trauerkultur und des Umgangs mit Sterben und Tod verlangt eine Erweiterung dieser Problemstellungen für Ethik und Recht auf Themen, die maßgeblich sind für einen sicheren und guten Umgang mit den digitalen Repräsentationen von Verstorbenen. So können nach dem Tod der repräsentierten Person unkontrollierte Veränderungen des Avatars auftreten, die nicht mehr den Wünschen und Vorstellungen der Person oder ihrer Angehörigen entsprechen. Avatare können zu Werbezwecken gebraucht werden, Pietätsvorstellungen widersprechen oder den Trauerprozess negativ beeinflussen. Zudem werden in großem Umfang personenbezogene Daten der betreffenden Personen verarbeitet und Angriffs- und Missbrauchsmöglichkeiten eröffnet. Es wird sich zeigen, ob sich die KI-gesteuerten Avatare und Chatbots des digitalen Weiterlebens ebenso in den Kanon unserer medialen Alltagspraktiken integrieren, wie es bereits andere Medien wie Fotos, Videos oder Audioaufnahmen getan haben. Dazu gehören dann entsprechend die Kompetenzen, den selektiven und künstlichen Charakter solcher Repräsentationen zu erkennen und angemessen zu nutzen. Repräsentationsfragen erfordern unter Umständen ein hohes Maß an ethischer Reflexion, sowohl in Bezug auf die Verletzlichkeit trauernder Personen und die Wahrung von Pietät als auch in Hinsicht auf die Interessen der repräsentierten Personen an angemessener Darstellung. Schließlich bleibt es zudem zentral, Möglichkeiten des Vergessens und Vergessenwerdens – auch im Digitalen – als anthropologische Notwendigkeit anzuerkennen und für digitale Kontexte umzusetzen[2].
Weiterführende Links und Literatur
Literaturempfehlungen:
- Öhman, C. J./Watson, D. (2019). Are the Dead Taking over Facebook? A Big Data Approach to the Future of Death Online. In: Big Data & Society 6(1), 1–13.
- Sisto, D. (2020). Online Afterlives. Immortality, Memory, and Grief in Digital Culture, Cambridge (Massachusetts).
Quellen
- Heesen, J./Hennig, M. (2024). Deadbots: Ethische Grenzen des digitalen Weiterlebens – eine medien- und technikethische Perspektive. In: Rathgeber, B./Maier, M. (Hg.). Grenzen Künstlicher Intelligenz. Kohlhammer.
- Ammicht Quinn, R. et al. (2024). Ethik, Recht und Sicherheit des digitalen Weiterlebens. Forschungsergebnisse und Gestaltungsvorschläge zum Umgang mit Avataren und Chatbots von Verstorbenen. Forschungsbericht, IZEW Universität Tübingen & SIT Darmstadt, Zenodo.