Internationales Zentrum für Ethik in den Wissenschaften (IZEW)

Ethik, Recht und Sicherheit des digitalen Weiterlebens (Edilife)

Digitale Technologien bestimmen zunehmend unser Leben – sie beeinflussen jedoch auch mehr und mehr den Umgang mit Tod, Trauer und Erinnerung. Technologien im Kontext der Digital Afterlife Industry (DAI) ermöglichen das „Weiterleben“ und die Interaktion mit digitalen Repräsentationen von Verstorbenen als Avatar, als Chatbot oder als Absender von Textnachrichten. Das Projekt Edilife hat das Ziel, aktuelle Dienste im Kontext des digitalen Umgangs mit dem Tod zu reflektieren, zukünftige Entwicklungen zu antizipieren, Handlungsbedarf zu kennzeichnen und Handlungsoptionen zu erarbeiten. Durch partizipative Verfahren wird das Spektrum der gesellschaftlichen Perspektiven auf das Thema „digitales Weiterleben“ erschlossen und durch Ethik, IT-Sicherheit und Recht analysiert. Edilife trägt zur Eröffnung der gesellschaftlichen Diskussion bei und stellt die Weichen für eine gelingende Umsetzung neuer digitaler Praktiken im Kontext von Tod und Erinnern.

IZEW-Team

Förderung

Juli 2022 – Februar 2024

BMBF

Insight - interdisziplinäre Perspektiven des gesellschaftlichen und technologischen Wandels

In Kooperation mit

Das Projekt

Die sogenannte Digital Afterlife Industry (DAI) ist ein neuer Wachstumsmarkt für Start-Ups und die großen kommerziellen Plattformbetreiber, in dem insbesondere die Interaktion mit Verstorbenen über Kommunikationsplattformen, Chatbots oder Avatare eine bedeutende Rolle spielt. Das Feld des „digitalen Weiterlebens“ umfasst Situationen des eigenen Todes, wenn Menschen vor ihrem Tod eine entsprechende Nutzung ihrer Daten vorbereiten oder ausdrücklich untersagen; es umfasst Situationen des Todes anderer, wenn Angehörige oder Freund:innen die „Präsenz“ der Verstorbenen weiter erleben möchten. Zugleich gehen die Forschungsfragen über die individuellen Situationen hinaus, etwa dort, wo im Kontext der Erinnerungskultur Avatare Holocaustüberlebender in Museen die Fragen von Schüler:innengruppen beantworten; dort, wo im Bildungsbereich digitale Lehre auch von Verstorbenen „übernommen“ werden kann; dort, wo verstorbene Personen des öffentlichen Lebens zu bestimmten Anlässen wieder in den Vordergrund gerückt werden (wie z. B. US-Präsident Kennedy, um die Rede zu halten, die er am Tag seiner Ermordung gehalten hätte, vgl. Rothco, 2018).

Aktuell gibt es diese Anwendungen etwa in der Werbung, der Musik- und Filmindustrie (McEvoy, 2021; Chesney & Citron, 2019, S. 1770). Besucher:innen der „Dalí Lives“-Ausstellung in den USA konnten mit dem 1989 verstorbenen Künstler „interagieren“ (Kwok & Koh, 2020, S. 3). Im Rahmen der US-Wahl 2020 ermöglichte ein Deepfake eines beim Parkland-Massaker getöteten Jugendlichen eine besonders eindringliche politische Kampagne zur Verschärfung der Waffengesetze (Diaz, 2020). Aber auch im persönlichen Umfeld werden entsprechende Anwendungen bereits eingesetzt, so wie im Fall einer koreanischen Frau, die ihrer toten Tochter auf diesem Weg wiederbegegnete (McEvoy, 2021), oder in Form von Rekonstruktionen kurzer Videoanimationen verstorbener Verwandter auf der Basis von Fotos  als Dienstleistung der Genealogie-Plattform MyHeritage.

Durch Fortschritte in der KI wird dieser Prozess deutlich beschleunigt und damit breiter und einfacher zugänglich. In Zukunft ist daher von einer vermehrten Nutzung auch im Privatbereich auszugehen. Das Projekt Edilife hat einen stark partizipativen Ansatz und nimmt auf Grundlage von Analysen der entsprechenden Anwendungen, Stakeholderworkshops sowie Gruppen- und Einzelinterviews eine Kartierung und erste Exploration des Forschungsfelds „digitales Weiterleben“ vor.

Ziele des Projekts sind

  • der wissenschaftliche Erkenntnisgewinn in einem bedeutenden neuen Themenfeld, der sich einerseits auf ethische Fragen des Umgangs mit Trauer und Tod in Bezug auf Techniken des digitalen „Weiterlebens“ bezieht (IZEW) und andererseits auf die technischen Möglichkeiten, natürliche Personen virtuell zu repräsentieren, und die damit einhergehenden datenschutzrechtlichen und sicherheitstechnischen Implikationen (SIT);
  • die Kennzeichnung von politischem Handlungsbedarf in Bezug auf ethische Fragen (IZEW), Sicherheit und Datenschutz (SIT) und die Eröffnung einer gesellschaftlichen Diskussion (IZEW und SIT).

Zentrale Forschungsfragen lauten u.a.: Welche Wünsche haben Menschen für ihre digitale Existenz nach ihrem Tod? Wie können Trauer und Pietät in diesem soziotechnischen Kontext einen Platz finden? In welcher Weise wird Technik religiöses Leben beeinflussen und umgekehrt? Welche Manipulations- und Missbrauchsmöglichkeiten eröffnen sich? Wie wird der Datenschutz aller gewahrt? Kann ein digitaler Zwilling einer verstorbenen Person gegen das Gesetz verstoßen? Wie können die Rechte Betroffener gegenüber den kommerziellen Interessen der internationalen DAI und anderer Industrien (wie der Unterhaltungsindustrie) durchgesetzt werden?

So wie die soziale Interaktion in einer digitalen Gesellschaft nach Medienmündigkeit und einem (ethisch) reflektierten Technikverständnis verlangt, ist auch die Suche nach einem respekt- und pietätvollen Umgang mit Tod und Trauer in einer datengestützten und medialisierten Lebenswelt eine vordringliche Aufgabe. Im Projekt werden diese Fragen aus einer gleichermaßen technisch wie kulturell geprägten digitalen Gesellschaft interdisziplinär behandelt.

Publikationen

  • Ajder, H., Patrini, G., Cavalli, F. & Cullen, L. (2019). The State of Deepfakes: Landscape, Threats, and Impact. Deeptrace.
  • Anderson, J., Rainie, L. & Luchsinger, A. (2018). Artificial intelligence and the future of humans. Pew Research Center.
  • Bohnstedt, J. (2019). Vom Personenbezug zum Gerätebezug – KI und Datenschutz. DSRITB, 409–421.
  • Brundage, M. et al. (2018). The Malicious Use of Artificial Intelligence: Forecasting, Prevention, and Mitigation. arXiv:1802.07228
  • Chesney, R. & Citron, D. (2019). Deep Fakes: A Looming Challenge for Privacy, Democracy, and National Security. California Law Review, 107, 1753–1819. https://doi.org/10.15779/Z38RV0D15J
  • Deutscher Bundestag (28. Oktober 2020). Bericht der Enquete-Kommission Künstliche Intelligenz – Gesellschaftliche Verantwortung und wirtschaftliche, soziale und ökologische Potenziale (Vorabfassung), Drucksache 19/23700. https://dip21.bundestag.de/dip21/btd/19/237/1923700.pdf
  • Diaz, A.‑C. (2. Oktober 2020). Parkland victim Joaqium Oliver comes back to life in heartbreaking plea to voters. AdAge, 2020. https://adage.com/article/advertising/parkland-victim-joaquin-oliver-comes-back-life-heartbreaking-plea-voters/2285166
  • Han-sol, P. (17. Januar 2021). Holographic performances of dead stars welcomed, with caution. The Korea Times. https://www.koreatimes.co.kr/www/nation/2021/01/703_302548.html
  • Heesen, J. (2022). Verstorbene als Medienprodukt. Die Programmierung von Unendlichkeit als ethische Herausforderung. In W. George & K. Weber (Hg.), Die Grenzen des Wachstums: Eigene Endlichkeit. Gießen 2022 (im Druck).
  • Hennig, Martin (2018a), Fiktionen vom digitalen Körper, Leben und Tod in Literatur, Film und Computerspiel. In: Anja Hartung-Griemberg/Ralf Vollbrecht/ Christine Dallmann (Hg.): Körpergeschichten. Körper als Fluchtpunkte medialer Biografisierungspraxen. Baden-Baden: Nomos, 195-215.
  • Jordan, M. I. (2019). Artificial intelligence – The revolution hasn’t happened yet. Harvard Data Science Review, 1. https://doi.org/10.1162/99608f92.f06c6e61
  • Kasket, E. (2020). All the Ghosts in the Machine: The Digital Afterlife of your Personal Data. London: Robinson.Kneese, T. (2. November 2020). How Data Can Create Full-On Apparitions of the Dead. Slate. https://slate.com/technology/2020/11/robert-kardashian-joaquin-oliver-deepfakes-death.html
  • Kubis, M., Naczinsky, M., Selzer, A., Sperlich, T.,Steiner, S. & Waldmann, U. (2019). Der digitale Nachlass – Eine Untersuchung aus rechtlicher und technischer Sicht. https://doi.org/10.24406/sit-n-572224
  • Kwok, A. O. J. & Koh, S. G. M. (2020). Deepfake: a social construction of technology perspective. Current Issues in Tourism, 1–5. https://doi.org/10.1080/13683500.2020.1738357
  • Lagerkvist, A. (2017). The Media End: Digital Afterlife Agencies and Techno-existential Closure. In A. Hoskin (ed.), Digital Memory Studies. Media Pasts in Transition (p. 48-84). New York: Routledge.
  • Loh, J. (2020). Trans- und Posthumanismus zur Einführung. Hamburg: Junius, 3. korrigierte Auflage.
  • Marshall, A., Rojas, R., Stokes, J. & Brinkman, D. (2018). Securing the Future of Artificial Intelligence and Machine Learning at Microsoft. https://docs.microsoft.com/en-us/security/engineering/securing-artificial-intelligence-machine-learning
  • McEvoy, F. J. (23. Januar 2021). Deepfaking the Deceased: Is it Ever Okay? You the Data. https://youthedata.com/2021/01/23/deepfaking-the-deceased-is-it-ever-okay/
  • Morse, T. & Birnhack, M. D. (2019). Digital Remains: The Users’ Perspectives. SSRN Electronic Journal. http://dx.doi.org/10.2139/ssrn.3397533
  • Netzwerk Datenschutzexpertise. (2016). Postmortaler Datenschutz Auskunftsansprüche von Erben und Angehörigen zu personenbezogenen Internetdaten eines Verstorbenen. https://www.netzwerk-datenschutzexpertise.de/sites/default/files/gut_2016_08_postmortds.pdf
  • Öhman, C. & Watson, D. (2019). Are the dead taking over Facebook? A Big Data approach to the future of death online. In Big Data & Society, January – June 2019, 1-13. 10.1177/2053951719842540
  • Öhman, C. & Floridi, L. (2018). An ethical framework for the digital afterlife industry. Nature Human Behaviour, 2, 318–320. https://www.nature.com/articles/s41562-018-0335-2
  • Rothco (2018). JFK Unsilenced. https://rothco.ie/work/jfk-unsilenced/
  • Savin-Baden, M. & Mason-Robbie, V. (eds.). (2020). Digital Afterlife. Death Matters in a Digital Age. Taylor & Francis.
  • Schindler, S. (2019). Künstliche Intelligenz und (Datenschutz-)Recht. ZD-Aktuell, 06647.
  • Sisto, D. (2020). Online Afterlives. Immortality, Memory, and Grief in Digital Culture. Translated by B. McClellan-Broussard. MIT Press.
  • Schmidt, J.-H. & Taddicken, M. (2017). Soziale Medien: Funktionen, Praktiken, Formationen. In J.-H. Schmidt & M. Taddicken (Hrsg.), Handbuch Soziale Medien (S. 23-37). Wiesbaden: Springer.
  • Smith, M. (2021). The Intangible Ossuaries: The Ethical Dilemmas that Come with Handling the Data of the Deceased. APPE Conference.
  • Spies, U. (2020). Klinische Krebsregistrierung aus Sicht der Tumorzentren und postmortaler Datenschutz. NZS, 921–926.
  • Topol, E. J. (2019). High-performance medicine: the convergence of human and artificial intelligence. Nature Medicine, 44, 44–56. https://doi.org/10.1038/s41591-018-0300-7
  • Voinea, C. & Uszkai, R. (2019). An ethical framework for digital afterlife industries. In Proceedings of the 13th International Management Conference „Management Strategies for High Performance” 31st October – 1st November 2019, Bucharest, Romania. conferinta.management.ase.ro/archives/2019/pdf/5_20.pdf (20.12.2021).
  • Weissman, J. (2021). The Crowdsourced Panopticon. Conformity and Control on Social Media. London: Rowman & Littlefield.
  • Wieder, C. (2018). Datenschutzrechtliche Betroffenenrechte bei der Verarbeitung von personenbezogenen Daten mittels künstlicher Intelligenz, Datenschutzrechtliche Betroffenenrechte bei der Verarbeitung von personenbezogenen Daten mittels künstlicher Intelligenz, in: Taeger, J. (Hrsg.). Rechtsfragen digitaler Transformationen. Edewecht, 505–518.
  • Yampolskiy, R. V. (2019). Unexplainability and Incomprehensibility of Artificial Intelligence. University of Louisville. arXiv:1907.03869