Internationales Zentrum für Ethik in den Wissenschaften (IZEW)

Laura Schelenz

Bereich Gesellschaft, Kultur und technischer Wandel

Laura Schelenz forscht zu ethischen und feministischen Perspektiven auf Technik­ent­wick­lung und digitale Transformation. In vergangenen Forschungsprojekten arbeitete sie zu europäischer Technikentwicklung, diversitätssensiblem Design, sozialen Plattformen, Digitalisierung in Afrika, Partizipation in der digitalen Gesellschaft und Technikdesign mit geflüchteten Menschen und Migrant:innen. Sie wurde 2023 in die Liste der „100 Brilliant Women in AI Ethics™“ aufgenommen. Laura Schelenz ist affiliiert mit dem Center for Information, Technology, and Public Life an der Universität North Carolina – Chapel Hill.

Forschungsschwerpunkte

  • Digitalisierung

  • ethische und feministische Technikentwicklung

  • Diversität

  • Gender und Feminismus

  • Partizipation

  • soziale Gerechtigkeit

Ausgewählte Publikationen

Schelenz, Laura (2024): Rassismus durch Künstliche Intelligenz? Wie Schwarzfeministische Ansätze diskriminierende KI beleuchten und kritisieren. In: Code & Vorurteil: Über Künstliche Intelligenz, Rassismus und Antisemitismus. Verbrecher Verlag Berlin.

Schelenz, Laura; Segal, Avi; Adelio, Oduma; Gal, Kobi (2023): Transparency-Check: An Instrument for the Study and Design of Transparency in AI-based Personalization Systems. In: ACM Journal on Responsible Computing. https://doi.org/10.1145/3636508
Schelenz, Laura (2023): Technology, Power, and Social Inclusion: Afghan Refugee
Women’s Interaction with ICT in Germany. The International Journal of Information, Diversity, & Inclusion 7(3): 2-31. https://doi.org/10.33137/ijidi.v7i3/4.40292

Schelenz, Laura (2023): Diversity and Social Justice in Technology Design: Reflections on Diversity-Aware Technology. International Journal of Critical Diversity Studies 5(2): 33-53, https://doi.org/10.13169/intecritdivestud.5.2.0033

Schelenz, Laura (2023): Digitale Diversitätsnarrative entzaubern. Strukturelle Ungleichheit bekämpfen. Im Rahmen des Projektes Digitales Deutschland. Online verfügbar: https://digid.jff.de/magazin/diversitaet/diversitaetsnarrative/

Helm, Paula; Loizos, Michael, Schelenz, Laura (2022): Diversity by Design? Balancing the Inclusion and Protection of Users in an Online Social Platform. In: AIES '22: Proceedings of the AAAI/ACM Conference on AI, Ethics, and Society, https://doi.org/10.1145/3514094.3534149

Martinez Demarco, Sol; Schelenz, Laura (2022): Diversity and Technology. A Zine. Internationales Zentrum für Ethik in den Wissenschaften. Materialien zur Ethik in den Wissenschaften; 21. ISBN: 978-3-935933-20-9.

Schelenz, Laura (2022): Diversity Concepts in Computer Science and Technology Development: A Critique. In Science, Technology, & Human Values. DOI: https://doi.org/10.1177/01622439221122549

Schelenz, Laura (2022): Artificial Intelligence Between Oppression and Resistance: Black Feminist Perspectives on Emerging Technologies. In Ariane Hanemaayer (Ed.): Artificial Intelligence and Its Discontents. Cham: Springer International Publishing (Social and Cultural Studies of Robots and AI), pp. 225–249.

Schelenz, Laura; Vondermaßen, Marcel (2022): Diversity, Identity, Oppression: The Construction of “Blackness” in Dear White People. In Open Philosophy 5 (1), pp. 44–56. DOI: 10.1515/opphil-2020-0171.

Schelenz, Laura (2021): Schwarzfeministische Perspektiven auf Künstliche Intelligenz: Erkenntnisse und neue Fragen zu KI-gestützter Gesichtserkennung und Überwachung. In Femina Politica – Zeitschrift für feministische Politikwissenschaft 30 (2-2021), pp. 73–93. DOI: 10.3224/feminapolitica.v30i2.07.

Schelenz, Laura; Bison, Ivano; Busso, Matteo; de Götzen, Amalia; Gatica-Perez, Daniel; Giunchiglia, Fausto; Meegahapola, Lakmal; Ruiz-Correa, Salvador (2021): The Theory, Practice, and Ethical Challenges of Designing a Diversity-Aware Platform for Social Relations. In: AIES '21: Proceedings of the AAAI/ACM Conference on AI, Ethics, and Society. https://doi.org/10.1145/3461702.3462595

Schelenz, Laura (2021): Diversity-aware Recommendations for Social Justice? Exploring User Diversity and Fairness in Recommender Systems. In Judith Masthoff, Eelco Herder, Nava Tintarev, Marko Tkalčič (Eds.): Adjunct Proceedings of the 29th ACM Conference on User Modeling, Adaptation and Personalization. UMAP '21: 29th ACM Conference on User Modeling, Adaptation and Personalization. Utrecht Netherlands, 21 06 2021 25 06 2021. New York, NY, USA: ACM, pp. 404–410. https://doi.org/10.1145/3450614.3463293

Schelenz, Laura; Pawelec, Maria (2021): Information and Communication Technologies for Development (ICT4D) critique. In Information Technology for Development, pp. 1–24. https://doi.org/10.1080/02681102.2021.1937473

Heesen, Jessica; Reinhardt, Karoline; Schelenz, Laura (2021): Diskriminierung durch Algorithmen vermeiden: Analysen und Instrumente für eine demokratische digitale Gesellschaft. In Gero Bauer, Maria Kechaja, Sebastian Engelmann, Lean Haug (Eds.): Diskriminierung und Antidiskriminierung. Beiträge aus Wissenschaft und Praxis. 1. Auflage. Bielefeld: transcript; Transcript Verlag (Gesellschaft der Unterschiede, 60).

Schelenz, Laura; Segal, Avi; Gal, Kobi (2020): Best Practices for Transparency in Machine Generated Personalization. In Tsvi Kuflik, Ilaria Torre, Robin Burke, Cristina Gena (Eds.): Adjunct Publication of the 28th ACM Conference on User Modeling, Adaptation and Personalization. UMAP '20: 28th ACM Conference on User Modeling, Adaptation and Personalization. Genoa Italy, 14 July 2020 - 17 July 2020. New York, NY, USA: ACM, pp. 23–28. https://doi.org/10.1145/3386392.3397593

Talks

”Diskriminierung durch KI vermeiden: ethisch-feministische Ansätze für ein verantwortungsvolles Design von Technik”, gws-Forum, 22.02.24.

”Diversität und Diskriminierung”, 28. Kasseler Jugendsymposion ”KI, echt?”,  16.12.2023.

“Barriers of Inclusion: A ‘Diversity-aware’ Chatbot for Afghan Refugee Women in Germany”, IZEW Collquium, University of Tübingen, 24 February 2023.

“The Politics of Diversity, Inclusion, and Social Justice in Technology Development”, Workshop Understanding the Politics of Contemporary Technologies, International Criminological Research Unit, University of Liverpool, 27 October 2022.“Social Justice Designs for Alternative Futures? The Potential and Limits of Black Feminist Diversity-aware Technology”. European Feminist Research Conference, University of Milano-Bicocca, 17 June 2022.

“Reducing Bias through Contextualization: Diversity-aware Technology from a Black Feminist Perspective.” BIAS Conference, University of Hannover, 9 October 2021.

“Diversity by Design: Balancing Protection and Inclusion in Social Networks.” AITHICS 2021 workshop at the German Conference on Artificial Intelligence (KI2021), 27 September 2021.

“Diversity-aware Recommendations for Social Justice? Exploring User Diversity and Fairness in Recommender Systems.” Fair UMAP Workshop @ ACM UMAP 2021, 25 June 2021.

“Diversity-aware Technology: a Concept and Method for Social Justice-Oriented Design.” Lecture, Aalborg University, Copenhagen, Denmark, 21 April 2021.

"Technikdesign und Diversität: Künstliche Intelligenz für eine demokratische Öffentlichkeit?“ Mit Jessica Heesen. Vorlesung an der Universität Tübingen, 21.01.2021.

“Diversity-aware Technology: a Concept and Method for Increased Social Justice in Computer Systems.” Know-Dive Seminar at the University of Trento, Italy, 4 November 2020.

 “Applying Transparency in Artificial Intelligence based Personalization Systems.” With Avi Segal. Presentation at the Virtual Human-AI Interaction Workshop (HAIW), European Conference on Artificial Intelligence (ECAI). 8 September 2020.

“Best Practices for Transparency in Machine-Generated Personalization.” With Avi Segal. Presentation at the Virtual ACM Conference on User Modelling and Adaptive Technologies. 16 July 2020.

Dissertation

"Diversity, Technology, Power: An American Black Feminist Approach to Studying and Designing Diversity in Relation to Contemporary Technologies"

Verteidigt am 6. Dezember 2023

Die Dissertation beschäftigt sich kritisch mit Diversitätskonzepten und -normen, die in der Technikentwicklung Anwendung finden. Aufgrund bekannter Probleme mit Diskriminierung durch Künstliche Intelligenz und anderen Technologien wird Diversität zunehmend in die Technikentwicklung einbezogen. Das klingt erstmal gut, aber ist das immer förderlich? Unter Rückgriff auf die Schwarzfeministische Theorie kritisiert die Dissertation, dass die Informatik binäre und oberflächliche Diversitätskonzepte nutzt (z.B. Mann vs. Frau). Fälle wie die Gesichtserkennung, Personalisierung und das Design einer europäischen Plattform zeigen, dass der unreflektierte Umgang mit Diversität Diskriminierung fördern statt minimieren kann. Die Dissertation zeigt Wege auf, wie Diversität kontextualisiert, historisch eingebettet und reflektiert in die Technikentwicklung einbezogen werden kann. Sie beinhaltet Empfehlungen für Informatiker:innen, ist aber auch für die Politik und Nutzer:innen von Technik relevant.

Betreuung: Prof. Dr. Astrid Franke, Amerikanistik Uni Tübingen; Prof. Dr. Daniel Gatica-Perez, Social Computing Group at IDIAP, EPFL, Schweiz