Maria Pawelec

Bereich Gesellschaft, Kultur und technischer Wandel

Maria Pawelec studierte Politik- und Verwaltungswissenschaft und Europawissenschaften in Konstanz, Istanbul, Bath und Berlin. Seit 2016 forscht sie als wissenschaftliche Mitarbeiterin am IZEW in medien- und technikethischen Projekten. Derzeit arbeitet sie im Projekt „PREVENT“ zur Prävention von digitalen Desinformationskampagnen mit einem Schwerpunkt auf Deepfakes.

Werdegang

Maria Pawelec studierte Politik- und Verwaltungswissenschaft und Europawissenschaften in Konstanz, Istanbul, Bath und Berlin. Im Anschluss arbeitete sie im Themenbereich „Völkerverständigung Europa und seine Nachbarn“ der Robert Bosch Stiftung in Stuttgart. 2016-2019 war Maria Pawelec wissenschaftliche Mitarbeiterin am IZEW im Projekt „Ethische Implikationen des IT-Exports nach Subsahara-Afrika (ELISA)“. Zusätzlich unterstützte sie das Projekt Privacy-Arena und koordinierte die Erstellung eines Gutachtens im Auftrag des Deutschen Bundestages zum Thema "Soziale und psychologische Wirkungen technisierter Beobachtung". 2020 arbeitete sie im Projekt „Technik-Innovation: Sozialwissenschaftliche und ethische Analysen zu Governance (TANGO)“. Seit 2021 forscht Maria Pawelec zum Thema „Ethische und gesellschaftliche Implikationen von ‚Deepfakes‘ und Chancen ihrer Regulierung“ im Projekt „Digitalisierung im Dialog (digilog@bw)“. Seit 2022 arbeitet sie im Projekt PREVENT zur Prävention von digitalen Desinformationskampagnen. 2024 beriet sie darüber hinaus die Bundeszentrale für politische Bildung zur Erstellung eines Dossiers zum Thema KI und soziale Medien.

Veröffentlichungen

Monographien

Pawelec, Maria; Bieß, Cora (2021): Deepfakes — Technikfolgen und Regulierungsfragen aus ethischer und sozialwissenschaftlicher Perspektive. Mit einer interaktiven Lehreinheit von Cora Bieß. Baden-Baden: Nomos.

Zeitschriftenaufsätze

Pawelec, Maria (2024): Decent deepfakes? Professional deepfake developers’ ethical considerations and their governance potential. In: AI and Ethics, S. 1-26.
Pawelec, Maria; Sievi, Luzia (2023): Falschinformationen in den sozialen Medien als Herausforderung für deutsche Sicherheitsbehörden und -organisationen. In: Kriminologie – Das Online-Journal 4(5), S. 316–347.
Pawelec, Maria (2022): Deepfakes and Democracy (Theory): How Synthetic Audio-Visual Media for Disinformation and Hate Speech Threaten Core Democratic Functions. In: Digital Society 1, 19.
Schelenz, Laura; Pawelec, Maria (2021): Information and Communication Technologies for Development (ICT4D) critique. In: Information Technology for Development 27, S. 165-188.
Schopp, Kerstin; Schelenz, Laura; Heesen, Jessica; Pawelec, Maria (2019): Ethical Questions of Digitalization in the Global South. Perspectives on Justice and Equality. In: Zeitschrift für Technikfolgenabschätzung in Theorie und Praxis TATuP 28 (2), S. 11-16.
Pawelec, Maria; Grimm, Sonja (2015): Does National Identity Matter? Political Conditionality and the crucial case of Serbia's (Non) Co-operation with the ICTY. In: Journal of Common Market Studies 52 (6), S. 1290-1306.

Beiträge im Sammelbänden und Konferenzbeiträge

Stieglitz, Stefan; Fromm, Jennifer; Kocur, Alexander; Rostalski, Frauke; Duda, Michelle; Evans, Alison; Rieskamp, Jonas; Sievi, Luzia; Pawelec, Maria; Heesen, Jessica; Loh, Wulf; Fuchß, Christopher; Eyilmez, Kaan (2023): What Measures Can Government Institutions in Germany Take Against Digital Disinformation? A Systematic Literature Review and Ethical-Legal Discussion. Konferenzbeitrag, WI23: 18. Internationale Tagung Wirtschaftsinformatik, Paderborn.
Pawelec, Maria (2022): Deepfakes als Chance für die Demokratie? In: Alexander Bogner, Michael Decker, Michael Nentwich, Constanze Scherz (Hrsg.): Digitalisierung und die Zukunft der Demokratie - Beiträge aus der Technikfolgenabschätzung, S. 89-101.
Pawelec, Maria; Schopp, Kerstin; Heesen, Jessica (2021): Information justice in Africa: Insights on Information Ethics connected to Nelson Mandela's thinking. In: Coetzee Bester, Johannes Britz, Rafael Capurro und Rachel Fischer (Hrsg.): Nelson Mandela – A Reader on Information Ethics in Kooperation mit der Nelson Mandela Foundation, S. 87-132.
Baur-Ahrens, Andreas; Hagendorff, Thilo; Pawelec, Maria (2017): Kryptografie. In: Joel Baumann und Jörn Lamla (Hrsg.): Privacy Arena. Kontroversen um Privatheit im digitalen Zeitalter. Kassel: Kassel University Press, pp. 40-55.
Baur-Ahrens, Andreas; Hagendorff, Thilo; Pawelec, Maria (2017): Big Data. In: Joel Baumann und Jörn Lamla (Hrsg.): Privacy Arena. Kontroversen um Privatheit im digitalen Zeitalter. Kassel: Kassel University Press, pp. 96-113.
Upadhyay, Dinoj Kumar; Pawelec, Maria (2016): State-building and police reform in Afghanistan: EU and US engagement in comparative perspective. In: Ingo Peters (Hrsg.): The European Union's Foreign Policy in Comparative Perspective: Beyond the "Actorness" and "Power" Debate. London: Routledge, pp. 165-186.

Projektpublikationen

Pawelec, Maria, Cora Bieß und Alexander Orlowski (2021): Ethisch und sozial wünschenswerte Technikgovernance fördern - Points to Consider zu Technikgovernance; Handlungsempfehlungen zum Autonomen Fahren und zu Deepfakes. Tübingen: IZEW, Materialien zur Ethik in den Wissenschaften, Band 17. ISBN: 978-3-935933-19-3

Weitere Beiträge

Pawelec, Maria (2022): What are deepfakes and why do they matter? Hintergrundartikel für das European-Israeli Forum for Technology and Society, eine Zusammenarbeit zwischen dem Israel Public Policy Institute (IPPI) und der Heinrich Böll Stiftung.
Ammicht Quinn, Regina; Heesen, Jessica; Pawelec, Maria; Hauschild, Alexander (unter Mitarbeit von Baur, A.; Booz, S.; Burkhardt, A.; Erben, S.; Gabel, F.; Grote, T.; Hagendorff, T.; Krüger, M.; Nadolski, S.; Spindler, M.; Tilling, A.; Zinsmaier, J.; 2022): Soziale und psychologische Wirkungen technisierter Beobachtung. Gutachten für das Büro für Technikfolgenabschätzung beim Deutschen Bundestag (TAB), erstellt 2017, eingearbeitet in den Bericht des Ausschusses für Bildung, Forschung und Technikfolgenabschätzung (18. Ausschuss): Beobachtungstechnologien im Bereich der zivilen Sicherheit – Möglichkeiten und Herausforderungen. Bundestagsdrucksache 20/4200. Berlin.
Pawelec, Maria (2022): Was sind Deepfakes? Newsletterbeitrag. In: in.media.res: die Kreativregion Stuttgart.
Schelenz, Laura; Pawelec, Maria (2021): Rassismus, Sexismus und Diskriminierung durch Technik. Spotlight-Text. In: digilog@bw – Digitalisierung im Dialog.
Bieß, Cora; Pawelec, Maria (2020): Schaden Deepfakes (wirklich) der Demokratie? Warum die Debatte um Deepfakes in der Politik oft zu kurz greift. In: BedenkZeiten-Blog.
Pawelec, Maria (2020): International solidarity in times of crisis. In: BedenkZeiten-Blog.
Pawelec, Maria (2018): How Bridge International's Tech-Driven For-Profit Schools in Africa may Reinforce Global Power Inequalities. In: Sicherheitspolitik-Blog.
Heesen, Jessica; Pawelec, Maria; Schelenz, Laura (2017): Development, Security, and the Role of ICT in the Global South. In: Sicherheitspolitik-Blog.

Interviews und Medienauftritte

„Unmöglich, sich zu schützen“: Erschreckend viele Frauen werden Opfer von Deepfake-Pornografie. Beitrag von Anika Zuschke, Frankfurter Rundschau, 02.04.2024.
«Superwahljahr 2024»: Open AI sagt, Chat-GPT könne nicht für politische Kampagnen eingesetzt werden. Diese Recherche zeigt das Gegenteil. Beitrag von Gioia da Silva, Neue Züricher Zeitung, 14.02.2024.
Erste Parteien machen in Sachsen Politik mit künstlicher Intelligenz - Experten warnen. Beitrag von Jim Kerzig, Freie Presse Sachsen, 22.01.2024.
Wir generieren uns eine eigene Realität. Beitrag von Olaf Pollaske im CHIP Magazin 01/2024, 5. Januar 2024.
Pizza beim Parteitag der Grünen: So bewerten Experten den KI-Fake vom Grünen-Parteitag. Beitrag von Sascha Maier in den Stuttgarter Nachrichten, 30. November 2023.
Mal angenommen, künstliche Intelligenz ersetzt uns. Was dann? tagesschau Zukunfts-Podcast "mal angenommen" von Kristin Becker und Gábor Halász, 5. Oktober 2023.
Gefahren von Deepfakes für die mediale Glaubwürdigkeit. Interview in Radio Bremen Zwei, 22. September 2023.
Deepfakes – Mediale Glaubwürdigkeit in Gefahr. Interview mit Sebastian Wellendorf in der Sendung "mediasres", 21. September 2023.
Deepfake Music? Wie die Technologie Einfluss auf die Musik nehmen kann. 4-teilige Mini-Serie von Kathrin Schunn, Hochschule für Musik Karlsruhe, veröffentlicht auf dem Jungen Kulturkanal, 3. September 2023.
Du als Klon! Betrug mit deiner Stimme, Beitrag von Tasnim Rödder im Auftrag des SWR für die Sendung "VOLLBILD - Recherchen, die mehr zeigen", 18. Juli 2023.
Deepfakes: Wo liegen Risiken, aber auch Chancen für unsere Gesellschaft? Beitrag von Maximilian Brose für die Sendung "Systemfragen", 1. Juni 2023 (mehr Informationen zum Beitrag hier).
Wie groß ist die Gefahr von Deepfakes?, Podcast des Projekts digilog@bw mit Uwe Gradwohl, 17.12.2021.
Deepfakes als Gefahr für die Demokratie: Wie digitale Bild- und Tonfälschungen unser Vertrauen untergraben, Interview mit Ulla Ebner für die Ö1-Sendereihe Digital.Leben, 6. Juli 2021.
#meetdigilog: Von Politik bis Pornografie: Gefahren (und Chancen) von Deepfakes, live auf Instagram, Gespräch mit Sabine Faller, ZKM, 15. April 2021.
Von Politik bis Pornografie: Gefahren (und Chancen) von Deepfakes, digiloglounge, YouTube-Interview mit Sabine Faller, ZKM, 8. April 2021 (mit Jessica Heesen).
Audio-Deepfakes: Was, wenn wir unseren Ohren nicht mehr trauen können? Beitrag von Julius Stucke im Deutschlandfunk Kultur, 3. Dezember 2020 (mit Cora Bieß)

Konferenzbeiträge und Vorträge

„Olympics has fallen"? Chancen und Gefahren von Deepfakes für Politik, Gesellschaft und Sport, Vortrag beim Wissenschaftsforum des Württembergischen Landessportbund e.V. (WLSB), Stuttgart, 8. Oktober 2024.
Should security authorities counter false information on social media in ermergencies, disasters, and catastrophes? (mit Luzia Sievi), Vortrag (online) beim International Congress on Disaster Ethics, Oviedo, Spanien, 20. Juni 2024.
(Wie) Sollten Behörden und Organisationen mit Sicherheitsaufgaben (BOS) gegen Falschinformationen in den sozialen Medien umgehen? Ethische und demokratietheoretische Perspektiven (mit Luzia Sievi), Workshop bei der Fachtagung Katastrophenvorsorge 2024, 23. April 2024 (Link zur Aufzeichnung).
KI im Gespräch: Deepfakes – Risks and Opportunities, Paneldiskussion mit Tim Rebig, moderiert von Nadia Vohwinkel, als Teil der StudiNight-Diskussionsveranstaltungen im KI-Makerspace in Tübingen, 6. Juli 2023.
Maßnahmen von BOS gegen sicherheitsrelevante Falschinformationen und ihre ethische Bewertung (mit Luzia Sievi), Vortrag im Graduierten-Netzwerk Zivile Sicherheit, 28. Juni 2023.
Ethical deepfakes? The values held by deepfake developers and service providers, and their governance potential, CEPE 2023 (International Conference on Computer Ethics: Philosophical Enquiry), virtuelle Konferenz, 24. Mai 2023 (Link zur Aufnahme).
Ethical implications of immersive technologies and deepfakes in art and culture. Keynote zusammen mit Céline Gressel beim Workshop „Immersive Technologien in Kunst und Kultur“ des Goethe Instituts, 14.-18. November 2022 in Taschkent/Usbekistan. Vortrag online. 17. November 2022. Folien.
Deepfakes, Demokratie und öffentliche Kommunikation: Gefahren und Chancen, NTA9-TA21-Konferenz "Digital, direkt, demokratisch? Technikfolgenabschätzung und die Zukunft der Demokratie" des Netzwerk Technikfolgenabschätzung (NTA) und des Institut für Technikfolgen-Abschätzung (ITA) der Österreichischen Akademie der Wissenschaften, Wien/virtuelles Event, 11. Mai 2021.
Deepfakes as a blessing and a curse – and how to govern their use in public communication, DACH 21 - Dreiländertagung für Kommunikationswissenschaft "#Kommunikation #(R)Evolution: Zum Wandel der Kommunikation in der digitalen Gesellschaft", Zürich/virtuelles Event, 9. April 2021.
Encouraging the Development of Ethically and Societally ‘Desirable’ Technologies Through Innovation Governance, ECPR Virtual General Conference 2020 (European Consortium for Political Research), virtuelles Event, 27. August 2020 (mit Cora Bieß und Alexander Orlowski).
Governing technology innovation processes for ethically “desirable” societal transformation, EASST/4S 2020 conference (European Association for the Study of Science and Technology), Prag/virtuell, 18. August 2020 (mit Cora Bieß und Alexander Orlowski).

Wissenschaftskommunikation

Kurzinterview auf Instagram mit digilog@bw: "Was ist das wichtigste Sicherheitsproblem in Ihrem Bereich? Was tun?", April 2024.
Interviewbeiträge zu interaktiver Plattform zu Deepfakes, erstellt von Masterstudierenden der Medienwissenschaften an der Universität Tübingen, 2024.
Teilnahme am Wissenschaftskommunikationsproject "I'm a Scientist" zur Interaktion mit Schüler:innen, organisiert von "Wissenschaft im Dialog", Themenrunde "KI im Film", Januar 2023.

Auszeichnungen

2021: Student Best Paper Award der Konferenz CEPE/IACAP 2021 für das Paper "Deepfakes and Democracy (Theory): How Synthetic Audio-Visual Media for Disinformation and Hate Speech Threatens Core Democratic Functions".

Abgeschlossene Projekte

digilog@bw (2021-2022, Baden-Württembergisches Ministerium für Wissenschaft, Forschung und Kunst): "Digitalisierung im Dialog"
TANGO (2020, BMBF): „Technik-Innovation: Sozialwissenschaftliche und ethische Analysen zu Governance“
ELISA (2016-2019): „Ethische Implikationen des IT-Exports nach Subsahara-Afrika“
Gutachten im Auftrag des Deutschen Bundestages zum Thema "Soziale und psychologische Wirkungen technisierter Beobachtung" (2017)
Privacy-Arena (2016, BMBF): „Forschungsprojekt zur Kartografie und Analyse der Privacy-Arena“