Trainingsansatz zur Vermittlung von individuellen, koordinierten und automatisierten Maßnahmen zur Prävention von digitalen Desinformationskampagnen (PREVENT)

Gerade in Krisen, wie beispielsweise in der COVID-19 Pandemie, haben Menschen haben ein starkes Informationsbedürfnis. Informationsmangel oder widersprüchliche Informationen lösen Ängste oder Unsicherheit aus. Gleichzeitig ist es besonders in Krisensituationen wichtig, dass die Bevölkerung verlässliche Informationen erhält, um die Lage adäquat einschätzen und angemessen handeln zu können. Um schnell an Informationen zu gelangen, wenden sich viele verstärkt dem Internet und den sozialen Medien zu.

Fake News, Verschwörungsmythen und digitale Desinformationskampagnen erschweren dort jedoch die Meinungsbildung. Hierbei handelt es sich häufig um Falschinformationen, die Bürger*innen im Vertrauen auf ihre Richtigkeit mit Bekannten und Angehörigen teilen. Ursprung dieser Falschinformationen können allerdings auch digitale Desinformationskampagnen sein, mit denen zum Beispiel versucht wird die demokratische Debatte zu untergraben oder die soziale Polarisierung zu verschärfen. Durch die koordinierte Verbreitung von Desinformationen kann eine künstliche Verzerrung des Meinungsbilds auf sozialen Medien und ein Nachlassen des Vertrauens der Bevölkerung in sicherheitsrelevante Akteur*innen herbeigeführt werden.

Das Hauptziel von PREVENT ist es, die Entstehung von digitalen Desinformationskampagnen zu erforschen, zu simulieren, sowie Lösungen zu erarbeiten, um ihnen vorzubeugen. Dazu entwickelt das Konsortium einen innovativen Trainingsansatz, der sich an Behörden und Organisationen mit Sicherheitsaufgaben (BOS) als vertrauenswürdige und einflussreiche Akteure in Krisensituationen richtet.

Die Entwicklung des Trainingsansatzes beinhaltet:
1. Die Entwicklung eines Demonstrators, der die Entstehung von digitalen Desinformationskampagnen in realistischen Trainingsszenarios simuliert und es BOS ermöglicht, wirksame vorbeugende Maßnahmen zu erlernen;
2. die Entwicklung von wirksamen Präventionsmaßnahmen, die BOS ergreifen können, um der
Entstehung von digitalen Desinformationskampagnen vorzubeugen;
3. die ethisch-rechtliche Bewertung der vorbeugenden Maßnahmen, um eine verantwortungsvolle und legale Verwendung der erlernten Maßnahmen in realen Krisensituationen sicherzustellen.

In allen drei Schritten ist das IZEW-Teilvorhaben „Ethische Bewertung von Maßnahmen zur Prävention von digitalen Desinformationskampagnen“ maßgeblich beteiligt:

• Der Demonstrator wird durch Expert*inneninterviews vorbereitet und in seiner Entwicklung mit ethischer Expertise begleitet.
• Die Umsetzung der Maßnahmen wird durch ethische Leitlinien und pädagogische Konzepte unterstützt.
• Die ethisch-rechtliche Bewertung wird zusammen mit den Partner*innen der Universität Köln erstellt.

Um dies zu gewährleisten, untersucht das Teilprojekt insbesondere die ethischen Anforderungen an einem vor den Grundsätzen der Medienfreiheit und Staatsferne der Medien gedeckten Umgang von Behörden mit Desinformationskampagnen.

• Pawelec, Maria; Sievi, Luzia (2023): Falschinformationen in den sozialen Medien als Herausforderung für deutsche Sicherheitsbehörden und -organisationen. In: Kriminologie – Das Online-Journal 4(5), S. 316–347.
• Stieglitz, Stefan; Fromm, Jennifer; Kocur, Alexander; Rostalski, Frauke; Duda, Michelle; Evans, Alison; Rieskamp, Jonas; Sievi, Luzia; Pawelec, Maria; Heesen, Jessica; Loh, Wulf; Fuchß, Christopher; Eyilmez, Kaan (2023): What Measures Can Government Institutions in Germany Take Against Digital Disinformation? A Systematic Literature Review and Ethical-Legal Discussion. Konferenzbeitrag, WI23: 18. Internationale Tagung Wirtschaftsinformatik, Paderborn.

Vorträge

• Sievi, Luzia; Pawelec, Maria: Maßnahmen von BOS gegen sicherheitsrelevante Falschinformationen und ihre ethische Bewertung, Vortrag im Graduierten-Netzwerk Zivile Sicherheit, 28. Juni 2023.

• 12. Oktober 2023: Workshop des IZEW in Stuttgart zur ethischen Bewertung von Maßnahmen zur Prävention von Falschinformationen.
• 2. März 2023: Workshhop an der Universität zu Köln zur juristischen Bewertung von Falschinformationen.
• 8.-9. November 2022: Workshop an der Universität Paderborn zur Entwicklung von Maßnahmen zur Prävention von digitalen Desinformationskampagnen.