Wie sollten Sicherheitsbehörden mit Falschinformationen in den sozialen Medien umgehen?

Wie sollten Behörden und Organisationen mit Sicherheitsaufgaben (BOS) – falls überhaupt – gegen Falschinformationen in den sozialen Medien vorgehen? Das untersuchte das IZEW im Projekt PREVENT aus ethischer und demokratietheoretischer Perspektive.

Falschinformationen in den sozialen Medien stellen BOS vor große Herausforderungen, da sie die Sicherheit Einzelner und von Gruppen, aber auch die Stabilität staatlicher Institutionen bedrohen können. Gerade in Einsatzlagen und Krisen können Falschinformationen die Arbeit der Einsatzkräfte (Polizei, Feuerwehr und Hilfsorganisationen) behindern und Ressourcen binden, die eigentlich für die konkrete Lagebewältigung benötigt werden. Im schlimmsten Fall gefährden sie Einzelpersonen oder Gruppen direkt – etwa, wenn falsche Gerüchte kursieren, dass an bestimmten Orten eine Gefahr bestünde, und Menschen sich daraufhin bei der Flucht von diesen Orten verletzen. Bewusst gestreute Desinformation wird zudem häufig genutzt, um Gesellschaften zu polarisieren und zu spalten und die Legitimität demokratischer Prozesse und Institutionen (darunter von BOS selbst) in Frage zu stellen. 

BOS müssen somit zu einem gewissen Grad auf Falschinformationen in den sozialen Medien reagieren, um die Sicherheit und einen funktionierenden demokratischen Meinungs- und Willensbildungsprozess sicherzustellen sowie staatliche Institutionen zu schützen. Dabei stehen sie jedoch vor einem Dilemma, denn sie dürfen gleichzeitig nicht unverhältnismäßig in die Meinungsfreiheit und die öffentliche Deliberation und Willensbildung eingreifen. Es bestehen unauflösbare Wertkonflikte, u.a. zwischen Sicherheit und Meinungsfreiheit, dem Schutz Betroffener und ihrer Autonomie, und bei bestimmten möglichen Gegenmaßnahmen zwischen der Privatsphäre Betroffener und der Transparenz des Behördenhandels. Wie sollten BOS vor diesem Hintergrund auf bestimmte Falschinformationen in den sozialen Medien reagieren?

Das untersuchte das Forschungsprojekt PREVENT, das 2022-2025 vom Bundesministerium für Bildung und Forschung gefördert wurde. Dabei kooperierte das IZEW mit dem Lehrstuhl für Wirtschaftsinformatik und Digitale Transformation der Universität Potsdam, dem Lehrstuhl für Wirtschaftsinformatik der Universität Bamberg, dem Lehrstuhl für Strafrecht, Strafprozessrecht, Rechtsphilosophie und Rechtsvergleichung der Universität zu Köln und der Virtimo AG.

Das IZEW erforschte, welche Erfahrungen verschiedene deutsche BOS bisher mit Falschinformationen in den sozialen Medien gemacht haben und vor welchen Herausforderungen sie dabei standen. Dabei erhob das IZEW im Rahmen von elf Interviews und sechs Workshops mit BOS-Mitarbeitenden deren konkrete Erfahrungen und Einschätzungen. Es zeigte sich, dass viele BOS bisher wenig mit Falschinformationen konfrontiert wurden. Insbesondere BOS auf Bundesebene sowie in Großstädten hatten jedoch schon mit verschiedenen Falschinformationen zu tun, darunter Gerüchten und Spekulationen (also Misinformation) in konkreten Einsatzlagen, aber auch mit ideologisch motivierter Desinformation, etwa im Rahmen der Covid-19-Pandemie (vgl. Pawelec/Sievi 2023).

Bislang gibt es nur wenig Forschung dazu, wie BOS mit Falschinformationen umgehen und welche Maßnahmen sie dabei überhaupt anwenden können und sollen – obgleich Falschinformationen in den sozialen Medien Gegenstand zahlreicher Untersuchungen (und einer hitzigen politischen Debatte) sind und BOS mitunter eine entscheidende Rolle bei ihrer Bekämpfung spielen können. Daher sammelte und systematisierte PREVENT verschiedene mögliche Gegenmaßnahmen und unterzog sie einer rechtlichen, ethischen und demokratietheoretischen Analyse. 

Das IZEW untersuchte, welche Werte von verschiedenen Maßnahmen betroffen sind und wie BOS auftretende Wertkonflikte ethisch abwägen können (vgl. Sievi/Pawelec 2025). Die rechtlichen und ethischen Einschätzungen einzelner Maßnahmen sowie Grundlageninformationen zu Falschinformationen werden BOS auch im Rahmen einer Handreichung zur Verfügung gestellt. PREVENT stärkt BOS somit auch praktisch und trägt zu ihrem ethisch und demokratietheoretisch reflektierten Umgang mit Falschinformationen bei.

Verfasst von: Maria Pawelec