Teilvorhaben:

Bedingungen für eine Operationalisierung ethischer Anforderungen an vertrauenswürdige KI in polizeilichen Anwendungen

Der Einsatz von auf Künstlicher Intelligenz – insbesondere unter Zuhilfenahme von Methoden des Machine Learning – basierenden Softwarelösungen im Bereich polizeilicher Anwendungen steht in Verbindung mit einer großen Bandbreite ethischer Fragestellungen. Zu differenzieren ist hier zum einen die Notwendigkeit einer ethischen Reflexion der Definitionen und des Verhältnisses von Vertrauen, Nachvollziehbarkeit, Transparenz und Fairness im Zusammenhang mit KI-Technologien. Zum anderen liegt ein Fokus auf Fragen der Operationalisierbarkeit ethischer Anforderungen mit Blick auf den konkreten Anwendungskontext.

Im vorliegenden Teilprojekt „Bedingungen für eine Operationalisierung ethischer Anforderungen an vertrauenswürdige KI in polizeilichen Anwendungen“ wird eine Risikomatrix sowie ein Katalog für ethische Anforderungen an KI-Verfahren entwickelt. Dieser operationalisiert die zugrundeliegenden Prinzipien vertrauenswürdiger KI im Licht der neuen EU-Vorgaben (EU Draft AI Act), sowie weiterer Operationalisierungsinitiativen (KI-Normierungs-Roadmap, AIEIG Report, IEEE P7000 Series etc.). Die Handreichung wird zwischen unterschiedlichen Adressat:innenkreisen differenzieren, indem sie Anforderungen beispielsweise spezifisch für Anbieter:innen und Anwender:innen ausdefiniert.