Internationales Zentrum für Ethik in den Wissenschaften (IZEW)
Risikomatrix VIKING
In einem Arbeitspapier befassen wir uns eingehend mit den Herausforderungen bei der Auswahl und Operationalisierung ethischer Grundsätze im Zusammenhang mit der Risikobewertung von KI und schlagen eine konkrete Lösung in Form einer Risikomatrix vor, die im Rahmen des Projekts „Trustworthy Artificial Intelligence for Police Applications” (VIKING) entwickelt wurde. Basierend auf unseren ersten Analysen und den Projektanforderungen haben wir uns für einen dynamischen und iterativen Ansatz zur ethischen Bewertung entschieden, der vom capAI-Ansatz (Floridi et al. 2022) inspiriert ist und die Konformität mit dem Europäischen Gesetz über Künstliche Intelligenz (AI Act) bewertet. Auf der Grundlage einer umfassenden Analyse bestehender ethischer Rahmenwerke schlagen wir zunächst ein Rahmenwerk für die Anwendung ethischer Grundsätze auf den Prozess der Entwicklung und Implementierung von KI-Systemen im Kontext polizeilicher Ermittlungen vor (Risikomatrix), das Anwendungen nach den von ihnen ausgehenden Risiken klassifiziert. Anschließend wird die Risikomatrix durch ihre Anwendung auf konkrete Anwendungsfälle und in enger Zusammenarbeit mit verschiedenen Interessengruppen innerhalb des VIKING-Projekts verfeinert.
Elemente, die die Fähigkeiten des betreffenden Systems darstellen, werden entsprechend der Intensität des potenziellen Schadens und der Abhängigkeit der betroffenen Personen in der Matrix platziert. Die Dimension des potenziellen Schadens, die durch die Platzierung der Elemente entlang der x-Achse angegeben wird, stellt das Risiko als eine Kombination aus der Wahrscheinlichkeit und dem Ausmaß des potenziellen Schadens dar. Die Platzierung des Elements auf der y-Achse berücksichtigt die Abhängigkeit der Interessengruppen von den Entscheidungen oder Ergebnissen des Systems.
Bei Bedarf sollten die Tabellen und Visualisierungen durch ausführlichere Beschreibungen der bewerteten Risiken, potenzieller Schwierigkeiten bei der Ermittlung relevanter Aspekte und anderer Details ergänzt werden, die sich auf die Gesamtbewertung auswirken oder für künftige Überarbeitungen der Matrix nützlich sein könnten.
Die Risikobewertung sollte in der Evaluierungsphase und möglicherweise auch in späteren Phasen wiederholt werden, um Änderungen am System oder (unerwartete) Änderungen der Umstände, unter denen es verwendet wird, zu berücksichtigen.
