18.11.2021

Whitepaper zur Risikobewertung von Künstlicher Intelligenz

Jessica Heesen gibt gemeinsam mit einem Autorenteam der Plattform Lernende Systeme ein Whitepaper zur Bewertung der Kritikalität von KI-Anwendungen heraus.

Regulierung ist ein wirksames Mittel, um die Qualität und die Vertrauenswürdigkeit eines KI-Systems sicherzustellen. Und Regulierung kann dazu beitragen, KI-Systeme in die Anwendung zu bringen und ihr volles Nutzenpotenzial auszuschöpfen. Das Konzept der Kritikalität liefert hierzu einen grundlegenden Baustein, um die Regulierungsbedürftigkeit von KI-Systemen zu ermitteln.
Mit dem aktuellen Whitepaper greifen Expertinnen und Experten der Arbeitsgruppen IT-Sicherheit, Privacy, Recht und Ethik sowie Technologische Wegbereiter und Data Science der Plattform Lernende Systeme die derzeitige Fachdiskussion zur risikobasierten Regulierung auf. Sie kommentieren und ergänzen den Regulierungsvorschlag der EU-Kommission für KI vom 21. April 2020 und identifizieren zwei Hauptaspekte, die bei der Kritikalitätsbewertung von KI-Systemen Beachtung finden sollten: So sei stets zu fragen, ob und wie stark ein KI-System Menschenleben oder Rechtsgüter gefährden kann und wieviel Handlungsspielraum dem Menschen bei der Nutzung der Anwendung bleibt. Entscheidend für die Kritikalität, so das Credo, ist stets der jeweilige Anwendungskontext.

Das Whitepaper „Kritikalität von KI-Systemen in ihren jeweiligen Anwendungskontexten“ steht auf der Website der PLS zum Download bereit.