Whitepaper zur Risikobewertung von Künstlicher Intelligenz
Jessica Heesen gibt gemeinsam mit einem Autorenteam der Plattform Lernende Systeme ein Whitepaper zur Bewertung der Kritikalität von KI-Anwendungen heraus.
Regulierung ist ein wirksames Mittel, um die Qualität und die Vertrauenswürdigkeit eines KI-Systems sicherzustellen. Und Regulierung kann dazu beitragen, KI-Systeme in die Anwendung zu bringen und ihr volles Nutzenpotenzial auszuschöpfen. Das Konzept der Kritikalität liefert hierzu einen grundlegenden Baustein, um die Regulierungsbedürftigkeit von KI-Systemen zu ermitteln. Mit dem aktuellen Whitepaper greifen Expertinnen und Experten der Arbeitsgruppen IT-Sicherheit, Privacy, Recht und Ethik sowie Technologische Wegbereiter und Data Science der Plattform Lernende Systeme die derzeitige Fachdiskussion zur risikobasierten Regulierung auf. Sie kommentieren und ergänzen den Regulierungsvorschlag der EU-Kommission für KI vom 21. April 2020 und identifizieren zwei Hauptaspekte, die bei der Kritikalitätsbewertung von KI-Systemen Beachtung finden sollten: So sei stets zu fragen, ob und wie stark ein KI-System Menschenleben oder Rechtsgüter gefährden kann und wieviel Handlungsspielraum dem Menschen bei der Nutzung der Anwendung bleibt. Entscheidend für die Kritikalität, so das Credo, ist stets der jeweilige Anwendungskontext.