24.11.2020

Zertifizierung von KI-Systemen: Jessica Heesen und die Plattform Lernende Systeme veröffentlichen Whitepaper

Die Zertifizierung von KI-Systemen kann dazu beitragen, das Vertrauen in Technologie und Anwendung zu stärken. Nicht jedes KI-System bedarf aber einer Zertifizierung. Daher gilt es, das richtige Maß an Zertifizierung zu wählen, um eine gute Balance zwischen Regulation und Innovationspotenzial zu erhalten.

In einem aktuellen Whitepaper zeigt die Plattform Lernende Systeme, wann und anhand welcher Kriterien KI-Systeme zertifiziert werden sollten und wie eine effektive Prüfinfrastruktur gestaltet werden kann. Das Papier wurde von Mitgliedern aller Arbeitsgruppen der Plattform Lernende Systeme unter Federführung der Arbeitsgruppen IT-Sicherheit, Privacy, Recht und Ethik sowie der Arbeitsgruppe Technologische Wegbereiter und Data Science und weiteren Gastautorinnen und -autoren verfasst. Die Expertinnen und Experten definieren darin einen Kriterienkatalog für die Zertifizierung von KI-Systemen, Umfang und Notwendigkeit einer solchen Zertifizierung sollten sich dabei am Kritikalitätslevel eines KI-Systems orientieren. Das Kritikalitätslevel wird etwa durch die mögliche Gefährdung von Rechtsgütern sowie dem Umfang der Handlungsoptionen von Menschen im jeweiligen Anwendungskontext bestimmt. Die Kriterien sollen als Kompass Orientierung für die vertrauenswürdige Entwicklung und Anwendung von KI-Systemen geben. Zudem benennt das Papier verschiedene Gestaltungsoptionen für die Etablierung einer gelungene Zertifizierung, etwa die Schaffung klarer Rahmenbedingungen auf nationaler und internationaler Ebene. Die Gestaltungsoptionen adressieren dabei verschiedene Akteursgruppen in Politik, Forschung, Unternehmen und Zivilgesellschaft.

Das Whitepaper „Zertifizierung von KI-Systemen – Kompass für die Entwicklung und Anwendung vertrauenswürdiger KI-Systeme“ steht auf der Website der Plattform Lernende Systeme zum Download bereit.