24.01.2022

Das IZEW entwickelt mit Partnern Qualitätsstandards für KI-Trainingsdaten

Trainingsdaten zur Entwicklung von KI-Anwendungen erfüllen bislang keine einheitlichen Vorgaben. Das BMAS-Forschungsprojekt KITQAR schafft ein Framework für Datenqualität, das technische, rechtliche, ethische und soziale Aspekte abdeckt. Ziel ist die Erarbeitung einer Grundlage für die europäische Standardisierung.

Das von der Denkfabrik Digitale Arbeitsgesellschaft im Bundesministerium für Arbeit und Soziales (BMAS) geförderte Projekt soll die Frage beantworten, welchen normativen Standards KI-Test-, Validierungs- und Trainingsdaten genügen müssen, um in der Praxis diskriminierungsfrei und datenschutzkonform eingesetzt zu werden. Dabei geht es um die Herkunft der Daten, Transparenz, Haftung und Zugang, wie auch um den Stellenwert von Mit- und Selbstbestimmung im betrieblichen Verwendungskontext KI-gesteuerter Systeme.

Um anwendungsbezogen zu arbeiten, werden sowohl Datensätze aus der Praxis als auch synthetische Daten als Basis verwendet. Das entwickelte Framework soll verschiedene Aspekte von Datenqualität mess- und prüfbar machen. Ein teilautomatisiertes Testkit soll Anwender*innen künftig die Bewertung der Datenqualität erleichtern.

Um Expertise aus allen relevanten Bereichen einzubinden, ist das Projektkonsortium interdisziplinär breit aufgestellt und involviert Stakeholder aus Wirtschaft und Wissenschaft, Zivilgesellschaft, Gewerkschaften und Regulierung. Das Projekt verfolgt das Ziel, die Grundlage für Normen und Standards auf internationaler Ebene zu liefern.

KITQAR
Das Forschungsprojekt KITQAR wird von der Denkfabrik Digitale Arbeitsgesellschaft im Bundesministerium für Arbeit und Soziales (BMAS) gefördert. Der VDE ist Konsortialführer des Projekts. Weitere Partner neben dem IZEW sind die Europa-Universität Viadrina in Frankfurt/Oder und das Hasso-Plattner-Institut der Universität Potsdam. Start des auf 20 Monate angelegten Projekts war im Dezember 2021.

Das IZEW-Team für KITQAR sind:
Dr. Simon Hirsbrunner/Dr. Lea Watzinger
PD Dr. Jessica Heesen/Dr. Wulf Loh (Leitung)