Wie viele Branchen erfährt das Personalwesen eine zunehmende Automatisierung und Algorithmisierung. KI-gestützte Technologien werden vermehrt für Aufgaben wie die Kontaktaufnahme mit Bewerber:innen, das Filtern von Lebensläufen oder die Durchführung von Bewerbungsgesprächen erforscht und angewandt. Gleichzeitig erschwert der Fachkräftemangel auch im Land Baden-Württemberg zunehmend die Besetzung von Stellen in Bereichen wie Maschinenbau oder Mechatronik. In FAIR, gefördert vom Programm Invest BW des Ministeriums für Wirtschaft, Arbeit und Tourismus, soll ein faires, diversitätssensibles und transparentes KI-System entwickelt werden, um hochqualifizierte Fachkräfte speziell für Unternehmen in Baden-Württemberg zu gewinnen.

Eine zentrale Behauptung der Anbieter von KI-Technologien ist, dass sie im Gegensatz zu menschlichen Akteuren unvoreingenommen sind. Doch angesichts der Tatsache, dass KI-Systeme auf menschlichen Inputs und Daten aus komplexen sozialen Kontexten basieren, können sie gesellschaftliche Vorurteile auch reproduzieren und automatisieren. Beim Einsatz im Personalwesen können sie vulnerable Gruppen wie ethnische Minderheiten, Frauen oder Personen mit Behinderung benachteiligen. Zudem sind die zugrundeliegenden algorithmischen Entscheidungen oft intransparent und können von Anwender:innen und Betroffenen kaum nachvollzogen werden.

Die Arbeit des IZEW spielt daher eine Schlüsselrolle in FAIR. Über technische Anforderungen an algorithmische Fairness, Erklärbarkeit und Diversität hinaus beansprucht die Entwicklung eines möglichst diskriminierungsfreien und transparenten Systems eine kontinuierliche Auseinandersetzung mit ethischen Normen. Das IZEW begleitet die Projektentwicklung und sichert den Einbezug ethischer Aspekte im Kontext von Recruiting und Personalauswahl. Gemeinsam mit der Hochschule Reutlingen analysiert das Ethikzentrum die individuelle und gesellschaftliche Akzeptanz der KI-Software und erarbeitet Kriterien für einen ethisch akzeptablen Einsatz. In enger Zusammenarbeit mit dem Verbund werden ethisch informierte Anforderungsspezifikationen und Trainingsmaterialien für Anwender:innen entwickelt. Die Forschung zu den ethischen Fragen des Projekts haben das Potenzial, ethische Standards für zukünftige Studien und Produkte im KI-gestützten Recruiting zu setzen.