Maschinelles Lernen - neue Aktivitäten des Ethikzentrums

Das Ethikzentrum hat im zurückliegenden Jahr seine Forschungsaktivitäten zum Themenfeld Künstliche Intelligenz verstärkt und konsolidiert. Zu nennen sind in diesem Zusammenhang insbesondere die erfolgreiche Mitbeantragung des Exzellenzclusters „Machine Learning - New Perspectives for Science“ und das Engagement in der Plattform „Lernende Systeme“ des Bundesministeriums für Bildung und Forschung (BMBF).

Die Plattform Lernende Systeme verfolgt ihrem eigenen Anspruch nach das Ziel, Lernende Systeme bzw. Künstliche Intelligenz (KI) im Sinne der Gesellschaft zu gestalten. „Sie bündelt dazu die vorhandene Expertise und unterstützt den weiteren Weg Deutschlands zu einem international führenden Technologieanbieter. Die rund 200 Mitglieder der Plattform sind in Arbeitsgruppen und einem Lenkungskreis organisiert. Sie zeigen den persönlichen, gesellschaftlichen und wirtschaftlichen Nutzen von Lernenden Systemen auf, benennen aber auch Herausforderungen und Gestaltungsoptionen“. (https://www.plattform-lernende-systeme.de/ueber-die-plattform.html)

2017 wurde Regina Ammicht Quinn in den Lenkungskreis der Plattform berufen und ist dort gemeinsam mit Holger Hanselka (Rektor des Karlsruher Instituts für Technologie) verantwortliche Patin für die Arbeitskreise zu „IT-Sicherheit und Privacy“ und zu „Recht und Ethik“. Zu ihren Aufgaben gehören die Beratung des Ministeriums in ethischen Fragen der Künstlichen Intelligenz und konkret z. B. auch die Auswahl der Mitglieder der Arbeitsgemeinschaft und die Festlegung der Schwerpunktthemen wie „Diskriminierung durch Algorithmen“. Darüber hinaus vertritt sie die Plattform bei öffentlichen Veranstaltungen so wie etwa im November 2018 bei einer Podiumsdiskussion zum Thema KI und Arbeit im Rahmen der Münchener Medientage. Unterstützt wird Regina Ammicht Quinn bei ihren Tätigkeiten von Jessica Heesen. Sie ist Mitglied im Koordinationskreis der Plattform Lernende Systeme. Sie erörtert dort mit den Verantwortlichen des BMBF sowie den im Lenkungskreis vertretenen Wirtschaftsunternehmen und Forschungseinrichtungen Strategien, inhaltliche Ausrichtung und Veranstaltungen der Plattform.

Im Rahmen der Arbeiten für den Exzellenz-Cluster „Machine Learning – New Perspectives for Science“ entsteht ein „Philosophy & Ethics Lab“, das von Regina Ammicht Quinn und Wolfgang Spohn (Senior Professor frür Philosophie und Wissenschaftstheorie) geleitet wird. Hier werden Thilo Hagendorff und Thomas Grote mit unterschiedlichen Schwerpunkten arbeiten. Erstens soll die gesamte natur- und technikwissenschaftliche Forschung zu KI durch technik- und wissenschaftsethische Überlegungen flankiert werden. Hier geht es nicht nur darum, Forschungsziele zu analysieren und spezielle und übergeordnete Risiken der Forschungsarbeit zu identifizieren, sondern auch darum, beispielsweise neue Konzepte rund um das Prinzip der informierten Einwilligung zu entwickeln, welche den neuen KI-basierten Forschungspraktiken angepasst sind. Zweitens werden generelle Analysen zu einer Ethik des maschinellen Lernens vorgenommen werden. Hier stehen Themenbereiche wie die Verwendung von KI für gemeinwohl-orientierte Zwecke, Fairness und Diskriminierungsfreiheit bei der Verwendung von Algorithmen oder auch die Setzung von Werten durch Technologien im Vordergrund. Das maschinelle Lernen ist, anders als es möglicherweise mitunter den Anschein erwecken mag, kein Prozess, welcher schlicht von alleine und rein mathematischen Regeln folgend läuft. An diversen Stellen interveniert der Mensch, etwa wenn es darum geht, zwischen verschiedenen Trainingsdatensätzen zu entscheiden, Daten mit Labeln zu versehen, Datensätze vorzubearbeiten, Schwellenwerte zu definieren, Modelle zu wählen, Outputs zu interpretieren und so weiter. An allen diesen Stellen kann und wird sich das Ethikprojekt einbringen und als Reflexionshilfe für die Forschungs- und Entwicklungsprozesse in den technischen Communities fungieren.

Thilo Hagendorff, Jessica Heesen und Andreas Baur