Auf der Suche nach erklärbarem und interpretierbarem Maschinellen Lernen mit Philosophie und Physik

Zwei DFG-Exzellenzcluster aus Stuttgart und Tübingen verbinden Philosophie und Physik in einem gemeinsamen Projekt zum maschinellen Lernen: Die Heidelberger Akademie der Wissenschaften fördert in ihrer neunten Staffel des wissenschaftlichen Nachwuchsprogramms „WIN-Kolleg“ drei neue Projekte. Eines davon ist das Projekt „Komplexitätsreduktion, Erklärbarkeit und Interpretierbarkeit (KEI)“, das Eric Raidl gemeinsam mit Miriam Klopotek eingeworben. Eric Raidl ist Fellow in unserer Arbeitsgruppe “Ethik und Philosophie der künstlichen Intelligenz” und Miriam Klopotek Nachwuchsgruppenleiterin am Exzellenzcluster SimTech in Stuttgart. 

Die Heidelberger Akademie (HAdW) hat mit Unterstützung des Landes Baden-Württemberg eine bundesweit einmalige Initiative entfaltet, die landesweit den besten Jungforschenden eine Möglichkeit der Förderung bietet: das WIN-Kolleg. Seit dem Jahr 2002 finanziert die Akademie jungen Wissenschaftlerinnen und Wissenschaftlern interdisziplinär ausgerichtete Projekte, eröffnet dadurch einen besonderen Freiraum für Forschungen und ermöglicht den Austausch mit Akademiemitgliedern. Das WIN-Kolleg geht in seiner neunten Staffel der Frage nach, ob, wie und warum die Reduktion komplexer Sachverhalte für die wissenschaftliche Erkenntnis notwendig ist und welche Konsequenzen diese Reduktion der Komplexität für das Verhältnis von Wissenschaft und Gesellschaft hat.

Das von Raidl und Klopotek nun geförderte Projekt betrachtet diese Fragen aus dem Blickwinkel des maschinellen Lernens und begibt sich auf die Suche nach erklärbarem und interpretierbarem maschinellem Lernen mithilfe der Philosophie und Physik. Das Projekt startete im April 2024 und hat eine Laufzeit von drei Jahren.

Algorithmen des Maschinellen Lernens (ML) durchdringen zunehmend unseren Alltag und das öffentliche Leben. Sie treffen Vorhersagen, aber warum sie so und nicht anders entscheiden, bleibt oft schwer nachvollziehbar, sie sind gewissermaßen „opak“. In unserem Projekt wollen wir verstehen, wie diese Opakheit entsteht und wie man sie rückwirkend aufheben könnte. Dafür wollen wir anhand von Einsichten der Physik und anderer Theorien der Komplexität die Natur der (impliziten) Abstraktionen interpretieren, die ML an sich erzeugt. Unsere Arbeitshypothese ist, dass die Komplexität des ML und die Schwierigkeit, gewisse Komponenten des Lernprozesses zu verstehen, gemeinsam das Problem der Opakheit hervorbringen. In diesem Sinne fordert eine Lösung nicht einfach „mehr Verständnis”, oder „weniger Komplexität”, sondern eine sinngebende Komplexitätsreduktion. Damit meinen wir adäquate Abstraktionen und nicht triviale Vereinfachungen, die einen wohl fundierten Verständniszugang gewährleisten. In unserem Projekt werden wir Werkzeuge entwickeln, um die Komplexität der ML-Algorithmen auf neue Weise zu analysieren und sinngebende Reduktionen aus der Perspektive der Vielteilchenphysik und der Philosophie aufzufinden.
 

 Project description: www.hadw-bw.de/junge-akademie/win-kolleg/komplexitaetsreduktion/KEI

HAdW WIN-Kolleg: www.hadw-bw.de/junge-akademie/win-kolleg