15.11.2021
Sichere KI-Systeme und deren Zertifizierung im Gesundheitsbereich
Carl-Zeiss-Stiftung fördert Forschungsprojekt an der Universität Tübingen mit fünf Millionen Euro.
Moderne Deep-Learning-Systeme im Gesundheitswesen haben das Potenzial, Diagnoseentscheidungen von ähnlicher Qualität wie behandelnde Ärztinnen und Ärzte zu treffen. Allerdings gibt es Bedenken hinsichtlich der Transparenz, Robustheit, Fairness und Verlässlichkeit dieser Systeme. Das Projekt „Certification and Foundations of Safe Machine Learning Systems in Healthcare“ einer Forschungsgruppe an der Universität Tübingen hat zum Ziel, diese Probleme zu beheben. Dabei werden sowohl potenzielle Zielkonflikte verschiedener Aspekte (Fairness, Genauigkeit, Interpretierbarkeit und Datenschutz) als auch deren ethische Implikationen an konkreten Anwendungen im Gesundheitsbereich erforscht. Die Carl-Zeiss-Stiftung fördert das Projekt im Rahmen ihres Programms „Wissenschaftliche Durchbrüche in künstlicher Intelligenz“ nun mit 5 Millionen Euro über 6 Jahre.
„Wir möchten nicht nur die Grundlagen des maschinellen Lernens verbessern, sondern auch Leitlinien für eine Zertifizierung solcher KI-Systeme aufstellen und dadurch einen sicheren Einsatz in der Medizin ermöglichen“, sagt der Sprecher des Projekts, Professor Matthias Hein. „Das KI-Forschungsumfeld in Tübingen bietet dazu ideale Voraussetzungen, da hier die dafür benötigte Expertise in einmaliger Breite in Deutschland vorhanden ist. Wir sind sehr froh und dankbar über das Vertrauen der Carl-Zeiss-Stiftung. Diese Förderung bringt die Forschung an der Schnittstelle von KI und Medizin an der Universität Tübingen strukturell entscheidend voran.“
Projektpartner sind die Abteilungen für Radiologie und Augenheilkunde des Universitätsklinikums Tübingen (UKT). Der TÜV SÜD und das TÜV AI.LAB werden sich als Kooperationspartner bei der Entwicklung von Zertifizierungsprotokollen einbringen. Darüber hinaus unterstützen drei Medizin-Start-ups das Projekt mit Daten und konkreten Anwendungsfällen: die beiden Tübinger Unternehmen AIRAmed und eye2you, beides Mitglieder des Cyber Valley Start-up Networks, sowie die Berliner Firma Vara, die KI-Systeme zur Erkennung von Brustkrebs entwickelt.
Seit der Gründung von Cyber Valley Ende 2016 hat sich die KI-Forschungsregion Stuttgart/Tübingen zu einem dynamischen Ökosystem entwickelt, mit neu eingerichteten Professuren, Forschungsgruppen, Industrieforschungslaboren, Promotionsprogrammen und Deutschlands erstem internationalen Masterstudiengang für maschinelles Lernen – auch dank der Etablierung des BMBF-Kompetenzzentrums für Maschinelles Lernen (Tübingen AI Center) und des Exzellenzclusters „Maschinelles Lernen: Neue Perspektiven für die Wissenschaft“ sowie des starken Engagements des Max-Planck-Institut für Intelligente Systeme (MPI-IS). Folgerichtig engagieren sich Forschende aus all diesen Institutionen im Projekt „Certification and Foundations of Safe Machine Learning Systems in Healthcare“. Hinzu kommen weitere Wissenschaftlerinnen und Wissenschaftler aus dem Institut für Augenheilkunde, dem Zentrum für Quantitative Biologie, dem Fachbereich Informatik, dem UKT sowie aus der Arbeitsgruppe „Ethik und Philosophie in der künstlichen Intelligenz“ des Exzellenzclusters.
Nach einer Pressemitteilung der Universität Tübingen, 11.11.2021
