attempto online
11.11.2021
Sichere KI-Systeme und deren Zertifizierung im Gesundheitsbereich
Carl-Zeiss-Stiftung fördert Forschungsprojekt an der Universität Tübingen mit fünf Millionen Euro
Moderne Deep-Learning-Systeme im Gesundheitswesen haben das Potenzial, Diagnoseentscheidungen von ähnlicher Qualität wie behandelnde Ärztinnen und Ärzte zu treffen. Allerdings gibt es Bedenken hinsichtlich der Transparenz, Robustheit, Fairness und Verlässlichkeit dieser Systeme. Das Projekt „Certification and Foundations of Safe Machine Learning Systems in Healthcare“ einer Forschungsgruppe an der Universität Tübingen hat zum Ziel, diese Probleme zu beheben. Dabei werden sowohl potenzielle Zielkonflikte verschiedener Aspekte (Fairness, Genauigkeit, Interpretierbarkeit und Datenschutz) als auch deren ethische Implikationen an konkreten Anwendungen im Gesundheitsbereich erforscht. Die Carl-Zeiss-Stiftung fördert das Projekt im Rahmen ihres Programms „Wissenschaftliche Durchbrüche in künstlicher Intelligenz“ nun mit fünf Millionen Euro über sechs Jahre.
„Wir möchten nicht nur die Grundlagen des maschinellen Lernens verbessern, sondern auch Leitlinien für eine Zertifizierung solcher KI-Systeme aufstellen und dadurch einen sicheren Einsatz in der Medizin ermöglichen“, sagt der Sprecher des Projekts, Professor Matthias Hein. „Das KI-Forschungsumfeld in Tübingen bietet dazu ideale Voraussetzungen, da hier die dafür benötigte Expertise in einmaliger Breite in Deutschland vorhanden ist. Wir sind sehr froh und dankbar über das Vertrauen der Carl-Zeiss-Stiftung. Diese Förderung bringt die Forschung an der Schnittstelle von KI und Medizin an der Universität Tübingen strukturell entscheidend voran.“
Projektpartner sind die Abteilungen für Radiologie und Augenheilkunde des Universitätsklinikums Tübingen (UKT). Der TÜV SÜD und das TÜV AI.LAB werden sich als Kooperationspartner bei der Entwicklung von Zertifizierungsprotokollen einbringen. Darüber hinaus unterstützen drei Medizin-Start-ups das Projekt mit Daten und konkreten Anwendungsfällen: die beiden Tübinger Unternehmen AIRAmed und eye2you, beides Mitglieder des Cyber Valley Start-up Networks, sowie die Berliner Firma Vara, die KI-Systeme zur Erkennung von Brustkrebs entwickelt.
Seit der Gründung von Cyber Valley Ende 2016 hat sich die KI-Forschungsregion Stuttgart/Tübingen zu einem dynamischen Ökosystem entwickelt, mit neu eingerichteten Professuren, Forschungsgruppen, Industrieforschungslaboren, Promotionsprogrammen und Deutschlands erstem internationalen Masterstudiengang für maschinelles Lernen – auch dank der Etablierung des BMBF-Kompetenzzentrums für Maschinelles Lernen (Tübingen AI Center) und des Exzellenzclusters „Maschinelles Lernen: Neue Perspektiven für die Wissenschaft“ sowie des starken Engagements des Max-Planck-Institut für Intelligente Systeme (MPI-IS). Folgerichtig engagieren sich Forschende aus all diesen Institutionen im Projekt „Certification and Foundations of Safe Machine Learning Systems in Healthcare“. Hinzu kommen weitere Wissenschaftlerinnen und Wissenschaftler aus dem Institut für Augenheilkunde, dem Zentrum für Quantitative Biologie, dem Fachbereich Informatik, dem UKT sowie aus der Arbeitsgruppe „Ethik und Philosophie in der künstlichen Intelligenz“ des Exzellenzclusters.
Über Cyber Valley:
Cyber Valley ist Europas größtes Forschungskonsortium im Bereich der künstlichen Intelligenz mit Partnern aus Wissenschaft und Industrie. Das Land Baden-Württemberg, die Max-Planck-Gesellschaft mit dem Max-Planck-Institut für Intelligente Systeme, die Universitäten Stuttgart und Tübingen sowie Amazon, BMW AG, Daimler AG, IAV GmbH, Dr. Ing. h.c. F. Porsche AG, Robert Bosch GmbH und ZF Friedrichshafen AG sind die Gründungspartner dieser Initiative. Seit 2019 ist zudem die Fraunhofer-Gesellschaft Cyber Valley Partner. Unterstützt wird Cyber Valley zudem von der Christian Bürkert Stiftung, der Gips-Schüle-Stiftung, der Vector Stiftung und der Carl-Zeiss-Stiftung.
Über die Carl-Zeiss-Stiftung:
Die Carl-Zeiss-Stiftung hat sich zum Ziel gesetzt, Freiräume für wissenschaftliche Durchbrüche zu schaffen. Als Partner exzellenter Wissenschaft unterstützt sie sowohl Grundlagenforschung als auch anwendungsorientierte Forschung und Lehre in den MINT-Fachbereichen (Mathematik, Informatik, Naturwissenschaften und Technik). 1889 von dem Physiker und Mathematiker Ernst Abbe gegründet, ist die Carl-Zeiss-Stiftung eine der ältesten und größten privaten wissenschaftsfördernden Stiftungen in Deutschland. Sie ist alleinige Eigentümerin der Carl Zeiss AG und SCHOTT AG. Ihre Projekte werden aus den Dividendenausschüttungen der beiden Stiftungsunternehmen finanziert.
Wissenschaftlicher Kontakt:
Prof. Dr. Matthias Hein
Sprecher des Projekts „Certification and Foundations of Safe Machine Learning Systems in Healthcare“
+49 7071 29 70831
matthias.hein@uni-tuebingen.de
Pressekontakt:
Lennart Schmid
Pressereferent Cyber Valley
+49 7071 601 1544
lennart.schmid@cyber-valley.de