Dateneffizientes Deep Learning
Daten sind unerlässlich, um eine gute Verallgemeinerung von Deep Learning (DL)-Modellen zu erreichen. Viele Einschränkungen im Datenerfassungsprozess führen jedoch häufig dazu, dass keine ausreichende Menge an Trainingsdaten vorhanden ist, um eine zufriedenstellende Leistung zu ermöglichen. Die Generierung synthetischer Daten mit tiefen generativen Modellen, wie Generative Adversarial Networks oder Diffusion Models, hat ein großes Potenzial für dateneffizientes Deep Learning. Im Bosch IoC Lab wollen wir Methoden untersuchen, die es ermöglichen, Datenpunkte zu synthetisieren, die von echten Daten kaum zu unterscheiden sind. Dies kann dazu beitragen, die Notwendigkeit, neue Daten zu sammeln, erheblich zu reduzieren und die Leistung von Deep-Learning-Modellen zu verbessern, die sowohl mit echten als auch mit synthetischen Daten trainiert wurden. Dateneffiziente Methoden für Deep Learning haben ein enormes Kosteneinsparungspotenzial und können auch dazu beitragen, Algorithmen sicherer und robuster zu machen, um mit sicherheitskritischen Situationen umzugehen, z. Weltdaten sind knapp.
TEAM
Dr. Anna Khoreva
Forschungsgruppenleiterin
Bosch Center for Artificial Intelligence
Forschungsschwerpunkte:
Dateneffizientes Deep Learning mit besonderem Fokus auf generative Modelle, Bild- und Videosynthese, few-shot learning, nicht und wenig überwachtes Lernen
anna.khoreva @de.bosch.com
Nikita Kister
PhD Student
Forschungsschwerpunkte:
Generative Models, Virtual Humans, Human-Scene Interaction
Co-betreut mit Prof. Gerard Pons-Moll
nikita.kister @uni-tuebingen.de
Massimo Bini
PhD Student
Forschungsschwerpunkte:
Generative Models, Compositionality
massimo.bini @uni-tuebingen.de
PROJEKTE
Realistic Synthesis of Humans in Complex and Crowded Scenes / Nikita Kister
Jüngste Fortschritte bei tiefgreifenden generativen Modellen haben zu einem beispiellosen Grad an Realismus bei der Synthese menschlicher Gesichter und menschlicher Avatare, der Ruhesetzung von Menschen oder dem Austausch ihrer Identität und ihres Aussehens geführt. Allerdings wurde der Synthese von Ganzkörpermenschen in ihrer realistischen Umgebung, umgeben von verschiedenen Objekten, der Interaktion mit anderen Menschen und der Durchführung verschiedener Aufgaben, wenig Aufmerksamkeit geschenkt. Das Ziel dieses Projekts ist es, diese Einschränkung anzugehen und zu untersuchen, wie reale Szenen mit synthetischen Menschen erweitert werden können. Insbesondere wollen wir untersuchen, wie realistische Menschen in komplexen und überfüllten Szenen basierend auf ihren 3D-Körperformen und -posen mit tiefen generativen Modellen, 3D-Modellierung und neuronalen Rendering-Techniken synthetisiert werden können.
In Kooperation mit Prof. Gerard Pons-Moll
Compositional Data Synthesis / Massimo Bini
Die menschliche Kognition ist extrem gut darin, verallgemeinerbare Merkmale aus limitierten Beispielen zu extrahieren. Aktuelle Modelle des maschinellen Lernens haben jedoch immer noch Probleme mit der Verallgemeinerung und scheitern oft an Daten, die nicht trainiert wurden. In dieser Hinsicht würde die Fähigkeit, neue Daten zu synthetisieren, es den Modellen ermöglichen, robuster zu sein und zusätzliche Trainingsdaten zu liefern, die schwer oder teuer zu sammeln wären.
Ein zentrales Element der menschlichen Generalisierungsfähigkeit ist die Fähigkeit, komplexe Darstellungen durch die Kombination einzelner Konzepte zu erlernen. Eine kompositorische Herangehensweise an die Datengenerierung könnte der Schlüssel sein, um auf automatisierte Weise Ergebnisse auf menschlichem Niveau zu erzielen.
In Kooperation mit Prof. Zeynep Akata
Explainable Machine Learning Tübingen (EML)