Fachbereich Informatik

Dateneffizientes Deep Learning

Daten sind unerlässlich, um eine gute Verallgemeinerung von Deep Learning (DL)-Modellen zu erreichen. Viele Einschränkungen im Datenerfassungsprozess führen jedoch häufig dazu, dass keine ausreichende Menge an Trainingsdaten vorhanden ist, um eine zufriedenstellende Leistung zu ermöglichen. Die Generierung synthetischer Daten mit tiefen generativen Modellen, wie Generative Adversarial Networks oder Diffusion Models, hat ein großes Potenzial für dateneffizientes Deep Learning. Im Bosch IoC Lab wollen wir Methoden untersuchen, die es ermöglichen, Datenpunkte zu synthetisieren, die von echten Daten kaum zu unterscheiden sind. Dies kann dazu beitragen, die Notwendigkeit, neue Daten zu sammeln, erheblich zu reduzieren und die Leistung von Deep-Learning-Modellen zu verbessern, die sowohl mit echten als auch mit synthetischen Daten trainiert wurden. Dateneffiziente Methoden für Deep Learning haben ein enormes Kosteneinsparungspotenzial und können auch dazu beitragen, Algorithmen sicherer und robuster zu machen, um mit sicherheitskritischen Situationen umzugehen, z. Weltdaten sind knapp.


TEAM

Dr. Anna Khoreva

Forschungsgruppenleiterin
Bosch Center for Artificial Intelligence

Forschungsschwerpunkte:
Dateneffizientes Deep Learning mit besonderem Fokus auf generative Modelle, Bild- und Videosynthese, few-shot learning, nicht und wenig überwachtes Lernen

anna.khorevaspam prevention@de.bosch.com

Nikita Kister

PhD Student

Forschungsschwerpunkte:
Generative Models, Virtual Humans, Human-Scene Interaction

Co-betreut mit Prof. Gerard Pons-Moll

nikita.kisterspam prevention@uni-tuebingen.de

 Nikita Kister

 

Massimo Bini

PhD Student

Forschungsschwerpunkte:
Generative Models, Compositionality

massimo.binispam prevention@uni-tuebingen.de

Massimo Bini


PROJEKTE

Realistic Synthesis of Humans in Complex and Crowded Scenes / Nikita Kister

 

Jüngste Fortschritte bei tiefgreifenden generativen Modellen haben zu einem beispiellosen Grad an Realismus bei der Synthese menschlicher Gesichter und menschlicher Avatare, der Ruhesetzung von Menschen oder dem Austausch ihrer Identität und ihres Aussehens geführt. Allerdings wurde der Synthese von Ganzkörpermenschen in ihrer realistischen Umgebung, umgeben von verschiedenen Objekten, der Interaktion mit anderen Menschen und der Durchführung verschiedener Aufgaben, wenig Aufmerksamkeit geschenkt. Das Ziel dieses Projekts ist es, diese Einschränkung anzugehen und zu untersuchen, wie reale Szenen mit synthetischen Menschen erweitert werden können. Insbesondere wollen wir untersuchen, wie realistische Menschen in komplexen und überfüllten Szenen basierend auf ihren 3D-Körperformen und -posen mit tiefen generativen Modellen, 3D-Modellierung und neuronalen Rendering-Techniken synthetisiert werden können.

In Kooperation mit Prof. Gerard Pons-Moll

Real Virtual Humans

Compositional Data Synthesis / Massimo Bini

 

Die menschliche Kognition ist extrem gut darin, verallgemeinerbare Merkmale aus limitierten Beispielen zu extrahieren. Aktuelle Modelle des maschinellen Lernens haben jedoch immer noch Probleme mit der Verallgemeinerung und scheitern oft an Daten, die nicht trainiert wurden. In dieser Hinsicht würde die Fähigkeit, neue Daten zu synthetisieren, es den Modellen ermöglichen, robuster zu sein und zusätzliche Trainingsdaten zu liefern, die schwer oder teuer zu sammeln wären.

Ein zentrales Element der menschlichen Generalisierungsfähigkeit ist die Fähigkeit, komplexe Darstellungen durch die Kombination einzelner Konzepte zu erlernen. Eine kompositorische Herangehensweise an die Datengenerierung könnte der Schlüssel sein, um auf automatisierte Weise Ergebnisse auf menschlichem Niveau zu erzielen.

In Kooperation mit Prof. Zeynep Akata
Explainable Machine Learning Tübingen (EML)