Data Science und Maschinelles Lernen

Forschungsschwerpunkte

Neue skalierbare Näherungsmethoden für Bayesianische Inferenz eröffnen neue Forschungsbereiche für maschinelles Lernen.

Viele neue Errungenschaften des maschinellen Lernens sind nur durch erheblichen Einsatz von teuren Ressourcen möglich: Modelle mit Milliarden von Parametern müssen mithilfe von teurer Hardware auf enormen Datensätzen trainiert werden. Aufgrund des Bedarfs an teuren Ressourcen lohnt sich der Einsatz dieser Methoden derzeit in vielen Anwendungen nicht. Um breiteren Nutzen aus maschinellem Lernen zu gewinnen, dürfen wir uns deshalb nicht auf die Entwicklung immer größerer und komplexerer Modelle beschränken. Neben Modellen müssen wir auch neue Algorithmen und Näherungsmethoden als ebenso wichtige Werkzeuge im Repertoire von Machine Learning Wissenschaftlerinnen und Wissenschaftlern betrachten.

Eine vielversprechende Klasse von ressourcenschonenden Algorithmen für maschinelles Lernen sind sogenannte skalierbare Näherungsmethoden für Bayesianische Inferenz – in der Literatur als “scalable approximate Bayesian inference” bezeichnet. Diese Algorithmen beruhen auf dem theoretischen Fundament der Statistik, und sie erweitern dieses mit aus den Naturwissenschaften inspirierten Näherungsmethoden. Robert Bamlers Forschungsgruppe beschäftigt sich damit, solche skalierbare Näherungsmethoden für Bayesianische Inferenz zu verbessern. Ein besonderer Schwerpunkt liegt dabei auf sogenannten variationellen Methoden. Die Gruppe betreibt Grundlagenforschung, die sich an den Bedürfnissen konkreter Anwendungen orientiert. Dabei geht es vor allem um neuartige Anwendungen, die mit bisherigen Methoden des maschinellen Lernens gar nicht oder nur schlecht denkbar gewesen wären: Neue Werkzeuge für die Naturwissenschaften, hocheffiziente Methoden zur Datenkompression, sowie Grundlagenforschung für eine neuartige Form von gleichberechtigtem maschinellem Lernen in dezentralen Netzwerken wie etwa Blockchains.