Project PANAMA — Probabilistic Automated Numerical Algorithms for Machine Learning and Artificial Intelligence

Das Projekt PANAMA, das vom Europäischen Forschungsrat großzügig finanziert wird (Starting Grant 757275), ist ein Hauptforschungsschwerpunkt unserer Forschungsgruppe.

Eine Lernende Maschine ist ein Computerprogramm, das eine Klasse von Hypothesen auf Daten anpasst und verfeinert. Was während dieses Prozesses auf dem Computer geschieht, ist die Lösung verschiedener numerischer Probleme: Die Suche nach dem niedrigsten Wert auf einer hochdimensionalen Fläche (Optimierung), um "beste Anpassungen" zu finden; die Berechnung des Volumens unter einer solchen Fläche (Integration), um Unsicherheit und Vertrauen zu bewerten; oder die Simulation dynamischer Beschreibungen der Welt, um vorherzusagen, wie die Umgebung des lernenden Agenten in naher Zukunft aussehen könnte, und ihm zu ermöglichen, auf diese erwarteten Veränderungen zu reagieren. Die angewandte Mathematik hat seit Jahrzehnten algorithmische Werkzeuge für diese Aufgaben entwickelt. Moderne KI, maschinelles Lernen, weist jedoch bestimmte Merkmale auf, die mit den Annahmen, die diesen klassischen Methoden zugrunde liegen, brechen und sie unzuverlässig und ineffizient machen, oder langwierige und ressourcenintensive Anpassungen erfordern. Insbesondere die herausragende Rolle von (oft großen) Daten in der KI macht viele Berechnungen extrem ungenau und unzuverlässig. Dies ist ein Hauptgrund dafür, dass maschinelles Lernen derzeit exorbitante Rechen-, Energie- und Arbeitsressourcen erfordert. 

Im Projekt PANAMA entwickeln wir neue numerische Algorithmen, die speziell auf diese Herausforderungen eingehen. Die zentrale mathematische Idee ist, dass die Berechnungen, die der KI zugrunde liegen, selbst kleinere, elementarere Arten von Inferenz- und Lernproblemen sind. Sie können daher in der statistischen Sprache des maschinellen Lernens formuliert werden, und die durch Datenstichproben verursachten Ungenauigkeiten und Stochastizitäten können mit den Mechanismen der Wahrscheinlichkeitstheorie beschrieben werden. Basierend auf dieser mathematischen Grundlage, die als Probabilistische Numerik bekannt ist, entwickelt das Projekt PANAMA neue Funktionen und neue Berechnungswerkzeuge. Unter anderem sollen diese Methoden weniger Parameter einstellen müssen (weil der Algorithmus in der Lage ist, seine freien Parameter selbst abzuleiten) und neben dem Hauptoutput aussagekräftige Unsicherheitsabschätzungen liefern, die zur Beurteilung von Fragen der Zuverlässigkeit und Sicherheit verwendet werden können.

Das geplante Endergebnis des Projekts sind eine Reihe neuer Software-Tools, die sich mit zentralen Aufgaben des maschinellen Lernens und der künstlichen Intelligenz befassen. Durch die Automatisierung der algorithmischen Prozesse, die der KI zugrunde liegen, und die Hinzufügung von Ungewissheit als Schlüsselkomponente der Berechnung selbst, werden diese Werkzeuge die KI für eine größere Gruppe von Nutzern einfacher und sicherer machen.

Die wissenschaftlichen Ergebnisse dieses laufenden Projekts sind in den meisten unserer Veröffentlichungen zu finden. Viele der von der Gruppe entwickelten Softwarepakete wurden durch die finanzielle Unterstützung dieses Projekts ermöglicht.