Projekte

Laufende Projekte

Skalierbare, effiziente Methoden zur Quantifizierung von Unsicherheiten in der KI-basierten Zeitreihenvorhersage - EQUIPE

Kontakt: Dr. Charlotte Debus
Förderung: BMBF
Laufzeit: 01.09.2022 - 31.08.2025

Das Projekt EQUIPE beschäftigt sich mit der Quantifizierung von Unsicherheiten in großen Transformer-Modellen für die Zeitreihen-Vorhersage. Die Transformer-Architektur ist zwar in der Lage eine erstaunlich hohe Vorhersagegenauigkeit zu erzielen, benötigen jedoch immense Mengen an Rechenressourcen. Gängige Ansätze der Fehlerabschätzung in neuronalen Netzen sind in gleichem Maße rechenintensiv, was ihren Einsatz in Transformern derzeit noch erheblich erschwert. Die Forschungsarbeiten im Rahmen von EQUIPE zielen darauf ab, diese Probleme zu beheben, und skalierbare Algorithmen zur Quantifizierung von Unsicherheiten in großen neuronalen Netzen zu entwickeln .Dadurch wird perspektivisch der Einsatz der Methoden in Echtzeit-Systemen ermöglicht.

Abgeschlossene Projekte

Energy Efficiency and Performance of AI at Scale - EPAIS

Kontakt: Dr. Charlotte Debus
Förderung: NHR
Laufzeit: 01.01.2023 - 30.06.2024

Mit der Zunahme der künstlichen Intelligenz und dem damit einhergehenden Bedarf an Rechenressourcen wird die Energieeffizienz von großskaligen Deep Learning (DL) Anwendungen immer wichtiger. Das Ziel von EPAIS ist es, die Rechenleistung und den Energieverbrauch von hochmodernen DL-Modellen im großen Maßstab zu bewerten und zu korrelieren und letzteren durch Optimierung des ersteren zu verbessern. Im Rahmen des Projekts messen und analysieren wir den Energieverbrauch und die Rechenleistung wissenschaftlicher DL-Workloads mit dem Ziel, die Korrelation zwischen diesen beiden Faktoren aufzudecken. In diesem Zusammenhang entwickeln wir benutzerfreundliche Tools mit geringem Aufwand für die Messung des Energieverbrauchs und der Leistung. Diese Tools können von KI-Entwicklern in ihren Code integriert werden, um eine grundlegende Bewertung dieser Metriken vorzunehmen und so das Bewusstsein für GreenAI und GreenHPC zu fördern. Auf der Grundlage der so erlangten Erkenntnisse entwickeln wir neue Ansätze zur Steigerung der Energieeffizienz von DL-Workloads durch Leistungsoptimierung.