In den vergangenen Monaten hat Henning Wilmer seine Masterarbeit bei uns geschrieben. Das Ziel der Arbeit war es, die Inferenz von künstlichen neuronalen Netzen unterstützt durch einen FPGA oder einer eingebetteten GPU zu vergleichen.
Dabei wurden für die Einbindung des FPGA zwei verschiedene Frameworks untersucht: Vitis AI nutzt den FPGA als DPU und lagert somit einzelne Berechnungsschritte aus. Hls4ml erzeugt eine FPGA-Konfiguration, bei der die Berechnung des kompletten Netzwerks auf den FPGA auslagert wird.
Bei der Auswertung zeigte sich, dass die Inferenzzeiten und Energieaufnahme stark davon abhängen, wie die Algorithmen auf den FPGA portiert werden. Bei der Lösung mit hls4ml wurde der niedrigste Energiebedarf pro Bild gemessen. Die Größe der Netzwerke ist allerdings stark durch die Größe des FPGA limitiert, sodass es nicht möglich ist, jedes neuronale Netz mit dem Framework zu portieren. Lösungen auf Basis von Vitis AI, das auch größere Netzwerke zulässt, haben einen ungefähr dreimal höheren Energiebedarf, im Vergleich zur Lösung mit GPU. Erst für sehr große CNN bestätigt sich die Erwartung, dass ein SoC mit FPGA energieeffizienter als die GPU ist.
Betreut wurde Henning von dem wissenschaftlichen Mitarbeiter Marc Hamme der Ruhruniversität Bochum und den Smart Mechatronics Mitarbeitern Sean Dalton und Tobias Textor.
Henning´s erster Kontakt mit der Smart Mechatronics kam über das Ferdi-Kallmeyer-Stipendium im Jahr 2020 für herausragende Studienleitungen der Ferdi-Kallmeyer-Stiftung zustande. Umso mehr freut es uns natürlich, dass er sich auch für eine Abschlussarbeit bei uns entschieden hat. Durch den Einstieg in das Team Edge Computing kann Henning nun sein aufgebautes Fachwissen direkt in den Arbeitsalltag einbringen.
