EKI-App: Energieeffiziente Künstliche Intelligenz im Rechenzentrum durch Approximation von tiefen neuronalen Netzen für Field-Programmable Gate Arrays
?berblick
Ziel des Projekts ist die Steigerung der Energieeffizienz von KI-Systemen für DNN Inferenz durch Approximationsverfahren und Abbildung auf Hochleistungs-FPGAs. Durch die Anpassung, Weiterentwicklung und Bereitstellung einer auf dem Open Source Werkzeug FINN basierenden Software-Werkzeugkette für die automatisierte, optimierte und hardwareangepasste Umsetzung von DNNs auf FPGAs und die Bewertung der dadurch erzielten Energieeinsparungen durch pr?zise Messungen in realen Serversystemen schlie?t das Projekt die bestehende Lücke für die praktische Nutzung von FPGAs mit ihren Energie- und/oder Performance-Vorteilen für KI-Anwender.
Key Facts
- Art des Projektes:
- Forschung
- Laufzeit:
- 01/2023 - 12/2025
- Beitrag zur Nachhaltigkeit:
- Nachhaltige/r Konsum und Produktion, Industrie, Innovation und Infrastruktur
Detailinformationen
Publikationen
FINN-HPC: Closing the Gap for Energy-Efficient Neural Network Inference on FPGAs in HPC
L. Jungemann, B. Wintermann, H. Riebler, C. Plessl, in: Proceedings of the 15th International Symposium on Highly Efficient Accelerators and Reconfigurable Technologies, ACM, New York City, n.d.
AuroraFlow, an Easy-to-Use, Low-Latency FPGA Communication Solution Demonstrated on Multi-FPGA Neural Network Inference
Alle Publikationen anzeigen
G. Pape, B. Wintermann, L. Jungemann, M. Lass, M. Meyer, H. Riebler, C. Plessl, in: Proceedings of the 15th International Symposium on Highly Efficient Accelerators and Reconfigurable Technologies, n.d.