Dataflow Compiler

Eine vollumfängliche und skalierbare Software-Toolchain

Die Produkte von Hailo werden von einer umfassenden KI Software Toolchain begleitet, die sich nahtlos in bestehende Deep Learning Development Frameworks integrieren lässt. Eine Integration in bestehende Entwicklungsökosysteme ist somit problemlos und geht einfach von statten.

deep learning compiler
deep learning SDK

Umfassende Toolchain-Funktionen:

  • Model Translation: Übersetzung von Industriestandard-Frameworks ins Hailo-Format
  • Numeric Translation: Numerische Übersetzung in Hailo-interne Formate unter Verwendung moderner Quantisierungsalgorithmen.
  • Resource Allocation: Zuweisung der erforderlichen Ressourcen des Benutzernetzwerks an die physischen Ressourcen in der Hailo-Hardware.
  • Kompilierung von Modellen in Hailo-Binärcode durch einen dedizierten Deep-Learning-Compiler
  • Einladen der kompilierten Binaries und Durchführen der Inferenz auf der Zielhardware von Hailo
  • Das Deep Learning Software Developement Kit (SDK) unterstützt sowohl Standalone-Inferenz mit direktem Zugriff auf die Hardware als auch Tensorflow-integrierte Inferenz zur einfachen Integration in bestehende Umgebungen.

Analyse- und Debugging-Tools:

  • Emulator zur bitgenauen Emulation des Chip-Verhaltens
  • Profiler zur Abschätzung der Chip-Leistung (z.B. FPS, Leistung und Latenzzeiten).
deep learning SDK

Documents marked with a lock icon are available for registered users only. To sign up click here

Title File type Date modified
Hailo Dataflow Compiler User Guide v3.20.0 PDF 30/09/2022
Hailo Dataflow Compiler User Guide v3.20.1 PDF 14/11/2022
Breathe life into your edge products
with the Hailo-8™ AI processor

Hailo-8TM Starter Kit is available now!

Please fill out the form, and one of our representatives will get back to you shortly.