HailoRT

运行时软件套件

HailoRT是一款在主机处理器上运行的生产级、轻型、可扩展运行时软件,用于在使用Hailo设备的生产平台上进行实时推理。它使开发人员能够为人工智能应用构建简单而快速的管道,适用于评估、原型和生产应用。HailoRT可以使用一个或多个Hailo设备实现高吞吐量推理,并通过Hailo Github作为开源软件提供。

HailoRT主要功能:

  • 多主机架构支持 – 支持x86和ARM架构
  • 人工智能应用的灵活接口 – C/C++和Python接口
  • 与设备和管道的轻松集成 – 包括GStreamer框架的插件
  • 支持多视频流 – 同时处理多个视频流
  • 支持最多16个Hailo-8TM设备的高吞吐量推理
  • 无缝的Hailo设备控制 – 与Hailo-8TM设备的双向控制和数据通信接口

Tools

Integration Tool

Hailo RT CLI

Runtime Frameworks Plugins

pyHailoRT
(Python API)

C/C ++ API and Library

Hailo PCle Driver

HailoRT包含以下关键组件:

  • 运行时框架集成
    • pyHailoRT – 用于向Hailo-8TM设备加载模型以及发送和接收数据的Python API
    •  GStreamer插件 – 提供根据配置的网络推理GStreamer帧的“hailonet”元素。该元素可以在GStreamer管道中多次使用,以并行地推理多个网络
  • 集成工具 – Hailo-8TM M.2Hailo-8TM mPCIe模块硬件集成的验证工具
  • HailoRT CLI – 命令行应用,用于控制Hailo设备、在设备上运行推理以及收集推理统计数据和设备事件
  • HailoRT Library – 用户空间,运行时,健壮的C/C++ API,用于控制和与Hailo设备之间的数据传输
  • PCIe Driver – 外部内核模块。适用于Linux和Windows。可以使用DKMS框架安装。
  •  Yocto Layer
    • 可实现Hailo软件到Yocto环境(Zeus、Dunfell、Hardknott、Gatesgarth)的集成
    • 包括HailoRT库、pyHailoRT和PCIe驱动程序的方法

Documents marked with a lock icon are available for registered users only. To sign up click here

Title File type Date modified
HailoRT User Guide - HTML HTML 30/09/2022
HailoRT Log collector tool User Guide v1.0.0 PDF 30/09/2022
HailoRT User Guide v4.10.0 PDF 30/09/2022
HailoRT User Guide v4.11.0 PDF 15/11/2022
Breathe life into your edge products
with the Hailo-8™ AI processor

Hailo-8TM Starter Kit is available now!

Please fill out the form, and one of our representatives will get back to you shortly.