HailoRT

运行时软件套件

产品查询

HailoRT是一款在主机处理器上运行的生产级、轻型、可扩展运行时软件，用于在使用Hailo设备的生产平台上进行实时推理。它使开发人员能够为人工智能应用构建简单而快速的管道，适用于评估、原型和生产应用。HailoRT可以使用一个或多个Hailo设备实现高吞吐量推理，并通过Hailo Github作为开源软件提供。

HailoRT主要功能：

  • 多主机架构支持 – 支持x86和ARM架构
  • 人工智能应用的灵活接口 – C/C++和Python接口
  • 与设备和管道的轻松集成 – 包括GStreamer框架的插件
  • 支持多视频流 – 同时处理多个视频流
  • 支持最多16个Hailo-8TM设备的高吞吐量推理
  • 无缝的Hailo设备控制 – 与Hailo-8TM设备的双向控制和数据通信接口

Tools

Integration Tool

Hailo RT CLI

Runtime Frameworks Plugins

pyHailoRT
(Python API)

C/C ++ API and Library

Hailo PCle Driver

Product Inquiry

HailoRT包含以下关键组件：

  • 运行时框架集成
    • pyHailoRT – 用于向Hailo-8TM设备加载模型以及发送和接收数据的Python API
    •  GStreamer插件 – 提供根据配置的网络推理GStreamer帧的“hailonet”元素。该元素可以在GStreamer管道中多次使用，以并行地推理多个网络
  • 集成工具 – Hailo-8TM M.2和Hailo-8TM mPCIe模块硬件集成的验证工具
  • HailoRT CLI – 命令行应用，用于控制Hailo设备、在设备上运行推理以及收集推理统计数据和设备事件
  • HailoRT Library – 用户空间，运行时，健壮的C/C++ API，用于控制和与Hailo设备之间的数据传输
  • PCIe Driver – 外部内核模块。适用于Linux和Windows。可以使用DKMS框架安装。
  •  Yocto Layer
    • 可实现Hailo软件到Yocto环境（Zeus、Dunfell、Hardknott、Gatesgarth）的集成
    • 包括HailoRT库、pyHailoRT和PCIe驱动程序的方法

标有锁图标的文档仅供注册用户使用。如需注册 请单击此处

Title File type Date modified
Hailo Command Line Interface Video
HailoRT User Guide - HTML HTML 17/02/2023
HailoRT Log collector tool User Guide v1.0.3 PDF 10/01/2023
HailoRT User Guide v4.12.1 PDF 16/02/2023

Other Products

Breathe life into your edge products
with the Hailo-8™ AI processor
GET STARTED