图像
Kazutaka Kikuchi
Kazutaka Kikuchi
Principal Specialist
已发布: 2023年2月7日

您在嵌入式设备中实施人工智能模型时是否遇到困难?
介绍DRP-AI TVM[1],它简化了AI模型的实现。

近年来,人工智能已经在监控摄像头、交通监控系统、机器人和无人机等嵌入式设备中得到实施。与云环境不同,嵌入式设备在实现人工智能方面有很多困难,比如要考虑HW性能、成本和功率限制。通过使用RZ/V系列AI-MPU和瑞萨的低功耗AI加速器DRP-AI,可以解决大部分HW实施的挑战。

当客户在我们的AI-MPU上实现AI模型时,他们使用DRP-AI翻译器,将AI模型转换为DRP-AI可执行文件,但一些客户指出,这很难实现。

这有两个主要原因。

  1. DRP-AI翻译器支持的唯一AI模型格式是ONNX。
  2. 如果模型包含DRP-AI翻译器不支持的运算符,则不可能进行转换。

到目前为止,瑞萨一直要求客户自行处理此类案件,这对一些客户来说是一种负担。我们相信,解决这些问题将提高客户的便利性,并发布了新的DRP-AI TVM。

DRP-AI TVM是一个开源的ML编译器Apache TVM,支持DRP-AI。自动将DRP-AI翻译器不支持的操作者分配给CPU,使其更容易支持更多的AI模型。它还可以处理ONNX以外的AI框架格式。此外,DRP-AI可以以与传统DRP-AI翻译流程相同的方式处理AI推理的预处理,从而提高包括预处理在内的总的AI性能。

图像
DRP-AI TVM structure

DRP-AI TVM的配置

图像
AI model operators’ allocation by DRP-AI TVM

用DRP-AI TVM对AI模型操作员进行自动CPU分配

DRP-AI TVM可在GitHub上使用,方便客户访问。 GitHub包含教程、示例代码、各种人工智能模型的性能评估结果以及其他足以让客户使用产品的信息。这些教程包括在瑞萨评估板上从构建环境到推理的步骤,客户可以利用这些步骤轻松评估他们的人工智能模型。 瑞萨将继续改善用户体验,使客户更容易利用瑞萨的产品。

参考资料:

[1] DRP-AI TVM 由 Edgecortix MERATM 编译器框架提供支持。
[2] RZ/V系列介绍
[3] Renesas info wiki RZ/V系列
[4] DRP-AI描述页面
[5] DRP-AI TVM GitHub
[6] DRP-AI TVM教程
[7] EVK购买链接:
   • RZ/V2L 评估板套件
   • RZ/V2M 评估板套件
   • RZ/V2MA 评估板套件