支持Tengine,Rock960基于RK3399性能优化,速度提升50%!

栏目:新闻中心 发布时间:2018-07-02
Tengine是由OPEN AI LAB开发的一款轻量级模块化高性能神经网络推理引擎,专门针对Arm嵌入式设备优化,并且无需依赖第三方库,可跨平台使用支持Android,Liunx。基于Rockchip RK3399的Rock960率先支持Tengine,性能提升,运行速度提升50%以上。

Tengine是由OPEN AI LAB开发的一款轻量级模块化高性能神经网络推理引擎,专门针对Arm嵌入式设备优化,并且无需依赖第三方库,可跨平台使用支持Android,Liunx。基于Rockchip RK3399的Rock960率先支持Tengine,性能提升,运行速度提升50%以上。

 

Rock960平台,基于Rockchip RK3399,性能强悍,具有丰富的扩展接口。采用精致一体化设计,可应用在众多创新领域开发,如IOT设备、智能交互设备、个人电脑、机器人等。具备以下特点:

  • CPU:RK3399,双核Cortex-A72+四核Cortex-A53,可选2G/16G, 4G/32G

  • GPU:Mali T860MP4,  OpenGL 3.2,  OpenCL 1.2

  • HDMI 2.0 4K@60

  • USB type C(支持DP 1.2协议,可在typeC接DP显示器,同时,也可用TypeC转HDMI,实现双HDMI屏双屏同显)

  • 支持三种系统:

    AndroidASOP+debian+Ubuntu

  • 体积小(85mm x 55mm)

Tengine支持各类常见卷积神经网络,包括SqueezeNet,MobileNet,AlexNet,ResNet等,支持层融合、8位量化等优化策略。并且通过调用针对不同CPU微构架优化的HCL库,将Arm CPU的性能充分挖掘出来。如在RK3399平台Cortex-A72单线程运行移动端常用的MobileNet一次只需要111ms。


作为一款开放计算平台,Tengine的扩展能力非常强,除支持自带的HCL库以外,还支持业界常见的Openblas, Arm Compute Library库。客户还可以很容易拓展自己的算子库,给用户自由的选择。除此之外,TEngine还能适配芯片上GPU等各类硬件资源甚至是DLA硬件加速器。只需要简单的在TEngine上注册设备并挂载上驱动,就能充分利用芯片上的硬件资源提升计算能力。


Tengine的加持对AI开源生态具有里程碑的意义,将极大促进AI领域的技术发展与产品应用的加速发展。


部分数据资料摘自OPEN AI LAB开放智能实验室