人工智能开发平台

人工智能开发平台

人工智能开发平台(Cambricon Neuware™)是专门针对其云、边、端的智能处理器产品打造的软件开发平台, Neuware采用端云一体的架构,可同时支持云、边、端的全系列产品。

终端IP、边缘端芯片及云端芯片共享同样的软件接口和完备生态,可以方便地进行智能应用的开发,迁移和调优。

在这里插入图片描述

在云端

提供全套易用的开发调试调优工具

• 开发 软件开发工具包

TensorFlow/Caffe/MXNet/PyTorch/AndroidNN

CNML(机器学习编程库)

CNRT(高性能运行时库)

CNCC(编译器)

• 调试 功能调试工具包

CNGDB(调试工具)

CNQual(硬件诊断工具)

• 调优 性能调优工具

CNPerf (性能剖析)

CNMon(系统监控)

在终端

提供快速的部署工具

• 部署 离线部署工具包

支持从Tensorflow、Caffe、mxnet等主流框架生成离线部署文件

支持arm32_linux / arm64_linux /
arm64_android / windows等平台

支持处理器频率、存储带宽、以及SRAM大小的模拟

在这里插入图片描述

端云一体开发和部署流程

开发者可以借助云端丰富的计算资源进行算法模型的解析与调试,利用Neuware生成离线模型,并能够在任意搭载智能终端IP的设备运行,解决了终端调试手段受硬件资源限制的问题。同时,由于该离线模式无编译过程,摆脱了对CNML与框架层的依赖,是终端部署的最佳选择。端云一体业务部署流程如下图所示:
在这里插入图片描述

Neuware软件栈
在这里插入图片描述