BMNNSDK版本特性

BMNNSDK 包含设备驱动、运行库、头文件和相应工具，主要特性如下：

1）设备驱动

• PCIE 支持多种 Linux 发行版本和 Linux 内核。

• SOC 模式提供 ko 模块，可以直接安装到BM168x SOC Linux Release。

• CModel 模式，使用 CPU 模拟 Sophon AI hardware，开发者可以先使用 cmodel 验证软件， 而不需要依赖Sophon Hardware 。

2）运行库

• 提供深度学习推理引擎，提供最大的推理吞吐量和最简单的应用部署环境。

• 提供三层接口，网络级接口/layer 级接口/指令级接口 。

• 利用TPU 提供灵活的图像处理功能(BMCV) • 提供运行库编程接口，用户可以直接操作bmlib/bmdnn 等底层接口，进行深度的开发 。

• 运行库支持多线程、多进程，提供并发处理能力。

3）工具

• 提供 bmnetc 工具，支持 Caffe 网络模型进行编译 。

• 提供 bmnett 工具, 支持 TensorFlow 模型进行编译。

• 提供 bmnetm 工具，支持 MxNet 模型进行编译 。

• 提供 bmnetp 工具，支持 PyTorch 模型进行编译 。

• 提供 bm_model.bin 工具，查看 bmodel 文件的参数信息，也可以将 bmodel 文件进行分解和合并。

• 提供 profiling 的工具，展示每一层执行所使用的指令以及指令所消耗的时间 。

• 提供 bm_smi 工具，支持对 BM1682 设备的运行状态进行监测​。