简介

BMNNSDK2(Bitmain Neural Network SDK)是比特大陆基于其自主研发的 AI 芯片所定制的深度学习SDK,涵盖了神经网络推理阶段所需的模型优化、高效运行时支持等能力,为深度学习应用开发和部署提供易用、高效的全栈式解决方案。

1. BMNNSDK2 由 Compiler,Library和 Examples 部分组成:

  • Compiler 负责对各种深度神经网络模型(如caffemodel、tensorflow model 等)进行离线编译和优化,最终生成运行时需要的 bmodel

    • Library提供了video, bmcv, runtime等库,供用户进行深度学习应用开发。

    • Examples提供了SoC和x86环境的多个例子,供用户在深度学习应用开发过程中参考。

图1BMNNSDK2解决方案架构图

2. 当前BMNNSDK2提供了两个文件,具体文件如下表所示:

文件名

备注

bmnnsdk2-bm1684_v2.0.1.tar.gz

bmnnsdk x86平台开发包,支持cmodel,pcie和soc模式

bmnnsdk2-bm1684_v2.0.0.docker

bmnnsdk编译开发环境

3. 文件结构如下:

BMNNSDK2
├── bin            // 相关工具
│   ├── arm
│   └── x86
├── bmlang
├── bmnet        // Compiler工具
│   ├── bmnetc    // Caffe Compiler
│   ├── bmnetm    // MXNet Compiler
│   ├── bmnetp    // Pytorch Compiler
│   └── bmnett    // Tensor Flow Compiler
│   ├── bmnetu  // int8 compiler
│   ├── bmusercpu 
│   └── calibration //量化工具
├── documents
├── driver        // PCIE卡设备驱动
├── examples    // 示例代码
├── include        // 运行库头文件,供二次开发使用
├── lib            // 运行库,供运行时和二次开发使用,还加入了一些常用第三方库
├── res
├── run_docker_bmnnsdk.sh    // Docker启动脚本

Last updated

Was this helpful?