概述
Last updated
Last updated
运行于BITMAIN TPU平台的模型是定制的模型bmodel,当前支持各大开源框架网络转换为bmodel。BM1684平既支持float32模型,也支持int8模型。对于移植流程,首先需要把基于开源框架的模型转换为bmodel,模型转换流程以及章节介绍如图:
如果需要运行fp32 bmodel,则需要按照path_1参考 3.2 FP32 Bmodel 转化.
如果需要运行in8 bmodel,则需要按照path_2流程转换,依次参考3.3.1 、3.3.2 、3.3.3章节。
BMNet Compiler 是一个模型转换工具,可以对各种框架的模型进行离线转换,将模型转换成 TPU 能够执行的模型格式,然后调用 bmrutime 在初始化阶段读取模型,运行时则将输入数据拷给 TPU,TPU 进行神经网络推理,再将输出读取出来。
如果用户所需要使用的网络层不被 BMNNSDK 所支持,可联系比特大陆进行技术支持。