ModelZoo Edge

1.介绍

MagicMind是面向寒武纪 MLU 的推理加速引擎。

MagicMind能将AI框架(Tensorflow,PyTorch,ONNX,Caffe等)训练好的算法模型转换成MagicMind 统一计算图表示,并提供端到端的模型优化、代码生成以及推理业务部署能力。

本仓库展示如何将CV分类、检测、分割、NLP、语音等场景的前沿和经典模型，通过MagicMind转换和优化，进而运行在基于MagicMind的推理加速引擎的寒武纪加速板卡上的示例程序，为开发者提供丰富的AI应用移植参考。

2.前提条件

• Linux 常见操作系统版本(如 Ubuntu16.04，Ubuntu18.04，CentOS7.x 等)，安装 docker(>=v18.00.0)应用程序；
• 服务器装配好寒武纪 300 系列及以上的智能加速卡，并安装好驱动(>=v4.20.6)；
• 若不具备以上软硬件条件，可前往寒武纪开发者社区申请试用;

3.环境准备

若基于寒武纪云平台环境可跳过该环节。否则需运行以下步骤：

1.请前往寒武纪开发者社区下载 MagicMind(version >= 0.13.0)镜像，名字如下：

magicmind_version_os.tar.gz, 例如 magicmind_0.13.1-1_ubuntu18.04.tar.gz

2.加载：

docker load -i magicmind_version_os.tar.gz

3.运行：

docker run -it --name=dockername \
           --network=host --cap-add=sys_ptrace \
           -v /your/host/path/MagicMind:/MagicMind \
           -v /usr/bin/cnmon:/usr/bin/cnmon \
           --device=/dev/cambricon_dev0:/dev/cambricon_dev0 --device=/dev/cambricon_ctl \
           -w /MagicMind/ magicmind_version_image_name:tag_name /bin/bash

4.网络支持列表和链接

CV：

Detection:

MODELS	FRAMEWORK	MLU-3226	CPP
C3D	Caffe	Yes	Yes
Centernet_pytorch	Pytorch	Yes	Yes
Mobilenet-SSD	Caffe	Yes	Yes
Refinedet	Caffe	Yes	Yes
Retinaface	PyTorch	Yes	Yes
Ultra_Fast_Lane_Detection	PyTorch	Yes	Yes
YOLOV3	Caffe	Yes	Yes
YOLOV3 Tiny	Caffe	Yes	Yes
YOLOV3_v8	PyTorch	Yes	Yes
YOLOV4-mish	Caffe	Yes	Yes
YOLOV5_v6.1	PyTorch	Yes	Yes
YOLOV7	PyTorch	Yes	Yes

Classification:

MODELS	FRAMEWORK	MLU-3226	CPP
AlexNet	Caffe	Yes	Yes
Arcface	PyTorch	Yes	Yes
DenseNet121	Caffe	Yes	Yes
DenseNet201	Caffe	Yes	Yes
Googlenet_bn	Caffe	Yes	Yes
Inceptionv2	Caffe	Yes	Yes
Inceptionv3	Caffe	Yes	Yes
Inceptionv4	Caffe	Yes	Yes
Mobilenet-SSD	Caffe	Yes	Yes
Mobilenetv2	Caffe	Yes	Yes
Mobilenetv3	Pytorch	Yes	Yes
Resnet50	Caffe	Yes	Yes
Resnext50	Caffe	Yes	Yes
Senet50	Caffe	Yes	Yes
Squeezenet1.0	Caffe	Yes	Yes
Squeezenet1.1	Caffe	Yes	Yes
VGG16	Caffe	Yes	Yes

Segmentation:

MODELS	FRAMEWORK	MLU-3226	CPP
DeepLabv3	Tensorflow	Yes	Yes
nnUNet	Pytorch	Yes	Yes
SegNet	Caffe	Yes	Yes

OCR:

MODELS	FRAMEWORK	MLU-3226	CPP
CRNN	Pytorch	Yes	Yes
DBnet	Pytorch	Yes	Yes

Others:

MODELS	FRAMEWORK	MLU-3226	CPP
Openpose	Caffe	Yes	Yes

5.issues/wiki/forum 跳转链接

6.contrib 指引和链接

7.LICENSE

ModelZoo Edge 的 License 具体内容请参见LICENSE文件。

8.免责声明

ModelZoo 仅提供公共数据集以及预训练模型的下载链接，公共数据集及预训练模型并不属于 ModelZoo, ModelZoo 也不对其质量或维护承担责任。请您在使用公共数据集和预训练模型的过程中，确保符合其对应的使用许可。

如果您不希望您的数据集或模型公布在 ModelZoo 上，或者您希望更新 ModelZoo 中属于您的数据集或模型，请您通过 Gitee 中提交 issue ，您也可以联系 [email protected] 告知我们。

Release notes

v1.2

新增内容

1. 新增 CRNN 网络MagicMind edge支持
2. 新增 DBnet 网络MagicMind edge支持
3. 新增 Retinaface 网络MagicMind edge支持
4. 新增 Refinedet 网络MagicMind edge支持
5. 新增 Openpose 网络MagicMind edge支持
6. 新增 Ultra-Fast-Lane-Detection 网络MagicMind edge支持
7. 新增 Googlenet 网络MagicMind edge支持
8. 新增 YOLOV7 网络MagicMind edge支持

Bug fix

1. 修复YOLOV5 由前后处理导致的精度问题
2. 修复所有模型 README.MD 中描述问题以及一键运行脚本相关bug

v1.1

新增内容

1. CV:ALexNet_with_bn_caffe, Arcface, C3D, Centernet, DeepLabv3, DensetNet121/201, Inceptionv2/3/4, Mobilenet-SSD, Mobilenetv2/v3, nnUNet, Resnet50, Resnext50, SegNet, Senet50, Squeezenet1.0/1.1, VGG16, YOLOV5_v6.1, YOLOV3_v8, YOLOV3, YOLOV4-mish 共计25个模型.