diff --git "a/Ascend-PyTorch\347\246\273\347\272\277\346\216\250\347\220\206\346\214\207\345\257\274/PyTorch\347\246\273\347\272\277\346\216\250\347\220\206-\346\250\241\345\236\213\346\241\210\344\276\213.md" "b/Ascend-PyTorch\347\246\273\347\272\277\346\216\250\347\220\206\346\214\207\345\257\274/PyTorch\347\246\273\347\272\277\346\216\250\347\220\206-\346\250\241\345\236\213\346\241\210\344\276\213.md" index 8ccefea0afc2678ea6097bdd5642298bba6c2260..61518815c5703a713fa40220456cc8f69966b5a5 100644 --- "a/Ascend-PyTorch\347\246\273\347\272\277\346\216\250\347\220\206\346\214\207\345\257\274/PyTorch\347\246\273\347\272\277\346\216\250\347\220\206-\346\250\241\345\236\213\346\241\210\344\276\213.md" +++ "b/Ascend-PyTorch\347\246\273\347\272\277\346\216\250\347\220\206\346\214\207\345\257\274/PyTorch\347\246\273\347\272\277\346\216\250\347\220\206-\346\250\241\345\236\213\346\241\210\344\276\213.md" @@ -540,7 +540,34 @@ python3 ssd_pth_postprocess.py /root/dataset/VOCdevkit/VOC2007/ ./voc-model-labe [3D-ResNets](https://www.hiascend.com/zh/software/modelzoo/detail/1/e4dddee6bbb842b9a6612effc3ee19ea) [I3D](https://gitee.com/ascend/modelzoo/tree/master/built-in/ACL_PyTorch/Official/cv/I3D_for_Pytorch) -## 1.10 audio类Jasper与Tacotron2推理指导 +## 1.10 audio类Jasper与Tacotron2推理指导(网络分段与pyACL工具推理) [Jasper](https://gitee.com/ascend/modelzoo/tree/master/built-in/ACL_PyTorch/Official/audio/Jasper_for_PyTorch) [Tacotron2](https://gitee.com/ascend/modelzoo/tree/master/built-in/ACL_PyTorch/Official/audio/Tacotron2_for_Pytorch) + +## 1.11 超分辨率类SRFlow与Cross-Scale-Non-Local-Attention推理指导 + +[SRFlow](https://gitee.com/ascend/modelzoo/pulls/3572) +[Cross-Scale-Non-Local-Attention](https://gitee.com/ascend/modelzoo/pulls/4395) + +## 1.12 mmdetection框架模型推理指导 + +[mmdetection框架模型调试基础](https://gitee.com/wangjiangben_hw/ascend-pytorch-crowdintelligence-doc/blob/master/Ascend-PyTorch%E7%A6%BB%E7%BA%BF%E6%8E%A8%E7%90%86%E6%8C%87%E5%AF%BC/%E4%B8%93%E9%A2%98%E6%A1%88%E4%BE%8B/%E7%B2%BE%E5%BA%A6%E8%B0%83%E8%AF%95/%E6%A8%A1%E5%9E%8B%E8%B0%83%E8%AF%95%E5%9F%BA%E7%A1%80-mmdetection%E6%A1%86%E6%9E%B6%E4%B8%BA%E4%BE%8B.md) +[mmdetection与detectron2-npu权重-包含nms与roi自定义算子的maskrcnn模型PyTorch离线推理指导](https://gitee.com/wangjiangben_hw/ascend-pytorch-crowdintelligence-doc/tree/master/Ascend-PyTorch%E7%A6%BB%E7%BA%BF%E6%8E%A8%E7%90%86%E6%8C%87%E5%AF%BC/ONNX%E6%A8%A1%E5%9E%8B%E6%8E%A8%E7%90%86%E6%8C%87%E5%AF%BC/benchmark/cv/segmentation) + +## 1.13 包含dcn自定义算子模型推理指导 + +[包含dcn自定义算子的DB模型PyTorch离线推理指导](https://gitee.com/ascend/modelzoo/blob/master/built-in/ACL_PyTorch/Official/cv/DB_for_PyTorch/db.diff) +[包含dcn自定义算子的FairMOT模型PyTorch离线推理指导](https://gitee.com/ascend/modelzoo/pulls/4097) + +## 1.14 包含grid_sample自定义算子模型推理指导 + +[PointRend](https://gitee.com/ascend/modelzoo/pulls/4859) + +## 1.15 目标跟踪网络SiamMask推理指导 + +[SiamMask](https://gitee.com/ascend/modelzoo/pulls/4105) + +## 1.15 实例分割网络refinedet推理指导 + +[refinedet](https://gitee.com/ascend/modelzoo/pulls/4007) \ No newline at end of file diff --git "a/Ascend-PyTorch\347\246\273\347\272\277\346\216\250\347\220\206\346\214\207\345\257\274/\344\270\223\351\242\230\346\241\210\344\276\213/\345\212\237\350\203\275\346\211\223\351\200\232/\343\200\220nlp\347\261\273\343\200\221-transformer\344\270\216bert.md" "b/Ascend-PyTorch\347\246\273\347\272\277\346\216\250\347\220\206\346\214\207\345\257\274/\344\270\223\351\242\230\346\241\210\344\276\213/\345\212\237\350\203\275\346\211\223\351\200\232/\343\200\220nlp\347\261\273\343\200\221-transformer\344\270\216bert.md" deleted file mode 100644 index 9ff16e83515dbda8f8d0ab84d975e9133036b664..0000000000000000000000000000000000000000 --- "a/Ascend-PyTorch\347\246\273\347\272\277\346\216\250\347\220\206\346\214\207\345\257\274/\344\270\223\351\242\230\346\241\210\344\276\213/\345\212\237\350\203\275\346\211\223\351\200\232/\343\200\220nlp\347\261\273\343\200\221-transformer\344\270\216bert.md" +++ /dev/null @@ -1,2 +0,0 @@ -[transformer](https://www.hiascend.com/zh/software/modelzoo/detail/1/6513bfc21a674137837e889652626b68) -[bert](https://www.hiascend.com/zh/software/modelzoo/detail/1/11fa495cfd9d46058ee2084566686f5b) diff --git "a/Ascend-PyTorch\347\246\273\347\272\277\346\216\250\347\220\206\346\214\207\345\257\274/\344\270\223\351\242\230\346\241\210\344\276\213/\345\212\237\350\203\275\346\211\223\351\200\232/\343\200\220\345\257\274\345\207\272onnx\351\227\256\351\242\230\343\200\221-\345\257\274\345\207\272\347\232\204onnx\346\250\241\345\236\213\344\270\215\346\255\243\347\241\256\346\227\266\347\232\204\345\210\206\346\236\220.md" "b/Ascend-PyTorch\347\246\273\347\272\277\346\216\250\347\220\206\346\214\207\345\257\274/\344\270\223\351\242\230\346\241\210\344\276\213/\345\212\237\350\203\275\346\211\223\351\200\232/\343\200\220\345\257\274\345\207\272onnx\351\227\256\351\242\230\343\200\221-\345\257\274\345\207\272\347\232\204onnx\346\250\241\345\236\213\344\270\215\346\255\243\347\241\256\346\227\266\347\232\204\345\210\206\346\236\220.md" deleted file mode 100644 index e5c3ed807fcbe07bc47249390d22098da9e6349e..0000000000000000000000000000000000000000 --- "a/Ascend-PyTorch\347\246\273\347\272\277\346\216\250\347\220\206\346\214\207\345\257\274/\344\270\223\351\242\230\346\241\210\344\276\213/\345\212\237\350\203\275\346\211\223\351\200\232/\343\200\220\345\257\274\345\207\272onnx\351\227\256\351\242\230\343\200\221-\345\257\274\345\207\272\347\232\204onnx\346\250\241\345\236\213\344\270\215\346\255\243\347\241\256\346\227\266\347\232\204\345\210\206\346\236\220.md" +++ /dev/null @@ -1,10 +0,0 @@ -[refinedet](https://gitee.com/ascend/modelzoo/pulls/4007) -1.随机输入导出的onnx使用onnxsim后为空图,模型分段return导出onnx,最终发现随机输入时scores.size(0) == 0导致数据流为空,故导出onnx时使用真实图片作为输入 -2.nms含有动态shape小算子,替换为自定义batchnms暂未通,因nms在模型最后一部分故可放在后处理 -3.onnx转om时,不能使用fp16,否则精度不达标 - ``` - --precision_mode allow_fp32_to_fp16 - ``` -4.常量prior_data在后处理通过代码生成,不用经过模型计算 - -[仅供学习](https://gitee.com/wangjiangben_hw/ascend-pytorch-crowdintelligence-doc/tree/master/Ascend-PyTorch%E7%A6%BB%E7%BA%BF%E6%8E%A8%E7%90%86%E6%8C%87%E5%AF%BC/ONNX%E6%A8%A1%E5%9E%8B%E6%8E%A8%E7%90%86%E6%8C%87%E5%AF%BC/benchmark/cv/segmentation) \ No newline at end of file diff --git "a/Ascend-PyTorch\347\246\273\347\272\277\346\216\250\347\220\206\346\214\207\345\257\274/\344\270\223\351\242\230\346\241\210\344\276\213/\345\212\237\350\203\275\346\211\223\351\200\232/\343\200\220\346\243\200\346\265\213\345\210\206\345\211\262\343\200\221-mmdetection\344\270\216detectron2-npu\350\256\255\347\273\203\346\235\203\351\207\215-\346\243\200\346\265\213mask\346\250\241\345\236\213-nms\344\270\216roi\350\207\252\345\256\232\344\271\211\347\256\227\345\255\220.md" "b/Ascend-PyTorch\347\246\273\347\272\277\346\216\250\347\220\206\346\214\207\345\257\274/\344\270\223\351\242\230\346\241\210\344\276\213/\345\212\237\350\203\275\346\211\223\351\200\232/\343\200\220\346\243\200\346\265\213\345\210\206\345\211\262\343\200\221-mmdetection\344\270\216detectron2-npu\350\256\255\347\273\203\346\235\203\351\207\215-\346\243\200\346\265\213mask\346\250\241\345\236\213-nms\344\270\216roi\350\207\252\345\256\232\344\271\211\347\256\227\345\255\220.md" deleted file mode 100644 index c2679f83eae6de30da4a71d6583ee1a2507d0429..0000000000000000000000000000000000000000 --- "a/Ascend-PyTorch\347\246\273\347\272\277\346\216\250\347\220\206\346\214\207\345\257\274/\344\270\223\351\242\230\346\241\210\344\276\213/\345\212\237\350\203\275\346\211\223\351\200\232/\343\200\220\346\243\200\346\265\213\345\210\206\345\211\262\343\200\221-mmdetection\344\270\216detectron2-npu\350\256\255\347\273\203\346\235\203\351\207\215-\346\243\200\346\265\213mask\346\250\241\345\236\213-nms\344\270\216roi\350\207\252\345\256\232\344\271\211\347\256\227\345\255\220.md" +++ /dev/null @@ -1,2 +0,0 @@ -[mmdetection框架模型调试基础](https://gitee.com/wangjiangben_hw/ascend-pytorch-crowdintelligence-doc/blob/master/Ascend-PyTorch%E7%A6%BB%E7%BA%BF%E6%8E%A8%E7%90%86%E6%8C%87%E5%AF%BC/%E4%B8%93%E9%A2%98%E6%A1%88%E4%BE%8B/%E7%B2%BE%E5%BA%A6%E8%B0%83%E8%AF%95/%E6%A8%A1%E5%9E%8B%E8%B0%83%E8%AF%95%E5%9F%BA%E7%A1%80-mmdetection%E6%A1%86%E6%9E%B6%E4%B8%BA%E4%BE%8B.md) -[mmdetection与detectron2-npu权重-包含nms与roi自定义算子的maskrcnn模型PyTorch离线推理指导](https://gitee.com/wangjiangben_hw/ascend-pytorch-crowdintelligence-doc/tree/master/Ascend-PyTorch%E7%A6%BB%E7%BA%BF%E6%8E%A8%E7%90%86%E6%8C%87%E5%AF%BC/ONNX%E6%A8%A1%E5%9E%8B%E6%8E%A8%E7%90%86%E6%8C%87%E5%AF%BC/benchmark/cv/segmentation) \ No newline at end of file diff --git "a/Ascend-PyTorch\347\246\273\347\272\277\346\216\250\347\220\206\346\214\207\345\257\274/\344\270\223\351\242\230\346\241\210\344\276\213/\345\212\237\350\203\275\346\211\223\351\200\232/\343\200\220\347\233\256\346\240\207\350\267\237\350\270\252\343\200\221-SiamMask\347\275\221\347\273\234\345\210\206\346\256\265\344\270\216msame\345\267\245\345\205\267\346\216\250\347\220\206.md" "b/Ascend-PyTorch\347\246\273\347\272\277\346\216\250\347\220\206\346\214\207\345\257\274/\344\270\223\351\242\230\346\241\210\344\276\213/\345\212\237\350\203\275\346\211\223\351\200\232/\343\200\220\347\233\256\346\240\207\350\267\237\350\270\252\343\200\221-SiamMask\347\275\221\347\273\234\345\210\206\346\256\265\344\270\216msame\345\267\245\345\205\267\346\216\250\347\220\206.md" deleted file mode 100644 index ea21417579997d3835c1bcd7d792f473db52853f..0000000000000000000000000000000000000000 --- "a/Ascend-PyTorch\347\246\273\347\272\277\346\216\250\347\220\206\346\214\207\345\257\274/\344\270\223\351\242\230\346\241\210\344\276\213/\345\212\237\350\203\275\346\211\223\351\200\232/\343\200\220\347\233\256\346\240\207\350\267\237\350\270\252\343\200\221-SiamMask\347\275\221\347\273\234\345\210\206\346\256\265\344\270\216msame\345\267\245\345\205\267\346\216\250\347\220\206.md" +++ /dev/null @@ -1,6 +0,0 @@ -[SiamMask](https://gitee.com/ascend/modelzoo/pulls/4105) -1.由于pytorch与onnx框架实现引起的bn算子属性epsilon,momentum在两种框架下略微不同,onnx精度与pth精度差了一点,但是om与onnx精度一致。 -2.因为SiamMask是前后帧连续处理,即上一帧的输入作为下一帧的输出,在Refine模块中进行动态pad,因此模型需要拆分为两段。因为SiamMask部分卷积存在使用自定义kernel来对输入进行卷积操作,导致卷积存在kernel和input的双输入的情况,[issue](http://github.com/onnx/onnx-tensorrt/issues/645),故在线推理测试性能。计算的是拆分的两部分模型合在一起完整推理的性能。 -3.因为SiamMask在corr部分固定了reshape之后的形状,并且针对前后帧连续处理,所以模型不支持多batch。 -4.msame保存为bin格式并以float32加载比TXT格式精度高一些,性能也更好。 -5.推理速度较慢的问题目前出在io部分。如果`msame`支持将数据从内存中读写而不必须从`.bin`文件中读写,速度将会进一步加快。 \ No newline at end of file diff --git "a/Ascend-PyTorch\347\246\273\347\272\277\346\216\250\347\220\206\346\214\207\345\257\274/\344\270\223\351\242\230\346\241\210\344\276\213/\345\212\237\350\203\275\346\211\223\351\200\232/\343\200\220\350\207\252\345\256\232\344\271\211\347\256\227\345\255\220\343\200\221-npu\347\256\227\345\255\220dcn.md" "b/Ascend-PyTorch\347\246\273\347\272\277\346\216\250\347\220\206\346\214\207\345\257\274/\344\270\223\351\242\230\346\241\210\344\276\213/\345\212\237\350\203\275\346\211\223\351\200\232/\343\200\220\350\207\252\345\256\232\344\271\211\347\256\227\345\255\220\343\200\221-npu\347\256\227\345\255\220dcn.md" deleted file mode 100644 index d765af51fe58748910e74323e30032a36321cbaf..0000000000000000000000000000000000000000 --- "a/Ascend-PyTorch\347\246\273\347\272\277\346\216\250\347\220\206\346\214\207\345\257\274/\344\270\223\351\242\230\346\241\210\344\276\213/\345\212\237\350\203\275\346\211\223\351\200\232/\343\200\220\350\207\252\345\256\232\344\271\211\347\256\227\345\255\220\343\200\221-npu\347\256\227\345\255\220dcn.md" +++ /dev/null @@ -1,2 +0,0 @@ -[包含dcn自定义算子的DB模型PyTorch离线推理指导](https://gitee.com/ascend/modelzoo/blob/master/built-in/ACL_PyTorch/Official/cv/DB_for_PyTorch/db.diff) -[包含dcn自定义算子的FairMOT模型PyTorch离线推理指导](https://gitee.com/ascend/modelzoo/pulls/4097) \ No newline at end of file diff --git "a/Ascend-PyTorch\347\246\273\347\272\277\346\216\250\347\220\206\346\214\207\345\257\274/\344\270\223\351\242\230\346\241\210\344\276\213/\345\212\237\350\203\275\346\211\223\351\200\232/\343\200\220\350\207\252\345\256\232\344\271\211\347\256\227\345\255\220\343\200\221-onnx\347\256\227\345\255\220grid_sample.md" "b/Ascend-PyTorch\347\246\273\347\272\277\346\216\250\347\220\206\346\214\207\345\257\274/\344\270\223\351\242\230\346\241\210\344\276\213/\345\212\237\350\203\275\346\211\223\351\200\232/\343\200\220\350\207\252\345\256\232\344\271\211\347\256\227\345\255\220\343\200\221-onnx\347\256\227\345\255\220grid_sample.md" deleted file mode 100644 index 51b7e757dd89d83c07bc75708f4b8ebeec01aaec..0000000000000000000000000000000000000000 --- "a/Ascend-PyTorch\347\246\273\347\272\277\346\216\250\347\220\206\346\214\207\345\257\274/\344\270\223\351\242\230\346\241\210\344\276\213/\345\212\237\350\203\275\346\211\223\351\200\232/\343\200\220\350\207\252\345\256\232\344\271\211\347\256\227\345\255\220\343\200\221-onnx\347\256\227\345\255\220grid_sample.md" +++ /dev/null @@ -1,8 +0,0 @@ -[PointRend](https://gitee.com/ascend/modelzoo/pulls/4859) -补丁说明: -1.onnx不支持grid_sample算子,参考mmcv的自定义算子grid_sample的测试等价代码bilinear_grid_sample进行替换 -2.去除部分om暂不支持的动态shape的where算子 -3.规避om expand算子暂不支持int64进行的输入类型转换 -4.规避om div算子暂不支持int64进行的输入类型转换 -5.om padv3算子问题影响网络精度,通过修改代码进行了规避 -6.本模型是基于detectron2框架的模型 \ No newline at end of file diff --git "a/Ascend-PyTorch\347\246\273\347\272\277\346\216\250\347\220\206\346\214\207\345\257\274/\344\270\223\351\242\230\346\241\210\344\276\213/\345\212\237\350\203\275\346\211\223\351\200\232/\343\200\220\350\247\206\351\242\221\347\261\273\343\200\221-\345\210\206\347\261\273\344\270\216\347\233\256\346\240\207\346\243\200\346\265\213.md" "b/Ascend-PyTorch\347\246\273\347\272\277\346\216\250\347\220\206\346\214\207\345\257\274/\344\270\223\351\242\230\346\241\210\344\276\213/\345\212\237\350\203\275\346\211\223\351\200\232/\343\200\220\350\247\206\351\242\221\347\261\273\343\200\221-\345\210\206\347\261\273\344\270\216\347\233\256\346\240\207\346\243\200\346\265\213.md" deleted file mode 100644 index 263a62757d03b50483bfc7e47d6dd04003531be4..0000000000000000000000000000000000000000 --- "a/Ascend-PyTorch\347\246\273\347\272\277\346\216\250\347\220\206\346\214\207\345\257\274/\344\270\223\351\242\230\346\241\210\344\276\213/\345\212\237\350\203\275\346\211\223\351\200\232/\343\200\220\350\247\206\351\242\221\347\261\273\343\200\221-\345\210\206\347\261\273\344\270\216\347\233\256\346\240\207\346\243\200\346\265\213.md" +++ /dev/null @@ -1,3 +0,0 @@ -[3D-ResNets](https://www.hiascend.com/zh/software/modelzoo/detail/1/e4dddee6bbb842b9a6612effc3ee19ea) -[I3D](https://gitee.com/ascend/modelzoo/tree/master/built-in/ACL_PyTorch/Official/cv/I3D_for_Pytorch) -视频分类pr参考:https://gitee.com/ascend/modelzoo/pulls/4072 diff --git "a/Ascend-PyTorch\347\246\273\347\272\277\346\216\250\347\220\206\346\214\207\345\257\274/\344\270\223\351\242\230\346\241\210\344\276\213/\345\212\237\350\203\275\346\211\223\351\200\232/\343\200\220\350\257\255\351\237\263\347\261\273\343\200\221-\347\275\221\347\273\234\345\210\206\346\256\265\344\270\216pyACL\345\267\245\345\205\267\346\216\250\347\220\206.md" "b/Ascend-PyTorch\347\246\273\347\272\277\346\216\250\347\220\206\346\214\207\345\257\274/\344\270\223\351\242\230\346\241\210\344\276\213/\345\212\237\350\203\275\346\211\223\351\200\232/\343\200\220\350\257\255\351\237\263\347\261\273\343\200\221-\347\275\221\347\273\234\345\210\206\346\256\265\344\270\216pyACL\345\267\245\345\205\267\346\216\250\347\220\206.md" deleted file mode 100644 index ad1de944304eb4a06601ad5b897c20db978407a9..0000000000000000000000000000000000000000 --- "a/Ascend-PyTorch\347\246\273\347\272\277\346\216\250\347\220\206\346\214\207\345\257\274/\344\270\223\351\242\230\346\241\210\344\276\213/\345\212\237\350\203\275\346\211\223\351\200\232/\343\200\220\350\257\255\351\237\263\347\261\273\343\200\221-\347\275\221\347\273\234\345\210\206\346\256\265\344\270\216pyACL\345\267\245\345\205\267\346\216\250\347\220\206.md" +++ /dev/null @@ -1,2 +0,0 @@ -[Jasper](https://gitee.com/ascend/modelzoo/tree/master/built-in/ACL_PyTorch/Official/audio/Jasper_for_PyTorch) -[Tacotron2](https://gitee.com/ascend/modelzoo/tree/master/built-in/ACL_PyTorch/Official/audio/Tacotron2_for_Pytorch) diff --git "a/Ascend-PyTorch\347\246\273\347\272\277\346\216\250\347\220\206\346\214\207\345\257\274/\344\270\223\351\242\230\346\241\210\344\276\213/\345\212\237\350\203\275\346\211\223\351\200\232/\343\200\220\350\266\205\345\210\206\350\276\250\347\216\207\343\200\221-\346\250\241\345\236\213\346\241\210\344\276\213.md" "b/Ascend-PyTorch\347\246\273\347\272\277\346\216\250\347\220\206\346\214\207\345\257\274/\344\270\223\351\242\230\346\241\210\344\276\213/\345\212\237\350\203\275\346\211\223\351\200\232/\343\200\220\350\266\205\345\210\206\350\276\250\347\216\207\343\200\221-\346\250\241\345\236\213\346\241\210\344\276\213.md" deleted file mode 100644 index 3a02a098247cbecc5a1f8bd66675519882518bbf..0000000000000000000000000000000000000000 --- "a/Ascend-PyTorch\347\246\273\347\272\277\346\216\250\347\220\206\346\214\207\345\257\274/\344\270\223\351\242\230\346\241\210\344\276\213/\345\212\237\350\203\275\346\211\223\351\200\232/\343\200\220\350\266\205\345\210\206\350\276\250\347\216\207\343\200\221-\346\250\241\345\236\213\346\241\210\344\276\213.md" +++ /dev/null @@ -1,2 +0,0 @@ -[SRFlow](https://gitee.com/ascend/modelzoo/pulls/3572) -[Cross-Scale-Non-Local-Attention](https://gitee.com/ascend/modelzoo/pulls/4395) \ No newline at end of file