Are you sure you want to delete this task? Once this task is deleted, it cannot be recovered.
You can not select more than 25 topics
Topics must start with a chinese character,a letter or number, can include dashes ('-') and can be up to 35 characters long.
ZJUTER0126
4ba5fb90a0
|
1 year ago | |
|---|---|---|
| .idea | 1 year ago | |
| ascend310_infer | 1 year ago | |
| scripts | 1 year ago | |
| src | 1 year ago | |
| README.md | 1 year ago | |
| __init__.py | 1 year ago | |
| eval.py | 1 year ago | |
| export.py | 1 year ago | |
| postprocess.py | 1 year ago | |
| preprocess.py | 1 year ago | |
| requriments.txt | 1 year ago | |
| train.py | 1 year ago | |
README.md
目录
repvgg描述
RepVGG是由清华大学&旷世科技等提出的一种新颖的CNN设计范式，它将ACNet的思想与VGG架构进行了巧妙的结合，即避免了VGG类方法训练所得精度低的问题，又保持了VGG方案的高效推理优点，它首次将plain模型的精度在ImageNet上提升到了超过80%top1精度。相比ResNet、RegNet、EfficientNet等网络，RepVGG具有更好的精度-速度均衡。
数据集
使用的数据集：ImageNet2012
- 数据集大小：共1000个类、224*224彩色图像
- 训练集：共1,281,167张图像
- 测试集：共50,000张图像
- 数据格式：JPEG
- 注：数据在dataset.py中处理。
- 下载数据集，目录结构如下：
└─dataset
├─train # 训练数据集
└─val # 评估数据集
特性
混合精度
采用混合精度
的训练方法，使用支持单精度和半精度数据来提高深度学习神经网络的训练速度，同时保持单精度训练所能达到的网络精度。混合精度训练提高计算速度、减少内存使用的同时，支持在特定硬件上训练更大的模型或实现更大批次的训练。
环境要求
- 硬件（Ascend）
- 使用Ascend来搭建硬件环境。
- 框架
- 如需查看详情，请参见如下资源：
脚本说明
脚本及样例代码
├── convnext
├── README_CN.md // RepVGG相关说明
├── scripts
├──run_standalone_train_ascend.sh // 单卡Ascend910训练脚本
├──run_distribute_train_ascend.sh // 多卡Ascend910训练脚本
├──run_infer_310.sh // Ascend310推理脚本
├──run_eval_ascend.sh // 测试脚本
├── src
├──configs // RepVGG的配置文件
├──data // 数据集配置文件
├──imagenet.py // imagenet配置文件
├──augment // 数据增强函数文件
┕──data_utils // modelarts运行时数据集复制函数文件
│ ├──models // 模型定义文件夹
├──repvgg.py // repvgg模型文件
┕──layers // 相关工具层定义文件
┕──RepVGG // RepVGG定义文件
│ ├──trainers // 自定义TrainOneStep文件
│ ├──tools // 工具文件夹
├──callback.py // 自定义回调函数，训练结束测试
├──cell.py // 一些关于cell的通用工具函数
├──criterion.py // 关于损失函数的工具函数
├──get_misc.py // 一些其他的工具函数
├──optimizer.py // 关于优化器和参数的函数
┕──schedulers.py // 学习率衰减的工具函数
├── train.py // 训练文件
├── eval.py // 评估文件
├── export.py // 模型导出文件
├── preprocess.py // 推理数据集与处理文件
├── postprocess.py // 推理精度处理文件
脚本参数
在config.py中可以同时配置训练参数和评估参数。
-
配置RepVGG和ImageNet-1k数据集。
# Architecture arch: RepVGG-A0-A0tiny # RepVGG结构选择 # ===== Dataset ===== # data_url: ./data/imagenet # 数据集地址 set: ImageNet # 数据集名字 num_classes: 1000 # 数据集分类数目 mix_up: 0.0 # MixUp数据增强参数 cutmix: 0.0 # CutMix数据增强参数 auto_augment: None # AutoAugment参数 interpolation: bicubic # 图像缩放插值方法 re_prob: 0 # RandomErasing概率 re_mode: pixel # RandomErasing模式 re_count: 1 # RandomErasing重复次数 mixup_prob: 1. # MixUp概率 switch_prob: 0.5 # MixUp和CutMix切换概率 mixup_mode: batch # MixUp模式 # ===== Learning Rate Policy ======== # optimizer: momentum # 优化器类别 base_lr: 0.1 # 基础学习率 warmup_lr: 0.00000007 # 学习率热身初始学习率 min_lr: 0.000006 # 最小学习率 lr_scheduler: cosine_lr # 学习率衰减策略 warmup_length: 0 # 学习率热身轮数 image_size: 224 # 图像大小 # ===== Network training config ===== # amp_level: O1 # 混合精度策略 beta: [ 0.9, 0.999 ] # adamw参数 clip_global_norm_value: 5. # 全局梯度范数裁剪阈值 is_dynamic_loss_scale: True # 是否使用动态缩放 epochs: 180 # 训练轮数 label_smoothing: 0.1 # 标签平滑参数 weight_decay: 0.0001 # 权重衰减参数 momentum: 0.9 # 优化器动量 batch_size: 512 # 批次 # ===== EMA ===== # with_ema: False # 是否使用ema更新 ema_decay: 0.9999 # ema移动系数 # ===== Hardware setup ===== # num_parallel_workers: 16 # 数据预处理线程数 device_target: Ascend # GPU或者Ascend
更多配置细节请参考脚本config.py。 通过官方网站安装MindSpore后，您可以按照如下步骤进行训练和评估：
训练和测试
-
Ascend处理器环境运行
# 使用python启动单卡训练 python train.py --device_id 0 --device_target Ascend --config ./src/configs/RepVGG-A0.yaml \ > train.log 2>&1 & # 使用脚本启动单卡训练 bash ./scripts/run_standalone_train_ascend.sh [DEVICE_ID] [CONFIG_PATH] # 使用脚本启动多卡训练 bash ./scripts/run_distribute_train_ascend.sh [RANK_TABLE_FILE] [CONFIG_PATH] # 使用python启动单卡运行评估示例 python eval.py --device_id 0 --device_target Ascend --config ./src/configs/RepVGG-A0.yaml \ --pretrained ./ckpt_0/RepVGG-A0.ckpt > ./eval.log 2>&1 & # 使用脚本启动单卡运行评估示例 bash ./scripts/run_eval_ascend.sh [DEVICE_ID] [CONFIG_PATH] [CHECKPOINT_PATH]对于分布式训练，需要提前创建JSON格式的hccl配置文件。
请遵循以下链接中的说明：
-
oepni启智集群训练
1. 选择合适的MindSpore版本, 选择启动文件为train.py, 选择数据集为公开数据集中的imagenet.zip 2. 选择合适的计算资源, 选择Ascend处理器个数 3. 配置运行参数 4. 开始运行, 启动页面会自行给定train_url和data_url, 自动启动训练脚本 # 使用openi启动单卡训练 配置 device_id 0 device_target Ascend run_modelarts True config RepVGG-A0.yaml device_num 1 # 使用openi启动多卡训练 配置 device_target Ascend run_modelarts True config RepVGG-A0.yaml device_num {根据选择的资源情况自行设置}
导出过程
导出
python export.py --pretrained [CKPT_FILE] --config [CONFIG_PATH] --device_target [DEVICE_TARGET] --file_format [FILE_FORMAT]
导出的模型会以模型的结构名字命名并且保存在当前目录下, 注意: FILE_FORMAT 必须在 ["AIR", "MINDIR"]中选择。
推理过程
推理
在进行推理之前我们需要先导出模型。mindir可以在任意环境上导出，air模型只能在昇腾910环境上导出。以下展示了使用mindir模型执行推理的示例。
-
在昇腾310上使用ImageNet-1k数据集进行推理
推理的结果保存在scripts目录下，在acc.log日志文件中可以找到类似以下的结果。
# Ascend310 inference bash run_infer_310.sh [MINDIR_PATH] [DATASET_NAME] [DATASET_PATH] [DEVICE_ID] Top1 acc: 0.72242 Top5 acc: 0.90734
模型描述
性能
评估性能
ImageNet-1k上的repvgg训练
| 参数 | Ascend |
|---|---|
| 模型 | RepVGG |
| 模型版本 | RepVGG-A0 |
| 资源 | Ascend 910 |
| 上传日期 | 2022-03-12 |
| MindSpore版本 | 1.3.0 |
| 数据集 | ImageNet-1k Train，共1,281,167张图像 |
| 训练参数 | epoch=180, batch_size=512 |
| 优化器 | Momentum |
| 损失函数 | CrossEntropySmooth |
| 损失 | 2.104 |
| 输出 | 概率 |
| 分类准确率 | 八卡：top1:72.938% top5:90.902% |
| 速度 | 8卡：416.189毫秒/步 |
| 训练耗时 | 8h06min16s（run on ModelArts） |
推理性能
ImageNet-1k上的repvgg推理
| 参数 | Ascend |
|---|---|
| 模型 | RepVGG |
| 模型版本 | RepVGG-A0 |
| 资源 | Ascend 310 |
| 上传日期 | 2022-03-12 |
| MindSpore版本 | 1.3.0 |
| 数据集 | ImageNet-1k Val，共50,000张图像 |
| 分类准确率 | top1:72.242%,top5:90.734% |
| 速度 | 平均耗时2.90996 每张 |
| 推理耗时 | 约10min |
ModelZoo主页
请浏览官网主页
No Description
Python C++ Shell Text
Contributors (1)
