Are you sure you want to delete this task? Once this task is deleted, it cannot be recovered.
kw717 b7e05eae02 | 1 year ago | |
---|---|---|
.idea | 1 year ago | |
src | 1 year ago | |
README.md | 1 year ago | |
README_CN.md | 1 year ago | |
__init__.py | 1 year ago | |
eval.py | 1 year ago | |
export.py | 1 year ago | |
postprocess.py | 1 year ago | |
preprocess.py | 1 year ago | |
requriments.txt | 1 year ago | |
train.py | 1 year ago | |
unit_test.py | 1 year ago |
PVTv2是针对PVT的升级,针对PVT存在的不足提出了三点改进(1)采用卷积提取局部连续特征;(2)带zero-padding 的重叠块嵌入提取位置信息编码;(3)带均值池化、线性复杂度的注意力层。受益于上述三点改进措施,所得PVTv2取得了显著优于PVTv1的性能,同时具有比Swin更佳的性能。
论文: PVTv2: Improved Baselines with Pyramid Vision Transformer
pvtv2的总体网络架构如下:
使用的数据集:ImageNet2012
└─dataset
├─train # 训练数据集
└─val # 评估数据集
采用混合精度的训练方法使用支持单精度和半精度数据来提高深度学习神经网络的训练速度,同时保持单精度训练所能达到的网络精度。混合精度训练提高计算速度、减少内存使用的同时,支持在特定硬件上训练更大的模型或实现更大批次的训练。
以FP16算子为例,如果输入数据类型为FP32,MindSpore后台会自动降低精度来处理数据。用户可打开INFO日志,搜索“reduce precision”查看精度降低的算子。
.
└─pvt2
├─README_CN.md
├─ascend310_infer # 实现310推理源代码
├─scripts
├─run_standalone_train.sh # 启动Ascend单机训练(单卡)
├─run_distribute_train.sh # 启动Ascend分布式训练(8卡)
├─run_infer_310.sh # Ascend推理shell脚本
└─run_eval.sh # 启动Ascend评估
├─src
├─dataset.py # 数据预处理
├─inception_v2.py # 网络定义
├─loss.py # 自定义交叉熵损失函数
├─lr_generator.py # 学习率生成器
└─config.py # 获取gpu、Ascend、cpu配置参数
├─eval.py # 评估网络
├─export.py # 导出 AIR,MINDIR模型的脚本
├─postprogress.py # 310推理后处理脚本
└─train.py # 训练网络
#train.py和config.py中主要参数如下:
'platform' # 运行平台
'random_seed' # 修复随机种子
'rank' # 分布式的本地序号
'group_size' # 分布式进程总数
'work_nums' # 读取数据的worker个数
'decay_method' # 学习率调度器模式
"loss_scale" # 损失等级
'batch_size' # 输入张量的批次大小
'epoch_size' # 总轮次数
'num_classes' # 数据集类数
'ds_type' # 数据集类型,如:imagenet
'ds_sink_mode' # 使能数据下沉
'smooth_factor' # 标签平滑因子
'lr_init' # 初始学习率
'lr_max' # 最大学习率
'lr_end' # 最小学习率
'warmup_epochs' # 热身轮次数
'weight_decay' # 权重衰减
'momentum' # 动量
'opt_eps' # epsilon
'keep_checkpoint_max' # 保存检查点的最大数量
'ckpt_path' # 保存检查点路径
'is_save_on_master' # 保存Rank0的检查点,分布式参数
'dropout_keep_prob' # 保持率,介于0和1之间,例如keep_prob = 0.9,表示放弃10%的输入单元
'has_bias' # 层是否使用偏置向量
'amp_level' # `mindspore.amp.build_train_network`中参数`level`的选项,level表示混合
# 精准训练支持[O0, O2, O3]
更多配置细节请参考脚本config.py
。 通过官方网站安装MindSpore后,您可以按照如下步骤进行训练和评估:
Ascend处理器环境运行
# 使用python启动单卡训练
python train.py --device_num 1 --platform Ascend --data_url ./Imagenet --train_url ./Train_out > train.log 2>&1 &
# 使用脚本启动单卡训练
bash scripts/run_standalone_train.sh [DEVICE_ID] [DATASET_PATH] [TRAIN_OUTPUT_PATH] [PRE_TRAINED_PATH](optional)
# 使用脚本启动多卡训练
bash scripts/run_distribute_train.sh [RANK_TABLE_FILE] [DATASET_PATH] [TRAIN_OUTPUT_PATH] [PRE_TRAINED_PATH](optional)
# 使用python启动单卡运行评估示例
python eval.py --data_url ./Imagenet --platform Ascend --checkpoint ./ckpt_0/inceptionv2-rank0-250_1251.ckpt > ./eval.log 2>&1 &
# 使用脚本启动单卡运行评估示例
bash scripts/run_eval.sh [DEVICE_ID] [DATASET_PATH] [CHECKPOINT_PATH]
# 运行推理示例
bash run_infer_310.sh [MINDIR_PATH] [DATASET_NAME(imagenet2012)] [DATASET_PATH] [DEVICE_ID(optional)]
对于分布式训练,需要提前创建JSON格式的hccl配置文件。
请遵循以下链接中的说明:
python export.py --ckpt_file [CKPT_FILE] --device_target [DEVICE_TARGET] --file_format [FILE FORMAT]
导出的模型会以模型的结构名字命名并且保存在当前目录下
在进行推理之前我们需要先导出模型。mindir可以在任意环境上导出,air模型只能在昇腾910环境上导出。以下展示了使用mindir模型执行推理的示例。
在昇腾310上使用ImageNet-1k数据集进行推理
推理的结果保存在scripts目录下,在acc.log日志文件中可以找到类似以下的结果。
# Ascend310 inference
bash run_infer_310.sh [MINDIR_PATH] [DATA_PATH] [DEVICE_ID]
Total data: 50000, top1 accuracy: 76.22%
Model | Context | Top-1 (%) | Train T. | Config |
---|---|---|---|---|
PVT_v2_b0 | D910x8-G | 70.7 | 289ms/step | cfg |
PVT_v2_b1 | D910x8-G | 79.0 | 310ms/step | cfg |
PVT_v2_b2 | D910x8-G | 82.1 | 433ms/step | cfg |
PVT_v2_b3 | D910x8-G | 83.1 | 609ms/step | cfg |
PVT_v2_b4 | D910x8-G | 83.3 | 460ms/step | cfg |
PVT_v2_b5 | D910x8-G | 83.0 | 491ms/step | cfg |
请浏览官网主页
No Description
Text Python Markdown
Dear OpenI User
Thank you for your continuous support to the Openl Qizhi Community AI Collaboration Platform. In order to protect your usage rights and ensure network security, we updated the Openl Qizhi Community AI Collaboration Platform Usage Agreement in January 2024. The updated agreement specifies that users are prohibited from using intranet penetration tools. After you click "Agree and continue", you can continue to use our services. Thank you for your cooperation and understanding.
For more agreement content, please refer to the《Openl Qizhi Community AI Collaboration Platform Usage Agreement》