• GCU_PaddlePaddle
• • 1. 派生项目
  • 2. 创建训练任务
  • 3. 启动训练任务
  • 4. 如何跑出模型精度
  • 5. 对于示例代码有任何问题，欢迎在本项目中提issue

GCU_PaddlePaddle

• 本项目以GCU + PaddlePaddle2.5.1框架单卡/多卡 deeplabv3、wide_deep、bert_large、transformer等基础示例，旨在为AI开发者提供启智CV、NLP等多场景的训练参考。

1. 派生项目

• 派生项目指创建一个示例代码仓的副本到你的账户下
• 你的派生项目与原示例代码仓为两个独立项目，各自的改动不会互相影响，除非你向原项目提出代码变更申请
  gcu_paddlepaddle页面，点击 “派生”，然后按照提示填写内容，选择 “派生项目”。
  
  

2. 创建训练任务

• 以单卡bert_large训练为例，选择 “云脑”->“训练任务”->“新建训练任务”。
  
  

3. 启动训练任务

• 训练任务单卡示例bert_large
• 项目代码存储在 /tmp/code 中，数据集存储在 /tmp/dataset 中，预训练模型存储在 /tmp/pretrainmodel 中，训练输出请存储在 /tmp/output 中以供后续下载

【基础信息】
  - 算力集群：智算网络集群
  - 计算资源：燧原GCU
  - 访问Internet：是
  - 资源规格：GCU:1*ENFLAME-T20, CPU:8, 内存：30G （如果是训练8卡需要需要选择8卡资源）
  - 任务名称：run_bert_large（可自定义）
  - 任务描述（可选项）：run_bert_large single card train（可自定义）

【参数配置】
  - 代码分支：master
  - 选择模型（可选项）：none
  - 镜像：enflame_py3_train
  - 启动文件：run_bert_large.py  （如果是八卡启动文件填：run_bert_large_8card.py）
  - 数据集：paddle_bert_large.zip，选择数据集->公开数据集->搜索"gcu"->勾选paddle_bert_large.zip
  - 运行参数（可选项）：none

• 部分模型与数据集对应关系如下表：

  模型	对应数据集
  wide_deep	criteo.zip
  Transformer	transformer_paddle.zip
  deeplabv3	VOC2012_pytorch_deepLabV3.zip
  bert_large	paddle_bert_large.zip

4. 如何跑出模型精度

• 以bert_large 分布式8卡为例，其他模型与此类似：
  编辑运行脚本 run_bert_large_8card.py，将脚本由“bert_large_performance.sh”修改为bert_large_convergence.sh

5. 对于示例代码有任何问题，欢迎在本项目中提issue