关于GCU、沐曦GPGPU、MLU、0卡V100资源4月7日恢复上架的公告>>> 关于共建具身智能开源数据集的倡议>>> 关于云脑任务中统一路径访问方式的公告>>> 关于将启智集群GPU资源迁移至智算集群的公告>>>
OpenBMB
/
BMInf
Not watched
8
2
Fork 0
Code
Releases 0 Wiki Activity
Issues 1 Pull Requests 0 Datasets Model Cloudbrain
Issues
/
Detail
Labels Milestones
New Issue

#1 求助，如何部署复现本项目，谢谢。

Open
created 1 year ago by DoraAI · 5 comments
DoraAI commented 1 year ago

#万分抱歉给大家添麻烦！
因工作需要复现该项目，但由于本人太菜。多番搜索周转都未能复现本项目。
现特请求有空的大佬从0入门到正常使用开展指导。
我想要实现的：
1.复现项目；
2.自己添加语料训练（领会微调参数定义）；
3.训练模型后生成文章。

目前特殊原因只能调试好了以后部署在物理隔离的环境训练和生产，特来社区求助，谢谢。
目前准备用于实验的设备：I7+32G内存+3090显卡+固态1T+HDD2T。
我想要通过手册或视频获得教学。

#万分抱歉给大家添麻烦！ 因工作需要复现该项目，但由于本人太菜。多番搜索周转都未能复现本项目。 现特请求有空的大佬从0入门到正常使用开展指导。 我想要实现的： 1.复现项目； 2.自己添加语料训练（领会微调参数定义）； 3.训练模型后生成文章。 目前特殊原因只能调试好了以后部署在物理隔离的环境训练和生产，特来社区求助，谢谢。 目前准备用于实验的设备：I7+32G内存+3090显卡+固态1T+HDD2T。 我想要通过手册或视频获得教学。
❤️ 1
zgy commented 1 year ago
Owner
  1. 复现项目：要实现文本生成可以参考readme中的quick start，运行examples/generate_cpm1.py代码
  2. 添加语料进行微调：BMInf本身不支持全参数微调，可以利用 https://github.com/TsinghuaAI/CPM-1-Finetune 的代码进行微调，然后使用 tools/migrate_cpm1.py 将训练好的checkpoint转换为BMInf需要的checkpoint。
1. 复现项目：要实现文本生成可以参考readme中的quick start，运行examples/generate_cpm1.py代码 2. 添加语料进行微调：BMInf本身不支持全参数微调，可以利用 https://github.com/TsinghuaAI/CPM-1-Finetune 的代码进行微调，然后使用 tools/migrate_cpm1.py 将训练好的checkpoint转换为BMInf需要的checkpoint。
👍 1 ❤️ 1
jctime commented 1 year ago
Owner

我们在b站上线的大模型课程，有BMInf相关的讲解，希望对你有帮助。
https://www.bilibili.com/video/BV1UG411p7zv?p=77&vd_source=cd29f4e20ef69babd26f4f34cc7c8b3f

我们在b站上线的大模型课程，有BMInf相关的讲解，希望对你有帮助。 https://www.bilibili.com/video/BV1UG411p7zv?p=77&vd_source=cd29f4e20ef69babd26f4f34cc7c8b3f
🎉 1 🚀 1
DoraAI commented 1 year ago
Poster
  1. 复现项目：要实现文本生成可以参考readme中的quick start，运行examples/generate_cpm1.py代码
  2. 添加语料进行微调：BMInf本身不支持全参数微调，可以利用 https://github.com/TsinghuaAI/CPM-1-Finetune 的代码进行微调，然后使用 tools/migrate_cpm1.py 将训练好的checkpoint转换为BMInf需要的checkpoint。

谢谢，微调可以用https://github.com/TsinghuaAI/CPM-2-Finetune 吗？

> 1. 复现项目：要实现文本生成可以参考readme中的quick start，运行examples/generate_cpm1.py代码 > 2. 添加语料进行微调：BMInf本身不支持全参数微调，可以利用 https://github.com/TsinghuaAI/CPM-1-Finetune 的代码进行微调，然后使用 tools/migrate_cpm1.py 将训练好的checkpoint转换为BMInf需要的checkpoint。 谢谢，微调可以用https://github.com/TsinghuaAI/CPM-2-Finetune 吗？
DoraAI commented 1 year ago
Poster

我们在b站上线的大模型课程，有BMInf相关的讲解，希望对你有帮助。
https://www.bilibili.com/video/BV1UG411p7zv?p=77&vd_source=cd29f4e20ef69babd26f4f34cc7c8b3f

感谢已经一键三连！

> 我们在b站上线的大模型课程，有BMInf相关的讲解，希望对你有帮助。 > https://www.bilibili.com/video/BV1UG411p7zv?p=77&vd_source=cd29f4e20ef69babd26f4f34cc7c8b3f 感谢已经一键三连！
zgy commented 1 year ago
Owner
  1. 复现项目：要实现文本生成可以参考readme中的quick start，运行examples/generate_cpm1.py代码
  2. 添加语料进行微调：BMInf本身不支持全参数微调，可以利用 https://github.com/TsinghuaAI/CPM-1-Finetune 的代码进行微调，然后使用 tools/migrate_cpm1.py 将训练好的checkpoint转换为BMInf需要的checkpoint。

谢谢，微调可以用https://github.com/TsinghuaAI/CPM-2-Finetune 吗？

可以的，对应的模型代码和checkpoint转换代码需要用cpm2的那一个。

> > 1. 复现项目：要实现文本生成可以参考readme中的quick start，运行examples/generate_cpm1.py代码 > > 2. 添加语料进行微调：BMInf本身不支持全参数微调，可以利用 https://github.com/TsinghuaAI/CPM-1-Finetune 的代码进行微调，然后使用 tools/migrate_cpm1.py 将训练好的checkpoint转换为BMInf需要的checkpoint。 > > 谢谢，微调可以用https://github.com/TsinghuaAI/CPM-2-Finetune 吗？ > > 可以的，对应的模型代码和checkpoint转换代码需要用cpm2的那一个。
Sign in to join this conversation.
No Branch/Tag Specified
Clear branch or tag
Branches Tags
Labels
Apply labels
Clear labels
No items
No Label
Milestone
Set milestone
Clear milestone
No items
No Milestone
Assignees
Assign users
Clear assignees
No Assignees
3 Participants
Notifications
Due Date

No due date set.

Dependencies

This issue currently doesn't have any dependencies.

Write Preview
Loading…
Cancel
Save
There is no content yet.
Delete Branch '%!s(MISSING)'

Deleting a branch is permanent. It CANNOT be undone. Continue?

No
Yes
Please read the following content carefully:

Dear OpenI User

Thank you for your continuous support to the Openl Qizhi Community AI Collaboration Platform. In order to protect your usage rights and ensure network security, we updated the Openl Qizhi Community AI Collaboration Platform Usage Agreement in January 2024. The updated agreement specifies that users are prohibited from using intranet penetration tools. After you click "Agree and continue", you can continue to use our services. Thank you for your cooperation and understanding.

For more agreement content, please refer to the《Openl Qizhi Community AI Collaboration Platform Usage Agreement》

Agree and continue
Disagree, exit