imyzx

大模型训练过程版本演化分析及工具开源问题:Open Issues in Analysis and Tools for the Evolution of LLM Version in Training Process

Updated 5 months ago Python

鹏城众智AI协同计算平台AISynergy是一个分布式智能协同计算平台。该平台的目标是通过智算网络基础设施使能数据、算力、模型、网络和服务,完成跨多个智算中心的协同计算作业,进而实现全新计算范式和业务场景,如大模型跨域协同计算、多中心模型聚合、多中心联邦学习等。

Updated 6 months ago Java

鹏城·盘古SDK 上线!集成了鹏城·盘古alpha模型、增强版Evolution模型、多语言mPangu模型,欢迎测试和使用。希望鹏城·盘古模型的可持续学习与应用生态快速发展!

Updated 6 months ago Text

2000亿开源中文预训练语言模型「鹏城·盘古α」

Updated 6 months ago Python

百度文心ERNIE3.0模型的PyTorch版本。

Updated 6 months ago Python

支持在鹏城云脑2上,或NPU服务器上,进行盘古2.6B大模型剪枝实验

Updated 2 years ago Python

支持在鹏城云脑2或者其他NPU服务器上,进行盘古大模型的知识蒸馏,目前实验代码为2.6B盘古模型蒸馏出368M

Updated 2 years ago Python