使用100G中文高质量语料,128张V100,训练的中文Megatron模型,参数量2.6B
Updated 2 years ago Python
使用100G中文高质量语料,128张V100,训练的中文Megatron模型,参数量2.6B
Updated 2 years ago Python
中文长下文词语预测(Chinese WPLC)数据集
Updated 2 years ago Python
将盘古α-13B/2.6B由8卡压缩到1卡上推理。
Updated 2 years ago Python
Updated 2 years ago
Updated 2 years ago Python
2000亿开源中文预训练语言模型「鹏程·盘古α」
Updated 2 years ago Python