MeRanSeTi
  • Joined on Jun 10, 2021

使用100G中文高质量语料,128张V100,训练的中文Megatron模型,参数量2.6B

Updated 2 years ago Python

中文长下文词语预测(Chinese WPLC)数据集

Updated 2 years ago Python

将盘古α-13B/2.6B由8卡压缩到1卡上推理。

Updated 2 years ago Python

Updated 2 years ago Python

2000亿开源中文预训练语言模型「鹏程·盘古α」

Updated 2 years ago Python