PCL-张晗 Hanlard

基于人工反馈增强盘古2.6B模型

Updated 1 year ago Text

鹏程-通言模型 通言模型是在M2M-100模型结构上进行改进的多语种机器翻译模型,通过参数复用和增量式训练,将模型参数从1.2B提升至13.2B,在一带一路多个小语种的翻译上大幅提升。

Updated 2 years ago Text

使用100G中文高质量语料,128张V100,训练的中文Megatron模型,参数量2.6B

Updated 2 years ago Python