华为开源两个盘古大模型
今日华为宣布开源盘古70亿参数的稠密模型、盘古Pro MoE 720亿参数的混合专家模型和基于昇腾的模型推理技术。
这也是华为首次释放大模型开源的信号。华为表示,这是华为昇腾生态战略的又一关键举措,推动大模型技术的研究与创新发展。
目前,盘古Pro MoE 72B模型权重、基础推理代码,以及基于昇腾的超大规模MoE模型推理代码,均已正式上线开源平台。盘古7B相关模型权重与推理代码将于近期上线开源平台。
(文章来源:21世纪经济报道)