腾讯混元 Hy4 preview发布,总参数 770B、激活参数49B
8月28日,腾讯混元发布并开源新一代大语言模型Hy4 preview ,总参数770B、激活参数49B,上下文长度突破1M,在代码、办公、科学等真实生产力任务上有一定突破。
Hy4 preview在模型尺寸、上下文长度、数据规模上都进行了扩展,预训练和后训练水平有智能提升。此外,混元持续与CodeBuddy、WorkBuddy等产品深度协同,优化生产力场景的用户体验。
腾讯方面称,在腾讯内部组织的163名内部专家、203个工程任务的盲测中, Hy4 preview(均分2.99/4)略优于GLM 5.3(均分2.92/4.00)和Kimi K3(均分2.94/4.00)。
Hy4 preview定位“为生产力而生”的模型,通过与软件工程、游戏、金融、安全等高质量数据共建,以及与WorkBuddy 等产品的深度协同(Co-Design),寻求在各类真实生产力任务上进步。
(文章来源:时代周报)