我国日均词元调用量已突破500万亿 AI算力紧张有新解法
2026年11月17日 22:23
来源: 央视财经
小 中 大
东方财富APP

方便,快捷

手机查看财经快讯

专业,丰富

一手掌握市场脉搏

  最新数据显示,国内日均词元调用量已突破500万亿,算力市场需求暴涨。

  智能算力短期补不上,只能向存量要效益。2025年,郑纬民院士团队研发的大模型推理系统Mooncake拿下埃里克里德尔最佳论文奖,核心就是用PD分离技术盘活存量算力,用软件调度把现有算力用足。据悉,P负责“读入用户问题”,D负责“生成回答”。传统方式下,同一批算力轮流干两件事;PD分离让一组只读题,把结果传给另一组专门答题。同样硬件规模下,系统多承接75%的用户请求,长文本吞吐能力提升五倍以上。

  真正的突破,不是一味堆硬件,而是把手里的算力用好、用精。

(文章来源:央视财经)

文章来源:央视财经 责任编辑:98
郑重声明:东方财富发布此内容旨在传播更多信息,与本站立场无关,不构成投资建议。据此操作,风险自担。
举报
分享到微信朋友圈

打开微信,

点击底部的“发现”

使用“扫一扫”

即可将网页分享至朋友圈

扫描二维码关注

东方财富官网微信


扫一扫下载APP

扫一扫下载APP
信息网络传播视听节目许可证:0908328号 经营证券期货业务许可证编号:913101046312860336 违法和不良信息举报:021-61278686 举报邮箱:jubao@eastmoney.com
沪ICP证:沪B2-20070217 网站备案号:沪ICP备05006054号-11 沪公网安备 31010402000120号 版权所有:东方财富网 意见与建议:4000300059/952500