高通公司孟樸:终端侧AI创新让智能计算无处不在
2024年07月05日 11:19
作者: 严曦梦 宋薇萍
来源: 上海证券报·中国证券网
东方财富APP

方便,快捷

手机查看财经快讯

专业,丰富

一手掌握市场脉搏

手机上阅读文章

提示:

微信扫一扫

分享到您的

朋友圈

  上证报中国证券网讯(记者严曦梦宋薇萍)高通公司中国区董事长孟樸在2024世界人工智能大会期间表示,近年来,生成式AI的兴起带来了新的应用和场景,为AI普及提供了广阔的空间,也为各个行业创造了巨大的商业价值。终端与云端的紧密结合,将成为推动生成式AI规模化扩展、加速数字化转型的关键所在。

  终端侧AI创新前景广阔

  “过去几十年,人工智能经历了多个发展阶段,每个阶段都呈现了独特的挑战和机遇。特别是近年来,生成式AI的兴起带来了新的应用和场景,为AI普及提供了广阔的空间,也为各个行业创造了巨大的商业价值。”孟樸说。

  根据麦肯锡的报告,生成式AI每年将为60多个用例,在全球范围内带来2.6万亿至4.4万亿美元的经济效益增长。

  孟樸表示,虽然当前生成式AI的研发和应用主要集中在云端,并且云计算仍将发挥重要作用,但如果将20%的生成式AI工作负载转移到终端侧,预计到2028年将节省160亿美元的计算资源成本。

  这种终端与云端的紧密结合,将成为推动生成式AI规模化扩展、加速数字化转型的关键所在。同时,为了推动生成式AI的广泛应用,也需要将其能力延伸到日常使用的智能设备上,如智能手机、移动PC和智能网联汽车等。

  孟樸表示,实现生成式AI在终端上的落地,将创新转化为极具实用性的应用和体验,需要在终端侧打造高性能AI处理器。此外,还需要对生成式AI模型进行训练优化,使其体量越来越小,效率越来越高,不断向终端侧迁移。

  “随着 ‘小型’生成式AI模型质量的提高,我们现在能够在终端设备上运行与云端大模型相当、甚至更好的AI模型。这一进展为在终端设备上部署高质量的生成式AI打开了大门。”孟樸说。

  高通持续引领终端侧AI创新

  高通公司持续引领终端侧AI创新,拥有超过15年的AI研发经验。孟樸表示,高通赋能了全球数十亿终端,涵盖手机、PC、汽车、扩展现实、网络和物联网终端等,在部署和推广终端侧AI方面独具优势。此外,高通还与多家公司建立了合作,为开发者提供支持,进一步推动AI在各行业的应用创新。

  在手机方面,高通推出了第三代骁龙8移动平台,最高可以支持100亿参数的生成式AI模型。目前包括小米、荣耀、一加、OPPO、vivo、三星等在内,已有超过20款搭载该平台的旗舰手机产品发布,支持丰富的生成式AI用例。

  在PC方面,高通先后发布了骁龙X Elite和骁龙X Plus平台,凭借高达45TOPS算力的NPU,为PC带来了全新AI体验。截至目前,高通携手微软和众多生态伙伴,已推出超过20款由骁龙X系列独家支持的首批Windows 11 AI PC。

  在汽车领域,“AI上车”正成为现实。目前,基于骁龙8295座舱平台,包括理想、小鹏、极越等在内的多家厂商,已经发布了其打造的车端大模型功能。随着多模态技术的发展,生成式AI有望为智能座舱、自动驾驶等领域开辟全新应用前景。今年5月底,高通连续第二年在中国举办了以汽车为主题的生态大会,与众多产业伙伴共同呈现了60多个创新技术和超过185项产品演示,支持“越来越聪明的车”行驶在“越来越智慧的路”上。

  愿景:让智能计算无处不在

  “我们的目标是通过与全球合作伙伴紧密协作,让智能计算无处不在。”孟樸表示,高通始终秉持创新驱动的发展理念,不断推动AI研发、硬件开发和软件优化,并致力于为开发者提供全方位支持。

  2021年,高通首次提出“5G+AI赋能千行百业”。如今,随着大模型的推出以及AI在云端、边缘和终端侧的广泛应用,再加上5G的飞速发展,高通更加清晰地看到了这些技术背后所蕴含的丰富发展机遇。

  生成式AI除了利用文本之外,还可以使用更多其他模态学习,这正是多模态生成式AI模型发挥的作用。今年2月,高通展示了全球首个在Android手机上运行的多模态大模型(LMM),可基于图像输入生成多轮对话。具有语言理解和视觉理解能力的多模态大模型,将赋能诸多用例。

  为推动生成式AI实现规模化扩展,提供情境化、定制化和个性化的体验,高通还实现了在Android智能手机上运行LoRA(Low-Rank Adaptation)模型。通过LoRA适配器减少模型可训练参数量,可以降低训练成本,提高模型在特定任务上的准确性,从而支持在终端侧实现更高效、可扩展和定制化的AI应用。“LoRA和多模态AI是终端侧生成式AI未来发展的关键技术范例。”孟樸说。

(文章来源:上海证券报·中国证券网)

文章来源:上海证券报·中国证券网 责任编辑:6
原标题:高通公司孟樸:终端侧AI创新让智能计算无处不在
郑重声明:东方财富发布此内容旨在传播更多信息,与本站立场无关,不构成投资建议。据此操作,风险自担。
举报
分享到微信朋友圈

打开微信,

点击底部的“发现”

使用“扫一扫”

即可将网页分享至朋友圈

扫描二维码关注

东方财富官网微信


扫一扫下载APP

扫一扫下载APP
信息网络传播视听节目许可证:0908328号 经营证券期货业务许可证编号:913101046312860336 违法和不良信息举报:021-61278686 举报邮箱:jubao@eastmoney.com
沪ICP证:沪B2-20070217 网站备案号:沪ICP备05006054号-11 沪公网安备 31010402000120号 版权所有:东方财富网 意见与建议:4000300059/952500