全球瞩目下,生成式AI正在开创一个全新时代。其引入的丰富应用和场景,在推动多项前沿技术深度融合的同时,也在为各行业带来巨大商业价值。麦肯锡报告显示,全球范围内,生成式AI技术每年将实现2.6万亿—4.4万亿美元的总体经济效益增长。
其中,大模型的推出与普及,成为此轮生成式AI浪潮最为夺目的标志。随着5G普及,大模型正从云端加速进入边缘和终端侧。囊括智能手机、PC、汽车、XR、物联网等在内的数十亿个终端,经由AI加持,正在焕发新的生命力,并带来丰厚的市场潜力。
作为全球移动通信领域深耕多年的行业领跑者,高通成为此轮投身终端侧AI普及最为积极的玩家。
“终端侧AI将成为推动生成式AI规模化扩展的关键所在。”在7月4日举行的2024世界人工智能大会上,高通公司中国区董事长孟樸指出,超过15年的AI研发经验,让高通公司拥有持续引领终端侧AI创新能力,能够为终端设备提供最佳的硬件和软件,具有卓越的异构计算能力。
截至目前,高通骁龙已成为全球近30亿部智能手机、笔记本电脑、XR设备、汽车、可穿戴设备等终端的核心平台。“这使得高通在部署和推广终端侧AI方面独具优势。”孟樸表示,高通目前还与多家公司建立了合作,致力为开发者提供支持,进一步推动AI在各行业的应用创新。
加速终端侧AI规模化扩展
过去一年,以ChatGPT为代表的AI大模型发展夺尽眼球,伴随其衍生的技术变革,使AI的计算重心正在从云端向终端迁移。从智能手机、个人电脑(PC)、汽车到各种网络边缘终端,算力的下沉使得这些终端也能够进行AI加速计算。同时,AI能够本地运行,并根据用户需求与云端交互,人机交互将变得更自然、更即时、更加个性化,隐私性也更有保障。
此外,高通公司首席财务官兼首席运营官Akash Palkhiwala指出,在云端运行生成式AI用例,需要消耗非常昂贵的云资源,而终端侧的计算能力却闲置、有待利用。因此,成本带来的优势,使得利用终端侧的算力来驱动生成式AI用例成为非常合适的选择。
在高通看来,智能终端让AI成为无处不在的个人助理,推动终端与云端融合,为智能手机带来新的互动方式,为下一代PC带来强大的AI能力,让汽车成为全新的运算空间,各大场景合力推动智能终端市场迎来新的增长动力。
面对这一趋势,高通正在推动智能手机、PC、汽车为代表的终端成为生成式AI规模化扩展的重要载体。《中国经营报》记者在本届世界人工智能大会上看到,高通在大会现场带来了涵盖智能手机、PC、汽车、物联网在内的AI终端成果,展示了其与众多生态伙伴以终端侧AI赋能产业合作创新的努力和实践。
智能手机方面,高通推出了第三代骁龙8移动平台,最高可以支持100亿参数的生成式AI模型。目前包括小米、荣耀、一加、OPPO、vivo、三星等在内,已有超过20款搭载该平台的旗舰手机产品发布,支持丰富的生成式AI用例。
AI PC方面,高通则先后发布了骁龙X Elite和骁龙X Plus平台,凭借高达45TOPS算力的NPU,为PC带来了全新AI体验。截至目前,高通携手微软和众多生态伙伴,已推出超过20款由骁龙X系列独家支持的首批Windows 11 AI PC。
在汽车领域,目前基于骁龙8295座舱平台,包括理想、小鹏、极越等在内的多家厂商,已经发布了其打造的车端大模型功能,这使得“AI上车”成为现实。今年5月底,高通还在中国举办了以汽车为主题的生态大会,与众多产业伙伴共同呈现了60多个创新技术和超过185项产品演示,已实现“越来越聪明的车”行驶在“越来越智慧的路”上。
更为有利的是,据IDC预计,2027年中国新一代AI手机出货量将达到1.5亿台,市场份额超过50%。同时,在PC方面,咨询公司预计,AI PC的渗透率将从2024年的2%上升到2028年的65%。此外,随着多模态技术的发展,生成式AI有望为智能座舱、自动驾驶等领域开辟全新应用前景。
“如果将20%的生成式AI工作负载转移到终端侧,预计到2028年,将节省160亿美元的计算资源成本。”孟樸表示,这一终端与云端的紧密结合,将成为推动生成式AI规模化扩展、加速数字化转型的关键所在,而这正是高通致力实现的目标。
连接优势助力AI端云协同
从云到端,AI的高效协同需要“连接”作为基础,这让以5G为代表的无线连接技术成为终端侧AI普及的的关键底座。身为全球无线通信技术领域的头部玩家,高通在5G领域的积累令其在新一轮AI大潮前更具优势。
Akash指出,无论是计算或AI,都极大地依赖于连接。尤其是在云端、边缘云和终端侧协同的混合AI中,对连接提出了极高要求,必须具备极低时延、极大带宽,连接可靠性。“因此,我们认为连接与计算是密不可分的。因此,当判断哪些公司能够打造生成式AI终端时,连接技术是支持卓越的生成式AI的核心之一。”Akash表示,在这方面,高通独具优势。
这一优势,在5G商用5年、规模领先全球的中国市场体现得更为明显。工信部数据显示,至2024年4月底,中国累计建成5G基站374.8万个,每万人拥有5G基站数超26个,5年来直接带动经济总产出约5.6万亿元,间接带动总产出约14万亿元,5G成为推动经济增长、创新应用和产业升级的核心技术底座。
高通正是中国此轮5G崛起的见证者与重要参与者。早在中国5G商用发牌前,2018年1月,高通就与中国合作伙伴共同发起“5G领航计划”,助力中国手机厂商抓住5G机遇不断开拓国内外市场,并取得良好业绩。截至目前,高通历年的旗舰移动平台全球首发中,已经有一半以上“花落”中国手机厂商。
目前,5G技术演进的第一阶段已经完成,现在已经进入5G-A(即5G Advanced)的阶段,将支持更多增强特性,如面向轻量级物联网终端的RedCap、增强的工业物联网、非地面网络等,推动5G走进更广泛的行业。
“5G技术的演进已经行至中场,5G-A也在加速落地,并支持更多扩展特性,这将使5G走进更广泛的行业和应用。”在日前举行的MWC上海大会期间,孟樸表示,作为5G研发、商用和实现规模化的重要推动力量,高通正在与中国行业伙伴合作,推动5G-A演进,使5G走进更广泛的行业和应用,并为6G奠定技术基础。
记者注意到,在今年年初举行的MWC巴塞罗那期间,高通便推出了全新5G调制解调器及射频系统——骁龙X80。该平台集成专用5G AI处理器和5G Advanced-ready架构,实现包括首次面向智能手机支持6路接收、首个下行六载波聚合等多项全球首创成果,致力实现全新水平的5G性能和体验。
今年6月,高通又携手中国联通完成首次5G-A高低频NR-CA新技术现场验证,并与中国移动终端公司、小米等在内的产业合作伙伴推出了国内首款基于Xiaomi 14 Pro、应用于XR领域的5G-A高频万兆测试平台,为加速5G-A产业成熟和部署奠定了坚实基础。
孟樸指出,5G-A与AI的协同发展,正在助力释放彼此更大的技术潜能,催生革命性的技术进步和应用创新,加速新质生产力的发展和各行各业的数智化转型。高通将继续携手更多产业伙伴,推动5G-A与AI的双向赋能,开启数智发展新价值空间。
携手生态推动智算无处不在
除了展示多项终端产品外,高通还在世界人工智能大会通过多场论坛,分享了在AI领域取得的众多创新成果,以及对于人工智能产业发展的新思考。在多项前沿技术演示中,高通从AI基础技术研究、领先产品应用和未来行业赋能愿景等多个角度,展现了在终端侧AI领域的技术、产品和生态领导力。
在人工智能赋能新型工业化主题论坛上,高通公司中国区研发负责人徐晧介绍了AI在边缘侧终端结合,进一步加速企业创新和数字化转型的案例。以工业场景中的机器人用例为例,徐晧表示,现在的机器人主要利用计算机视觉或者深度学习完成理解和功能执行。但随着生成式AI突破性发展,未来机器人能够理解我们提出的要求,加上机器人学科实现的出色定位、导航和机械臂控制,可以打造非常智能的应用。
“结合5G与AI,机器人能够实现网络连接,赋能运维和质检等生产环节,打造更加智能和现代化的工业环境。”徐晧表示,异构计算、量化压缩等技术手段能帮助云端大模型落地终端,从而赋能广泛的工业应用。5G与AI相结合,将助力打造更加智能的工业环境。
同时,在大会现场,基于第三代骁龙8移动平台的强大AI能力,高通还带来了首个在Android智能手机上运行的大语言和视觉助理大模型(LLaVa)技术演示。据高通工作人员介绍,LLaVa多模态大模型能够赋能诸多用例,如识别和讨论复杂的视觉图案、物体和场景,并增强了隐私、可靠性、个性化和成本优势。
而为了推动生成式AI实现规模化扩展,提供情境化、定制化和个性化的体验,高通还实现了在安卓智能手机上运行LoRA(Low-Rank Adaptation)模型。据悉,通过LoRA适配器减少模型可训练参数量,可以降低训练成本,提高模型在特定任务上的准确性,从而支持在终端侧实现更高效、可扩展和定制化的AI应用。高通表示,LoRA和多模态AI将是终端侧生成式AI未来发展的关键技术范例。
种种创新,也预示着高通正在迈向新的转型。“创新是高通的DNA。”Akash指出,高通身处一个永不止步的行业,这个行业时刻都可能发生巨变,而创新让高通能与行业一同变革。
孟樸则表示,2021年高通就首次提出“5G+AI赋能千行百业”,如今,随着大模型的推出以及AI在云端、边缘和终端侧的广泛应用,再加上5G飞速发展,产业界更加清晰地看到了这些技术背后所蕴含的丰富发展机遇。
“高通公司始终秉持创新驱动的发展理念,不断推动AI研发、硬件开发和软件优化,并致力于为开发者提供全方位的支持。我们的目标是深入全球众多行业,推动技术进步与应用创新,让智能计算无处不在。”孟樸进一步强调。
(文章来源:中国经营网)