11月3日,上海移远通信技术股份有限公司(以下简称“移远通信”)与高通公司宣布,将进一步深化终端侧人工智能(AI)领域合作。双方将依托高通AIHub中国版(面向终端侧人工智能应用的模型开发与部署平台)的模型资源及开发工具,结合移远通信在智能硬件和AI开放平台方面的技术能力,共同构建端侧AI开发生态,推动生成式AI及智能体应用在物联网、个人电脑、智能汽车、扩展现实(XR)设备等终端落地。
据了解,高通AIHub中国版提供超过230个AI及生成式AI模型,相关模型已针对高通平台进行预优化,可利用中央处理器(CPU)、图形处理器(GPU)及神经网络处理器(NPU)的硬件加速能力,提高模型推理效率,降低内存占用及能耗。
目前,移远通信多款AI生态开发板、工业控制板及高算力模组已完成与高通AIHub中国版的模型适配验证。其中,搭载高通跃龙QCS6490平台的QuectelPiH1单板电脑,已成功运行Real-ESRGANx4plus视频超分辨率模型,初步实现在线视频实时超分辨率处理。此外,移远通信其他多款高算力产品也正在推进模型验证,相关产品算力覆盖每秒12万亿次至77万亿次运算(TOPS)。
在开发工具方面,双方已打通高通AIHub中国版与移远AI开放平台,形成覆盖模型获取、转换优化、推理部署及硬件验证的开发流程。开发者可通过移远通信的ModelForge模型优化工具、ModelInfer推理引擎及AIPlayground体验平台,完成模型适配和实际运行效果验证。
移远通信首席运营官张栋表示,双方将进一步推动端侧AI技术与智能硬件结合,将模型能力转化为可量产、可复制的行业应用方案。未来,公司还将根据高通芯片产品路线图,持续扩大硬件兼容模型范围,降低端侧AI应用开发门槛。
(文章来源:证券日报)