边缘计算服务商网宿科技近日发布的《边缘计算市场实践与洞察报告》(以下简称《报告》)提出,边缘计算已在实时音视频交互、CDN、云游戏、AR/VR等方面成熟应用。边缘云安全方面,将边缘与安全结合成为产业共识,SASE架构已被广泛部署。在物联网领域,边缘智能解决方案也在工业制造、交通运输、畜牧养殖、智慧城市等场景中实现了应用创新。物联网是边缘计算需求最为旺盛的场景之一,市场会逐步形成垂直行业的边缘智能解决方案,届时技术门槛和成本降低,边缘计算的需求也将顺势增长。
MarketsandMarkets报告显示,全球边缘计算市场规模将从2023年的600亿美元增长至2029年的1106亿美元,复合年增长率达到13%。IDC报告显示,2023下半年,中国边缘云市场规模总计62.6亿元,同比增速36.1%,增速超出预期。
网宿科技边缘平台资深架构师陈云辉表示:AI发展有两大趋势。“一方面,在中心部署的大模型,会往越来越智能、参数越来越大的方向发展;另一方面,在端侧部署的小模型,如手机厂商在做的端侧模型,参数要够小,同时性能也要满足一定程度。而我们认为,AI大模型不只是做端和中心,边缘也有机会。”
陈云辉表示,例如,OpenAI旗下GPT-4o发布,多了一些多模态、人机自然交互的体验。其核心特点除了模型能力的提升外,最重要的是实时性。边缘计算的优势就在于低时延,可以在其中发挥作用。另外,手机设备GPU算力有限,对于部分场景,算力需要外溢。相较于外溢到中心,时延可能要1—2秒,而外溢到边缘侧,位置距离用户更近,时延可能在几百毫秒,才能满足用户对生成式AI实时性互动的需求,体验更自然。
“所以整体来看,AI对边缘计算有两块需求,一个是算力,另一个是推理。推理模型需要部署在边缘侧,未来推理与迭代将在‘云边端’呈现梯次分布。‘云边端’一体化架构也是AI大模型发展的一个趋势。”陈云辉表示。
(文章来源:证券时报网)