网宿科技发布面向AIGC的一站式边缘智能解决方案
2024年06月28日 15:04
作者: 李雁争
来源: 上海证券报·中国证券网
东方财富APP

方便,快捷

手机查看财经快讯

专业,丰富

一手掌握市场脉搏

手机上阅读文章

提示:

微信扫一扫

分享到您的

朋友圈


K图 300017_0

  上证报中国证券网讯(记者李雁争)在近日召开的全球边缘计算大会上,网宿科技发布面向AIGC的一站式边缘智能解决方案。该方案降低了AIGC应用的落地门槛,可帮助用户以低成本、高效率的方式实现AI应用创新。

  图说:网宿科技边缘智能平台资深架构师陈云辉代表网宿科技发布面向AIGC的一站式边缘智能解决方案(李雁争摄)

  网宿科技边缘智能平台资深架构师陈云辉说,当前,尽管国内基础大模型百花齐放,为用户提供了丰富的选择。但是真正使用时,企业用户需要对比开源模型和云服务商的推理成本与性能评估,考虑系统的安全性、敏感词过滤等,这些因素都制约了大模型落地。

  作为领先的边缘计算企业,网宿科技近年来对AIGC展开了持续探索,逐步形成了涵盖Serverless GPU、AI网关、模型微调与推理服务的一站式边缘智能解决方案。

  据介绍,网宿Serverless GPU为用户提供高度可扩展、按需使用的GPU算力资源服务,主要适用于多种计算密集型任务,如AI模型推理、音视频加速生产、图形加速等。基于网宿丰富的GPU算力资源,结合Serverless K8S和GPU加速的优势,用户无需管理GPU服务器和K8S,只需上传容器镜像即可方便快捷运行AI应用。

  “Serverless GPU除了拥有免运维的特性外,由于GPU资源是放在边缘侧,离用户更近,更贴近业务边缘,具有低时延优势。并且,通过按需分配和GPU虚拟化技术,提高了GPU资源的利用率,可以有效降低用户的GPU使用成本。”陈云辉表示。

  陈云辉判断,未来,大模型会演变成基础设施,就像现在的操作系统、大数据平台一样,虽然用户感知不明显,但为各种应用提供基础性和通用性的支持。与此同时,开源能力也会越来越强。

(文章来源:上海证券报·中国证券网)

文章来源:上海证券报·中国证券网 责任编辑:6
原标题:网宿科技发布面向AIGC的一站式边缘智能解决方案
郑重声明:东方财富发布此内容旨在传播更多信息,与本站立场无关,不构成投资建议。据此操作,风险自担。
举报
分享到微信朋友圈

打开微信,

点击底部的“发现”

使用“扫一扫”

即可将网页分享至朋友圈

扫描二维码关注

东方财富官网微信


扫一扫下载APP

扫一扫下载APP
信息网络传播视听节目许可证:0908328号 经营证券期货业务许可证编号:913101046312860336 违法和不良信息举报:021-61278686 举报邮箱:jubao@eastmoney.com
沪ICP证:沪B2-20070217 网站备案号:沪ICP备05006054号-11 沪公网安备 31010402000120号 版权所有:东方财富网 意见与建议:4000300059/952500