安恒信息王欣:MCP带来新应用但也可能出现新风险
2025年05月12日 11:10
来源: 新京报
东方财富APP

方便,快捷

手机查看财经快讯

专业,丰富

一手掌握市场脉搏

手机上阅读文章

提示:

微信扫一扫

分享到您的

朋友圈

  新京报贝壳财经讯(记者罗亦丹)5月10日,2025中国数谷·西湖论剑大会上,安恒信息高级副总裁、研究院院长王欣发布了《安全智能体魔方:成熟度模型评价研究报告》。

  对于近期各个大厂纷纷接入MCP(Model Context Protocol,模型上下文协议)这一现象,以及其背后可能蕴藏的安全问题,王欣告诉新京报贝壳财经记者,相对于聊天对话等简单模式的大模型产业应用,很多安全场景中大模型需要和安全防御体系相融合。MCP等规范出现后形成了一定生态,这类生态会让大模型、智能体、软件世界的安全防御体系做出更好的融合。

  “MCP是一种协议,过去计算机发展的过程中,许多协议最初并没有安全设计,MCP也是如此。因此会产生一些风险,例如当MCP+大模型组合使用时,如果存在配置不当,可能会导致正常大模型的价值观对齐防御体系失效,从而变成恶意大模型。”王欣说。

  王欣表示,随着MCP的出现,大模型和物理软件世界连接增多,可能带来各种各样新的场景应用,但也可能出现新的安全问题,“在这个过程中我们会不断地持续研究这个方向,尽量保证用户在使用大模型时尽可能地安全。”

(文章来源:新京报)

文章来源:新京报 责任编辑:6
原标题:安恒信息王欣:MCP带来新应用但也可能出现新风险
郑重声明:东方财富发布此内容旨在传播更多信息,与本站立场无关,不构成投资建议。据此操作,风险自担。
举报
分享到微信朋友圈

打开微信,

点击底部的“发现”

使用“扫一扫”

即可将网页分享至朋友圈

扫描二维码关注

东方财富官网微信


扫一扫下载APP

扫一扫下载APP
信息网络传播视听节目许可证:0908328号 经营证券期货业务许可证编号:913101046312860336 违法和不良信息举报:021-61278686 举报邮箱:jubao@eastmoney.com
沪ICP证:沪B2-20070217 网站备案号:沪ICP备05006054号-11 沪公网安备 31010402000120号 版权所有:东方财富网 意见与建议:4000300059/952500