周鸿祎解读Open AI智能体逃逸:AI安全进入“分水岭时刻”
2026年07月24日 20:08
来源: 证券日报
东方财富APP

方便,快捷

手机查看财经快讯

专业,丰富

一手掌握市场脉搏

手机上阅读文章

提示:

微信扫一扫

分享到您的

朋友圈

K图 601360_0

  近期,OpenAI智能体在内部安全测试中突破隔离环境、跨网入侵HuggingFace生产系统的事件持续发酵。360集团创始人周鸿祎将这起事件定义为“AI安全发展的关键分水岭”,并围绕智能体失控风险与行业治理路径发表观点,引发业内广泛讨论。

  针对舆论普遍将本次AI逃逸等同于科幻叙事里“AI觉醒反叛”的认知误区,周鸿祎作出纠正,本次事故并非AI产生自我意识,而是典型的目标驱动型失控,无主观恶意却行为不可预判,具备更为紧迫的现实安全威胁。他特别强调,智能体具备实操能力,如果行业在高速迭代技术的同时持续放宽安全约束,类似的智能体失控、自主攻击事件只会更加频繁。对此,周鸿祎从事前管控、实时监管、源头防御、风险预警、攻防体系、产业发展六个维度,梳理了智能体安全治理思路。

  业内分析,从本次智能体逃逸事故能够看到行业面临的现实挑战:只专注模型研发的企业,很难预判、拦截智能体隐蔽的失控行为;传统安全厂商,又难以吃透大模型与智能体运行逻辑,无法应对全新形态的AI攻击。只有同时具备AI研发能力与网络安全攻防积淀的企业,才能在智能体安全治理方面处于领先优势。

  作为具备二十余年网络安全实战经验与多年AI技术积累的企业,360提前布局AI安全赛道,并基于“以模治模”理念率先搭建起一套智能体安全防护架构。在这套体系中,AI漏洞挖掘系统“图龙锋”聚焦漏洞挖掘与风险前置防护,目前累计挖掘各类漏洞超6000个,经监管机构确认漏洞近200个,覆盖开源代码、操作系统、办公软件、AI智能体平台等多元场景;自动化防御系统“仪天阵”聚焦AI场景下安全运营与自动化防御能力建设,可自主生成风险处置任务、智能研判各类安全告警、跨环节联动完成闭环处置,实现AI安全运营体系向自动化、智能化高效转型。

  周鸿祎提醒,AI技术迭代持续提速,安全风险随之同步放大,留给行业搭建智能体安全治理体系的窗口期十分有限。产业需尽快落地成熟安全方案,补齐智能体安全能力,掌握AI时代网络安全主动权。

(文章来源:证券日报)

文章来源:证券日报 责任编辑:3
原标题:周鸿祎解读Open AI智能体逃逸:AI安全进入“分水岭时刻”
郑重声明:东方财富发布此内容旨在传播更多信息,与本站立场无关,不构成投资建议。据此操作,风险自担。
举报
分享到微信朋友圈

打开微信,

点击底部的“发现”

使用“扫一扫”

即可将网页分享至朋友圈

扫描二维码关注

东方财富官网微信


扫一扫下载APP

扫一扫下载APP
信息网络传播视听节目许可证:0908328号 经营证券期货业务许可证编号:913101046312860336 违法和不良信息举报:021-61278686 举报邮箱:jubao@eastmoney.com
沪ICP证:沪B2-20070217 网站备案号:沪ICP备05006054号-11 沪公网安备 31010402000120号 版权所有:东方财富网 意见与建议:4000300059/952500