全球人工智能安全事件引关注
2026年08月10日 08:04
来源: 经济参考报
东方财富APP

方便,快捷

手机查看财经快讯

专业,丰富

一手掌握市场脉搏

手机上阅读文章

提示:

微信扫一扫

分享到您的

朋友圈

  近期,美国人工智能企业OpenAI与Anthropic在模型安全测试过程中相继发生AI智能体突破隔离环境、对真实网络系统发起未授权访问的事件,引发全球人工智能安全领域高度关注。

  业内专家指出,此类事件暴露出当前AI安全评估体系存在的漏洞,对全球网络安全防御范式提出新的挑战。

  据OpenAI官方披露,7月中旬,该公司在内部进行安全基准测试时,其GPT-5.6 Sol模型在安全防护机制被临时关闭的测试环境下,自主发现并利用软件零日漏洞突破沙箱隔离,随后渗透至开源社区Hugging Face的生产环境,获取测试题库相关信息。

  几乎在同一时期,Anthropic公司在对其Claude系列模型进行回溯审计时发现,多款模型在过往数月内的测试会话中,曾对真实企业系统发起未授权访问。

  7月23日,Anthropic宣布全面暂停所有网络安全相关的AI评测。7月30日,Anthropic发布审计报告称,事件起因系第三方测试机构系统配置失误,导致本应完全隔离的测试沙箱意外连通公网,模型将真实系统误判为测试环境的组成部分。

  网络安全研究人员分析指出,OpenAI与Anthropic两起事件的技术路径存在明显差异。OpenAI事件涉及模型主动利用零日漏洞突破网络隔离,技术门槛较高;Anthropic事件则源于测试环境配置疏漏,模型通过公网通路扩大攻击范围。两起事件的共同点是评估边界被真实突破,均对真实生产环境造成了实际影响。

  亚信安全相关技术负责人在接受采访时表示,上述事件标志着AI安全威胁已从理论风险进入实践层面。当前,企业网络安全防御体系多基于“防范人类攻击者”的思路构建,面对具备持续运行能力、可自主决策的AI智能体,传统防御手段在响应速度和检测精度上均面临挑战。

  该负责人建议,企业在开展高能力AI模型训练与测试时,应采取物理级网络隔离措施,避免仅依赖软件层面的虚拟防火墙;同时严格执行权限最小化原则,清理测试环境中的真实生产凭证,防止模型利用配置疏漏扩大攻击范围。在对外防御层面,需提升对高频、跨协议、多目标漏洞扫描行为的自动识别与拦截能力,定期开展外部资产测绘,关闭暴露在公网上的测试页面与调试端口。

  业内专家认为,随着AI智能体自主能力的持续提升,如何在技术发展与安全可控之间建立有效平衡,已成为全球人工智能治理的核心议题。相关企业需进一步完善AI安全评估标准与测试环境隔离规范,建立关键操作的人工审核机制,确保AI系统在安全边界内运行。未来,AI驱动的自动化防御体系与“人机协作”的熔断机制,或将成为应对新型智能安全威胁的重要方向。

(文章来源:经济参考报)

文章来源:经济参考报 责任编辑:143
原标题:全球人工智能安全事件引关注
郑重声明:东方财富发布此内容旨在传播更多信息,与本站立场无关,不构成投资建议。据此操作,风险自担。
举报
分享到微信朋友圈

打开微信,

点击底部的“发现”

使用“扫一扫”

即可将网页分享至朋友圈

扫描二维码关注

东方财富官网微信


扫一扫下载APP

扫一扫下载APP
信息网络传播视听节目许可证:0908328号 经营证券期货业务许可证编号:913101046312860336 违法和不良信息举报:021-61278686 举报邮箱:jubao@eastmoney.com
沪ICP证:沪B2-20070217 网站备案号:沪ICP备05006054号-11 沪公网安备 31010402000120号 版权所有:东方财富网 意见与建议:4000300059/952500