浙商证券:DeepSeek遭网络攻击揭示AI大模型安全隐患
2025年02月13日 11:05
来源: 财中社
东方财富APP

方便,快捷

手机查看财经快讯

专业,丰富

一手掌握市场脉搏

手机上阅读文章

提示:

微信扫一扫

分享到您的

朋友圈

  财中社2月13日电浙商证券发布计算机行业点评报告。文中指出DeepSeek遭受网络攻击,暴露大模型安全防护需求。

  近期DeepSeek遭受的持续性网络攻击,揭示了AI大模型在数据安全领域的核心风险。攻击者通过DDoS攻击、僵尸网络(如HailBot和RapperBot)及暴力破解等手段,不仅导致服务中断,更可能引发用户数据泄露风险。例如,攻击期间曾出现ClickHouse数据库泄露事件,涉及用户聊天记录、API密钥等敏感信息。此外,思科研究团队发现,DeepSeek-R1模型在提示词干扰测试中攻击成功率达100%,暴露出模型自身在内容安全过滤和逻辑隔离方面的漏洞。

  在大模型使用过程中,API接口成为攻击者重点目标。攻击者利用HTTP代理攻击、僵尸网络请求等手段,通过API接口发起海量调用,导致服务资源耗尽,甚至触发算力资源黑洞效应。这一现象表明,大模型开放的API接口在提升业务灵活性的同时,也引入了新的攻击面。

  浙商证券认为,用户侧需关注的API安全防护方向包括:1)身份认证与权限管控:强化API密钥的动态管理,结合多因素认证(MFA)限制非法调用;2)流量监测与限流熔断:部署AI驱动的异常流量检测系统,实时识别并阻断DDoS攻击;3)模型交互层安全:通过提示词注入检测、推理过程沙箱化等技术,防止攻击者操控模型输出。此外,DeepSeek因攻击暂停API服务充值的行为,进一步凸显了API可用性与安全性的平衡难题,需从弹性架构设计(如多区域分布式部署)和动态资源调配入手,提升业务连续性。

  多家安全厂商宣布将DeepSeek模型集成至自身安全产品中,实现“AI+安全”的双向赋能。

  一方面,大模型能力可以赋能安全产品。通过大模型的自然语言处理与逻辑推理能力,提升威胁检测效率。另一方面,网安厂商的安全能力可以反哺AI平台。安全厂商通过渗透测试、漏洞挖掘等技术,帮助AI企业加固模型与基础设施,形成良性生态循环。浙商证券认为,结合大模型的自动化安全运营(如智能策略生成、攻击链预测)有望成为行业标配,同时催生针对AI模型安全的细分赛道。

(文章来源:财中社)

文章来源:财中社 责任编辑:6
原标题:浙商证券:DeepSeek遭网络攻击揭示AI大模型安全隐患
郑重声明:东方财富发布此内容旨在传播更多信息,与本站立场无关,不构成投资建议。据此操作,风险自担。
举报
分享到微信朋友圈

打开微信,

点击底部的“发现”

使用“扫一扫”

即可将网页分享至朋友圈

扫描二维码关注

东方财富官网微信


扫一扫下载APP

扫一扫下载APP
信息网络传播视听节目许可证:0908328号 经营证券期货业务许可证编号:913101046312860336 违法和不良信息举报:021-61278686 举报邮箱:jubao@eastmoney.com
沪ICP证:沪B2-20070217 网站备案号:沪ICP备05006054号-11 沪公网安备 31010402000120号 版权所有:东方财富网 意见与建议:4000300059/952500