席卷全球的“蓝屏”事件过去没多久，微软再次发生产品中断问题。30日，微软回应称，该次Azure云应用程序的中断是由分布式拒绝服务网络攻击引发的。事件持续近10个小时，导致数千名用户报告微软服务存在问题。

　　7月31日的ISC.AI 2024第十二届互联网安全大会上，360创始人周鸿祎接受采访时表示，微软“蓝屏”事件提醒大家，数字化使得这个世界更加脆弱。该事件在全球范围内造成这么严重的影响，就是因为数字化发展特别快。

　　周鸿祎认为AI一定会成为坏人的工具，包括编写攻击软件、编写钓鱼网站。网络安全是人跟人的对抗，未来会生成人和机器的对抗，最后发展成机器和机器的对抗。行业必须用AI应对AI升级的安全问题。

　　AI拟声、换脸带来的诈骗事件已经出现。今年一家跨国公司香港分部职员受邀参加总部首席财务官发起的“多人视频会议”，将2亿港元转账到了5个本地银行账户内，但视频会议中只有受害人一个人是“真人”，其他“参会人员”都是经过“AI换脸”后的诈骗人员。

　　Fortinet中国区总经理李宏凯对记者表示，视频造假会造成大规模用户财产和名誉风险损失；AI工具既可以被企业正向使用，也可以被攻击者负面使用，因为AI本身的数据训练具备一定导向性。另外，AI使很多网络攻击变得更容易，如攻击方可以用AI模型训练去找到用户的漏洞，甚至可以用善意的语言让用户以为这是一种自我训练。找到漏洞之后，AI还可以实现很多不同的攻击方式。

　　亚信安全高级副总裁陈奋也对记者表示，部分黑客利用AI算法在视频中做人脸深度伪造，产生新一波网络诈骗犯罪，攻击者的攻击目标也从传统资产转变为AI算力基础设施和大模型。

　　应对这类AI安全风险，周鸿祎认为，安全行业有很多痛点能用AI解决，如海量的数据分析难、快速处置难、追踪溯源等。安全专家人力不足，但有了大模型之后，这些痛点有望得到解决。此次360安全大模型宣布免费，希望将大模型拉下“神坛”，而非成为少数厂商掌握在手里的赚钱利器。

　　在周鸿祎看来，打造安全大模型的难点包括几方面：跨学科难题，缺乏做互联网大模型与大数据的经验，缺乏高质量的海量安全知识数，缺乏安全业务与大模型的深度融合。

　　他提到，过去一年，360接了100多个PoC（Proof of Concept，进行概念验证的项目测试），最后70%的项目都失败了，总结方法之后才形成一些成功的项目。周鸿祎称，做大模型不能一味宏大叙事，做脱离具体场景的产业大模型，实际很难交付；不能追求万能，希望通过大模型解决所有问题；大模型不可能取代原有的IT系统，也不能跳过数字化阶段。

　　包括大模型在内的网络安全技术部署迫在眉睫，可以看到的是，OpenAI、Meta、Antropic在内的硅谷大厂、创业企业，以及百度、华为等中国科技公司，都在加大对安全方面的资本开支。中国工程院院士吴世忠通过对Archive官网2500多篇安全相关论文进行关键词分析称，论文近40%涉及大模型攻击，30%涉及大模型安全。从近两年发表论文的第一作者分布来看，中国、美国、新加坡、德国和澳大利亚位列前五，中美两国形成第一梯队。

　　周鸿祎表示，AI浪潮势不可挡，对行业而言是一场工业革命的机会，利用AI实现安全技术的突破。2023年是模型之年，“百模大战”解决了模型从无到有、从0到1的过程。2024年不该继续卷模式，而应看应用，目前360看到的最重要的场景就是“安全”。

（文章来源：第一财经）