随着AI的广泛应用，数据和网络安全问题日益凸显。在应用AI的同时，ChatGPT可能会拿走企业的数据，同时，黑客也时常利用AI对企业发动攻击或盗取数据。
近日，《网络安全就绪指数》指出：“全球网络安全就绪水平正面临大幅度下降的挑战。2023年，仅有15%的企业表示对应对复杂网络安全的能力充满信心，而到了2024年，这一比例更是骤降至3%。这一数据表明企业对网络安全准备不足，网络安全面临着严峻的挑战。”
从PC、手机到车联网，再到海量的IoT设备，接入网络的终端数量呈指数级增长，因而风险链的敞口越来越大。
思科大中华区副总裁兼安全事业部总经理卜宪录向《中国经营报》记者表示，企业IT管理者正面临着巨大挑战：“一方面要应对超级链接，一方面要处理混合云环境，一方面还要适应混合办公模式。在这三重挑战下，最明显的迹象是网络边界的消失。以往的网络边界清晰可辨，而现在却变得模糊不清。”
他还表示：“我们注意到一个现象，与AI相关的网络威胁占比正在快速增长，目前已提升到19%。”
“举个简单的例子，今天大家用ChatGPT类似的应用，当用户在里面输入命令和数据时，很快就能得到答案，用户很开心。与此同时，这个大模型也把用户的数据拿走了。”卜宪录指出，“很多相关报道显示，企业的客户信息、知识产权就这样泄露出去了。”
将中国数据输送给国外的AI是一件颇为敏感的事件。今年8月末，在贵州数博会上，华为董事、质量流程IT总裁陶景文向记者表示：“当前AI作为中美科技竞争的最前沿，所有西方的AI在中国若没有算力卡，就意味着中国AI的推理数据需送至国外，这是我们不能接受的。”
此外，在应用AI算力的过程中，也面临网络安全问题。数据显示，有70%的企业反映，他们在构建AI算力时缺乏端到端的网络安全解决方案为其保驾护航。
当前，在全力推进AI发展的过程中，企业既要做到高效应用AI，同时也要确保其灵活性、韧性和可靠性。其中的核心在于，负责任的AI模型能够促进平衡、均衡且可持续地发展。
网络勒索
卜宪录指出：“AI技术会驱动网络攻击，这对网络安全构成了巨大的挑战。”
国家计算机病毒应急处理中心联合相关机构发布的《网络空间安全态势分析报告（2024）》指出，从去年6月到今年7月，全球共有26个勒索病毒组织向我国71个机构组织发动攻击并实施勒索，同比增长100%。全球范围内的勒索病毒攻击事件数量达到4963起，而在2021年仅有63起。
利用加密货币进行勒索的网络安全事件正在增加。卜宪录表示：“在过去两年，这几乎演变成了最重要的网络攻击形式。因为AI技术进入了一个新阶段，也充分赋能了这些黑客和攻击行为。”
他补充道：“随着终端不断增加，应用不断增加，数据不断增加，风险链的敞口越来越大。”
一家电子商务和在线交易反欺诈公司负责人向记者透露：“AI帮助欺诈者分析海量数据，创建虚假账户或进行隐蔽欺诈交易，当用户察觉时往往已造成损失。”
AI工具使欺诈者能够扩大操作规模，从而更容易在全球范围内实施欺诈。
这给网络安全带来了挑战，也要求商家不断提升其网络防御能力和欺诈预防手段。前述人士认为：“AI技术将进一步推动跨境支付欺诈模式的演变，带来更加智能、复杂且迅速的攻击。”
在AI的攻击与防御方面，卜宪录总结道：“这是一个道高一尺魔高一丈的过程。”他补充道：“好消息是AI也会同步赋能我们的网络安全产品和解决方案。一是其人机交互智能能够辅助提升工具效率；二是大幅度提升检测效率和能力；三是让复杂的工作流程更加自动化。通过这三个方面，AI也在赋能网络安全解决方案，帮助我们应对日益复杂的挑战和攻击。”
（文章来源：中国经营报）
