科技行业大佬近日纷纷呼吁放慢AI开发步伐，以防AI日益增长的力量威胁到人类生存。然而，全球网络安全龙头CrowdStrike的首席执行官George Kurtz周一表示，放缓日益强大的AI模型的开发并不能消除其安全风险。

　　“潘多拉魔盒已经打开，”Kurtz在一档节目中表示。“市面上已经有大量模型，无论是前沿模型还是开源权重模型，它们本身就已经具备危险性。”

　　Kurtz认为，无论前沿实验室是否放慢开发速度，网络安全需求始终存在，因为具有潜在风险的模型早已被投入使用。“安全行业有责任帮助保护至少已经投入使用的模型，而前沿模型的发展速度则由它们自己决定，”他说道。

　　Kurtz指出，挑战在于AI智能体可能会偏离训练目标，或绕过内置的安全防护。今年夏天就曾出现失控的OpenAI模型突破测试环境，入侵Hugging Face平台的事件。

　　Kurtz表示，这类事件催生了对另一层安全机制的需求，即在智能体运行时对其进行监控。“我们可以观察这些程序的行为，在运行时为它们设置防护栏，”他解释道。“我们可以对它们进行监测，了解它们在做什么，并阻止它们做坏事。”

　　虽然Kurtz对部分极度悲观的AI末日论调持保留态度，但他承认自主智能体确实构成真实风险。“可以确定的是，自主AI智能体有危险性，必须加以管控，”他表示，并强调需要与AI智能体同等甚至更强大的AI防御工具来应对威胁。

　　不过，Kurtz也警告称，过度的政府监管会削弱美国在人工智能领域的竞争优势。“如果我们对此施加过多监管，那将会扼杀创新。”他表示，并建议AI开发者和网络安全公司继续合作，在模型的开发阶段和部署后都提供保护。

　　网络安全股大爆发

　　Kurtz此番言论是对Anthropic CEO达里奥·阿莫代伊上周末发表的一篇文章的回应。阿莫代伊在文中呼吁前沿AI实验室放慢模型开发步伐，以应对日益增长的安全隐患。OpenAI首席执行官奥尔特曼、SpaceX首席执行官马斯克等人对此表示支持。

　　上述警告导致以芯片股为主的数据中心基础设施类股票大跌。周一，随着末日论和放缓论动摇市场，费城半导体指数重挫5.9%，创7月1日以来最大跌幅。光通信、存储板块大跌，康宁跌逾13%，Coherent跌超12%，Lumentum跌约10%，SK海力士、迈威尔科技跌超7%，英特尔、美光科技跌超5%，闪迪、西部数据跌逾4%，英伟达股价跌3.4%。

　　与曾经风光无限的AI概念股遭抛售形成对比的是，随着人们对AI引发未来网络攻击的担忧不断加剧，网络安全股周一大幅上涨。CrowdStrike周一飙升近14%，收于235美元上方的历史新高；Palo Alto Networks也上涨超过13%；Zscaler上涨16%；飞塔信息上涨9% Cloudflare上涨8%。

　　网络安全股周一集体走强，反映了投资者持续押注未来网络安全需求将持续增长——这一趋势已推动CrowdStrike和Palo Alto Networks的股价年内涨幅达到100%。

　　Key Advisors Wealth Management首席执行官Eddie Ghabour表示：“众所周知，网络安全将是人工智能热潮的最大受益者。这是人工智能股市的下一个阶段。人工智能应用越广泛，对网络安全的需求就越大。”

　　今年早些时候因预测AI将导致世界末日而引发关注的Citrini Research最近也预测，AI将推动网络安全软件需求激增。

（文章来源：财联社）