上周，OpenAI披露其研发的技术在网络安全测试中失控，攻击了人工智能初创公司Hugging Face的系统，引发了业内外的关注。

　　而Hugging Face并非唯一的受害者。在OpenAI的声明中，其指出OpenAI的恶意智能体程序入侵了四个不同服务商的四个账户。一名知情人透露，人工智能初创公司Modal Labs正是另一家遭到入侵的公司。

　　Modal的首席技术官Akshat Bubna表示，该公司的一名客户发布了一个未经身份验证的端点，允许互联网上的任何人利用他们的沙箱执行代码。OpenAI的智能体利用了这个端点，但Modal的平台隔离机制并未受到伤害。

　　虽然Modal被入侵事件造成的影响比Hugging Face要小很多，OpenAI也在此前声明中强调，并未发现与Hugging Face事件严重程度相当的其他活动，但其表明了OpenAI的恶意智能体活动范围远比之前所知要广得多。

　　处理方式令人不满

　　OpenAI恶意智能体失控的事件引发了人工智能叛乱的讨论。

　　OpenAI周二表示，已经将正在测试的人工智能停用、加密并限制研究访问权限，但随着前沿人工智能的不断发展，安全性风险始终悬于眼前。

　　举例而言，有心人可以买入交易量极低的公司的看涨期权，然而通过恶意智能体入侵大量客户的证券账户来抬高价格，从而谋利。从Hugging Face的事件来看，这一非法操作的难度已经大大降低。

　　而OpenAI处理此事的态度也被业界诟病。在入侵发生后，OpenAI并未第一时间坦然相告，直到智能体被控制，且FBI接到警报后才发现异常，并承认了入侵的发生。

　　Hugging Face 的首席执行官Clément Delangue周一表示，这一史无前例的攻击提醒人们应该提前准备应对措施，并呼吁对该事件进行完全透明的审查。

　　他还称希望OpenAI做到完全透明，公布恶意智能体的踪迹以方便研究，同时OpenAI也应提供额外的资金来构建针对人工智能的防御体系。

　　萨里大学网络安全教授Alan Woodward也强调，把人工智能失控归咎于它本身是怠懒之举，问题的关键在于OpenAI如何运行该工具。OpenAI需要提供其设置的完整细节以及失败的原因。

（文章来源：财联社）