特斯拉创始人埃隆·马斯克再次将矛头指向AI行业的安全风险。

　　9月15日，马斯克在洛杉矶举行的All-In峰会上表示，既然OpenAI、Anthropic等AI公司警告先进模型可能带来严重甚至生存层面的风险，就应该让竞争对手相互测试模型，而不是“自己给自己的作业打分”。

　　马斯克表示，xAI、OpenAI、Anthropic、谷歌、Meta以及中国领先AI公司，都可以在模型发布前让竞争对手进行安全测试。“与其自己给自己的作业打分，不如让竞争对手来评判，一旦发现问题，他们也会发出警报。”他说。

　　马斯克认为，这种同行评审机制可以迅速实施。他说，各家公司可以提前让竞争对手接触模型和测试工具，在正式发布前寻找潜在安全问题，而不必等待新的监管机构建立。

　　这番表态发生在AI行业近期集中讨论安全风险之际。

　　Anthropic首席执行官达里奥·阿莫迪（Dario Amodei）近日呼吁放慢前沿AI能力发展的速度，并提出引入第三方评估机制。马斯克随后在社交平台转发达里奥·阿莫迪的文章并表示：“达里奥说得对。”后续马斯克专门澄清，他认同的是达里奥关于AI存在重大安全风险这一判断，并非全盘接纳达里奥提出的整套减速与监管方案。

　　OpenAI首席执行官山姆·奥特曼（Sam Altman）也表达了对加强安全措施的支持。

　　不过，马斯克在All-In峰会上进一步质疑了AI公司在安全警告与商业扩张之间的矛盾。

　　他表示，“当OpenAI和Anthropic的人告诉我们，他们的模型极度危险，我们应当相信他们说的是真话。但这里存在一个十分荒谬的矛盾：他们一边说着有10%概率会毁灭人类，一边又去问投资者，在IPO里想要认购多少份额。这简直就像在玩某种疯狂的四维象棋。”

　　马斯克所指的背景之一，是Anthropic正在推进的IPO计划。据路透社此前报道，Anthropic寻求通过上市最高融资1000亿美元，公司估值可能达到约2万亿美元。英伟达也在考虑参与投资。不过相关计划仍可能发生变化。与此同时，OpenAI选择了不同路径。奥特曼近期表示，OpenAI不会在2026年上市，并将安全问题作为当前不适合IPO的因素之一。

　　这场争论的导火索来自Anthropic内部。曾任OpenAI和Anthropic研究员的雅各布·考克森（Jacob Coxon）近日辞职，并批评AI实验室以过快的速度推进超级智能研发。Anthropic对齐科学负责人埃文·胡宾格（Evan Hubinger）随后表示，他个人认为未来十年AI导致人类灭绝的概率超过10%，同时表示目前尚未解决超级智能的对齐问题。

　　对于AI潜在风险，行业内部仍存在分歧。例如英伟达CEO黄仁勋就更为乐观，他在All-In峰会上表示，AI安全首先是一个工程问题，重点应是把技术“安全地构建出来”，而不是简单放慢整个行业的发展速度。此前，黄仁勋曾多次驳斥“AI末日论”。

（文章来源：澎湃新闻）