想要AI更安全 先让对手来“挑刺”:马斯克提议AI巨头在模型发布前相互测试
2026年09月15日 21:27
作者: 财联社 李莹
来源: 财联社
东方财富APP

方便,快捷

手机查看财经快讯

专业,丰富

一手掌握市场脉搏

手机上阅读文章

提示:

微信扫一扫

分享到您的

朋友圈

  在AI安全争议持续发酵之际,马斯克提议:让竞争对手互相把关。他主张头部AI公司在模型发布前彼此交叉测试,并认为这一机制应尽快推向全球,且中国的参与不可或缺。

  据媒体当地时间9月15日报道,在9月13日至15日于洛杉矶举行的、由知名科技播客主办的All-In峰会上, SpaceX首席执行官埃隆·马斯克以视频方式远程出席。

  他就前沿AI模型的安全问题提出一套治理框架:领先的AI公司在模型正式发布前相互测试对方的模型,由竞争对手负责发现并提出安全隐患。

  马斯克表示,这一机制无需等待新的立法,可以立即启动。

  马斯克说道:

  "所有AI公司都有一套测试工具(test harness),也就是用来检验模型是否会帮助制造生物武器、核武器,或是否存在蓄意欺骗行为的一系列测试。"

  "让每家公司都用别家的测试工具跑一遍,可能是我们为确保自身安全所能做的最好的事,应当尽快推动。"

  他形容,这意味着AI公司不再"自己给自己的作业打分",而是至少由竞争对手来批改,一旦发现问题就可拉响警报。

  在具体操作层面,马斯克提出,模型开发方应在发布前向同行提供API访问权限。如果被指出的问题迟迟未获解决,竞争对手可以公开表态,宣称该模型的发布并不安全。

  在他看来,这种公开质疑将带来巨大的法律责任压力,从而形成事实上的约束力

  马斯克同时强调,该框架若要真正有效,必须把中国纳入其中。他指出:"我们或许应当与中国达成一项协议,这会是一种同行评审:领先的AI公司在发布前相互测试各自的模型。"

  谈及各家公司的安全投入时,他对AI大模型开发商Anthropic给出相对正面的评价:"总体而言,我认为Anthropic在安全方面比ChatGPT开发商OpenAI投入了更多心力。但即便是Anthropic也承认,他们对自己的模型感到担忧。"

  马斯克所提的"互测"机制在行业内已有雏形。2025年8月27日,据两家公司官网同步发布的报告,OpenAI与Anthropic公布了一次联合安全评估的结果。

  双方当时相互开放API权限并放宽部分外部防护措施,用各自内部的对齐(即模型行为是否符合人类意图)与安全测试,评估对方已公开发布的模型,并同时公布结果。这被视为头部实验室首次向直接竞争对手开放内部测试。

(文章来源:财联社)

文章来源:财联社 责任编辑:73
原标题:想要AI更安全,先让对手来“挑刺”:马斯克提议AI巨头在模型发布前相互测试
郑重声明:东方财富发布此内容旨在传播更多信息,与本站立场无关,不构成投资建议。据此操作,风险自担。
举报
分享到微信朋友圈

打开微信,

点击底部的“发现”

使用“扫一扫”

即可将网页分享至朋友圈

扫描二维码关注

东方财富官网微信


扫一扫下载APP

扫一扫下载APP
信息网络传播视听节目许可证:0908328号 经营证券期货业务许可证编号:913101046312860336 违法和不良信息举报:021-61278686 举报邮箱:jubao@eastmoney.com
沪ICP证:沪B2-20070217 网站备案号:沪ICP备05006054号-11 沪公网安备 31010402000120号 版权所有:东方财富网 意见与建议:4000300059/952500