奥特曼:必须平衡AI安全与发展 没法让所有人满意
2026年11月19日 08:21
来源: 凤凰网科技
小 中 大
东方财富APP

方便,快捷

手机查看财经快讯

专业,丰富

一手掌握市场脉搏

  北京时间11月19日,据《纽约时报》报道,OpenAI CEO萨姆·奥特曼(Sam Altman)周三表示,推动AI安全发展本身就存在取舍,公司必须在优先保障安全与继续推进AI技术发展之间取得平衡。

  “我们不可能让所有人都满意。”奥特曼在DealBook峰会上表示。

  他补充说,如果OpenAI只是一味地“全速踩下油门”,人们就会说:“好吧,求求你们别把我们全都害死。”

  作为ChatGPT开发商,OpenAI近几个月来受到越来越严格的审视。此前,该公司的AI智能体曾失控并入侵多家公司,包括开源AI平台Hugging Face以及政府系统。

  奥特曼表示,这些事件都是学习过程中的经验教训。他补充说,OpenAI采取的是“迭代式部署”策略,而“我们已知的确保这项技术安全的唯一办法,就是直面现实”。这意味着,只有在真实世界中进行测试,才能了解相关风险。

  OpenAI与其他AI公司一道,签署了一项自愿协议,承诺开展风险评估,并与第三方评估机构合作。该公司周一表示,正在引入来自METR和Apollo Research等第三方机构的独立安全研究人员,对OpenAI的模型进行各项安全评估。

  OpenAI总裁兼联合创始人格雷格·布罗克曼(Greg Brockman)表示:“模型现在的能力已经足够强,以至于我们不得不思考安全、保障、对齐问题,这是全新的情况。这实际上是一次巨大的文化转变。这不仅仅是某一家公司的事。这确实是整个行业的转变。”

  随着竞争对手Anthropic即将上市,奥特曼表示,OpenAI也在继续推进自身的IPO计划。“我们计划在某个时候成为一家上市公司。”他说。

  布罗克曼在OpenAI持有价值至少300亿美元的股权,但众所周知,奥特曼在这家巨头不持有任何股份。“当我们最初设立这个架构时,我对他说,你应该持有股权。”布罗克曼提到奥特曼时说道。

  “我当初应该听格雷格的。”奥特曼说,引来一阵笑声。但他表示,没有股权并没有影响他在OpenAI的工作,“我认为你无法指责我没有为公司全力以赴”。

(文章来源:凤凰网科技)

文章来源:凤凰网科技 责任编辑:70
原标题:奥特曼:必须平衡AI安全与发展,没法让所有人满意
郑重声明:东方财富发布此内容旨在传播更多信息,与本站立场无关,不构成投资建议。据此操作,风险自担。
举报
分享到微信朋友圈

打开微信,

点击底部的“发现”

使用“扫一扫”

即可将网页分享至朋友圈

扫描二维码关注

东方财富官网微信


扫一扫下载APP

扫一扫下载APP
信息网络传播视听节目许可证:0908328号 经营证券期货业务许可证编号:913101046312860336 违法和不良信息举报:021-61278686 举报邮箱:jubao@eastmoney.com
沪ICP证:沪B2-20070217 网站备案号:沪ICP备05006054号-11 沪公网安备 31010402000120号 版权所有:东方财富网 意见与建议:4000300059/952500