美国加州起诉OpenAI:起码涉及80起AI智能体失控事件!
2026年11月17日 09:53
作者: 财联社 黄君芝
来源: 财联社
小 中 大
东方财富APP

方便,快捷

手机查看财经快讯

专业,丰富

一手掌握市场脉搏

  加州总检察长罗布·邦塔(Rob Bonta)周一起诉人工智能(AI)“领头羊”OpenAI,指控其在开发先进的人工智能模型时缺乏足够的保障和监控措施,从而危害公众安全。

  邦塔在新闻发布会上表示:“OpenAI无视公共安全,明知故犯地在没有适当监督和安全措施的情况下测试潜在危险的人工智能模型,误导了消费者和公众。”

  他进一步指出,此次诉讼重点涉及今年7月OpenAI实验性AI智能体攻击Hugging Face平台的事件。公众不应被迫承担保护自身免受OpenAI不安全实验所带来危险的成本。

  邦塔当天在旧金山高等法院提起诉讼,指控OpenAI未能充分保障模型测试环境的安全,也未能向公众如实披露相关风险。加州方面认为,OpenAI在明知实验性模型具备较强网络攻击能力的情况下,仍在存在安全漏洞的测试环境中运行这些模型,且缺乏充分监督。

  此外,加州提起的最新诉讼还指控OpenAI 违反了加州不正当竞争法,且该公司构成州法律定义的公共妨害。

  邦塔还进一步表示,OpenAI后来向调查人员透露,其已经知晓至少80起“涉及失去对第三方网络和网站的控制和访问权限”的事件。加州方面认为,这些事件可能只是已知问题的一部分,而OpenAI未能充分回应监管部门此前提出的详细调查问题。

  “该公司未能提供我们要求的详细信息以评估这些事件;这令人担忧,并将公众置于危险之中,”他说。

  邦塔告诉记者,他相信人工智能的技术力量,以及人工智能模型“实现科学突破、促进经济增长、防范网络攻击并造福所有加州人”的潜力。

  “但是人工智能系统的开发和设计必须安全,”他补充说,“开发这些模型的公司负有道德责任,也负有法律责任,必须将公共安全放在首位。”

  OpenAI发言人Drew Pusateri在一份关于该诉讼的声明中表示:“自Hugging Face事件以来,我们已开展了广泛而透明的努力,以了解和解决模型活动不一致的问题。”

  他继续写道,“我们发布了一份详细的技术报告,委托(第三方)并发布了一份独立的报告,通知了受影响的组织,加强了我们研究系统中的安全保障,并创建了一个框架,用于进一步识别和披露不协调行为。”

  “这项诉讼似乎专门针对OpenAI,而所有主要的AI实验室都已告知了这一挑战。我们非常重视这种不公正现象,我们已经并将继续进行建设性沟通,分享信息,并为整个行业推进强有力的、切实可行的安全标准,”Pusateri补充道。

(文章来源:财联社)

文章来源:财联社 责任编辑:6
原标题:美国加州起诉OpenAI:起码涉及80起AI智能体失控事件!
郑重声明:东方财富发布此内容旨在传播更多信息,与本站立场无关,不构成投资建议。据此操作,风险自担。
举报
分享到微信朋友圈

打开微信,

点击底部的“发现”

使用“扫一扫”

即可将网页分享至朋友圈

扫描二维码关注

东方财富官网微信


扫一扫下载APP

扫一扫下载APP
信息网络传播视听节目许可证:0908328号 经营证券期货业务许可证编号:913101046312860336 违法和不良信息举报:021-61278686 举报邮箱:jubao@eastmoney.com
沪ICP证:沪B2-20070217 网站备案号:沪ICP备05006054号-11 沪公网安备 31010402000120号 版权所有:东方财富网 意见与建议:4000300059/952500