美监管机构首次出手!OpenAI遭FTC正式调查:生成虚假信息带来危害
2023年07月14日 10:41
来源: 澎湃新闻
东方财富APP

方便,快捷

手机查看财经快讯

专业,丰富

一手掌握市场脉搏

手机上阅读文章

提示:

微信扫一扫

分享到您的

朋友圈

  美国联邦贸易委员会(FTC)或就消费者保护问题对聊天机器人ChatGPT开发商OpenAI展开调查。

  当地时间7月13日,据美国CNN报道,美国联邦贸易委员会正在调查OpenAI是否违反消费者保护法,并要求OpenAI提供有关其处理个人数据、向用户提供不准确信息的可能性以及“对消费者造成损害(包括声誉损害)的风险”的大量记录。

  英国《金融时报》称,这是美国监管机构首次正式发起对人工智能聊天机器人带来的风险的审查。

  一份文件显示,美国联邦贸易委员会本周向OpenAI发出了一份长达20页的要求,包括“如何获取用于训练大型语言模型的数据”,到描述ChatGPT的“生成有关真实个人的虚假陈述的能力” 等,以及要求OpenAI提供其收到的任何公众投诉、其涉及的诉讼清单还包括该公司于2023年3月披露的数据泄露细节的证词,该证词曾暴露了用户的聊天记录和支付数据。

  据悉,该文件最早由《华盛顿邮报》曝光,随后,一位知情人士向CNN证实了该文件的真实性。

  在OpenAI推出ChatGPT不到一年后就展开了调查,业内人士认为,美国联邦贸易委员会正在对人工智能采取行动速度较快。过去,FTC通常会在一家公司出现重大公开失误后开始调查,例如在 2018年有报道称脸书(Facebook)与政治咨询公司剑桥分析(Cambridge Analytica)共享用户数据后,该机构开始对脸书的隐私做法进行调查。

  美国联邦贸易委员会主席莉娜·汗(Lina Khan)表示,科技公司应该在技术处于萌芽状态时受到监管,而不是等到技术成熟时才受到监管。莉娜·汗在当地时间周四在国会出席作证时,曾对AI表示担忧,称执法者“需要尽早警惕”AI等变革性工具。

  “尽管这些工具很新颖,但它们并不能免除现有规则的约束。”莉娜·汗在五月份《纽约时报》的一篇文章中写道,“虽然这项技术发展迅速,但我们已经看到了一些风险。”

  不过,OpenAI一直坦率地承认其产品的一些局限性。例如,与GPT最新版本GPT-4相关的白皮书解释说,该模型可能“产生与某些来源相关的无意义或不真实的内容”。OpenAI还披露了类似的信息,即GPT等工具可能导致对少数群体或其他弱势群体的广泛歧视。

  “ChatGPT之父”、OpenAI联合创始人兼首席执行官山姆·奥特曼(Sam Altman)也表示,快速发展的人工智能行业需要受到监管。今年5月,他在国会作证呼吁对人工智能立法,并拜访了数百名立法者,旨在为该技术制定政策议程。当地时间周四,他在推特上表示,OpenAI技术的安全性“非常重要”。他补充说,“我们有信心遵守法律”并将与该机构合作。

  OpenAI已经面临国际监管压力。今年3月,意大利数据保护机构禁止了ChatGPT,称OpenAI非法收集用户的个人数据,并且没有适当的年龄验证系统来防止未成年人接触非法信息。OpenAI在4月恢复了对该系统的访问,并表示已按照意大利监管部门的要求进行了更改。

(文章来源:澎湃新闻)

文章来源:澎湃新闻 责任编辑:33
原标题:美监管机构首次出手!OpenAI遭FTC正式调查:生成虚假信息带来危害
郑重声明:东方财富发布此内容旨在传播更多信息,与本站立场无关,不构成投资建议。据此操作,风险自担。
举报
分享到微信朋友圈

打开微信,

点击底部的“发现”

使用“扫一扫”

即可将网页分享至朋友圈

扫描二维码关注

东方财富官网微信


扫一扫下载APP

扫一扫下载APP
信息网络传播视听节目许可证:0908328号 经营证券期货业务许可证编号:913101046312860336 违法和不良信息举报:021-61278686 举报邮箱:jubao@eastmoney.com
沪ICP证:沪B2-20070217 网站备案号:沪ICP备05006054号-11 沪公网安备 31010402000120号 版权所有:东方财富网 意见与建议:4000300059/952500