一系列离谱答案出现后 谷歌对“AI概览”功能进行了紧急修复
2024年06月01日 03:52
来源: 财联社
东方财富APP

方便,快捷

手机查看财经快讯

专业,丰富

一手掌握市场脉搏

手机上阅读文章

提示:

微信扫一扫

分享到您的

朋友圈

K图 GOOGL_0

K图 GOOG_0

  当地时间周五,科技巨头谷歌宣布,在发现“AI概览”(AI Overviews)功能出现了一系列错误信息后,已经对其AI系统进行了“十多项技术改进和更新”。

  在5月中旬的年度I/O开发者大会上,这家科技巨头发布了众多有关AI的产品和服务,其中一项内容是将AI融进其主导全球的搜索引擎之中,即AI概览功能,首先在美国市场推出。简而言之,当用户进行搜索时,首先出现在眼前的不再是网页链接,而是一块由AI整理的摘要。

  然而,不久之后,社交媒体用户开始分享AI概览给出的一系列离谱答案的截图。谷歌对此辩护称,AI概览功能通常是准确的,并且事先经过了广泛的测试。

  不过到了周五,谷歌搜索业务主管利兹·里德承认,一些奇怪的、不准确的或无益的AI搜索结果确实出现了。

  虽然其中许多搜索结果很愚蠢,但也有一些是危险或有害的谎言。比如,在披萨上涂胶水以帮助奶酪粘住,每天应该至少吃一块小石头等。再加上一些网友推波助澜,一些虚假的截图也在社交媒体上被广泛分享,导致事件热度越来越高。

  里德表示,已经对AI概览增加了更多的“触发限制”,以提高对某些查询问题(如健康相关问题)答案的准确性和可靠性。

  但在谷歌宣布更新,并经过测试后,发现仍然存在不少问题。谷歌AI概览旨在为人们提供他们正在寻找的信息的权威答案,而不必点击网站链接的排名列表,但目前看来,该功能仍然存在很大缺陷。

  一些AI专家长期以来也一直警告谷歌,不要将其搜索结果拱手让给AI生成的答案,这可能会延续偏见和错误信息,并危及在紧急情况下寻求帮助的人。大语言模型的工作原理是,根据它们接受过训练的数据,预测哪些词语最能回答人们提出的问题,这就导致它们经常胡编乱造,即AI幻觉。

  里德对此表示,AI概览通常不会 “产生幻觉”,也不会像其他大语言模型产品那样胡编胡造,因为它们与谷歌的传统搜索引擎更紧密地结合在一起,只显示最权威或相关性最高的网页支持的内容。

  她写道:“当AI概览出错时,通常是由于其他原因:比如误解了查询,误解了网络上语言的细微差别,或者没有很多有用的信息。”

  但华盛顿大学教授、计算机科学家Chirag Shah指出,这种信息检索应该是谷歌的核心业务,不能急于把它交给AI模型。“因为即使AI不胡编乱造,也会把错误信息传递给用户,谷歌这样搞的话,可能会带来相当糟糕的结果。”

(文章来源:财联社)

文章来源:财联社 责任编辑:137
原标题:一系列离谱答案出现后 谷歌对“AI概览”功能进行了紧急修复
郑重声明:东方财富发布此内容旨在传播更多信息,与本站立场无关,不构成投资建议。据此操作,风险自担。
举报
分享到微信朋友圈

打开微信,

点击底部的“发现”

使用“扫一扫”

即可将网页分享至朋友圈

扫描二维码关注

东方财富官网微信


扫一扫下载APP

扫一扫下载APP
信息网络传播视听节目许可证:0908328号 经营证券期货业务许可证编号:913101046312860336 违法和不良信息举报:021-61278686 举报邮箱:jubao@eastmoney.com
沪ICP证:沪B2-20070217 网站备案号:沪ICP备05006054号-11 沪公网安备 31010402000120号 版权所有:东方财富网 意见与建议:4000300059/952500