新闻中心

EEPW首页 > 智能计算 > 业界动态 > 谷歌 CEO 承认 AI 摘要功能存在“幻觉”问题:尚无解决方案

谷歌 CEO 承认 AI 摘要功能存在“幻觉”问题:尚无解决方案

作者: 时间:2024-05-27 来源:IT之家 收藏

5 月 26 日消息,搜索新推出的“ 摘要( Overviews)”功能近日备受诟病,原因是该功能经常提供严重错误的搜索结果信息,例如,该功能曾建议用户使用胶水来防止披萨上的奶酪滑落。

本文引用地址:http://www.eepw.com.cn/article/202405/459192.htm

本周早些时候,据科技媒体 The Verge 报道,首席执行官桑达尔・皮查伊在接受采访时承认,这些“ 摘要”功能产生的“幻觉”是大型语言模型(LLM)的“固有缺陷”,而大型语言模型正是“AI 摘要”功能的核心技术。皮查伊表示,这个问题目前尚无解决方案(is still an unsolved problem)。

这意味着尽管工程师一直在努力修复“AI 摘要”功能出现的各种奇怪且严重错误的答案,但此类问题仍会持续出现。

然而,皮查伊似乎淡化了这些错误的严重性。他表示:“‘AI 摘要’功能有时会,但这并不意味着它没有用处。我认为这并不是看待该功能的正确方式。我们取得了进展吗?是的,肯定有。与去年相比,我们在事实准确性方面的指标上取得了很大进步。整个行业都在改进,但问题还没有完全解决。”

尽管皮查伊对“AI 摘要”功能的实用性持乐观态度,但该功能出现的错误已经在网上引起了轩然大一波,许多用户纷纷展示了该功能生成各种错误信息的例子。这进一步损害了谷歌搜索引擎的信誉,谷歌搜索此前就因向用户提供垃圾结果而备受诟病。

注意到,人工智能顾问和 SEO 专家布兰妮・穆勒在社交媒体上写道:“人们期望人工智能的准确性远远超过传统方法,但事实并非总是如此! 谷歌正为了超越竞争对手 Perplexity 和 OpenAI 而在搜索领域进行一场冒险的赌博,但他们本可以将人工智能用于更大、更有价值的用例上。”



关键词: 谷歌 AI 出错

评论


相关推荐

技术专区

关闭