想象一下：在某一个晚上你打算放松一下自制披萨，你把馅饼准备好放进烤箱烤好后兴奋地开始吃。但是你发现遇到了一个问题——奶酪一直掉下来。沮丧的你向谷歌寻求解决方案。

“加些胶水，”谷歌告诉你，“将大约1/8杯Elmer胶水与酱汁混合。无毒胶水会起作用。”

当然不要那样做。，虽然这是谷歌新的AI Overviews功能告诉你的方法。最近，谷歌搜索新增了一个叫做“AI Overview”的功能，它可以在搜索结果的最顶部直接展示一个简短的答案。有网友发现，披萨胶问题的答案似乎是基于一个用户在十多年前的Reddit帖子中的评论，他们显然是在开玩笑。

有时候AI Overview功能呈现的错误信息，会误导用户以为是权威医疗专家或科学家的观点。谷歌发言人Meghann Farnsworth表示，绝大多数AI Overview提供的信息质量都很高，并且会提供更多网页链接供用户深入了解。我们注意到很多示例都是不常见的查询，也有一些是被篡改的或者他们无法复现的例子。这个功能在推出前已经进行了大量测试，并且公司会在必要时快速采取行动来确保内容的准确性。

例如，当用户询问“我每天应该吃多少石头”时，该工具错误地引用加州大学伯克利分校地质学家的话称：“人们每天至少应该吃一块小石头”，并继续列出吃石头的好处，比如岩石是人体维生素和矿物质的重要来源，吃石头对消化健康有好处。

不仅仅是谷歌；像OpenAI、Meta和Perplexity这样的公司都在与人工智能的幻觉和错误作斗争。然而，谷歌是第一个大规模部署这项技术的公司，失败的例子不断出现。

专栏文章内容及配图由作者撰写发布，仅供工程师学习之用，如有侵权或者其他违规问题，请联系本站处理。 联系我们