谷歌分析师警告人工智能“不一定是事实正确的”

谷歌分析师Gary Illyes警告说，大型语言模型——像ChatGPT这样的生成式人工智能聊天机器人背后的技术——在准确性方面仍然存在差距，需要人眼来验证它们产生的内容。就在几天前，OpenAI推出了SearchGPT，这是一个新的人工智能搜索引擎，将与谷歌直接竞争。

Illyes在LinkedIn上分享了他在收件箱中收到的一个问题的评论，但没有说问题是什么。他说，在没有检查其他权威来源的情况下，人们不应该相信人工智能的反应。OpenAI旨在通过其搜索工具颠覆谷歌在搜索引擎市场的主导地位。

人工智能的反应“不一定是事实正确的”

Illyes在谷歌工作了十多年，他说，虽然人工智能的答案可能接近事实，但它们“不一定是事实正确的”。他解释说，这是因为大型语言模型（LLM）无法避免从互联网上漂浮的错误信息中获取信息。

Illyes写道：“根据他们的训练数据，LLMs会找到与提示的上下文和含义相一致的最合适的单词、短语和句子。”。“这使他们能够产生相关和连贯的回应。但不一定是事实正确的回应。”

这位谷歌分析师表示，用户仍需要根据“你对LLM所问主题的了解，或者对你的查询有权威性的资源的额外阅读”来验证人工智能的答案

开发人员试图确保人工智能生成内容的可靠性的一种方法是通过一种称为“接地”的做法。该过程涉及将机器创建的信息与人为因素相结合，以防止错误。根据Illyes的说法，接地可能仍然不够。

他说：“接地可以帮助产生更符合事实的正确反应，但它并不完美；它不会取代你的大脑。”。“互联网上充满了有意和无意的错误信息，你不会相信你在网上读到的一切，那么你为什么要做出法学硕士的回应呢？”

埃隆·马斯克指责谷歌屏蔽公共信息

传统上，信任一直是谷歌和其他人工智能平台等搜索引擎的一个问题，以及它们如何对发送给用户的信息施加一些控制。

其中一起事件涉及美国前总统唐纳德·特朗普最近的暗杀企图。埃隆·马斯克表示，谷歌禁止枪击事件出现在其搜索结果中，这在社交媒体上引发了一场关于大型科技公司影响范围的重大辩论。

在一系列回应中，一个声称属于谷歌副总裁安娜·莫斯塔拉克的恶搞账户加入了这场辩论，分享了该公司因涉嫌屏蔽特朗普内容而做出的虚假道歉。

“…人们的信息需求持续增长，因此我们将不断发展和改进搜索。然而，似乎我们需要重新调整我们所说的准确。准确是主观的，追求准确可能会妨碍事情的完成，”X上发布的虚假账户。

“你可以放心，我们的团队正在努力确保我们不会让对准确性的敬畏成为我们对未来愿景的干扰，”它补充道。

X上的社区笔记立即标记了这条推文，称该人冒充谷歌副总裁。这是一个信息很容易被扭曲的例子，如果没有人工审查，人工智能模型可能无法区分哪些是准确的，哪些是不准确的。