谷歌分析师警告人工智能“不一定是事实正确的”

时间:2024-09-25 编辑: 浏览:(37)

谷歌分析师Gary Illyes警告说,大型语言模型——像ChatGPT这样的生成式人工智能聊天机器人背后的技术——在准确性方面仍然存在差距,需要人眼来验证它们产生的内容。就在几天前,OpenAI推出了SearchGPT,这是一个新的人工智能搜索引擎,将与谷歌直接竞争。

Illyes在LinkedIn上分享了他在收件箱中收到的一个问题的评论,但没有说问题是什么。他说,在没有检查其他权威来源的情况下,人们不应该相信人工智能的反应。OpenAI旨在通过其搜索工具颠覆谷歌在搜索引擎市场的主导地位。

人工智能的反应“不一定是事实正确的”

Illyes在谷歌工作了十多年,他说,虽然人工智能的答案可能接近事实,但它们“不一定是事实正确的”。他解释说,这是因为大型语言模型(LLM)无法避免从互联网上漂浮的错误信息中获取信息。

Illyes写道:“根据他们的训练数据,LLMs会找到与提示的上下文和含义相一致的最合适的单词、短语和句子。”。“这使他们能够产生相关和连贯的回应。但不一定是事实正确的回应。”

这位谷歌分析师表示,用户仍需要根据“你对LLM所问主题的了解,或者对你的查询有权威性的资源的额外阅读”来验证人工智能的答案

开发人员试图确保人工智能生成内容的可靠性的一种方法是通过一种称为“接地”的做法。该过程涉及将机器创建的信息与人为因素相结合,以防止错误。根据Illyes的说法,接地可能仍然不够。

他说:“接地可以帮助产生更符合事实的正确反应,但它并不完美;它不会取代你的大脑。”。“互联网上充满了有意和无意的错误信息,你不会相信你在网上读到的一切,那么你为什么要做出法学硕士的回应呢?”

埃隆·马斯克指责谷歌屏蔽公共信息

传统上,信任一直是谷歌和其他人工智能平台等搜索引擎的一个问题,以及它们如何对发送给用户的信息施加一些控制。

其中一起事件涉及美国前总统唐纳德·特朗普最近的暗杀企图。埃隆·马斯克表示,谷歌禁止枪击事件出现在其搜索结果中,这在社交媒体上引发了一场关于大型科技公司影响范围的重大辩论。

哇,谷歌对唐纳德·特朗普总统实施了搜索禁令!干预选举?pic.twitter.com/dJzgVAAFZA——埃隆·马斯克(@elonmusk)2024年7月29日

在一系列回应中,一个声称属于谷歌副总裁安娜·莫斯塔拉克的恶搞账户加入了这场辩论,分享了该公司因涉嫌屏蔽特朗普内容而做出的虚假道歉。

“…人们的信息需求持续增长,因此我们将不断发展和改进搜索。然而,似乎我们需要重新调整我们所说的准确。准确是主观的,追求准确可能会妨碍事情的完成,”X上发布的虚假账户。

“你可以放心,我们的团队正在努力确保我们不会让对准确性的敬畏成为我们对未来愿景的干扰,”它补充道。

X上的社区笔记立即标记了这条推文,称该人冒充谷歌副总裁。这是一个信息很容易被扭曲的例子,如果没有人工审查,人工智能模型可能无法区分哪些是准确的,哪些是不准确的。

最新 更多 >
  • 1 thg币价格

    THG币是由The Hempcoin Foundation发行的数字货币,旨在为大麻产业提供安全、高效、便捷的支付解决方案。THG币的价格受市场供需关系和投资者情绪等多种因素影响,随时可能波动。投资者应密切关注市场动向,做好风险管理,谨慎投资。

  • 2 gbc币合法吗

    GBC币是一种数字货币,目前在中国国内没有明确的法律规定指出其合法性。投资和交易数字货币存在一定的风险,可能涉及到违法行为,建议谨慎对待。需谨慎甄别相关交易平台的合法性和合规性,以免造成财产损失。

  • 3 vbg币是什么币

    VBG币是一种虚拟加密货币,它是由VBG平台发行的数字货币。VBG币类似于比特币、以太币等流行的加密货币,可以用于在线交易、投资和支付等用途。VBG币采用区块链技术进行交易验证和记录,具有去中心化、安全性高等特点。它在数字货币市场中有一定的交易量,用户可以通过购买、挖矿等方式获得VBG币。值得注意的是,数字货币具有高度波动性,投资者在购买前应该做好风险评估。

  • 4 flr 币

    FLR币是一种加密货币,是Flare Networks平台的原生数字资产。它是基于区块链技术,旨在提供去中心化金融服务(DeFi)以及智能合约功能。持有FLR币可以参与Flare Networks的投票、治理和奖励机制,同时也可以用于支付网络上的交易费用。FLR币的发行总量是有限的,并且采用类似于比特币的挖矿机制进行分发。通过持有和使用FLR币,用户可以获得更多的权益和参与平台治理。

  • 5 gb币值得长期持有吗

    GB币是一个虚拟货币,其价值受市场供需的影响。长期持有GB币可能存在风险,因为虚拟货币市场波动较大,价值可能会大幅下跌,导致投资损失。建议投资者在持有GB币时,密切关注市场动向并谨慎操作。

  • 6 fll币值得投资吗

    目前,FLR 币值得投资的可行性因投资者的个人风险承受能力和投资偏好而异。FLR 是一种较新的数字货币,具有独特的特点和潜在的增长空间。然而,由于数字货币市场波动较大,投资 FLR 仍存在一定风险。建议投资者在决定投资 FLR 之前,应该充分了解数字货币市场和 FLR 的基本情况,同时要谨慎评估自身的风险承受能力,根据个人情况做出明智的投资决策。

  • 7 比特币跌显卡为什么会跌那么多

    比特币价格的下跌会对显卡市场产生影响是因为比特币市场的崩盘使得矿工不再进行挖矿,导致显卡需求锐减。由于比特币的价格下滑,矿工无法盈利,进而导致他们减少或停止购买显卡。这种市场变化使得显卡供应过剩,价格下跌,对显卡产业造成了负面影响。

  • 8 flre币

    fire币是一种数字货币,在加密货币市场上使用。它代表着一个去中心化的数字货币生态系统,旨在为用户提供快速、安全和便捷的在线支付和转账服务。fire币采用区块链技术,具有分布式记账和匿名性的特点,用户可以通过火币交易所等平台进行交易和兑换。总的来说,fire币是一个具有较高流动性和交易便捷性的数字货币,为用户提供了一个全新的金融交易方式。

  • 9 fc币合法吗

    fc币是一种虚拟货币,通常用于在线游戏或虚拟社交平台中进行交易和购买虚拟物品。在大多数情况下,fc币是由平台发行和管理的,用户可以通过充值或完成特定任务等方式获得fc币。虽然fc币在特定平台内有一定的使用范围和功能,但并非法定货币,也不具备与法定货币等价的价值。因此,持有和使用fc币并不涉及到法律问题,只要在合法合规的平台内进行交易即可。

  • 10 邮政币交易

    邮政币交易是指通过邮政渠道进行的货币交易。用户可以在邮政机构办理业务时使用邮政币进行支付,邮政币可以是实体硬币或数字货币。邮政币交易的优势在于方便快捷、安全可靠,能够满足用户的日常交易需求。邮政机构通常会提供相应的服务和设施,使用户能够方便地使用和兑换邮政币。