谷歌分析师警告人工智能“不一定是事实正确的”

时间:2024-10-03 编辑: 浏览:(501)

谷歌分析师Gary Illyes警告说,大型语言模型——像ChatGPT这样的生成式人工智能聊天机器人背后的技术——在准确性方面仍然存在差距,需要人眼来验证它们产生的内容。就在几天前,OpenAI推出了SearchGPT,这是一个新的人工智能搜索引擎,将与谷歌直接竞争。

Illyes在LinkedIn上分享了他在收件箱中收到的一个问题的评论,但没有说问题是什么。他说,在没有检查其他权威来源的情况下,人们不应该相信人工智能的反应。OpenAI旨在通过其搜索工具颠覆谷歌在搜索引擎市场的主导地位。

人工智能的反应“不一定是事实正确的”

Illyes在谷歌工作了十多年,他说,虽然人工智能的答案可能接近事实,但它们“不一定是事实正确的”。他解释说,这是因为大型语言模型(LLM)无法避免从互联网上漂浮的错误信息中获取信息。

Illyes写道:“根据他们的训练数据,LLMs会找到与提示的上下文和含义相一致的最合适的单词、短语和句子。”。“这使他们能够产生相关和连贯的回应。但不一定是事实正确的回应。”

这位谷歌分析师表示,用户仍需要根据“你对LLM所问主题的了解,或者对你的查询有权威性的资源的额外阅读”来验证人工智能的答案

开发人员试图确保人工智能生成内容的可靠性的一种方法是通过一种称为“接地”的做法。该过程涉及将机器创建的信息与人为因素相结合,以防止错误。根据Illyes的说法,接地可能仍然不够。

他说:“接地可以帮助产生更符合事实的正确反应,但它并不完美;它不会取代你的大脑。”。“互联网上充满了有意和无意的错误信息,你不会相信你在网上读到的一切,那么你为什么要做出法学硕士的回应呢?”

埃隆·马斯克指责谷歌屏蔽公共信息

传统上,信任一直是谷歌和其他人工智能平台等搜索引擎的一个问题,以及它们如何对发送给用户的信息施加一些控制。

其中一起事件涉及美国前总统唐纳德·特朗普最近的暗杀企图。埃隆·马斯克表示,谷歌禁止枪击事件出现在其搜索结果中,这在社交媒体上引发了一场关于大型科技公司影响范围的重大辩论。

哇,谷歌对唐纳德·特朗普总统实施了搜索禁令!干预选举?pic.twitter.com/dJzgVAAFZA——埃隆·马斯克(@elonmusk)2024年7月29日

在一系列回应中,一个声称属于谷歌副总裁安娜·莫斯塔拉克的恶搞账户加入了这场辩论,分享了该公司因涉嫌屏蔽特朗普内容而做出的虚假道歉。

“…人们的信息需求持续增长,因此我们将不断发展和改进搜索。然而,似乎我们需要重新调整我们所说的准确。准确是主观的,追求准确可能会妨碍事情的完成,”X上发布的虚假账户。

“你可以放心,我们的团队正在努力确保我们不会让对准确性的敬畏成为我们对未来愿景的干扰,”它补充道。

X上的社区笔记立即标记了这条推文,称该人冒充谷歌副总裁。这是一个信息很容易被扭曲的例子,如果没有人工审查,人工智能模型可能无法区分哪些是准确的,哪些是不准确的。

最新 更多 >
  • 1 ELIXIR币有投资价值吗?

    ellipsis币是一种基于区块链技术的加密货币,旨在提供具备隐私保护和匿名交易功能的数字资产。该数字货币的特点包括快速的交易速度、低廉的交易费用以及高度安全性。通过使用隐私技术,ellipsis币用户可以在网络上进行匿名的交易,保护个人信息和财务隐私。ellipsis币的发行总量有限,采用PoW共识机制进行挖矿,致力于建立一个去中心化、安全、高效的数字货币生态系统。

  • 2 GBC币值得长期持有吗?

    GBC币是一个全球数字货币,目前尚未被具体国家或地区的监管机构认可,因此在法律上并不被明确视为合法货币。然而,GBC币在一些数字货币交易平台上已经可以自由交易,因此在部分人群中具有一定的流通性和使用价值。需要注意的是,投资和交易数字货币存在一定的风险,大家在使用GBC币时应当谨慎评估风险并谨慎操作。

  • 3 FTRB币值得长期持有吗?

    FTI币是富途国际旗下的数字货币,主要用于平台交易和服务费用支付。拥有FTI币可享受一定的折扣和优惠。考虑到富途国际是一家知名的券商平台,FTI币的持有可能会为用户带来一定的收益和便利。然而,投资数字货币存在风险,请谨慎评估自身风险承受能力后再做决定。

  • 4 GOBLIN币有投资价值吗?

    Golem币是一种基于区块链技术的加密货币,旨在通过分布式计算平台连接全球计算资源,实现计算资源的共享和利用。Golem币的核心目标是构建一个去中心化的计算机网络,使得任何人都可以在这个平台上购买或出售计算资源,并获得相应的报酬。通过智能合约技术,用户可以安全地交易计算资源,确保数据的隐私和安全。Golem币的发行总量有限,具有一定的稀缺性和价值保障,可作为数字资产投资或支付工具。

  • 5 比特币涨什么币跌

    比特币暴涨时,通常会带动整个加密货币市场的涨势。在这种情况下,一些和比特币有较高相关性的币种通常会跟着涨,如以太坊、莱特币、比特币现金等。这些币种在市场上具有较高的知名度和流动性,因此在比特币价格上涨时,投资者也会将资金转移到其他加密货币中,推动它们的价格上涨。不过,需要注意的是,虽然这些币种可能会跟着比特币一起涨,但并不意味着它们的表现一定会和比特币完全一致,因为每种加密货币都有自身的特点和市场

  • 6 GINI币有投资价值吗?

    Girn币是一种加密数字货币,旨在提供安全、私密和快速的支付方式。它采用区块链技术,使交易信息被加密并记录在分散的账本中,从而确保交易的透明性和安全性。Girn币的发行总量有限,可以用于在线购物、投资和转账等多种场景。它的特点包括低手续费、快速确认时间和匿名交易功能。通过使用Girn币,用户可以轻松实现跨国支付,同时保护个人信息不被泄露。

  • 7 DXT币有投资价值吗?

    DXChain币是一种分布式存储和计算平台的数字货币,致力于构建一个安全、高效、去中心化的区块链网络。这种币具有很高的市场潜力,因为它提供了强大的功能和技术支持,能够满足用户的需求并提升区块链的性能。DXChain币还融合了人工智能和区块链技术,为用户带来了更多的创新和机会。总的来说,DXChain币是一个值得关注和投资的数字货币,有望在未来发展中取得更大的成功和成就。

  • 8 GMETA币有投资价值吗?

    gmee币是一种由GME官方发行的加密货币,旨在为玩家提供更多的游戏和虚拟经济交易选择。通过gmee币,玩家可以购买游戏内物品、参与游戏内经济活动,并且在GME生态系统中进行各种交易。gmee币的发行有助于扩大游戏产业的发展空间,并为玩家创造更多赚钱和享受游戏乐趣的机会。

  • 9 比特币跌反映什么

    比特币价格的下跌会对市场产生一定的影响。首先,持有比特币的投资者可能会遭受损失,导致投资者信心受到打击。其次,可能会引发市场的恐慌情绪,导致其他加密货币价格出现波动。另外,比特币价格下跌也可能对相关行业和企业产生影响,例如矿工、交易所和加密货币技术公司等。因此,比特币价格的下跌会对整个加密货币市场产生一定的影响。

  • 10 VINU币是主流币吗?

    vinci币是一种基于区块链技术的加密数字货币,旨在推动艺术和文化产业的发展。它的设计使得交易快速、低成本和安全。vinci币通过区块链技术实现去中心化的交易记录和智能合约执行,为艺术家、收藏家和文化爱好者提供了一个更加公开和透明的交易平台。vinci币的发行和管理方式也有利于促进文化创意产业的繁荣发展。