谷歌分析师警告人工智能“不一定是事实正确的”

时间:2024-09-29 编辑: 浏览:(593)

谷歌分析师Gary Illyes警告说,大型语言模型——像ChatGPT这样的生成式人工智能聊天机器人背后的技术——在准确性方面仍然存在差距,需要人眼来验证它们产生的内容。就在几天前,OpenAI推出了SearchGPT,这是一个新的人工智能搜索引擎,将与谷歌直接竞争。

Illyes在LinkedIn上分享了他在收件箱中收到的一个问题的评论,但没有说问题是什么。他说,在没有检查其他权威来源的情况下,人们不应该相信人工智能的反应。OpenAI旨在通过其搜索工具颠覆谷歌在搜索引擎市场的主导地位。

人工智能的反应“不一定是事实正确的”

Illyes在谷歌工作了十多年,他说,虽然人工智能的答案可能接近事实,但它们“不一定是事实正确的”。他解释说,这是因为大型语言模型(LLM)无法避免从互联网上漂浮的错误信息中获取信息。

Illyes写道:“根据他们的训练数据,LLMs会找到与提示的上下文和含义相一致的最合适的单词、短语和句子。”。“这使他们能够产生相关和连贯的回应。但不一定是事实正确的回应。”

这位谷歌分析师表示,用户仍需要根据“你对LLM所问主题的了解,或者对你的查询有权威性的资源的额外阅读”来验证人工智能的答案

开发人员试图确保人工智能生成内容的可靠性的一种方法是通过一种称为“接地”的做法。该过程涉及将机器创建的信息与人为因素相结合,以防止错误。根据Illyes的说法,接地可能仍然不够。

他说:“接地可以帮助产生更符合事实的正确反应,但它并不完美;它不会取代你的大脑。”。“互联网上充满了有意和无意的错误信息,你不会相信你在网上读到的一切,那么你为什么要做出法学硕士的回应呢?”

埃隆·马斯克指责谷歌屏蔽公共信息

传统上,信任一直是谷歌和其他人工智能平台等搜索引擎的一个问题,以及它们如何对发送给用户的信息施加一些控制。

其中一起事件涉及美国前总统唐纳德·特朗普最近的暗杀企图。埃隆·马斯克表示,谷歌禁止枪击事件出现在其搜索结果中,这在社交媒体上引发了一场关于大型科技公司影响范围的重大辩论。

哇,谷歌对唐纳德·特朗普总统实施了搜索禁令!干预选举?pic.twitter.com/dJzgVAAFZA——埃隆·马斯克(@elonmusk)2024年7月29日

在一系列回应中,一个声称属于谷歌副总裁安娜·莫斯塔拉克的恶搞账户加入了这场辩论,分享了该公司因涉嫌屏蔽特朗普内容而做出的虚假道歉。

“…人们的信息需求持续增长,因此我们将不断发展和改进搜索。然而,似乎我们需要重新调整我们所说的准确。准确是主观的,追求准确可能会妨碍事情的完成,”X上发布的虚假账户。

“你可以放心,我们的团队正在努力确保我们不会让对准确性的敬畏成为我们对未来愿景的干扰,”它补充道。

X上的社区笔记立即标记了这条推文,称该人冒充谷歌副总裁。这是一个信息很容易被扭曲的例子,如果没有人工审查,人工智能模型可能无法区分哪些是准确的,哪些是不准确的。

最新 更多 >
  • 1 随着20亿美元的加密期权合约今天到期,市场能否复苏?

    7月12日星期五,将看到约23700份比特币期权合约,名义价值约为14.9亿美元。 期权到期事件的规模与上周相似,对现货市场没有太大影响。 由于矿商、德国政府和Mt.Gox赎回的BTC抛售压力,它们一直呈下降趋势。 比特币期权到期 今天这批BTC衍生品的看跌/看涨比率为1.08,这意味着多头和空头分布非常均匀,多头和空头相匹配。最大损失点或最大痛点为58500美元,略高于当前的现货价格。 然而,D

  • 2 Railgun阻止Inferno Drainer试图清洗价值174 ETH的被盗资金

    流行的加密隐私协议Railgun成功阻止了Inferno Drainer最近清洗被盗资金的努力,这些资金被退回到原始钱包的地址。 根据慢雾反洗钱追踪系统7月10日的一篇帖子,X上的MistTrack试图清洗超过174个ETH,当时价值约533000美元,被Railgun拦截。这迫使肇事者将被盗的ETH归还给Inferno Drainer的原始钱包。 地狱排水器回来了 Inferno Drainer

  • 3 DeFi新纪元:加密货币交易与筹码换手创新玩法Defi项目开发

    一、引言随着技术的进步和市场的适应,去中心化金融(DeFi)有望进一步改变传统金融市场结构,为市场参与者提供更高效、更安全、更透明的交易选项。本篇Bing Ventures研究展望了DeFi技术在未来可能持续的影响,尤其是在提高市场包容性、降低交易成本和增强市场效率方面的潜在贡献,特别关注Pendle和盘前交易(Premarket)方面的案例。Pendle通过Token化的方式将传统的利率交易和金

  • 4 加密货币分析师Kevin Svenson表示,Altcoin季将“很快”开始——原因如下

    加密货币分析师兼交易员Kevin Svenson认为,altcoins显著优于比特币(BTC)的altseason时期即将到来。 在一段新的视频中,Svenson告诉他的78600名YouTube用户,比特币和以太坊(ETH)的价格走势决定了他对altcoins的看好。 “Altseason实际上可能很快就会发生。我之所以得出这个结论,是因为比特币打破了抛物线趋势,并希望在这个范围内横盘盘整,而领

  • 5 Shiba Inu的价格——是否低估取决于这一因素

    Shiba Inu的MVRV Z分数表明,它可能被低估了。SHIB的网络增长激增,这意味着人们对模因币的兴趣增强 Shiba Inu[SHIB]是市值第二大模因币,本周在性价比方面表现平平。然而,尽管其最近的价格走势如何,数据表明SHIB实际上可能被低估了。 你应该买SHIB吗? Santiment的数据显示,根据MVRV Z-Score,SHIB可被视为欠应。Shiba Inu的MVRV Z-S

  • 6 SOL可能会上涨?牛市能不能带来新高

    SOL的当前市场地位和挑战根据最新的市场数据,Solana 一直面临与比特币和以太坊等其他领先加密货币类似的看跌趋势。尽管价格略有上涨,但总体下跌趋势仍然存在。要实现显着的看涨逆转,SOL 需要超过关键价格水平 155 美元,最终达到 190 美元。当前的市场情绪表明,这些门槛对于恢复投资者信心至关重要。市场预测:SOL会达到新的高度吗?尽管看跌趋势持续,但一些市场观察人士仍对 Solana 的长

  • 7 两天订阅人数破250万:DOGS 空投却可能不值一顿猪脚饭

    作者:艾森 Icing;来源:FreedomRunner上线第一天,Dogs Telegram 订阅频道突破100万;上线第二天,订阅频道突破250万。而实际上,在这疯狂的数字背后,Dogs 只有一个发了几条消息的 Telegram 订阅频道和一个开发在 Telegram 上的 Dogs bot。它甚至都不是一个无脑点击的 Hamster Kambot 游戏,最多是一个学习了拼多多砍100刀精髓的

  • 8 Ripple:AI预测XRP 7月15日的价格

    XRP是最近统治该领域的最强大的加密货币之一。尽管与美国证券交易委员会(SEC)展开了激烈的战争,但该代币尚未失去活力,并一直在努力增强其势头。随着Ripple稳定币及其大规模的合作,XRP必将取得惊人的价格成就。 另请阅读:货币:美元将贬值99%-Michael Saylor Ripple XRP:价格水平上发生了什么 来源–加密冒险 根据CoinMarketCap的数据,XRP目前的交易价格

  • 9 成立不到一年 已有超200万名教育工作者使用这家面向教师的AI平台

    “行业观察者”是我们针对人工智能、XR、元宇宙和Web3等前沿科技而设立的专栏,主要分享这些领域中的新兴企业或者创业者们的故事。MagicSchool AI是教育领域使用最广泛的AI平台,有超过200万名教育工作者使用该平台,并与全球3500多所学校和学区建立了合作伙伴关系。MagicSchool如何成为增长最快的K-12教育工作者和学生技术平台?以下是我们的第18期内容,以下Enjoy。长期以来

  • 10 万事达卡加入Alchemy Pay以增强安全性-最新加密货币新闻

    Mastercard已将其开户API与Alchemy Pay集成在一起,以加强安全并加强风险控制措施。此次战略合作旨在增强各种Alchemy Pay产品的安全性,包括入口和出口解决方案、NFT结账和加密卡解决方案。通过利用先进的机器学习技术,该合作伙伴关系旨在通过准确识别和验证合法用户来显著减少欺诈活动。 内容隐藏1核心目标是什么?2这种伙伴关系如何反映更广泛的趋势?用户的3个关键要点 核心目标