人工智能模型在人工智能生成的数据上训练时会吐出“胡言乱语”

时间:2024-09-24 编辑: 浏览:(45)

一项新的研究发现,基于人工智能生成材料的先前迭代训练的大型语言模型(LLM)产生的输出缺乏实质性和细微差别。这些发现给人工智能开发人员带来了新的挑战,他们依赖有限的人工生成数据集来获取内容。

另请阅读:AI deepfakes使美国当局难以保护儿童——报告

来自英国剑桥大学和牛津大学的人工智能研究人员试图根据仅包含人工智能生成内容的数据集编写提示。结果并不理想,因为它产生了难以理解的反应。

人工智能仍然需要人类来理解

该论文的作者之一,剑桥大学的Zhakar Shumaylov表示,需要对提供LLM的数据进行质量控制,LLM是ChatGPT和谷歌Gemini等生成式人工智能聊天机器人背后的技术。Shumaylov说:

“信息是,我们必须非常小心训练数据中的结果。[否则,]事情总是会出错。”。

Shumaylov详细介绍说,这种现象被称为“模型崩溃”。它已被证明会影响各种人工智能模型,包括那些专门使用文本提示生成图像的模型。

根据这项研究,在一个模型上使用人工智能生成的数据重复文本提示最终会产生胡言乱语。例如,研究人员发现,一个用关于英国中世纪教堂塔楼的文本进行测试的系统仅在九代之后就产生了重复的野兔列表。

在评论这些结果时,加州大学计算机科学家Hany Farid将数据崩溃比作动物繁殖中特有的挑战。

法里德说:“如果一个物种与自己的后代近亲繁殖,并且没有使其基因库多样化,这可能会导致该物种的崩溃。”。

当研究人员将人类生成的数据注入人工智能数据时,崩溃的速度比在纯人工智能生成的内容上运行时要慢。

人工智能模型在人工智能生成的数据上训练时会产生胡言乱语。

研究人员:人工智能可能会加剧对少数群体的偏见

语言模型通过在大量文本中建立标记(单词或单词部分)之间的关联来工作,这些文本通常是从互联网上抓取的。他们根据这些学习模式,通过吐出统计上最可能的下一个单词来生成文本。

另请阅读:ChatGPT驱动的泰迪熊Poe为孩子们读睡前故事

7月24日发表在《自然》杂志上的这项研究表明,数据集中几次提到的信息可能不会重复。研究人员担心,这可能会对已经被边缘化的少数群体产生负面影响。

为了避免现实生活中的模型崩溃,该研究建议对人工智能生成的内容和人类生成的内容进行水印处理。但它表示,由于竞争对手人工智能公司之间缺乏协调,这也可能是一个问题。

这项研究的发现正值人们越来越多地争论人工智能是否会导致人类在创作内容时被完全排除在外,包括小说和报纸文章的写作。

这项名为“人工智能模型在递归生成的数据上训练时会崩溃”的研究结果平息了这场争论——人类还没有被排除在等式之外。

最新 更多 >
  • 1 SHAMAN币最高的时候是多少钱?

    SHAMAN币作为一种基于区块链技术的加密货币,自问世以来,备受投资者们的关注和追捧。其价格的波动一直备受关注,SHAMAN币最高的时候究竟是多少钱呢?下面我们来了解一下。SHAMAN币的诞生SHAMAN币是一种利用智能合约技术基于区块链平台发布的数字货币。ShamanChain是一个智能合约生态网络,其目标是提供一个安全、高效而且可扩展的智能合约平台。SHAMAN币历史价格走势SHAMAN币的价

  • 2 Rapidash前景如何?Rapidash币团队成员介绍

    Rapidash币团队成员介绍Rapidash币团队是一个由多名经验丰富的区块链专家和技术人员组成的团队,致力于推动Rapidash币的发展和推广。团队成员介绍首先,团队的首席执行官是John Smith,他曾在多家知名区块链公司担任高管职务,拥有丰富的行业经验和人脉资源。作为团队的领导者,John致力于将Rapidash币建设成为一个领先的加密货币项目。其次,团队的技术总监是Alice Whit

  • 3 dogwifball(WIFB币)值得长期投资吗?

    WIFB币值得长期投资吗?WIFB币是一种加密货币,类似于比特币和以太坊等数字货币。在近年来,加密货币市场蓬勃发展,吸引了许多投资者的关注。然而,对于WIFB币是否值得长期投资这个问题,投资者们有不同的看法。风险与收益投资加密货币始终存在着风险,因为市场波动较大,价格波动较为剧烈。尤其是像WIFB币这样的新型加密货币,风险更大。因此,投资者在进行长期投资时,需要考虑到风险和回报之间的平衡。市场潜力

  • 4 ROO币历史价格走势怎么样?

    ROO币历史价格走势怎么样?ROO币是一种基于区块链技术的数字货币,于2018年推出,并逐渐走红。ROO币发行的初衷是通过去中心化的方式,保护数字化资产的安全性和隐私性,成为一种可信赖和全球通用的支付手段。ROO币自2018年上线以来,价格波动较大。以下是近三年ROO币价格走势的简要回顾和评价。2018年初,ROO币从0.2美元的低位震荡到1.5美元2018年初ROO币刚刚上线,它的价格一开始波动

  • 5 PEX是什么币种,PEX币怎么样?

    PEX是什么币种PEX是一个加密货币,是Pexa项目的原生代币。Pexa项目致力于构建一个完全去中心化的区块链生态系统,旨在为用户提供更安全、快速、低成本的转账和支付服务。PEX币作为Pexa项目的代币,具有一定的使用场景和功能。PEX币有哪些特点PEX币是一个去中心化的数字货币,具有一些独特的特点。首先,PEX币的发行总量是固定的,没有通胀机制,因此更具价值稳定性。其次,PEX币采用区块链技术,

  • 6 SKU币历史价格走势怎么样?

    什么是SKU币?SKU币,又称为SKUChain币,是基于区块链技术设计的一种加密货币。SKUChain是一家专注于解决商品零售领域中存在的问题的公司,SKU币的设计初衷就是为了应对商品溯源、假货防范等问题,通过区块链技术记录商品生产、流通过程中的信息,从根本上解决商品安全性问题。SKU币的价格走势SKU币的价格最初于2018年1月份上线,当时价格约为0.01美元。在最初几周里价格稳步上涨,一度涨

  • 7 SAY是什么币?SAY币项目详情及币种概念介绍

    SAY是什么币?SAY币是一种基于区块链技术的数字货币,旨在打造一个数字身份认证及社交网络平台。SAY币的名称源自英文单词"say",意味着每个人都可以用自己的方式来表达自己,实现自由、开放的社交互动。SAY币项目详情SAY币项目的核心目标是创造一个去中心化、安全可靠的社交网络平台,使用户可以更加自由地分享自己的思想、观点和信息。通过使用SAY币,用户可以获得数字身份认证、社交激励、内容创造收益等

  • 8 加密货币借贷费率是多少?如何计算

    加密货币借贷市场的费率可以因平台、币种和市场条件的不同而有所差异。以下是关于加密货币借贷费率的一些基本信息以及如何计算这些费率:1. 加密货币借贷费率加密货币借贷费率是指借贷加密货币时所需支付的利率。费率可以是固定的或浮动的,取决于平台和市场条件。常见的平台包括Celsius、BlockFi、Nexo、Aave等。2. 影响借贷费率的因素平台类型:中心化平台和去中心化平台的费率可能不同。币种:不同

  • 9 SATA币历史价格走势怎么样?

    SATA币历史价格走势怎么样?作为一个新近出现的数字货币,SATA币在短短的时间内就引起了市场的关注。然而,对于大多数人来说,SATA币究竟是什么,它的历史价格走势又是怎样的呢?下面我们就来了解一下SATA币的历史价格走势。2018年11月2018年11月16日,SATA币在CoinBene交易所上线,并于当天开始交易,初始价格约为0.014美元。2018年12月2018年12月,SATA币的价格

  • 10 ROCKET币历史价格走势怎么样?

    ROCKET币历史价格走势怎么样?ROCKET币是一个有着自己独特理念的数字货币,目前在市场上的表现仍然不错。下面就为大家简单介绍一下ROCKET币的历史价格走势。从2018年4月开始,ROCKET币的价格一度超过了1美元,创造了历史新高。然而几个月后,随着市场的调整,ROCKET币的价格迅速下跌至5美分以下。2019年初,ROCKET币做出了巨大的反弹,价格一度超过了40美分。不过这种繁荣并不持