人工智能模型在人工智能生成的数据上训练时会吐出“胡言乱语”

时间:2024-09-19 编辑: 浏览:(973)

一项新的研究发现,基于人工智能生成材料的先前迭代训练的大型语言模型(LLM)产生的输出缺乏实质性和细微差别。这些发现给人工智能开发人员带来了新的挑战,他们依赖有限的人工生成数据集来获取内容。

另请阅读:AI deepfakes使美国当局难以保护儿童——报告

来自英国剑桥大学和牛津大学的人工智能研究人员试图根据仅包含人工智能生成内容的数据集编写提示。结果并不理想,因为它产生了难以理解的反应。

人工智能仍然需要人类来理解

该论文的作者之一,剑桥大学的Zhakar Shumaylov表示,需要对提供LLM的数据进行质量控制,LLM是ChatGPT和谷歌Gemini等生成式人工智能聊天机器人背后的技术。Shumaylov说:

“信息是,我们必须非常小心训练数据中的结果。[否则,]事情总是会出错。”。

Shumaylov详细介绍说,这种现象被称为“模型崩溃”。它已被证明会影响各种人工智能模型,包括那些专门使用文本提示生成图像的模型。

根据这项研究,在一个模型上使用人工智能生成的数据重复文本提示最终会产生胡言乱语。例如,研究人员发现,一个用关于英国中世纪教堂塔楼的文本进行测试的系统仅在九代之后就产生了重复的野兔列表。

在评论这些结果时,加州大学计算机科学家Hany Farid将数据崩溃比作动物繁殖中特有的挑战。

法里德说:“如果一个物种与自己的后代近亲繁殖,并且没有使其基因库多样化,这可能会导致该物种的崩溃。”。

当研究人员将人类生成的数据注入人工智能数据时,崩溃的速度比在纯人工智能生成的内容上运行时要慢。

人工智能模型在人工智能生成的数据上训练时会产生胡言乱语。

研究人员:人工智能可能会加剧对少数群体的偏见

语言模型通过在大量文本中建立标记(单词或单词部分)之间的关联来工作,这些文本通常是从互联网上抓取的。他们根据这些学习模式,通过吐出统计上最可能的下一个单词来生成文本。

另请阅读:ChatGPT驱动的泰迪熊Poe为孩子们读睡前故事

7月24日发表在《自然》杂志上的这项研究表明,数据集中几次提到的信息可能不会重复。研究人员担心,这可能会对已经被边缘化的少数群体产生负面影响。

为了避免现实生活中的模型崩溃,该研究建议对人工智能生成的内容和人类生成的内容进行水印处理。但它表示,由于竞争对手人工智能公司之间缺乏协调,这也可能是一个问题。

这项研究的发现正值人们越来越多地争论人工智能是否会导致人类在创作内容时被完全排除在外,包括小说和报纸文章的写作。

这项名为“人工智能模型在递归生成的数据上训练时会崩溃”的研究结果平息了这场争论——人类还没有被排除在等式之外。

最新 更多 >
  • 1 LBY币有投资价值吗?

    LBRY是一个基于区块链技术的数字内容共享平台,通过LBRY协议让用户可以自由分享和获取各种类型的内容,如音乐、视频、图片、电子书等。LBRY币是这个平台的加密货币,用于支付内容创建者和分享者之间的奖励。用户可以通过挖矿、购买或参与内容创作来获得LBRY币,并在平台上享受内容的分享和获取。LBRY币的设计旨在保护用户隐私、去中心化和去广告化,让用户可以自由选择他们感兴趣的内容。

  • 2 WAIT币是主流币吗?

    WT是Wetrust的代币,是一种ERC20标准的加密货币。作为Wetrust平台的通用货币,WT代币可用于支付平台上的服务费用和交易费用。它也可以用来奖励平台上的贡献者和帮助建立更加公平和可信的金融服务生态系统。通过WT代币,用户可以享受更便捷、更安全和更高效的金融服务体验。

  • 3 WWDOGE币是主流币吗?

    w币是中国电商平台网易旗下的虚拟货币,用户可以通过在网易旗下的各种服务平台上消费或参与活动来获取w币,并在其中使用,比如购买商品、兑换优惠券等。w币的使用范围在网易旗下的各种服务中都适用,是网易公司为了促进用户消费和增加用户黏性而推出的一种激励制度。

  • 4 ILA币有投资价值吗?

    ILC币是一种加密货币,基于区块链技术发行。ILC币的创造旨在实现去中心化的数字资产交易和交换,为用户提供安全、快速和低成本的交易服务。ILC币的发行总量有限,具有稀缺性和价值保值的特点。ILC币可用于支付商品和服务,也可作为投资和交易资产。ILC币的愿景是成为数字货币领域的领先者,推动加密货币市场的发展和创新。

  • 5 HIENS4币有投资价值吗?

    HIENS4币是一个新兴的加密货币,目前市场上还相对较为不知名。虽然贸易量不大,但HIENS4币的潜在投资价值仍然存在。投资者需要谨慎对待这种相对风险较高的投资,应该充分了解其背后的项目和技术基础,以便更好地评估其未来发展前景。最终的投资决策应该基于个人的风险承受能力和投资目标。

  • 6 IOEX币有投资价值吗?

    IonX币是一种基于区块链技术的加密货币,旨在为持有者提供一种安全、匿名和快速的支付方式。IonX币具有去中心化的特点,不受任何政府或金融机构控制,可以在全球范围内进行交易。此外,IonX币还具有实时结算和低交易费用的优势,使其成为一种理想的数字货币选择。通过持有和交易IonX币,用户可以更加便捷地进行跨境支付和投资交易,实现资产的增值和保值。

  • 7 KUJI币有投资价值吗?

    Kuqi币是一种加密货币,通过区块链技术实现的数字资产。该货币可以用于进行在线交易和支付,具有安全、便捷、低成本的特点。Kuqi币的发行量有限,具有一定的投资价值,并且有一定的市场流通性。通过持有、交易和使用Kuqi币,用户可以在数字经济领域获得更多的自主权和灵活性。

  • 8 XSHARE币是主流币吗?

    Xfin币是一种加密货币,旨在提供安全、快速和低成本的支付解决方案。它基于区块链技术,具有分散、匿名和去中心化的特点。Xfin币的特点包括高度的隐私保护、即时交易确认和强大的安全性。它还支持手机钱包和在线支付,为用户提供便捷的数字货币体验。总的来说,Xfin币可以帮助用户进行安全、快速和便捷的货币交易,是数字支付领域的重要参与者之一。

  • 9 XLON币发行总量是多少?

    XLM币(Stellar Lumens)的发行量是恒定的,最初在2014年发行了1000亿枚XLM。随着时间的推移,这个数字并没有增加,因为XLM采用了固定的通货供应政策,不会进行通货膨胀或减少。这种恒定的发行量有助于确保XLM的稳定性和可靠性,同时也使得XLM成为一种理想的支付和交易工具。

  • 10 WEC币发行价是多少?

    WETH币是一种基于以太坊网络的ERC-20代币,代表着以太币的“包装”形式。WETH的价格会受到以太币价格波动的影响,通常可以通过以太坊网络的各种交易所进行交易。WETH币的价格在市场上会不断变动,投资者需要谨慎研究市场动态,选择合适的时机进行买卖操作。