OpenAI神秘模型,再次被Sam Altman提及

时间:2024-10-02 编辑: 浏览:(732)

文章来源:AIGC开放社区

图片来源:由无界AI生成

5月6日,OpenAI首席执行官Sam Altman在社交平台分享了一条推文“我是一个优秀的GPT-2聊天机器人”。

而在4月30日,Altman就提起过该模型非常喜欢GPT-2。按道理说一个只有15亿参数在2019年发布的开源模型,被反复提及两次就很不寻常。

更意外的是GPT-2曾短暂上榜LMSYS的聊天机器人竞技场性能媲美GPT-4、Claude Opus等模型。

很多人猜测,难道这是OpenAI即将发布的GPT-4.5、GPT-5?但在5月2日的一场公开演讲中,Altman否认了这个说法。

GPT-2开源地址:https://github.com/openai/gpt-2

论文地址:https://cdn.openai.com/better-language-models/language_models_are_unsupervised_multitask_learners.pdf

从GPT-2展示出的性能来看有一点是可以肯定的,OpenAI掌握了一种新的训练、微调模型方法,可将小参数模型的性能训练的和大参数模型一样优秀,就像微软刚发布的Phi-3系列模型。

所以,这可能是一款针对手机、平板等移动设备的高性能、低消耗模型。因为,微软、谷歌、Meta等科技巨头都发布了针对移动端的大模型,唯独OpenAI迟迟没有发布。

加上苹果正在与OpenAI、谷歌洽谈希望在iOS 18中使用GPT系列模型来增强用户体验和产品性能。非常善于营销的Altman用这种“新锅抄旧菜”的方法进行病毒式宣传来赢得苹果的信任。

一方面,可以极大展示自己模型的性能与技术实力;另一方面给谷歌造成压力,虽然其Gemini系列是针对移动端的,但在市场应用方面并没有太多的反响。

开发移动端的大模型都有一个非常相似的技术特点,就是参数都非常小。例如,微软刚发布的Phi-3系列模型,最小的只有13亿参数;谷歌的Gemini系列模型最小的只有18亿。

这是因为,参数越大模型的神经元就越多对硬件的要求也就越高。如果想部署在移动端的大模型需要考虑电池、存储空间、算力、延迟、推理效率等因素,才能在有限的硬件空间内发挥出最大的性能。例如,直接使用一个1000亿参数的模型,可能还没问几下电池先耗尽了。

此外,在移动设备对推理的效率要求也很高。目前手机端的延迟大概是web、PC端的数倍,如果想更好地使用语音助手、实时翻译、文本问答这些功能,也是使用小参数模型的主要原因之一。

所以,OpenAI使用在2019年开源的15亿参数GPT-2模型来实验最合适不过了,并且架构也是基于Transformer,基本上是GPT-3、GPT-4的先辈模型。

当然,如果未来OpenAI真的发布面向移动端的小参数模型,名字肯定不会再叫GPT-2,大概会起GPT-4 mini/little一类的吧。

本文素材来源OpenAI,如有侵权请联系删除

END

最新 更多 >
  • 1 CISLA币哪个交易所可以买到

    CISLA币介绍CISLA币是一种新型的加密货币,它基于区块链技术,旨在为全球用户提供安全、快速和便捷的支付和交易平台。CISLA币具有去中心化的特点,减少了交易的中介环节和运营成本,更重要的是,它为用户提供了匿名和安全的交易环境。选择交易所购买CISLA币当您决定购买CISLA币时,您需要选择一个值得信赖和可靠的交易所。下面是几个比较受欢迎的交易所,您可以在这些交易所中购买到CISLA币:1.

  • 2 CIOTX币怎么交易

    CIOTX币怎么交易?CIOTX币是一种数字加密货币,它提供了去中心化的交易平台,允许用户在全球范围内进行无需第三方干预的直接交易。 加入交易所首先,用户需要在一个可靠的交易所上注册一个账户。交易所是购买和出售CIOTX币的场所,用户可以选择合适的交易所根据自己的需求以及地区可用的交易所。 验证身份在注册账户时,用户通常需要验证自己的身份。这是一个必要的过程,以确保交易所符合反洗钱和欺诈防范的规定

  • 3 xrm币最高价是多少?xrm币值得入手吗?

    XRM币最高价是多少?在加密货币市场中,一种备受关注的数字货币是XRM币。XRM币是区块链平台Monero的加密货币代币,致力于提供更高的隐私和匿名性。在过去的几年里,XRM币经历了显著的波动,其最高价也随之变化。2017年底,热门数字货币达到顶峰时,XRM币的价格也创下历史新高。当时,XRM币的最高价达到了约400美元。这一价格引起了投资者的广泛兴趣,并使XRM币成为人们关注的焦点。然而,随着市

  • 4 qnc币最高价是多少?qnc币值得入手吗?

    QNC币简介QNC币是由Quantum Network发行的一种加密数字货币。Quantum Network是一个专注于构建分布式网络和去中心化应用的区块链项目。QNC币是该项目的主要通证,用于支持网络中的各种交易和应用。QNC币的最高价截至目前,QNC币的最高价达到了XXX美元。在过去的几年里,QNC币的价格经历了波动和变化,但总体趋势呈上升趋势。尽管其最高价目前尚未达到太高水平,但潜力依然巨大

  • 5 CIRUS币如何购买与销售

    如何购买与销售CIRUS币随着加密货币的兴起,越来越多的人开始关注和投资不同的数字货币。CIRUS币作为一种新兴的加密货币,其去中心化和高度安全的特性吸引了很多投资者的目光。如果你对CIRUS币感兴趣,并希望了解如何购买和销售CIRUS币,本文将为你提供一些基本的指导。1. 选择合适的交易平台购买和销售CIRUS币的第一步是选择一个可靠的交易平台。你可以通过在搜索引擎或加密货币论坛上搜索来找到各种

  • 6 CHE币交易所有哪些

    介绍CHE币交易所CHE币交易所是一个专注于数字货币交易的平台,致力于为用户提供安全、高效、便捷的交易环境。作为全球领先的数字资产交易平台之一,CHE币交易所为用户提供多种数字货币的交易对,以及专业的交易工具和服务。支持的交易品种CHE币交易所目前支持的交易品种包括比特币(BTC)、以太坊(ETH)、莱特币(LTC)等主流数字货币,以及一些新兴的数字资产。用户可以在平台上进行币币交易、法币交易、合

  • 7 CJ币如何购买与销售

    如何购买与销售CJ币随着数字货币的不断发展,CJ币(CryptoJade Coin)作为一种新型的数字货币也受到了越来越多人的关注。本文将介绍CJ币的购买与销售方法,帮助读者更好地了解如何进行交易。一、购买CJ币1.寻找合适的交易平台:在购买CJ币之前,首先需要找到一个可信赖的交易平台。选择一个交易量大、知名度高、用户口碑好的平台是购买CJ币的重要步骤。2.注册账户:在所选择的交易平台上注册一个账

  • 8 CHS币交易平台软件有哪些

    CHS币交易平台软件有哪些CHS币是一个数字货币,为了方便用户进行交易和管理,诸多CHS币交易平台软件应运而生。这些软件提供了各种功能和特性,以满足用户在数字货币交易过程中的需求。以下是几个常见的CHS币交易平台软件:1. ABC交易所ABC交易所是一家知名的数字货币交易平台,支持CHS币的交易和存储。该平台提供了简洁的用户界面和丰富的交易功能,包括市价交易、限价交易等。用户可以方便地进行CHS币

  • 9 nlx币是什么?nlx币最近行情如何?

    什么是NLX币?NLX币是一种加密货币,它采用了去中心化的区块链技术,旨在为用户提供匿名、安全和快速的交易方式。NLX币的开发团队致力于打造一个隐私保护和安全性超群的数字货币。NLX币的特点1. 隐私保护:NLX币采用了秘密交易协议,可以提供用户的交易匿名性。每笔交易都经过匿名化处理,以保护用户的隐私。2. 安全性:NLX币的区块链技术采用了先进的加密算法,保证了交易的安全性和不可篡改性。3. 快

  • 10 VV币发行价格和发行总量是多少?

    VV币发行价格和发行总量近年来,随着区块链技术的发展和应用场景的不断拓展,各种数字货币纷纷涌现。其中,VV币作为一种新兴的数字货币,备受关注。VV币是一种基于区块链技术发行的加密货币,具有去中心化、安全、匿名等特点,广泛应用于数字经济领域。对于VV币的发行价格和发行总量,可从以下两个方面进行说明。发行价格VV币的发行价格取决于市场供求关系和其背后的价值,通常由交易所或发行方在ICO(首次代币发售)