OpenAI神秘模型,再次被Sam Altman提及

时间:2024-09-21 编辑: 浏览:(487)

文章来源:AIGC开放社区

图片来源:由无界AI生成

5月6日,OpenAI首席执行官Sam Altman在社交平台分享了一条推文“我是一个优秀的GPT-2聊天机器人”。

而在4月30日,Altman就提起过该模型非常喜欢GPT-2。按道理说一个只有15亿参数在2019年发布的开源模型,被反复提及两次就很不寻常。

更意外的是GPT-2曾短暂上榜LMSYS的聊天机器人竞技场性能媲美GPT-4、Claude Opus等模型。

很多人猜测,难道这是OpenAI即将发布的GPT-4.5、GPT-5?但在5月2日的一场公开演讲中,Altman否认了这个说法。

GPT-2开源地址:https://github.com/openai/gpt-2

论文地址:https://cdn.openai.com/better-language-models/language_models_are_unsupervised_multitask_learners.pdf

从GPT-2展示出的性能来看有一点是可以肯定的,OpenAI掌握了一种新的训练、微调模型方法,可将小参数模型的性能训练的和大参数模型一样优秀,就像微软刚发布的Phi-3系列模型。

所以,这可能是一款针对手机、平板等移动设备的高性能、低消耗模型。因为,微软、谷歌、Meta等科技巨头都发布了针对移动端的大模型,唯独OpenAI迟迟没有发布。

加上苹果正在与OpenAI、谷歌洽谈希望在iOS 18中使用GPT系列模型来增强用户体验和产品性能。非常善于营销的Altman用这种“新锅抄旧菜”的方法进行病毒式宣传来赢得苹果的信任。

一方面,可以极大展示自己模型的性能与技术实力;另一方面给谷歌造成压力,虽然其Gemini系列是针对移动端的,但在市场应用方面并没有太多的反响。

开发移动端的大模型都有一个非常相似的技术特点,就是参数都非常小。例如,微软刚发布的Phi-3系列模型,最小的只有13亿参数;谷歌的Gemini系列模型最小的只有18亿。

这是因为,参数越大模型的神经元就越多对硬件的要求也就越高。如果想部署在移动端的大模型需要考虑电池、存储空间、算力、延迟、推理效率等因素,才能在有限的硬件空间内发挥出最大的性能。例如,直接使用一个1000亿参数的模型,可能还没问几下电池先耗尽了。

此外,在移动设备对推理的效率要求也很高。目前手机端的延迟大概是web、PC端的数倍,如果想更好地使用语音助手、实时翻译、文本问答这些功能,也是使用小参数模型的主要原因之一。

所以,OpenAI使用在2019年开源的15亿参数GPT-2模型来实验最合适不过了,并且架构也是基于Transformer,基本上是GPT-3、GPT-4的先辈模型。

当然,如果未来OpenAI真的发布面向移动端的小参数模型,名字肯定不会再叫GPT-2,大概会起GPT-4 mini/little一类的吧。

本文素材来源OpenAI,如有侵权请联系删除

END

最新 更多 >
  • 1 Mintos展示了一种新的反向产品,它是一种反向产品

    BERLÍN,2024年5月23日/PRNewswire/-Mintos,一个传统和替代活动相结合的多活动倒置平台,一个接收产品的计划:一个倒置的平台。 这是一种新的形式上可接受的投资产品,可以在移动市场上进行投资。在50欧元的单独投资和每年约6%和8%的可租赁性的情况下,Mintos of ce是一种扩大了居民移动活动中可接受投资的可能性的新产品。 传统上,对流动资金活动的投资需要相当大的资本,

  • 2 比特币 ETF 连续八天流入 贝莱德超越灰度

    原文来源:钮轱辘瑶在 GBTC 资金再次流出的同时,贝莱德的比特币 ETF IBIT 资金流入再次强劲激增。 BTC 价格目前徘徊在 69,000 美元左右。尽管整个加密社区仍然关注现货以太坊 ETF的批准,但机构投资者仍在继续增加对比特币 ETF 的投资。 5 月 22 日星期三,美国现货比特币 ETF 已连续八天出现资金流出。贝莱德将超越灰度Farside Investors的数据显示,5月2

  • 3 River Protocol采用Slack,与以太坊L2基础上的消息应用程序不和

    随着谷歌(Google)和Meta等大型科技公司将潜在的不需要的人工智能功能注入其消息平台,人们越来越呼吁使用去中心化和加密的替代方案,而不依赖于集中式的重量级公司。 一家旨在提供这项服务的公司是Here Not There Labs,它是Towns社交应用程序和新推出的River Protocol的创建者。River旨在为Slack和Discord等聊天平台提供一种替代方案,该平台由区块链技术提

  • 4 比特币接近历史新高-最新加密货币新闻

    比特币价格在前几天短暂下跌后,于5月23日飙升至6.9万美元以上。随着美国监管机构似乎准备批准以太坊ETF产品,市场充满了乐观情绪,这标志着与最近几周相比发生了重大转变。 内容隐藏1为什么投资者关注比特币?2以太坊的前景如何?投资者的3大收获 为什么投资者关注比特币? 比特币/美元对正在吸引投资者的注意,目标设定为80000美元,有望为比特币和其他替代币带来新的牛市轨迹。MNTr

  • 5 前董事会成员表示,特斯拉可以更多地利用马斯克的关注点

    特斯拉和太空探索技术公司的联合创始人、X控股公司的所有者埃隆·马斯克于2024年5月6日在加利福尼亚州比佛利山庄的比佛利希尔顿酒店举行的米尔肯研究所全球会议上发表讲话。阿普·戈梅斯|盖蒂图片社 特斯拉前董事会成员Steve Westly周四表示,在电动汽车行业的关键时刻,特斯拉可能会更多地利用备受瞩目的首席执行官埃隆·马斯克的分歧。Westly在巴黎举行的VivaTech年度会议上对CNBC表示

  • 6 MoonBag Meme Coin将在预售中获得9900%的收益,超越明星,Theta和Render将应对宇宙挑战

    你准备好获得下一个加密货币大机会了吗?加密货币世界最近的动荡使Theta Coin面临挑战,因为它的交易量低,缺乏采用率,而Render Coin在最近的价格波动中遇到了障碍,解决其平台上MERN堆栈应用程序部署问题的必要性仍然至关重要。此类事件损害了该公司在开发商和投资者群体中的声誉。鉴于加密场景的技术条件,需要强大的基础设施。MoonBag预售为Theta和Render等硬币面临的挑战提供了一

  • 7 贝莱德的新现货以太坊ETF申请不包括入股| Cryptopolitan

    转换器英语 新闻关闭新闻开放新闻价格预测关闭价格预测开放价格预测学习关闭学习开放学习人工智能关闭人工智能开放人工智能游戏关闭游戏开放游戏比特币Dogecoin骗局币安DeFi Ripple NFT以太坊EFTs Cardano Regulation AAVE Algorand Avalanche比特币现金BNB CAKE Cardano Chainlink CRO Dent Digibyte D

  • 8 海洋美国,一个新的全球基金会,推出改变游戏规则的计划,在一代人内重建世界海洋

    华盛顿,2024年5月23日/PRNewswire/-新的全球基金会“海洋美国”今天推出了一项改变游戏规则的计划,旨在重建世界枯竭的海洋,其信息是,仅靠保护不足以扭转气候变化和生物多样性丧失对地球的影响。 该倡议是在五年多的时间里制定的,坚信只有科学和一个强大的社会才能领导这场行星修复。它得到了世界上最杰出的海洋科学家的支持;其中,著名海洋生态学家Carlos M.Duarte担任首席科学家,

  • 9 Ripple:需要多少XRP代币才能在3.84美元的价格达到100万美元

    由于预计美国证券交易委员会(SEC)可能很快批准一只现货以太坊ETF,加密货币市场正在经历大幅飙升。在表现最好的公司中,以太坊(ETH)涨幅显著。然而,Ripple的XRP也取得了显著进展,吸引了投资者的注意。 来源 最近,XRP的日涨幅为6%,自5月初以来首次接近0.55美元大关。尽管它经历了小幅下跌,截至发稿时交易价格为0.5343美元,但该资产最近的上涨趋势引发了人们对其达到新高度潜力的讨

  • 10 如何桥接到Celestia?

    你的导游:如何桥接到Celestia? 所以,你认为自己是一个加密货币爱好者,嗯?如果是这样的话,你可能喜欢在不同的区块链技术之间冲浪。 如果你喜欢在不同的加密货币交易所之间来回切换,那么你需要做所谓的“桥接” 现在,假设您已经在某个区块链平台上拥有资产,并希望将其转移到Celestia。好吧,幸运的是,今天我们将回答这个问题,“如何桥接到Celestia?” 继续阅读以了解更多信息。 另请阅读: