卷价格的风还是吹到了AI大模型

时间:2024-09-30 编辑: 浏览:(727)

文章来源:硬AI

AI“快进”到价格战阶段?从Deepseek-V2定价看大模型降本新风向

图片来源:由无界AI生成

卷价格的风还是吹到了AI大模型。

近日,大模型DeepSeek-V2将每百万tokens输入/输出价格分别卷至1/2元,远低于行业平均水平。

对此,华福证券发布报告称,大模型成本优化与算力需求并不是直接的此长彼消,而是互相搭台、相互成就。定价的持续走低有望带来更快的商业化落地,进而会衍生出更多的微调及推理等需求,将逐步盘活国内AI应用及国产算力发展。

DeepSeek-V2是知名私募巨头幻方量化旗下AI公司深度求索(DeepSeek)发布的全新第二代MoE大模型。

华尔街见闻此前文章提到,DeepSeek-V2拥有2360亿参数,其中每个token210亿个活跃参数,相对较少,但仍然达到了开源模型中顶级的性能。

华福证券则在报告中写道,从综合性能方面来看,DeepSeek-V2位列第一梯队。在AlignBench、MT-Bench、MMLU等多个benchmark上表现出色,其中AlignBench在开源模型中居首位,与GPT-4-Turbo,文心4.0比肩。MTBench超过最强MoE开源模型Mixtral 8x22B。

01

DeepSeek-V2定价将至冰点

大模型价格战拉开序幕

DeepSeek-V2(32k)每百万tokens输入/输出价格分别为1/2元,而GPT-4-Turbo-1106分别为72/217元,DeepSeek-V2性价比显著。

相对于Claude 3 Haiku,DeepSeek-V2每百万tokens输入/输出价格也仅为其50%/22.2%。除此之外,同为32k上下文版本的moonshot-v1、SenseChat-32K、Qwen1.5 72B每百万tokens输入/输出价格分别为24/24、36/36、20/20元。

DeepSeek表示,采用8xH800 GPU的单节点峰值吞吐量可达到每秒50000多个解码token。如果仅按输出token的API的报价计算,每个节点每小时的收入就是50.4美元,假设利用率完全充分,按照一个8xH800节点的成本为每小时15美元来计算,DeepSeek每台服务器每小时的收益可达35.4美元,甚至能实现70%以上的毛利率。

有分析人士指出,即使服务器利用率不充分、批处理速度低于峰值能力,DeepSeek也有足够的盈利空间,同时颠覆其他大模型的商业逻辑。

华福证券也认为,此次DeepSeek-V2定价发布有望掀起新一轮大模型价格战,api定价有望持续走低。

02

大模型定价下降的背后离不开成本的优化

价格是怎么被打下去的?来自DeepSeek-V2的全新架构。

据悉,DeepSeek-V2采用Transformer架构,其中每个Transformer块由一个注意力模块和一个前馈网络(FFN)组成,并且在注意力机制和FFN方面,研究团队设计并采用了创新架构。 

华福证券指出,目前众多大模型已经通过多种方式降低成本。

从模型压缩的方向看,可以通过量化的形式将浮点表征为低位宽模型来压缩模型存储空间,加速模型推理;从模型架构的方向看,MoE架构由于其内部的专家模型能够分配到不同设备,并可以执行并行计算,其计算效率较稠密模型显著提升,进而带来更低的成本。

从tokens量的方向来看,可以通过prompt压缩等方式直接降低输入端tokens,进而降低成本。除此之外,多种新的方案已出现在相关论文中,未来多种成本优化方案的融合将进一步加速模型成本的下降。

本文主要观点来自华福证券钱劲宇(执业证书编号:S0210524040006)5月9日发布的报告《计算机行业跟踪:从 Deepseek-V2 定价看大模型降本新风向》

最新 更多 >
  • 1 POOP币有风险吗

    POOP币是一种虚拟货币,近年来在加密货币市场中引起了广泛的关注。然而,对于那些考虑投资POOP币的人来说,了解它的风险是至关重要的。首先,POOP币存在着价格波动的风险。像其他加密货币一样,POOP币的价格受到市场供需的影响。投资者可能会面临价格大幅波动,甚至可能会亏损他们的投资。由于加密货币市场的不可预测性,投资者需要在购买POOP币之前认真考虑这一风险。其次,POOP币也存在着技术风险。虽然

  • 2 USDT在加密货币市场中的作用是什么?

    USDT在加密货币市场中的作用是什么?近年来,随着加密货币的兴起,投资者对加密数字资产的需求不断增加。然而,由于其高度波动的性质,许多投资者对于加密货币的市场价值感到不稳定和不可预测。为了缓解这种波动性并提供更稳定的价格参照,USDT(稳定币)应运而生。USDT(Tether)是一种由Tether公司发行的数字货币,与传统法定货币(如美元)等值,且具备价格稳定性。它通过将实际货币(如美元)储存在银

  • 3 如何购买USDT?

    如何购买USDT?USDT,全名为Tether,是一种基于区块链技术的数字货币。作为一种稳定币,USDT的价格与美元保持1:1的固定比例。对于想要购买USDT的人来说,以下是一些简单的步骤说明:选择合适的交易平台首先,你需要选择一个可信赖的交易平台来购买USDT。在市场上有许多交易平台可供选择,比如Binance、OKEx、Huobi等。选择一个有良好声誉、用户评价较好的平台,确保你的交易安全。注

  • 4 POGGERS币有风险吗

    在数字货币市场中,新的币种层出不穷,每一个币种都声称自己是下一个比特币。而其中一个新兴的币种引起了人们的广泛关注,那就是POGGERS币。 POGGERS币号称将会带来革命性的改变和巨大的利润。然而,对于POGGERS币的风险和可靠性,我们也需要进行深入的分析和思考。首先,我们需要明确的是,POGGERS币作为一种新兴的币种,在市场上的认可度和应用程度相对较低。与比特币等已经成熟的币种相比,POG

  • 5 SOL币的交易确认时间是多久?

    SOL币的交易确认时间是多久?在加密货币市场中,SOL币(Solana)是近年来备受瞩目的数字资产之一。作为一种高吞吐量、低成本的区块链平台,SOL币的交易确认时间被认为是其优势之一。SOL币的交易确认时间是指从发送一笔交易到该交易被确认并写入区块链的时间间隔。与其他区块链技术相比,Solana的特点在于其强大的性能和扩展性,使得交易确认时间达到了历史上前所未有的速度。根据Solana的官方数据,

  • 6 XRP是否有计划推出商业贷款?

    是否有计划推出商业贷款在数字货币领域,Ripple(瑞波币)是备受关注的加密货币之一。XRP是Ripple网络中的代币,该网络旨在为全球金融机构提供实时的跨境支付解决方案。随着Ripple与各大银行和金融机构的合作增多,不少人开始关注XRP是否有计划推出商业贷款以进一步扩大其应用范围。目前,Ripple主要专注于跨境支付领域。通过使用XRP代币和Ripple网络,金融机构可以实现低成本、实时的资金

  • 7 PRDS币有风险吗

    PRDS币是一种新兴的数字货币,近年来在加密货币市场中备受关注。然而,就像任何其他投资一样,投资PRDS币也存在一定的风险。在进行投资决策时,了解这些风险对投资者来说至关重要。首先,PRDS币是一种高风险投资。由于其市场波动性较大,价格可能出现剧烈波动。这意味着投资者可能在短时间内经历较大的亏损。因此,投资者应该有足够的风险承受能力,并做好损失的心理准备。其次,加密货币市场存在潜在的法律和监管风险

  • 8 XRP是否有社交媒体平台?

    XRP是否有社交媒体平台?社交媒体在当今社会扮演着重要的角色,它们已成为人们交流、获取信息和分享观点的主要渠道。对于数字资产行业来说,社交媒体也是宣传和推广项目的重要工具。然而,对于XRP(瑞波币)而言,情况有些不同。瑞波币是由瑞波实验室开发的一种数字资产,它旨在改善传统银行跨境支付系统的效率。与其他主要数字货币如比特币和以太坊不同,瑞波币的目标是为银行和金融机构提供一种安全快速的跨境支付解决方案

  • 9 瑞波币是否有计划推出区块链项目?

    瑞波币是否有计划推出区块链项目?瑞波币(Ripple)是一种基于区块链技术的数字货币,被广泛应用于跨境支付和资产转移领域。随着区块链技术的发展和应用,人们对瑞波币是否有计划推出自己的区块链项目也产生了疑问。目前,瑞波币并没有宣布推出自己的区块链项目。瑞波币的创始人兼首席执行官Brad Garlinghouse曾表示,瑞波币的目标是成为全球最安全、最可靠的数字支付解决方案,而不是一个去中心化的区块链

  • 10 SOL币的短期和长期价格预测是什么?

    短期和长期SOL币价格预测加密货币市场一直以来都是高度波动和不确定的,因此预测SOL币的价格涨跌是一项具有挑战性的任务,且可能受到各种因素的影响。我们将探讨短期和长期两种预测,并提供一些有关SOL币价格可能变化的观点。短期预测SOL币是Solana区块链生态系统的内部通证,它在短时间内取得了巨大的成功并引起了市场的关注。然而,由于加密货币行业的不稳定性,短期预测往往受到许多因素的影响。短期内,SO