Nvidia和Llama 3.1帮助企业构建超级计算机

时间:2024-10-02 编辑: 浏览:(388)

英伟达是一家跨国公司和技术公司,宣布推出一项新服务,帮助企业和国家使用Meta最新的LLM Llama 3.1构建定制和专用的超级计算机。

Nvidia发布了两项针对企业和国家的新服务。这家科技巨头在Nvidia AI Foundry中发布了一项服务,并在Nvidia NIM中发布了推理微服务。这两项服务都利用了Meta最新的开源LLM库Llama 3.1,并可以创建生成式AI超级计算机。

Nvidia AI Foundry将帮助企业和国家创建针对特定行业要求和需求定制的超级LLM模型。这可以通过使用Llama 3.1和Nvidia的软件、硬件和人才来实现。企业和国家将可以选择使用Llama 3.1和英伟达Nemotron奖励模型生成的专有数据或合成数据来训练这些超级模特。

另请阅读:埃隆·马斯克表示,特斯拉将于2025年开始使用人形机器人

今天发布的Llama 3.1有4050亿个参数,可以与ChatGPT和Gemini等闭源AI模型竞争。Meta通过提供与模型一起工作的其他组件来不断改进Llama。Meta和Nvidia合作将Llama 3.1集成到Nvidia的服务中,从一开始就提供该解决方案。英伟达首席执行官黄仁勋表示:,

“…NVIDIA AI Foundry已全面集成Llama 3.1,并准备帮助企业构建和部署定制的Llama超级模型。”

Llama 3.1的生成AI模型在16000多个Nvidia H100 Tensor Core GPU上训练。此外,它们还针对Nvidia的加速计算和软件进行了优化,可以在数据中心、云端和GPU驱动的个人电脑上进行部署。

另请阅读:Meta发布了Llama 3 AI模型的最大版本

目前,全球许多公司都可以为Llama使用NIM微服务。埃森哲是第一个为阿美、AT&T和优步定制Llama超级模特的客户。这些公司将率先使用Llama 3.1访问NIM微服务。成功创建自定义模型后,企业可以选择Nvidia的微服务、OP平台和云平台来运行模型。

上周,Mistral AI与Nvidia合作发布了一款名为Mistral NeMo的新12B型号。该模型可作为Nvidia NIM推理微服务提供。关于新的GPU硬件,一位泄密者声称,硬件技术公司将仅针对中国市场发布新一代RTX 5090D。新的GPU将成为RTX 4090D的继任者。

最新 更多 >
  • 1 Blockcast EP 26|与Draper Startup House全球创始人Vikram Bharati一起建设数字国家

    你听说过数字货币,你可能听说过数字身份,但你听说过一个数字国家吗?Draper Startup House全球创始人Vikram Bharati正在领导Draper的倡议,在区块链的帮助下建设一个数字国家。 被称为Draper Nation的抽象概念相当无缝地融入了Web3关于去中心化和社区建设的叙事,但它有多现实? 加入我们,我们将更多地询问巴拉蒂对一个实体国家和数字国家可以共存的世界的愿景,以

  • 2 “用加密货币改变你的生活”:随着比特币(BTC)的崛起,分析师分析了Altcoin市场

    一位广受关注的加密货币分析师认为,数字资产正处于繁荣新时代的边缘。 加密货币交易员Michaël van de Poppe告诉他在社交媒体平台X上的718500名粉丝,市场的好日子还在后面。 “这可能是用加密货币改变你生活的最后一次轻松反弹。 如果你在这次矫正中幸存下来,并且仍然在这里,祝贺你。 接下来的一段时间将非常棒。” 随着比特币(BTC)上周上涨10%,Van de Poppe表示,610

  • 3 代币解锁推动Altcoin市场波动-最新加密货币新闻

    下周,随着四大替代币进行代币解锁,加密货币世界将迎来重大发展,这一现象可能会极大地影响市场流动性。随着更多代币进入市场,供应量的增加可以使投资者更容易地买卖。然而,这种可用性的激增往往会导致价格大幅波动,并在执行大型交易时面临挑战。 内容隐藏1哪些Altcoins将在下周解锁代币?2 PYTH的代币解锁有什么影响?3个代币解锁今天发生4个关键收获 哪些Altcoins将在下周解锁代币?

  • 4 比特币价格减半后飙升至67000美元以上-货币新闻

    3月中旬,比特币在减半前将其ATH刷新至73737美元,但无法维持涨势,从该地区下跌。在4月份减半后,比特币进入了一个新阶段,但此后的价格表现并没有反映出这一变化。然而,最近几天出现了复苏的迹象,BTC价格在大约一个月内首次超过67000美元。内容BTC价格会上涨吗?比特币的价格是多少?

  • 5 本周NFT销售额再次下降8%——NFT在熊市中能跌到多低?

    The non-fungible token market continues to experience negative week-over-week growth after the recent crypto market hype that fueled its resurgence faded. The NFT market retested a massive market rall

  • 6 美国通胀下降后比特币价格飙升-最新加密货币新闻

    在美国通胀率宣布下降后,比特币(BTC)经历了显著的飙升。消费者价格指数(CPI)数据公布后,比特币的价值在几个小时内从62000美元飙升至66000美元以上。截至目前,比特币的交易价格为65949.63美元,比前一天上涨了7%。 内容隐藏1比特币交易所买卖基金如何影响飙升?2 BTC ETF的现状是什么?投资者的3大收获 比特币ETF是如何影响飙升的? 比特币价格的上涨在很大程

  • 7 Technavio表示,2024-2028年,工艺仪表市场规模将增长74.6亿美元,对制造过程自动化的需求不断增加,以推动市场增长

    纽约,2024年5月17日/PRNewswire/-根据Technavio的数据,2024-2028年,全球工艺仪表市场规模预计将增长74.6亿美元。预计在预测期内,该市场的复合年增长率将超过6.67%。 有关预测市场规模和历史数据(2018-2022)的更多见解-下载免费样本报告,只需几分钟 推动增长的主要市场趋势 由于运输、发电厂和制造业等行业越来越多地采用无线现场仪表,工艺仪表市场正在经

  • 8 以下是Shiba Inu飙升至0.000646美元和0.62美元的预计时间表

    随着Shiba Inu开始救济集会,多个实体发布了SHIB可能飙升至0.000646美元和0.62美元的最新时间表。 最近整个加密货币市场的救济性反弹为Shiba Inu提供了一个机会,可以弥补过去几周的一些损失。 SHIB目前的交易价格为0.00002505美元,在过去24小时内上涨了2.6%。这也意味着周图上的涨幅为11.3%,过去14天的涨幅为1.2%。同样,最近的事态发展表明,Shiba

  • 9 Avalanche[AVAX]在代币解锁前上涨7%:43.50美元即将到来吗?

    考虑到该代币此前已释放了60%的供应量,其波动性可能较低。如果成交量继续支持价格走势,AVAX可能达到43.50美元。 根据CoinMarketCap的数据,雪崩[AVAX]的价格在过去24小时内上涨了7.80%。截至发稿时,该代币以37.48美元易手。 令人惊讶的是,这发生在该项目下一次代币解锁前不到四天。 根据代币解锁平台的数据,AVAX将于5月22日将其总供应量的2.49%投放流通。 这一比

  • 10 Supra的实时价格源&;链上随机性在ApeCoin的Web3 GameFi网络上上线

    瑞士祖格,2024年5月16日,Chainware Supra是80多个区块链中领先的oracle数据馈送和可验证随机性提供商,它很高兴宣布与ApeChain集成,成为第一个部署在Arbitrum新的第3层上的oracle价格馈送协议和可验证的随机性协议。 Supra的oracle价格馈送协议分布式oracle协议(DORA)将增强GameFi、DeFi和其他基于ApeChain的去中心化应用程