AMD芯片现在可以完成英伟达科技所做的人工智能工作

时间:2024-09-20 编辑: 浏览:(700)

最近,这似乎是英伟达的世界,每个人——当然还有科技和爆炸性人工智能行业的任何人——都生活在其中。在适时的市场进入、领先的硬件研究和为其GPU量身定制的强大软件生态系统之间,该公司主导着人工智能开发和股市。今天晚些时候,该公司的最新盈利报告显示,季度销售额增加了两倍,股价进一步上涨。

尽管如此,长期竞争对手芯片制造商AMD仍在努力在人工智能领域站稳脚跟,并告诉新兴领域关键技术背后的建设者,他们也可以在AMD硬件上开展工作。

“我只是想提醒大家,如果你使用PyTorch、TensorFlow或JAX,你可以使用你的笔记本或脚本,它们只会在AMD上运行,”AMD高级总监伊恩·费雷拉在周三早些时候的微软Build 2024会议上宣布。“推理引擎也是如此。BLLM和Onyx也可以开箱即用。”

该公司利用在台上的时间展示了AMD GPU如何在本地运行强大的人工智能模型,如Stable Diffusion和Microsoft Phi,在不依赖英伟达技术或硬件的情况下高效执行计算密集型训练任务。

会议主持人微软宣布在其Azure云计算平台上提供基于AMD的虚拟机,使用该公司的加速MI300X GPU,以此支持这一消息。这些芯片于去年6月宣布,在新的一年开始发货,最近在微软Azure的OpenAI服务和拥抱脸的基础设施中实现。

AMD支持的ML库。图片:微软。Youtube

英伟达专有的CUDA技术,包括专门为英伟达GPU设计的完整编程模型和API,已成为人工智能开发的行业标准。因此,AMD的主要信息是,其解决方案可以直接融入相同的工作流程。

与现有人工智能系统的无缝兼容性可能会改变游戏规则,因为开发者现在可以在不大修代码库的情况下利用AMD成本较低的硬件。

费雷拉保证道:“当然,我们知道,你需要的不仅仅是框架,你需要一堆上游的东西,你需要一些实验性的东西,分布式训练——所有这些都是在AMD上实现和工作的。”。

然后,他展示了AMD如何处理不同的任务,从运行ResNet 50和Phi-3等小型机型到微调和训练GPT-2,所有这些都使用了与英伟达卡相同的代码。

图片:微软。Youtube

AMD吹嘘的一个关键优势是能够有效地处理大型语言模型。

他解释道:“你可以在一个GPU上加载多达700亿个参数,其中8个在这个例子中。”。“你可以加载八个不同的美洲驼70B,或者采用像llama-3 400Bn这样的大模型,并将其部署在一个实例上。”

挑战英伟达的统治地位绝非易事,因为这家总部位于加利福尼亚州圣克拉拉的公司一直在大力保护自己的地盘。英伟达已经对试图为AMD等第三方GPU提供CUDA兼容层的项目采取了法律行动,称其违反了CUDA的服务条款。这限制了开源解决方案的开发,并使开发人员更难接受替代方案。

AMD绕过英伟达封锁的策略是利用其开源ROCm框架,该框架与CUDA直接竞争。该公司在这方面取得了重大进展,与世界上最大的开源人工智能模型库Hugging Face合作,为在AMD硬件上运行代码提供支持。

这一合作关系已经取得了可喜的成果,AMD提供了本地支持和额外的加速工具,如在ROCm驱动的GPU上执行的ONNX模型、Optimum Benchmark、使用Transformers的ROCm驱动GPU的DeepSpeed、GPTQ、TGI等。

费雷拉还指出,这种集成是原生的,消除了对第三方解决方案或中间商的需求,这可能会降低流程的效率。

他说:“你可以使用现有的笔记本电脑和脚本,并在AMD上运行它们,这很重要,因为许多其他加速器都需要代码转换和各种预编译脚本。”。“我们的东西开箱即用,而且速度非常非常快。”

虽然AMD的举动无疑是大胆的,但废黜英伟达将是一个相当大的挑战。英伟达并没有固步自封,不断创新,使开发商难以从事实上的CUDA标准迁移到新的基础设施。

然而,凭借其开源方法、战略合作伙伴关系和对本地兼容性的关注,AMD将自己定位为在人工智能硬件市场寻求更多选择的开发者的可行替代品。

由Ryan Ozawa编辑。

最新 更多 >
  • 1 mxrp币有风险吗

    在数字货币世界中,MXRP币是一种备受关注的加密货币。它是由某个团队设计和发行的,被誉为带来革命性变革的创新币种。然而,就像其他数字货币一样,MXRP币也有风险存在。首先,MXRP币的价格波动相当大。数字货币市场非常不稳定,价格可能在短时间内大幅波动。这对于投资者来说是一种风险,因为他们可能面临资金损失的风险。尤其是对于那些缺乏经验的投资者来说,无法准确预测市场走势,这使得投资MXRP币变得更加风

  • 2 MONKEYS币值多少钱一枚

    MONKEYS币是一种加密货币,在虚拟货币市场中备受关注。由于其独特的特性和功能,MONKEYS币的价值也因此得以提升。那么,MONKEYS币值多少钱一枚呢?接下来我们将仔细分析。首先,我们需要了解到,MONKEYS币的价值是由市场供需关系决定的。供需关系主要受到投资者对该币种的关注度、市场交易量以及整个加密货币市场的整体走势等因素的影响。市场中的投资者在购买或出售MONKEYS币时,会根据该币种

  • 3 NIFLOKI币有风险吗

    NIFLOKI币是近期火爆的一种数字货币,备受投资者关注。然而,随着数字货币市场的不断演变,投资者对于NIFLOKI币是否存在风险也产生了疑虑。本文将从几个方面探讨NIFLOKI币的风险,并给出一些建议。首先,像任何其他数字货币一样,NIFLOKI币也存在市场风险。数字货币市场波动性大,价格可能会受到市场供需、政策变化等因素的影响,出现大幅度的波动。因此,投资者在购买NIFLOKI币前,应该对数字

  • 4 MST币有希望吗

    随着加密货币市场的发展,越来越多的数字货币涌现出来,其中包括了许多备受瞩目的币种。而MST币作为其中的一员,近年来引起了不少人的关注和讨论。然而,对于这个币种来说,究竟有没有希望呢?我们不妨来深入探讨一下。首先,要了解MST币是否有希望,我们需要了解其背后的技术和团队。MST币采用了区块链技术,具备去中心化的特点,这使得其具备了更高的安全性和透明性。同时,MST币的团队成员也是非常优秀的,在加密货

  • 5 NFTY币有希望吗

    虚拟货币市场一直都是一个快速变化的领域,其中有很多币种走红一夜,也有很多币种在刚刚兴起时声势浩大却最终黯然失色。NFTY币是一种相对较新的虚拟货币,它能否在这个竞争激烈的市场中脱颖而出,引起大众关注和青睐呢?让我们一起来研究一下。首先,为了确定NFTY币是否有希望,我们需要了解它的背后技术。NFTY币是建立在区块链技术上的一种虚拟货币,它采用了非同质化代币(Non-Fungible Token)的

  • 6 NBC币有希望吗

    NBC币有希望吗?这是一个让很多人都陷入疑惑和思考的问题。NBC币,全称New Blockchain Coin,是一种虚拟货币,与比特币等其他加密货币一样,基于区块链技术。然而,NBC币作为一个新生的数字资产,是否具备可持续发展和长期投资的潜力呢?接下来,我们将从几个方面来探讨NBC币的前景。首先,NBC币相对较新,因此具备较大的成长空间。与成熟的加密货币相比,NBC币还处于早期阶段,其市场份额相

  • 7 MTG币有希望吗

    MTG币(Magic Coin),作为一种虚拟货币,自问世以来就引起了广泛的关注和争议。与比特币、以太坊等数字货币相比,MTG币的发展相对较为缓慢,市场价值不是很高,引发了一些人对其未来是否有希望的质疑。然而,尽管MTG币目前的发展并不如人意,但我认为它仍然有希望。首先,MTG币的独特性是其最大的优势之一。作为收藏家和交易者的最爱,MTG币在卡牌游戏市场中有着绝对的话语权。其稀缺性和独特的设计使得

  • 8 MONES币有风险吗

    近年来,加密货币市场迅猛发展,各种新型数字货币层出不穷。其中,MONES币作为一种较新的虚拟货币,备受市场关注。然而,投资者在考虑是否选择投资MONES币时,必须认识到MONES币存在一定的投资风险。首先,MONES币市场容易受到市场投机行为的影响,价格波动较大。由于市场供需因素、投资者心理等因素的影响,MONES币价格波动较为频繁且幅度较大。这为投资者带来了一定的风险,尤其是短期投资者。其次,M

  • 9 MVL币有希望吗

    MVL币(MVL)是一种基于区块链技术的数字货币,它的发行目的是为了促进汽车行业的发展。作为去中心化的平台,MVL币的潜力和前景备受关注。然而,对于MVL币是否有希望成为成功的数字货币,人们存在不同的观点。首先,支持者认为MVL币有着巨大的增长潜力。汽车行业是一个庞大而且具有巨大需求的市场,而MVL币通过区块链技术可以提供更高效、透明和安全的解决方案。它可以用于车辆数据交易、车辆共享服务等方面,为

  • 10 NYC币有希望吗

    NYC币是一种加密货币,也称为纽约币。自从比特币的兴起以来,越来越多的加密货币开始涌现,而NYC币就是其中之一。然而,对于这种新兴的数字货币,人们普遍存在着诸多疑虑和困惑。NYC币是否有希望成为主流的加密货币呢?这是一个引人关注的问题。首先,我们需要了解一下NYC币的背景和特点。NYC币是一种基于区块链技术的加密货币,旨在为纽约市提供一种可持续发展和普惠性的支付工具。与比特币相比,NYC币的交易速