AI21的Jamba模型与Microsoft Azure AI集成，具有256K上下文窗口和3倍的吞吐量
以色列特拉维夫，2024年5月21日/PRNewswire/-AI21是为企业构建基础模型和人工智能系统的领导者，它自豪地宣布与微软进行新的合作，将把AI21最新的尖端Jamba Instruction模型引入微软Azure人工智能，作为其模型即服务（MaaS）产品的一部分。这一合作使Azure客户成为第一个受益于AI21新基础模型的客户，该模型得益于一种新颖的架构方法，该方法在更小、更具成本效益的硬件上推动质量、性能和长上下文窗口。
Jamba Directive是AI21的最新创新，是基于AI21率先推向市场的革命性混合Mamba Transformer架构的第一款生产级LLM。凭借其独特的高质量输出、高吞吐量和256K上下文窗口，Jamba Instruction为企业级人工智能解决方案树立了新标准。
传统的LLM使用Transformer架构，这面临着两个挑战：高内存使用率和随着上下文的增长而缓慢推理，限制了实际生产使用。
Azure客户很快将可以通过Models-a-Service访问Jamba Instruction，而无需管理托管该模型的底层基础设施，这使Azure成为第一个向客户提供该模型的超规模云。这一战略整合突显了微软致力于为企业提供最先进的人工智能工具和技术，以推动各行业的创新和数字化转型。
Jamba Instruction旨在为企业应用程序提供价值、质量和性能。凭借其庞大的上下文窗口，能够处理相当于400页小说的内容，Jamba Instruction擅长于问答、文档摘要和构建聊天机器人等任务，以进行持续的基于参考的对话。
Jamba Instruction在质量和成本方面都优于竞争对手，是寻求先进人工智能解决方案的企业的理想选择，这些解决方案在不影响性能和可靠性的情况下优先考虑效率。
Jamba Instruction配备了安全护栏、聊天功能，并增强了开箱即用的指挥理解能力。这加快了企业应用程序的生产时间并降低了TCO，使组织能够看到更短的价值实现时间。
AI21北美总经理高级副总裁Pankaj Dugar表示：“我们很高兴能与微软合作，很快将Jamba Instruction引入微软Azure客户。这一合作突显了我们共同致力于为企业提供一些最具创新性的人工智能解决方案。”。“微软致力于将客户放在首位，让尖端技术触手可及，这与我们在AI21的使命完全一致。随着Jamba Instruction很快在Azure AI上推出，客户将可以使用一种变革性工具，该工具将彻底改变他们处理语言的方式，并提高前所未有的效率和洞察力。"
微软Azure人工智能平台公司副总裁Eric Boyd表示：“我们很高兴与AI21合作，很快将Jamba Instruction模型引入我们广泛的Microsoft Azure人工智能模型目录，为开发者提供基础和开放模型的选择。”。“凭借其独特的体系结构和窗口上下文长度，Jamba Instruction为开发人员提供了一个以较低成本构建同时保持卓越质量和性能的绝佳机会。”
关于AI21 AI21为企业构建基础模型和人工智能系统，加速GenAI在生产中的使用。AI21成立于2017年，已从NVIDIA、英特尔、谷歌和其他公司筹集了3.36亿美元。它是最早将生成人工智能推向大众的公司之一，迄今为止，它提供消费者应用程序和企业解决方案。有了AI21平台，企业可以构建自己的生成人工智能驱动的应用程序和服务。欲了解更多信息，请访问www.AI21.com。
来源AI21
