这款超轻AI模型适合你的手机,可以击败ChatGPT

时间:2024-09-23 编辑: 浏览:(812)

微软今天声称,它已经发布了“最有能力、最具成本效益的小语言模型”,并表示Phi-3——其小语言模型Phi系列的第三次迭代——优于同等大小的模型和一些更大的模型。

小型语言模型(SLM)是一种人工智能模型,旨在非常有效地执行特定的语言相关任务。与非常适合各种通用任务的大型语言模型(LLM)不同,SLM建立在较小的数据集上,使其在特定用例中更高效、更具成本效益。

微软解释说,Phi-3有不同的版本,最小的是Phi-3 Mini,这是一个在3.3万亿代币上训练的38亿参数模型。尽管其规模相对较小——Llama-3的语料库重达超过15万亿个数据令牌——但Phi-3 Mini仍然能够处理128K个上下文令牌。这使得它可以与GPT-4相媲美,并在代币容量方面击败了Llama-3和Mistral Large。

换言之,像Meta.AI上的Llama-3和Mistral Large这样的人工智能巨头可能会在长时间聊天或提示后崩溃,早在这种轻量级模型开始挣扎之前。

Phi-3 Mini最显著的优势之一是它能够在典型的智能手机上安装和运行。微软在iPhone 14上测试了这款手机,它运行时没有出现任何问题,每秒生成14个代币。运行Phi-3 Mini只需要1.8GB的VRAM,对于有更集中需求的用户来说,这是一种轻量级、高效的替代方案。

虽然Phi-3 Mini可能不太适合高端编码器或有广泛需求的人,但它可能是有特定需求的用户的有效替代品。例如,需要聊天机器人的初创公司或利用LLM进行数据分析的人可以使用Phi-3 Mini进行数据组织、提取信息、进行数学推理和构建代理等任务。如果该模型能够接入互联网,它可以变得非常强大,用实时信息弥补其功能的不足。

由于微软专注于利用最有用的信息管理其数据集,Phi-3 Mini获得了很高的测试分数。事实上,更广泛的Phi家族不适合需要事实知识的任务,但高推理能力使他们超越了主要竞争对手。Phi-3 Medium(一个140亿参数的模型)在大多数合成基准中始终击败了GPT-3.5等强大的LLM(为免费版本的ChatGPT提供动力的LLM),Mini版本则击败了Mixtral-8x7B等强大的模型。

然而,值得注意的是,Phi-3并不像其前身Phi-2那样是开源的。相反,它是一个开放的模型,这意味着它可以访问和使用,但它没有与Phi-2相同的开源许可,这允许更广泛的使用和商业应用。

在未来几周,微软表示将发布更多Phi-3系列机型,包括Phi-3 Small(70亿参数)和上述Phi-3 Medium。

微软已经在Azure AI Studio、Hugging Face和Ollama上推出了Phi-3 Mini。该模型针对ONNX Runtime进行了指令调整和优化,支持Windows DirectML,并支持不同GPU、CPU甚至移动硬件的跨平台支持。

最新 更多 >
  • 1 XCD是什么币?

    什么是XCD币?XCD币指的是加勒比元(Eastern Caribbean dollar)的缩写。加勒比元是一种在东加勒比货币联盟使用的官方货币,包括安提瓜和巴布达、多米尼克、格林纳达、蒙特塞拉特岛、圣基茨和尼维斯、圣卢西亚以及圣文森特和格林纳丁斯等8个小岛国家。这些国家共享加勒比国家银行的发行权,控制着加勒比元的发行和管理。XCD币的历史加勒比元作为加勒比地区主要的货币单位,自1965年就开始发

  • 2 PART币Particl未来前景如何?PART币亮点介绍

    Particl未来前景展望Particl是一个基于隐私的去中心化市场平台,利用区块链技术实现安全的P2P交易。在加密货币市场愈发庞大和多元的当下,Particl的未来前景令人充满期待。PART币亮点作为Particl平台上的加密货币,PART币拥有许多亮点。首先,PART币可以用于支付交易费用和提高购买者和卖家的声誉,从而鼓励用户积极参与平台。其次,PART币的供应量是固定的,这有助于保持通货膨胀

  • 3 PLTC是什么币种,PLTC币怎么样?

    PLTC是什么币种PLTC是一种加密货币,全称为PlatonCoin,是由Platon Finance平台发行的数字资产。它基于区块链技术,具有去中心化和匿名性的特点,可以用于安全、快速和低成本的跨境支付和转移价值。PLTC币的特点PLTC币具有以下几个特点:1. 高安全性:PLTC使用先进的区块链技术加密用户数据,保障交易安全。2. 低成本:使用PLTC进行跨境支付和转移价值时,手续费较低,节省

  • 4 PLXS是什么币种,PLXS币怎么样?

    PLXS是什么币种PLXS是Plutos Network的原生代币,是一个新兴的数字货币。Plutos Network的目标是提供一个完全去中心化的金融生态系统,为用户提供更安全、更快捷的服务。PLXS币的特点PLXS币具有以下几个突出特点:1. 去中心化:Plutos Network采用去中心化技术,用户可以完全掌控自己的资产,不受任何中心化机构的控制。2. 高安全性:PLXS币使用先进的加密技

  • 5 ASQ币是什么?

    ASQ币是什么?ASQ币,全称Arrival Square Token,是一种基于区块链技术的数字货币。它是Arrival Square项目的内部通用代币,旨在为Arrival Square生态系统的参与者提供便利和激励。ASQ币的发行和管理依赖于智能合约,确保了其安全性和可追溯性。1. ASQ币的用途ASQ币拥有广泛的使用场景。首先,它可以用于购买Arrival Square平台上的各种服务和商

  • 6 REPUX是什么币种,REPUX币怎么样?

    REPUX是什么币种REPUX是一个基于区块链技术的数字货币,旨在解决数据共享和流通中的问题。它的目标是让个人和企业能够方便地买卖数据,同时保护数据的隐私和安全。REPUX币的特点REPUX币的特点之一是快速的交易速度。由于基于区块链技术,REPUX币的交易可以快速完成,而且不受地域和国家的限制。另一个特点是安全性。REPUX币使用加密技术保护用户的隐私和数据安全,让用户能够放心地进行交易。此外,

  • 7 PGL是什么币种,PGL币怎么样?

    了解PGL币PGL币是一个基于以太坊区块链的加密货币,它是PROOF OF GAMER(POG)系统的内部货币。PGL币的目的是为了建立一个全球游戏者社区,让玩家们可以通过游戏获得收益,并参与游戏开发和改进。PGL币的特点1. 去中心化:PGL币是基于区块链技术的加密货币,所有交易都被记录在区块链上,保证了交易的透明和安全。2. 社区激励:PGL币鼓励玩家积极参与游戏社区,通过玩游戏和为游戏贡献代

  • 8 TTC是什么币种,TTC币值得投资吗?

    什么是TTC?TTC(TTC Protocol)是一个区块链项目,由TTC基金会开发和管理。TTC Protocol旨在通过区块链技术打造一个去中心化的社交媒体生态系统,为用户提供更安全、更隐私保护、更有价值的社交体验。TTC的特点1. 去中心化:TTC Protocol使用区块链技术,去中心化的特点使得数据更加安全可靠。2. 隐私保护:TTC Protocol注重用户的隐私保护,用户可以选择自己

  • 9 RPX币RepuX是什么?RPX币相关信息介绍

    什么是RPX币/RepuX?RPX币,又称RepuX币,是一种基于区块链技术的数字货币。它是由RepuX网络发行的,旨在通过智能合约和分布式账本技术帮助企业存储、共享和交易数据。RPX币的特点RPX币的特点之一是其去中心化的特性,使得数据交易更加安全、透明。同时,RPX币采用智能合约技术,使数据交易更加高效和便捷。RPX币的应用场景RPX币的应用场景非常广泛,可以用于企业间数据交易、数据存储、数据

  • 10 TRIP币Trippki是什么?

    TRIP币/Trippki是什么?TRIP币是一种基于区块链技术的数字货币,而Trippki是一个全新的旅游行业生态系统。Trippki利用TRIP币的去中心化特性和智能合约技术,旨在改变传统的旅馆预订模式,为游客和旅馆业主提供更优质、更便捷的服务。TRIP币的优势TRIP币的优势主要体现在以下几个方面:1. 去中心化:TRIP币是基于区块链技术构建的,没有中央机构控制,所有交易都被记录在区块链上