升级和未经审查:Mistral对其人工智能模型进行检修

时间:2024-09-21 编辑: 浏览:(172)

顶级开源人工智能开发商Mistral悄悄地对其大型语言模型(LLM)进行了重大升级,该模型默认不受审查,并提供了几个显著的增强功能。法国人工智能研究实验室在HuggingFace平台上发布了Mistral 7B v0.3模型,而没有发推特或博客。与前代一样,它可能很快成为其他开发者创新人工智能工具的基础。

加拿大人工智能开发商Cohere也发布了其Aya的更新,吹嘘其多语言技能,加入了Mistral和科技巨头Meta的开源行列。

虽然Mistral在本地硬件上运行,并将提供未经审查的回复,但当被问及潜在的危险或非法信息时,它确实包括警告。如果被问及如何闯入汽车,它的回答是,“要闯入汽车,你需要使用各种工具和技术,其中一些是非法的”,并在说明中补充道,“这些信息不应用于任何非法活动。”

最新发布的Mistral包括基础和指令调优检查点。在大型文本语料库上预先训练的基本模型为其他开发人员的微调奠定了坚实的基础,而经过指令调整的即用模型是为会话和任务特定用途而设计的。

Mistral 7B v0.3的令牌上下文大小扩展到32768个令牌,使该模型能够在其上下文中处理更广泛的单词和短语,并提高其在不同文本上的性能。Mistral的标记化器的新版本提供了更高效的文本处理和理解。相比之下,Meta的Lllama的标记上下文大小为8K,尽管其词汇表要大得多,为128K。

图片:Prompt Engineering/YouTube

也许最重要的新功能是函数调用,它允许Mistral模型与外部函数和API交互。这使得它们在涉及创建代理或与第三方工具交互的任务中具有高度的通用性。

将Mistral人工智能集成到各种系统和服务中的能力可能会使该模型对面向消费者的应用程序和工具极具吸引力。例如,它可以让开发人员非常容易地建立不同的代理,相互交互,在网络或专门的数据库中搜索信息,撰写报告,或集思广益——所有这些都不需要将个人数据发送给谷歌或OpenAI等集中式公司。

虽然Mistral没有提供基准测试,但这些增强表明性能比前一版本有所提高——基于词汇表和令牌上下文容量,性能可能提高四倍。再加上函数调用带来的广泛功能,此次升级是市场上第二流行的开源AI LLM模型的一次引人注目的发布。

Cohere发布Aya 23,一个多语言模特系列

除了Mistral的发布,加拿大人工智能初创公司Cohere还推出了Aya 23,这是一个开源LLM家族,也与OpenAI、Meta和Mistral等公司竞争。Cohere以专注于多语言应用而闻名,作为其名称中的数字Aya 23,它被训练成精通23种不同的语言。

这一系列语言旨在为世界上近一半的人口提供服务,以实现更具包容性的人工智能。

该模型在判别和生成任务方面都优于其前身Aya 101和其他广泛使用的模型,如Mistral 7B v2(而不是最新发布的v3)和谷歌的Gemma。例如,Cohere声称Aya 23在多语言MMLU任务中比之前的Aya 101模型提高了41%,这是一个衡量模型一般知识水平的综合基准。

Aya 23有两种尺寸:80亿(8B)和350亿(35B)参数。较小的型号(8B)经过优化,可用于消费级硬件,而较大的型号(35B)在各种任务中提供顶级性能,但需要更强大的硬件。

Cohere说,Aya 23模型是使用不同的多语言指令数据集进行微调的——来自161个不同数据集的5570万个例子——包括人工注释、翻译和合成来源。这一全面的微调过程确保了跨各种任务和语言的高质量性能。

在翻译和摘要等生成性任务中,Cohere声称其Aya 23模型优于其前身和竞争对手,并引用了spBLEU翻译任务和RougeL摘要等各种基准和指标。一些新的体系结构变化——旋转位置嵌入(RoPE)、分组查询注意力(GQA)和SwiGLU微调功能——提高了效率和有效性。

Aya 23的多语言基础确保了这些模型能够适应各种现实世界的应用,并使其成为多语言人工智能项目的完善工具。

由Ryan Ozawa编辑。

最新 更多 >
  • 1 AIMX币有希望吗

    AIMX币是一种新兴的加密货币,推出不久却引起了很多投资者的关注。然而,对于AIMX币是否有希望成为一种成功的数字货币,可能存在不同的观点。首先,AIMX币的团队非常有经验且雄心勃勃。团队成员来自不同领域,拥有丰富的技术背景和金融知识。他们致力于打造一种安全、高效、便捷的数字货币,并通过技术创新来不断提升AIMX币的用户体验和功能。这种积极的态度和专业的团队,为AIMX币的未来带来了一丝希望。其次

  • 2 AIDOGE币有希望吗

    AIDOGE币是近期备受关注的加密货币之一。随着加密货币市场的发展和投资者们对新项目的追逐,很多人开始关注AIDOGE币是否具有投资潜力。那么,AIDOGE币有希望吗?让我们来探讨一下。首先,让我们来了解一下AIDOGE币的背景和特点。AIDOGE币是基于区块链技术的一种加密货币,它的特点是使用了狗头狗身结合的可爱形象作为代表。这种独特的设计吸引了很多人的注意,尤其是年轻一代的投资者。除此之外,A

  • 3 $BOLT币有风险吗

    随着加密货币市场的不断发展,投资者们纷纷涌入这个新兴领域,寻求投资机会。BOLT币作为近期备受瞩目的虚拟货币之一,也吸引了不少人的关注。然而,对于投资BOLT币是否有风险,我们需要从多个方面进行评估。首先,需要了解的是BOLT币的基本情况。BOLT币是一种建立在区块链技术上的加密货币,它的目标是通过提供去中心化的数字媒体服务来改变全球数字内容的消费方式。这个项目的潜力无疑是巨大的,但是投资任何一种

  • 4 2LC币值多少钱一枚

    2LC币是一种虚拟货币,它的价值会根据市场需求和供应量的变化而发生波动。在币界网APP上,你可以随时查看2LC币的实时行情和最新消息,以便及时了解币值的走势。那么,2LC币到底值多少钱一枚呢?这个问题并没有一个固定的答案,因为2LC币的价值是由市场决定的。市场上的供需关系会影响人们对2LC币的购买和出售行为,进而影响其价格。如果市场对2LC币的需求较高,而供应量较少,那么2LC币的价格往往会上涨。

  • 5 ACA币有希望吗

    ACA币是目前市场上的一个新兴加密货币,它作为一种区块链技术应用的代表,备受关注。人们对于ACA币的前景是充满期待的,因为它具备一些优势和潜力。首先,ACA币采用了先进的区块链技术,这使得它在安全性和透明度方面具备了较大的优势。区块链技术的去中心化机制保证了交易的安全性,而且所有的交易记录都可以被公开查看,有效地杜绝了欺诈行为的发生。这一特点使得ACA币得到了广大投资者的认可和信任。其次,ACA币

  • 6 1ECO币有希望吗

    近年来,随着加密货币的兴起,人们对于未来数字货币的发展充满了期待。其中一种备受关注的数字货币就是1ECO币。但是,我们是否应该将希望寄托在1ECO币上呢?首先,让我们来了解一下1ECO币的背景。1ECO币是一种基于区块链技术的数字货币,以生态环保为核心价值观。它致力于推动可持续发展,鼓励人们参与到环保行动中。在过去几年中,1ECO币在区块链领域取得了一定的成就,但仍然面临着一些挑战。首先,1ECO

  • 7 888币有希望吗

    在数字货币市场中,有一种名为888币的币种备受关注。但是,很多投资者都在思考一个问题:888币有希望吗?其实,对于一个数字资产的前景和潜力,很难给出准确的回答。不过,我们可以通过对888币的深入了解和分析,来评估其是否有希望在市场中脱颖而出。首先,让我们来了解一下888币的背景和特点。888币是一种基于区块链技术的数字货币,旨在成为全球化支付和投资的解决方案。888币的最大特点是其底层技术的安全性

  • 8 $DOSA币有希望吗

    近年来,加密货币市场发展迅猛,各种币种层出不穷。其中,DOSA币备受瞩目。DOSA币,是基于区块链技术的一种数字货币,据称具有巨大的潜力和前景。首先,DOSA币的技术创新是其引人注目的一个特点。作为一种基于区块链的加密货币,DOSA币采用了先进的技术架构,包括分布式记账、去中心化、匿名性等优势。这意味着DOSA币具备了更高的安全性和可靠性,从而吸引了众多投资者的关注。其次,DOSA币的应用场景广泛

  • 9 3ULL币有希望吗

    3ULL币有希望吗?这是许多人关心的问题。在数字货币市场中,新的币种不断涌现,投资者往往追逐着短暂的热门,但只有少数能够真正成功。那么,3ULL币是否能够在这竞争激烈的市场中崭露头角呢?首先,我们来了解一下3ULL币的背景。3ULL是一个全新的区块链项目,旨在通过技术创新和市场策略来实现其价值。该项目的团队由一群有经验的专业人士组成,他们在区块链和金融领域有深厚的背景。这使得3ULL币在技术和团队

  • 10 AGVE币值多少钱一枚

    AGVE币是一种加密数字货币,它在全球范围内得到了越来越多人的关注和认可。那么AGVE币到底值多少钱一枚呢?我们来探讨一下。首先,要了解AGVE币的价值,我们需要考虑多个因素。其中最重要的因素就是市场供需关系。如果AGVE币的需求大于供应,那么它的价值就会相应上涨。相反,如果供应大于需求,那么它的价值就会下降。其次,AGVE币的价值也受到市场对其潜在用途的认可程度的影响。如果AGVE币在现实生活中