Forum Systems为企业客户发布GenAI生产力风险框架和两个微调模型

时间:2024-09-19 编辑: 浏览:(448)

宣布了一个框架,以平衡GenAI模型企业部署的生产力和风险,并发布了两个经过微调的模型——Mistral QS Sentry和Llama 3 QS Sentry——具有优化的生产力风险简介

Gartner Data&Analytics Summit 2024,LONDON,2024年5月13日/PRNewswire/-LLM和API技术的领导者Forum Systems今天宣布,将公开发布经过微调的两种语言模型,以优化Gartner®Data&Analytics Summit 2024的生产效率-风险概况。这项研究在最近的两篇文章《通过平衡模型风险与劳动力生产力来选择LLM的框架》和《通过LLM微调改善生产力风险状况》中进行了详细讨论。这项开创性的工作为GenAI部署中的生产力和风险平衡提供了一个框架,这是当今商业领袖面临的一个紧迫问题。

Forum Systems首席执行官Mamoon Yunus表示:“LLM的安全性有其权衡。更严格的模型会更安全,但可能会阻碍生产力。如果企业没有衡量其模型的生产力风险平衡,他们就不知道是否实现了最佳权衡。”。他继续说道,“精度和召回率等经典的机器学习指标可以作为生产力和风险的指标。通过对大量手动多投票标记数据的微调,我们的LLM与基本模型相比显示出卓越的性能。”

微调后的模型——Mistral QS Sentry和Llama 3 QS Sentry——基于Mistral-7B-Instruction-v0.2和Meta-Lama-3-8B-Instruction。

在第一篇文章中,Forum Systems开发了一个平衡风险和生产力的框架,并在微调之前评估了Mistral和Llama 3的生产力风险状况。研究发现,当被要求将提示分类为安全或不安全时,Mistral更准确,因此与更高的生产力一致,而Llama 3更具限制性,因此与更低的风险一致。

第二篇文章分析了这些模型,这些模型是在约20000个提示的手工数据集上进行微调后得出的。研究表明,经过微调后,两种模型的生产率风险状况都可以得到有意义的改善。Forum Systems在Hugging Face上发布了两个经过微调的模型,以帮助更广泛的研究人员和人工智能治理和人工智能整合领域的工作人员,相信其分析生产力之间权衡的框架也将对部署安全有效的GenAI产品的商业领袖有价值。

正如Gartner分析师Arun Chandrasekaran最近所说,“生成人工智能(GenAI)有潜力改变跨行业的业务。大多数商业和技术领导者认为,GenAI的好处远远大于风险。”。它在优化小型模型的生产力风险状况方面的工作表明,通过微调,企业级负责任的人工智能部署触手可及。

来源:Gartner,《在整个企业中扩展世代人工智能的10个最佳实践》,Arun Chandrasekaran,Leinar Ramos,Alberto Pietrobon,2024年1月10日。

GARTNER是GARTNER,股份有限公司和/或其附属公司在美国和国际上的注册商标和服务商标,经许可使用。保留所有权利。

关于Gartner数据与分析峰会2024 Gartner分析师将在3月11日至13日在佛罗里达州奥兰多、3月26日至27日在圣保罗、4月24日至25日在孟买、5月13日至15日在伦敦、5月21日至23日在东京和7月29日至30日在悉尼举行的Gartner数据与分析师峰会上提供更多数据和分析趋势分析。使用#GartnerDA关注X上会议的新闻和更新。

关于论坛系统论坛系统正在引领企业GenAI革命。Forum正在申请专利的QuantumSim™与Forum Sentry一起,通过与企业API集成,缓解LLM的不可预测性,确保LLM输出真实准确。QuantumSim™在设计上是安全的,并为支持LLM的产品提供了业界领先的护栏、审核、数据模糊和可观察性。Forum的一套产品被一些最大的全球公司用于构建智能业务工作流,它提供了独特的解决方案,使企业能够利用GenAI重塑自己。

SOURCE论坛系统

最新 更多 >
  • 1 智能合约如何改变商业交易

    区块链技术的出现开创了数字交易的新时代,智能合约是最具变革性的创新之一。 智能合约是自动执行的合约,协议条款直接写入代码。它们运行在区块链网络上,确保交易透明、不可逆和去中心化。 智能合约的基础知识 智能合约在不需要中介的情况下自动执行合约条款。它们被编程为在满足预定义条件时执行特定操作。例如,智能合约可以被编程为在产品交付时释放资金,确保双方履行义务。 效率和成本节约 智能合约的主要好处之一是能

  • 2 不要错过火箭!MoonBag在Chainlink和ChainGPT推出时飙升-2024年最佳预售

    当你探索2024年模因币预售的动态领域时,谨慎行事至关重要。虽然像Chainlink和ChainGPT这样的知名实体看起来很诱人,但谨慎的决策至关重要。尽管Chainlink在甲骨文网络领域已经站稳脚跟,但其价格近年来出现了停滞的迹象。这种反差凸显了模因币在加密货币市场上带来的显著增长机会。 同样,ChainGPT在区块链内彻底改变人工智能集成的宏伟目标也因最近的挫折而受挫。他们试图与Arbit

  • 3 即将爆发?比特币投资者在下跌中购买激增

    随着比特币(BTC)面临将其价格维持在65000美元支持水平以上的挑战,链上数据表明,加密货币可能有一线希望。 特别是,分析师Ali Martinez于6月15日分享的加密货币分析平台CryptoQuant的数据显示,在最近的下跌之后,一部分投资者正在越来越多地积累比特币。 数据显示,HTX加密货币交易所的买家买卖比率已飙升至545,这表明强劲的购买压力。这一指标的飙升通常被视为牛市情绪的指标,表

  • 4 MoonBag在2024年6月成为最佳加密货币预售,将BitBot和Slothana甩在后面

    你有没有想过投资加密货币,但感到困惑?你有没有考虑过把模因币作为你的出路?加密货币世界总是在变化,一些新进入者正试图占据榜首。创新已成为成功进入的关键,BitBot(BitBot)和Slothana(SLOTH)致力于获得市场份额。然而,由于某些事故和挑战,这些硬币没有达到预期。 MoonBag(MBAG)加密货币在2024年以最佳的加密货币预售成功进入市场,并以巨大的优势超过了竞争对手。该硬币

  • 5 Shiba Inu提到可以重塑SHIB宇宙的Altcoin

    Shiba Inu的生态系统团队揭示了Kendu Inu(Kendu),一种准备重塑SHIB宇宙的替代币。 该团队在6月5日出版的第27期周刊上透露了这一点。 Kendu Inu:重塑SHIB宇宙的外卡 据该杂志报道,Kendu Inu是一个以日本犬种Kai Ken为主题的模因币。该代币背后的团队试图打破惯例,将身份和社区置于典型的代币组之上。 尽管Kendu体现了Shiba Inu不屈不挠的精神

  • 6 比特币飙升至 150,000 美元之前最值得持有的 5 种山寨币

    加密货币市场最近的兴奋凸显了五个第 1 层平台。这些是 Solana (SOL)、Toncoin (TON)、Sui (SUI)、Injective (INJ) 和 TRON (TRX)。随着比特币稳定在 65,000 美元左右,这些平台显示出令人鼓舞的增长指标。这一见解表明,它们是强劲的山寨币,可以一直持有,直到比特币升至 150,000 美元。1. 通币(TON)由 Telegram 提供支持

  • 7 伯恩斯坦在比特币上变得超级看涨:到2025年底将目标提高到20万美元

    比特币可能很难收复最近创下的73000美元以上的历史新高,但著名经纪公司伯恩斯坦仍对该资产的未来轨迹持乐观态度。 在其最新报告中,伯恩斯坦分析师甚至将BTC的长期价格预测上调至2025年底的20万美元。该公司此前曾预测,该加密货币当年将达到15万美元。 Bernstein对比特币的大胆预测 分析师们将这种新的乐观前景主要归因于他们对批准和监管的现货比特币ETF增长的预期。他们基本上预计,贝莱德、富

  • 8 BTC比特币跌破6W,山寨“血洗”?无谓操作,做好仓位管理

    有这样一句谚语:"夜路走多了终会遇到鬼“,在电影倩女幽魂中有很多人遇到女鬼的时候变成一堆白骨,而只有宁采臣没变成白骨,反而还被鬼喜欢上了。总结宁采臣之所以活着的主要原因还是其品性救了他,用道德经中话来说,天道无亲,常与善人。人若没品,妖魔鬼怪就会找来;人若有品,妖魔自远离。事物的本质都是相通的,交易的品性则是一个交易者最大护城河。持而盈之,不如其己,战胜别人容易,战胜自己才是最难的,交易就是和自己

  • 9 加密货币市场对美联储利率消息的反应。这3个代币可能会登上新闻头条

    美联储已宣布决定将利率维持在目前的5.5%水平。所有的目光都集中在杰罗姆·鲍威尔的新闻发布会和7月初发布的会议记录上,以寻找未来降息的迹象。在宣布这一决定后,三种加密代币可能会准备升空:Raboo、Cardano和Solana。潜入水中找出原因。 拉布:人工智能迷因大师 加密货币市场一直在密切关注美联储利率的利好消息。从历史上看,美联储可能大幅降息的信号提振了代币,尤其是模因币。一个准备好驾驭牛市

  • 10 绝望中产生希望对“这个牛市没有山寨季”的人说NO

    近期我们可以看到BTC虽然调整但整体影响不大,而其他币几乎全线遇冷,山寨币绝望情绪在投资者中逐渐蔓延。许多人认为山寨币会一直这样不会会有“山寨季”,但这是不可能的,任何事物都有两面性。当绝望情绪达到一定程度时,反转便会出现。因此,山寨币种仍有反扑的机会,不要以当前的情绪来判断未来。从极端思维来看,未来95%的小币都会归零,但这不是一蹴而就的过程,而是一个逐步实现的过程。因此,当绝望情绪产生后,山寨