Forum Systems为企业客户发布GenAI生产力风险框架和两个微调模型

时间:2024-09-20 编辑: 浏览:(613)

宣布了一个框架,以平衡GenAI模型企业部署的生产力和风险,并发布了两个经过微调的模型——Mistral QS Sentry和Llama 3 QS Sentry——具有优化的生产力风险简介

Gartner Data&Analytics Summit 2024,LONDON,2024年5月13日/PRNewswire/-LLM和API技术的领导者Forum Systems今天宣布,将公开发布经过微调的两种语言模型,以优化Gartner®Data&Analytics Summit 2024的生产效率-风险概况。这项研究在最近的两篇文章《通过平衡模型风险与劳动力生产力来选择LLM的框架》和《通过LLM微调改善生产力风险状况》中进行了详细讨论。这项开创性的工作为GenAI部署中的生产力和风险平衡提供了一个框架,这是当今商业领袖面临的一个紧迫问题。

Forum Systems首席执行官Mamoon Yunus表示:“LLM的安全性有其权衡。更严格的模型会更安全,但可能会阻碍生产力。如果企业没有衡量其模型的生产力风险平衡,他们就不知道是否实现了最佳权衡。”。他继续说道,“精度和召回率等经典的机器学习指标可以作为生产力和风险的指标。通过对大量手动多投票标记数据的微调,我们的LLM与基本模型相比显示出卓越的性能。”

微调后的模型——Mistral QS Sentry和Llama 3 QS Sentry——基于Mistral-7B-Instruction-v0.2和Meta-Lama-3-8B-Instruction。

在第一篇文章中,Forum Systems开发了一个平衡风险和生产力的框架,并在微调之前评估了Mistral和Llama 3的生产力风险状况。研究发现,当被要求将提示分类为安全或不安全时,Mistral更准确,因此与更高的生产力一致,而Llama 3更具限制性,因此与更低的风险一致。

第二篇文章分析了这些模型,这些模型是在约20000个提示的手工数据集上进行微调后得出的。研究表明,经过微调后,两种模型的生产率风险状况都可以得到有意义的改善。Forum Systems在Hugging Face上发布了两个经过微调的模型,以帮助更广泛的研究人员和人工智能治理和人工智能整合领域的工作人员,相信其分析生产力之间权衡的框架也将对部署安全有效的GenAI产品的商业领袖有价值。

正如Gartner分析师Arun Chandrasekaran最近所说,“生成人工智能(GenAI)有潜力改变跨行业的业务。大多数商业和技术领导者认为,GenAI的好处远远大于风险。”。它在优化小型模型的生产力风险状况方面的工作表明,通过微调,企业级负责任的人工智能部署触手可及。

来源:Gartner,《在整个企业中扩展世代人工智能的10个最佳实践》,Arun Chandrasekaran,Leinar Ramos,Alberto Pietrobon,2024年1月10日。

GARTNER是GARTNER,股份有限公司和/或其附属公司在美国和国际上的注册商标和服务商标,经许可使用。保留所有权利。

关于Gartner数据与分析峰会2024 Gartner分析师将在3月11日至13日在佛罗里达州奥兰多、3月26日至27日在圣保罗、4月24日至25日在孟买、5月13日至15日在伦敦、5月21日至23日在东京和7月29日至30日在悉尼举行的Gartner数据与分析师峰会上提供更多数据和分析趋势分析。使用#GartnerDA关注X上会议的新闻和更新。

关于论坛系统论坛系统正在引领企业GenAI革命。Forum正在申请专利的QuantumSim™与Forum Sentry一起,通过与企业API集成,缓解LLM的不可预测性,确保LLM输出真实准确。QuantumSim™在设计上是安全的,并为支持LLM的产品提供了业界领先的护栏、审核、数据模糊和可观察性。Forum的一套产品被一些最大的全球公司用于构建智能业务工作流,它提供了独特的解决方案,使企业能够利用GenAI重塑自己。

SOURCE论坛系统

最新 更多 >
  • 1 只有66%的ETH地址盈利:是时候出售还是持有了?

    市场情报平台IntoTheBlock报告称,目前只有66%的以太坊地址盈利。这一下跌使许多持有者陷入亏损,盈利水平自2023年10月以来从未见过,当时以太坊的交易价格约为1800美元。市场最近的动荡重新引发了投资者的担忧,反映了加密货币格局的不稳定性。 以太坊的价格目前为2673.85美元,24小时交易量为172亿美元。在过去24小时内,其市值增长了1.38%,达到约3216亿美元。 以太坊拥有

  • 2 美国SEC为何“死咬”加密货币不放?开始“猎捕”加密风投机构 抑制资金流入?

    加密货币行业近年来飞速发展,给金融体系带来了巨大冲击。然而,美国证券交易委员会(SEC)似乎对加密货币存有很大戒心,频频出手调查、制定严格规则,似乎要彻底改革加密货币的发展。SEC究竟为何如此执着于打击这个新兴货币行业呢?其背后的动机和影响几何?全球各个国家都存在不同程度的加密监管。由于美国的特殊地位,市场规模和相关法律法规的完善程度,SEC不得不选择通过法律条款来严密监管加密货币,表面上的出发点

  • 3 Cycle Capital:9月会降息吗?加密市场怎么走?

    来源:Cycle Capital Research2019年来波动最大的一周虽然一周下来美股基本持平,但行情是真正的过山车。周一恐慌抛售,周二报复性反弹,周三技术性卖盘出货市场再度下挫,而周四本来影响力一般的首次申请失业救济人数下滑触发了市场抄底的冲动,尽管这一数据并不值得过度兴奋,因为持续申请失业救济人数不断增加的趋势明显。周五行情延续反弹趋势,但幅度减缓。过去这一周,股市与加密市场的联动非常紧

  • 4 Etherscan持续错误:多年后仍报告错误的Shiba Inu总供应量

    Lightspeed Crypto Services总裁兼Bad Idea AI顾问Christopher Johnson博士(又名Lightspeed先生)对Etherscan持续显示不准确的Shiba Inu(SHIB)数据表示沮丧。 在昨天的一篇X帖子中,Lightspeed先生表示,Etherscan报道的Shiba Inu的总供应量“100%错误” 他指出,Etherscan的数据仍然显

  • 5 Toncoin上涨,而其他加密货币下跌——接下来是6.85美元吗?

    尽管最近价格上涨,但TON的长期投资者数量在图表上有所下降。如果持续牛市,TON可能很快就会达到6.85美元 加密货币市场再次成为修正的牺牲品,因为大多数加密货币价格图表在发稿时都是红色的。然而,Toncoin[TON]还有其他计划,因为它是少数几个成功保持看涨的加密货币之一。 因此,值得一看是什么帮助了TON,以及这种牛市是否会继续。 Toncoin领先 CoinMarketCap的数据显示,比

  • 6 在市场下跌的情况下,加密投资产品吸引了1.76亿美元的资金流入

    加密货币投资产品吸引了1.76亿美元的新资金流入,因为投资者决定在最近的市场低迷期间购买下跌的产品。并非每天都有人在价格下跌时急于将资金投入资产,但这正是发生的事情。 这些投资产品的管理资产总额(AuM)在粗略调整后降至750亿美元,抹去了200多亿美元。但市场迅速反弹,目前黄金价格为850亿美元。 数据显示,本周交易所交易产品(ETP)的交易额达到190亿美元,远高于今年通常的140亿美元周平均

  • 7

  • 8 Celsius要求Stablecoin发行人Tether在新诉讼中交出价值33.5亿美元的比特币

    Defunct加密货币借贷平台Celsius Network正在采取法律行动,追回之前转移给USDT发行商Tether的价值数十亿美元的比特币(BTC)。 在向纽约南区提交的一份新投诉中,Celsius表示,它正在寻求退还39542.42 BTC,价值23.1亿美元,这些BTC是作为从Tether借来的稳定币的抵押品转让的。 Celsius声称,Tether将该资产用作其未偿还贷款的支付,并且在破

  • 9 狗狗币:为什么现在是赌狗的时候了

    狗狗币的周线图和日线图都被涂成了绿色。鲸鱼在市场上占据主导地位,但一个关键指标转为看跌。 随着市场转为看涨,几款加密货币表现出色,狗狗币[DOGE]就是其中之一。与此同时,AMBCrypto在memecoin的图表上发现了看涨模式,这可能很快会导致另一次牛市。 狗狗币的出色表现 CoinMarketCap的数据显示,DOGE是少数几款成功让周线图变绿的加密货币之一,因为DOGE上涨了2%以上。在过

  • 10 2024年迄今为止,超过46万以太坊被烧毁:报告

    到目前为止,以太坊网络在燃烧ETH方面经历了艰难的一年,2024年燃烧了46万多个以太币。CoinGecko的一项分析显示,截至2024年8月5日,该网络今年已消耗465657 ETH。 根据CoinGecko的研究,2024年第二季度共有107725个ETH被销毁,比第一季度的333555个下降了-67.7%。2024年7月,17114个ETH被烧毁,创下今年月度历史新低,比6月减少了-35.0