Forum Systems为企业客户发布GenAI生产力风险框架和两个微调模型

宣布了一个框架，以平衡GenAI模型企业部署的生产力和风险，并发布了两个经过微调的模型——Mistral QS Sentry和Llama 3 QS Sentry——具有优化的生产力风险简介

Gartner Data&Analytics Summit 2024，LONDON，2024年5月13日/PRNewswire/-LLM和API技术的领导者Forum Systems今天宣布，将公开发布经过微调的两种语言模型，以优化Gartner®Data&Analytics Summit 2024的生产效率-风险概况。这项研究在最近的两篇文章《通过平衡模型风险与劳动力生产力来选择LLM的框架》和《通过LLM微调改善生产力风险状况》中进行了详细讨论。这项开创性的工作为GenAI部署中的生产力和风险平衡提供了一个框架，这是当今商业领袖面临的一个紧迫问题。

Forum Systems首席执行官Mamoon Yunus表示：“LLM的安全性有其权衡。更严格的模型会更安全，但可能会阻碍生产力。如果企业没有衡量其模型的生产力风险平衡，他们就不知道是否实现了最佳权衡。”。他继续说道，“精度和召回率等经典的机器学习指标可以作为生产力和风险的指标。通过对大量手动多投票标记数据的微调，我们的LLM与基本模型相比显示出卓越的性能。”

微调后的模型——Mistral QS Sentry和Llama 3 QS Sentry——基于Mistral-7B-Instruction-v0.2和Meta-Lama-3-8B-Instruction。

在第一篇文章中，Forum Systems开发了一个平衡风险和生产力的框架，并在微调之前评估了Mistral和Llama 3的生产力风险状况。研究发现，当被要求将提示分类为安全或不安全时，Mistral更准确，因此与更高的生产力一致，而Llama 3更具限制性，因此与更低的风险一致。

第二篇文章分析了这些模型，这些模型是在约20000个提示的手工数据集上进行微调后得出的。研究表明，经过微调后，两种模型的生产率风险状况都可以得到有意义的改善。Forum Systems在Hugging Face上发布了两个经过微调的模型，以帮助更广泛的研究人员和人工智能治理和人工智能整合领域的工作人员，相信其分析生产力之间权衡的框架也将对部署安全有效的GenAI产品的商业领袖有价值。

正如Gartner分析师Arun Chandrasekaran最近所说，“生成人工智能（GenAI）有潜力改变跨行业的业务。大多数商业和技术领导者认为，GenAI的好处远远大于风险。”。它在优化小型模型的生产力风险状况方面的工作表明，通过微调，企业级负责任的人工智能部署触手可及。

来源：Gartner，《在整个企业中扩展世代人工智能的10个最佳实践》，Arun Chandrasekaran，Leinar Ramos，Alberto Pietrobon，2024年1月10日。

GARTNER是GARTNER，股份有限公司和/或其附属公司在美国和国际上的注册商标和服务商标，经许可使用。保留所有权利。

关于Gartner数据与分析峰会2024 Gartner分析师将在3月11日至13日在佛罗里达州奥兰多、3月26日至27日在圣保罗、4月24日至25日在孟买、5月13日至15日在伦敦、5月21日至23日在东京和7月29日至30日在悉尼举行的Gartner数据与分析师峰会上提供更多数据和分析趋势分析。使用#GartnerDA关注X上会议的新闻和更新。

关于论坛系统论坛系统正在引领企业GenAI革命。Forum正在申请专利的QuantumSim™与Forum Sentry一起，通过与企业API集成，缓解LLM的不可预测性，确保LLM输出真实准确。QuantumSim™在设计上是安全的，并为支持LLM的产品提供了业界领先的护栏、审核、数据模糊和可观察性。Forum的一套产品被一些最大的全球公司用于构建智能业务工作流，它提供了独特的解决方案，使企业能够利用GenAI重塑自己。

SOURCE论坛系统