HiddenLayer与Microsoft Azure AI合作增强模型安全性

时间:2024-09-21 编辑: 浏览:(110)

Microsoft Azure AI部署HiddenLayer模型扫描仪以使用开源模型保护客户

得克萨斯州奥斯汀,2024年5月21日/PRNewswire/-领先的人工智能(AI)模型和资产安全提供商HiddenLayer今天宣布微软Azure AI为其模型扫描仪的新用户。模型扫描仪将扫描Azure AI策划的模型集合中的第三方和开源模型,验证它们是否没有网络安全漏洞、恶意软件和其他篡改迹象。

HiddenLayer首席执行官兼联合创始人Chris Sestito表示:“我们强烈主张并行加速人工智能创新和安全解决方案。”。“随着我们的模型扫描仪集成到Azure人工智能目录中,我们致力于为广泛采用人工智能技术建立一条安全的途径。”

开源模型因其可负担性和灵活性而备受青睐,但它们很容易受到恶意利用。通过验证开源模型是否已被模型扫描仪扫描,Azure AI可以帮助安全团队简化AI部署流程,并使开发团队能够更安全、更有信心地微调或部署开放模型。

微软负责任人工智能首席产品官Sarah Bird表示:“我们认为需要积极主动的安全解决方案,让开发人员能够安全地部署人工智能模型,并有信心用自己的专有数据对这些模型进行微调。”。“将HiddenLayer集成到我们的模型入职流程中,是我们的客户在利用人工智能推动竞争差异化时所需要的验证。”

HiddenLayer模型扫描器识别所有主要的机器学习模型格式和框架,并分析其结构、层、张量、函数和模块,以识别可疑或恶意代码、漏洞和完整性问题。HiddenLayer在Azure AI模型目录中启用的关键功能包括:

恶意软件分析:扫描人工智能模型中嵌入的恶意代码,这些代码可以作为感染媒介和恶意软件的启动平台漏洞评估:扫描常见漏洞和暴露(CVE)以及针对人工智能模型的零日漏洞后门检测:扫描模型功能以寻找供应链攻击和后门的证据,如任意代码执行和网络调用模型完整性:分析人工智能模型层、组件和张量,以检测篡改或损坏

在Microsoft博客中阅读有关Azure人工智能客户的更多好处。在Microsoft Azure Marketplace上查看HiddenLayer模型扫描程序。

关于HiddenLayer HiddenLayer是领先的人工智能安全提供商。其安全平台帮助企业保护其最重要产品背后的机器学习模型。HiddenLayer是唯一一家为人工智能提供交钥匙安全的公司,它不会给模型增加不必要的复杂性,也不需要访问原始数据和算法。HiddenLayer由一个在安全和ML方面有着深厚根基的团队创建,旨在保护企业人工智能免受推理、绕过、提取攻击和模型盗窃。该公司得到了一批战略投资者的支持,包括M12、微软风险投资基金、Moore strategic Ventures、Booz Allen Ventures、IBM Ventures和Capital One Ventures。

HiddenLayer联系Maia Gryskiewicz SutherlandGold〔email protected〕

SOURCE HiddenLayer

最新 更多 >
  • 1 eth继续降(eth会减产吗)

    以太坊转型后不需要矿工 1、对于矿工来说,如果在以太坊的主网上进行挖掘,合并后,各个网络将完全基于PoS权益证明机制运行。届时,传统的工作量证明(PoW)挖掘已经无法在以太网上进行。 2、不过,以太坊可能永远不需要矿工。开发人员计划放弃工作证明,即网络当前使用的算法来确定哪些交易是有效的,并保护其免受篡改,以支持股权证明,网络由代币所有者担保。 3、而这一改进协议的主要“改进”被指主要针对比特大陆