麻省理工学院研究人员宣布人工智能风险库

时间:2024-09-22 编辑: 浏览:(953)

麻省理工学院的研究人员和其他组织已经创建了人工智能风险库,这是一个由人工智能系统复合的记录风险的广泛数据库。这是因为该技术正在快速发展,这也是与使用人工智能系统的风险相关的情况。

该知识库旨在协助政府、研究、企业和行业等各机构的决策者评估与人工智能相关的新兴风险,尽管它具有变革能力。

该存储库有序地记录了人工智能风险

由于一些组织和研究人员已经认识到解决人工智能风险的重要性,因此记录和分类这些风险的努力在很大程度上是笨拙的,导致分类系统相互冲突。

麻省理工学院FutureTech即将到来的博士后和项目负责人Peter Slattery告诉VentureBeat:“我们希望对人工智能风险有一个全面的概述,作为一个清单。”。

“但当我们查看文献时,我们发现现有的风险分类就像拼图游戏的一块:单独有趣和有用,但不完整。”Slattery。

人工智能风险库通过融合来自43个现有分类法的信息来解决上述挑战,包括同行评审的文章、预印本、会议论文和报告。

通过严格的管理过程,建立了一个包含700多种独家风险的数据库。该存储库利用了一个双管齐下的维度分类系统。

首先,根据其原因对风险进行分类,同时考虑到责任实体(人类或人工智能)、意图(无意或国际)和时间(开发后或部署前)。

根据麻省理工学院的说法,这种潜在的分类有助于理解人工智能风险可能出现的情况和机制。

麻省理工学院的研究人员将人工智能风险分为七类

另一方面,风险分为七个不同的领域,包括错误信息和恶意行为者、滥用、歧视和毒性、隐私和安全。

人工智能风险库是一个有预谋的活数据库,是公开的,机构可以下载供其使用。

研究团队可以计划经常更新数据库,以了解新的风险、最新发现和不断变化的趋势。

人工智能风险库也旨在成为各行业企业的实用资源。对于开发人工智能系统的机构来说,该存储库是评估风险和减轻风险的宝贵清单。

麻省理工学院的研究人员表示:“使用人工智能的组织可能会受益于将人工智能风险数据库和分类法作为全面评估其风险暴露和管理的有用基础。”。

研究人员补充道:“分类法也可能有助于识别需要执行以减轻特定风险的特定行为。”。

例如,一个正在建立人工智能招聘系统的组织可以利用该存储库来记录与歧视和偏见相关的潜在风险。

因此,利用人工智能进行内容审核的公司可以利用“错误信息”领域来了解与人工智能生成的内容相关的潜在风险,并建立必要的安全网。

麻省理工学院的研究人员与昆士兰大学、生命未来研究所、鲁汶大学和人工智能初创公司Harmony Intelligence的同事合作,搜索学术数据库并检索与人工智能风险相关的文件。

研究人员还透露,人工智能风险库将为其他研究提供信息,因为他们发现了更多需要关注的差距。

麻省理工学院未来技术实验室负责人尼尔·汤普森说:“我们将使用这个存储库来识别组织在如何应对风险方面的潜在差距或不平衡。”。

最新 更多 >
  • 1 美国证券交易委员会就美国科技大学LUNA达成45亿美元和解后,Terraform实验室将解散

    Terraform Labs首席执行官Chris Amani周三透露,在与美国证券交易委员会达成45亿美元的和解协议后,2022年LUNA和UST 400亿美元倒闭背后的公司将解散。 Amani在推特(又名X)上写道:“(Terraform实验室)一直打算在某个时候解散,现在就是这个时候了。我们将完全停止运营。” 根据监管机构去年提起的民事欺诈案中提交的文件,该公司及其前首席执行官Do Kwon周

  • 2 不,沙特阿拉伯并没有在石油交易中抛弃美元换瑞波

    有一个传说是,1973年,美国总统理查德·尼克松和国务卿亨利·基辛格与沙特阿拉伯达成了一项秘密协议,将石油以美元计价,美国将货币与石油挂钩,并诞生了石油美元。 根据这个神话,美国为沙特阿拉伯的油田提供军事保护,以换取沙特在世界上最有价值的商品市场上实施美元霸权的作用。据推测,该国主权国家于1974年6月6日签署了一项为期50年的石油美元协议,该协议于2024年6月9日左右到期。 如果这是真的,本周

  • 3 尖端技术支持Qubetics白名单;以太坊和索拉纳没能跟上步伐

    您是否正在寻找一种潜在的爆炸性加密货币,但无法决定哪种最适合您的投资努力?别忘了,比特币和以太坊曾经的交易价格仅为美分,明智的早期投资者信心倍增,永远改变了他们的金融未来!如果你还不知道的话,这篇文章揭示了一个引人注目的机会,这个机会目前正在席卷加密货币世界。 这是什么机会?Qubetics白名单!它不会让你失望,就像技术无聊的以太坊(ETH)或停电的索拉纳(SOL)一样。尽管这些密码已经运行了

  • 4 MoonBag的银河胜利:超越Pepe和Floki Inu,成为2024年最佳预售歌手

    你是否意识到加密货币市场正在出现一个难得的机会,为你自己和你所爱的人提供了一个获得巨额财富的机会?让我们直接切入吧!Pepe Coin和Floki Inu最近的价值大幅下跌,引起了投资者的担忧。然而,在这些挑战中,有一个闪亮的超级明星——创新的MoonBag硬币。 MoonBag预售以其强大的功能和诱人的福利而拥有令人印象深刻的潜力。MoonBag提供诱人的88%APY赌注奖励,将自己定位为动荡

  • 5 CPI降温 利率冻涨 昨夜究竟发生了什么?

    昨晚真的是冰火两重天,20:30-2:00,2:00-现在,两个行情啊!BTC在CPI数据出来后,立马一根拔地而起的大阳线,从67000直接杀向70000,在鲍威尔开始说话后,从接近70000直接杀向65000,冰火两重天!昨晚美联储会议的几个关键信息:1.美国5月核心CPI降至3年低位,比预想中低,降息预期升温。2.美联储连续第七次维持利率不变,符合市场预期。3.点阵图预计2024年仅降息一次2

  • 6 MoonBag Meme Coin的Moonshot售价1美元预测:它会侵蚀Theta的遗产和Render的渲染能力吗?

    有没有想过用加密货币致富?虽然市场提供了丰富的选择,但有些选择比其他选择更耀眼。Theta Network(Theta)和Render(RNDR)都是老牌玩家,但它们最近的下跌可能会让你想要更多。还有Moonbag(MBAG),这颗冉冉升起的新星将席卷加密货币世界! 这个创新项目的预售火爆,已经超过200万美元。有了一个战略计划,预计到年底价格将飙升至1美元,MoonBag迷因币可能会成为你加密

  • 7 在MBAG的1美元价格预测中,MoonBag赌注奖励偷走了BitBot,Slothana持有者

    为什么人们仍然想转向高风险、高回报的模因币?是因为像“BitBot”这样的项目试图创造的炒作吗?还是像“MoonBag”这样的项目在社区支持方面表现出的优势?这篇文章讨论了Slothana面临的需求困境,BitBot因未能保持市场内的信任而失去了受众,以及神奇的MoonBag,它不仅偷走了BitBot和Slothana的投资者的心,还偷走了投资者通过它获得的巨大赌注回报。 MoonBag是社区的

  • 8 Polygon为Web3项目推出社区资助计划

    社区财政和资金 一个中立的社区财政委员会将监督新成立的社区财政部,该委员会将管理资金。社区赠款计划(CGP)的第一季已经开始,为选定的项目预留了3500万美元的MATIC代币。 专业拨款人将分配第一季的一部分资金,以确保公平分配,并支持Polygon生态系统内的开发商和项目。 社区补助计划提供两个途径: 一般拨款轨道:对Polygon上的任何项目开放,专注于开发人员工具、协议基础设施和dApp。

  • 9 下一个加密货币将于6月13日星期四爆炸——Livepeer、Toncoin、io.net、WEMIX

    在牛市中获得可观的投资回报率可能意味着要关注具有爆炸潜力的模因币和Altcoins。然而,识别下一个爆发的加密货币可能需要一些工作,因为大多数基金都被吸引来注入资产。 今天的文章探讨了在过去24小时内占据涨幅榜主导地位的加密货币的表现。目标是确定下一个爆发的加密货币,并向投资者和交易员通报每种代币。帖子中还概述了加密资产的市场趋势,这些资产有可能在未来取得重大收益。 下一个要爆炸的加密货币 这是市

  • 10 索拉纳要飞翔了吗?分析师预测,如果这一关键支持保持不变,SOL将激增50%以上

    随着加密货币市场经历其典型的起伏,Solana(SOL)引起了分析师的特别关注,他们预计其价格会发生重大波动。 目前,索拉纳的交易价格略低于150美元,但最近的分析表明,索拉纳有可能大幅上涨。 随着关键技术模式的出现,索拉纳面临重大挑战 根据知名加密货币分析师阿里的说法,索拉纳将飙升53%,阿里指出,上升的三角形模式可能是牛市即将到来的迹象。 Solan价格图上的上升三角形图案。|来源:Ali