麻省理工学院研究人员宣布人工智能风险库

时间:2024-09-23 编辑: 浏览:(412)

麻省理工学院的研究人员和其他组织已经创建了人工智能风险库,这是一个由人工智能系统复合的记录风险的广泛数据库。这是因为该技术正在快速发展,这也是与使用人工智能系统的风险相关的情况。

该知识库旨在协助政府、研究、企业和行业等各机构的决策者评估与人工智能相关的新兴风险,尽管它具有变革能力。

该存储库有序地记录了人工智能风险

由于一些组织和研究人员已经认识到解决人工智能风险的重要性,因此记录和分类这些风险的努力在很大程度上是笨拙的,导致分类系统相互冲突。

麻省理工学院FutureTech即将到来的博士后和项目负责人Peter Slattery告诉VentureBeat:“我们希望对人工智能风险有一个全面的概述,作为一个清单。”。

“但当我们查看文献时,我们发现现有的风险分类就像拼图游戏的一块:单独有趣和有用,但不完整。”Slattery。

人工智能风险库通过融合来自43个现有分类法的信息来解决上述挑战,包括同行评审的文章、预印本、会议论文和报告。

通过严格的管理过程,建立了一个包含700多种独家风险的数据库。该存储库利用了一个双管齐下的维度分类系统。

首先,根据其原因对风险进行分类,同时考虑到责任实体(人类或人工智能)、意图(无意或国际)和时间(开发后或部署前)。

根据麻省理工学院的说法,这种潜在的分类有助于理解人工智能风险可能出现的情况和机制。

麻省理工学院的研究人员将人工智能风险分为七类

另一方面,风险分为七个不同的领域,包括错误信息和恶意行为者、滥用、歧视和毒性、隐私和安全。

人工智能风险库是一个有预谋的活数据库,是公开的,机构可以下载供其使用。

研究团队可以计划经常更新数据库,以了解新的风险、最新发现和不断变化的趋势。

人工智能风险库也旨在成为各行业企业的实用资源。对于开发人工智能系统的机构来说,该存储库是评估风险和减轻风险的宝贵清单。

麻省理工学院的研究人员表示:“使用人工智能的组织可能会受益于将人工智能风险数据库和分类法作为全面评估其风险暴露和管理的有用基础。”。

研究人员补充道:“分类法也可能有助于识别需要执行以减轻特定风险的特定行为。”。

例如,一个正在建立人工智能招聘系统的组织可以利用该存储库来记录与歧视和偏见相关的潜在风险。

因此,利用人工智能进行内容审核的公司可以利用“错误信息”领域来了解与人工智能生成的内容相关的潜在风险,并建立必要的安全网。

麻省理工学院的研究人员与昆士兰大学、生命未来研究所、鲁汶大学和人工智能初创公司Harmony Intelligence的同事合作,搜索学术数据库并检索与人工智能风险相关的文件。

研究人员还透露,人工智能风险库将为其他研究提供信息,因为他们发现了更多需要关注的差距。

麻省理工学院未来技术实验室负责人尼尔·汤普森说:“我们将使用这个存储库来识别组织在如何应对风险方面的潜在差距或不平衡。”。

最新 更多 >
  • 1 市场震荡,应多稳重投资

    从去年到今年,除了一些狂热的meme币爆发,还有许多有着创新机制的项目,吸引了非常多的人气和资金,例如铭文,潘多拉还有前段时间的X314,不同于一般的生态项目,此类项目在某些技术方面,彻底改变了以往的逻辑或机制,以此吸引了大量的人气,加上资金的流入,很容易成为了爆款。而成为爆款以后,相关的项目就如雨后春笋一般,此起彼伏,疯狂涌现。其中肯定不乏蹭热点割人的项目。而根据龙1定律,极少或者基本没有能超越

  • 2 IOSG|Web3专属的AIMapping

    乍一看,AI x Web3 似乎是相互独立的技术,各自基于根本不同的原理,并服务于不同的功能。然而,深入探讨会发现,这两种技术有机会平衡彼此的权衡取舍,彼此独特的优势可以相辅相成,互相提升。Balaji Srinivasan在SuperAI大会上精辟地阐述了这一互补能力的概念,激发了对这些技术如何相互作用的详细比较。 Token采用自下而上的方法,从匿名网络朋克的去中心化努力中兴起,十多年的时间

  • 3 抓住比特币的下跌红利:一篇文章教你成为做空高手

    最近比特币的价格像滑梯一样直线下降,跌破了54,000美元大关,让不少人的账户像泡沫一样“哗啦”破裂了。在这数字货币的过山车游戏中,不是每个人都在为下跌而哭泣,有的人正偷偷乐呵呵——那就是那些聪明的做空者。今天,我们就来聊聊,当比特币价格决定“南下”时,你如何能够反其道而行之,赚取那些美味的利润。何为“做空”?想象一下,你在一个热闹的集市中,手里捧着一大把刚借来的苹果,你听到风声说明天这里的苹果可

  • 4 Pepe Unchained在预售中达到250万美元大关——这个第二层代币会成为下一个大的Meme币吗?

    看起来一个以青蛙为主题的新表情币已经在网上疯传了。 Pepe Unchained(PEPU),一个有转折点的笑话代币,在预售阶段刚刚超过250万美元。 投资者现在想知道这个二层项目是否会成为加密货币的下一个大项目。 Pepe Unchained的目标是成为Meme硬币的第二层游乐场 Pepe Unchained希望在竞争中脱颖而出。 这个项目正在酝酿一个我们以前从未见过的东西:一个专门用于模因币的

  • 5 老外上班又开始框框砸盘、比特币现在看涨看跌?

    尽管比特币价格波动且创下五个月新低,但几个关键指标表明多头可能仍占上风,暗示BTC价格走势可能出现复苏。看涨背离增强 BTC 反弹前景比特币本月开局动荡,截至 7 月 7 日,暴跌超过 10.50%,徘徊在 57,000 美元左右。BTC 最低点触及 53,550 美元,其下跌主要是由于人们对市场抛售的担忧。比特币价格的最新下跌伴随着价格下跌与相对强弱指数(RSI)上升之间的分歧不断扩大。这种分歧

  • 6 对Shiba Inu(SHIB)社区的批判战争

    加密货币行业是一个充满活力的行业,每天都有许多令人兴奋的发展。 然而,它也经常成为黑客和不法分子的目标,他们希望利用新手用户无法安全保管他们的加密货币。 对于模因币行业来说尤其如此。 也就是说,Shiba Inu(SHIB)是最受欢迎的模因币之一,拥有庞大的社区。 该项目的营销负责人LUCIE刚刚转发了Shibarium团队另一名成员的警告,该成员警告用户远离一个名为ShibaSweepers的T

  • 7 比特币周期峰值:美元兑美元的主导地位如何预测顶部

    加密货币分析师使用了几个链上指标来分析比特币顶部是否已经进入牛市。这一次,加密货币分析师Thomas暗示,USDT的主导地位决定了比特币的市场地位。 USDT的主导地位如何预测比特币的顶部 Thomas在X(前身为Twitter)的一篇帖子中声称,USDT的主导地位预测了过去六年比特币在当地的每一个最高点。他指出,每当USDT的主导地位触及趋势线的底部时,比特币总是有一个明显的局部顶部,分析师在图

  • 8 马克龙面临立法挑战-最新加密货币新闻

    法国最近的大选产生了一个平衡的议会,使立法过程复杂化。包括各左翼政党在内的新人民阵线赢得188个席位,低于多数党所需的289个席位。总统埃马纽埃尔·马克龙的联盟获得161个席位,而马琳·勒庞的极右翼全国集会获得141个席位,造成了不确定的政治局面。 内容隐藏1政策挑战是什么?2加密货币监管将如何推进?决策者的3个关键推论 政策挑战是什么? 平衡的议会结果将产生重大影响,使通过新法

  • 9 Metaplanet 持有的比特币数量

    Metaplanet 以约42.47枚比特币,总价4亿日元购买,平均价格为每枚比特币9,419,300日元❗️截至7月8日,Metaplanet 持有约203.73枚比特币,总计20.5亿日元,平均价格为每枚比特币10,062,517日元。

  • 10 投资者推动加密货币流入-最新加密货币新闻

    CoinShares的最新数据显示,尽管最近Mt.Gox交易和德国政府的市场压力等事件导致价格下跌,但仍有4.41亿美元的资金大量涌入加密货币投资产品。投资者将这些价格下跌视为买入机会,而非担忧的理由。 内容隐藏1比特币领跑2索拉纳和以太坊获得关注3关键收获 比特币引领潮流 比特币成为主要受益者,在资金流入总额中获得3.98亿美元。尽管比特币占资金流入的90%,但剩余的10%表明