科技巨头承诺人工智能安全承诺——如果不能降低风险,包括“关闭开关”

时间:2024-09-23 编辑: 浏览:(684)

Dado Ruvic |路透社 周二,包括微软、亚马逊和OpenAI在内的一系列主要科技公司在首尔人工智能安全峰会上同意了一项具有里程碑意义的人工智能安全国际协议。根据该协议,来自美国、中国、加拿大、英国、法国、韩国和阿拉伯联合酋长国等国家的公司将自愿承诺,确保其最先进的人工智能模型的安全开发。在他们还没有这样做的地方,人工智能模型制造商将各自发布安全框架,阐述他们将如何衡量其前沿模型的风险,例如检查不良行为者滥用技术的风险。这些框架将包括科技公司的“红线”,这些红线定义了与被视为“不可容忍”的前沿人工智能系统相关的风险类型——这些风险包括但不限于自动网络攻击和生物武器威胁。在这种极端情况下,公司表示,如果不能保证降低这些风险,他们将实施“终止开关”,停止开发人工智能模型。英国首相里希·苏纳克(Rishi Sunak)周二在一份声明中表示:“来自世界各地的众多领先人工智能公司都同意在人工智能安全方面做出同样的承诺,这是世界上第一次。”。他补充道:“这些承诺确保了世界领先的人工智能公司将为其开发安全人工智能的计划提供透明度和问责制。”。 周二达成的协议扩大了去年11月在英国布莱切利公园举行的英国人工智能安全峰会上,参与开发生成性人工智能软件的公司所做的一系列承诺。这些公司已同意接受“值得信赖的参与者”对这些阈值的意见,包括他们的本国政府,然后在计划于2025年初在法国举行的下一届人工智能峰会之前发布这些阈值。周二达成的承诺只适用于所谓的“前沿”模式。这个术语指的是生成人工智能系统背后的技术,如OpenAI的GPT大语言模型家族,它为流行的ChatGPT人工智能聊天机器人提供了动力。自2022年11月ChatGPT首次引入全球以来,监管机构和技术领导者越来越担心先进人工智能系统的风险,这些系统能够生成与人类同等或更好的文本和视觉内容。 现在就看视频3:4503:45《华尔街日报》的Joanna Stern Squawk Box说,微软的新型人工智能PC是“竖起大拇指” 欧盟试图通过制定《人工智能法案》来打击不受约束的人工智能开发,该法案于周二获得欧盟理事会的批准。然而,英国并没有提出人工智能的正式法律,而是选择了一种“轻接触”的人工智能监管方法,要求监管机构将现有法律应用于该技术。政府最近表示,将考虑在未来某个时候为边境模式立法,但尚未承诺出台正式法律的时间表。

最新 更多 >
  • 1 美国参议院废除SEC加密货币政策,但拜登表示将否决:SAB121解释

    乔·拜登总统支持美国证券交易委员会关于加密货币托管的政策SAB 121,引发了对投资者和创新的潜在伤害的批评民主党众议员Wiley Nickel要求Gary Gensler自愿撤回指导方针作为替代方案国会准备就废除指南进行激烈斗争

  • 2 BitwiseBITB截至5月17日持有超3.57万枚BTC

    Bitwise 官方数据显示,截至当地时间 5 月 17 日,其比特币现货 ETF(BITB)持有 35,749.04枚 BTC,较前一交易日增加 310.71 枚,持仓市值达到 2,390,933,692.30 美元。当前 BITB 流通份额为 65,580,000 份。

  • 3 KyberNetwork:新链公告针对KyberSwap,指其即将或已完成在新区块链上部署

    跨链 DEX 项目 Kyber Network 官方表示,KyberSwap 是一个 DEX 聚合器,因此“新链”公告是指其聚合器即将或已完成新链部署。 Kyber Network 将更新措辞以使其更清晰。KyberSwap 已于 2024 年部署到 3 条新链。

  • 4 DTCC和Chainlink通过区块链推动基金代币化

    DTCC与Chainlink合作进行了名为Smart NAV的试点项目,与美国主要金融机构共同基金数据数字化。该项目旨在建立标准化流程,通过多个区块链传播基金的净资产价值(NAV)数据,以实现标记化基金的高效操作。智能合约实现了自动数据路由和动态数据管理,减少了碎片化风险。新的接口包括API和实时更新的智能合约,用于各种用例如自动投资组合再平衡。Smart NAV将扩大行业基础设施范围,为整个金融

  • 5 火币HTXLiquidRestaking奖励额度加码至超1.5亿美元,积分升级领空投

    据官方公告,火币 HTX 的 Liquid Restaking(流动性再质押)将于 5 月 16 日 17:00(UTC+8)开启新版本,将再次追加 5 千万美元奖励份额,总计超 1.5 亿美元,其中包括 5,000 ETH、250 BTC、2,000B HTX、30,000,000 TRX。用户凭现货和合约余额可一键参与 Liqui Restaking ,无质押不锁仓可领取 BounceBit、

  • 6 超过5000万美元被Tether列入黑名单,发生了什么?

    Tether公司根据Arkham Intelligence的数据将其五个未知钱包列入黑名单,这些钱包共收到5410万美元。此前,其中一个钱包在前六个月将大部分资金分散到其他钱包后发生最近一次转账。这不是Tether第一次与非法活动有关的地址合作,该公司曾与美国司法部和OKX合作冻结了约2.25亿美元的USDT代币,以调查一个国际人口贩运集团。随着监管审查的加强,Tether一直在积极筛查其客户的合

  • 7 Pump.fun攻击者疑似进行空投,包括slerf、saga等持有者

    据社区反映,Pump.fun被攻击,攻击者@STACCoverflow将价值8000万美元的资产随机空投以下持币地址:1. slerf持有者; 2. stacc持有者; 3. saga持有者; 4. risklol持有者,并表示这笔约8000万美元的空投可能会导致solana分叉。据悉,攻击者疑似家人去世,引发报复心理。

  • 8 Kaiko:ETH或在五月底前出现价格走势不稳定情况

    Kaiko Research 于本周已发布的市场报告观察到,ETH 期权交易者纷纷买入看涨期权和看跌期权,这表明 ETH 可能会在 5 月底之前出现一些波动。分析师表示,在本周的现货以太坊交易所交易基金提交决定截止日期之前,ETH 的价格走势可能会变得越来越不稳定。 Presto 研究分析师 Peter Chung 认为,目前比特币和以太币的隐含波动率持平,这表明市场尚未消化以太币预期的波动性变化

  • 9 黑客重创GALA硬币

    GALA Coin加密货币遭受黑客攻击,导致2亿美元的损失。市场受到ETH ETF获批传闻的提振,但随后下跌7%以上。开发团队尚未对链上活动做出令人满意的解释。投资者面临兴奋和恐惧的市场情绪。密切关注官方公告以获取重要信息,同时考虑分散投资组合和使用止损指令来限制潜在损失。

  • 10 比特币和以太坊ETF显示显著流入

    最近,比特币(BTC)价格在每日收盘前半小时达到了66867美元,结束了长达一个月的价格徘徊在67000美元区间的情况。这一价格上涨得益于积极的市场新闻和数据流,特别是与比特币和以太坊(ETH)交易所交易基金(ETF)相关的流入情况。GBTC、IBIT和ARKB等ETF的净流入总额已达到6200万美元以上,这表明市场动力正在增强。随着Grayscale的高管宣布大销售已经结束并可能开始好转,以及投