OpenAI解除了人工智能安全主管Aleksander Madry的职务,并将其重新分配给人工智能推理部门

时间:2024-09-23 编辑: 浏览:(184)

知情人士向CNBC证实,OpenAI上周解除了OpenAI高级安全主管之一Aleksander Madry的职务,并将他重新分配到一份专注于人工智能推理的工作中。Madry是OpenAI的准备主管,根据Madry的简历,该团队“负责跟踪、评估、预测和帮助防范与前沿人工智能模型相关的灾难性风险”。Madry也是麻省理工学院可部署机器学习中心的主任,也是麻省理工大人工智能政策论坛的教员联合负责人,据该大学网站称,他目前正在休假。重新分配Madry的决定是在一群民主党参议员致函OpenAI首席执行官Sam Altman之前不到一周做出的,信中涉及“关于OpenAI如何解决新出现的安全问题的问题”。这封周一发送并由CNBC查看的信还表示,“我们向OpenAI寻求更多信息,了解该公司为履行其在安全方面的公开承诺所采取的措施,该公司如何在内部评估其在这些承诺方面的进展,以及该公司如何识别和缓解网络安全威胁。”OpenAI没有立即回应置评请求。立法者要求OpenAI在8月13日前就其安全实践和财务承诺的具体问题作出一系列答复。这是围绕OpenAI的安全问题和争议日益加剧的夏天的一部分,OpenAI与谷歌、微软、Meta和其他公司一起领导着一场生成性人工智能军备竞赛——预计十年内收入将超过1万亿美元——因为似乎每个行业的公司都急于添加人工智能驱动的聊天机器人和代理,以避免被竞争对手甩在后面。本月早些时候,微软放弃了其在OpenAI董事会的观察员席位,在CNBC看到的一封信中表示,它现在可以辞职,因为它对这家初创公司董事会的建设感到满意自一场起义导致首席执行官萨姆·奥特曼短暂下台并威胁到微软对OpenAI的大规模投资以来,该组织在八个月内进行了改革。但上个月,一群现任和前任OpenAI员工发表了一封公开信,表达了对人工智能行业快速发展的担忧,尽管缺乏监督,也没有对那些希望发声的人提供举报人保护。“人工智能公司有强烈的财务动机来避免有效的监督,我们认为定制的公司治理结构不足以改变这一点,”员工当时写道。在这封信发表几天后,一位熟悉此事的消息人士向CNBC证实,联邦贸易委员会和司法部将对OpenAI、微软和英伟达展开反垄断调查,重点关注这些公司的行为。联邦贸易委员会主席Lina Khan将该机构的行动描述为“对人工智能开发商和主要云服务提供商之间正在形成的投资和合作关系的市场调查”。现任和前任员工在6月的信中写道,人工智能公司有“大量非公开信息”,说明他们的技术可以做什么,他们采取的安全措施的程度,以及技术对不同类型伤害的风险水平。“我们也理解这些技术带来的严重风险,”他们写道,并补充说,这些公司“目前只有微弱的义务与政府分享其中一些信息,与民间社会没有。我们认为他们不能都自愿分享这些信息。”5月,OpenAI决定解散其专注于人工智能长期风险的团队,一位知情人士当时向CNBC证实了这一点。这位不愿透露姓名的人士表示,一些团队成员正在被重新分配到公司内部的其他团队在OpenAI联合创始人Ilya Sutskever和Jan Leike的领导人于5月宣布离开初创公司后,该团队被解散。Leike在X上的一篇帖子中写道,OpenAI的“安全文化和流程已经让位于闪亮的产品。为了进行这项研究,”Leike当时在X上写道。“然而,很长一段时间以来,我一直不同意OpenAI领导层对公司核心优先事项的看法,直到我们最终达到了一个临界点。”Leike写道,他认为公司的带宽应该更多地集中在安全、监控、准备、安全和社会影响上。他写道:“这些问题很难解决,我担心我们没有走上实现目标的轨道。”。“在过去的几个月里,我的团队一直在逆风而行。有时我们正在为(计算资源)而挣扎,完成这项关键研究变得越来越困难。”Leike补充说,OpenAI必须成为一家“安全第一的AGI公司”。“构建比人类更智能的机器是一项本质上危险的努力,”他当时写道。“OpenAI代表全人类承担着巨大的责任。但在过去几年里,安全文化和流程已经让位于闪亮的产品。”《信息报》首次报道了Madry的重新分配

最新 更多 >
  • 1 CLASH币值多少钱一枚

    CLASH币是一种虚拟货币,它的价值由市场供需决定,目前每枚CLASH币的价格为XXX元。虽然它只是一个数字,却引起了很多人的关注和投资。CLASH币的价值受到多个因素的影响。首先是市场供需关系,当需求大于供应时,价格上涨;相反,当供应大于需求时,价格下跌。其次,技术发展也是影响CLASH币价值的重要因素,如果团队能在技术方面取得突破,投资者们对该币种的信心将会增加,进而推动币值上涨。另外,市场情

  • 2 CHB币有风险吗

    CHB币是近年来火爆的一种加密货币,拥有许多投资者争相购买。但是,像所有的投资产品一样,CHB币也存在一定的风险。在考虑投资CHB币之前,我们需要了解这种风险,并评估自己的风险承受能力。首先,CHB币市场的价格波动是最大的风险之一。由于CHB币市场的供需关系不断变化,其价格可能短期内出现大幅波动。投资者需要承受这样的风险,特别是在短期内可能面临严重的价格波动,可能会导致投资本金的大幅减少。其次,C

  • 3 CLH币有希望吗

    CLH币作为一个新兴的加密货币,备受关注。对于是否有希望,这个问题并不容易回答。加密货币行业充满了不确定性和风险,而投资者往往希望找到一种具有潜力和增长空间的币种。那么,CLH币有没有希望呢?让我们来探讨一下。首先,我们需要了解CLH币的背景和技术基础。CLH币是基于区块链技术的一种加密货币,致力于提供更快的交易速度和更安全的交易环境。它采用了一种独特的共识机制,能够更好地抵抗51%攻击。这一技术

  • 4 CRTS币去哪里买

    介绍CRTS币CRTS币是一种数字货币,全称为Cryptocurrency Token System。它是基于区块链技术的加密货币,由一个匿名团队开发和管理。CRTS币的主要目的是为了支持社交网络中的内容创造者和用户之间的交互,鼓励创造高质量的社交网络内容,并以此作为奖励机制。CRTS币的投资价值作为一种数字货币,CRTS币在未来可能具有较大的投资潜力。随着社交网络的普及和发展,内容创造者与用户之

  • 5 DALI币值多少钱一枚

    大家好,今天我要和大家分享的是DALI币的价值。DALI币是一个相对较新的数字货币,它被设计成为一个去中心化的区块链平台,旨在通过提供低成本的跨境支付和智能合约功能来改变传统金融体系。那么,DALI币目前的价格是多少呢?根据最新数据,DALI币的价格为每枚10美元。对于数字货币而言,这个价格相对较高。然而,在过去几个月里,DALI币的价格经历了快速增长,吸引了大量投资者的关注。为什么DALI币的价

  • 6 CSIX币如何购买与销售

    CSIX币如何购买与销售CSIX币是一种基于区块链技术的加密货币,它在全球范围内具有广泛的应用场景。对于想要购买或销售CSIX币的用户来说,下面将介绍具体的步骤和方法。购买CSIX币如果您想要购买CSIX币,您可以通过以下几个步骤来完成:1. 选择合适的交易平台:要购买CSIX币,您需要选择一个可信赖的、高度安全的交易平台。在互联网上搜索并比较不同的交易平台,查看用户的评价和评级,选择一个适合您的

  • 7 COWS币有希望吗

    随着加密货币的兴起,越来越多的人开始关注和投资不同的数字货币。其中一种备受关注的币种是COWS币,它是一个充满希望的项目吗?让我们来看看COWS币的潜力和前景。COWS币是一个匿名的数字货币,通过区块链技术实现了去中心化的交易。它的名称来自于英文单词Cows,即牛,象征着财富和繁荣。COWS币的创始人声称,它是一种完全去中心化的货币,没有任何控制者和干涉者。这种去中心化的特点使得COWS币在匿名性

  • 8 DAPS币有希望吗

    随着加密货币的兴起,越来越多的人开始关注和投资于不同的数字资产。在这个快速发展的行业中,一个备受关注的项目是DAPS币。那么,DAPS币有希望吗?让我们来探讨一下。DAPS币是一种具有隐私功能的加密货币,它采用了隐秘属性保护系统(Privacy Protocol)来确保用户交易的隐私和匿名性。该项目旨在为用户提供安全可靠的支付方式,同时保护用户的隐私不被侵犯。首先,DAPS币在技术层面上有一些独特

  • 9 CURVE币哪个市场有

    介绍CURVE币CURVE币是一种加密货币,也是一个去中心化的稳定币交换协议。它旨在解决当前数字货币市场上的稳定币之间存在的互操作性问题。相比于其他稳定币,CURVE币采用了一种独特的算法,使其在交易过程中可以维持稳定的价格。CURVE币的市场需求目前,数字货币市场上存在着许多不同的稳定币,如USDT、USDC、DAI等。然而,这些稳定币之间的兑换并不方便,用户需要通过中心化的交易所或其他中介来实

  • 10 CTI币怎么买卖

    CTI币的介绍CTI币是一种加密货币,全名为CyberTime Finance Token。它是CyberTime Finance项目的官方代币,该项目是一个基于区块链技术的去中心化金融平台。CTI币可以用于各种交易和金融活动,并且在未来的发展中有望推出更多的功能和用途。如果你想购买或出售CTI币,下面是一些基本步骤和注意事项。购买CTI币的步骤1.寻找合适的交易所:首先,你需要找到一个可信赖的数