OpenAI解除了人工智能安全主管Aleksander Madry的职务,并将其重新分配给人工智能推理部门

时间:2024-09-21 编辑: 浏览:(955)

知情人士向CNBC证实,OpenAI上周解除了OpenAI高级安全主管之一Aleksander Madry的职务,并将他重新分配到一份专注于人工智能推理的工作中。Madry是OpenAI的准备主管,根据Madry的简历,该团队“负责跟踪、评估、预测和帮助防范与前沿人工智能模型相关的灾难性风险”。Madry也是麻省理工学院可部署机器学习中心的主任,也是麻省理工大人工智能政策论坛的教员联合负责人,据该大学网站称,他目前正在休假。重新分配Madry的决定是在一群民主党参议员致函OpenAI首席执行官Sam Altman之前不到一周做出的,信中涉及“关于OpenAI如何解决新出现的安全问题的问题”。这封周一发送并由CNBC查看的信还表示,“我们向OpenAI寻求更多信息,了解该公司为履行其在安全方面的公开承诺所采取的措施,该公司如何在内部评估其在这些承诺方面的进展,以及该公司如何识别和缓解网络安全威胁。”OpenAI没有立即回应置评请求。立法者要求OpenAI在8月13日前就其安全实践和财务承诺的具体问题作出一系列答复。这是围绕OpenAI的安全问题和争议日益加剧的夏天的一部分,OpenAI与谷歌、微软、Meta和其他公司一起领导着一场生成性人工智能军备竞赛——预计十年内收入将超过1万亿美元——因为似乎每个行业的公司都急于添加人工智能驱动的聊天机器人和代理,以避免被竞争对手甩在后面。本月早些时候,微软放弃了其在OpenAI董事会的观察员席位,在CNBC看到的一封信中表示,它现在可以辞职,因为它对这家初创公司董事会的建设感到满意自一场起义导致首席执行官萨姆·奥特曼短暂下台并威胁到微软对OpenAI的大规模投资以来,该组织在八个月内进行了改革。但上个月,一群现任和前任OpenAI员工发表了一封公开信,表达了对人工智能行业快速发展的担忧,尽管缺乏监督,也没有对那些希望发声的人提供举报人保护。“人工智能公司有强烈的财务动机来避免有效的监督,我们认为定制的公司治理结构不足以改变这一点,”员工当时写道。在这封信发表几天后,一位熟悉此事的消息人士向CNBC证实,联邦贸易委员会和司法部将对OpenAI、微软和英伟达展开反垄断调查,重点关注这些公司的行为。联邦贸易委员会主席Lina Khan将该机构的行动描述为“对人工智能开发商和主要云服务提供商之间正在形成的投资和合作关系的市场调查”。现任和前任员工在6月的信中写道,人工智能公司有“大量非公开信息”,说明他们的技术可以做什么,他们采取的安全措施的程度,以及技术对不同类型伤害的风险水平。“我们也理解这些技术带来的严重风险,”他们写道,并补充说,这些公司“目前只有微弱的义务与政府分享其中一些信息,与民间社会没有。我们认为他们不能都自愿分享这些信息。”5月,OpenAI决定解散其专注于人工智能长期风险的团队,一位知情人士当时向CNBC证实了这一点。这位不愿透露姓名的人士表示,一些团队成员正在被重新分配到公司内部的其他团队在OpenAI联合创始人Ilya Sutskever和Jan Leike的领导人于5月宣布离开初创公司后,该团队被解散。Leike在X上的一篇帖子中写道,OpenAI的“安全文化和流程已经让位于闪亮的产品。为了进行这项研究,”Leike当时在X上写道。“然而,很长一段时间以来,我一直不同意OpenAI领导层对公司核心优先事项的看法,直到我们最终达到了一个临界点。”Leike写道,他认为公司的带宽应该更多地集中在安全、监控、准备、安全和社会影响上。他写道:“这些问题很难解决,我担心我们没有走上实现目标的轨道。”。“在过去的几个月里,我的团队一直在逆风而行。有时我们正在为(计算资源)而挣扎,完成这项关键研究变得越来越困难。”Leike补充说,OpenAI必须成为一家“安全第一的AGI公司”。“构建比人类更智能的机器是一项本质上危险的努力,”他当时写道。“OpenAI代表全人类承担着巨大的责任。但在过去几年里,安全文化和流程已经让位于闪亮的产品。”《信息报》首次报道了Madry的重新分配

最新 更多 >
  • 1 WIF仍然看跌,但该集团有一些收获

    截至发稿时,WIF的市场结构非常看跌。上周的购买压力表明市场情绪可能正在发生变化,但价格走势并没有上升的迹象。 截至发稿时,dogwifhat[WIF]并未在市场上显示出明确的方向。 AMBCrypto最近的报告强调,最近几天,多头/空头比率频繁在看涨和看跌之间交替,突显出缺乏信心。 上周,一头鲸鱼增加了他们的WIF资产。再加上6月24日购买压力的增加,WIF有可能突破2.5美元的水平。 买家的回

  • 2 BTC价格再次滑向6万美元,DOT从6美元进一步下跌(市场观察)

    比特币令人失望的价格走势仍在继续,因为该资产未能维持在61000美元以上,并已接近令人垂涎的60000美元支撑水平。 altcoins也处于类似的状态,仅在过去一天,DOGE、ADA、SHIB、LINK、PEPE、NEAR和其他代币就下跌了3%以上。 BTC损失6万美元? 周末以一种熟悉的方式进行,BTC的价格停滞在略高于64000美元的水平。ETF方面缺乏任何行动,导致周六和周日几乎没有波动。

  • 3 TRX和MTAUR保持强势,抵御加密货币市场下跌

    TRON(TRX)在更广泛的加密货币市场低迷中表现出了非凡的韧性。尽管比特币(BTC)和其他加密货币受到了重大抛售的影响,TRON(TRX)仍保持强劲,在过去一周表现稳定。这一表现突显了该币强劲的市场占有率和投资者信心。总体上升势头突显了它在这个充满挑战的时代的力量。除了TRON(TRX),还有一个项目也表现强劲,这标志着它在休闲游戏行业的存在,早期产品前景广阔。 TRON(TRX)在市场波动中大

  • 4 最后一跌 黎明前的黑暗 以太坊ETF获批能否重新点燃市场的火焰

    ETH昨天比特币最低跌至3325后,迅速反弹到3420阻力区域,但未能突破。这表明下跌趋势仍未改变,"反弹空" 依旧是主要策略。短期内,我给出的下跌目标依然是TP1:3280区域,TP2:3140区域。以太坊方面ETF利好ETH可能在7月4日获得美国证券交易委员会(SEC)的批准,加密货币行业正热切期待以太坊交易所交易基金(ETF)的首次亮相。SEC最早可能在7月4日批准现货以太坊ETF。这一进展

  • 5 洞见数据02期| OKX联合CoinGlass:如何挖掘价值数据 培养成熟交易思维?

    摘要:在加密货币市场,数据一直是人们作出交易决策时的重要抓手。我们该如何拨开数据迷雾,发掘有效数据来优化交易决策?这是市场持续关注的话题。本次 OKX 特别策划了《洞见数据》专栏,并联合CoinGlass、AICoin等主流数据平台共同从常见用户需求出发,希望挖掘出更系统化的数据方法论,供市场参考学习。以下是第二期内容,由 OKX 策略团队与CoinGlass研究院共同围绕不同交易场景需要参考的数

  • 6 狂撒1.69亿美元却对加密避而不谈?揭秘加密大选背后的金钱政治

    来源:Coindesk 编译:Ning在政治选举中,有钱能使鬼推磨这句俗语体现地淋漓尽致,而直接诞生的产物,就是独具特色的政治行动委员会(PAC),各类型捐赠者通过不同的PAC对选举产生影响,以确定有利于自身的政治角色。加密,也不例外。目前,加密行业已经积累了庞大的竞选资金,高达1.69亿美元的PAC已能够组织大量的竞选活动,甚至在一定程度上决定明年的国会构成。成效也颇为显著,该PAC已经取得20

  • 7 太空探索技术公司正在建造一艘美国国家航空航天局的飞船,以在退役后故意摧毁国际空间站

    卫星图像显示了2024年6月7日国际空间站和波音星际飞船的概览。Maxar Technologies |通过路透社 美国国家航空航天局周三宣布,该机构将让埃隆·马斯克的太空探索技术公司的一艘航天器在本十年晚些时候指导国际空间站的摧毁。美国国家航空航天局(National Aeronautics and Space Administration)向太空探索技术公司(SpaceX)授予了一份8.43

  • 8 BLUR代币持有者在生态系统增长的情况下因价格暴跌而哭诉

    自年初以来,BLUR NFT市场的原生代币BLUR的价值急剧下降,尽管最近平台有所发展,但这加剧了投资者对该代币长期前景的担忧。 在2023年第四季度令人印象深刻的反弹后,altcoin在2月份扭转了上涨趋势,截至本文撰写之时,几乎抹去了之前反弹的所有涨幅。价格下跌后,BLUR的一位持有者,X平台上的Altcoin Sherpa,对2月份Altcoin交易价格为0.70美元时没有出售其持有的股票表

  • 9 道富环球顾问与银河数码合作推出现货比特币以外的ETF

    价值数万亿美元的资产管理公司道富环球顾问公司与银河数字合作推出了ETF(交易所交易基金),为现货比特币ETF之外的加密资产提供敞口。 这家管理着4.13万亿美元资产的基金管理巨头在6月26日的一份声明中表示:“我们相信,这是数字资产生态系统的下一个增长水平。”。 道富环球顾问向美国证券交易委员会提交多个拟议基金文件 该公司表示,机构和散户投资者正在“通过纯现货比特币以外的投资选择”

  • 10 腾讯在中国mBridge CBDC交叉支付解决方案中的作用

    随着腾讯参与中国mBridge跨境CBDC计划,金融领域的数字革命取得了重大进展。该项目由国际清算银行创新中心协调,旨在通过使国际支付更便宜、更快来改变国际支付。腾讯的加入突显了其战略远见,也突显了中国在全球数字货币竞赛中的领先地位。 腾讯的战略举措 腾讯通过其跨境支付子公司财付通全球参与mBridge,不仅是一项技术进步,也是一份意向声明。腾讯是中国最大的移动支付应用微信支付的所有者,拥有11亿