OpenAI现任和前任员工警告人工智能的“严重风险”和缺乏监督

时间:2024-09-25 编辑: 浏览:(336)

在这篇文章中MSFT关注你最喜欢的股票REATE FREE ACCOUNT 2024年5月21日,OpenAI首席执行官Sam Altman在华盛顿州雷德蒙德的微软总部举行的微软Build会议上发表讲话。Jason Redmond |法新社|盖蒂图片社 周二,一群现任和前任OpenAI员工发表了一封公开信,描述了人们对人工智能行业快速发展的担忧,尽管缺乏监督,也没有为那些希望发声的人提供举报人保护。员工们在公开信中写道:“人工智能公司有强大的财务激励机制来避免有效的监督,我们认为定制的公司治理结构不足以改变这一点。”。OpenAI、谷歌、微软、Meta和其他公司正在主导一场生成性人工智能军备竞赛——预计该市场的收入将在十年内突破1万亿美元——似乎每个行业的公司都急于增加人工智能聊天机器人和代理,以避免被竞争对手甩在后面。现任和前任员工写道,人工智能公司拥有“大量非公开信息”,关于他们的技术可以做什么,他们采取的安全措施的程度,以及技术对不同类型伤害的风险水平。他们写道:“我们也理解这些技术带来的严重风险。签署方写道:“广泛的保密协议阻止我们表达我们的担忧,除了那些可能未能解决这些问题的公司。”。“普通的举报人保护是不够的,因为他们专注于非法活动,而我们担心的许多风险尚未受到监管。”信中要求人工智能公司承诺不签订或执行非贬损协议;为现任和前任员工创建匿名流程,向公司董事会、监管机构和其他机构表达担忧;支持公开批评的文化;如果内部报告程序失败,则不得对公开举报进行报复。四名匿名的OpenAI员工和七名前员工签署了这封信,其中包括Daniel Kokotajlo、Jacob Hilton、William Saunders、Carroll Wainwright和Daniel Ziegler。签名者还包括曾在谷歌DeepMind工作的Ramana Kumar和目前在谷歌Deep Mind工作并曾在Anthropic工作的Neel Nanda。三位以推进人工智能领域而闻名的著名计算机科学家也支持了这封信:杰弗里·辛顿、约舒亚·本吉奥和斯图尔特·拉塞尔。OpenAI的一位发言人告诉CNBC:“鉴于这项技术的重要性,我们同意严格的辩论至关重要,我们将继续与世界各地的政府、民间社会和其他社区接触。”他补充道,该公司有一条匿名的诚信热线,以及一个由董事会成员和OpenAI领导人领导的安全保障委员会。微软拒绝置评。

OpenAI争议愈演愈烈

上个月,OpenAI放弃了一项有争议的决定,即让前员工在签署一份永远不会到期的非贬损协议和保留他们在公司的既得利益之间做出选择。美国消费者新闻与商业频道(CNBC)看到了这份内部备忘录,这份备忘录发给了前员工,并与现任员工分享。这份发给每位前员工的备忘录称,在该人离开OpenAI时,“你可能已经被告知,为了保留(股权)授予单位,你必须签署一份包括非贬损条款的一般释放协议。”OpenAI发言人当时告诉CNBC:“我们非常抱歉,我们现在只是改变了这种语言;它没有反映我们的价值观或我们想要成为的公司。”。一位知情人士当时向CNBC证实,周二的公开信也是在OpenAI上个月决定解散其专注于人工智能长期风险的团队一年后发出的。这位不愿透露姓名的人士表示,一些团队成员正在被重新分配到公司内的多个其他团队。该团队解散之前,团队领导人,OpenAI联合创始人Ilya Sutskever和Jan Leike上个月宣布离开这家初创公司。莱克在X上的一篇帖子中写道,OpenAI的“安全文化和流程已经落后于闪亮的产品。” 俄罗斯-以色列-加拿大计算机科学家、OpenAI联合创始人兼首席科学家Ilya Sutskever于2023年6月5日在特拉维夫特拉维夫大学发表演讲。Jack Guez |法新社|盖蒂图片社 首席执行官Sam Altman在X上表示,他很难过看到Leike离开,公司还有更多的工作要做。不久之后,OpenAI联合创始人Greg Brockman在X上发布了一份归因于他和Altman的声明,声称公司“提高了对AGI风险和机遇的认识,以便世界能够更好地为其做好准备。”安全、监测、准备、安全和社会影响。他写道:“这些问题很难解决,我担心我们没有走上解决的轨道。”。“在过去的几个月里,我的团队一直在逆风航行。有时我们在为(计算资源)而奋斗,完成这项关键研究变得越来越困难。”莱克补充道,OpenAI必须成为一家“安全第一的AGI公司”。“OpenAI代表全人类肩负着巨大的责任。但在过去的几年里,安全文化和流程已经被闪亮的产品所取代。”在OpenAI经历了涉及奥特曼的领导危机几个月后,这些高调的离职事件发生了。11月,OpenAI董事会罢免了奥特曼,并在一份声明中表示,奥特曼“在与董事会的沟通中一直不坦诚”。这个问题似乎一天比一天复杂,《华尔街日报》和其他媒体报道称,Sutskever将注意力集中在确保人工智能不会伤害人类上,而包括奥特曼在内的其他人则更渴望推进新技术的交付。奥特曼的下台引发了辞职或辞职威胁,包括一封由OpenAI几乎所有员工签署的公开信,以及包括微软在内的投资者的骚动。不到一周,奥特曼就回到了公司,投票罢免奥特曼的董事会成员海伦·托纳、塔莎·麦考利和伊利亚·萨斯克弗也退出了公司。Sutskever当时仍在工作,但不再担任董事会成员。亚当·德安杰洛(Adam D'Angelo)也投票罢免了奥特曼,他仍然留在董事会。 美国女演员斯嘉丽·约翰逊出席2023年戛纳电影节。电影《小行星城》的照片。戛纳(法国),2023年5月24日蒙达多里作品集|蒙达多里斯作品集|盖蒂图片社 与此同时,上个月,OpenAI推出了新的人工智能模型和桌面版ChatGPT,以及更新的用户界面和音频功能,这是该公司扩大其流行聊天机器人使用范围的最新举措。在OpenAI推出一系列音频语音一周后,该公司宣布将撤下一款名为“Sky”的病毒聊天机器人的语音。“Sky“因与人工智能电影《她》中女演员斯嘉丽·约翰逊的声音相似而引发争议。这位好莱坞明星声称,OpenAI剽窃了她的声音,尽管她拒绝让他们使用。

最新 更多 >
  • 1 卖空机会,因为这种加密货币的融资率很高

    迷因币狂热又回到了加密货币市场,像PEPE这样的加密货币显示出被高估的信号。这可能预示着卖空机会,正如开放利率上升和高融资利率所暗示的那样。 此前,模因币的繁荣标志着当地的最高点,随后的市场崩盘奖励了这些加密货币卖空者。如果类似的模式出现,尽管有影响力的人进行了积极的社会活动,但这一资产类别仍有再次遭受打击的危险。 截至本文撰写之时,PEPE有6.4485亿美元的未清利息,在CoinGlass排名

  • 2 CertiK推出新的区块链计划-最新加密货币新闻

    在加密货币市场的一个重大发展中,区块链安全解决方案领域的知名实体CertiK推出了一项名为CertiK Ventures的新举措。该合资企业旨在通过专注于促进安全项目、参与风险投资(VC)回合和建立生态系统合作伙伴关系来支持新兴的链上平台。 内容隐藏1为什么CertiK Ventures很重要?2 CertiK在Web3中的作用是什么?CertiK Ventures的3个关键收获 为什么Cert

  • 3 欧洲比特币交易所今年损失5亿美元

    在以美国竞争对手的形式在海外竞争加剧后,欧洲比特币交易所交易产品今年损失惨重。 晨星公司的数据显示,自1月份以来,欧洲比特币基金已遭受超过5亿美元的净流出,尽管在此期间对比特币本身的需求不断上升。 为什么欧洲的比特币交易所买卖基金会失去客户? 在同一时期,以太币等其他加密货币的ETP在该地区吸收了4200万美元,趋势相反,但几乎没有弥补比特币相关的损失。 WisdomTree量化研究和多资产解决方

  • 4 MoonBag在2024年6月成为最佳加密货币预售,将Dogeverse和Ripple抛在身后!

    你想知道加密货币的热门话题是什么吗?这是因为即使是房地产和共同基金等传统业务也无法与加密货币的潜力竞争。证据在于MoonBag等模因币的早期成功,它们提供了无与伦比的增长机会和高回报。难怪它卖得很快,让Dogeverse和Ripple等其他顶级竞争者排在了后面。 目前,MoonBag是2024年6月最好的加密货币预售,吸引了每一位投资者的注意力。一开始只是一个迷因,现在在一段时间内筹集了约100

  • 5 SimpleSwap推出交易竞赛,奖金为12000美元

    【新闻稿——开曼群岛乔治镇,2024年5月31日】 SimpleSwap是一家即时加密货币交易所,很高兴宣布其新的交易大赛开始。该平台提供了一个通过交换加密货币来争夺12000美元奖金池份额的机会。这次活动的独特之处在于,这项服务有很多硬币可供选择。用户可以在1800多种资产中选择自己喜欢的资产,并通过交换来参加比赛。 比赛详细信息 交易比赛是由SimpleSwap等加密货币交易平台组织的比赛。参

  • 6 BlockDAG的3930万美元预售为2025年10美元的预测奠定了基础,超过了BNB Bullish和Ethena(ENA)的价格趋势

    以太坊现货ETF获批后,Ethena(ENA)最近的飙升和币安币(BNB)的看涨势头吸引了投资者的注意力。然而,由于其卓越的预售成功,BlockDAG正在成为加密货币世界的下一个大品牌。 BlockDAG筹集了3930万美元,出售了超过105亿枚硬币,其目标是到2025年达到10美元的价格。与BNB和ENA不同,BlockDAG的先进技术和定期开发发布推动了其快速增长,使其成为一个绝佳的投资机会。

  • 7 ARB与OP——哪一个L2的5月份表现最好?

    Blast抢了风头,因为它在增长方面排名第一。上个月,ARB的价格上涨了8%,而OP在短短30天内下跌了10%以上 在过去的几个月里,第二层越来越受欢迎,它们的增长导致以太坊的网络使用率下降。五月份主要L2的表现也是最近一份报告的主题。考虑到他们最近的表现,值得更仔细地观察他们的表现。 哪一个L2处于领先地位? Coin98最近分享了一份分析,重点介绍了市场顶级L2的表现。同样,Optimism[

  • 8 Ripple首席执行官质疑Dogecoin对加密货币行业的价值

    Ripple首席执行官Brad Garlinghouse再次对Dogecoin持批评态度,声称他不认为DOGE对加密货币行业有益。 加林豪斯在2024年共识会议上批评了市值最大的模因币。在评论加密货币行业的10年前景时,他强调市场需要超越投机而成熟。 “不确定狗狗币是加密货币的好东西” 在此基础上,Ripple首席执行官以狗狗币为例,狗狗币是一种受模因启发的加密货币,估值超过232.2亿美元。尽管

  • 9 ConsensSys支持的Linea猛烈抨击物质实验室对“零知识”技术的权力争夺

    ConsensSys支持的第二层网络Linea支持StarkWare的声明,谴责Matter Labs试图在九个国家注册“零知识”(ZK)一词。 zkSync背后的实体Matter Labs旨在对这一基础加密概念行使独家控制权,这引发了整个行业的愤怒。值得注意的是,Matter Labs还寻求在交易所注册一种股票代码为“ZK”的代币,以进一步推动他们对自己没有创建的技术的主张。 Linea支持St

  • 10 寻找下一个加密货币繁荣:Pepe成为焦点

    介绍