OpenAI现任和前任员工警告人工智能的“严重风险”和缺乏监督

时间:2024-09-20 编辑: 浏览:(791)

在这篇文章中MSFT关注你最喜欢的股票REATE FREE ACCOUNT 2024年5月21日,OpenAI首席执行官Sam Altman在华盛顿州雷德蒙德的微软总部举行的微软Build会议上发表讲话。Jason Redmond |法新社|盖蒂图片社 周二,一群现任和前任OpenAI员工发表了一封公开信,描述了人们对人工智能行业快速发展的担忧,尽管缺乏监督,也没有为那些希望发声的人提供举报人保护。员工们在公开信中写道:“人工智能公司有强大的财务激励机制来避免有效的监督,我们认为定制的公司治理结构不足以改变这一点。”。OpenAI、谷歌、微软、Meta和其他公司正在主导一场生成性人工智能军备竞赛——预计该市场的收入将在十年内突破1万亿美元——似乎每个行业的公司都急于增加人工智能聊天机器人和代理,以避免被竞争对手甩在后面。现任和前任员工写道,人工智能公司拥有“大量非公开信息”,关于他们的技术可以做什么,他们采取的安全措施的程度,以及技术对不同类型伤害的风险水平。他们写道:“我们也理解这些技术带来的严重风险。签署方写道:“广泛的保密协议阻止我们表达我们的担忧,除了那些可能未能解决这些问题的公司。”。“普通的举报人保护是不够的,因为他们专注于非法活动,而我们担心的许多风险尚未受到监管。”信中要求人工智能公司承诺不签订或执行非贬损协议;为现任和前任员工创建匿名流程,向公司董事会、监管机构和其他机构表达担忧;支持公开批评的文化;如果内部报告程序失败,则不得对公开举报进行报复。四名匿名的OpenAI员工和七名前员工签署了这封信,其中包括Daniel Kokotajlo、Jacob Hilton、William Saunders、Carroll Wainwright和Daniel Ziegler。签名者还包括曾在谷歌DeepMind工作的Ramana Kumar和目前在谷歌Deep Mind工作并曾在Anthropic工作的Neel Nanda。三位以推进人工智能领域而闻名的著名计算机科学家也支持了这封信:杰弗里·辛顿、约舒亚·本吉奥和斯图尔特·拉塞尔。OpenAI的一位发言人告诉CNBC:“鉴于这项技术的重要性,我们同意严格的辩论至关重要,我们将继续与世界各地的政府、民间社会和其他社区接触。”他补充道,该公司有一条匿名的诚信热线,以及一个由董事会成员和OpenAI领导人领导的安全保障委员会。微软拒绝置评。

OpenAI争议愈演愈烈

上个月,OpenAI放弃了一项有争议的决定,即让前员工在签署一份永远不会到期的非贬损协议和保留他们在公司的既得利益之间做出选择。美国消费者新闻与商业频道(CNBC)看到了这份内部备忘录,这份备忘录发给了前员工,并与现任员工分享。这份发给每位前员工的备忘录称,在该人离开OpenAI时,“你可能已经被告知,为了保留(股权)授予单位,你必须签署一份包括非贬损条款的一般释放协议。”OpenAI发言人当时告诉CNBC:“我们非常抱歉,我们现在只是改变了这种语言;它没有反映我们的价值观或我们想要成为的公司。”。一位知情人士当时向CNBC证实,周二的公开信也是在OpenAI上个月决定解散其专注于人工智能长期风险的团队一年后发出的。这位不愿透露姓名的人士表示,一些团队成员正在被重新分配到公司内的多个其他团队。该团队解散之前,团队领导人,OpenAI联合创始人Ilya Sutskever和Jan Leike上个月宣布离开这家初创公司。莱克在X上的一篇帖子中写道,OpenAI的“安全文化和流程已经落后于闪亮的产品。” 俄罗斯-以色列-加拿大计算机科学家、OpenAI联合创始人兼首席科学家Ilya Sutskever于2023年6月5日在特拉维夫特拉维夫大学发表演讲。Jack Guez |法新社|盖蒂图片社 首席执行官Sam Altman在X上表示,他很难过看到Leike离开,公司还有更多的工作要做。不久之后,OpenAI联合创始人Greg Brockman在X上发布了一份归因于他和Altman的声明,声称公司“提高了对AGI风险和机遇的认识,以便世界能够更好地为其做好准备。”安全、监测、准备、安全和社会影响。他写道:“这些问题很难解决,我担心我们没有走上解决的轨道。”。“在过去的几个月里,我的团队一直在逆风航行。有时我们在为(计算资源)而奋斗,完成这项关键研究变得越来越困难。”莱克补充道,OpenAI必须成为一家“安全第一的AGI公司”。“OpenAI代表全人类肩负着巨大的责任。但在过去的几年里,安全文化和流程已经被闪亮的产品所取代。”在OpenAI经历了涉及奥特曼的领导危机几个月后,这些高调的离职事件发生了。11月,OpenAI董事会罢免了奥特曼,并在一份声明中表示,奥特曼“在与董事会的沟通中一直不坦诚”。这个问题似乎一天比一天复杂,《华尔街日报》和其他媒体报道称,Sutskever将注意力集中在确保人工智能不会伤害人类上,而包括奥特曼在内的其他人则更渴望推进新技术的交付。奥特曼的下台引发了辞职或辞职威胁,包括一封由OpenAI几乎所有员工签署的公开信,以及包括微软在内的投资者的骚动。不到一周,奥特曼就回到了公司,投票罢免奥特曼的董事会成员海伦·托纳、塔莎·麦考利和伊利亚·萨斯克弗也退出了公司。Sutskever当时仍在工作,但不再担任董事会成员。亚当·德安杰洛(Adam D'Angelo)也投票罢免了奥特曼,他仍然留在董事会。 美国女演员斯嘉丽·约翰逊出席2023年戛纳电影节。电影《小行星城》的照片。戛纳(法国),2023年5月24日蒙达多里作品集|蒙达多里斯作品集|盖蒂图片社 与此同时,上个月,OpenAI推出了新的人工智能模型和桌面版ChatGPT,以及更新的用户界面和音频功能,这是该公司扩大其流行聊天机器人使用范围的最新举措。在OpenAI推出一系列音频语音一周后,该公司宣布将撤下一款名为“Sky”的病毒聊天机器人的语音。“Sky“因与人工智能电影《她》中女演员斯嘉丽·约翰逊的声音相似而引发争议。这位好莱坞明星声称,OpenAI剽窃了她的声音,尽管她拒绝让他们使用。

最新 更多 >
  • 1 Tether报告2024年上半年创纪录的利润为52亿美元

    Tether发布了2024年第二季度的保证意见,显示2024年上半年创纪录的利润为52亿美元。USDT稳定币发行商透露,2024年第二季度是净营业利润达到13亿美元的重要里程碑。根据Tether的说法,这是他们有史以来最好的成绩。 根据Tether的新闻稿,第二季度还显示“在直接和间接持有美国国债方面取得了前所未有的成就,超过976亿美元,创下历史新高”。考虑到BTC价格的下跌,Tether的集

  • 2 Arco接受Apple Pay吗?

    你的指南:Arco接受Apple Pay吗? 现在我们生活在一个数字世界,我们以一种非常不同的方式支付东西。越来越多的人使用数字支付方式而不是现金来支付东西。其中之一是Apple Pay,它快速、安全、易于使用。 你有没有想过,“Arco接受Apple Pay吗?”如果是这样,你很幸运。今天,我们将回答这个问题以及更多问题。继续阅读以了解更多。 另请阅读:美元对金砖国家货币造成重大打击

  • 3 高盛首席执行官表示,比特币可以将黄金作为“价值储存”

    在讨论领先的加密货币时,高盛首席执行官David Solomon表示,比特币可以类似于黄金,因为它是一种“价值储存”。事实上,这家投资银行的负责人最近在法国夏季奥运会期间接受了CNBC的现场采访。在那里,他谈到了BTC和他对代币的立场。 这些评论发表之际,比特币在关于其作为储备资产的潜力的讨论中占据了主导地位。唐纳德·特朗普承诺,如果他在11月再次当选,将使用加密货币作为战略储备。此外,美国参议员

  • 4 美国政府被告知通过链上题词“冻结”20亿美元被扣押的比特币

    在周末反弹接近7万美元后,比特币暴跌近5%,因为有消息称,价值超过20亿美元的美国政府控制的资金突然开始流动。 然而,正如区块链分析平台Arkham Intelligence所指出的那样,一位用户主动将链上请求直接存入政府的钱包,敦促他们“冻结”资金,而不是将BTC抛售到市场上。 阅读更多:德国政府通过比特币铭文告诉“税收是抢劫” 阿卡姆的地址被标记为“美国政府:丝绸之路司法部没收资金(bc1q

  • 5 以太坊正在跟随比特币的轨迹,但累计ETF流出近5亿美元

    投资者不能错过以太坊ETF获得批准后,以太坊当前价格走势与比特币之间的相似之处。加密货币评论员Croissant指出,比特币在ETF获得批准后立即下跌,但几个月后价格飙升。 一周前,美国证券交易委员会(SEC)批准了9只以太坊ETF的交易。7月23日交易开始后,Grayscale的ETHE基金对整体市场造成了压力。相反,资产管理公司的ETH基金的表现与其他参与者一致。随着以太坊ETF进入第2周的交

  • 6 XRP飙升至4个月高点:多久能达到1美元?

    XRP代币在周中的价格走势中领先于大盘山寨币。属于“鲨鱼”和“鲸鱼”XRP持有者的钱包在过去五周内有所增加。 Ripple[XRP]价格在7月31日上涨了近10%,交易价格高达0.657美元,尽管当时大多数山寨币都呈红色。 孤立的价格上涨使以支付为重点的代币达到了自3月25日以来的最高价格,从而使美元硬币在市场资本中排名第六。 在美国证券交易委员会(SEC)对币安及其美国子公司的投诉进行修正后,周

  • 7 比特币的主导地位创下三年新高,但分析师表示,Alts已做好反弹的准备

    比特币现在是加密货币市场上最具主导地位的力量,超过了加密货币市场总量的53%,比三年来的任何时候都要强大。 根据CoinGecko的数据,比特币的市值目前为1.27万亿美元。相比之下,加密货币的总市值为2.43万亿美元,以太坊占据了15.9%的市场份额,价值3890亿美元。 今年比特币主导地位的上升是不寻常的,因为在牛市环境中,山寨币通常比比特币更繁荣。尽管在今年早些时候比特币飙升至历史新高期间,

  • 8 以太坊价格分析:以太坊跌至3300美元,但更多痛苦迫在眉睫?

    以太坊的价格目前被困在一个非常狭窄的区间内,以3364美元的100天移动平均线和3212美元的200天移动平均线上为界。 突破这一范围将决定其即将到来的轨迹。 技术分析 作者:Shayan 每日图表 仔细检查以太坊的日线图可以发现,在关键的3.5万美元阻力区附近被拒绝后,价格暴跌至一个实质性的支撑区。 这一关键支撑包括3212美元的200天移动平均线,为以太坊买家提供了强有力的防线。然而,价格被限

  • 9 投资者Chris Burniske公布了“保守”的Solana价格目标,称SOL“病毒”传播即将到来

    风险投资家Chris Burniske认为,Solana(SOL)在这个市场周期内可以飙升至四位数的价格。 ARK Invest告诉在社交媒体平台X上告诉他的296900名粉丝,索拉纳1000美元的牛市目标可能是“保守的” Burniske对Solana的巨额目标价是在他在X上进行的一项民意调查显示,该平台上的投资者增持SOL。本周早些时候,Burniske问他的追随者,他们最大的持股是什么:比特

  • 10 充满希望的总统罗伯特·肯尼迪表示,他的政府将吞噬400万比特币

    独立总统候选人罗伯特·F·肯尼迪希望美国政府购买并持有比特币(BTC)作为“战略资产” 肯尼迪表示,如果当选,他将在上任的第一天签署一项行政命令,指示美国司法部(DOJ)和法警局将其持有的约20万比特币移交给财政部持有。 他还表示,他将指示政府购买更多比特币。 “在担任总统的第一天,我将签署另一项行政命令,指示美国财政部每天购买550个比特币,直到美国建立了至少400万个比特币的储备和其他国家无法