OpenAI现任和前任员工警告人工智能的“严重风险”和缺乏监督

在这篇文章中MSFT关注你最喜欢的股票REATE FREE ACCOUNT 2024年5月21日，OpenAI首席执行官Sam Altman在华盛顿州雷德蒙德的微软总部举行的微软Build会议上发表讲话。Jason Redmond |法新社|盖蒂图片社 周二，一群现任和前任OpenAI员工发表了一封公开信，描述了人们对人工智能行业快速发展的担忧，尽管缺乏监督，也没有为那些希望发声的人提供举报人保护。员工们在公开信中写道：“人工智能公司有强大的财务激励机制来避免有效的监督，我们认为定制的公司治理结构不足以改变这一点。”。OpenAI、谷歌、微软、Meta和其他公司正在主导一场生成性人工智能军备竞赛——预计该市场的收入将在十年内突破1万亿美元——似乎每个行业的公司都急于增加人工智能聊天机器人和代理，以避免被竞争对手甩在后面。现任和前任员工写道，人工智能公司拥有“大量非公开信息”，关于他们的技术可以做什么，他们采取的安全措施的程度，以及技术对不同类型伤害的风险水平。他们写道：“我们也理解这些技术带来的严重风险。签署方写道：“广泛的保密协议阻止我们表达我们的担忧，除了那些可能未能解决这些问题的公司。”。“普通的举报人保护是不够的，因为他们专注于非法活动，而我们担心的许多风险尚未受到监管。”信中要求人工智能公司承诺不签订或执行非贬损协议；为现任和前任员工创建匿名流程，向公司董事会、监管机构和其他机构表达担忧；支持公开批评的文化；如果内部报告程序失败，则不得对公开举报进行报复。四名匿名的OpenAI员工和七名前员工签署了这封信，其中包括Daniel Kokotajlo、Jacob Hilton、William Saunders、Carroll Wainwright和Daniel Ziegler。签名者还包括曾在谷歌DeepMind工作的Ramana Kumar和目前在谷歌Deep Mind工作并曾在Anthropic工作的Neel Nanda。三位以推进人工智能领域而闻名的著名计算机科学家也支持了这封信：杰弗里·辛顿、约舒亚·本吉奥和斯图尔特·拉塞尔。OpenAI的一位发言人告诉CNBC：“鉴于这项技术的重要性，我们同意严格的辩论至关重要，我们将继续与世界各地的政府、民间社会和其他社区接触。”他补充道，该公司有一条匿名的诚信热线，以及一个由董事会成员和OpenAI领导人领导的安全保障委员会。微软拒绝置评。

OpenAI争议愈演愈烈

上个月，OpenAI放弃了一项有争议的决定，即让前员工在签署一份永远不会到期的非贬损协议和保留他们在公司的既得利益之间做出选择。美国消费者新闻与商业频道（CNBC）看到了这份内部备忘录，这份备忘录发给了前员工，并与现任员工分享。这份发给每位前员工的备忘录称，在该人离开OpenAI时，“你可能已经被告知，为了保留（股权）授予单位，你必须签署一份包括非贬损条款的一般释放协议。”OpenAI发言人当时告诉CNBC：“我们非常抱歉，我们现在只是改变了这种语言；它没有反映我们的价值观或我们想要成为的公司。”。一位知情人士当时向CNBC证实，周二的公开信也是在OpenAI上个月决定解散其专注于人工智能长期风险的团队一年后发出的。这位不愿透露姓名的人士表示，一些团队成员正在被重新分配到公司内的多个其他团队。该团队解散之前，团队领导人，OpenAI联合创始人Ilya Sutskever和Jan Leike上个月宣布离开这家初创公司。莱克在X上的一篇帖子中写道，OpenAI的“安全文化和流程已经落后于闪亮的产品。” 俄罗斯-以色列-加拿大计算机科学家、OpenAI联合创始人兼首席科学家Ilya Sutskever于2023年6月5日在特拉维夫特拉维夫大学发表演讲。Jack Guez |法新社|盖蒂图片社 首席执行官Sam Altman在X上表示，他很难过看到Leike离开，公司还有更多的工作要做。不久之后，OpenAI联合创始人Greg Brockman在X上发布了一份归因于他和Altman的声明，声称公司“提高了对AGI风险和机遇的认识，以便世界能够更好地为其做好准备。”安全、监测、准备、安全和社会影响。他写道：“这些问题很难解决，我担心我们没有走上解决的轨道。”。“在过去的几个月里，我的团队一直在逆风航行。有时我们在为（计算资源）而奋斗，完成这项关键研究变得越来越困难。”莱克补充道，OpenAI必须成为一家“安全第一的AGI公司”。“OpenAI代表全人类肩负着巨大的责任。但在过去的几年里，安全文化和流程已经被闪亮的产品所取代。”在OpenAI经历了涉及奥特曼的领导危机几个月后，这些高调的离职事件发生了。11月，OpenAI董事会罢免了奥特曼，并在一份声明中表示，奥特曼“在与董事会的沟通中一直不坦诚”。这个问题似乎一天比一天复杂，《华尔街日报》和其他媒体报道称，Sutskever将注意力集中在确保人工智能不会伤害人类上，而包括奥特曼在内的其他人则更渴望推进新技术的交付。奥特曼的下台引发了辞职或辞职威胁，包括一封由OpenAI几乎所有员工签署的公开信，以及包括微软在内的投资者的骚动。不到一周，奥特曼就回到了公司，投票罢免奥特曼的董事会成员海伦·托纳、塔莎·麦考利和伊利亚·萨斯克弗也退出了公司。Sutskever当时仍在工作，但不再担任董事会成员。亚当·德安杰洛（Adam D'Angelo）也投票罢免了奥特曼，他仍然留在董事会。 美国女演员斯嘉丽·约翰逊出席2023年戛纳电影节。电影《小行星城》的照片。戛纳（法国），2023年5月24日蒙达多里作品集|蒙达多里斯作品集|盖蒂图片社 与此同时，上个月，OpenAI推出了新的人工智能模型和桌面版ChatGPT，以及更新的用户界面和音频功能，这是该公司扩大其流行聊天机器人使用范围的最新举措。在OpenAI推出一系列音频语音一周后，该公司宣布将撤下一款名为“Sky”的病毒聊天机器人的语音。“Sky“因与人工智能电影《她》中女演员斯嘉丽·约翰逊的声音相似而引发争议。这位好莱坞明星声称，OpenAI剽窃了她的声音，尽管她拒绝让他们使用。