萨姆·奥特曼加入新团队,

开放AI公司公布了一份新的"安全与安全委员会",该委员会将确保该公司的先进人工智能系统以安全和安全的方式设计和建造. 公司的首席执行官Sam Altman是委员会领导人之一,尽管开放AI的总体指导越来越受到指责.

在OpenAI与好莱女演员斯卡莱特·约翰森交往后不到一周宣布,该委员会有效地重现了OpenAI的"超级配套"团队的角色,旨在确保该公司保持其创始人人道主义愿景.该团队在一些最著名的专家离开后解散,包括Jan Leike,他与OpenAI联合创始人伊利亚·苏茨克弗一起离开了公司,因为说该团队"一直在与风相反".

莱克宣布他将加入OpenAI竞争者Anthropic,这是由前OpenAI研究人员丹妮拉和达里奥·阿莫迪和其他前OpenAI工作者创立的,

委员会被指派评估和加强OpenAI的安全和安全流程.他们将在90天内向全局提出他们的建议,OpenAI表示将对通过的建议提供公开更新.

对于这项新委员会来说,它可以有效地减轻风险,因为该公司的首席执行官在领导层中.该委员会成员是谁,他们是否有AI安全和安全方面的经验?

排列不当

去年,奥尔特曼被公司董事会短暂地取消了CEO职务,因为公司董事会指控缺乏透明度和对他的领导层失去信心.然而,在员工明显的反抗和投资者的压力之后,奥尔特曼迅速恢复职务.这导致了三名董事会成员的离职,包括苏茨克维尔,他们最初投票支持他的解雇.

随着奥尔特曼的团队重新组建,该公司已经明显转向更为企业化的利驱动方式,远离OpenAI的最初使命,确保人工智能惠于所有人类,这意味着既构建安全和有益的AGI,又帮助创造广泛分布的利益.去年有争议的举措包括与五角大楼达成潜在的军事应用协议,启动第三方聊天机器人市场,甚至探索成年人内容的生成.

公司"超级对齐"团队的解散,致力于减轻与AGI相关的长期风险,引起了特别强烈的关注.该团队的联合创始人Sutskever和Leike在本月早些时候推出GPT-4o后辞职,Leike指责OpenAI放弃了对人工智能安全的承诺,支持"闪亮的产品".

加入新的安全委员会, 旨在恢复对OpenAI的流程和保障措施的信心.

遇见新的警卫

除了阿尔特曼,新委员会还由个人领导,他们作为首席执行官对他持明确的忠诚态度:布雷特·泰勒 (Bret Taylor) 被任命为阿尔特曼回归时的OpenAI董事会成员,以及阿德·德安吉洛 (Adam DAngelo),他是支持阿尔特曼并在他回归后留在董事会的OpenAI董事会成员.在上层层的层次上,是尼科尔·塞利格曼 (Nicole Seligman),一位知名的公司律师,曾代表伊朗-康特拉听证会期间的中校奥利弗·诺斯 (Oliver North) 和美国前总统比尔·克林顿 (Bill Clinton) 在他的弹审判期间.

其他委员会由负责确保OpenAI产品保持任务一致的研究人员组成.以下是其成员中的一些人,其中大多数人在短暂的台期间公开支持奥尔特曼:

亚历山大·马德里 (Alexander Madry) 是OpenAI的准备部负责人,也是麻省理工学院教授,他专注于让人工智能在他的研究中更可靠和安全.当阿尔特曼 (Altman) 发推文表示辞职时,马德里分享了标志性的心情符号,以支持他,然后发推文庆祝他的回归,并写出了回来的短语.

利利安·温格是OpenAI安全系统负责人,在机器学习和深度学习方面有经验.温格于2018年2月加入OpenAI作为研究科学家.2021年1月,温格晋升为OpenAI应用人工智能研究负责人,并在2023年6月,温格被任命为OpenAI安全系统负责人.

她还发推文支持奥尔特曼的回归, 并分享了"OpenAI没有人就什么都不是", 这在奥尔特曼运动期间变得非常受欢迎,

开放AI的联合创始人兼ChatGPT开发的首席架构师约翰·舒尔曼 (John Schulman) 专注于"后培训"语言模型,这涉及到对模型的行为进行精细调整,以满足特定任务.这种方法与强化学习相结合,使ChatGPT能够产生更类似人类的和上下文合适的反应.舒尔曼还在短暂的离职期间公开支持奥尔特曼.

开放AI安全负责人Matt Knight在安全工程方面有经验,也是DARPA的"频谱协作挑战"的最终选手Agitator的联合创始人.

帕乔基 (Jakub Pachocki) 是OpenAI首席科学家,他被任命替代Sutskever,自2017年以来一直在公司工作.帕乔基专注于大规模强化学习和深度学习优化.他为了团结萨姆·奥尔特曼辞职,当他被重新聘请后,他与他一起返回公司.

我看着那些守望者,

在最近的错误中,OpenAI宣布成立新的安全委员会,以缓解对其对安全AGI研究和开发的积极追求AI的担忧,但超出该团队明显的专业知识之外,事情可能会为利益冲突开辟道路.毕竟,由该团队领导的个人如何有效保护潜在的改变世界技术的发展?

对于这项技术的使用者来说,

Sam Altman (OpenAI董事会成员) 任命自己为安全和安全委员会成员,以标志自己作为Sam Altman (CEO) 的家庭作业,

士福克斯,请请您为我看看这个屋.

OpenAI刚刚创建了一个监督委员会,由其自己的高管和奥尔特曼自己组成,技术记者兼作家帕米·奥尔森 (Parmy Olson) 总结道.

只有在8月底该组织向包括阿尔特曼在内的主要董事会提交报告后,新委员会最终的有效性以及它是否能帮助OpenAI恢复公众对其关心和谨慎的信任才会清楚.