萨姆·奥特曼加入新团队,

时间:2024-09-21 编辑: 浏览:(279)

开放AI公司公布了一份新的"安全与安全委员会",该委员会将确保该公司的先进人工智能系统以安全和安全的方式设计和建造. 公司的首席执行官Sam Altman是委员会领导人之一,尽管开放AI的总体指导越来越受到指责.

在OpenAI与好莱女演员斯卡莱特·约翰森交往后不到一周宣布,该委员会有效地重现了OpenAI的"超级配套"团队的角色,旨在确保该公司保持其创始人人道主义愿景.该团队在一些最著名的专家离开后解散,包括Jan Leike,他与OpenAI联合创始人伊利亚·苏茨克弗一起离开了公司,因为说该团队"一直在与风相反".

莱克宣布他将加入OpenAI竞争者Anthropic,这是由前OpenAI研究人员丹妮拉和达里奥·阿莫迪和其他前OpenAI工作者创立的,

委员会被指派评估和加强OpenAI的安全和安全流程.他们将在90天内向全局提出他们的建议,OpenAI表示将对通过的建议提供公开更新.

对于这项新委员会来说,它可以有效地减轻风险,因为该公司的首席执行官在领导层中.该委员会成员是谁,他们是否有AI安全和安全方面的经验?

排列不当

去年,奥尔特曼被公司董事会短暂地取消了CEO职务,因为公司董事会指控缺乏透明度和对他的领导层失去信心.然而,在员工明显的反抗和投资者的压力之后,奥尔特曼迅速恢复职务.这导致了三名董事会成员的离职,包括苏茨克维尔,他们最初投票支持他的解雇.

随着奥尔特曼的团队重新组建,该公司已经明显转向更为企业化的利驱动方式,远离OpenAI的最初使命,确保人工智能惠于所有人类,这意味着既构建安全和有益的AGI,又帮助创造广泛分布的利益.去年有争议的举措包括与五角大楼达成潜在的军事应用协议,启动第三方聊天机器人市场,甚至探索成年人内容的生成.

公司"超级对齐"团队的解散,致力于减轻与AGI相关的长期风险,引起了特别强烈的关注.该团队的联合创始人Sutskever和Leike在本月早些时候推出GPT-4o后辞职,Leike指责OpenAI放弃了对人工智能安全的承诺,支持"闪亮的产品".

加入新的安全委员会, 旨在恢复对OpenAI的流程和保障措施的信心.

遇见新的警卫

除了阿尔特曼,新委员会还由个人领导,他们作为首席执行官对他持明确的忠诚态度:布雷特·泰勒 (Bret Taylor) 被任命为阿尔特曼回归时的OpenAI董事会成员,以及阿德·德安吉洛 (Adam DAngelo),他是支持阿尔特曼并在他回归后留在董事会的OpenAI董事会成员.在上层层的层次上,是尼科尔·塞利格曼 (Nicole Seligman),一位知名的公司律师,曾代表伊朗-康特拉听证会期间的中校奥利弗·诺斯 (Oliver North) 和美国前总统比尔·克林顿 (Bill Clinton) 在他的弹审判期间.

其他委员会由负责确保OpenAI产品保持任务一致的研究人员组成.以下是其成员中的一些人,其中大多数人在短暂的台期间公开支持奥尔特曼:

亚历山大·马德里 (Alexander Madry) 是OpenAI的准备部负责人,也是麻省理工学院教授,他专注于让人工智能在他的研究中更可靠和安全.当阿尔特曼 (Altman) 发推文表示辞职时,马德里分享了标志性的心情符号,以支持他,然后发推文庆祝他的回归,并写出了回来的短语.

利利安·温格是OpenAI安全系统负责人,在机器学习和深度学习方面有经验.温格于2018年2月加入OpenAI作为研究科学家.2021年1月,温格晋升为OpenAI应用人工智能研究负责人,并在2023年6月,温格被任命为OpenAI安全系统负责人.

她还发推文支持奥尔特曼的回归, 并分享了"OpenAI没有人就什么都不是", 这在奥尔特曼运动期间变得非常受欢迎,

开放AI的联合创始人兼ChatGPT开发的首席架构师约翰·舒尔曼 (John Schulman) 专注于"后培训"语言模型,这涉及到对模型的行为进行精细调整,以满足特定任务.这种方法与强化学习相结合,使ChatGPT能够产生更类似人类的和上下文合适的反应.舒尔曼还在短暂的离职期间公开支持奥尔特曼.

开放AI安全负责人Matt Knight在安全工程方面有经验,也是DARPA的"频谱协作挑战"的最终选手Agitator的联合创始人.

帕乔基 (Jakub Pachocki) 是OpenAI首席科学家,他被任命替代Sutskever,自2017年以来一直在公司工作.帕乔基专注于大规模强化学习和深度学习优化.他为了团结萨姆·奥尔特曼辞职,当他被重新聘请后,他与他一起返回公司.

我看着那些守望者,

在最近的错误中,OpenAI宣布成立新的安全委员会,以缓解对其对安全AGI研究和开发的积极追求AI的担忧,但超出该团队明显的专业知识之外,事情可能会为利益冲突开辟道路.毕竟,由该团队领导的个人如何有效保护潜在的改变世界技术的发展?

对于这项技术的使用者来说,

Sam Altman (OpenAI董事会成员) 任命自己为安全和安全委员会成员,以标志自己作为Sam Altman (CEO) 的家庭作业,

士福克斯,请请您为我看看这个屋.

OpenAI刚刚创建了一个监督委员会,由其自己的高管和奥尔特曼自己组成,技术记者兼作家帕米·奥尔森 (Parmy Olson) 总结道.

只有在8月底该组织向包括阿尔特曼在内的主要董事会提交报告后,新委员会最终的有效性以及它是否能帮助OpenAI恢复公众对其关心和谨慎的信任才会清楚.

最新 更多 >
  • 1 Layer Ones,Memecoins在市场复苏中显示出显著的实力

    在最近的市场调整之后,如GMMEME和GML1指数所示,memecoin和Layer One板块在最近的缓解反弹中脱颖而出,表现出显著的弹性。 特别是Sui,其价格在过去7天内上涨了近100%,领先于Layer 1板块的表现,而PEPE和WIF等模因币推动了GMMEME的回报。 Sui最近的强势可能归因于即将到来的Mysticeti升级,而对memecoins的重新兴趣通常反映了市场参与者对

  • 2 TON的价格再度攀升、将达到9美元吗?

    Toncoin 是一种与 Telegram 网络密切相关的加密货币,其价格大幅上涨,周一美国交易时段上涨 4.2%,达到 6.47 美元。此次上涨标志着新一周的看涨开局,暗示市场潜在的稳定,因为包括 Toncoin 在内的山寨币试图挽回 7 月调整期间遭受的损失。尽管比特币仍在努力突破 60,000 美元的阻力位,但在主要交易所近期上市以及链上活动大幅增加的推动下,Toncoin 正在呈现强劲增长

  • 3 BTC价格未能收回6万美元,WIF每日下跌5%(市场观察)

    比特币的价格昨天接近6万美元,甚至短暂超过了它,但空头再次控制了局面,将资产推低到了这条线以下。 山寨币在日常规模上表现得异常缓慢,除了ETH和BNB之外,大多数都处于亏损状态。 BTC停在6万美元 在前一个商业周的高度波动和痛苦的开始之后,比特币开始收复最近失去的一些失地,从周一的49500美元以下跃升至周五的近63000美元。然而,它未能保持其运行,并开始逐渐失去价值。 与上一个周末相比,这个

  • 4 币安。美国因涉嫌操纵HEX价格面临新的诉讼

    美国一家上诉法院为针对币安的集体诉讼注入了新的活力。美国。三名法官允许继续审理涉嫌操纵HEX代币的案件。 根据案件摘要中的细节,美国上诉法院认定原告Ryan Cox对币安的索赔。根据《商品交易法》,美国和CoinMarketCap是有效的。一个由三名法官组成的小组现在推翻了对集体诉讼的驳回,该诉讼声称币安。据称,美国操纵了HEX代币的价格。 法院裁定其对HEX操纵案拥有管辖权 根据诉讼的最初说法,

  • 5 XRP升至8美元:分析师表示,如果你不建立多头头寸,你就搞砸了

    技术分析师“Lucky Chart Ape”认为,未能在XRP上开立多个多头头寸的市场参与者可能要怪自己。 在X最近的一篇帖子中,这位广受关注的分析师表示,投资者在未来六个月对XRP的态度可能会对他们的财务状况产生重大影响。具体而言,Lucky Chart强调,在2024年结束之前,XRP交易者可能会遇到“改变人生”的XRP回报。 因此,他警告说,那些在价格达到8美元之前最终未能为XRP开立足够长

  • 6 揭秘NFT系列Milady创始人:“邪教领袖”还是“加密文化塑造者”?

    作者: Pix 编译:Wenser,Odaily 星球日报 编者按:作为 NFT 系列 Milady 的创始人, Charlotte Fang 以其颇具争议的各类发言及多重业内身份受到了诸多关注。有人说他通过 Milady 创建了一个极具特色的 NFT 文化社区;也有人认为他是极端思想的代言人。6 月 13 日,其本人发行的 Meme 币 CULT 销售结束,最终募资 5861.8 枚 ETH ,

  • 7 新的研究表明,澳大利亚缺乏加密诈骗教育

    昆士兰大学的研究表明,在澳大利亚,对公众进行加密货币诈骗的教育应该从个人转向“值得信赖的独立来源” 该研究发现,降低加密货币诈骗风险的最有效方法是提高“可靠”来源提供的在线金融教育的质量。 该大学的研究发现,涉及资产类别的骗局影响了所有社会经济阶层的人,其有效性归结为人们根据低质量信息做出决策。 昆士兰大学副教授Levon Blue在周日的一份声明中表示,昆士兰大学认为,来自社会经济弱势背景的人和

  • 8 2024年第二季度Tron的USDT交易量达到1.25万亿美元,是Visa年交易量的三分之一

    Token Terminal的最新数据揭示了Tron区块链的一个重要里程碑,Tether(USDT)的转账量显著增长。 这一增长证明了Tron在稳定币市场的重要性日益增强,特别是与Visa等传统支付系统相比。截至2024年第二季度,Tron的USDT转账量已达到Visa年度结算量的三分之一左右,证明了区块链网络在全球金融交易中的作用不断扩大。 四年来大幅增长 Tron上USDT转账量的增长轨迹可谓

  • 9 「史上最大泡沫」即将破裂 比特币在中国还能交易吗?

    华尔街日报报道,尾部风险对冲基金Universa Investments 创办人Mark Spitznagel 曾是《黑天鹅效应》作者Nassim Nicholas Taleb 手下的首席交易员。Mark Spitznagel 的策略平时几乎每天都在亏钱,因为他采用复杂策略,只有在波动剧烈时期才能发灾难财, 例如2008 年金融海啸、2015 年闪崩、 2020 年新冠肺炎疫情引发股灾,已足够让他

  • 10 美国先行者:在马斯克-特朗普采访中未提及加密货币后,BTC静音

    这篇文章最初发表在CoinDesk的每日通讯《First Mover》上,将加密货币市场的最新动向置于背景中。订阅以每天将其放入收件箱。 最新价格 CoinDesk 20指数:1900−1.6%比特币(BTC):58871−1.5%以太币(ETH):2644−1.0%标准普尔500指数:5344.39+0.0%黄金:2463+0.0%日经225指数:36232.51+3.45%