萨姆·奥特曼加入新团队,

时间:2024-10-01 编辑: 浏览:(113)

开放AI公司公布了一份新的"安全与安全委员会",该委员会将确保该公司的先进人工智能系统以安全和安全的方式设计和建造. 公司的首席执行官Sam Altman是委员会领导人之一,尽管开放AI的总体指导越来越受到指责.

在OpenAI与好莱女演员斯卡莱特·约翰森交往后不到一周宣布,该委员会有效地重现了OpenAI的"超级配套"团队的角色,旨在确保该公司保持其创始人人道主义愿景.该团队在一些最著名的专家离开后解散,包括Jan Leike,他与OpenAI联合创始人伊利亚·苏茨克弗一起离开了公司,因为说该团队"一直在与风相反".

莱克宣布他将加入OpenAI竞争者Anthropic,这是由前OpenAI研究人员丹妮拉和达里奥·阿莫迪和其他前OpenAI工作者创立的,

委员会被指派评估和加强OpenAI的安全和安全流程.他们将在90天内向全局提出他们的建议,OpenAI表示将对通过的建议提供公开更新.

对于这项新委员会来说,它可以有效地减轻风险,因为该公司的首席执行官在领导层中.该委员会成员是谁,他们是否有AI安全和安全方面的经验?

排列不当

去年,奥尔特曼被公司董事会短暂地取消了CEO职务,因为公司董事会指控缺乏透明度和对他的领导层失去信心.然而,在员工明显的反抗和投资者的压力之后,奥尔特曼迅速恢复职务.这导致了三名董事会成员的离职,包括苏茨克维尔,他们最初投票支持他的解雇.

随着奥尔特曼的团队重新组建,该公司已经明显转向更为企业化的利驱动方式,远离OpenAI的最初使命,确保人工智能惠于所有人类,这意味着既构建安全和有益的AGI,又帮助创造广泛分布的利益.去年有争议的举措包括与五角大楼达成潜在的军事应用协议,启动第三方聊天机器人市场,甚至探索成年人内容的生成.

公司"超级对齐"团队的解散,致力于减轻与AGI相关的长期风险,引起了特别强烈的关注.该团队的联合创始人Sutskever和Leike在本月早些时候推出GPT-4o后辞职,Leike指责OpenAI放弃了对人工智能安全的承诺,支持"闪亮的产品".

加入新的安全委员会, 旨在恢复对OpenAI的流程和保障措施的信心.

遇见新的警卫

除了阿尔特曼,新委员会还由个人领导,他们作为首席执行官对他持明确的忠诚态度:布雷特·泰勒 (Bret Taylor) 被任命为阿尔特曼回归时的OpenAI董事会成员,以及阿德·德安吉洛 (Adam DAngelo),他是支持阿尔特曼并在他回归后留在董事会的OpenAI董事会成员.在上层层的层次上,是尼科尔·塞利格曼 (Nicole Seligman),一位知名的公司律师,曾代表伊朗-康特拉听证会期间的中校奥利弗·诺斯 (Oliver North) 和美国前总统比尔·克林顿 (Bill Clinton) 在他的弹审判期间.

其他委员会由负责确保OpenAI产品保持任务一致的研究人员组成.以下是其成员中的一些人,其中大多数人在短暂的台期间公开支持奥尔特曼:

亚历山大·马德里 (Alexander Madry) 是OpenAI的准备部负责人,也是麻省理工学院教授,他专注于让人工智能在他的研究中更可靠和安全.当阿尔特曼 (Altman) 发推文表示辞职时,马德里分享了标志性的心情符号,以支持他,然后发推文庆祝他的回归,并写出了回来的短语.

利利安·温格是OpenAI安全系统负责人,在机器学习和深度学习方面有经验.温格于2018年2月加入OpenAI作为研究科学家.2021年1月,温格晋升为OpenAI应用人工智能研究负责人,并在2023年6月,温格被任命为OpenAI安全系统负责人.

她还发推文支持奥尔特曼的回归, 并分享了"OpenAI没有人就什么都不是", 这在奥尔特曼运动期间变得非常受欢迎,

开放AI的联合创始人兼ChatGPT开发的首席架构师约翰·舒尔曼 (John Schulman) 专注于"后培训"语言模型,这涉及到对模型的行为进行精细调整,以满足特定任务.这种方法与强化学习相结合,使ChatGPT能够产生更类似人类的和上下文合适的反应.舒尔曼还在短暂的离职期间公开支持奥尔特曼.

开放AI安全负责人Matt Knight在安全工程方面有经验,也是DARPA的"频谱协作挑战"的最终选手Agitator的联合创始人.

帕乔基 (Jakub Pachocki) 是OpenAI首席科学家,他被任命替代Sutskever,自2017年以来一直在公司工作.帕乔基专注于大规模强化学习和深度学习优化.他为了团结萨姆·奥尔特曼辞职,当他被重新聘请后,他与他一起返回公司.

我看着那些守望者,

在最近的错误中,OpenAI宣布成立新的安全委员会,以缓解对其对安全AGI研究和开发的积极追求AI的担忧,但超出该团队明显的专业知识之外,事情可能会为利益冲突开辟道路.毕竟,由该团队领导的个人如何有效保护潜在的改变世界技术的发展?

对于这项技术的使用者来说,

Sam Altman (OpenAI董事会成员) 任命自己为安全和安全委员会成员,以标志自己作为Sam Altman (CEO) 的家庭作业,

士福克斯,请请您为我看看这个屋.

OpenAI刚刚创建了一个监督委员会,由其自己的高管和奥尔特曼自己组成,技术记者兼作家帕米·奥尔森 (Parmy Olson) 总结道.

只有在8月底该组织向包括阿尔特曼在内的主要董事会提交报告后,新委员会最终的有效性以及它是否能帮助OpenAI恢复公众对其关心和谨慎的信任才会清楚.

最新 更多 >
  • 1 晚间必读5篇 | 市场上涨时如何把握信号和噪音

    1.Portal Ventures:BTC生态现状与未来新篇章2023年5月,我们启动了一个为期三个月的研究项目,假设比特币生态系统将复苏。这促成了我们在2023年11月发表的论文"熊猫复兴"(The Panda Renaissance")。自那以后,市场对这一主题的兴趣和资本投入呈指数增长。在这篇文章中,我们将分享之前文章的更新思考,以及如下问题的反思。点击阅读2.Starknet联创:为什么S

  • 2 比特币现货ETF 6月4日净流入达到8.8675亿美元,创历史第二高

    6月4日,比特币现货ETF净流入8.8675亿美元,为历史上第二高的盘中净流量,其次是富达的3.79亿美元和贝莱德的2.74亿美元。 根据sosovalue的数据,几只表现最好的比特币现货ETF为这一资金流做出了贡献。领先的是Fidelity Wise Origin比特币基金(FBTC),该基金吸引了3.79亿美元的巨额资金。FBTC报告了+0.14%的轻微溢价/折扣,资产净值为120.1亿美元。

  • 3 Cardano:ADA什么时候能达到5美元?5月举行20次拉力赛的竞争对手可能会率先到达那里

    Cardano是一个以其科学严谨和强大的社区而闻名的区块链平台,长期以来一直被视为一个具有难以置信潜力的项目,而不仅仅是投机交易。Cardano(ADA)建立在同行评审的学术研究基础上,并在一个雄心勃勃的团队的推动下,确保了其作为世界领先加密货币之一的地位。然而,一个新的竞争对手,Retik Finance(Retik),在5月份出现了惊人的20倍增长,通过利用其最近的势头和独特的市场产品,可能会

  • 4 Notcoin价格预测:一周内不会飙升145%,这款新的赌场代币可能是下一个爆炸的代币

    Notcoin的价格在过去24小时内下跌了2%以上,但截至美国东部时间凌晨12:05,由于一些投资者获利回吐,仍比每周上涨了145%以上,交易价格为0.0224美元。 NOT价格记录的24小时亏损也不足以将altcoin的月度表现推向红色区域。因此,加密货币在过去30天内仍上涨了54%以上。 Notcoin价格遭到抵制 NOT/USD 4小时图(来源:GeckoTerminal)

  • 5 纪念币市场上涨4.6%,总统纪念币BODEN领涨

    周三,比特币突破7万美元,领先的模因币在过去24小时内大幅上涨。Shiba inu(SHIB)在过去一天上涨7.7%,而dogecoin(DOGE)上涨2.1%。在市值排名前五的表情包硬币中,floki(floki)在过去一天上涨了21.2%。然而,博登成为周三涨幅最高的股票,飙升46%。 记忆币BODEN、NPC、WOJAK和FLOKI获得两位数收益 目前的指标显示,模因币市场对美元的汇率上涨了

  • 6 赞德银行和MANTRA合作,彻底改变现实世界的资产标记化

    根据6月5日与Finbold分享的最新信息,阿拉伯联合酋长国中央银行(UAE)授权的数字银行Zand Bank PJSC已与专注于真实世界资产(RWA)的区块链平台MANTRA签署了谅解备忘录。 该合作伙伴关系旨在简化资产标记化流程,包括RWA的识别、上市和分配。 正如MANTRA首席执行官John Patrick Mullin所说,该协议证明了双方对中东市场的执着: “Zand和MANTRA之

  • 7 BeerCoin价格预测:专家称BEER飙升84%考虑这款Degen Solana Meme Coin的竞争对手

    截至美国东部时间凌晨02:32,BeerCoin价格在过去24小时内飙升84%,至0.0003960美元,交易量飙升近270%。 这使BEER的市值达到3.5亿美元,随后将收益降至约2.2亿美元。 这一激增归因于围绕BEER生态系统的不可替代代币(NFT)回收的炒作。BEER NFT在Magic Eden上正式上市并验证 BeerCo

  • 8 以下是为什么投资者急于进行MoonBag预售,而将Slothana和Shiba Inu抛在身后

    随着投资者寻找下一个巨大的前景,不断发展的加密货币世界的趋势迅速变化。不久前,一个明显的趋势发展起来,投资者开始放弃曾经备受青睐的模因币。为什么会发生这种突然的转变,是什么新的机会引起了他们的兴趣? 答案在于不断变化的加密货币投资世界,可扩展性、流动性和巨额利润正成为选择的重要决定因素。引领这一投资者变化的是MoonBag币,这是一种令人信服的加密货币,以其先进的扩展解决方案、强大的流动性战略和

  • 9 疯涨600倍市值达22亿美元的NOT是如何崛起的?

    NOT 巧妙地将区块链技术与游戏化元素相结合,打破了传统金融的界限,为用户创造了一个既有趣又有盈利潜力的数字经济环境。NOT 引入了创新的游戏化金融概念。在这个全新的经济体系中,用户可以通过参与游戏化的金融活动,轻松赚取金币并获得收益。这种将游戏与金融紧密结合的模式,不仅吸引了大量用户的关注和参与,还为用户提供了一种全新的娱乐方式,让人们在享受游戏乐趣的同时,也能实现财富增值。NOT 项目拥有强大

  • 10 咆哮的凯蒂遇到麻烦了?监管机构介入,GME狂热放缓

    在Roaring Kitty的帖子发布后,GME飙升1500%,显示出高度波动性。马萨诸塞州监管机构将调查Roaring Kitty的GameStop交易。 在6月3日看到GameStop[GME]表情币价值飙升超过300%后,GME在过去24小时内下跌了25.27%。 据《华尔街日报》报道,虽然这一增长归因于Keith Gill(又名Roaring Kitty)的帖子,但随后的下降是因为有消息称