萨姆·奥特曼加入新团队,

时间:2024-09-22 编辑: 浏览:(354)

开放AI公司公布了一份新的"安全与安全委员会",该委员会将确保该公司的先进人工智能系统以安全和安全的方式设计和建造. 公司的首席执行官Sam Altman是委员会领导人之一,尽管开放AI的总体指导越来越受到指责.

在OpenAI与好莱女演员斯卡莱特·约翰森交往后不到一周宣布,该委员会有效地重现了OpenAI的"超级配套"团队的角色,旨在确保该公司保持其创始人人道主义愿景.该团队在一些最著名的专家离开后解散,包括Jan Leike,他与OpenAI联合创始人伊利亚·苏茨克弗一起离开了公司,因为说该团队"一直在与风相反".

莱克宣布他将加入OpenAI竞争者Anthropic,这是由前OpenAI研究人员丹妮拉和达里奥·阿莫迪和其他前OpenAI工作者创立的,

委员会被指派评估和加强OpenAI的安全和安全流程.他们将在90天内向全局提出他们的建议,OpenAI表示将对通过的建议提供公开更新.

对于这项新委员会来说,它可以有效地减轻风险,因为该公司的首席执行官在领导层中.该委员会成员是谁,他们是否有AI安全和安全方面的经验?

排列不当

去年,奥尔特曼被公司董事会短暂地取消了CEO职务,因为公司董事会指控缺乏透明度和对他的领导层失去信心.然而,在员工明显的反抗和投资者的压力之后,奥尔特曼迅速恢复职务.这导致了三名董事会成员的离职,包括苏茨克维尔,他们最初投票支持他的解雇.

随着奥尔特曼的团队重新组建,该公司已经明显转向更为企业化的利驱动方式,远离OpenAI的最初使命,确保人工智能惠于所有人类,这意味着既构建安全和有益的AGI,又帮助创造广泛分布的利益.去年有争议的举措包括与五角大楼达成潜在的军事应用协议,启动第三方聊天机器人市场,甚至探索成年人内容的生成.

公司"超级对齐"团队的解散,致力于减轻与AGI相关的长期风险,引起了特别强烈的关注.该团队的联合创始人Sutskever和Leike在本月早些时候推出GPT-4o后辞职,Leike指责OpenAI放弃了对人工智能安全的承诺,支持"闪亮的产品".

加入新的安全委员会, 旨在恢复对OpenAI的流程和保障措施的信心.

遇见新的警卫

除了阿尔特曼,新委员会还由个人领导,他们作为首席执行官对他持明确的忠诚态度:布雷特·泰勒 (Bret Taylor) 被任命为阿尔特曼回归时的OpenAI董事会成员,以及阿德·德安吉洛 (Adam DAngelo),他是支持阿尔特曼并在他回归后留在董事会的OpenAI董事会成员.在上层层的层次上,是尼科尔·塞利格曼 (Nicole Seligman),一位知名的公司律师,曾代表伊朗-康特拉听证会期间的中校奥利弗·诺斯 (Oliver North) 和美国前总统比尔·克林顿 (Bill Clinton) 在他的弹审判期间.

其他委员会由负责确保OpenAI产品保持任务一致的研究人员组成.以下是其成员中的一些人,其中大多数人在短暂的台期间公开支持奥尔特曼:

亚历山大·马德里 (Alexander Madry) 是OpenAI的准备部负责人,也是麻省理工学院教授,他专注于让人工智能在他的研究中更可靠和安全.当阿尔特曼 (Altman) 发推文表示辞职时,马德里分享了标志性的心情符号,以支持他,然后发推文庆祝他的回归,并写出了回来的短语.

利利安·温格是OpenAI安全系统负责人,在机器学习和深度学习方面有经验.温格于2018年2月加入OpenAI作为研究科学家.2021年1月,温格晋升为OpenAI应用人工智能研究负责人,并在2023年6月,温格被任命为OpenAI安全系统负责人.

她还发推文支持奥尔特曼的回归, 并分享了"OpenAI没有人就什么都不是", 这在奥尔特曼运动期间变得非常受欢迎,

开放AI的联合创始人兼ChatGPT开发的首席架构师约翰·舒尔曼 (John Schulman) 专注于"后培训"语言模型,这涉及到对模型的行为进行精细调整,以满足特定任务.这种方法与强化学习相结合,使ChatGPT能够产生更类似人类的和上下文合适的反应.舒尔曼还在短暂的离职期间公开支持奥尔特曼.

开放AI安全负责人Matt Knight在安全工程方面有经验,也是DARPA的"频谱协作挑战"的最终选手Agitator的联合创始人.

帕乔基 (Jakub Pachocki) 是OpenAI首席科学家,他被任命替代Sutskever,自2017年以来一直在公司工作.帕乔基专注于大规模强化学习和深度学习优化.他为了团结萨姆·奥尔特曼辞职,当他被重新聘请后,他与他一起返回公司.

我看着那些守望者,

在最近的错误中,OpenAI宣布成立新的安全委员会,以缓解对其对安全AGI研究和开发的积极追求AI的担忧,但超出该团队明显的专业知识之外,事情可能会为利益冲突开辟道路.毕竟,由该团队领导的个人如何有效保护潜在的改变世界技术的发展?

对于这项技术的使用者来说,

Sam Altman (OpenAI董事会成员) 任命自己为安全和安全委员会成员,以标志自己作为Sam Altman (CEO) 的家庭作业,

士福克斯,请请您为我看看这个屋.

OpenAI刚刚创建了一个监督委员会,由其自己的高管和奥尔特曼自己组成,技术记者兼作家帕米·奥尔森 (Parmy Olson) 总结道.

只有在8月底该组织向包括阿尔特曼在内的主要董事会提交报告后,新委员会最终的有效性以及它是否能帮助OpenAI恢复公众对其关心和谨慎的信任才会清楚.

最新 更多 >
  • 1 狗狗币价格上涨:以下是目前有多少狗狗HODLER盈利

    TL;博士 狗狗币每周的价值增长了12%,这主要归功于特斯拉将其作为一种支付方式。DOGE持有人的利润正在上升,大大超过了投资Shiba Inu(SHIB)的人数。 DOGE Investments闪绿 市值最大的模因币——狗狗币(DOGE)——最近一直是表现最好的加密货币之一,每周价格上涨12%。它的崛起可以归功于电动汽车巨头特斯拉,该公司在其网站上正式整合了该资产作为支付选项。 DOGE

  • 2 APP独家活动:预测BTC涨跌,赢取百万BN奖金!

    随着加密货币市场的持续热度,投资者们始终在寻找更多的参与方式和获利机会。APP此次推出的“天天猜BTC涨跌,每天瓜分百万BN”活动,为广大加密货币爱好者提供了一个绝佳的机会,不仅能测试您对市场的敏感度,还能赢取丰厚的奖励。活动规则每天从上午10点到晚上24点,用户可以参与预测Bitcoin(BTC)价格的涨跌。您可以选择投入最低1000BN到最高100,000BN。活动中,您可以根据自己的判断选择

  • 3 投资者涌向一种具有爆炸性增长潜力的新型索拉纳基Meme币

    索拉纳上的一个新模因币“Sealana”开局火爆,第一天就筹集了超过10万美元,并计划成为生态系统中的下一个重大项目。这个古怪的项目将模因币的轻松吸引力与强大的功能相结合,成为索拉纳的一个有希望的新成员。Sealana显示出巨大的潜力,不仅因为它的幽默,而且因为它的早期投资机会可以产生可观的回报。索拉纳最新的模因币为加密货币娱乐传播流行文化Sealana是一种新推出的模因硬币,其特点是有一个独特的

  • 4 Turbos Finance推出Sui独立池设计的首次市场流动性策略

    英属维尔京群岛托托拉岛,2024年5月3日,Chainware 去中心化交易所Turbos Finance宣布在Sui生态系统内推出两项开创性的流动性战略。这些策略包括为Turbos DEX上的CLMM头寸提供以Sui网络为中心的自动流动性管理保险库,以及与美元成本平均(DCA)策略相结合的创新自动掉期功能,以简化流动性供应。 DEX的自动再平衡金库将使LP能够毫不费力地增加回报,而散户投资者和

  • 5 比特币、以太坊交易走低,鲸鱼出现FOMO迹象

    加密货币市场周三大幅下跌,抹去了前一天的涨幅,因为交易员在比特币减半事件后寻找“强大”的催化剂。 CoinGecko的数据显示,比特币下跌3%,易手价约为65000美元,以太坊交易价为3175美元。 BTC价格 MN Trading Consultancy首席信息官兼创始人Michael Van de Poppe告诉The Defiant,随着比特币的整合,它为替代币获得势头铺平了道路。 “坦率

  • 6 USDD正式上线两周年

    2024年5月5日,USDD正式上线两周年。当前,USDD总发行量已高达7.34亿美元,抵押率超220%,持有账户数超13.9万。同时,USDD在支付、CeFi、DeFi、AI、GameFi和SociaFi平台得到了广泛的应用与认可,并已在11条主流公链上实现了流通。此外,USDD各项数据指标也呈现爆发式增长。截至目前,USDD在X平台吸引了超过100,000名关注者,转账总数超136.8万,总抵

  • 7 黑客劫持Vitalik的X账户后偷走70多万美元

    周六早些时候,以太坊创始人Vitalik Buterin的社交媒体账户被劫持。一名恶意行为者使用Buterin的X句柄发布网络钓鱼链接。在Buterin的明显支持下,许多用户失去了高价值的NFT。 受害者被引诱加入,希望铸造一个纪念性的ConsensSys NFT,但一旦他们在网络钓鱼网站上确认交易,他们的钱包就被耗尽了。根据Etherscan的数据,骗子的钱包目前持有价值超过39万美元的资产

  • 8 Web3社交中心UXLINK向50万顶级用户空投NFT

    来源:X(UXLINK) UXLINK的NFT Endeavour资格 UXLINK是一流的去中心化平台和基础设施。它使用户和开发者能够通过创新的社会化和基于群体的方法来探索、分发和交换加密资产。 其新推出的NFT分为四层——MOON、TRUST、FRENS和LINK。 有资格接收这些数字资产的标准包括: 活跃的社区贡献频繁的链上互动他们拥有的加密资产。 随着UXLINK继续在基于区块链的领域处

  • 9 PlayStation开发商索尼为游戏“超级可替代代币”申请美国专利

    娱乐巨头索尼提交了一份为游戏设计的“超级可替代代币”的美国专利申请。 流行的PlayStation游戏机系列的开发商索尼早在2022年就提交了专利申请,尽管该文件在2月底才公开。 该应用程序为追踪游戏资产并创建新型超级可替代代币的电子设备制定了计划。 对文档进行解释, “接收与该组游戏资产相关联的元数据,并基于将元数据存储到与游戏应用程序相关联的分布式账本,创建超级可替代代币。 超级可替代代币的创

  • 10 加密货币骗子第一季度诈骗超过3.7亿美元

    2023年前三个月,黑客攻击和漏洞利用损失超过3.7亿美元,低于2022年最后一个季度的50亿美元。 根据Rekt的数据,3月前三周,2.15亿美元(占本季度损失的57%)被盗。 DappRadar表示:“值得注意的是,2023年1月是黑客攻击次数最少的月份之一,共损失1460万美元,这一金额在2022年全年都没有登记。”。“这可能是一个积极的迹象,表明该行业正在更加认真地对待安全问题,并实施更好