萨姆·奥特曼加入新团队,

时间:2024-09-21 编辑: 浏览:(322)

开放AI公司公布了一份新的"安全与安全委员会",该委员会将确保该公司的先进人工智能系统以安全和安全的方式设计和建造. 公司的首席执行官Sam Altman是委员会领导人之一,尽管开放AI的总体指导越来越受到指责.

在OpenAI与好莱女演员斯卡莱特·约翰森交往后不到一周宣布,该委员会有效地重现了OpenAI的"超级配套"团队的角色,旨在确保该公司保持其创始人人道主义愿景.该团队在一些最著名的专家离开后解散,包括Jan Leike,他与OpenAI联合创始人伊利亚·苏茨克弗一起离开了公司,因为说该团队"一直在与风相反".

莱克宣布他将加入OpenAI竞争者Anthropic,这是由前OpenAI研究人员丹妮拉和达里奥·阿莫迪和其他前OpenAI工作者创立的,

委员会被指派评估和加强OpenAI的安全和安全流程.他们将在90天内向全局提出他们的建议,OpenAI表示将对通过的建议提供公开更新.

对于这项新委员会来说,它可以有效地减轻风险,因为该公司的首席执行官在领导层中.该委员会成员是谁,他们是否有AI安全和安全方面的经验?

排列不当

去年,奥尔特曼被公司董事会短暂地取消了CEO职务,因为公司董事会指控缺乏透明度和对他的领导层失去信心.然而,在员工明显的反抗和投资者的压力之后,奥尔特曼迅速恢复职务.这导致了三名董事会成员的离职,包括苏茨克维尔,他们最初投票支持他的解雇.

随着奥尔特曼的团队重新组建,该公司已经明显转向更为企业化的利驱动方式,远离OpenAI的最初使命,确保人工智能惠于所有人类,这意味着既构建安全和有益的AGI,又帮助创造广泛分布的利益.去年有争议的举措包括与五角大楼达成潜在的军事应用协议,启动第三方聊天机器人市场,甚至探索成年人内容的生成.

公司"超级对齐"团队的解散,致力于减轻与AGI相关的长期风险,引起了特别强烈的关注.该团队的联合创始人Sutskever和Leike在本月早些时候推出GPT-4o后辞职,Leike指责OpenAI放弃了对人工智能安全的承诺,支持"闪亮的产品".

加入新的安全委员会, 旨在恢复对OpenAI的流程和保障措施的信心.

遇见新的警卫

除了阿尔特曼,新委员会还由个人领导,他们作为首席执行官对他持明确的忠诚态度:布雷特·泰勒 (Bret Taylor) 被任命为阿尔特曼回归时的OpenAI董事会成员,以及阿德·德安吉洛 (Adam DAngelo),他是支持阿尔特曼并在他回归后留在董事会的OpenAI董事会成员.在上层层的层次上,是尼科尔·塞利格曼 (Nicole Seligman),一位知名的公司律师,曾代表伊朗-康特拉听证会期间的中校奥利弗·诺斯 (Oliver North) 和美国前总统比尔·克林顿 (Bill Clinton) 在他的弹审判期间.

其他委员会由负责确保OpenAI产品保持任务一致的研究人员组成.以下是其成员中的一些人,其中大多数人在短暂的台期间公开支持奥尔特曼:

亚历山大·马德里 (Alexander Madry) 是OpenAI的准备部负责人,也是麻省理工学院教授,他专注于让人工智能在他的研究中更可靠和安全.当阿尔特曼 (Altman) 发推文表示辞职时,马德里分享了标志性的心情符号,以支持他,然后发推文庆祝他的回归,并写出了回来的短语.

利利安·温格是OpenAI安全系统负责人,在机器学习和深度学习方面有经验.温格于2018年2月加入OpenAI作为研究科学家.2021年1月,温格晋升为OpenAI应用人工智能研究负责人,并在2023年6月,温格被任命为OpenAI安全系统负责人.

她还发推文支持奥尔特曼的回归, 并分享了"OpenAI没有人就什么都不是", 这在奥尔特曼运动期间变得非常受欢迎,

开放AI的联合创始人兼ChatGPT开发的首席架构师约翰·舒尔曼 (John Schulman) 专注于"后培训"语言模型,这涉及到对模型的行为进行精细调整,以满足特定任务.这种方法与强化学习相结合,使ChatGPT能够产生更类似人类的和上下文合适的反应.舒尔曼还在短暂的离职期间公开支持奥尔特曼.

开放AI安全负责人Matt Knight在安全工程方面有经验,也是DARPA的"频谱协作挑战"的最终选手Agitator的联合创始人.

帕乔基 (Jakub Pachocki) 是OpenAI首席科学家,他被任命替代Sutskever,自2017年以来一直在公司工作.帕乔基专注于大规模强化学习和深度学习优化.他为了团结萨姆·奥尔特曼辞职,当他被重新聘请后,他与他一起返回公司.

我看着那些守望者,

在最近的错误中,OpenAI宣布成立新的安全委员会,以缓解对其对安全AGI研究和开发的积极追求AI的担忧,但超出该团队明显的专业知识之外,事情可能会为利益冲突开辟道路.毕竟,由该团队领导的个人如何有效保护潜在的改变世界技术的发展?

对于这项技术的使用者来说,

Sam Altman (OpenAI董事会成员) 任命自己为安全和安全委员会成员,以标志自己作为Sam Altman (CEO) 的家庭作业,

士福克斯,请请您为我看看这个屋.

OpenAI刚刚创建了一个监督委员会,由其自己的高管和奥尔特曼自己组成,技术记者兼作家帕米·奥尔森 (Parmy Olson) 总结道.

只有在8月底该组织向包括阿尔特曼在内的主要董事会提交报告后,新委员会最终的有效性以及它是否能帮助OpenAI恢复公众对其关心和谨慎的信任才会清楚.

最新 更多 >
  • 1 加密货币分析师Kevin Svenson表示,一个因素可能会引发比特币爆炸式增长,创历史新高

    加密货币分析师和交易员Kevin Svenson对比特币(BTC)表示乐观。 Svenson告诉他的79000名YouTube用户,比特币将“持续上涨,持续复苏” “原因是股市正在反弹。” 来源:凯文·斯文森/X 根据Svenson的说法,标普500指数在两位数修正后的看涨表现可能会推动比特币的反弹。 “标准普尔指数下跌了近10%,现在只比顶部下跌了4%。因此,标准普尔指数已经收复了下跌的一半以

  • 2 Cloudbet推出新Logo,预告更多

    [新闻稿-荷兰库拉索岛威廉斯塔德,2024年8月15日] 重新设计为领先的加密赌场和体育博彩推出全现金奖励 领先的加密赌场和体育博彩公司Cloudbet宣布了全面的重新设计,将于8月13日上线。在2013年推出世界上第一个加密体育博彩和赌场十年后,该公司表示,这一视觉转型不仅提升了新的全现金Cloudbet Rewards计划,以反映其对用户和行业的影响,而且为即将到来的未披露的“大动作”奠定了基

  • 3 Samson Mow预测比特币的崛起-最新加密货币新闻

    比特币倡导者兼JAN3首席执行官Samson Mow重申了他大胆的预测,即比特币将飙升至100万美元。在向全球加密货币社区发表讲话时,Mow强调了可能推动比特币达到如此巨大估值的几个关键因素。 内容隐藏1什么可能引发比特币的崛起?2比特币如何应对市场波动?投资者的3个关键见解 什么可能引发比特币的崛起? Mow表示,比特币在明年达到100万美元大关的可能性已经增加。虽然他没有指

  • 4 摩根大通:稳定币供应增长不会蚕食加密货币市场份额

    报告称,稳定币的增长反映了今年比特币和以太币上涨后加密货币总市值的增加。该银行指出,稳定币市场份额占加密货币总市值的百分比几乎没有变化。摩根大通表示,欧洲新产品的推出和监管的明确性有助于吸引投资者进入稳定币领域。 以美元计算,稳定币的供应一直在增长,但这种扩张并不意味着它正在接管加密货币市场份额;相反,摩根大通(JPM)在周三的一份研究报告中表示,这主要表明数字资

  • 5 布林带创始人使用莱特币图表警告潜在的市场陷阱:详情

    著名技术分析师、布林带创始人John Bollinger最近使用莱特币图表为加密货币爱好者说明了一个关键的交易教训。 这位金融市场专家最近在社交媒体平台X上打破沉默,回答了关于他两个标志性概念的反复出现的问题:布林带挤压和头部伪造。 使用莱特币历史图表,布林展示了一种常见的市场模式,即布林带挤压,有时会导致虚假突破,即“头部造假” 布林带挤压和头部伪造与莱特币图表 布林带是一种广泛使用的技术分析工

  • 6 比特币下跌不要恐惧、了就是抄底良机

    在一系列令人失望的数据,尤其是就业报告发布之后,对美国经济衰退的担忧逐步增长。加密货币由于自己特殊的负面因素,导致了更大幅度下跌。众多因素中包括 Mt.Gox 启动 BTC 还款造成的潜在抛压、现货数字资产 ETF 流量喜忧参半、支持加密货币的特朗普赢得大选并非板上钉钉,以及有报道称一家大型做市商在恐慌高峰期抛售了数亿美元的加密货币。尽管有许多负面因素以及市场下跌,我仍然坚信看涨的论点,因为其核心

  • 7 比特币价格会很快飙升吗?-最新加密货币新闻

    加密货币市场最近经历了异常动荡的一天,导致许多人质疑比特币价格的着陆点。随着市场急剧下跌,各平台的交易中断。尽管经济低迷,但一些声明重新点燃了投资者的乐观情绪。值得注意的是,分析师米切尔对当前的情况进行了富有洞察力的评估。 内容隐藏1比特币挖矿成本超过市场价格2投资者应该听从米切尔的呼吁吗?3投资者关键指标4结论 比特币挖矿成本超过市场价格 米切尔展示了一张图表,强调比特币的开

  • 8 LINK 价格预测 – 交易者短期内可以预期的一切

    LINK 在触及 9 个月低点后近期形成看跌模式。多头能否止血?交易者应密切关注 11.2 美元的阻力位和三角旗形态,以防出现突破或崩盘的情况衍生品市场数据显示,市场情绪喜忧参半,未平仓合约数量上升,但交易量下降Chainlink (LINK)近期遭遇了显著的下跌势头,其价格趋向关键支撑位。尽管一度试图稳定下来,但更广泛的市场不确定性使多头无法收复重大失地。在撰写本文时,LINK 的交易价格约为

  • 9 OpenAI因担忧推迟发布AI检测工具

    OpenAI推迟了其备受期待的工具的发布,该工具旨在检测其ChatGPT模型生成的文本。据报道,由于可能影响用户体验和生态系统的问题,发布已被推迟。 《华尔街日报》称,OpenAI在过去的一年里一直在准备发布该工具,但由于风险和各种问题,它还没有这样做。推迟工具发布的选择似乎也与用户的输入有关。在OpenAI进行的一项民意调查中,他们发现,近三分之一的忠实ChatGPT用户可能会被反作弊技术的引入

  • 10 比特币突破5.5万、以太坊站上2500美元 美股下杀也挡不住

        比特币今(6)日清晨持续反弹,最高突破55,500 美元、以太坊则是成功站回2,500 美元之上,并没有随着美股持续下杀。比特币在昨(5)日两度跌破五万美元之后,原本市场担心BTC 晚间会随着美股开盘继续下杀,但市场总是出乎意料之外,昨晚21:30 之后反而开始拉涨,撰稿当下更是来到55,649美元,近24 小时下跌幅度缩窄到3% 左右。BTC 币价走势以太坊突破2500 美元以太坊走势与