前OpenAI首席科学家启动“安全”竞争对手人工智能实验室

时间:2024-09-29 编辑: 浏览:(93)

著名人工智能研究员、OpenAI前首席科学家Ilya Sutskever成立了一家新的人工智能研究公司,该公司将专注于他和其他批评者所说的前雇主的盲点:安全。

他的新公司Safe Superintelligence股份有限公司(SSI)由苹果公司前人工智能主管Daniel Gross和曾在OpenAI工作的Daniel Levy共同创立。该公司的唯一目标是同时提高人工智能的安全性和能力。

这家新公司周三在推特上写道:“我们将以一个焦点、一个目标和一种产品,直截了当地追求安全的超级智能。”。“我们将通过一个小团队的革命性突破来实现这一目标。”

Sutskever去年离开OpenAI之前,内部关系紧张,包括对安全问题的担忧退居利润之后。对于SSI,他旨在避免大型人工智能公司经常面临的管理开销或产品周期的干扰。

SSI网站上的一份官方声明写道:“我们的商业模式意味着安全、保障和进步都与短期商业压力隔绝。”。“这样,我们就可以和平地扩大规模。”

SSI将是一个纯粹以研究为重点的组织,而不是OpenAI目前的商业模式,后者包括其人工智能模型的商业化。顾名思义,SSI的第一个也是唯一一个产品将是一个安全的超级智能。

Sutskever向彭博社解释道:“我们所说的安全,是指像核安全这样的安全,而不是‘信任和安全’这样的安全。”。

该公司的使命是扩大伊利亚对与人类利益“超协调”的关注,纯粹专注于开发,而不是他所说的分散OpenAI注意力的“闪亮产品”。

Sutskever认为,SSI的人工智能系统在准备就绪后,将比当前的大型语言模型更通用,能力更广泛。最终目标是创造一种“安全的超级智能”,它不会伤害人类,并将基于自由和民主等价值观运作。

他告诉彭博社:“在最基本的层面上,安全的超级智能应该具有不会大规模伤害人类的特性。”。

SSI将在美国和以色列设立总部,目前正在招聘。

这家新公司在推特上写道:“我们提供了一个做你一生工作的机会,并帮助解决我们这个时代最重要的技术挑战。”。

在关键成员离职后,OpenAI决定解散负责长期人工智能安全的超级校准团队。

Sutskever是OpenAI董事会的一员,该董事会最初出于安全考虑解雇了首席执行官Sam Altman,但几天后Altman被他控制的新董事会复职。在这些事件之后,奥特曼控制下成立了一个新的安全团队,许多负责制定安全措施的成员要么被解雇,要么被调动,要么被迫辞职。

例如,前OpenAI安全研究员Leopold Aschenbrenner最近批评该公司的安全实践“严重不足”。他目前正在一家专注于AGI开发的投资公司工作,该公司是他与Patrick Collison、John Collison、Nat Friedman和Gross共同创立的,Gross也与Sutskever共同创立了SSI。

除了Aschenbrenner,OpenAI调整团队前负责人Jan Leike也与Sutskever一起离开了公司,并批评该公司将盈利能力置于安全之上。辞职后不久,他宣布将加入竞争对手Anthropic公司,该公司由前OpenAI研究人员创立,他们担心该公司在安全人工智能开发方面的糟糕做法。

OpenAI的政策研究员格雷琴·克鲁格(Gretchen Krueger)离开了该公司,理由是莱克和萨斯克弗也有同样的担忧。

前董事会成员进一步指责萨姆·奥特曼在工作环境中培养了一种“有毒文化”。董事会的新成员对这些指控提出了质疑,此后,在公众强烈抗议后,OpenAI解除了员工的非贬损协议,并从离职文件中删除了有争议的条款。

由Ryan Ozawa编辑。

最新 更多 >
  • 1 Gala价格预测:Gala抽成8%,但持有者转向P2E新人PlayDoge

    Gala的价格大幅回落,在过去24小时内飙升8%,截至美国东部时间上午7:25,交易价格为0.0478607美元,交易量下降5%,至5.71亿美元。 自4月12日以来,GALA价格一直在0.053美元阻力和0.038美元支撑之间的水平通道内盘整。然而,分析师预测,随着越来越多的投资者涌向该代币,牛市即将到来。 #检测到GALAUSDT牛旗图案!前方可能出现上行突破。

  • 2 研究显示,日本80%的银行业是Ripple的合作伙伴

    三位行业专家的一篇研究论文证实,Ripple已与日本80%的银行业建立了合作关系。 这项研究由资深统计学家侯赛因·哈萨尼博士与研究专家徐晃和埃马纽埃尔·席尔瓦共同撰写,突显了Ripple在日本银行业取得的重大进展。 根据这项研究,日本约80%的银行与Ripple合作,这表明区块链在TradFi中的重要性越来越大。Ripple以其强大的支付解决方案而闻名,在促进更快、更高效的跨境交易方面,它已成为一

  • 3 龙舌兰酒Don Julio首次在BlockBar上推出NFT支持的酒桶饰面

    Don Julio龙舌兰酒正在扩大其1942年的阵容,推出五种新的桶装酒,将通过BlockBar主办的拍卖会独家出售,BlockBar是一个基于烈酒的NFT市场。 此次发布标志着唐·胡里奥1942的第一个限量版变体,该变体通常在美国白橡木桶中陈酿32个月。新版本采用前波旁威士忌、红宝石波特酒、葡萄牙马德拉葡萄酒、橙葡萄酒和Crémant酒桶。 每种表述仅限于一个木桶,相当于40箱或240瓶。 来

  • 4 下一代StepN来袭?Web3界的陪伴AI产品8uddy或将成为新风口?

    StepN创造了Web3游戏行业的神话,但因其自身机制和玩法的设计缺陷,这个传奇便很快陨落。2024年加密牛市开启阶段,随着AI成为Web3的最大叙事,以及屏幕后的孤独一代的崛起,AI陪伴型产品的需求被点燃,一款AI+Web3陪伴类产品开始进入玩家的视野。除了温暖可爱的陪伴属性以外,对于用户来说,在Web3产品中获取极致的P2E体验,即获得最刺激的娱乐玩法和最持久的收益回报,是大家的一致追求。从具

  • 5 比特币即将冲击71,000美元 SOL能否再度问鼎第一?

    市场正在逐渐复苏,但势头尚未完全增强。比特币最终突破了70,000美元的关口,为进一步上涨奠定了基础。目前的迹象表明,比特币有望成功突破这一关键价位,因为其价格已接近71,000美元,并且交易量仍然持续保持高位。这种乐观的趋势在比特币兑美元的日线图上明显可见。目前,比特币的交易价格约为70,977美元,价格持续稳步上涨。最近市场突破了70,000美元,标志着市场出现了新的兴趣和乐观情绪。这种乐观观

  • 6 XRP价格面临障碍:它会克服障碍吗?

    XRP价格正在缓慢向上移动,高于0.5200美元区间。它现在面临着接近0.5320美元的障碍,并可能在短期内回调。 XRP正试图在0.5250美元区间上方再次上涨。该价格目前在0.5220美元和100小时简单移动平均线上方交易。XRP/USD对小时图上的支撑位为0.5260美元,突破了关键的看涨趋势线(数据来源于Kraken)。在牛市再次出现之前,这对货币可能会向下修正至0.5220美元的支撑位

  • 7 比特币价格逐渐攀升:稳步上涨指向牛市势头

    比特币价格开始大幅上涨,超过70500美元的阻力位。BTC正显示出积极的迹象,并可能在短期内获得超过72000美元阻力的看涨势头。 比特币的涨幅超过了70000美元和70500美元的阻力位。价格在70000美元和100小时简单移动平均线以上。在BTC/美元对的小时图上,有一条关键的看涨趋势线形成,支撑在70600美元(数据来自Kraken)。如果金价稳定在72000美元以上,这对货币可能会获得看

  • 8 RWA正在吞噬资本市场:10个值得关注的RWA项目

    作者:Aylo,alpha please作者;flow,加密研究员;翻译:xiaozou我们迎来了Crypto历史上的重要时刻。过去几周,我们目睹了美国在加密货币问题上的立场发生了180度的大转弯。虽然困难重重,但全部八个以太坊ETF都获得了美国证券交易委员会的批准。此外,美国众议院不仅批准了加密法案FIT21,还通过立法防止中央银行数字货币的形成。但更令人惊讶的是,crypto甚至开始成为即将到

  • 9 货币:美元天数被编号的3个原因货币:美元日期被编号的三个原因

    美元曾经被认为是有史以来最强大的货币之一,现在正处于一个不稳定的门槛。人民币目前正处于一场可能的金融革命之中,吸引着来自不断崛起的世界秩序的激烈竞争。 随着双极化和多极货币等概念在太空中蓬勃发展,美元现在正逐渐接近其潜在的崩溃。随着美国债务指标的不断膨胀,迫在眉睫的问题依然存在。美国经济将如何在不损害美元声誉的情况下应对酝酿中的压力? 另请阅读:黄金和比特币:双重货币竞争对手将压低美元? 美元濒临

  • 10 Coingecko:Ordinals、符文的市值和交易量是多少?

    作者:Shaun Paul Lee,Coingecko;编译:陶朱,Ordinals和符文的市值和交易量是多少?排名前 10 位的基于比特币的非同质化代币 (NFT)(包括 Ordinals 和 Runes)的总市值已飙升至 10.3 亿美元,2024 年 5 月的日均交易量为 225 万美元,证明了它们在 Web3 世界中日益突出的地位。这一交易量主要由链上最受欢迎的项目推动,例如 NodeMo