前OpenAI首席科学家启动“安全”竞争对手人工智能实验室

时间:2024-09-26 编辑: 浏览:(703)

著名人工智能研究员、OpenAI前首席科学家Ilya Sutskever成立了一家新的人工智能研究公司,该公司将专注于他和其他批评者所说的前雇主的盲点:安全。

他的新公司Safe Superintelligence股份有限公司(SSI)由苹果公司前人工智能主管Daniel Gross和曾在OpenAI工作的Daniel Levy共同创立。该公司的唯一目标是同时提高人工智能的安全性和能力。

这家新公司周三在推特上写道:“我们将以一个焦点、一个目标和一种产品,直截了当地追求安全的超级智能。”。“我们将通过一个小团队的革命性突破来实现这一目标。”

Sutskever去年离开OpenAI之前,内部关系紧张,包括对安全问题的担忧退居利润之后。对于SSI,他旨在避免大型人工智能公司经常面临的管理开销或产品周期的干扰。

SSI网站上的一份官方声明写道:“我们的商业模式意味着安全、保障和进步都与短期商业压力隔绝。”。“这样,我们就可以和平地扩大规模。”

SSI将是一个纯粹以研究为重点的组织,而不是OpenAI目前的商业模式,后者包括其人工智能模型的商业化。顾名思义,SSI的第一个也是唯一一个产品将是一个安全的超级智能。

Sutskever向彭博社解释道:“我们所说的安全,是指像核安全这样的安全,而不是‘信任和安全’这样的安全。”。

该公司的使命是扩大伊利亚对与人类利益“超协调”的关注,纯粹专注于开发,而不是他所说的分散OpenAI注意力的“闪亮产品”。

Sutskever认为,SSI的人工智能系统在准备就绪后,将比当前的大型语言模型更通用,能力更广泛。最终目标是创造一种“安全的超级智能”,它不会伤害人类,并将基于自由和民主等价值观运作。

他告诉彭博社:“在最基本的层面上,安全的超级智能应该具有不会大规模伤害人类的特性。”。

SSI将在美国和以色列设立总部,目前正在招聘。

这家新公司在推特上写道:“我们提供了一个做你一生工作的机会,并帮助解决我们这个时代最重要的技术挑战。”。

在关键成员离职后,OpenAI决定解散负责长期人工智能安全的超级校准团队。

Sutskever是OpenAI董事会的一员,该董事会最初出于安全考虑解雇了首席执行官Sam Altman,但几天后Altman被他控制的新董事会复职。在这些事件之后,奥特曼控制下成立了一个新的安全团队,许多负责制定安全措施的成员要么被解雇,要么被调动,要么被迫辞职。

例如,前OpenAI安全研究员Leopold Aschenbrenner最近批评该公司的安全实践“严重不足”。他目前正在一家专注于AGI开发的投资公司工作,该公司是他与Patrick Collison、John Collison、Nat Friedman和Gross共同创立的,Gross也与Sutskever共同创立了SSI。

除了Aschenbrenner,OpenAI调整团队前负责人Jan Leike也与Sutskever一起离开了公司,并批评该公司将盈利能力置于安全之上。辞职后不久,他宣布将加入竞争对手Anthropic公司,该公司由前OpenAI研究人员创立,他们担心该公司在安全人工智能开发方面的糟糕做法。

OpenAI的政策研究员格雷琴·克鲁格(Gretchen Krueger)离开了该公司,理由是莱克和萨斯克弗也有同样的担忧。

前董事会成员进一步指责萨姆·奥特曼在工作环境中培养了一种“有毒文化”。董事会的新成员对这些指控提出了质疑,此后,在公众强烈抗议后,OpenAI解除了员工的非贬损协议,并从离职文件中删除了有争议的条款。

由Ryan Ozawa编辑。

最新 更多 >
  • 1 Zircuit的TVL在夏季主网发布前超过20亿美元

    Zircuit,一款与EVM兼容的ZK Rollup,已经达到了一个里程碑,其锁定总价值(TVL)已超过20亿美元。此前,用户在过去24小时内向该项目投入了8000多万美元。 尽管仍处于测试网络阶段,但主网预计将于今年夏天晚些时候推出。 Zircuit股权存款超过500000 ETH Zircuit于2月24日宣布了其股权计划。它允许用户参与项目的生态系统,并通过抵押各种资产获得Zircuit积分

  • 2 Coinbase推出PEPE永久期货

    加密货币交易所Coinbase宣布支持Pepe永久期货,因为资产价格因此飙升。事实上,Coinbase在X(前身为推特)上公布了最新开发的对模因币期货选项的支持,该选项将于今天开始。 此后,根据CoinMarketCap的数据,该资产的价格上涨至0.000007美元以上,并在24小时内上涨了近9%。这些涨幅是连续七天的辉煌延续,模因币上涨了近40%。随后,它似乎将以上升趋势拉开五月的序幕。 另请

  • 3 以下是如果SHIB达到0.00769美元、0.089美元或0.19美元,你的1亿、5亿或10亿Shiba Inu的价值

    如果Shiba Inu达到0.00769美元、0.089美元和0.19美元等崇高目标,持有1亿至10亿SHIB的投资者可能会看到他们的投资达到难以想象的水平。 Shiba Inu持续了最近的反弹,克服了多个关键的阻力水平,最终突破了0.000027美元的心理阈值。由于这场复苏运动,SHIB从4月13日的低点0.00001830美元上涨了51%,易手价为0.00002763美元,这是4月12日的最高

  • 4 比特币减半后,Chainlink引领了讨论——你错过了什么?

    BTC拥有超过1.38亿的社交活动,而LINK拥有超过5000万的社交活动。连续的价格趋势促进了社会活动的增加。 最近的数据表明,比特币[BTC]和Chainlink[LINK]的社交活动指标有所上升。通过研究它们的价格趋势,可以深入了解这些近期飙升的根本原因。 比特币和Chainlink引领社交活动 根据社交活动对加密资产进行排名的Lunar Crush的数据显示,比特币和Chainlink分别

  • 5 在即将到来的牛市中持有的前8种加密货币

    随着比特币减半事件的过去,整个加密货币市场正在向牛市转变,牛市可能会持续到2025年底。无数替代币正在达到历史新高,但其中大多数无法与新兴加密货币背后的潜力相比,新兴加密货币正显示出巨大的爆炸潜力。 我们已经完成了这项工作,如果您想充分利用2024/2025年加密货币牛市,请在未来几个月内选择您投资组合中持有的前8种加密货币。因此,如果你正在寻找以下登月项目,这篇文章将帮助你找出具有最高回报潜力的

  • 6 美国国税局设置在加密杀死假名?纳税申报表提案引发警报

    本周,美国国税局的一份表格草案在加密货币行业传播了恐惧和不确定性,该文件的部分内容让一些人认为,美国DeFi用户可能很快就会被要求向联邦政府报告他们的自助钱包地址。 到2025年,这份名为1099-DA的文件将成为美国国税局认为来源于经纪人的任何加密交易的强制性文件。这究竟意味着什么还不清楚。加密货币交易所几乎肯定会被美国国税局视为经纪公司;11月,加密货币游说团体表示担心,税务执法者也可能试图将

  • 7 Runes:IntoTheBlock发布后,比特币每日费用创下80000000美元的历史新高

    加密货币分析公司IntoTheBlock表示,Runes协议的推出导致比特币(BTC)日收费飙升,远远超过了此前的历史最高水平。 IntoTheBlock的研究负责人Lucas Outumuro在社交媒体平台X上表示,4月20日,比特币交易费用飙升至8000万美元,是六年多前ATH的四倍。 符文是由Casey Rodarmor开发的一种新协议,他也开发了序数。该项目旨在提高在比特币上创建可替代代币

  • 8 Ripple CLO击败美国证券交易委员会,称其在XRP案中拟议的20亿美元罚款为“恐吓证据”

    Ripple CLO Stuart Alderothy公开批评美国证券交易委员会要求对Ripple案处以近20亿美元的罚款,称这一要求是对加密货币行业持续恐吓的证据。 Ripple首席法律官斯图尔特·奥尔德罗蒂(Stuart Alderothy)对美国证券交易委员会(SEC)提出了新的批评,此前该委员会努力确保这家总部位于旧金山的公司在其持续的法律纠纷中支付近20亿美元的罚款。 Ripple文件反

  • 9 Shiba Inu在这个顶级交易所可享受30%的折扣

    领先的加密货币交易所BitMart推出了一个窗口,允许Shiba Inu爱好者以30%的折扣购买SHIB代币。 在最近X上的一篇帖子中,BitMart宣布Shiba Inu将有30%的快闪销售,该产品将通过即将推出的平台提供。根据官方通知,BitMart将推出这一折扣购买机会,以奖励用户的支持。

  • 10 谷歌、Meta、OpenAI联合其他行业巨头反对人工智能虐待儿童图像

    为了遏制儿童性虐待材料(CSAM)的传播,包括谷歌、Meta和OpenAI在内的顶级人工智能开发者联盟发誓要在这项新兴技术周围实施防护措施。 该组织由两个非营利组织组成:儿童科技组织Thorn和总部位于纽约的All tech is Human。Thorn前身为DNA基金会,于2012年由演员黛米·摩尔和阿什顿·库彻发起。 周二宣布了这一集体承诺,同时Thorn发布了一份新的报告,倡导在生成性人工智