前OpenAI首席科学家启动“安全”竞争对手人工智能实验室

时间:2024-09-26 编辑: 浏览:(497)

著名人工智能研究员、OpenAI前首席科学家Ilya Sutskever成立了一家新的人工智能研究公司,该公司将专注于他和其他批评者所说的前雇主的盲点:安全。

他的新公司Safe Superintelligence股份有限公司(SSI)由苹果公司前人工智能主管Daniel Gross和曾在OpenAI工作的Daniel Levy共同创立。该公司的唯一目标是同时提高人工智能的安全性和能力。

这家新公司周三在推特上写道:“我们将以一个焦点、一个目标和一种产品,直截了当地追求安全的超级智能。”。“我们将通过一个小团队的革命性突破来实现这一目标。”

Sutskever去年离开OpenAI之前,内部关系紧张,包括对安全问题的担忧退居利润之后。对于SSI,他旨在避免大型人工智能公司经常面临的管理开销或产品周期的干扰。

SSI网站上的一份官方声明写道:“我们的商业模式意味着安全、保障和进步都与短期商业压力隔绝。”。“这样,我们就可以和平地扩大规模。”

SSI将是一个纯粹以研究为重点的组织,而不是OpenAI目前的商业模式,后者包括其人工智能模型的商业化。顾名思义,SSI的第一个也是唯一一个产品将是一个安全的超级智能。

Sutskever向彭博社解释道:“我们所说的安全,是指像核安全这样的安全,而不是‘信任和安全’这样的安全。”。

该公司的使命是扩大伊利亚对与人类利益“超协调”的关注,纯粹专注于开发,而不是他所说的分散OpenAI注意力的“闪亮产品”。

Sutskever认为,SSI的人工智能系统在准备就绪后,将比当前的大型语言模型更通用,能力更广泛。最终目标是创造一种“安全的超级智能”,它不会伤害人类,并将基于自由和民主等价值观运作。

他告诉彭博社:“在最基本的层面上,安全的超级智能应该具有不会大规模伤害人类的特性。”。

SSI将在美国和以色列设立总部,目前正在招聘。

这家新公司在推特上写道:“我们提供了一个做你一生工作的机会,并帮助解决我们这个时代最重要的技术挑战。”。

在关键成员离职后,OpenAI决定解散负责长期人工智能安全的超级校准团队。

Sutskever是OpenAI董事会的一员,该董事会最初出于安全考虑解雇了首席执行官Sam Altman,但几天后Altman被他控制的新董事会复职。在这些事件之后,奥特曼控制下成立了一个新的安全团队,许多负责制定安全措施的成员要么被解雇,要么被调动,要么被迫辞职。

例如,前OpenAI安全研究员Leopold Aschenbrenner最近批评该公司的安全实践“严重不足”。他目前正在一家专注于AGI开发的投资公司工作,该公司是他与Patrick Collison、John Collison、Nat Friedman和Gross共同创立的,Gross也与Sutskever共同创立了SSI。

除了Aschenbrenner,OpenAI调整团队前负责人Jan Leike也与Sutskever一起离开了公司,并批评该公司将盈利能力置于安全之上。辞职后不久,他宣布将加入竞争对手Anthropic公司,该公司由前OpenAI研究人员创立,他们担心该公司在安全人工智能开发方面的糟糕做法。

OpenAI的政策研究员格雷琴·克鲁格(Gretchen Krueger)离开了该公司,理由是莱克和萨斯克弗也有同样的担忧。

前董事会成员进一步指责萨姆·奥特曼在工作环境中培养了一种“有毒文化”。董事会的新成员对这些指控提出了质疑,此后,在公众强烈抗议后,OpenAI解除了员工的非贬损协议,并从离职文件中删除了有争议的条款。

由Ryan Ozawa编辑。

最新 更多 >
  • 1 币安创始人赵因洗钱违法被判处有期徒刑4个月

    周二,币安前首席执行官赵被判处四个月有期徒刑,他去年承认了洗钱违法行为。 美国地区法官理查德·琼斯在西雅图宣判赵时说,赵“有足够的人员、资源和资金来遵守美国的规定。但没有抓住这个机会。” 琼斯还引用了赵的一份声明,该声明称“请求原谅总比请求许可好”,法官表示,他对这种情绪“深感不安”。尽管如此,他还是拒绝了检察官要求判处多年监禁的请求。 据The Verge报道,Jones说:“我所看到的关于你的

  • 2 币安创始人CZ表示“没有行动的借口”,他将面临3年监禁

    币安创始人面临36个月的监禁,罪名是加密货币领域的非法活动。针对币安和早期FTX的法律诉讼引发了对加密货币采用的质疑。 在持续的法律诉讼中,币安创始人赵发现自己正处于一个关键时刻。 赵定于4月30日在西雅图法庭宣判,他面临着美国检察官36个月监禁的关键时刻。 有什么问题? 这些指控围绕着他被指控未能阻止币安平台上的大规模洗钱展开,这标志着围绕他的讨论有了重大进展。 根据司法部上周提交的量刑备忘录,

  • 3 巅峰重启,王者归来VDS开启数字经济新时代

    王者归来VDS是一项革命性的区块链项目,旨在为用户带来尊贵的数字体验和权威的数字资产管理服务。通过区块链技术,我们重新定义了数字世界中王者的定义,让每个参与者都能成为自己生活的主宰。-权威保障:基于区块链技术的透明和安全性,为用户提供权威的数字资产管理。财富创造:提供创新的金融产品和投资工具,助力用户实现财务自由。全球共赢:建立开放、包容的生态系统,让用户共同分享王者VDS的荣耀。经济模型:项目共

  • 4 香港首批虚拟资产现货ETF上市 4月因黑客攻击等造成的总损失金额达1.01亿美元

    又到了每月安全盘点时刻!据区块链安全审计公司Beosin Alert监测显示,2024年4月,各类安全事件损失金额较3月持续下降。2024年4月发生较典型安全事件超『23』起,因黑客攻击、钓鱼诈骗和Rug Pull造成的总损失金额达1.01亿美元,较3月下降约36%。其中攻击事件约5256万美元,下降约55%;钓鱼诈骗事件约1140万美元,下降约69%;Rug Pull事件约3705万美元,增长约

  • 5 贝莱德的BUIDL基金突破3.75亿美元-最新加密货币新闻

    贝莱德的BUIDL基金最近标志着一个重要的里程碑,其管理资产超过3.75亿美元,在此过程中跑赢了富兰克林·邓普顿的FOBXX基金。这一成就突显了贝莱德在加密资产市场的日益主导地位,尤其是在链上投资基金领域。BUIDL基金的战略及其对市场的影响值得注意,因为它们表明了机构投资者对加密资产日益增长的兴趣和信心。 内容隐藏1是什么推动了BUIDL基金的成功?2贝莱德是如何巩固其市场地位

  • 6 突破:币安创始人“CZ”被判处四个月监禁

    币安前首席执行官CZ因违反《美国银行保密法》将服刑四个月在与美国司法部达成认罪协议后,刑期大幅减少 今天,法官Richard Jones在西雅图法院对前Binance首席执行官赵(Changpeng Zhao)作出判决。这位亿万富翁加密货币创始人,俗称CZ,被判处四个月监禁。这一判决大大低于司法部预计的至少3年的监禁时间。与对Sam Bankman Fried的判决相比,这也可以被视为漏网之鱼。

  • 7 比特币矿工收入降至年度低点:他们会资本化吗?

    比特币矿工开始感受到最近减半的不利影响,行业收入处于2023年初以来的最低点。 利润率的收紧引发了一个问题,即哪些行业的公司可以在比特币下一个减半时期维持运营,以及比特币的市场价格可能会受到怎样的影响。 矿工收入急剧下降 根据链上分析平台CryptoQuant共享的数据,比特币的“Puell Multiple”在4月19日至4月20日减半后立即暴跌。 普埃尔倍数是一个比率,将以美元计算的每日BTC

  • 8 Ripple在日本陷入困境

    Ripple[XRP]在建立战略合作伙伴关系的同时,也面临着一个微妙的平衡问题。尽管收盘价超过0.51美元,但在与美国证券交易委员会(SEC)持续的法律纠纷中,altcoin仍保持着相对稳定的交易模式。然而,该公司在战略策略上仍然充满活力,最近与东京咨询公司HashKey DX的合作就是例证。 来源 截至发稿时,XRP的交易价格为0.513美元,此前每日小幅上涨2%。然而,在这种外部稳定的背后,

  • 9 最新文件显示,美国证券交易委员会加里·根斯勒将以太坊视为一种安全手段一年多了

    虽然比特币已被公认为一种商品,但以太坊的地位却并非如此,由于其2014年的首次代币发行(ICO),以太坊的身份变得更加模糊。 然而,一份新的报告表明,美国证券交易委员会(SEC)及其主席加里·根斯勒(Gary Gensler)似乎长期以来一直认为以太坊是一种未注册的证券。 SEC与詹斯勒的信仰暴露 根据福克斯的最新报道,Consensys于4月29日提交的法庭文件称,美国证券交易委员会和Gensl

  • 10 加密货币市场在全球经济不确定性中下跌

    加密货币正经历着惨淡的一天,与一系列令人沮丧的逆风作斗争。CoinGecko的数据显示,加密货币的总市值为2.33万亿美元,过去一天下降了4.81%。与此同时,4月是自1月以来加密恐惧和贪婪指数回归中性区间的第一个月,抵消了2024年的总体贪婪情绪。 周二的趋势是压倒性的看跌,前100名中的每一枚硬币在过去24小时内都表现出负面表现。 Unus Sed LEO(LEO)下跌0.19%,仍然是前10