前OpenAI首席科学家启动“安全”竞争对手人工智能实验室

时间:2024-09-20 编辑: 浏览:(653)

著名人工智能研究员、OpenAI前首席科学家Ilya Sutskever成立了一家新的人工智能研究公司,该公司将专注于他和其他批评者所说的前雇主的盲点:安全。

他的新公司Safe Superintelligence股份有限公司(SSI)由苹果公司前人工智能主管Daniel Gross和曾在OpenAI工作的Daniel Levy共同创立。该公司的唯一目标是同时提高人工智能的安全性和能力。

这家新公司周三在推特上写道:“我们将以一个焦点、一个目标和一种产品,直截了当地追求安全的超级智能。”。“我们将通过一个小团队的革命性突破来实现这一目标。”

Sutskever去年离开OpenAI之前,内部关系紧张,包括对安全问题的担忧退居利润之后。对于SSI,他旨在避免大型人工智能公司经常面临的管理开销或产品周期的干扰。

SSI网站上的一份官方声明写道:“我们的商业模式意味着安全、保障和进步都与短期商业压力隔绝。”。“这样,我们就可以和平地扩大规模。”

SSI将是一个纯粹以研究为重点的组织,而不是OpenAI目前的商业模式,后者包括其人工智能模型的商业化。顾名思义,SSI的第一个也是唯一一个产品将是一个安全的超级智能。

Sutskever向彭博社解释道:“我们所说的安全,是指像核安全这样的安全,而不是‘信任和安全’这样的安全。”。

该公司的使命是扩大伊利亚对与人类利益“超协调”的关注,纯粹专注于开发,而不是他所说的分散OpenAI注意力的“闪亮产品”。

Sutskever认为,SSI的人工智能系统在准备就绪后,将比当前的大型语言模型更通用,能力更广泛。最终目标是创造一种“安全的超级智能”,它不会伤害人类,并将基于自由和民主等价值观运作。

他告诉彭博社:“在最基本的层面上,安全的超级智能应该具有不会大规模伤害人类的特性。”。

SSI将在美国和以色列设立总部,目前正在招聘。

这家新公司在推特上写道:“我们提供了一个做你一生工作的机会,并帮助解决我们这个时代最重要的技术挑战。”。

在关键成员离职后,OpenAI决定解散负责长期人工智能安全的超级校准团队。

Sutskever是OpenAI董事会的一员,该董事会最初出于安全考虑解雇了首席执行官Sam Altman,但几天后Altman被他控制的新董事会复职。在这些事件之后,奥特曼控制下成立了一个新的安全团队,许多负责制定安全措施的成员要么被解雇,要么被调动,要么被迫辞职。

例如,前OpenAI安全研究员Leopold Aschenbrenner最近批评该公司的安全实践“严重不足”。他目前正在一家专注于AGI开发的投资公司工作,该公司是他与Patrick Collison、John Collison、Nat Friedman和Gross共同创立的,Gross也与Sutskever共同创立了SSI。

除了Aschenbrenner,OpenAI调整团队前负责人Jan Leike也与Sutskever一起离开了公司,并批评该公司将盈利能力置于安全之上。辞职后不久,他宣布将加入竞争对手Anthropic公司,该公司由前OpenAI研究人员创立,他们担心该公司在安全人工智能开发方面的糟糕做法。

OpenAI的政策研究员格雷琴·克鲁格(Gretchen Krueger)离开了该公司,理由是莱克和萨斯克弗也有同样的担忧。

前董事会成员进一步指责萨姆·奥特曼在工作环境中培养了一种“有毒文化”。董事会的新成员对这些指控提出了质疑,此后,在公众强烈抗议后,OpenAI解除了员工的非贬损协议,并从离职文件中删除了有争议的条款。

由Ryan Ozawa编辑。

最新 更多 >
  • 1 PPL币最高的时候是多少钱?

    近年来,随着区块链的迅速发展,各类加密货币也得到了广泛关注。其中,PPL币作为市场上的一种数字货币,在一定时间内曾经有过多次价格上涨。那么,PPL币最高的时候究竟是多少钱呢?本文将为你详细介绍。PPL币是什么PPL币是以人民币(CNY)为发行支持,面向普通消费者、商家和企事业单位的数字货币。PPL币以消费、投资和应用为三个支柱,建立起完整的消费生态,为用户打造一个公平、透明、高效的消费生态圈。PP

  • 2 OCTA币最高的时候是多少钱?

    什么是OCTA币?OCTA币是一个全球性的去中心化加密货币,它采用了分层式架构,可以处理超过400,000个交易每秒。该币种在2018年初上线,得到了广泛的关注和支持。OCTA币的团队成员都是来自区块链领域的专业人士,他们致力于打造一个高效、稳定、安全的数字货币平台,为全球用户提供更好的支付、存储、转账和交易体验。OCTA币曾经的最高价OCTA币的价格一度看涨,它在2018年5月份的时候达到了高峰

  • 3 ORAO币的创始人是谁

    ORAO币是一种基于区块链技术的虚拟货币,其创始人是谁呢?下面我们来一探究竟。ORAO币的历史ORAO币于2018年由法国人Nicolas Barotte创建。Nicolas Barotte是一个IT领域的专业人士,他长期致力于电子商务和电子支付,在比特币和区块链技术开始流行之前,他就在这个领域有着丰富的经验。他看到区块链技术的巨大潜力,便着手创建了ORAO币。ORAO币的特点ORAO币是一种具有

  • 4 pepecoin币历史价格走势怎么样?

    PEPECoin币历史价格走势怎么样?PEPECoin(简称:PEPE)是一种基于比特币技术的去中心化数字加密货币。该币种始建于2016年,是一种纯粹的社区创建币,在线上社交平台Reddit社区中自组建并运营。这一币种背后的创意构想和独特的社区文化,确立了其一定的受欢迎程度和市场需求。2016年,PEPECoin的ICO代币价格为0.00011111 BTC,在其创立之初,该币种价格并不高,在收购

  • 5 PAC币最高的时候是多少钱?

    PAC币(Paccoin)是一种基于比特币的加密货币,受到了许多投资者和交易者的关注。作为一种数字资产,PAC币有着非常高的波动性,其价格一度达到了历史最高点。那么,PAC币最高的时候是多少钱呢?本文将为您解答这个问题。 PAC币的价格历史 PAC币自2014年首次上线以来,一直是市场上比较知名的加密货币之一。其价格波动较大,有时长时间处于相对稳定的状态,有时又出现大幅波动。下面我们看一下PAC

  • 6 ORN币的创始人是谁

    ORN币的创始人是谁?在数字货币市场中,有一种名为ORN的币种备受关注,今天我们来了解一下ORN币的创始人是谁。ORN币的背景介绍ORN币全称为Orion Protocol,是一种基于DeFi和加密领域的通证,旨在解决DeFi生态系统中的流动性问题,它由一套完全去中心化的交易执行机制打造而成,许多加密爱好者都看好它将来的未来发展潜力。ORN币的创始人ORN币的创始人是加拿大籍的Alexander

  • 7 POTS币历史价格走势怎么样?

    POTS币是一种数字经济体系中的全新产生的货币,它是“Potcoin” (波特币)的缩写。它的发源地是加拿大,它的特点是可用于与大麻、大麻产业的交易,因此被广泛应用在大麻产业中。以下是POTS币历史价格走势。 2014年 2014年,POTS币的价格在2美分左右浮动,市值不到200万美元。由于市场的不稳定和潜在的法律风险,POTS币的涨幅有限。 2015年 2015年是POTS币的显著一年,它

  • 8 ORKAN币历史价格走势怎么样?

    ORKAN币历史价格走势怎么样?ORKAN币是一种去中心化的数字货币,它的价格走势一直备受关注。从2017年开始,ORKAN币开始进入数字货币市场,并在随后几年迅速崛起。在这篇文章中,我们将探讨ORKAN币的历史价格走势,以及它未来的发展前景。2017-2018年ORKAN币在2017年12月份发行,并在开售第一天迅速卖出了1亿个币。不久之后,ORKAN币的价格一路飙升。在2018年1月份,ORK

  • 9 ORO币的创始人是谁

    谁是ORO币创始人?ORO币,是2021年10月份新推出的数字货币种类。它在区块链技术的支持下,通过去中心化的方式,实现了P2P点对点交易。那么,这个新兴币种的创始人究竟是谁呢?ORO币的创始团队据了解,ORO币的创始团队实际上是一支由资深区块链开发者组成的专业团队。他们在数字货币行业从事多年,具备丰富的从业经验。因此,他们创造出来的ORO币,在技术上是非常成熟和可靠的。同样的,团队背后的区块链技

  • 10 OS币历史价格走势怎么样?

    OS币历史价格走势怎么样?OS币是一种基于开源区块链技术的数字货币,采用PoS共识机制,旨在为用户提供高速、可靠的支付和转账服务。自其发行以来,OS币价格经历了不少波动,下面让我们来看看其历史价格走势。2017年底,OS币以每个0.03元的价格上市,很快就受到了市场的热烈追捧,价格开始快速上涨。2018年1月,OS币价格一度飙升至每个10元以上,成为当时最受关注的新币之一。然而,随着市场炒作的降温