前OpenAI首席科学家启动“安全”竞争对手人工智能实验室

时间:2024-09-25 编辑: 浏览:(250)

著名人工智能研究员、OpenAI前首席科学家Ilya Sutskever成立了一家新的人工智能研究公司,该公司将专注于他和其他批评者所说的前雇主的盲点:安全。

他的新公司Safe Superintelligence股份有限公司(SSI)由苹果公司前人工智能主管Daniel Gross和曾在OpenAI工作的Daniel Levy共同创立。该公司的唯一目标是同时提高人工智能的安全性和能力。

这家新公司周三在推特上写道:“我们将以一个焦点、一个目标和一种产品,直截了当地追求安全的超级智能。”。“我们将通过一个小团队的革命性突破来实现这一目标。”

Sutskever去年离开OpenAI之前,内部关系紧张,包括对安全问题的担忧退居利润之后。对于SSI,他旨在避免大型人工智能公司经常面临的管理开销或产品周期的干扰。

SSI网站上的一份官方声明写道:“我们的商业模式意味着安全、保障和进步都与短期商业压力隔绝。”。“这样,我们就可以和平地扩大规模。”

SSI将是一个纯粹以研究为重点的组织,而不是OpenAI目前的商业模式,后者包括其人工智能模型的商业化。顾名思义,SSI的第一个也是唯一一个产品将是一个安全的超级智能。

Sutskever向彭博社解释道:“我们所说的安全,是指像核安全这样的安全,而不是‘信任和安全’这样的安全。”。

该公司的使命是扩大伊利亚对与人类利益“超协调”的关注,纯粹专注于开发,而不是他所说的分散OpenAI注意力的“闪亮产品”。

Sutskever认为,SSI的人工智能系统在准备就绪后,将比当前的大型语言模型更通用,能力更广泛。最终目标是创造一种“安全的超级智能”,它不会伤害人类,并将基于自由和民主等价值观运作。

他告诉彭博社:“在最基本的层面上,安全的超级智能应该具有不会大规模伤害人类的特性。”。

SSI将在美国和以色列设立总部,目前正在招聘。

这家新公司在推特上写道:“我们提供了一个做你一生工作的机会,并帮助解决我们这个时代最重要的技术挑战。”。

在关键成员离职后,OpenAI决定解散负责长期人工智能安全的超级校准团队。

Sutskever是OpenAI董事会的一员,该董事会最初出于安全考虑解雇了首席执行官Sam Altman,但几天后Altman被他控制的新董事会复职。在这些事件之后,奥特曼控制下成立了一个新的安全团队,许多负责制定安全措施的成员要么被解雇,要么被调动,要么被迫辞职。

例如,前OpenAI安全研究员Leopold Aschenbrenner最近批评该公司的安全实践“严重不足”。他目前正在一家专注于AGI开发的投资公司工作,该公司是他与Patrick Collison、John Collison、Nat Friedman和Gross共同创立的,Gross也与Sutskever共同创立了SSI。

除了Aschenbrenner,OpenAI调整团队前负责人Jan Leike也与Sutskever一起离开了公司,并批评该公司将盈利能力置于安全之上。辞职后不久,他宣布将加入竞争对手Anthropic公司,该公司由前OpenAI研究人员创立,他们担心该公司在安全人工智能开发方面的糟糕做法。

OpenAI的政策研究员格雷琴·克鲁格(Gretchen Krueger)离开了该公司,理由是莱克和萨斯克弗也有同样的担忧。

前董事会成员进一步指责萨姆·奥特曼在工作环境中培养了一种“有毒文化”。董事会的新成员对这些指控提出了质疑,此后,在公众强烈抗议后,OpenAI解除了员工的非贬损协议,并从离职文件中删除了有争议的条款。

由Ryan Ozawa编辑。

最新 更多 >
  • 1 只有6%的比特币尚未开采:这对BTC意味着什么?

    只有6%的比特币总供应量仍有待开采,因为美国移动了10000个比特币。比特币的热图显示,随着市场风险的降低,比特币的供应量有所减少。 最近,全球主要政府和大型金融公司的兴趣提振了加密货币市场,尤其是比特币[BTC]。 2024年4月减半事件后,比特币的供应量减少,只有6%未开采,正如比特币新闻在X(前身为推特)上所指出的那样。 分析师预测,到2030年,可用于挖矿的比特币将不到1%。随着需求的增加

  • 2 美国消费超强比特币「冲高急坠」插针5.6万、以太坊下杀2515美元 浇熄Fed降2码预期

    美国商务部公布7 月份零售销售数据,结果大幅高于市场预期,缓解投资者预期经济衰退的疑虑后,美股四大指数拉涨。不过比特币则在短暂拉高后又持续下跌,一度插针5.6 万美元。美国商务部昨(15)晚20:30 公布7 月份零售销售报告,结果月增幅1.0%,创下2023 年1 月以来新高、远超市场预期的0.4%;年增率2.66%,表明消费者即使在面对高物价和高借贷成本下,仍保持着弹性。不过值得注意的是,虽然

  • 3 Tron基金会取得“法律胜利”-法官拒绝美国证券交易委员会的要求

    一名联邦法官驳回了美国证券交易委员会加快特隆证券案的请求。Tron的辩护挑战了美国证券交易委员会对Howey Test元素的理解。 在Tron基金会和美国证券交易委员会(SEC)之间的法律冲突中,出现了一个显著的发展。 最近的报道显示,Tron基金会及其创始人Justin Sun在法律上取得了重大胜利。 Tron战胜SEC? 纽约的一名联邦法官拒绝了美国证券交易委员会加快对Tron[TRX]正在进

  • 4 Midjourney启动了其AI图像编辑器——以下是使用方法

    Midjourney最近宣布对其图像编辑器进行更新,使其网络界面更加强大和有吸引力。编辑器的web界面现在比仍然可以通过Discord使用的老派编辑器更强大,Discord是Midjourney的原生生态系统。这似乎也表明Midjourney正在采取更广泛的举措,试图开发自己的界面作为图像生成的首选,类似于Leonardo或Ideogram正在做的事情。 该功能还使Midjourney与OpenA

  • 5 比特币继续吸引大量鲸鱼投资-COINTURK NEWS

    比特币的交易额仍在6万至7万美元之间。链上分析显示出一波新的乐观情绪。链上分析师Willy Woo在5月7日强调,高净值BTC投资者正在迅速积累。内容比特币图表和鲸鱼比特币价格会上涨吗?

  • 6 LUNA飙升13%——LUNC的价格紧随其后的可能性是…

    LUNA周围的市场情绪依然看跌。然而,LUNC的价格走势转为看涨。 Terra[LUNA]最近卷土重来,其人气在过去几个小时内急剧上升。正因为如此,该代币开始在X(前身为Twitter)上流行起来。 这种突然的热议背后的原因可能是其看涨的价格行为。 LUNA在加油! CoinMarketCap的数据显示,Terra的价值在过去24小时内飙升了13%以上。 在撰写本文时,该代币的交易价格为1.28美

  • 7 AAVE加密货币会飙升至121美元吗?这个关键级别有答案

    AAVE加密货币经历了看涨的交叉,表明价格可能在短期内上涨。未平仓合约上涨了43.31%,表明零售购买量强劲。 Aave的[AVAE]价格在过去24小时内飙升了7.22%,而其交易量几乎翻了一番,达到2.2亿美元,增长了93.26%,这表明买卖双方互动频繁。 正如创始人Stani Kulechov所宣布的那样,市场活动的激增可能与过去几天AAVE的每周DeFi借贷量创下历史新高有关。 最近的反弹推

  • 8 金融巨头、养老基金纷纷杀入加密市场,比特币“中心化”风险加剧

    本报(chinatimes.net.cn)记者赵奕 上海报道8月15日,根据各大机构向美国SEC提交的季度文件,高盛和摩根士丹利在今年第二季度已累计买入超6亿美元的现货比特币ETF。此外,养老基金也在加速入场,美国密歇根州养老基金在第二季度买入660万美元的比特币现货ETF。“头部金融机构和养老基金对比特币ETF的增持,代表了数字资产市场与传统金融市场进一步融合的趋势,这将对比特币市场的长期发展产

  • 9 前高盛高管拉乌尔·帕尔表示,以太坊的顶级竞争对手可能会飙升600%以上

    前高盛高管拉乌尔·帕尔对以太坊(ETH)的大盘股竞争对手表示乐观。 在接受华尔街资深人士Anthony Scaramucci的采访时,Pal表示,到当前周期结束时,Solana(SOL)的价格可能会飙升至“可能超过1000美元”,这意味着从目前的水平至少上涨604%。 “我认为对我来说,最坏的情况是800美元,中等的情况是1200美元。爆炸顶部的大写金额为2500美元。” 在撰写本文时,Solan

  • 10 据报道,尼日利亚因被拘留的高管逃跑而对Binance提出逃税指控

    随着实体之间的传奇故事加深,尼日利亚政府以四项逃税指控猛烈抨击了世界上最大的加密货币交易所币安。 据当地媒体《高级时报》报道,3月22日,联邦税务局(FIRS)向首都阿布贾的联邦高等法院提出指控,同一天,自2月以来被拘留的币安高管之一Nadeem Anjarwalla逃离了经济和金融犯罪委员会(EFCC)的羁押。 币安面临逃税指控 FIRS提到Anjarwalla和Tigran Gambaryan