OpenAI又失去了两位领导者——这对AI安全意味着什么?

时间:2024-09-26 编辑: 浏览:(564)

就在OpenAI因发布其最新人工智能模型而引起全球关注的同一周,知名高管Ilya Sutskever和Jan Leike宣布他们将离开该公司。再加上Andrej Karpathy于2月离职,似乎最致力于安全、以人为中心的人工智能开发的人已经离开了公司。

在争夺大规模颠覆性行业主导权的激烈竞争中,人工智能领域的顶级公司是否失去了刹车踏板?

失败的政变

2023年初,联合创始人兼前首席科学家Sutskever被认为是一项有争议的罢免首席执行官Sam Altman的行动的幕后主使,据称他担心Sam Altman对人工智能安全协议漠不关心。奥特曼的戏剧性离职导致了令人窒息的头条新闻和广泛的谣言,但一周后奥特曼恢复了他的职位。

Sutskever很快发表道歉并辞去了OpenAI董事会的职务,此后再也没有发表任何公开声明或露面。

事实上,当OpenAI在周一发布其备受炒作的产品更新时,Sutskever显然缺席了。

仅仅两天后,萨斯克弗就宣布正式离职。他的辞职声明是亲切的,奥特曼的公开承认也是如此。

“近十年后,我决定离开OpenAI,”Sutskever写道。“该公司的发展轨迹堪称奇迹,我相信OpenAI将在(Sam Altman、Greg Brockman和Mira Murati)的领导下构建既安全又有益的AGI。

“能一起工作是我的荣幸和荣幸,我将非常想念每一个人,”他继续说道,并补充说,他将继续专注于一个对个人有意义的项目。

萨姆·奥特曼说:“这让我很难过;伊利亚无疑是我们这一代最伟大的人物之一,是我们这个领域的指路明灯,也是我们亲爱的朋友。没有他,OpenAI就不会是现在的样子。”

不久之后,OpenAI宣布Jakub Panochi将填补Sutskever的职位。帕诺奇之前担任研究总监,从事的工作更为技术性,主要专注于扩展人工智能。

但换防可能还有更多的意义。当Sutskever宣布辞职时,他只关注了几个推特账户,包括OpenAI和一个腊肠表情包账户。自称“人工智能中间派”的亚当·苏利克(Adam Sulik)回复了这一公告,暗示萨斯克弗无视任何他可能仍然是主体的保密协议,以人类的名义分享内幕信息。

Sutskever在Sulik发表评论后关注了他。。。几个小时后就不再跟他了。

事实证明,并不是只有萨斯克弗一个人走向出口。就在几个小时后,Jan Leike辞职了,他与Sutskever共同创立了OpenAI的“超级联盟”团队,以确保人工智能的道德和长期发展

没有玩笑,没有对OpenAI的赞扬,也没有来自OpenAI高管的反应。

莱克在加入OpenAI之前曾在谷歌的Deepmind工作。在后一家公司,超级协调团队专注于确保人工智能有望达到或超过人类智能的尖端系统与人类价值观和意图保持一致。

然而,人们对这群人工智能安全哨兵知之甚少。除了这两位领导人之外,OpenAI没有提供任何关于该部门的额外信息,除了有其他“来自[其]前调整团队的研究人员和工程师,以及来自公司其他团队的研究者”

苏利克还对莱克的辞职发表了评论,表达了他对事件发生时间的担忧。

他在推特上写道:“看到简在伊利亚之后立即离开,对人类的安全前进道路来说不是个好兆头。”。

OpenAI没有立即回应Decrypt的置评请求。

几个月前,OpenAI联合创始人Andrej Karpathy离开了公司,并在2月份表示他想从事个人项目。Karpathy曾在OpenAI担任研究科学家,并在ChatGPT培训期间参与了从计算机视觉应用到人工智能助理和关键开发的不同项目。2017年至2022年间,他离开公司五年,领导特斯拉的人工智能开发。

有了这三个离开,OpenAI就没有了一些最重要的思想来追求AGI的道德方法。

欺骗退出,新交易进入

有迹象表明,奥特曼的失败下台消除了人们对更有利可图但道德上模糊不清的机会的抵制。

例如,在恢复奥特曼后不久,OpenAI放松了对将其技术用于武器开发等潜在有害应用的限制——此前的指导方针完全禁止此类活动。

除了与五角大楼达成协议外,OpenAI还开设了一个插件商店,使任何人都可以设计和共享个性化的人工智能助手,有效地削弱了直接监督。最近,该公司开始“探索”成人内容的创作。

道德倡导者和指导方针的力量越来越弱,这不仅仅局限于开放人工智能。微软在1月份裁掉了其整个道德和社会团队,谷歌在同一个月也退出了其负责任的人工智能工作组。与此同时,Meta解散了其道德人工智能团队。与此同时,这三家科技巨头都在疯狂争夺人工智能市场的主导地位。

我们有明确的理由感到担忧。人工智能产品已经成为主流,这是一种每天有数十亿次互动的社会现象。不结盟的人工智能似乎越来越有可能对未来几代人在商业、政治、社区甚至家庭事务中的发展产生不利影响。

像“有效加速主义”这样的哲学运动的兴起——它重视快速发展而不是伦理担忧——加剧了这些担忧。

目前,剩下的主要谨慎堡垒似乎是开源开发、自愿参与人工智能安全联盟(如前沿模型论坛或MLCommons)以及政府的直接监管,从英国的《人工智能法案》到七国集团的人工智能行为准则。

最新 更多 >
  • 1 pig币值得投资吗

    Pig币是一种加密货币,目前市场上有很多加密货币项目,每个项目都存在一定的风险。在考虑投资Pig币之前,需要对其背后的技术、团队以及市场前景进行充分了解和评估。如果你相信Pig币的技术和团队能够取得成功,并且项目的前景看好,那么可以考虑投资一部分资金。但需要同时注意,加密货币市场波动性较大,投资需谨慎。

  • 2 sylo币简介

    Sylo币是一种基于区块链技术的数字货币,用于Sylo网络内的支付和交易。Sylo币的价值和用途在于支持Sylo网络上的各种应用和服务,如隐私通讯、数字资产管理等。Sylo币的特点包括去中心化、高度安全和隐私保护。用户可以使用Sylo币进行快速、安全和私密的交易,同时也可以参与Sylo网络生态系统的建设和治理。Sylo币的发行总量有限,具有稀缺性和价值保障的功能。

  • 3 女拖拉机手一元纸币值多少钱第三版

    女拖拉机手一元纸币是中国第三版人民币,价值为一元。这种纸币设计简洁而美观,背面图案为一只手握着耧车,象征着中国农村女性的辛勤劳动。这枚一元纸币在市面上并不常见,但具有一定的收藏价值和历史意义。

  • 4 trias币最新

    Trias币是Trias项目的原生代币,旨在打造一个基于可信计算技术的全球化智能合约平台。Trias采用了创新的三层架构,包括第一层的可信执行环境TEE,第二层的可信执行框架TVM和第三层的可信执行框架TVM。 Trias币作为Trias生态系统的数字资产,在平台内具有多种用途,包括支付网络费用、支持智能合约执行、参与治理投票等。通过持有Trias币,用户可以享受更多的服务和权益,同时也可以参与T

  • 5 tnb币有可能涨到10块吗

    根据市场的趋势以及项目基本面等因素来看,TNB币涨到10块的可能性是存在的。然而,投资涉及风险,价格涨跌不可预测。请做好投资前的充分了解和风险把控。

  • 6 prs币价值

    PRS币是PressOne平台上的数字货币,用于在平台上进行交易和支付服务费用。其价值受市场供需关系影响,随着用户和项目参与者的增加,其价值有望增长。同时,PressOne平台也不断推出新的服务和功能,有助于提升PRS币的使用需求和市场认可度。总的来说,PRS币的价值取决于其在PressOne生态系统中的地位和实际应用情况。

  • 7 pha币有潜力吗?

    PHA币是由Phala Network团队推出的加密货币,旨在为用户提供隐私和数据安全保护。作为基于Substrate构建的跨链隐私协议,PHA币具有较高的技术实力和前景。其团队拥有丰富的研发经验,并与众多区块链项目合作,展现出良好的发展潜力。总体来说,PHA币在区块链领域具有较大的发展空间和潜力。

  • 8 儿童歌曲

    这首儿童歌曲描述了一个快乐的日子,孩子们在阳光明媚的天气下放风筝、追逐彩虹、唱歌跳舞,一起度过愉快的时光。歌曲中充满了童心的快乐与无忧的笑声,让人感受到纯真与幸福。通过这首歌曲,传递给孩子们无尽的快乐与美好的童年时光。

  • 9 oxy币怎么样

    oxy币是一种新兴的加密货币,它的特点是去中心化和匿名性。它被设计用于保护用户的隐私和安全,使交易更加安全和私密。目前,oxy币在加密货币市场上受到越来越多投资者的青睐,其价格也逐渐上涨。尽管oxy币的未来发展仍存在不确定性,但它的创新设计和独特特性让人们对其有着很高的期待。

  • 10 手机上最火3个挖矿软件有哪些

    1. 衡山矿池:这是一款手机上非常火爆的挖矿软件,用户可以通过购买矿机来挖取比特币等数字货币。用户可以在手机上直观地查看矿池信息和挖矿收益。 2. 矿圈:矿圈是一款专门为手机用户设计的挖矿软件,用户可以通过矿圈快速开始挖矿,获取收益。软件提供了实时的挖矿数据和报告,让用户可以轻松地监控自己的挖矿情况。 3. 北极矿机:这是另一款备受欢迎的手机挖矿软件,用户可以在手机上购买矿机、挖取矿币并获得丰厚的