前OpenAI安全研究员称“安全没有被优先考虑”

时间:2024-09-20 编辑: 浏览:(723)

前OpenAI安全研究员Leopold Aschenbrenner表示,该公司的安全实践“严重不足”。在周二发布的对Dwarkesh Patel的视频采访中,Aschenbrerner谈到了优先事项上的内部冲突,这表明人们将重点转向以牺牲安全为代价的人工智能模型的快速增长和部署。

他还说,他是因为把自己的担忧写下来而被解雇的。

在一次长达四个小时的广泛对话中,Aschenbrenner告诉Patel,他去年写了一份内部备忘录,详细说明了自己的担忧,并在公司外部知名专家中传阅。然而,在几周后发生重大安全事件后,他表示,他决定与几名董事会成员分享一份最新的备忘录。他很快就被OpenAI释放了。

Aschenbrenner说:“当他们解雇我时,他们问我的问题也可能是有益的……这些问题是关于我对人工智能进展的看法,对AGI的适当安全级别,政府是否应该参与AGI,我和超级联盟团队是否忠于公司,以及我在OpenAI董事会活动中的表现。”。

AGI,或通用人工智能,是指人工智能在任何领域都达到或超过人类智能,无论它是如何训练的。

在他短暂离职后,对公司或萨姆·奥特曼的忠诚成为一个关键因素:超过90%的员工签署了一封信,威胁要辞职以声援他。他们还推广了这样一句口号:“没有人,开放人工智能什么都不是。”

Aschenbrenner回忆道:“尽管有压力,但我在董事会活动期间没有签署员工信。”。

由Ilya Sutskever和Jan Leike领导的超级联盟团队负责建立长期的安全实践,以确保人工智能与人类的期望保持一致。包括Sutskever和Leike在内的该团队知名成员的离职带来了更多的审查。整个团队随后解散,并宣布成立一个新的安全团队……由首席执行官Sam Altman领导,他也是OpenAI董事会的成员。

Aschenbrenner表示,OpenAI的行为与其关于安全的公开声明相矛盾。

“另一个例子是,当我提出安全问题时,他们会告诉我安全是我们的首要任务,”他说。“当需要投入大量资源或权衡采取基本措施时,安全总是没有被优先考虑。”

这与莱克的声明一致,莱克表示,在奥特曼的领导下,团队正在“逆风航行”,“安全文化和流程已经退居闪亮产品的次要地位”。

Aschenbrenner还表达了对AGI发展的担忧,强调了谨慎方法的重要性,尤其是在许多人担心中国正在努力推动AGI研究超越美国的情况下。

他说,中国“将竭尽全力渗透到美国的人工智能实验室,数十亿美元,数千人……(他们)将试图超越我们。”“事关重大的不仅仅是酷炫的产品,还有自由民主能否生存。”

就在几周前,据透露,OpenAI要求其员工签署滥用保密协议(NDA),阻止他们公开谈论公司的安全做法。

Aschenbrenner表示,他没有签署这样的保密协议,但表示有人向他提供了约100万美元的股权。

为了回应这些日益增长的担忧,近十几名OpenAI现任和前任员工同时签署了一封公开信,要求有权在不担心报复的情况下谴责公司的不当行为。

这封信得到了Yoshua Bengio、Geoffrey Hinton和Stuart Russell等行业人士的支持,强调人工智能公司需要致力于透明度和问责制。

信中写道:“只要政府对这些公司没有有效的监督,现任和前任员工就是少数能够让他们对公众负责的人之一——然而,广泛的保密协议阻碍了我们表达我们的担忧,除了那些可能未能解决这些问题的公司。”。“普通的举报人保护是不够的,因为它们专注于非法活动,而我们担心的许多风险尚未受到监管。

“鉴于整个行业此类案件的历史,我们中的一些人有理由担心各种形式的报复,”报告继续说道。“我们不是第一个遇到或谈论这些问题的人。”

在限制性就业条款的消息传开后,萨姆·奥特曼声称他不知道这种情况,并向公众保证他的法律团队正在努力解决这个问题。

他在推特上写道:“在我们之前的退出文件中,有一条关于潜在股权取消的规定;尽管我们从未收回任何东西,但这不应该是我们在任何文件或通信中看到的。”。“这是我的责任,也是我为数不多的几次在运行OpenAI时感到真正尴尬的事情之一;我不知道这会发生,我应该知道。”

OpenAI表示,自那以后,它已将所有员工从有争议的非贬低协议中释放出来,并从离职文件中删除了该条款。

OpenAI没有回应Decrypt的置评请求。

最新 更多 >
  • 1 从BRC20到RUNES 比特币的赌场大迁移

    作者:Jaleel 加六 来源:X,@0xJaleel_ethRUNES 想做比特币网络上的「拉斯维加斯」,但 BRC20 不想成为「大西洋城」。说到世界上几个知名赌场,很多人的第一反应都是「拉斯维加斯」或者「澳门」,而坐落于新泽西州东南部的「大西洋城」,美国有史以来的第一座赌城早已没落,被人遗忘,即使「大西洋城」曾经一年净赚 30 亿美元。图源:网络在两周前的香港比特币会周 Ordinals A

  • 2 晚间必读篇 | 美国经济数据悲观 加密市场怎么走?

    1.特朗普被判34项重罪全部成立 事件影响全解析唐纳德·特朗普在曼哈顿刑事审判中被判34项伪造商业记录的重罪全部成立,成为美国历史上首位被定罪的前总统。这为2024年的美国总统大选注入了一个爆炸性和不可预测的新变量。特朗普经历了两次弹劾和无数其他丑闻,但在大多数民意调查中仍然领先拜登。点击阅读2.读懂四大再质押协议 谁是最终胜出者?EigenLayer 最近的 EIGEN“质押下降”并不是许多人所

  • 3 比特币价格下跌:缓慢下跌还是前方机遇?

    比特币价格延续跌势,跌破 67,200 美元。BTC 在 66,650 美元附近找到支撑,目前在区间内盘整。比特币飙升至 67,000 美元以下,但多头仍在行动。该价格目前高于 68,000 美元和 100 小时简单移动平均线。在 BTC/USD 对的小时图上,正在形成一个关键的上升通道,阻力位在 68,200 美元。如果该货币对稳定在 68,400 美元以上,则可能获得看涨势头。比特币价格徘徊在

  • 4 DingPay:重塑Web3支付的未来

    Web3被设想为“去中心化的网络生态系统”,使用户能够绕过互联网看门人并维护其数据的所有权。Web3区块链技术的实施将取代对单一服务器和集中式数据库的依赖。相反,数据将通过公共账本存储在互连的计算机网络上。有了去中心化的 Web3,互联网的功能将发生根本性的转变,将消除金融机构和科技公司在金融在线体验中充当中介的需要!DingPay认识到变革的必要性,拥抱被视为互联网下一阶段的 Web3时代,致力

  • 5 如果比特币达到 100 万美元 柴犬的价格会是多少?

    如果柴犬的价格落后于比特币,并且顶级加密资产达到 100 万美元的目标,那么它的价格可能会飙升至历史新高。作为第一个也是最大的加密资产,比特币 (BTC)经常决定整个加密市场的动向。该资产的价格在每个周期中飙升至新高,从而开启了之前的加密牛市。值得注意的是,市场的其他部分每次都紧随其后。市场观察人士预计,本轮周期也会出现类似情况,他们预测,在 BTC 达到本轮周期的峰值后不久,山寨币季(其他资产表

  • 6 被 LayerZero“猎巫”的人们:我们是制造链上虚假繁荣的“工具人”

    作者:Mia,ChainCatcher编辑:Marco,ChainCatcher在日常的撸空投之余,A哥这段时间的另一个工作重点是写申诉表格——他工作室200多个账号和100多个精品号,全部被LayerZero判定为女巫账号。“为了增加申诉成功的概率,团队用chatgpt写申诉,针对每一个账号填不同的理由,甚至使用不同语言。核心思想就是‘我是一个真实的用户’。”A哥对ChainCatcher表示。

  • 7 iFOREX推出AI交易助手,为用户提供即时支持

    外汇和差价合约经纪人iFOREX推出了一款人工智能交易助手,旨在回答交易员的问题。该工具可在iFOREX网站上获得,旨在增强整体交易体验。新产品可现场回答与交易相关的询问。 专用外汇云解决方案,具有稳定快速的跨境连接,能够满足高需求场景。阿里云帮助外汇交易员在全球范围内安全运营。点击了解更多! 根据新闻稿,人工智能助手既适合有经验的交易员,也适合初学者。它使用户能够理解市场概念,并无缝导航iFO

  • 8 交易员称大盘股Memecoin可能飙升140%+,更新Solana、Chainlink和一家以太坊竞争对手的展望

    一位广受关注的分析师和交易员预测,一种领先的模因币将获得三位数的收益,同时更新了他对其他三种加密资产的展望。 这位化名Altcoin Sherpa的交易员在社交媒体平台X上告诉他的216400名粉丝,Dogecoin(DOGE)可能飙升至0.40美元,比当前水平高出147%,“在我看来,这是本周期最安全的交易之一。” 关于他对市值最大的模因币持乐观态度的原因,这位化名分析师表示, “-零售业最终会

  • 9 新加坡星展银行否认成为6.5亿美元以太坊巨鲸

    新加坡最大的银行星展银行否认持有价值6.5亿美元的以太坊。 区块链地址0x9e927c02c9eadae63f5efb0dd818943c7262fb8e被认为是星展银行所有,目前拥有173387.85 ETH,价值650448199.75美元。 据南森称,该地址已从其持有的以太坊中获利超过2亿美元。这家链上数据公司表示,该钱包属于星展银行。 Nansen周四在推特上写道:“我们已经确认,

  • 10 智能合约在ZippyChain:为新一代Dapp提供动力

    引言在区块链的世界里,智能合约不仅是技术进步的象征,更是去中心化应用(DApps)的心脏。ZippyChain,作为一个前沿的区块链平台,正通过其创新的智能合约功能,为DApps注入前所未有的活力。本文将带您深入了解ZippyChain智能合约的独特之处,以及它们如何助力开发者打造下一代去中心化应用。智能合约的革新智能合约作为区块链技术的一项突破性应用,正在重新定义数字化交易和协议的执行方式。在Z