以太坊创建者Vitalik Buterin警告不要仓促进入“非常危险”的超级智能

时间:2024-09-22 编辑: 浏览:(329)

以太坊背后的主谋Vitalik Buterin呼吁对人工智能研究采取更谨慎的方法,称当前的前沿狂热“非常危险”。在回应加密智能公司Messari首席执行官Ryan Selkis对OpenAI及其领导层的批评时,世界第二大影响力区块链的创建者概述了他对人工智能联盟的看法,这是推动发展的核心原则。

Buterin断言:“超级智能人工智能风险很大,我们不应该仓促行事,我们应该反对那些尝试的人。请不要有7万亿美元的服务器场。”

超级人工智能是人工智能的一种理论形式,几乎在所有领域都超越了人类智能。尽管许多人认为通用人工智能(AGI)是新兴技术全部潜力的最终实现,但超级智能模型将是下一步的发展方向。尽管当今最先进的人工智能系统尚未达到这些阈值,但机器学习、神经网络和其他人工智能相关技术的进步仍在继续,人们时而兴奋,时而担忧。

Messari在推特上表示“AGI对我们来说太重要了,不能神化另一个能说会道的自恋者”,Buterin强调了多元化人工智能生态系统的重要性,以避免人工智能的巨大价值被极少数人拥有和控制。

他说:“在消费硬件上运行的开放模型的强大生态系统是一种重要的对冲措施,可以防止人工智能获取的价值高度集中,大多数人类思想由少数人控制的少数中央服务器读取和调解。”。“就厄运风险而言,这种模式也比企业自大狂和军队低得多。”

这位以太坊创始人一直在密切关注人工智能领域,最近称赞了开源LLM Llama3模型。他还表示,在一项研究认为人类的反应与人工智能产生的反应无法区分后,OpenAI的GPT-4o多模式LLM本可以通过图灵测试。

Buterin还谈到了将人工智能模型分为“小”和“大”两类,重点关注“大”模型的监管是合理的优先事项。然而,他表示担心,随着时间的推移,目前的许多提案可能会导致所有内容都被归类为“大型”。

Buterin发表上述言论之际,围绕人工智能联盟和OpenAI超级联盟研究团队关键人物的辞职展开了激烈的辩论。Ilya Sutskever和Jan Leike已经离开了公司,Leike指责OpenAI首席执行官Sam Altman将“闪亮的产品”置于负责任的人工智能开发之上。

另据透露,OpenAI有严格的保密协议(NDA),禁止员工在离职后讨论公司。

关于超智能的高级别、长期的辩论变得更加紧迫,专家们表达了担忧,同时提出了各种各样的建议。

Paul Christiano曾领导OpenAI的语言模型比对团队,他成立了比对研究中心,这是一个非营利组织,致力于将人工智能和机器学习系统与“人类利益”进行比对。据Decrypt报道,Christiano表示,“在我们拥有人类层面的系统后不久,灾难的可能性可能会减半。”

另一方面,Meta首席研究员Yann LeCun认为,这种灾难性的情况极不可能发生。早在2023年4月,他就在一条推文中表示,“硬起飞”的情景“完全不可能”。LeCun断言,短期人工智能的发展对人工智能的进化方式产生了重大影响,形成了其长期轨迹。

相反,布特林认为自己是一个中间派。在他今天批准的2023年的一篇文章中,他承认“在一个“友好”的超级智能人工智能主导的世界里,人类不是宠物”,但他也认为“通常情况下,我们文明的技术版本N会导致问题,而版本N+1会解决问题。然而,这并不是自动发生的,需要人类的有意努力。”换句话说,如果超级智能成为一个问题,人类可能会找到解决问题的方法。

OpenAI更谨慎的结盟研究人员的离职,以及该公司对安全政策的转变,引发了更广泛的主流担忧,即主要人工智能初创公司缺乏对道德人工智能发展的关注。事实上,据报道,谷歌、Meta和微软也解散了负责确保人工智能安全开发的团队。

由Ryan Ozawa编辑。

最新 更多 >
  • 1 以太坊ETF举步维艰,但贝莱德的ETHA挑战了看跌趋势——如何?

    ETH ETF面临资金外流,而贝莱德的ETHA资金流入接近10亿美元。Grayscale的GBTC和ETHE出现了大量资金外流,而贝莱德的IBIT则吸引了资金流入。 以太坊[ETH]交易所交易基金(ETF)一直在努力与比特币[BTC]ETF的表现相匹配。 虽然比特币ETF经常创下大量资金流入的记录,但以太坊ETF却落后了。 贝莱德以太坊ETF更新 据Farside Investors称,8月9日市

  • 2 IG集团任命William Mead为运营主管

    William Mead今天(星期一)在领英上宣布,他已担任IG集团运营主管的新职位。 从交易到运营 Mead曾在IG Group担任过多个职位。2019年10月至2024年8月,他担任交易运营主管。在此之前,从2017年1月到2019年10月,他担任信贷和客户资金全球主管。客户资金是指公司为客户接收或持有的资金或保证金,可以是现金、支票、汇票或电子转账形式的任何货币。公司以利益相关者的形式持有的

  • 3 QCP Capital表示,比特币和以太坊正在经历“买入下跌”时刻

    总部位于新加坡的加密资产交易公司QCP Capital认为,比特币(BTC)和以太币(ETH)这两种最大的加密货币目前正经历“逢低买入”的时刻。根据QCP Capital的数据,该资产价值最近的下跌是美国上周发布的官方报告中的混合经济数据。 周五,非农就业数据显示,5月份新增27.2万个工作岗位,比预测的18.5万个增加47%。尽管失业率有所上升,但仍从3.9%小幅上升至4%。据报道,混合数据导致

  • 4 从五个经典案例看代币迁移与合并的策略与影响

    作者:panadol girl 来源:@cornergirl999 翻译:善欧巴,如果你是一个项目创始人,想要升级或迁移旧代币、与其他代币合并、赋予其“第二次生命”,并重新设计代币经济学和实用性,那么这篇文章可能对你有帮助。有些人可能会说,项目只有一次机会正确地发行代币(我同意,在所有条件都完美的情况下),但事实是,市场和叙事会变化,团队的战略和愿景也会改变,甚至社区的期望也会随着时间的推移而改变

  • 5 币安关于这6种山寨币的重要公告

    TL;博士 币安将摘牌六种山寨币,导致这些资产价格大幅下跌。由于流动性减少和市场恐慌等各种原因,这些努力在历史上引发了价格暴跌。 最新更新 这家全球最大的加密货币交易所定期审查其平台上列出的每项数字资产,以确保其“继续满足高水平的标准和行业要求” “当硬币或代币不再符合这些标准或行业格局发生变化时,我们会进行更深入的审查,并可能将其摘牌。我们的首要任务是确保为用户提供最佳服务和保护,同时继续

  • 6 Cartesi生态系统#12

    8月2日 - 7月是一个非常忙碌的月份,其中以EthCC为亮点。Cartesi共参加了七场活动:我们主办或协办了两场,作为合作伙伴或赞助商参加了五场。周的亮点是与Cartesi共同举办的“Drinks & Debate”活动,我们邀请了一些来自顶级项目的杰出发言者,讨论了互操作性和欺诈证明等重要话题!剧透一下,Felten在第一个小组讨论中表现得相当激烈。让我们也来庆祝Honeypot达到100万

  • 7 Tradeweb重组执行团队:总裁Thomas Pluta离职,Amy Clack加盟首席执行官

    Tradeweb Markets宣布对其领导团队进行重大调整。该公司已任命艾米·克拉克为新任首席行政官,自2024年8月起生效,而总裁托马斯·普鲁塔将于今年晚些时候离职。 经验丰富的金融服务专家 Clack是一位经验丰富的高管,在金融服务领域拥有超过25年的经验。她将从富国银行的企业和投资银行部门加入Tradeweb。她的专业背景包括担任瑞士信贷投资银行和资本市场首席运营官。 Tradeweb首席

  • 8 Summer.fi推出$RAYS积分以奖励用户参与度

    英国伦敦,2024年6月20日,Chainware 去中心化金融平台Summer.fi宣布推出$RAYS,这是一种新的积分系统,旨在激励和奖励用户使用其应用程序和支持的协议。 奖励计划分三个关键阶段设计,如下所述: 1:追溯参与 2024年6月18日,我们拍摄了一张快照,以识别过去和现在的Summer.fi用户,以及目前在更广泛的DeFi生态系统中使用各种协议和服务的用户,以及拥有活动钱包的用户

  • 9 Martin Shkreli声称Barron Trump创建了DJT代币后,TrumpCoin价格飙升68%,而这个基础Meme Coin ICO变成了抛物线

    随着投资者争相购买政治迷因币,TrumpCoin的价格在过去24小时内飙升68%,截至美国东部时间上午7:45,交易价格为0.01815美元。 DJ价格飙升之前,马丁·什克里里(Martin Shkreli),也被称为“制药兄弟”,表示他帮助美国前总统唐纳德·特朗普18岁的儿子巴伦·特朗普推出了TrumpCoin。

  • 10 随着科技股下跌,加密货币市场走低

    在商业情报公司MicroStrategy额外收购11931比特币后,加密货币市场于周五上午开始反弹。 然而,在纳斯达克指数创下19980点的历史新高后,由于科技股的抛售,市场出现了逆转。 比特币当日交易持平,以太坊下跌0.6%。索拉纳下跌2.5%。BTC价格 与此同时,区块链分析公司Arkham报告称,德国政府一直在抛售BTC,迄今已售出不到2亿美元。 MicroStrategy的收购金额为7.8