以太坊创建者Vitalik Buterin警告不要仓促进入“非常危险”的超级智能

时间:2024-10-01 编辑: 浏览:(661)

以太坊背后的主谋Vitalik Buterin呼吁对人工智能研究采取更谨慎的方法,称当前的前沿狂热“非常危险”。在回应加密智能公司Messari首席执行官Ryan Selkis对OpenAI及其领导层的批评时,世界第二大影响力区块链的创建者概述了他对人工智能联盟的看法,这是推动发展的核心原则。

Buterin断言:“超级智能人工智能风险很大,我们不应该仓促行事,我们应该反对那些尝试的人。请不要有7万亿美元的服务器场。”

超级人工智能是人工智能的一种理论形式,几乎在所有领域都超越了人类智能。尽管许多人认为通用人工智能(AGI)是新兴技术全部潜力的最终实现,但超级智能模型将是下一步的发展方向。尽管当今最先进的人工智能系统尚未达到这些阈值,但机器学习、神经网络和其他人工智能相关技术的进步仍在继续,人们时而兴奋,时而担忧。

Messari在推特上表示“AGI对我们来说太重要了,不能神化另一个能说会道的自恋者”,Buterin强调了多元化人工智能生态系统的重要性,以避免人工智能的巨大价值被极少数人拥有和控制。

他说:“在消费硬件上运行的开放模型的强大生态系统是一种重要的对冲措施,可以防止人工智能获取的价值高度集中,大多数人类思想由少数人控制的少数中央服务器读取和调解。”。“就厄运风险而言,这种模式也比企业自大狂和军队低得多。”

这位以太坊创始人一直在密切关注人工智能领域,最近称赞了开源LLM Llama3模型。他还表示,在一项研究认为人类的反应与人工智能产生的反应无法区分后,OpenAI的GPT-4o多模式LLM本可以通过图灵测试。

Buterin还谈到了将人工智能模型分为“小”和“大”两类,重点关注“大”模型的监管是合理的优先事项。然而,他表示担心,随着时间的推移,目前的许多提案可能会导致所有内容都被归类为“大型”。

Buterin发表上述言论之际,围绕人工智能联盟和OpenAI超级联盟研究团队关键人物的辞职展开了激烈的辩论。Ilya Sutskever和Jan Leike已经离开了公司,Leike指责OpenAI首席执行官Sam Altman将“闪亮的产品”置于负责任的人工智能开发之上。

另据透露,OpenAI有严格的保密协议(NDA),禁止员工在离职后讨论公司。

关于超智能的高级别、长期的辩论变得更加紧迫,专家们表达了担忧,同时提出了各种各样的建议。

Paul Christiano曾领导OpenAI的语言模型比对团队,他成立了比对研究中心,这是一个非营利组织,致力于将人工智能和机器学习系统与“人类利益”进行比对。据Decrypt报道,Christiano表示,“在我们拥有人类层面的系统后不久,灾难的可能性可能会减半。”

另一方面,Meta首席研究员Yann LeCun认为,这种灾难性的情况极不可能发生。早在2023年4月,他就在一条推文中表示,“硬起飞”的情景“完全不可能”。LeCun断言,短期人工智能的发展对人工智能的进化方式产生了重大影响,形成了其长期轨迹。

相反,布特林认为自己是一个中间派。在他今天批准的2023年的一篇文章中,他承认“在一个“友好”的超级智能人工智能主导的世界里,人类不是宠物”,但他也认为“通常情况下,我们文明的技术版本N会导致问题,而版本N+1会解决问题。然而,这并不是自动发生的,需要人类的有意努力。”换句话说,如果超级智能成为一个问题,人类可能会找到解决问题的方法。

OpenAI更谨慎的结盟研究人员的离职,以及该公司对安全政策的转变,引发了更广泛的主流担忧,即主要人工智能初创公司缺乏对道德人工智能发展的关注。事实上,据报道,谷歌、Meta和微软也解散了负责确保人工智能安全开发的团队。

由Ryan Ozawa编辑。

最新 更多 >
  • 1 比特币(BTC)触及6100美元,而以太坊(ETH)的下跌趋势放缓:Furrever代币(FURR)的20000美元竞赛点燃了加密货币的热情

    随着比特币(BTC)飙升至6100美元,以太坊(ETH)显示出下降趋势放缓的迹象,加密货币市场活跃起来。在这片充满活力的景观中,Furrever代币(FURR)凭借其革命性的20000美元比赛成为激动人心和创新的灯塔。随着BTC和ETH成为头条新闻,FURR的社区驱动倡议点燃了新的热情,重塑了人们对加密领域可能发生的事情的看法。比特币(BTC)达到6100美元领先的加密货币比特币(BTC)市值为1

  • 2 ALTIMMUNE投资者新闻:受信任的投资者法律顾问ROSEN鼓励ALTIMMUNE,股份有限公司投资者在证券集体诉讼的重要截止日期之前获得法律顾问

    纽约,2024年5月12日(环球新闻)-- 原因:罗森律师事务所,一家全球投资者权利律师事务所,宣布在2023年12月1日至2024年4月26日(包括首尾两天)(“集体诉讼期”)代表Altimmuno,股份有限公司(NASDAQ:ALT)证券的购买者提起集体诉讼。已经提起集体诉讼。如果您希望担任首席原告,您必须在2024年7月5日之前向法院提起诉讼。 那么:如果您在上课期间购买了Altimmune

  • 3 分析师表示,当前XRP周期的价格可能高达250美元

    加密货币分析师Block Bull预测,到2025年,XRP可能飙升至250美元,因为过去的周期和比特币减半趋势表明前景乐观。 XRP再次成为焦点,加密货币分析师、Youtuber Block Bull预测,到2025年,价格将大幅上涨。Block Bull的最新发现表明,XRP在当前周期内可能高达250美元。 在他的图表中,这位分析师概述了XRP从2017年周期到2021年峰值的轨迹。他强调了几

  • 4 5月11日,最值得投资的加密货币——Injective、Monero、Chiliz

    .This Analysis offers traders valuable insights into assessing the growth potential of different tokens. Several tokens are showing upward trends, indicating promising investment opportunities. The cr

  • 5 股东提醒:Pomerantz律师事务所代表Rayonier Advanced Materials股份有限公司投资者调查索赔-RYAM

    纽约,2024年5月12日(环球新闻)——Pomerantz LLP代表Rayonier Advanced Materials股份有限公司(“Rayonier”或“公司”)(NYSE:RYAM)的投资者调查索赔。建议此类投资者联系Danielle Peyton,电话:newaction@pomlaw.com或646-581-980,转7980。 调查涉及Rayonier及其某些高管和/或董事是否参

  • 6 Furrever代币Purr Fection:一种投资回报率为15倍的加密货币,吸引Shiba Inu和Solana的持有者

    纽约州纽约市,2024年5月11日(环球新闻)-- 随着加密货币市场的起伏和不可预测的波动,一些代币目前正处于其市场轨迹的关键阶段,呈现出各种各样的投资机会和风险。例如,Shiba Inu(SHIB)正徘徊在可能决定其短期市场走势的关键支撑水平上,而Solana(SOL)在测试一项关键技术指标时也面临着自身的不确定性。与此同时,Furrever Token(FURR)继续通过创新的营销策略吸引其社

  • 7 比特币(BTC)走势极度无聊到爆 反弹或许得等到后半年了 哪些山寨币容易拉盘?

    原文来源:币方社随着比特币价格在60,000美元至65,000美元之间徘徊,加密货币市场在本周的尾声呈现出一片略显黯淡的景象。最新的密歇根大学五月消费者报告未能达到市场预期,更广泛的消费者指标降至了六个月以来的最低水平。报告显示,未来一年的通胀预期从3.2%上升至3.5%,虽然相较于新冠疫情之前的水平仍显较高。美联储似乎陷入了一种两难境地,需要在应对经济放缓和抑制不断上升的通胀预期之间做出取舍。这

  • 8 两个巨鲸钱包在休眠十年后转移价值6100万美元的BTC

    作者:Brayden Lindrea,CoinTelegraph;编译:邓通,两个神秘的比特币 (BTC) 钱包总共持有 1,000 个比特币(按当前价格计算,价值 6100 万美元),在时隔 10 年之后突然苏醒,几乎转移出了所有比特币。根据 Blockchain.com 的比特币区块数据,钱包地址“16vRq…qjzEa”于世界标准时间 5 月 12 日晚上 7:10 在区块 843,131

  • 9 美国司法部任命咨询公司对加密货币交易所币安进行三年监控:报告

    据报道,在全球最大的加密货币交易所Binance承认违反美国反洗钱法规和制裁法后,美国司法部任命了一家总部位于伦敦的咨询公司担任Binance的外部监督员。 据彭博社报道,知情但不愿透露姓名的人士表示,司法部已选择司法风险联盟(FRA)对币安进行为期三年的监管,而不是之前的领先者、总部位于纽约的Sullivan&Cromwell律师事务所。 币安11月认罪协议的条件之一是任命一家独立公司来监督其合

  • 10 股东提醒:Pomerantz律师事务所宣布对蓝鸟生物股份有限公司提起集体诉讼-蓝色

    纽约,2024年5月12日(环球新闻)——Pomerantz LLP宣布,已对蓝鸟生物股份有限公司(“蓝鸟”或“公司”)(纳斯达克股票代码:BLUE)提起集体诉讼。建议此类投资者联系Danielle Peyton,电话:newaction@pomlaw.com或646-581-980,(或888.4-POMLAW),免费,分机7980。鼓励那些通过电子邮件查询的人提供他们的邮寄地址、电话号码和购买