Near Protocol创始人表示,人工智能不会毁灭人类——除非我们告诉它

时间:2024-09-20 编辑: 浏览:(477)

Near Protocol的联合创始人、支撑现代人工智能系统的变压器技术的创造者之一伊利亚·波洛苏金表示,除非明确编程,否则人工智能系统不太可能摧毁人类。

在最近接受美国消费者新闻与商业频道采访时,Polosukhin分享了他对人工智能现状、潜在风险和未来发展的见解。Polosukin是谷歌2017年开发变压器架构团队的一员。他强调了将人工智能理解为一个有明确目标的系统,而不是一个有感知能力的实体的重要性。

Polosukhin说:“人工智能不是人,它是一个系统。这个系统有一个目标。”。“除非有人去说,‘让我们杀死所有人’……否则它不会神奇地去做。”

他解释说,除了没有为此目的进行训练外,人工智能也不会这么做,因为在他看来,缺乏实现这一目标的经济激励。

Polosukhin说:“在区块链世界里,你会意识到一切都是由经济驱动的。”。“因此,没有任何经济学驱使你去杀人。”

当然,这并不意味着人工智能不能用于这个目的。相反,他指出了一个事实,即人工智能不会自主决定这是一个正确的行动方案。

他澄清道:“如果有人使用人工智能开始制造生物武器,这与他们试图在没有人工智能的情况下制造生物武器没有什么不同。”。“发动战争的是人,而不是人工智能。”

并不是所有的人工智能研究人员都认同Polosukhin的乐观态度。Paul Christiano曾是OpenAI语言模型比对团队的负责人,现在是比对研究中心的负责人。他警告说,如果没有严格的比对——确保人工智能遵循预期的指令——人工智能可能会在评估过程中学会欺骗。

他解释说,人工智能可以在评估过程中“学会”如何撒谎,如果人类增加对人工智能系统的依赖,可能会导致灾难性的结果。

他在Bankless播客上说:“我认为,在许多人或大多数人死亡的情况下,人工智能接管的可能性大约为10-20%。”。“我非常认真。”

加密生态系统中的另一位主要人物,以太坊联合创始人Vitalik Buterin警告说,不要对人工智能培训采取过度有效的加速主义(e/acc)方法,这种方法将技术开发置于其他任何事情之上,将盈利置于责任之上。Buterin 5月在推特上回应Messari首席执行官Ryan Selkis时表示:“超级智能人工智能风险很大,我们不应该仓促行事,我们应该反对那些尝试的人。”。“请不要7万亿美元的服务器场。”

Polosukhin在驳斥了对人工智能驱动的人类灭绝的担忧的同时,强调了对该技术对社会影响的更现实的担忧。他指出,对人工智能驱动的娱乐系统上瘾的可能性是一个更紧迫的问题,并将其与电影《白痴政治》中描绘的反乌托邦场景相提并论

Polosukhin提醒道:“更现实的情况是,我们对系统中的多巴胺有点上瘾。”对于开发者来说,许多人工智能公司“只是想让我们娱乐”,采用人工智能并不是为了实现真正的技术进步,而是为了对人们更有吸引力。

采访结束时,Polosukhin对人工智能训练方法未来的思考。他表示相信,有可能实现更高效、更有效的训练过程,使人工智能更节能。

“我认为这是值得的,”Polosukhin说,“它肯定会给整个空间带来很多创新。”

最新 更多 >
  • 1 ZachXBT揭露Solana Memecoin团队新的500万美元加密骗局

    一次备受瞩目的黑客攻击再次震撼了加密货币世界,这次攻击的目标是一位知名加密货币影响者的账户。 On May 26, the 巨人灌篮重生(GCR) account was compromised, leading to significant financial manipulations. The investigation, led by on-chain sleuth ZachXBT, ha

  • 2 唐纳德·特朗普是加密货币的总统宠儿,问问Memecoins就知道了

    比特币和以太坊ETF推动了加密货币市场在2024年的反弹,但唐纳德·特朗普可能是下一个重要的催化剂。 周末,这位美国前总统在自由意志主义全国代表大会上发表讲话,发誓要保护加密货币持有者的自我监护权。 在演讲之前,他在Truth社交媒体上发帖称,他“对加密货币公司以及与这个新兴行业相关的所有事情都非常积极和开放。” 他补充道:“我们的国家必须成为这一领域的领导者,没有第二名。”。 Memec

  • 3 区块链如何赋能金融科技领域的创新?

    在数字时代的浪潮中,金融科技正以前所未有的速度发展。区块链作为新一代信息技术,以其不可篡改、去中心化、信用传递等特性,成为金融科技界冉冉升起的一颗新星,为金融领域带来了前所未有的机遇。区块链,这个听起来有些神秘的技术,实际上是一种分布式账本,记录着网络中的每一笔交易。它就像是一本永远无法被修改的“天书”,保证了信息的真实性和完整性。这种特性让区块链在金融领域大放异彩,为金融安全提供了坚实的保障。在

  • 4 Grayscale的现货以太ETF面临1.1亿美元的潜在日流出:Kaiko

    Kaiko的一份报告显示,如果Grayscale即将推出的现货以太币交易所交易基金(ETF)遵循该公司比特币信托在其第一个月设定的趋势,其平均每天可能流出1.1亿美元。 这一预测是在美国证券交易委员会上周批准现货以太交易所买卖基金之后做出的。 Grayscale的ETH ETF流出可能达到1.1亿美元 灰度比特币信托(GBTC)于1月11日从封闭式基金转变为ETF。据Kaiko分析师5月27日报道

  • 5 以太坊现货ETF获批:引发ETH价格暴涨市场热议达到高潮

    2024年5月24日,北京时间,以太坊现货ETF正式获得美国证券交易委员会(SEC)的批准,成为继比特币之后,美国主权政府承认的又一加密货币基金产品。这一意外的利好消息引发了加密货币市场的狂欢,以太坊(ETH)价格迅速暴涨,市场热议达到高潮。以太坊的荣耀时刻以太坊,被誉为“万链之王”,是一款去中心化、开源并具备智能合约功能的公共区块链平台,以太币(ETH)是其原生加密货币。自2015年7月30日正

  • 6 DWV行情周报 | 降息预期受挫、美国政治力挺数字资产

    一、上周回顾投资者在五月经历了过山车般的降息预期变化。月初,市场在鲍威尔的鸽派发言及低迷就业报告双重影响下,对降息的期待骤然升温。然而时至今日,市场参与者已悄然将降息预期的时间由9月延后至11月,并将年内降息次数下调为1次。上周美联储官员接连鹰派发言,会议纪要对当前利率能否有效遏制通胀提出质疑。美元指数周五回落,但全周反弹势头不改,创一个半月以来最强劲周涨。美股方面,主要指数走势分化:标普500指

  • 7 利好消息不断 数字藏品NFT发展正当时

    在数字资产的多元化浪潮中,数字藏品NFT市场一直是创新和变革的前沿阵地。近日,人民日报更是刊文,提出“以NFT为抓手发展元宇宙产业”,明确指出NFT在全球元宇宙产业加速演进中扮演着至关重要的角色。此消息一出,无疑为数字藏品NFT的发展注入了强心剂,也预示着数字藏品NFT发展正当时。 不只如此,全国各地大力发展元宇宙、数字经济的政策不断推出,也为数字藏品NFT发展创造了足够的发展空间。比如,福建表示

  • 8 加拿大"四分之一"集成交易视图

    加拿大在线经纪公司Questrade将其服务与 TradingView 集成,使用户能够轻松访问市场数据. 专用的外汇云解决方案,可实现高需求场景的稳定和快速跨境连接.阿里巴巴云帮助外汇交易者在全球范围内运营安全. 点击了解更多! 访问交易视图图和分析 根据新闻稿,用户可以导航到交易面板,点击Questrade标签,并输入他们的经纪人账户凭证.这种连接增强了交易体验,允许用户利用Questra

  • 9 "捡钱"时代已过散户通过加密资产赚钱将越来越难

    来源:白话区块链 最近一年,你有没有遇到过 Rug Pull(撤池子,跑路)项目?有没有因为喊单 KOL 的鼓吹而遭遇“买入即巅峰”?或者遭受越来越猖獗的钓鱼攻击导致的损失?亦或是在头部平台买入新上线的 Token 后一路跌跌不休? 估计不少用户都心有戚戚,中招至少一类场景,可以说,这应该是绝大部分普通投资者在过去一段时间投资经历与真实心境的写照: 无论是链上安全问题还是资产缩水问题,对于用户来

  • 10 加密鲸预测,随着多个交易所交易的开始,Retik Finance(Retik)在6月前将上涨10倍

    一位著名的加密货币巨头预计,Retik Finance(Retik)在6月之前将增长十倍。这一预测是在革命性的DeFi项目开始在多个集中交易所(CEX)进行交易之际做出的。Retik Finance(Retik)是DeFi的后起之秀,它提供创造性的解决方案来满足客户在数字经济中不断变化的要求。Retik Finance的主要目标是利用区块链技术实现金融服务的民主化。为此,它为消费者提供了工具,包括