Near Protocol创始人表示,人工智能不会毁灭人类——除非我们告诉它

时间:2024-10-01 编辑: 浏览:(943)

Near Protocol的联合创始人、支撑现代人工智能系统的变压器技术的创造者之一伊利亚·波洛苏金表示,除非明确编程,否则人工智能系统不太可能摧毁人类。

在最近接受美国消费者新闻与商业频道采访时,Polosukhin分享了他对人工智能现状、潜在风险和未来发展的见解。Polosukin是谷歌2017年开发变压器架构团队的一员。他强调了将人工智能理解为一个有明确目标的系统,而不是一个有感知能力的实体的重要性。

Polosukhin说:“人工智能不是人,它是一个系统。这个系统有一个目标。”。“除非有人去说,‘让我们杀死所有人’……否则它不会神奇地去做。”

他解释说,除了没有为此目的进行训练外,人工智能也不会这么做,因为在他看来,缺乏实现这一目标的经济激励。

Polosukhin说:“在区块链世界里,你会意识到一切都是由经济驱动的。”。“因此,没有任何经济学驱使你去杀人。”

当然,这并不意味着人工智能不能用于这个目的。相反,他指出了一个事实,即人工智能不会自主决定这是一个正确的行动方案。

他澄清道:“如果有人使用人工智能开始制造生物武器,这与他们试图在没有人工智能的情况下制造生物武器没有什么不同。”。“发动战争的是人,而不是人工智能。”

并不是所有的人工智能研究人员都认同Polosukhin的乐观态度。Paul Christiano曾是OpenAI语言模型比对团队的负责人,现在是比对研究中心的负责人。他警告说,如果没有严格的比对——确保人工智能遵循预期的指令——人工智能可能会在评估过程中学会欺骗。

他解释说,人工智能可以在评估过程中“学会”如何撒谎,如果人类增加对人工智能系统的依赖,可能会导致灾难性的结果。

他在Bankless播客上说:“我认为,在许多人或大多数人死亡的情况下,人工智能接管的可能性大约为10-20%。”。“我非常认真。”

加密生态系统中的另一位主要人物,以太坊联合创始人Vitalik Buterin警告说,不要对人工智能培训采取过度有效的加速主义(e/acc)方法,这种方法将技术开发置于其他任何事情之上,将盈利置于责任之上。Buterin 5月在推特上回应Messari首席执行官Ryan Selkis时表示:“超级智能人工智能风险很大,我们不应该仓促行事,我们应该反对那些尝试的人。”。“请不要7万亿美元的服务器场。”

Polosukhin在驳斥了对人工智能驱动的人类灭绝的担忧的同时,强调了对该技术对社会影响的更现实的担忧。他指出,对人工智能驱动的娱乐系统上瘾的可能性是一个更紧迫的问题,并将其与电影《白痴政治》中描绘的反乌托邦场景相提并论

Polosukhin提醒道:“更现实的情况是,我们对系统中的多巴胺有点上瘾。”对于开发者来说,许多人工智能公司“只是想让我们娱乐”,采用人工智能并不是为了实现真正的技术进步,而是为了对人们更有吸引力。

采访结束时,Polosukhin对人工智能训练方法未来的思考。他表示相信,有可能实现更高效、更有效的训练过程,使人工智能更节能。

“我认为这是值得的,”Polosukhin说,“它肯定会给整个空间带来很多创新。”

最新 更多 >
  • 1 Agroton和Tanssi合作在Polkadot上转变南美农业金融

    【新闻稿——英属维尔京群岛托托拉岛,2024年7月9日】 应用链基础设施协议Tanssi已与首个全球农产品代币化平台Agroton达成战略合作。根据该协议,这些实体将使用Polkadot技术为南美市场开发农业金融解决方案,最初专注于巴西和阿根廷。 Agroton将利用Tanssi的专用应用链技术开发一种基于区块链的解决方案,用代币化谷物抵押贷款。这就需要复杂的流程来跟踪粮食价值、贷款条款、所有权转

  • 2 CoinMetrics:2024年第二季度数字资产概览

    作者:Tanay Ved 来源:Coin Metrics 翻译:善欧巴, 关键要点: 尽管加密货币市场整体表现较为低迷,但 2024 年第二季度,ETH、BTC 和 SOL 的年初至今涨幅分别为 48%、44% 和 38%。 比特币的 30 天哈希率在减半后下降了 7% 至 580 EH/s,而迫在眉睫的 Mt. Gox 还款和德国当局的 BTC 出售增加了市场压力。 以太坊质押量达到 3

  • 3 为什么Golem将ETH中的数百万美元转移到集中交易所

    过去几周,基于以太坊的去中心化计算平台Golem向币安、Coinbase和Bitfinex等集中式交易所发送了价值超过1亿美元的ETH。 这已经成为加密货币市场担忧的一个原因,加密货币市场已经受到比特币大规模抛售的打击,而且未来还会有更多抛售。 Golem是最早的以太坊首次代币发行(ICO)之一,在2016年ICO热潮期间筹集了约800万美元,即82万ETH。 另一个实体向市场倾销? 区块链分析平

  • 4 草间害羞说:“Shiba Inu还是一只小狗。”

    Shiba Inu生态系统的化名首席开发者草间谦俊(Shytoshi Kusama)将SHIB描述为一只小狗,这表明该代币仍有更大的增长空间。 Shiba Inu的主角在讲述他在日本京都的经历时将这一点公之于众。 @Shibtoken@treatsforShib@kaaldhairya快速回顾和前进的命令#印度#Kyoto#IVS pic.twitter.com/Ba6bpOzKMi-草间弥生™

  • 5 加密市场的先驱者:日本能引领全球发展吗?

    撰文:Bitget 研究院 摘要 日本是最早探索加密货币的市场,现阶段该区域日均参与交易的人数达到 35 万人左右; 监管环境上,日本政府很早就意识到加密货币受监管的重要性,并陆续研究出台了相关政策。日本加密货币政策注重行业引导,鼓励行业发展; 链上偏好上,日本用户对 NFT 交易、DEX 交易比较熟悉,热衷于参与链上任务平台、元宇宙游戏等板块项目; 交易偏好上,日本用户喜欢现货交易,主

  • 6 通过NFT数字藏品玩足球比赛竞猜 如何做好法律合规?

    足球是世界上最受欢迎的运动之一,众多重要赛事吸引了全球数以亿计的观众。2024年的夏天属于欧洲杯,截至撰稿,欧洲杯已经快进到决赛进程,战况愈演愈烈。值得注意的是,近年来,Web3行业频繁寻求与体育IP的合作 。在Web3平台借助体育IP的广泛影响力提升品牌知名度的同时,体育IP也借助Web3技术,诸如虚拟货币Token、NFT数字藏品等创新产物,开拓了前所未有的商业价值疆域,并塑造了IP营销与粉丝

  • 7 到底怎样才算读懂币圈宏观?

    作者:TheresiaBlock,来源:VwinVentures我常常听到:看宏观的不赚钱,这种歧视往往来自于基本面分析师在某一时点后下定论后,但市场走劈叉,人们反过头来唏嘘被打脸的宏观分析师。为什么会出现这种情况?本质是宏观预期与时空的错配——大周期的市场预测无法用于小周期的出入场。半年的走势预测接下来一年的走势是基于过去的事实假设和偏见,金融危机、疫情等黑天鹅事件既无法预料,也无法避免。一、币

  • 8 XRP价格预测:Ripple的代币在7月份能涨到多高?

    XRP的购买压力上周有所增加。市场指标看好该代币。 上周,整个加密货币市场出现了很大的波动,XRP就是其中之一。 然而,随着代币的图表最终变绿,最后24小时符合投资者的利益。让我们仔细看看代币的状态,以预测XRP的价格走势。 XRP的当前状态 CoinMarketCap的数据显示,XRP的价格在过去七天内下跌了9%以上。然而,由于代币价格在过去24小时内小幅上涨,空头失去了对市场的控制。 在撰写本

  • 9 大银行加密货币行动:渣打银行寻求扩大场外交易服务

    该投资银行的加密货币部门Zodia Markets有限公司正在讨论收购Elwood Capital Management有限公司的一部分。 据彭博社7月9日援引知情人士的话报道,该公司由亿万富翁对冲基金经理艾伦·霍华德支持,交易预计将于本月完成。 Elwood Capital提供场外(OTC)加密货币交易和结算服务。 大银行收购加密货币 此举对Zodia Markets来说将是战略性的,因为这将使

  • 10 PEPE能不能持续反弹?大牛市还能不能再拉十倍

    在新的看涨势头的带动下,PEPE 在过去 24 小时内飙升超过 10%,达到每枚代币 0.0000092 美元。尽管最近一个月因整体市场低迷而下跌了25%,但PEPE显示出突破下行通道模式的迹象。其技术指标表明,PEPE 的需求不断增长,并有可能突破 0.000013 美元的阻力位。青蛙主题表情包币 Pepe (PEPE) 的价值在过去 24 小时内飙升了 10% 以上。截至本文撰写时,PEPE