Near Protocol创始人表示，人工智能不会毁灭人类——除非我们告诉它

Near Protocol的联合创始人、支撑现代人工智能系统的变压器技术的创造者之一伊利亚·波洛苏金表示，除非明确编程，否则人工智能系统不太可能摧毁人类。

在最近接受美国消费者新闻与商业频道采访时，Polosukhin分享了他对人工智能现状、潜在风险和未来发展的见解。Polosukin是谷歌2017年开发变压器架构团队的一员。他强调了将人工智能理解为一个有明确目标的系统，而不是一个有感知能力的实体的重要性。

Polosukhin说：“人工智能不是人，它是一个系统。这个系统有一个目标。”。“除非有人去说，‘让我们杀死所有人’……否则它不会神奇地去做。”

他解释说，除了没有为此目的进行训练外，人工智能也不会这么做，因为在他看来，缺乏实现这一目标的经济激励。

Polosukhin说：“在区块链世界里，你会意识到一切都是由经济驱动的。”。“因此，没有任何经济学驱使你去杀人。”

当然，这并不意味着人工智能不能用于这个目的。相反，他指出了一个事实，即人工智能不会自主决定这是一个正确的行动方案。

他澄清道：“如果有人使用人工智能开始制造生物武器，这与他们试图在没有人工智能的情况下制造生物武器没有什么不同。”。“发动战争的是人，而不是人工智能。”

并不是所有的人工智能研究人员都认同Polosukhin的乐观态度。Paul Christiano曾是OpenAI语言模型比对团队的负责人，现在是比对研究中心的负责人。他警告说，如果没有严格的比对——确保人工智能遵循预期的指令——人工智能可能会在评估过程中学会欺骗。

他解释说，人工智能可以在评估过程中“学会”如何撒谎，如果人类增加对人工智能系统的依赖，可能会导致灾难性的结果。

他在Bankless播客上说：“我认为，在许多人或大多数人死亡的情况下，人工智能接管的可能性大约为10-20%。”。“我非常认真。”

加密生态系统中的另一位主要人物，以太坊联合创始人Vitalik Buterin警告说，不要对人工智能培训采取过度有效的加速主义（e/acc）方法，这种方法将技术开发置于其他任何事情之上，将盈利置于责任之上。Buterin 5月在推特上回应Messari首席执行官Ryan Selkis时表示：“超级智能人工智能风险很大，我们不应该仓促行事，我们应该反对那些尝试的人。”。“请不要7万亿美元的服务器场。”

Polosukhin在驳斥了对人工智能驱动的人类灭绝的担忧的同时，强调了对该技术对社会影响的更现实的担忧。他指出，对人工智能驱动的娱乐系统上瘾的可能性是一个更紧迫的问题，并将其与电影《白痴政治》中描绘的反乌托邦场景相提并论

Polosukhin提醒道：“更现实的情况是，我们对系统中的多巴胺有点上瘾。”对于开发者来说，许多人工智能公司“只是想让我们娱乐”，采用人工智能并不是为了实现真正的技术进步，而是为了对人们更有吸引力。

采访结束时，Polosukhin对人工智能训练方法未来的思考。他表示相信，有可能实现更高效、更有效的训练过程，使人工智能更节能。

“我认为这是值得的，”Polosukhin说，“它肯定会给整个空间带来很多创新。”