Dado Ruvic |路透社 周二，包括微软、亚马逊和OpenAI在内的一系列主要科技公司在首尔人工智能安全峰会上同意了一项具有里程碑意义的人工智能安全国际协议。根据该协议，来自美国、中国、加拿大、英国、法国、韩国和阿拉伯联合酋长国等国家的公司将自愿承诺，确保其最先进的人工智能模型的安全开发。在他们还没有这样做的地方，人工智能模型制造商将各自发布安全框架，阐述他们将如何衡量其前沿模型的风险，例如检查不良行为者滥用技术的风险。这些框架将包括科技公司的“红线”，这些红线定义了与被视为“不可容忍”的前沿人工智能系统相关的风险类型——这些风险包括但不限于自动网络攻击和生物武器威胁。在这种极端情况下，公司表示，如果不能保证降低这些风险，他们将实施“终止开关”，停止开发人工智能模型。英国首相里希·苏纳克（Rishi Sunak）周二在一份声明中表示：“来自世界各地的众多领先人工智能公司都同意在人工智能安全方面做出同样的承诺，这是世界上第一次。”。他补充道：“这些承诺确保了世界领先的人工智能公司将为其开发安全人工智能的计划提供透明度和问责制。”。 周二达成的协议扩大了去年11月在英国布莱切利公园举行的英国人工智能安全峰会上，参与开发生成性人工智能软件的公司所做的一系列承诺。这些公司已同意接受“值得信赖的参与者”对这些阈值的意见，包括他们的本国政府，然后在计划于2025年初在法国举行的下一届人工智能峰会之前发布这些阈值。周二达成的承诺只适用于所谓的“前沿”模式。这个术语指的是生成人工智能系统背后的技术，如OpenAI的GPT大语言模型家族，它为流行的ChatGPT人工智能聊天机器人提供了动力。自2022年11月ChatGPT首次引入全球以来，监管机构和技术领导者越来越担心先进人工智能系统的风险，这些系统能够生成与人类同等或更好的文本和视觉内容。 现在就看视频3:4503:45《华尔街日报》的Joanna Stern Squawk Box说，微软的新型人工智能PC是“竖起大拇指” 欧盟试图通过制定《人工智能法案》来打击不受约束的人工智能开发，该法案于周二获得欧盟理事会的批准。然而，英国并没有提出人工智能的正式法律，而是选择了一种“轻接触”的人工智能监管方法，要求监管机构将现有法律应用于该技术。政府最近表示，将考虑在未来某个时候为边境模式立法，但尚未承诺出台正式法律的时间表。
