在监管缺陷受到审查之际，英国将人工智能安全研究所扩展到旧金山

2021年10月28日，加利福尼亚州旧金山市天际线和金门大桥的鸟瞰图。Carlos Barria |路透社 伦敦——英国政府正在将其测试“前沿”人工智能模型的设施扩大到美国，以进一步提升其作为应对该技术风险的全球顶级参与者的形象，并在世界各国政府争夺人工智能领导地位之际加强与美国的合作。政府周一宣布，将于今年夏天在旧金山举行人工智能安全峰会，这是一个由国家支持的机构，专注于测试先进的人工智能系统，以确保它们的安全。人工智能安全研究所在美国的迭代将旨在招募一支由研究总监领导的技术人员团队。在伦敦，该研究所目前有一个30人的团队。它由英国著名科技企业家伊恩·霍加斯主持，他创立了音乐音乐会探索网站Songkick。英国科技大臣Michelle Donelan在一份声明中表示，人工智能安全峰会在美国的推出“代表了英国在人工智能行动中的领导地位”。政府表示：“这是英国从全球角度研究人工智能风险和潜力的关键时刻，加强了我们与美国的伙伴关系，并为其他国家利用我们的专业知识铺平了道路，因为我们将继续在人工智能安全方面引领世界。”这一扩展“将使英国能够利用湾区丰富的技术人才，与总部位于伦敦和旧金山的世界最大人工智能实验室接触，并巩固与美国的关系，以促进人工智能安全，造福公众。”。旧金山是OpenAI的故乡，这是微软支持的病毒人工智能聊天机器人ChatGPT公司。人工智能安全研究所成立于2023年11月的人工智能安全峰会期间，这是一场在二战密码破译者所在地英国布莱切利公园举行的全球活动，旨在促进人工智能安全方面的跨境合作。将人工智能安全研究所扩展到美国是在韩国人工智能首尔峰会前夕，该峰会于去年在布莱切利公园举行的英国峰会上首次提出。首尔峰会将于周二和周三举行。政府表示，自11月人工智能安全研究所成立以来，它在评估一些行业领先企业的前沿人工智能模型方面取得了进展。该公司周一表示，一些人工智能模型完成了网络安全挑战，但难以完成更高级的挑战，而一些模型展示了化学和生物学的博士级知识。与此同时，该研究所测试的所有模型仍然非常容易受到“越狱”的影响，用户诱骗他们做出内容指南不允许他们做出的回应，而有些模型即使没有绕过保护措施，也会产生有害的输出。据政府称，测试过的模型也无法在没有人监督的情况下完成更复杂、耗时的任务。它没有说出测试的人工智能模型的名字。政府此前让OpenAI、DeepMind和Anthropic同意向政府开放他们梦寐以求的人工智能模型，以帮助研究与他们的系统相关的风险。这一事态发展之际，英国因没有为人工智能引入正式法规而受到批评，而欧盟等其他司法管辖区则在制定人工智能专属法律方面遥遥领先。欧盟具有里程碑意义的《人工智能法案》是同类人工智能的第一部主要立法，一旦获得所有欧盟成员国的批准并生效，预计将成为全球人工智能法规的蓝图。