AI深度伪造英国首相，皇室成员用于加密骗局

人工智能生成的英国首相Kerr Starmer和威廉王子的视频正被用于在Facebook和Instagram上宣传加密货币骗局。根据研究公司Fenimore Harper的数据，自7月初Starmer上台的英国大选以来，已经推广了250多个广告，宣传一个名为“即时边缘”的平台。

在一份新的报告中，Fenimore Harper表示，Immediate Edge积极向社交媒体上不起眼的用户推送deepfake广告。该公司表示，该平台的广告已在脸书和Instagram上吸引了89万人。据报道，到目前为止，Immediate Edge已经在这些广告上花费了21000英镑（27000美元）。该研究公司发现这些广告使用了Meta的大型语言模型Llama 3.1。

加密骗局鼓励观众发送资金和个人信息

Starmer和威廉王子的deepfake视频都向人们承诺了一个“改变生活的机会”，只有通过添加姓名、电话号码和电子邮件等个人数据才能获得。该活动将Immediate Edge推广为一个由英国首相和威尔士亲王支持的新平台，每天可以赚取高达1000英镑的收入。

当用户点击广告链接时，它会引导他们进入一个登录页面，在那里他们会被要求提供个人信息。根据该报告，加密货币骗子随后会联系用户，鼓励他们将资金存入一个虚假的在线交易平台。骗子通常会展示一个带有交易收益的虚假投资组合，以欺骗人们进行更多存款。

Fenimore Harper详细介绍说，每次用户请求提取资金时，即时边缘骗子都会消失。

在一个例子中，Starmer的deepfake被引用说：

AI制作的广告声称，有45人被选中通过一个神秘的项目赚取“改变生活的钱”。它承诺每日收入为1000英镑，相当于每周7000英镑或每月27000英镑，不需要任何先验知识或特殊技能。它还声称“这不是骗局”，斯塔默本人也不需要观众的任何东西。

一些广告使用了第三方，同时指出这是英国首相的倡议。

在一则广告中，威廉王子的deepfake支持该平台，表达了王室的支持。它说：“下午好，尊敬的英国公民。我很高兴地宣布，我，威廉王子和整个王室完全支持基尔·斯塔默首相的倡议和他的新纲领。”

根据Fenimore Harper的报道，广告声称这一举措是必要的，将有助于改善公民的生活，敦促观众加入进来，为国家创造更美好的未来。

Facebook和Instagram继续与加密骗局广告作斗争

报告称，尽管一些deepfake广告仍在运行，但加密货币中使用的许多链接现在都没有结果。这些广告在脸书和Instagram上都受到了反垃圾邮件的关注。谷歌也没有标记加密骗局。在Immediate Edge上的谷歌搜索告诉用户，该平台是一个合法的交易软件。

Fenimore Harper的创始人马库斯·比尔德表示，除非采取严厉措施，否则虚假信息将继续存在。

据英国《独立报》报道，他说：“这些活动现在可以很容易地冒充知名人物，并以前所未有的速度在网上散布虚假信息。”。“它们对个人、公众人物、企业和我们的民主构成巨大风险。”

Meta和谷歌都表示，他们不会容忍错误信息和在他们的平台上使用人工智能deepfakes。一位发言人表示，Meta已经撤下了涉及斯塔默和威廉王子的大部分非法广告。谷歌解释说，其“反垃圾邮件系统有助于保持谷歌搜索99无垃圾邮件，尽管垃圾邮件发送者不断尝试。”