美国在推特上颠覆人工智能驱动的俄罗斯机器人农场

美国司法部周二宣布，美国执法部门扣押了两个与俄罗斯政府有关的人工智能社交媒体机器人农场有关的域名。

司法部发言人告诉Decrypt：“这是包括联邦调查局在内的司法部在应对网络和网络威胁国家安全时采取的破坏优先战略的一个有力例子。”。“我们在保护和识别这些行为者的方式上继续发展。”

根据该机构发布的文件，网络犯罪分子使用生成人工智能创建虚假的社交媒体档案，其中许多人声称自己是美国人，然后被用来在推特上发布亲俄信息。

美国联邦调查局（FBI）局长克里斯托弗·雷在一份声明中表示：“今天的行动首次破坏了俄罗斯赞助的生成性人工智能增强社交媒体机器人农场。”。“俄罗斯打算利用这个机器人农场传播人工智能生成的外国虚假信息，在人工智能的帮助下扩大他们的工作，以破坏我们在乌克兰的合作伙伴，并影响有利于俄罗斯政府的地缘政治叙事。”

据称，该机器人农场使用亚利桑那州域名提供商Namecheap发布的域名（mlrtr.com和otanmail.com）、私人电子邮件服务生成随机电子邮件地址，并在推特上创建个人资料。在一个例子中，一个机器人账户声称是明尼阿波利斯的居民，他自称是“人道主义者”，并包含比特币的标签。

在2022年6月11日至2024年3月1日期间，该机器人农场总共创建了968个推特账户。

Namecheap没有立即回应Decrypt的置评请求。

对于网络安全专家来说，公开的生成人工智能模型和标准化的开发工具对国家资助的网络罪犯很有吸引力。

区块链安全公司Halborn的联合创始人兼首席技术官Steve Walbroehl通过Telegram告诉Decrypt：“Telegram、X和Meta等平台提供的生成人工智能和开发者API的组合，如果被恶意使用，可能会非常危险。”。“在正常情况下，这一功能使用户能够自动化、管理或提升他们的社交媒体影响力。但在坏人手中，这是一种非常有说服力的误导人们和在线社区的方法。”

Walbroehl指出，Telegram群组完全由人工智能驱动的机器人组成，可以用来制造虚假的炒作和社会证据，说服毫无戒心的受害者基于这种人为的热情投资骗局，结果他们的投资被控制机器人的骗子偷走。

Walbroehl补充道：“虽然这是一种用于大规模传播虚假信息的社会工程策略，但它也是骗子用来帮助‘抽取和倾倒’模因币以从天真的用户那里窃取大量资金的策略。”。

公民实验室高级研究员约翰·斯科特·雷顿在推特上评论道：“拆除和附带的咨询表明，美国及其盟友正在尝试各种技术，如这些干扰和扣押……因为运营商目前无法直接接触到。”。“期待运营商学习、发展，并立即以美国为目标。”

根除虚假账户的行动始于6月，亚利桑那州美国地方法院提交了两份搜查令和扣押令，授权搜查X Corp（又名Twitter）的服务器，并从Namecheap没收域名。推特以违反服务条款为由，自愿暂停了被报道的账户。

司法部发言人告诉Decrypt：“X是本案的重要合作伙伴，我们重视他们自愿移除这些机器人并进行自己的调查。”。

副司法部长Lisa Monaco在一份声明中表示：“随着恶意行为者加速对人工智能的犯罪滥用，司法部将作出回应，我们将与国际合作伙伴和私营部门一起优先采取破坏性行动。”。“我们将毫不犹豫地关闭机器人农场，没收非法获得的互联网域名，并与我们的对手展开战斗。”

司法部表示，此次行动是与联邦调查局、网络国家任务部队、加拿大和荷兰的政府合作伙伴以及包括推特在内的社交媒体公司合作进行的。

司法部长梅里克·B·加兰德在一份声明中表示：“通过这些行动，司法部破坏了俄罗斯政府支持的人工智能宣传活动，该活动利用机器人农场在美国和国外传播虚假信息。”。“随着俄罗斯政府继续在乌克兰发动残酷的战争，并威胁到世界各地的民主国家，司法部将继续部署我们所有的法律权威，以对抗俄罗斯的侵略，保护美国人民。”

不仅仅是虚假的推特账户被用来宣传骗局和虚假信息。最近，一系列针对知名艺人合法推特账户的网络攻击被用来推广加密骗局，其中包括音乐家Doja Cat、女演员Sydney Sweeney和传奇重金属乐队Metallica。

由Ryan Ozawa编辑。