穆迪警告称，选举深度造假可能会破坏机构信誉

随着选举季节的到来和人工智能的快速发展，政治广告中的人工智能操纵正成为市场和经济更加关注的问题。穆迪周三发布的一份新报告警告称，生成性人工智能和深度伪造是选举诚信问题之一，可能会对美国机构的信誉构成风险。穆迪助理副总裁兼分析师Gregory Sobel和高级副总裁William Foster写道：“选举可能会面临激烈的竞争，人们越来越担心人工智能deepfakes可能会被用来误导选民、加剧分裂和挑拨离间。”。“如果成功，虚假信息的代理人可能会影响选民，影响选举结果，并最终影响决策，这将损害美国机构的信誉。”政府一直在加大打击深度造假的力度。5月22日，联邦通信委员会主席杰西卡·罗森沃塞尔提出了一项新规定，要求政治电视、视频和广播广告披露是否使用人工智能生成的内容。联邦通信委员会一直担心人工智能在本次选举周期的广告中的使用，Rosenworcel指出了深度造假和其他被操纵内容的潜在问题。社交媒体一直不在联邦通信委员会的监管范围内，但联邦选举委员会也在考虑广泛的人工智能披露规则，该规则将扩展到所有平台。在给Rosenworcel的一封信中，它鼓励联邦通信委员会将其决定推迟到选举后，因为其更改在数字政治广告中不是强制性的。他们补充说，这可能会让选民感到困惑，即没有披露的在线广告即使有人工智能，也没有人工智能。虽然联邦通信委员会的提案可能不会完全涵盖社交媒体，但随着美国政府成为人工智能内容的强有力监管机构，它为其他可以监管数字世界广告的机构打开了大门。而且，也许这些规则可以扩展到更多类型的广告。Wedbush Securities董事总经理兼高级股票分析师Dan Ives表示：“这将是一项开创性的裁决，可能会在未来几年围绕政治竞选改变传统媒体上的披露和广告。”。“令人担忧的是，你不能把精灵放回瓶子里，这一裁决会带来许多意想不到的后果。”一些社交媒体平台已经在监管之前自行采用了某种人工智能披露。例如，Meta要求对其所有广告进行人工智能披露，并在11月大选前一周禁止所有新的政治广告。谷歌要求所有内容经过修改、“不真实地描绘真实或现实的人或事件”的政治广告都要披露，但不要求所有政治广告都披露人工智能。社交媒体公司有充分的理由被视为在这个问题上积极主动，因为品牌担心在国家的关键时刻与错误信息的传播保持一致。谷歌和脸书预计将在2024年美国数字广告支出3069.4亿美元中占47%。Ives说：“这是在未来一个非常分裂的选举周期和人工智能错误信息泛滥的时期，专注于广告的主要品牌面临的第三大问题。这是一个非常复杂的在线广告时代。”。尽管有自我监管，但人工智能操纵的内容确实在没有标签的平台上发布，因为每天发布的内容数量之多。无论是人工智能生成的垃圾邮件还是大量的人工智能图像，都很难找到所有东西。Secureworks反威胁部门高级威胁研究员Tony Adams表示：“缺乏行业标准和技术的快速发展使这项工作具有挑战性。”。“幸运的是，这些平台报告称，通过人工智能提供的技术控制，成功地监管了其网站上最有害的内容“制造被操纵的内容比以往任何时候都容易。今年5月，穆迪警告称，深度造假“已经被政府和非政府实体武器化”，作为宣传，并制造社会动荡，在最坏的情况下，还制造恐怖主义。“直到最近，制造一个令人信服的深度造假还需要专业算法、计算资源和时间的大量技术知识，”穆迪评级助理副总裁阿布·斯里瓦斯塔瓦写道。“随着易于访问、价格合理的第二代人工智能工具的出现，生成复杂的深度造假可以在几分钟内完成。”。这种访问的便利性，加上社交媒体现有的防止被操纵内容传播的保护措施的局限性，为深度造假的广泛滥用创造了肥沃的环境。“本次选举周期，新罕布什尔州的总统初选中使用了通过机器语音的深度伪造音频。据穆迪称，一个潜在的一线希望是美国选举系统的去中心化性质，以及现有的网络安全政策和对迫在眉睫的网络威胁的普遍了解。穆迪表示，这将提供一些保护。各州和地方政府正在制定措施，进一步阻止深度伪造和未标记的人工智能内容，但言论自由法和对阻止技术进步的担忧减缓了一些州立法机构的进程。据穆迪统计，截至2月，各州立法机构每周出台50项与人工智能相关的立法，其中包括对深度伪造的关注。13个州制定了有关干预选举的法律。”和deepfakes，其中8个自1月以来颁布。穆迪指出，美国很容易受到网络风险的影响，在联合国电子政府发展指数中，美国在192个国家中排名第10民众认为deepfakes有能力影响政治结果，即使没有具体的例子穆迪表示，这足以“破坏公众对选举过程的信心和政府机构的信誉，这是一种信用风险”。人们越担心将事实与虚构分开，公众对政府的脱离和不信任风险就越大。穆迪写道：“这种趋势将对信贷产生负面影响，可能导致政治和社会风险增加，并损害政府机构的有效性。”。Secureworks的Adams说：“执法部门和联邦通信委员会的回应可能会阻止其他国内行为者使用人工智能欺骗选民。”。“但毫无疑问，外国行为者将继续像他们多年来所做的那样，利用生成性人工智能工具和系统干预美国政治。对选民来说，信息是保持冷静、保持警惕并投票