微软敦促美国国会解决人工智能产生的deepfakes问题

微软呼吁国会通过针对人工智能生成的deepfakes的新立法。微软副主席兼总裁Brad Smith强调，立法者迫切需要解决deepfake技术日益增长的威胁。

在最近的一篇博客文章中，Smith强调了调整法律以解决深度伪造欺诈和防止利用的重要性。史密斯认为，应该有一项法规，可以用来指控深度伪造的骗局和欺诈行为。

微软提出联邦深度伪造欺诈法规

根据微软的报告，可以采取几种法律干预措施来防止滥用deepfake技术。其中一项建议是制定联邦“深度伪造欺诈法规”这项新法律将处理合成内容欺诈的民事和刑事层面，并可能采取以下措施：刑事指控、民事扣押和禁令。

该报告还支持合成内容识别的要求。通过对先进来源工具使用的监管，公众将因此了解他们在网上收到的内容的来源。这对于数字信息的可信度和阻止假新闻的传播非常重要。

此外，微软建议修改目前关于剥削儿童和未经同意的露骨图像的法律，以涵盖人工智能生成的图像。这将保证法律框架与技术发展保持同步，从而保护易受影响的人群。

美国参议院最近在这方面采取了措施，通过了一项针对露骨色情deepfakes的法案。这项新法律允许非自愿性露骨AI deepfakes的受害者起诉内容的创作者。

美国联邦通信委员会对人工智能语音机器人电话说“不”

微软还对人工智能的滥用做出了回应，并加强了其产品的安全措施。该公司最近增强了Designer AI图像创建者，此前该漏洞被用来制作名人的淫秽照片。史密斯表示，私营部门需要采取措施确保人工智能不被滥用，而技术公司则有责任确保用户不受伤害。

美国联邦通信委员会已经采取行动，禁止在自动电话中使用人工智能语音，以防止人工智能的滥用。尽管如此，生成式人工智能在生成虚假音频、图像和视频方面仍在不断改进。最近，美国副总统卡玛拉·哈里斯的deepfake视频加剧了这一问题，该视频在社交媒体上传播，说明了deepfake技术日益增长的危险。

其他非营利组织，如民主与技术中心（CDT），也参与了打击deepfake滥用。正如CDT高级政策分析师Tim Harper所指出的那样，2024年标志着人工智能在选举中的关键转折点，人们需要为此做好准备。目前对deepfakes的抵制是可能是对技术操纵长期斗争的早期形式。