2024年将成为历史上规模最大的全球选举年。这与deepfakes的迅速崛起不谋而合。根据Sumsub的一份报告,仅在亚太地区,从2022年到2023年,deepfakes就激增了1530%。Fotografielink|Istock|Getty Images 网络安全专家担心,人工智能生成的内容有可能扭曲我们对现实的看法——在充满关键选举的一年里,这种担忧更令人担忧。但一位顶级专家却反其道而行之,认为深度造假对民主构成的威胁可能“言过其实”。思科Talos安全情报和研究小组的技术负责人Martin Lee告诉CNBC,他认为深度造假虽然本身是一项强大的技术,但不如假新闻那么有影响力。然而,他补充道,新的生成人工智能工具确实“有可能让虚假内容的生成变得更容易”。人工智能生成的材料通常可以包含常见的可识别指标,表明它不是由真人制作的。事实证明,视觉内容尤其容易出现缺陷。例如,人工智能生成的图像可能包含视觉异常,例如一个人有两只以上的手,或者一条肢体被合并到图像的背景中。在合成的语音音频和真人的语音剪辑之间进行解码可能会更困难。但专家表示,人工智能仍然只有其训练数据那么好。Lee说:“尽管如此,当客观地观看时,机器生成的内容通常可以被检测到。无论如何,内容的生成不太可能限制攻击者。”。专家此前曾告诉CNBC,他们预计人工智能产生的虚假信息将成为即将到来的世界各地选举的关键风险。