随着人工智能(AI)技术的飞速发展，我们现在已经很难分清楚视频里面究竟是真人，还是借助AI技术生成或者伪造的“数字人”了，由此带来的风险也在持续扩散。今年，地球上有将近一半的人口将参加大选，而AI深度伪造可能给选举带来巨大的风险，监管机构也对此忧心不已。
美国联邦调查局(FBI)局长克里斯托弗·雷周二在一次会议上指出，信息战、虚假信息和错误信息已经存在了几十年了，这种风险并不新鲜，但AI给这种武器进行了“升级”。
雷补充说，AI使得这种信息武器更加有效，使得人们能够创造出更可信的假角色，更复杂的虚假信息，并制造更难以识别是否是虚假的证据。
专家们表示，深度伪造是一种合成媒体形式，它使用AI来创建看似真实的视频或图像。目前，AI深度伪造技术已被用于影视制作等各种场景，但同时引发了人们对其可能被滥用于恶意目的的担忧，如传播错误信息和操纵舆论。
当恶意使用时，虚假的图像、肖像和声音很容易误导选民并放大偏见，这也是FBI和美国网络司令部司令兼国家安全局(NSA)局长保罗·中曾根正在试图努力解决的问题。
中曾根表示，目前美国政府部门的选举安全小组正在研究过去发生的事情，以及目前网络领域正在发生的事情，研究可能出现的威胁是什么，以及如何应对这些风险。
FBI的雷声称，该机构的主要任务是防止外国行为者的影响，关注的是敌对的外国情报机构创造虚假的角色，而不关注具体的内容是什么。“打击选举虚假信息需要引入私营部门，特别是AI公司，其中许多公司都非常积极地参与到了帮助发现深度伪造的斗争中。在某些方面，AI很擅长发现AI。”
中曾根表示，为了应对可能的风险，美国安全部门早已严阵以待。美国政府已经创建了顶级的网络安全团队，各个政府部门也在加强合作，包括共享机密信息，以便他们更好地了解如何加强他们的系统并预测威胁。
目前，美国还没有联邦法律或法规禁止在政治广告中使用AI，但据报道，已有13个州开始采取行动对其进行监管。去年11月份，Meta表示将在2024年美国总统大选一周前禁止新的政治广告投放，并要求全球的广告客户在使用AI创建或更改政治广告中的图像时予以披露。
