我们还没有准备好应对生成式人工智能对选举的影响

ZDNET 的常驻总统学者深入研究了生成人工智能时代的政治竞选深度造假。这对全国比赛的影响要大得多。人工智能也将改变地方政治。

这一切是否让你想哭？嗯，乔治·华盛顿也在这里哭过。

您听说过乔治华盛顿不支持独立战争吗？

在担任领导叛军的将军期间，乔治·华盛顿坚信美国独立战争是一个错误。他“远未确定我们是否值得成功”。

1777年，英国将军奥利弗·德·兰西麾下的一名士兵发现了华盛顿将军的一个箱子。箱子里装着华盛顿亲笔写的一系列信件，讲述了他与英国和解的愿望，甚至“我爱我的国王”。

当华盛顿的贴身男仆（也是奴隶）威廉·李被英国人俘虏时，在他的手中发现了这个箱子。

这是甚至华盛顿本人也不支持战争的切实证据。

多年后，1795 年，当华盛顿请求参议院批准与法国签订的《杰伊条约》时，这些信件被引用作为华盛顿的忠诚不值得信任以及他并不真正关心民主的证据。这使得《杰伊条约》的通过变得非常困难。

除了……威廉·李从未被英国人俘虏。事实上，威廉·李在独立战争期间从未离开过华盛顿身边。这些信件是精心制作的赝品，相当于 18 世纪的深度赝品。

它们让华盛顿如此困扰，以至于他在给美国国务卿蒂莫西·皮克林的一封信中反驳了这些伪造品，这是他在任期间的最后行动之一。

从乔治华盛顿到华盛顿特区

时间快进到 2018 年。我将要谈一些带有政治色彩的话题。请暂时忽略政治，并将注意力集中在这些虚假信息存在的例子上。这就是本文的主题。虚假信息伤害各方。但为了向您展示正在发生的事情，我必须举出真实的例子。这意味着我必须提到政客。

那么我们开始吧……

示例 1：克里姆林宫支持的虚假信息活动

正在调查 2016 年总统选举的众议院情报委员会发布了一个包含 3,500 多个广告的库，其中包含旨在扰乱美国政治体系的虚假声明。

这些广告是由克里姆林宫支持的巨魔农场在 2015 年至 2017 年间制作和购买的。除了购买的广告外，众议院情报委员会表示，俄罗斯利益集团还制作了至少“80,000 条有机”社交媒体内容。

示例 2：经过修改的假装醉酒行为的视频

接下来，我们将在 2019 年停下来观看一段视频，视频中时任众议院议长南希·佩洛西 (Nancy Pelosi) 口齿不清，看上去喝醉了。这是佩洛西在美国进步中心（一个倾向自由主义的“智库”）活动上发表演讲的视频。

该视频在 Facebook 上被分享超过 45,000 次，并有超过 23,000 条评论，是假的。原始视频经过编辑，“让她的声音听起来混乱且扭曲”，并让她显得喝醉了。

生成式人工智能在政治竞选中的武器化

多年来，照片、视频、音频甚至手写信件都被伪造，以服务于政治肮脏的伎俩。虽然它们的质量因伪造者的技能而异，但这种做法并不是什么新鲜事。

当我们继续讨论生成人工智能时代的深度伪造时，请记住这一点。佩吉·努南（Peggy Noonan）前世是罗纳德·里根总统的首席演讲撰稿人，她在《华尔街日报》的专栏中写道：

几乎每次聚会都会提到人工智能。我想说的是，人们对人工智能怀有一种自由浮动的恐惧，这种恐惧源于务实的承诺，要充分利用人工智能，看看它能做什么让生活变得更美好。它无法被阻止，就像你无法阻止潮水一样。有一种感觉是，“它可能会打破癌症最深层的密码”，同时，“它可能会攻击我们，让我们遭受核武器攻击”。

这大约总结了这一点。由于努南游历于稀缺的政治圈子，这一言论证明，即使是政治上层人士也对生成式人工智能抱有担忧。

当然，这并不能阻止他们利用这项技术来发挥自己的优势。

上个月，根据民调数据目前排名第二的共和党总统候选人、佛罗里达州州长罗恩·德桑蒂斯 (Ron DeSantis) 的支持者在广告中使用人工智能生成的声音模仿特朗普总统，使其看起来像是前共和党总统正在攻击共和党人。

需要明确的是，人工智能所说的话是基于特朗普在“真相社交”社交媒体网络上的真实帖子。该广告由永不退缩政治行动委员会 (Never Back Down PAC) 资助，严格来说，该组织与德桑蒂斯州长无关。然而，PAC 大力支持德桑蒂斯。据推测，政治行动委员会认为，使用前总统的声音和他自己的话比播音员在画外音中讲话更有效或更现实。

在德桑蒂斯的另一则广告中，特朗普总统拥抱安东尼·福奇博士。这是人工智能生成的图像。福奇是特朗普冠状病毒特别工作组的前成员、总统的前首席医疗顾问，并且担任国家过敏和传染病研究所所长近 40 年。众所周知，福奇在大流行初期成为了一个分裂人物。德桑蒂斯竞选团队显然试图将特朗普与福奇联系起来以获取政治利益。

本文的目的不是讨论政治广告的内容。相反，它的重点是人工智能的使用及其未来的意义。特朗普拥抱福奇博士的图像之所以引人注目，是因为它们是人工智能生成的。

今年三月，《纽约时报》描述了民主党如何测试使用人工智能起草筹款信息，“其呼吁书的效果往往比完全由人类撰写的呼吁书效果更好”。

《泰晤士报》还报道了社交媒体上传播的伪造图片，显示特朗普总统在纽约市被捕。

虽然人工智能肯定会被证明是全国选举的力量倍增器，但我预计它会在预算较低、需要更多创造性地利用资源的竞选活动中得到大量使用。据《内幕人士》报道，其中一项竞选活动是多伦多市长竞选活动。《知情人》分享了一张代表候选人安东尼·福瑞制作的竞选传单的图片，其中显示了一名长着三只手臂的女性。

当我在网上查看《The Insider》引用的通告时，并没有他们在文章中展示的图片。我猜福里或他的竞选团队已经纠正了这个错误。不管怎样，福里最终还是输了，仅获得第四名，而获胜者的得票率仅略高于 10%。

因此，虽然人工智能可能有助于创建虚假图像或降低成本，但它并不能保证获胜。什么都没有。

这是什么意思呢？

仅仅因为一场活动使用了生成式人工智能，并不意味着它正在将其武器化。生成式人工智能工具在活动中的使用主要有四种类别，其中只有一种在性质上完全是负面的。

深度赝品和伪造：这是最具潜在破坏性的。任何时候，任何虚假信息活动都具有破坏性，属于肮脏伎俩的范畴。现在更令人不安的是，人工智能使更多人有可能生成虚假图像，因此我们可能会更频繁地看到这种情况——而不仅仅是从活动中。

帮助撰写广告和信件：期望看到人工智能帮助竞选人员撰写广告和信件。虽然内容可能包含虚假或歪曲事实，但这并不是什么新鲜事。早在生成式人工智能出现之前，竞选工作人员就在书面文件中歪曲事实。

提高大规模宣传内容的速度和定制性：最有效的竞选活动通常拥有有关潜在选民（尤其是潜在捐助者）的深入数据库。他们购买名单，汇总之前竞选活动和其他候选人的数据，并尝试建立有助于精确定位潜在客户的档案。预计生成式人工智能将用于单独校准每个潜在客户的外展工作，并集体进行。

执行趋势和情绪分析以寻找见解：在上一篇文章中，我展示了人工智能在数据挖掘以获取见解时的强大功能。活动经常使用企业级数据挖掘软件，但期望使用带有代码解释器的 ChatGPT Plus 等工具的强大功能、易用性和相对较低的价格，以使这些功能在所有级别的活动中可用。

Gartner 新兴技术和趋势（安全）副总裁 Lawrence Pingree 补充了有关此主题的一些见解。他告诉 ZDNET：

我认为最大的新危险是生成式人工智能大型语言模型现在可以实现自动化。这种自动化（例如 AutoGPT、BabyAGI）可用于开展以目标为导向的错误信息活动。

这使得政党或民族国家更容易开展影响力行动。

法学硕士还可以与 Deepfake 技术结合起来开展活动，甚至可以制作音频和视频。对于社交媒体来说，这些类型的工具可能会为想要了解真相的选民创造一个非常困难的数字环境。

当审视竞选中的生成人工智能时，真正的影响将是在总统竞选之外。毕竟，总统竞选有大笔资金。

据联邦选举委员会称，“2019-2020 年选举周期的 24 个月内，总统候选人筹集并支出了 41 亿美元。”根据追踪选举支出的 Open Secrets 数据，在 2018 年的选举中，获胜的美国参议院候选人平均花费 1,570 万美元，而众议院候选人平均花费 200 万美元。

一些地方竞选活动的竞选预算相对较大。例如，展望 2024 年洛杉矶市议会和洛杉矶联合学区的选举，第 2 区市议会候选人阿德林·纳扎里安 (Adrin Nazarian) 已筹集了 432,000 美元，而洛杉矶联合学区第 3 区候选人珍妮·达姆 (Janie Dam) 已筹集了 38,000 美元。

现在请记住，洛杉矶第 2 区 2020 年的人口为 793,342 人。总体而言，洛杉矶县本身就有 970 万人口。相比之下，我居住的俄勒冈州历史悠久的乡村小镇人口不到 10,000 人。

较小的战役，特别是在我这样规模的城镇中进行的战役，其资金比全国战役要小得多。生成式人工智能工具甚至可以提供最小的营销活动分析工具，以前只能用于六位数和七位数预算的营销活动。

因此，虽然我们当然可以预期总统竞选活动将使用人工智能将敌对候选人置于妥协的境地（或者至少以红肉支持者选择在社交媒体上分享的方式描绘他们），但预计会看到生成性技术的最大影响人工智能远远落后于门票。

谷歌现在要求人工智能生成的广告包含一份免责声明，声明这些广告是通过合成方式制作的，这至少是为了防御人工智能生成的广告的冲击。当然，这并不意味着流氓促销员会遵循这些指示。我们仍然很可能会看到政治特工和敌方特工采取“转储就跑”策略，在没有免责声明的情况下发布数千个由人工智能生成的广告，然后转向新帐户，通过使用速度和敏捷性有效绕过 Google 的要求。欢迎来到另一场军备竞赛。

请继续关注，因为虽然竞选活动的肮脏伎俩一直存在，但既然每个人都可以使用使这些肮脏伎俩变得异常容易实施的工具，我们一定会看到更多这样的伎俩

这一切是否让你想哭？好吧，请记住：乔治华盛顿在这里哭泣。