廉价AI“深度伪造”技术为美国政治攻击性广告带来新变化

{"text":[[{"start":9.96,"text":"詹姆斯•塔拉里科(James Talarico)抬头看了一眼手中的《圣经》，转向镜头。这位来自得克萨斯州的美国民主党参议院候选人说：“我总是把自己视为一个憎恨基督教的基督徒。”他继续说道：“美国不是一个基督教国家。”"}],[{"start":26.990000000000002,"text":"塔拉里科的言论确有其事——其中一些他后来已经收回。但他在电视广告中自豪地复述这些言论，而这则广告由人工智能生成，并由他的共和党对手肯•帕克斯顿(Ken Paxton)出资制作。"}],[{"start":41.25,"text":"这则涉及一场关键美国参议院(US Senate)竞选的广告，是近期美国电视频道上不断出现的“深度伪造”内容之一。这是廉价且足以以假乱真的生成式AI问世后，美国迎来的首次重大选举，11月中期选举正是在这一背景下举行。"}],[{"start":59.120000000000005,"text":"塔拉里科曾是一名形象端正的教师和长老会神学院学生。竞选广告将他描绘成一边阅读关于“激进化白人男性”构成恐怖主义威胁的社交媒体旧帖，一边在一辆宣传“为儿童永久改变性别”的厢式车里发放冰淇淋的人。他甚至出现在一则攻击性广告中，戴着面具扮演一名似乎意图残害小女孩的医生。"}],[{"start":83.73,"text":"塔拉里科并不是唯一一位形象遭到AI篡改的政界人士。其中一人被描绘成气势汹汹的蝙蝠侠(Batman)“小丑”(Joker)，还有人被描绘成接受昂贵的美容护理、戴着克菲耶头巾跳舞、穿着夏威夷衫乘坐水上滑梯，以及在家中迎接弗拉基米尔•普京(Vladimir Putin)和伊朗宗教人士。"}],[{"start":103.26,"text":"卫斯理安媒体项目(Wesleyan Media Project)负责人之一埃丽卡•富兰克林•福勒(Erika Franklin Fowler)表示：“我们看到的[AI广告]比以往任何时候都多得多。”该项目上月确认，有164条政治广告采用AI生成或增强——“几乎可以肯定少报了”——相关支出约为8,000万美元。"}],[{"start":121.69,"text":"她补充说，这些内容从显而易见的讽刺作品，到“让候选人说出或做出他们从未说过或做过的事情”的深度伪造，涵盖范围十分广泛。“观众并不总能清楚地意识到……画面中的内容并非真实。”"}],[{"start":137.22,"text":"美国已有30多个州立法限制在政治广告中使用AI，或要求在使用AI时作出披露。但其中许多法律被指控违宪；此外，这些法律是否适用于支持或反对联邦公职候选人的广告，也存在不确定性。"}],[{"start":null,"text":"

"}],[{"start":153.48,"text":"因此，研究人员称，卫斯理安媒体项目发现的广告中，近70%没有免责声明，未披露使用了AI工具。"}],[{"start":162.14,"text":"一些竞选活动一直依靠科技生成过去成本高到难以承受的广告。"}],[{"start":168,"text":"本轮竞选中最早出现的AI广告之一，是由艾伦•威尔逊(Alan Wilson)的媒体顾问团队FP1制作的一则30秒广告。威尔逊是竞选南卡罗来纳州州长的共和党人。广告设置了一个虚构的电视竞赛节目：参赛者需要在众多观众面前判断，另一名保守派候选人是否曾批评过特朗普，或批评过“极端”的反堕胎措施。"}],[{"start":192.9,"text":"FP1创意总监特伦特•怀斯卡普(Trent Wisecup)本周在美国政治顾问协会(AAPC)的一场活动上对顾问们说：“要把这一场景搭建出来，租满一个礼堂……再让演员分别扮演参赛者和主持人，这得花上六位数的费用。但我们用AI在一个下午就完成了。”"}],[{"start":210.54000000000002,"text":"然而，尽管人工智能在政治广告中的使用大幅增加——这无疑主要是共和党团体在效仿其总统；后者经常在网上分享人工智能生成的视频——这种做法的普及程度并未像业内许多人担心的那样广泛。"}],[{"start":225.52,"text":"共和党策略师埃里克•威尔逊(Eric Wilson)说：“我认为，这些担忧被过度夸大了。”他还说，AI在很大程度上只是被用于“制造喜剧效果”，并以一段视频为例：视频中，一名进步派候选人摆出瑜伽姿势，把自己扭成一团。"}],[{"start":242.47,"text":"Wilson称，大多数出现在中期选举竞选中的AI生成广告，都是“我们多年来一直在投放的一类广告”的变体：广告会选取对手自己说过的一些话加以攻击。"}],[{"start":254.9,"text":"“我们只是用新技术对那种广告形式做了更新，如今能够呈现出那个人亲口说出我们已知由其说过的话。”"}],[{"start":262.8,"text":"威尔逊最担心的是，外国对手利用深度伪造技术影响美国选民。一个名为“Antibot4Navalny”的网络团体发现了一些社交媒体视频，并将其归因于俄罗斯虚假信息网络“Matryoshka”；在这些视频中，名人似乎介入了政治辩论。"}],[{"start":281.05,"text":"其中一段视频似乎显示，女演员莎拉•杰西卡•帕克(Sarah Jessica Parker)说：“民主党(Democrats)不应在我国掌权。”另一段视频则出现了酷似真人的朱莉娅•罗伯茨(Julia Roberts)，称她不支持该党“破坏性的性别政策”。"}],[{"start":null,"text":" "}],[{"start":294.90000000000003,"text":"威尔逊说，目前没有证据表明这些视频被广泛观看或产生了多大影响，但AI“助长了对手制造混乱的套路”。"}],[{"start":304.06000000000006,"text":"无论是否怀有恶意，AI生成视频的创作者都正遭遇阻碍。如今，许多主流AI工具禁止生成知名人物的内容；越来越多证据表明，选民本人也对在广告中使用AI感到反感。"}],[{"start":318.95000000000005,"text":"在9月代表美国政治顾问协会开展的一项调查中，近75%的受访者表示，他们认为在政治广告中使用AI生成图像或视频是不可接受的。超过90%的受访者表示，他们担心深度伪造内容可能影响其他人在11月的投票选择。"}],[{"start":338.16,"text":"FP1的怀斯卡普表示，他已排除制作把话塞进候选人嘴里的深度伪造内容的可能性；他还说，一些州和社交平台强制要求的AI免责声明，已经“有点像是在向选民拉响警报，提醒他们对（某则广告）保持警惕”。"}],[{"start":354.44000000000005,"text":"他补充说，竞选团队“正在关注公众对人工智能的不安，并表示：‘嗯，你知道，我不想在我的广告中使用AI。’”"}],[{"start":363.39000000000004,"text":"共和党全国委员会(Republican National Committee)主席为部分攻击性广告使用人工智能辩护之际，一些成为深度伪造目标的民主党人也在将自己不使用AI塑造成一种美德。"}],[{"start":374.61000000000007,"text":"在本月发布的一则广告中，现实中的塔拉里科指责他在得克萨斯州的对手在“虚假”的AI视频中歪曲并诋毁他的履历。"}],[{"start":384.31000000000006,"text":"塔拉里科在这段精简版视频中说：“不，我不是中国共产党(Chinese Communist Party)党员。不，我不支持为儿童进行性别重置手术。我不需要使用AI，因为肯•帕克斯顿(Ken Paxton)的真实情况已经够糟糕了。”"}]],"url":"https://audio.ftcn.net.cn/album/a_1791680796_2936.mp3"}