本文系作者原创，授权“美国华人杂谈”独家发布。转载需征求许可，规范署名(公号名/ID/作者)，违者必究
作者 | xiaofeixia
全文共 3439 字，阅读大约需要 9 分钟
一方面是在美国的中文右翼自媒体和社交媒体用户正在自发和大量地翻译和转载英文虚假AI信息，另一方面，来自微软、Recorded Future、兰德公司、NewsGuard，以及马里兰大学的研究人员指出，中国正在利用人工智能生成英文和其他语种的虚假信息，在社交媒体上传播，以期加剧美国人的不满和分裂。在通过干预今年的台湾大选初试身手后，这些机构相信，中国也将希望影响包括美国大选在内的其他重要选举。
据伦敦非营利研究机构战略对话研究所(Institute for Strategic Dialogue)2月发布的报告称，这场运动希望通过将美国描绘成衰败不堪的景象，比如无家可归严重、芬太尼滥用、枪支暴力泛滥、基础设施破旧，来激起选民的不满。该研究所是一家研究网络虚假信息的非营利组织。
报告称，另一个目的是让国际社会相信美国正处于混乱状态。
一些人工生成的图像让人们认为，11月的选举将损害甚至摧毁这个国家。
试水台湾大选
根据微软威胁分析中心(MTAC)今年4月的一份报告，今年早些时候，中国政府支持的行为者利用生成人工智能干预了台湾的选举。比如，在选举日，相关行为者发布了疑似人工智能生成的假音频，内容是富士康老板和选举候选人郭台铭（他已于2023年11月退出竞选）支持另一名总统候选人。但郭台铭从未做过这样的背书。YouTube撤下了这段音频。
微软称，这是该机构“第一次目睹一个民族国家行动者利用人工智能内容试图影响外国选举。”它还预计，中国今年将在印度、韩国和美国采取类似的策略。微软的报告称：“中国在增强表情包、视频和音频方面的实验越来越多，这可能会继续下去，而且可能会被证明更有效。”
传播虚假信息
多个报告指出，自从新冠疫情以来，中国开始更直接地针对美国。自2023年下半年，研究人员观察到了越来越多中国AI生成的内容，试图在美国和其他地方影响和制造分裂，话题包括：2023年8月毛伊岛的野火、日本核废水的处理、美国的毒品使用以及移民政策和种族紧张局势。
其中最突出的一个例子是毛伊岛野火。在这场自然灾害后，有大量帖子称这场灾难不是自然灾害，而是美国进行秘密“气象武器”实验的结果。通过暗示美国正在本国公民身上测试或使用秘密武器，中国想要传递出美国军国主义大国的形象。为了增加说服力，这些图片常常被配以AI生成的图片。
NewsGuard的研究发现，中国政府和亲华社交媒体发起了一场隐蔽行动，将山火归咎于美国测试军用级“气象武器”，并错误地声称英国的外国情报机构军情六处爆料“山火背后的惊人真相”。最初的文章于8月14日发表在网易百家号，这位用户定期发布批评中国竞争对手的内容，例如一篇文章暗示美国制造了新冠病毒。
来源：https://www.163.com/dy/article/IC3PMFLE05561ZCS.html
随后，毛伊岛大火阴谋论于2023年8月中旬迅速在Facebook、X、YouTube、Quora、Reddit、Vimeo、Medium、Wattpad、Tumblr、Pinterest、Tripadvisor、Blogger、Rumble和9Gag等平台上被翻译成多个语种。
微软在一份报告中称，中国这场宣传运动横跨多个主要社交媒体平台，使用多种语言，表明其目的是引起全球受众的注意。微软威胁分析中心找到了用31种语言发布的不实帖子，包括法语、德语、意大利语，以及伊博语、奥迪亚语和瓜拉尼语等使用者更少的帖子。
为了增加可信度，这些帖子被配以人工生成的图片，包括一个用荷兰语发在Reddit上的帖子。“这些用人工智能生成的具体图片似乎只被（此次运动中用的中国账号）使用。它们似乎没有出现在网上其他地方，”微软在报告中说。
微软在报告中称，一个被其命名为Storm-1376的组织在毛伊岛大火发生数日后，推出了阴谋论内容，声称野火系由美国政府测试军用级气象武器导致。这些帖子常常配以AI生成的大火图片。来源：微软分析威胁中心。
除了主要针对世界各地的社交媒体用户外，该活动还瞄准了海外华人。其中一个帖子发布在一个名为“MX米西论坛”的加拿大华人论坛上，另一个帖子发布在一个名为“北美小茶圈-美国内陆帝国华人论坛”的美国华人论坛上。
此外，微软分析师在2023年9月警告称，中国行为者正在针对引起分歧的政治问题制作人工智能图像。这些社交账户冒充美国人，但在行为和内容上展示出了许多有据可查的中国行为者的特征。比如在账户早期用中文发帖，与其他类似的中文账户互动，将号养熟，实现了自然增长后，再转为使用英文发布假信息。其中一个突出的例子是一张关于“黑人的命也是命”运动的图片。它似乎是在支持黑人平权，但不合逻辑地声称“拜登过于激进”。图片中人物的手指表明了它系由AI生成。
最前沿的虚拟主播技术
早在2018年，中国官方新闻机构新华社已经推出了数字新闻主持人，随着多年磨练，中国处于这一趋势中虚假信息因素的最前沿。去年，Facebook和X上的亲中国机器人账户发布了人工智能生成的深度假视频，这些视频背后的广播公司名为“狼新闻”(Wolf news)。在一段视频中，美国政府被指责未能应对枪支暴力，而另一段视频则强调了中国在国际峰会上的作用。
人工智能技术的飞速升级也使得人们能越来越多地使用简单易用的视频编辑和人工智能程序，制造大量令人信服的内容。这些视频可能是将中文文本用翻译软件译成英文，再通过在线软件或其他程序转化为视频，用这些软件不需要专业的技术知识，而且只需要几分钟就能做一段。所以如果稍加留意就能辨别，因为语气不自然，断句有时错误，人物的光影不会随着其走动而变化。
监测错误信息和虚假信息的组织NewsGuard发现的一个例子显示，一个与亲中国网络相关的TikTok账户使用人工智能生成的主持人对食品成本和汽油价格等美国新闻报道发表评论。在一段视频中，一个虚拟主持人用电脑生成的声音讨论沃尔玛的价格，标语是：“沃尔玛在肉的重量上对你撒谎了吗？”
虽然呈现方式很粗糙，但评论表明，它可以得到人们的共鸣：
NewsGuard表示，这些视频是亲中国网络的一部分，该网络在美国总统大选前正在“扩大”。它指出，自去年以来，有167个账户与Spamouflage（意即“垃圾邮件运动”）有关联。
Spamouflage至少从2017年开始活跃，Meta去年夏天表示，它已经删除了数千个与该活动相关的社交媒体账户和数百个页面。Meta的研究人员将该活动与中国执法部门联系起来。
NewsGuard的新闻验证副主编Macrina Wang对《卫报》说，她看到的头像内容“相当粗糙”，但数量在增加。她说，在训练有素的人看来，这些视频显然是假的，但人们仍然会上当。
她表示：“存在一种风险，即一般人认为这个虚拟形象是真人。”她补充称，人工智能正在使视频内容“更具吸引力、可点击性和病毒式传播性”。
表情包引流并制造乱象
研究人员还发现，中国利用人工智能制造反美表情包。
根据战略对话研究所的报告，与中国政府的虚假信息运动正在传播有关拜登的表情包，自加沙冲突以来，这些表情包主要致力与将拜登描述成暴君；而近期焦点转向了总统大选。此外，这些表情包强调“美国党派分歧”甚至“内乱”，已经对内束手无策，对外软弱无力。
一个与中国共产党有关的活动正在创造和传播人工智能生成的表情包，旨在通过利用拜登总统支持以色列在哈马斯10月7日袭击加沙后继续轰炸行动来煽动反美情绪。
其中一些图片似乎旨在加深亲以色列和反以色列两派美国人的分歧。在其中一张图片中，可怕的山姆大叔坐在一个由枪支制成的宝座上，上面写着“美国军火商”。在另一张照片中，拜登身穿操作员的制服，身后是一面美国国旗和加沙的场景。图片上写着“拜登杀手。美国是这场战争的唯一支持者。”
2023年早些时候，必应(Bing)的图像生成器和Facebook的贴纸制作人工智能都设置了宽松的护栏，但其图像较为粗糙。“这些人工智能图像似乎并不是为了欺骗任何人，让他们认为它们是真实的照片；相反，它们只是为了推进关键叙事，”战略对话研究所说。
这些帖子在近期强调美国内部混乱。一张图片显示拜登和川普正在激烈地交锋，下面写着：“内斗加剧。”
一些图片强调两位总统候选人都太老了——但拜登尤其老。
还有些提出了美国大选的“选举舞弊”说法。考虑到2020年大选的经验以及围绕2024年选举的一系列阴谋论和极端党派两极分化，这是一个值得关注的重要叙事。
误导选民，动摇信任
世界经济论坛(World Economic Forum)将错误信息列为地球上最紧迫的优先事项，根据其《2024年全球风险报告》(Global Risks Report)，它可能“从根本上扰乱几个经济体的选举进程”，并“引发内乱，甚至可能引发对抗”。
虚假和错误信息不一定要改变人们对政治的看法才能产生影响。例如，它可以误导人们在何时何地投票，甚至影响他们参与民主进程的决心。它也有可能让许多人对健全的系统失去信心和信任，从科学、医疗保健到公平选举。
一些专家指出，任何类型的信息都不太可能改变人们的决定，因为人们倾向于根据直觉、价值观和信仰来决定投票给谁，而不是根据信息——不管这些信息是真的还是假的。但哥本哈根大学(University of Copenhagen)研究社交媒体影响的政治学家格雷戈里·伊迪(Gregory Eady)对《自然》杂志说：“我们可能不会期望对整个人口产生广泛的影响，但错误信息可能会对一小群人产生一些激进的影响，而这些人可能会造成很大的伤害。”
例如，关于2020年美国总统大选“舞弊”的错误信息被川普的一小部分支持者放大和传播，从而引发了2021年1月6日对美国国会大厦的袭击。最近的一项研究得出结论，在对X平台上近66.5万名美国注册选民的抽样调查中，2100多人分享了有关此次选举的80%的假新闻。
对人们行为的影响同样适用于投票。例如，虽然说服人们改变忠诚可能很难，但说服他们根本不需要费心去投票可能更容易。与2020年不同的是，人工智能工具提供了一种简单的方法，可以放大有关选举欺诈和选举阴谋论的虚假说法。这可能导致选民错误地认为选举系统中存在广泛的欺诈行为，导致他们情愿不再出门投票。
另一个可能是，人们可以通过散布虚假或经过修改的视频或音频片段，声称投票站已关闭或投票时间已更改，试图迷惑选民。
参考来源：
https://cn.nytimes.com/world/20230913/china-disinformation-ai/
https://cn.nytimes.com/technology/20231215/pro-china-youtube-disinformation/
https://www.isdglobal.org/digital_dispatches/pro-ccp-spamouflage-net-work-focuses-on-us-election/
