Prebunking Elections Rumors: Artificial Intelligence Assisted Interventions Increase Confidence in American Elections
创建于 更新于
摘要
本报告基于对4293名2024年美国注册选民的两轮实验证明，利用大语言模型（LLM）生成的预先辟谣文章有效减少了公众对选举谣言的信任，且效果可持续一周以上，同时提升了公众对选举诚信的信心。该LLM辅助的预辟谣方法在跨党派人群中均有效，展现了其规模化应对选举虚假信息的潜力，有助于维护民主选举制度的稳定性和公信力 [page::0][page::1][page::3][page::5][page::8]
速读内容
- 研究背景与目的 [page::0][page::1][page::2]：
- 美国选民中仍有超过三成信任选举欺诈等虚假信息，损害选举公信力，甚至威胁权力和平交接。
- 本文提出“预辟谣”理念，尝试利用人工智能生成的辟谣内容，提前“免疫”选民免受错误选举信息影响。
- 该方法区别于传统的辟谣，重点在于预先构建认知抵抗力，有助于应对快速变化的谣言传播。
- 实验设计与方法 [page::3][page::4][page::10][page::11]：
- 样本：4293名美国注册选民（第一轮），3520名参与第二轮调查（重访率82%），样本加权以确保代表性。
- 实验采用两阶段随机设计：先随机分配选民接触5类典型选举谣言之一，再随机分配接受LLM生成的预辟谣文章（处理组）或关于远程办公的无关文章（对照组）。
- 全部参与者随后暴露于谣言的“全量信息”，以模拟真实谣言传播场景，并在第一轮调查后与一周后分别测量其谣言信任度和选举信心。
- LLM使用Anthropic Claude 3.5 Sonnet，结合权威政府机构CISA信息，生成针对具体谣言的预辟谣内容。
- 主要实验结果及统计分析 [page::5][page::6][page::7][page::8]：
- LLM预辟谣显著降低参与者对指定选举谣言的信任，效果在10分信心量表上约减少0.5分，且至少持续一周，效果对不同党派均显著。
- 预辟谣提升了选民对全国选票准确性的信心，民主党和独立派效果显著，部分共和党群体亦呈正向趋势（一周后效果减弱）。
- 预辟谣阻止了谣言文章的说服力，降低了谣言持有者的信心，效果在不同党派内部均较为均衡。
- 公众选举信心变化趋势及总体影响估算 [page::8][page::9]：
- 控制组选民选举信心下降4.5个百分点，处理组仅下降2.8个百分点，说明预辟谣护盾保护了约30%原本可能被说服者。
- 按照美国1.68亿登记选民计算，此差额对应约280万选民免受虚假信息误导，强调了预辟谣的社会规模效益。
- 研究结论与政策启示 [page::8][page::9][page::10]：
- LLM辅助的预辟谣是一种有效且具规模化潜力的选举虚假信息干预手段。
- 该方法可快速生成针对不断变化谣言的免疫材料，有助于重要选举节点前对易受影响群体的有针对性干预。
- 为保持长期效果，或需周期性“强化”干预。
- 潜在应用包括与政府、学者和社交平台合作，构建自动侦测、生成、传播预辟谣内容的系统。
深度阅读
金融研究报告详尽分析报告
报告标题
Prebunking Elections Rumors: Artificial Intelligence Assisted Interventions Increase Confidence in American Elections
1. 元数据与概览
- 作者：Mitchell Linegar, Betsy Sinclair, Sander van der Linden, R. Michael Alvarez
- 机构：加州理工学院Linde中心、华盛顿大学政治系、剑桥大学心理系
- 发布时间：2024年
- 主题：本报告围绕2024年美国总统大选期间，利用大语言模型（Large Language Models, LLMs）辅助“预先接种（prebunking）”干预方法，对抗选举相关谣言和虚假信息的效果进行实证研究。
- 核心论点：利用人工智能生成的反谣言文章作为“预先接种”干预的方法能够显著减少公众对选举谣言的信任、提升他们对选举完整性的信心，且效果能够维持至少一周时间。此方法对不同党派均有效，并未产生反弹效应。
- 作者主要传达的信息：传统的辟谣方法通常在谣言传播后进行，而基于LLM的预先接种允许快速、规模化地生成针对最新浮现谣言的反驳内容，有助于维护民主制度的稳定和选举的公信力。page::0], [page::1]
2. 逐节深度解读
2.1 选举诚信问题背景
报告开篇强调选举诚信对民主制度的重要性，指出尽管研究表明美国重大选举中的选举舞弊十分罕见，但仍有超过1/3美国注册选民相信某些选举舞弊行为影响了选举结果。这类虚假信念不仅削弱了选民对选举过程的信任，还可能破坏选举的合法性，甚至引发政治暴力事件（例如2021年1月6日国会大厦事件即由虚假选举舞弊论驱动）。此节铺垫了开展针对性预先干预研究的必要性，并指出现有辟谣方法难以满足选举虚假信息迅速扩散的特点。作者提出“prebunking”或“inoculation（接种理论）”概念，强调采用预防性干预的创新必要。重点选取了5个美国2024大选中最广泛流传的选举谣言作为干预对象。完成人工智能辅助下的反驳论证编写，且效果可持续至少一周，没有发现反弹效应，即未引发反效果。[page::1] [page::2]
2.2 “Prebunking”理论与人工智能应用
预先接种理论源于心理学，类似于生物免疫概念，通过提前暴露于“弱化”的虚假信息及其针对性反驳，帮助个体形成认知抵抗力。该方法不仅针对具体谣言，也培养更广泛的反虚假信息能力，如识破信息操控手法和提升媒介素养。报告提及以往在气候变化、疫苗错误信息等领域的成功案例，并说明新出现的研究发现即使在谣言暴露后进行“治疗性”注射（post-exposure inoculation）依然有效，尤其对于共和党选民及其他阴谋论支持者尤其重要。
传统预先接种需要大量人力对不断变化的谣言进行编写与合成，难以规模化。作者指出LLM可迅速生成针对新谣言的弱化版本及反驳信息，具备高度可拓展性。此外，传统人工辟谣对恢复选民信心“不可持久”，LLM预先接种方式有望因速度和覆盖面优势，改善此状况。总的来看，本节论证了结合LLM的预先接种是应对海量多样选举谣言的创新且可规模化的解决方案。[page::2]
2.3 实验设计与假设
- 设计框架：2波随机对照实验，于2024年8月在4,293名美国注册选民中进行。
- 随机分配：参与者随机分为5组对应5种选举谣言，内部分为“治疗组”和“对照组”。治疗组先阅读LLM生成的针对特定谣言的预先接种文章；对照组则阅读无关主题的安慰剂文章（远程办公对城市规划的影响）。随后所有人均阅读“完全暴露”文章，该文章为修订后的源自右翼媒体Breitbart的谣言支持文章。
- 测量指标：包括对选举谣言的信念程度、对真实选举事实的信心、以及总体的选举诚信信任度。测量时间为干预后立即及一周后重访。
- 主要假设：
- H1: 预先接种能够降低对特定选举谣言的信任。
- H2: 预先接种能够提升对即将选举投票计数准确性的信心。
- 分析还考虑个人党派、阴谋论倾向、信息易感性和偏好新闻来源的调节效应。 结果表明LLM预先接种有效降低谣言信念，提升对选举事实的信心，且效果跨党派均显现。[page::3]
2.4 结果详解
2.4.1 实验设计示意图（图1）
图1清晰展示了实验各阶段及随机步骤：
- 预处理收集人口学、党派、谣言及事实信念、选举信心
- 随机分配5谣言组
- 各组内再随机为预先接种治疗组（LLM生成的反谣言）与对照组（远程工作安慰剂文章）
- 全员阅读“完全暴露”支持谣言文章
- 即时及一周后进行问卷调查测量结果
该设计保证筛选出LLM预先接种对减少谣言信任与提高选举信心的因果效应。[page::4]
2.4.2 预先接种对谣言信任的影响（图2）
图2展示了整体的平均处理效应（ATE），红色点表示谣言信任度估计值，蓝色表示对选举诚信的信心估计值。依赖于回归模型调整各类人口和政治变量。结果显示：
- 预先接种显著降低对分配谣言的信心，尺度约为0.5分（10分制），且一周后效果虽减弱仍保持显著。
- 提高对“国民选票会被准确计数”的信心，效果即时显著，但一周后统计显著性减弱。
该图还显示信心的变化在即时测量时更明显，经过一周会有自然衰减，建议需要定期强化干预。[page::5] [page::6]
2.4.3 谣言信念初始水平与干预效果（图3）
图3分党派展示了预先接种对谣言信任变化的异质性：
- 无论初始信念水平高低（1分到10分）均存在减弱趋势，强信念者（接近10分）相信程度下降明显，弱信念者则趋向于更加零的信心。
- 各党派间的趋势一致，均能显著抵消控制组仅接触谣言文章后的信心增长。
该图说明预先接种对不同认知背景选民都有效，未见显著党派差异。[page::7]
2.4.4 人口统计学和党派置信度变化
- 预先接种能使选民中因信谣言而降低对国民选举完整性信心的比例减少约1.7个百分点（即4.5%下降到2.8%）。在全国1.68亿注册选民中，这差异美元约280万选民。
- 类似效果在谣言信念上更显著。对照组暴露谣言后信心上升（信谣言人数增多），处理组则信心下降。
- 该效应对民主党人、独立派及共和党人均成立。共和党人基线信心最低，但预先接种后依然呈现降低谣言的趋势。
上述数字具有明确的政策含义：可通过此类可规模化干预大幅缓冲选举虚假信息对民主信任的侵蚀。[page::8]
2.5 结论及讨论
- LLM辅助的预先接种能够有效、持久降低公众对选举谣言的信任（H1支持）。
- 对于提升选举完整性的总体信心，干预有短期正面作用，但效果难以在一周后持续（H2得到部分支持，需多次强化）。
- 预先接种抑制了谣言文章的劝说效果，能使多数选民不被谣言说服。
- LLM作为自动生成反谣言文本的工具，为规模化、快速响应选举信息环境提供了新路径。
- 项目强调与学界、政府及社交平台合作，将此类预先接种机制推广至关键选举周期热点时刻。
报告也指出要防止民主制度更系统地被虚假信息侵蚀，还需结合新的、多层次的接种策略，维护信任和民主稳定性。[page::9] [page::10]
3. 图表深度解读
3.1 图1 实验设计流程图（第4页）
- 展示所有参与者统一的预处理阶段（人口、党派、信念与信心测量）；
- 随机分谣言组（选举谣言5个类别），每组内二次随机分为“预先接种治疗”与“安慰剂对照”；
- 预先接种组获得LLM生成的针对谣言的反驳文章，对照组生成无关主题文；
- 全员阅读谣言支持的“完全暴露”文章；
- 即时与一周后跟踪问卷调查，评估信念变化。
该设计确保了内部有效性，能够区分LLM干预带来的净效应。[page::4]
3.2 图2 处理效应估计（第5页）
- 展示对谣言信心（红色）与选举计票信心（蓝色）的平均处理效应；
- 点代表平均效果，横轴为效应大小，误差条为95%置信区间；
- 即时测量（点形）和一周回访测量（三角形）同时呈现，发现预先接种显著降低谣言信心，提升选举计票信心，但后者在一周后呈现统计学不显著；
- 总结来看，LLM预先接种在谣言认知层面长期有效，在信心层面需要增强或重复干预达到持续效果。
3.3 图3 动态信念变化及党派差异（第7页）
- 散点图呈现不同党派参与者的预先接种前谣言信心与干预后变化关系，蓝线（对照组）与红线（治疗组）明显分开；
- 治疗组在所有党派均表现出信心普遍下降趋势，无论起始信度大小；
- 菱形标记了两组样本中心，表明治疗组相对对照组对谣言相信减少；
- 无显著党派间差异，强调干预的广泛适用性。
3.4 图4 选民信心比例变化（第9页）
- 各党派分别统计信心高于5分（10分制）的人比例，对谣言与选举完整性分别测量；
- 对照组谣言信心于两次暴露后略升，治疗组则略降；
- 选举完整性信心对照组下降，治疗组下降幅度较小；
- 不同党派基线差异明显，民主党人选举诚信信心最高，共和党人最低，但干预效果均表现一致；
- 数据强调LLM预先接种能减少谣言说服选民比例，从而保护民主基础。
4. 估值分析
本报告为社会科学实证研究，未涉及传统金融估值分析模型，故此部分无内容。
5. 风险因素评估
报告自身提及潜在风险及局限性包括：
- 预先接种效应随时间衰减明显，持续性有限，需定期强化或“加强针”策略方能维持成果。
- 部分亚组（如共和党）信心提升效果统计学不显著，样本量和固有信仰偏差可能影响结果普遍化。
- 实验暴露文章来自特定政治立场媒体，可能强化一些参与者的固有偏见。
- LLM生成文本质量与提示设计精度对效果至关重要，未来多样语境下的稳定性未知。
- 虽无发现反弹现象，但长远社会心理影响仍需观察。
报告鼓励结合技术与政策多策略应对选举虚假信息挑战。[page::6] [page::8] [page::9]
6. 审慎视角与细节
- 报告依赖于YouGov在线面板，存在样本选择偏差风险，虽经权重调整，仍影响推论的广泛性。
- 选举虚假信息的复杂性在于其强烈政治色彩，尽管报告显示跨党派均有效，但共和党效果略弱，暗示持强烈偏见群体仍难完全规避谣言影响。
- LLM文本生成基于现有信息库，如源数据带有局限性或偏见，干预可能无法覆盖所有新型谣言。
- 本研究强调短期内效果，缺乏长期社会行为层面的验证，如选民的实际投票行为或选举参与度。
- 文章部分核心文本基于2024年8月实验前生成，实际选举动态高度变化，持续适应是关键。
7. 结论性综合
本研究创新性地结合了人工智能生成的大语言模型文本与心理学预先接种理论，开展针对2024年美国总统大选的谣言预防实验。4500余名注册选民的随机对照试验结果表明：
- LLM辅助的预先接种能显著降低个体对五大选举谣言的信任，相较对照组，治疗组在信念下降尺度达到0.5分（10分制），效果在一周后仍保持统计学意义。
- 预先接种增强了对选举票数准确计算的信心，效果即时显著，但一周后呈衰减趋势，提示需要周期性“强化”干预。
- 预先接种抑制了阅读支持谣言文章的劝说力，即到场保证了个体对谣言的抵抗力增强，无论其政治立场如何，此效果均未出现反弹反效果。
- 规模化的LLM生成文本预先接种映射了广为流传的错误论断，克服了人工手工生产预先接种材料的瓶颈，具备应对快速变化谣言环境的现实可能。
- 数据量化显示，在全国168百万注册选民中，该方法或可保障数百万选民免受虚假信息误导，具有重要民主政策意义。
- 报告呼吁与政府及社交媒体平台合作，利用LLM实现关键选举阶段的精准且规模化干预，为提升民主选举诚信提供技术支撑。
整体来看，本报告详实的数据支持及方法创新展示了未来抗击选举谣言的有效路径，强调LLM预先接种与传统心理学理论结合的优势，奠定了相关干预策略的科学基础和应用前景。[page::0] [page::3] [page::5] [page::7] [page::9] [page::10]
---
参考图片与附注
- [图1：实验设计示意图
- 图2：处理效应估计—选举谣言信心与选举计票信心
- 图4：参与者信心比例随时间变化，按党派分
（以上均已嵌入正文对应分析段落）
---
通过本研究，我们可以看到，结合LLM技术，基于科学的心理学接种理论提出的预先接种干预，确实提供了一种对抗选举谣言、增进公共选举信心的有效工具。这对学界、政策制定者、平台运营商都具有重要启示意义。
