社交媒体中人工智能 (AI) 的使用已被视为影响或动摇即将到来的 2024 年美国总统选举选民情绪的潜在威胁。主要科技公司和美国政府实体一直在积极监控虚假信息的情况。9 月 7 日，微软研究部门“微软威胁分析中心”(MTAC) 发布了研究报告，观察中国相关行为者利用该技术的情况。
报告称，这些行为者在所谓的广泛运动中利用人工智能生成的视觉媒体，重点关注政治分歧话题，例如*支暴力以及诋毁美国政治人物和象征。
该公司表示，预计中国将随着时间的推移继续磨练这项技术，但如何大规模部署这项技术仍有待观察。另一方面，人工智能也被用来帮助检测此类虚假信息。8 月 29 日，根据美国特种作战司令部 (USSOCOM) 的合同，Accrete AI 部署了人工智能软件，用于实时预测来自社交媒体的虚假信息威胁。
Accret 创始人兼首席执行官 Prashant Bhuyan 表示，这些深度造假和其他基于社交媒体的人工智能应用构成了严重威胁，社交媒体被广泛认为是一个不受监管的环境，对手经常利用推理漏洞并通过故意传播虚假信息来操纵行为。
据麻省理工学院的一份报告称，在 2020 年美国大选中，每月有 1.4 亿美国人被巨魔农场占领。巨魔农场是一个由网络巨魔组成的制度化团体，其目的是干扰政治观点和决策。
美国监管机构已经在寻找在大选前监管深度造假的方法。8 月 10 日，美国联邦选举委员会一致投票通过了一项**书，要求监管使用人工智能的政治广告。**书背后的委员会成员之一称深度造假是“对民主的重大威胁”。
谷歌于 9 月 7 日宣布，将于 2023 年 11 月中旬更新其政治内容政策，现在将强制要求政治竞选广告必须披露人工智能信息。它表示，如果存在不真实地描绘真实或逼真的人物或事件的合成内容，则需要进行披露。
