The most intense moment of the Iran bombing attack was not captured by the Pentagon's cameras or CNN staff, but instead was pieced together by Google's artificial intelligence video creator.
本周早些时候，伊朗对以色列发动导弹袭击后，虚假的人工智能视频开始像恶意谣言一样传播，显示特拉维夫和本·古里安机场遭到袭击。
场景非常逼真，尽管袭击是真实的，但在网上疯传的视频却不是。法务公司.
这是 2025 年的战争状态，人工智能生成的深度伪造视频、聊天机器人生成的谎言，以及视频游戏镜头 被用来操纵公众的看法空前的社交媒体的频率和渗透率。
美国袭击伊朗主要核设施后，周日全世界都在关注伊朗的回应，美国与以色列联手对伊朗采取了自 1979 年革命以来西方国家针对伊朗伊斯兰共和国最重大的军事行动，数百万人通过社交媒体关注最新动态。
许多人非但没有了解真相，反而陷入了一种新型的错误信息宣传之中。
2025 年以色列袭击伊朗后几天内观察到的伊朗 TikTok 活动部署了五大类人工智能生成的内容。
一段广为流传的视频以前后对比的形式展示了以色列一个普通社区突然变成战区的过程。
又一批假货节目特拉维夫主要机场遭到导弹袭击。
一段视频展示了一架以色列航空公司的飞机被火焰吞没。虽然完全由电脑生成，但其逼真程度足以让不懂科技的人上当受骗。
其复杂程度令人震惊，反映了近几个月来高质量视频生成器的巨大飞跃，克林 2.1 大师、Seedream 和Google Veo3利用图像到视频功能生成逼真的场景——这使得模型根据实际的真实图片创建视频，而不是从头开始创建场景。
即使是像 Wan 2.1 这样在业余爱好者中流行的开源软件，也利用附加组件来创建超逼真的视频并提高质量，同时规避大型科技公司施加的内容限制。
这些政治视频在 TikTok 上获得了数百万的观看次数，而 Instagram、Facebook 和 X 也在不停地推广它们。
例如，今天发布的一段夸大伊朗袭击美国基地的视频已被看到超过300万次在 X 上，而照片 把反对特朗普参与战争的记者坎丹斯·欧文斯和塔克·卡尔森描绘成穆斯林的视频在三天内获得了超过37.1万次观看。Telegram频道大量发布这些假新闻，弹出窗口比平台关闭它们的速度还快。
欺骗的起源但谁创造了这些东西？
当然，双方都有游击队员，而且很可能还有各自国家的特工。这场宣传战的规模远远超出了中东地区。
俄罗斯的“真理报”网络正在污染人工智能助手，包括 ChatGPT-4 和 Meta 的聊天机器人，将它们变成克里姆林宫的喉舌。
NewsGuard 是一个致力于揭露美国话语中虚假信息的项目，估计《真理报》网络每年的发表率至少为360万篇亲俄文章。
去年，该网络在 49 个国家/地区制作了 360 万件作品，使用了 150 个多种语言的网址。
据研究，俄罗斯网络采用全面策略渗透人工智能聊天机器人训练数据并故意发布虚假声明。
结果如何？所有主流聊天机器人（尽管研究并未点名）都纷纷效仿《真理报》的宣传。
中东的活动表明他们已经将其变成了一门科学，可以根据语言定制内容。
以色列国际反恐研究所 (ICT) 在一份声明中表示：“阿拉伯语和波斯语内容经常促进地区团结和反以色列情绪；希伯来语视频则侧重于以色列国内的心理压力。”报告.
另一种宣传策略是利用人工智能内容来嘲笑以色列官员，同时让伊朗最高神职人员看起来像个英雄。
这些视频显然是由人工智能生成的，并不刻意追求真实感，视频中经常出现哈梅内伊与以色列总理本雅明内塔尼亚胡和美国总统唐纳德特朗普在一起的场景，描绘了哈梅内伊象征性地羞辱或支配其中一个或两个人物的场景。
其他深度伪造将虚假视频与虚假声音结合起来，以强化不同的政治议程。
一 视频该视频在一周内获得了超过 1800 万次观看，其中逼真地展示了伊朗军事游行的画面，其中包括数百枚导弹，以及哈梅内伊威胁美国将进行报复的声音。
伊朗国家媒体也介入此事。伊朗电视台播放了智利山火的旧镜头，并将其渲染为以色列城市在燃烧。
其他自称是新闻频道的账户使用了伊朗调动导弹的虚假人工智能视频。
另一方面，以色列选择禁止媒体来控制地缘政治叙事，专家认为这引发了更多的虚假信息和“非人化”。
尽管以色列专注于将人工智能用于各种目的——主要是军事战略而不是政治宣传——也有一些行为者利用生成人工智能来达到这些目的，嘲笑现任和前任阿亚图拉，并通过人工智能生成的视频传播他们的政治信息，以及创建人工智能机器人网络在社交媒体上传播内容。
合成人物角色游戏升级到了一个新的高度。这些不仅仅是虚假的个人资料图片——我们说的是完全人造身份具有逼真的言语、动作和表情。
目前已经有一些工具可以利用先进的技术将单张照片和音频片段转换成具有合成人物的超现实视频。
虚拟影响者市场，KBV研究数据显示，到 2030 年，互联网的市值可能会达到 378 亿美元，这意味着你最喜欢的社交媒体名人、你的政治领袖发表妥协言论的视频、或者展示毁灭性袭击场景的高度逼真的新闻节目可能都不复存在。
借助生成式人工智能，战场已经超越了国界和掩体，扩展到每部智能手机、每个社交信息流和每一次对话。
如果世界上最强大国家的总统都可以使用这项技术而不受任何后果，那么很容易看出，在这场新的战争中，我们都是战斗人员，我们都是伤亡者。
编辑塞巴斯蒂安·辛克莱 和 乔什·奎特纳