今年3月，我国国家安全部发文，揭露境外间谍大肆捏造虚假言论、伪造公务人员不当视频、炮制虚假政策画面等违法犯罪行为。
这则新闻的背后，指向AI时代背景下一项快速地发展的技术——深度伪造技术。
在去年热映的电影《捕风追影》中，由演员梁家辉等饰演的反派“影子”团伙，正是利用深度伪造技术伪造监控影像，误导警方“天眼”系统，完成高科技犯罪。
这让人们不禁思考，当深度伪造技术“以假乱真”，当一段伪造视频足以扰乱人们的思想认知时，我们该怎么来面对？又该如何防范其带来的危害？请看本期关注。
深度伪造，英文为Deepfake，由“深度学习”（Deep Learning）和“伪造”（Fake）这两个词合成而来。顾名思义，它是利用深度学习等算法框架，对图像、视频、音频和文本等内容做高度逼真伪造的技术。
通俗地说，深度伪造技术就像“数智易容术”——它能让张三的脸出现在李四身上，也能让一个人说出他从未说过的话，还可以凭空捏造出一个现实中并不存在的“人”。
从本质上看，深度伪造技术是人工智能通过自我对抗实现“以假乱真”的训练过程。其关键技术引擎，是一种名为“生成对抗网络”的神经网络架构。这种网络架构包含生成器与鉴别器两大组件。
人脸伪造。这无疑是当前最成熟且应用最广的伪造形式。它包括换脸、表情操控以及人脸生成。目前，人脸伪造技术已发展至连专业技术人员也难以凭肉眼识破的程度。
语音伪造。基于语音克隆技术，深度伪造技术仅需采集目标人物数秒的语音样本，便能习得目标人物的音色、语调、语速乃至口头禅，进而合成一段足以乱真的“本人语音”。更令人瞠目的是，一些开源工具已将此过程简化：只需上传一段录音、输入一段文字，即可一键生成伪造语音。
视频伪造。这种伪造形式融合了人脸伪造与语音伪造，并结合了全身动作迁移与口型同步等技术。在一段伪造视频中，伪造人物能做出与语音内容高度吻合的口型动作与身体语言，使整段视频看上去流畅自然、真假难辨。
当人脸、语音与视频伪造技术叠加使用，不法分子便能捏造出一个完整的虚拟人物——“他”拥有面容、声音、表情与动作，还可以在视频会议中与真人实时互动。
深度伪造技术一旦被恶意使用，其产生的危害或将迅速扩散至军事安全、政治稳定等诸多领域。
战场之上，一段假冒“己方指挥员”发布的紧急下令撤退音频通过通信网络传播，音频中人物的声音、语气乃至口头禅都与真实指挥员毫无二致。士兵在精神高度紧张的情况下很难去及时核实信息，一旦执行虚假指令，这将至少带来两重隐患。
其一，引发指挥混乱与决策失误。在高度信息化的战场上，指令传递日益依赖数智通信手段，这恰恰为深度伪造技术提供了可乘之机。通过伪造指挥员的音视频下达虚假命令，这极易引发战场指挥混乱与决策失误。
其二，威胁作战决策链条。战场上，如果不法分子借助深度伪造技术伪造卫星侦察图像、战场态势图或敌方调动信息，就会严重干扰指挥员对情报的分析与作战决策。未来战场上，准确的情报是制胜的关键。一旦情报源被深度伪造技术污染，整个作战决策链条都将面临风险。
2025年8月，一段伪造政治公众人物的合成视频在社交平台流传。视频中，伪造人物的语气、神态、表情等足以乱真。
这种行为已不仅是博取眼球的闹剧。试想，若某国利用深度伪造技术制作他国领导人发表激烈挑衅言论的视频，并抢先于辟谣新闻大肆传播，很可能迅速点燃民族情绪，激化地区矛盾。即便事后视频被证伪，裂痕也已造成，外交修复成本远高于造假的代价。自2025年以来，美、俄等国已加速认知战兵器迭代与理论革新，深度伪造技术正被系统性地纳入其认知战工具箱。
如今，在社会安全领域，深度伪造技术正致使电信诈骗“升级换代”。传统电信诈骗中，骗子进行冒充时，仅能模仿人物的声音，较易被识破。而深度伪造技术的出现，使不法分子能借助实时人工智能换脸软件进行视频通话。当受害者在屏幕上看到“亲友”或“领导”熟悉的面容时，心理防线年初，我国最高人民法院披露，利用AI换脸软件等实施的智能化诈骗案件呈高发、多发趋势。
深度伪造技术的危害在于，它从根本上动摇了“眼见为实”这一基本信任准则。当视频可伪造、声音可合成、图像可捏造，人们赖以判断真伪的感官经验便不再可靠，整个社会的信息信任体系都或将面临重构的严峻挑战。
2025年9月，湖北武汉网警成功破获湖北省首例利用深度伪造技术，非法侵入企业计算机信息系统的案件。
嫌疑犯通过AI换脸，篡改企业法定代表人信息，进而实施非法活动。不过，该犯罪嫌疑人被技术方法精准锁定，警察一举将其抓获。
该案例表明，深度伪造技术虽给安全防护带来严峻挑战，却并非无懈可击。想破解这类“数智易容术”，需要从技术反制、制度规范、法律保障等多方面协同发力，共同构筑起一道立体的安全防火墙。
制度规范是关键。技术或许能辨别“真假”，却难以界定“责任”。2025年9月，我国《人工智能生成合成内容标识办法》正式实施，办法明确规定，AI生成的内容中必须嵌入隐式标识，传播平台需核验标识并向用户醒目提示。2025年3月，西班牙全面落地《人工智能法案》，要求对深度伪造内容一定要进行强制标注。
法律保障是底线。恶意制作、传播深度伪造信息，尤其是将伪造内容用于军事欺骗、政治抹黑、金融诈骗等行为的，必须依法予以严厉打击。在我国，依据《刑法》《网络安全法》《个人隐私信息保护法》等多部法律，利用深度伪造技术实施诈骗、诽谤、散布谣言等行为的，将被追究刑事责任。在美国，已有超过20个州通过专门立法，将恶意制作、传播深度伪造内容的行为列为刑事犯罪。
此外，针对前文提到的战场上也许会出现的“深度伪造画面”，军队内部也需要构建一整套完善的涉密信息、指挥指令与宣传内容的生产、审核及发布体系。例如，对需要通过通信网络传达的关键指令，我们要同时辅以加密认证、双人核验等多重保障手段，从流程层面彻底封堵也许会出现的漏洞；对于扑朔迷离的战场信息，我们一定要设立应对深度伪造内容的快速响应与辟谣机制，以大幅压缩也许会出现的虚假信息的传播窗口期。
不过，技术的迷雾再厚，也遮不住明亮的眼睛；伪造的面具再逼真，也瞒不过有准备的头脑。矛与盾的较量不会停止，但只要我们时刻保持清醒、持续筑牢防线，就能在未来战场上，始终立于不败之地。
,米兰在线体育
京ICP备14028625号-2
