引子：一次换脸，一个女孩的噩梦

2024 年 8 月，韩国社交平台 Telegram 上的多个”深度伪造房间”被媒体曝光：犯罪分子利用 AI 换脸技术，将大量韩国女性（包括未成年学生）的脸部照片移植到色情影像中制作、传播，受害者数以千计，涉事群体覆盖从普通民众到女兵、女教师。事件震动韩国社会，韩国总统府随即要求彻查，国会加速修法，将”深度伪造性犯罪”的法定刑大幅提高。这不是第一个 Deepfake 性剥削事件，也绝不会是最后一个。

而在更早的 2019 年，一款名为 ZAO 的 App 让中国用户一夜之间”一键换脸”进影视剧，随后因用户协议涉嫌过度收集人脸信息而引发争议；2023 年，杭州互联网法院宣判的”AI 换脸第一案“，又为这一领域划出了一条民事规则线。

深度伪造（Deepfake）正在成为信息时代最锋利的双刃剑：它既可以是娱乐产业的创意工具，也可以是毁人名誉、制造虚假信息的灰黑产引擎。 本文从技术原理出发，梳理中国 AI 换脸的法律规制体系、典型司法案件与域外立法，并直面治理的深层难题。

一、技术原理：从对抗生成到扩散建模

“Deepfake”一词由 deep learning（深度学习）与 fake（伪造）合成，泛指基于深度学习生成或篡改人脸、语音、视频内容的技术。其技术演进大致经历三代：

  1. 第一代：基于自编码器的换脸。早期的 Deepfake 使用共享编码器 + 两套解码器的自编码器结构，分别学习两张脸的特征，再通过”编码-解码”完成换脸。代表工具有 2017 年出现的 deepfakes 开源项目及其衍生（DeepFaceLab、FakeApp 等）。其训练需要大量目标人物正脸素材，生成分辨率低、边界易破绽。
  2. 第二代：生成对抗网络（GAN）。GAN 由生成器与判别器对抗博弈：生成器试图制造以假乱真的图像，判别器试图分辨真假，双方在迭代中共同提升，最终生成器能输出高度逼真的内容。StyleGAN 系列将人脸生成质量推向新高度，也让”凭空造脸”成为可能。
  3. 第三代：扩散模型（Diffusion Model）与多模态大模型。扩散模型通过”前向加噪—反向去噪”的过程学习数据分布，生成的图像质量、语义可控性显著超越 GAN，Stable Diffusion 等开源模型使普通人也能用文本描述生成高质量人脸。叠加语音克隆（VC/TTS）、数字人驱动等技术，如今的 Deepfake 已从”换脸”走向”全息伪造”——一张照片即可激活动态人脸，一段 3 秒音频即可克隆声纹。

技术的平民化带来两个直接后果：制作成本趋近于零，检测难度指数级上升。2023 年以来，深度伪造已从明星换脸的”娱乐场”进入电诈剧本——“AI 换脸冒充亲友借钱””冒充老板视频会议要求转账”等新型诈骗案件在各地频发，多地公安机关已发布预警。

1.1 三代技术的关键细节

为了让”灰色江湖”的运作机制更清晰，有必要展开技术层的关键细节：

  • 自编码器换脸的原理：传统 Deepfake 使用一个共享编码器将源脸与目标脸压缩到共同特征空间，再用两个不同的解码器分别还原。训练时，编码器从大量源脸与目标脸照片中学习”人脸共性”，两个解码器分别学习”各自人脸的个性”；使用时，把源脸照片输入编码器，再送入目标脸的解码器，就得到”长着目标脸、表情来自源脸”的合成结果。其局限是：需要目标人物的海量正脸素材，训练时间以小时计，合成视频分辨率有限、边缘常有伪影。
  • GAN 的对抗进化：生成器 G 与判别器 D 玩”猫鼠游戏”——G 生成图片，D 判断真假，G 根据 D 的反馈调整，直到 D 无法区分。StyleGAN 系列通过”风格调制”让生成人脸具备精细的纹理、光照与年龄特征控制，2019 年推出的 StyleGAN2 已能生成难以分辨的人脸照片。GAN 的意义在于”无中生有”：不需要真实照片，也能凭空生成一张不存在的人脸——这正是”AI 造星””虚拟网红”的技术底座。
  • 扩散模型与多模态生成：扩散模型分两步——前向过程逐步向图像添加高斯噪声直至变成纯噪声，反向过程训练神经网络学习”去噪”，从而能从随机噪声一步步”重建”图像。相比 GAN 训练不稳定、模式坍塌的问题，扩散模型生成质量更高、控制更精细。Stable Diffusion 等开源模型将扩散生成带到消费级硬件：普通用户输入一句文本提示词（prompt）即可生成高质量人脸；与 ControlNet、LoRA 微调、换脸插件组合，几分钟即可完成一段高仿真换脸视频。
  • 语音克隆与全息伪造：现代语音克隆（如基于 VITS、XTTS 等架构）只需数秒至数十秒目标语音样本即可复制音色；配合”数字人”驱动（说话口型同步、情绪表情迁移），“真人出镜讲话”的视频已可以完全由 AI 生成——这让”伪造发言””伪造证词”成为现实威胁。

1.2 从娱乐到犯罪的”失控曲线”

深度伪造技术的扩散路径呈典型的”失控曲线”：

  • 2017—2018 萌芽期：Reddit 用户首次发布换脸色情视频，技术主要停留在极客圈层；
  • 2019 爆发期：ZAO App 让”一键换脸”走进大众，全球首个开源换脸项目 DeepFaceLab 成熟，同年韩国出现大规模”换脸色情”（即所谓”博士房”链条的技术前身）；
  • 2020—2022 武器化期：Deepfake 被用于竞选干预、冒充企业高管（英国能源公司高管被冒充声音诈骗 24 万美元）、电信诈骗；
  • 2023—2025 产业化期：开源扩散模型与”AI 女友/换脸”灰色 App 产业化，换脸定制、语音克隆明码标价出现在电商与暗网；韩国 2024 事件与全球”AI 换脸色情犯罪”高发即是这一阶段的注脚。

二、中国规制体系：一条从民事到行政再到刑事的完整链条

中国对深度伪造的治理并非从零开始，而是建立在既有法律框架之上、针对 AI 合成特性不断补强。

2.0 治理起点：2019 年 ZAO 事件与”监管第一课”

2019 年 8 月底，一款名为 ZAO 的换脸 App 火遍全网：用户上传一张照片，即可把自己”一键换脸”进《陈情令》等热门影视剧片段。上线 3 天即登顶应用商店，但随即引爆争议：

  • 用户协议”霸王条款”：用户需授予平台及其关联公司”永久、不可撤销、可再许可”地使用其肖像与视频素材的权利，被舆论批评为”白嫖肖像权”；
  • 过度索取生物信息：要求上传人脸照片，涉嫌违反当时已生效的《网络安全法》关于个人信息收集”合法、正当、必要”原则；
  • 深度伪造滥用风险：换脸技术一旦放开，可被用于色情换脸、虚假新闻等黑灰产，监管空白被暴露。

事件发酵后，工信部约谈相关主体，ZAO 修改协议并承诺加强用户信息保护。ZAO 事件的最大意义在于：它让监管层意识到”AI 换脸”必须纳入专门规制——此后三年间，深度合成管理规定的起草、征求意见、出台正是对这一风险的制度回应。

2.1 民事层面：民法典人格权编

2021 年 1 月 1 日施行的《民法典》为人格权保护提供了总纲：

  • 第 1019 条（肖像权）：未经肖像权人同意，不得制作、使用、公开其肖像，不得以利用信息技术手段伪造等方式侵害他人的肖像权——“深度伪造”被明确写入法条，这是全球少见的立法表述；
  • 第 1023 条（声音权参照肖像权）：对自然人声音的保护参照肖像权规定——AI 语音克隆同样落入保护范围；
  • 第 995、1165 条（人格权请求权与过错责任）：受害人可请求停止侵害、赔礼道歉、赔偿损失。

2.2 行政与数据层面：三部基础法律

  • 《网络安全法》（2017 年施行）：网络运营者负信息安全保护义务，不得利用网络侵害他人合法权益；
  • 《数据安全法》（2021 年施行）：规范数据处理活动，人脸信息作为敏感个人信息受到严格保护；
  • 《个人信息保护法》（2021 年施行）：人脸、声纹等属敏感个人信息，处理须取得单独同意并遵循”最小必要”原则；2025 年国家网信办进一步出台人脸识别技术应用安全管理办法，对人脸信息收集作出更严格限制。

2.3 专门规章：深度合成与生成标识的”两板斧”

规章 施行时间 核心规则
《互联网信息服务深度合成管理规定》 2023.1.10 确立深度合成服务提供者的深度合成内容标识义务（显著标识）、使用者不利用深度合成服务制作发布虚假新闻等禁止性要求、以及备案与安全评估制度；明确”不得利用深度合成服务制作、复制、发布、传播法律法规禁止的信息”
《人工智能生成合成内容标识办法》 2025.9.1 将标识义务扩展至所有 AI 生成合成内容：文本、音频、视频、图片等应在生成合成内容或交互场景中显式标识，并在文件元数据中添加隐式标识；明确了”显式 + 隐式”双轨标识、服务提供者与传播平台各自义务、以及”生成内容显著改变信息内容导致公众混淆”的认定标准

这两部规章构成了中国 AI 内容治理的”标识双轨”：先通过深度合成规定管住合成服务本身，再通过标识办法管住生成内容的传播，为监管与追责提供了技术抓手。

2.4 刑事层面

刑法中并无独立的”Deepfake 罪”，但相关行为可落入既有罪名：制作传播淫秽物品罪（涉及色情换脸）、侮辱罪 / 诽谤罪（毁损名誉）、侵犯公民个人信息罪（非法获取人脸数据）、诈骗罪（冒充身份实施诈骗），以及《刑法》第 287 条之一非法利用信息网络罪、第 287 条之二帮信罪等网络罪名。2024 年 3 月 1 日起施行的《网络暴力信息治理规定》，将”利用 AI 技术生成虚假信息”明确纳入网暴治理范畴。

2.5 平台与服务提供者的合规义务清单

将前述规范落到操作层面，深度合成服务提供者与使用者各自承担的义务已相当具体：

  • 服务提供者：① 深度合成内容显著标识义务（在生成内容或其交互界面以明显方式提示”由 AI 生成”）；② 真实身份信息核验义务（对深度合成服务使用者核验真实身份）；③ 安全评估与备案义务（具有舆论属性或社会动员能力的，须开展安全评估并向网信部门备案）；④ 算法治理义务（遵循《互联网信息服务算法推荐管理规定》，对生成合成类算法进行备案与公示）；⑤ 建立辟谣、投诉举报、应急处置机制；
  • 内容分发平台：① 对 AI 生成内容二次传播时保留/叠加标识；② 建立深度伪造类违规内容识别与处置机制；③ 对”换脸、拟声”等敏感用途设置额外风险提示；
  • 普通使用者：不得利用深度合成服务制作、复制、发布、传播法律禁止的内容；发布 AI 生成内容应主动标识；不得利用 AI 生成内容实施诈骗、诽谤、侵犯隐私等行为。

这一义务体系的核心设计思路是**”责任前置、标识可溯”**：与其事后识别真假，不如让生成源头可标记、可追查。

三、典型案例：司法如何回应”换脸”争议

3.1 杭州”AI 换脸第一案”（2023 年，民事）

2023 年 4 月，杭州互联网法院宣判全国首例涉”AI 换脸”侵害肖像权案：原告廖某系一短视频博主，被告某科技公司运营的”AI 换脸”App 未经许可，将廖某等众多网红博主的视频素材用于付费换脸模板，用户可一键将自己的脸替换到他人视频中。法院认定被告行为侵害了原告的肖像权，判决赔偿经济损失 5000 元并赔礼道歉。该案明确：未经授权将他人肖像用于 AI 换脸模板并提供付费服务，构成肖像权侵权，不因”用户自行操作”而免责——平台（模板提供者）的注意义务被实质性加重。

3.2 全国首例”AI 声音侵权案”（2024 年，民事）

2024 年，北京互联网法院审理的全国首例 AI 声音侵权案宣判：配音师殷某发现自己的声音被 AI 技术合成后用于文字转语音产品并对外销售牟利，诉请赔偿。法院依据民法典第 1023 条声音权保护规则，认定被告未经许可使用原告声音开发 AI 产品构成侵权，判决赔偿 25 万元并赔礼道歉。该案填补了”声音权”在 AI 场景下的司法空白，与杭州案共同构成”肖像 + 声音”双维度的 AI 人格权保护判例。

3.3 刑事层面的”换脸诈骗”

2023 年以来，福建、内蒙古、浙江等地陆续破获 AI 换脸冒充熟人电信诈骗案。典型手法：犯罪分子先通过骚扰电话、盗号等手段获取被害人亲友照片与语音，再用 Deepfake 工具生成”视频通话”画面，以”急需用钱”为由骗转账。由于视频通话中人脸、口型、语音可实时伪造，传统的”视频核实身份”防线失效，单案涉案金额动辄数十万元。此类案件多以诈骗罪、侵犯公民个人信息罪、帮信罪等论处。

四、域外立法对比：全球围剿下的不同路径

国家/地区 立法/政策 要点
欧盟 《人工智能法案》（AI Act，2024.8.1 生效，分阶段适用） 全球首部系统性 AI 监管立法：禁止操纵行为与利用脆弱群体弱点的人工智能系统；对深度伪造类”透明义务”要求——AI 生成内容须明确披露；违反者最高可处全球营业额 7% 的罚款
美国 各州立法 + 联邦层面推进 已有超 40 州立法打击”深度伪造色情内容”；多州将选举相关 AI 虚假内容列为违法；联邦层面《深度伪造责任法案》等仍在推进，联邦层面缺一部统一立法
韩国 《性暴力犯罪处罚法》修订（2024 年） 针对”深度伪造性剥削”大修：制作、传播以性意图制作深度伪造内容的，法定刑提高至五年以上有期徒刑；明知是深度伪造而持有、获取、购买的同样处罚；成立专项调查组
中国 深度合成规定 + AI 标识办法 + 民法典/个保法 以”标识义务 + 人格权保护 + 内容治理”构建闭环
英国 《网络安全法》 要求科技平台移除包括深度伪造色情在内的非法内容

对比可见：欧盟重监管框架、美国重刑事个案、韩国重性犯罪特别立法、中国重行政标识与人格权保护。各国共同趋势是——将深度伪造从”技术问题”升级为”公共安全与基本权利问题”。

五、治理难点：技术对抗、平台责任与跨境执法

  1. 检测技术的”军备竞赛”。深度伪造检测（伪影分析、GAN/扩散痕迹检测、语义一致性校验、深度水印）与生成技术同步进化，生成模型的每一次升级都可能让旧检测器失效。学界普遍承认：检测永远滞后于生成，单靠”识别真假”无法根治。

    具体而言，检测技术路线大致分四类：①浅层痕迹检测（眨眼频率、肤色纹理、光影边缘、眼高光一致性等早期特征，对第一代 Deepfake 有效，对扩散模型生成内容基本失效）；②深度特征检测（用 CNN/Transformer 训练”真假分类器”，依赖训练数据的分布，泛化能力有限）；③语义一致性检测（检查面部动作、口型、语音是否与内容语义匹配，如唇语识别，成本高）；④主动防御与溯源水印（在内容中嵌入不可见水印或对模型输出添加指纹，属”从源头治理”，也正是中国 AI 标识办法的技术基础）。现实是：检测模型与生成模型形成”猫鼠博弈”，任何检测器都只能覆盖一代生成技术，因此产业界越来越倾向于”标识 + 溯源 + 平台处置”而非”事后识别”。

  2. 平台责任的边界。深度合成内容通过社交平台瞬时传播，平台是否尽到标识提示、下架审核、账号处置义务，直接决定治理效果。但”平台如何判定一段视频是否 AI 生成””误删合规内容怎么办”仍是未解难题——AI 标识办法虽强制添加元数据标识，但用户可轻易二次删除，标识的”可剥离性”削弱了其效力。

    更深层的两难在于：①言论自由与内容治理的平衡——平台若对”疑似 AI 内容”过度下架，可能误伤合法创作（讽刺作品、影视解说、数字艺术）；②责任分配的公平性——深度伪造制作工具（开源模型、换脸软件）本身合法，平台难以事前阻止，事后追责又面临”服务器在境外””账号匿名”等执行困难。2024 年以来，欧美监管者倾向于要求平台对”高影响力内容”（如政治人物的合成内容）承担更严格的强制标识与核查义务，而普通内容的治理仍以”通知—删除”为主。

  3. 跨境执法困境。Deepfake 黑产常利用境外服务器、境外支付渠道运营，域外取证、引渡与管辖冲突使得刑事追诉成本极高。韩国事件中的 Telegram 房间即依赖境外平台，事后只能靠平台配合与外交渠道处置。

    此外，生成技术的开源属性使”溯源”几乎不可能：同一个开源扩散模型被全球下载使用，难以通过技术指纹锁定具体制作者；而电诈团伙使用境外云主机、虚拟货币结算，让”断资金、断服务器”的常规打击手段失灵。未来需要依赖的，是国际司法协助（MLAT）、跨国联合执法与平台数据留存义务的长效机制——正如勒索软件治理中”克罗诺斯行动”所展示的跨国查封模式。

  4. 证据与真实性的崩塌。在”眼见不为实”的时代，虚假视频不仅侵害个体，更可能动摇司法证据体系（视频证据的真实性质证）、舆论生态与选举秩序——这是深度伪造超越”个人侵权”的公共治理维度。

    司法层面已出现应对迹象：多地法院在涉及视频证据的案件中要求当事人对”视频是否原始、是否 AI 生成”作出说明，必要时委托专业机构鉴定；技术上，”区块链存证 + 可信时间戳”等电子数据固定方式被引入，通过”取证即固定”对冲伪造风险。但这一领域的规则仍处于”个案摸索”阶段，统一的电子证据真实性审查规则与 AI 生成物鉴定标准亟待建立。

六、结论与展望

深度伪造的治理，注定是一场”道高一尺、魔高一丈”的持久战。中国已经交出了全球治理中较完整的答卷：民法典的人格权底座、深度合成规定的服务管控、AI 标识办法的内容溯源，构成了”事前标识—事中管控—事后追责”的全链条。但制度供给之后，真正的考验在执行：

  • 对个人，人脸、声纹是”数字身份证”，应谨慎授权，警惕”换脸”类应用索取过多生物信息；
  • 对平台，标识不可剥离、溯源可以验证、违规及时处置，是未来监管的硬指标；
  • 对立法者，域外经验提示我们，针对”深度伪造性犯罪”的专门条款、检测技术标准与跨境协作机制，仍值得进一步探索。

技术没有善恶，但使用技术的人有。当一张脸可以被轻易”借走”，我们保护的不仅是肖像，更是”真实本身”——这是 AI 时代赋予法律的新命题。

附：深度伪造治理关键时间线

时间 事件 意义
2017 Reddit 出现首个换脸色情内容 Deepfake 概念进入公众视野
2019.3 英国能源公司高管被”AI 声音”冒充骗走 24 万美元 语音克隆诈骗首个标志性案例
2019.8 ZAO App 爆红并引发肖像权与隐私争议 中国 AI 换脸”监管第一课”
2021.1 《民法典》施行，第 1019 条写入”信息技术手段伪造肖像” 民事规制”总纲”落地
2022.12 《互联网信息服务深度合成管理规定》公布 专门规章出台
2023.1.10 深度合成管理规定施行 深度合成服务”标识义务”正式生效
2023.4 杭州互联网法院宣判”AI 换脸第一案” 肖像权保护落地到 App 换脸场景
2024.3 《网络暴力信息治理规定》施行 AI 生成虚假信息纳入网暴治理
2024.8 韩国 Telegram 深度伪造性犯罪事件曝光 全球震动，韩国修法重罚
2025.9.1 《人工智能生成合成内容标识办法》施行 “显式 + 隐式”双轨标识全面落地

从 2017 年的极客玩具到 2025 年的全球性法规，不到十年间，深度伪造完成了”技术扩散—社会风险—制度回应”的完整周期；而新一轮的扩散（开源模型 + 实时换脸）才刚刚开始。

附：个人与企业的 Deepfake 防护清单

个人层面：

  • 谨慎授权：不轻易向”换脸、美颜、数字人”类 App 开放人脸与声纹采集，关闭不必要的生物识别授权；
  • 双重核实：接到”熟人”视频、语音借款/转账要求时，务必用另一个已知渠道（电话回拨、当面确认）二次核实，警惕”实时换脸 + 语音克隆”组合骗局；
  • 控制生物素材曝光：减少公开平台上传高清正脸照与长时间语音样本——它们是训练 Deepfake 的核心素材；
  • 主动标识：发布由 AI 生成/编辑的内容时主动添加标识，既合规也降低被误解风险；
  • 及时举报：发现针对自己或他人的换脸/伪造内容，第一时间截图固定证据并向平台投诉、向公安机关报案。

企业层面：

  • 建立”AI 内容”鉴别与处置流程：对冒充高管/供应商的音视频进行预案化验证（如约定暗号、内网确认）；
  • 落实深度合成服务使用者身份核验与内容标识，将 AI 换脸类违规内容纳入平台审核关键词；
  • 涉及大额转账的内控环节，强制”双人复核 + 多渠道验证”，把 Deepfake 诈骗挡在资金流之外；
  • 对员工开展 Deepfake 识别培训，重点覆盖财务、人事、客服等易被社工攻击的岗位。

附：Deepfake 术语速查

术语 含义
Deepfake 深度学习 + 伪造，泛指 AI 生成/篡改的人脸、语音、视频内容
GAN 生成对抗网络：生成器与判别器对抗博弈的生成模型
扩散模型 通过”加噪—去噪”过程学习数据分布的一类生成模型
LoRA 微调 低秩适配微调：以极小参数量让模型学会生成特定人脸/风格
换脸（Face Swap） 将 A 的脸替换到 B 的身体/视频上的技术
语音克隆（VC/TTS） 复制特定音色并驱动其”说”任意文本的技术
显式标识 / 隐式标识 AI 生成内容在画面上的可见提示 / 文件元数据中的不可见标记
深度合成服务 利用深度学习生成、编辑图像/音频/视频的服务（含换脸、拟声、数字人）

主要来源：民法典第 1019、1023 条；《网络安全法》《数据安全法》《个人信息保护法》；《互联网信息服务深度合成管理规定》（2023.1.10 施行）；《人工智能生成合成内容标识办法》（2025.9.1 施行）；杭州互联网法院（2023）浙 0192 民初 1581 号案判决报道；北京互联网法院 AI 声音侵权案报道（2024）；欧盟《人工智能法案》（Regulation (EU) 2024/1689）；韩国《性暴力犯罪处罚法》2024 年修订；新华社、央视新闻、澎湃新闻等公开报道。
（内容由AI生成，仅供参考）