AI换脸视频不能随意玩了新规下一年起实施

从换脸技能 Deepfake 初度在论坛呈现，到“神奇女侠”盖尔·加朵的脸被嫁接到成人片女星身上，再到换脸运用 ZAO 一夜间风行朋友圈，仅仅只过了两年。

根据深度学习的 AI 换脸技能正在创造出渐渐的变多真假难辨的视频。但与此同时，AI 造假技能也在繁殖惊惧，这背面是关于隐私、实在、版权等等悬而未决的问题。

监管现已跟了上来。11 月 29 日，国信办引发了《网络音视频信息服务办理规则》（以下简称“规则”），提到了对深度学习视频内容的管控。

规则第 11 条指出，网络音视频信息服务提供者和运用者运用根据深度学习、虚拟现实等的新技能新运用制造、发布、传达非实在音视频信息的，应当以明显方法予以标识；不得运用根据深度学习、虚拟现实等的新技能新运用制造、发布、传达虚伪新闻信息；转载音视频新闻信息的，应当依法转载国家规则范围内的单位发布的音视频新闻信息。

也就是说，一般人和服务商发布非实在 AI 音视频时，要以明显方法标清它运用 AI 技能进行了二度创造，且不得运用它制造假新闻。

在视频共享网站 Bilibili 上，能看到很多素人 UP 主制造的 AI 换脸视频。徐锦江、凌潇肃、倪大红、范伟、赵本山等人的形象是最受欢迎的换脸模版。这些视频大多以文娱为意图，制造水平纷歧，运用的视频布景大多是影视剧“名局面”。尽管创造者一般都会标清内容运用了 AI 换脸技能，但常常会被谈论戏弄（夸奖）为“拿原片出来哄人”。

“黑寡妇”的脸被换在了佟湘玉的头上 图片来自：bilibili

徐锦江的脸被换在了雷神的头上 图片来自：bilibili

除此之外，规则还对服务商提出了额定要求，包含“打开安全评价”、“布置非实在音视频辨别技能”、“及时中止传达未明显标识的非实在 AI 音视频内容”、“建立健全驳斥谣言机制”等。新规将于下一年 1 月 1 日起实施。

作为一项“天然生成带有攻击性”的技能，Deepfake 从诞生之日起就伴跟着惊叹声和质疑声。比较国内，海外互联网渠道关于此类“非自愿内容”的展现好像得更苛刻一些。

2018 年 1 月 31 日，Gfycat 从其站点中删去了一切 Deepfake 内容。同年 2 月，Reddit 与 Pornhub 也宣告因违背“非自愿色情”方针而制止此类内容。同月，Twitter 表明将暂停涉嫌发布未经许可的 Deepfake 内容的帐户。2018 年 9 月，Google 也将“非自愿组成色情图片”增加到了其禁令列表中。

2016 年 6 月，一段以 Facebook CEO 马克·扎克伯格（Mark Zuckerberg）的脸为资料的 Deepfake视频在 Facebook 和 Instagram 上传达，Facebook 随后表明，他们不会从其渠道中删去 Deepfake 内容，但这些视频会被第三方标记为假造，然后被下降优先级。

题图来历：bilibili