诞（dàn）生（shēng）之初，Deepfake是一（yī）项有趣的图像处理（lǐ）技术，仅仅带来搞笑（xiào）和（hé）娱乐视频，但殊（shū）不知，潘多（duō）拉魔（mó）盒（hé）就此被打开，催生（shēng）出 黑产（chǎn）、恶搞政客“操（cāo）纵”民意，Deepfake正逐步进（jìn）化为（wéi）一种新（xīn）型（xíng）“病毒”，人（rén）类伦理道德的“遮羞布”也（yě）被无情（qíng）揭开。

portant;" />

图：Saturday Night Live中（zhōng）凯特·麦金农换脸伊丽莎（shā）白·沃伦（lún）

面对因新技术而引发（fā）的公（gōng）众恐（kǒng）慌，相关监管机构也加快采取（qǔ）行动，出台“打假”策略，旨在打击（jī）Deepfake虚假（jiǎ）音（yīn）视频，控制“造假病毒”的传播。同时（shí），国内也迎来（lái）了（le）“最严数据（jù）管理（lǐ）”的一年（nián）。

11月29日，中国国家网信办也正（zhèng）式发布《网络音视频信息服务管理（lǐ）规定（dìng）》，指（zhǐ）出（chū）自2020年1月1日起（qǐ），AI造假视频不得随意发布。新规定中关于AI造（zào）假音视频的（de）规定主要有（yǒu）四条：“按照国家有关规定开展安全评估”、“以显著方式予以标识”非真实音（yīn）频信（xìn）息、不得利用AI造（zào）假技术发布虚假新闻、部署AI造（zào）假音（yīn）视频鉴别（bié）技术和（hé）健全辟谣机制等（děng）。

新规（guī）中不难发现，有效抑制Deepfake及类（lèi）似造假需（xū）要（yào）“两手抓”，除（chú）了利用法律法规严控“别有用心者”作恶，更要从源头（tóu）加强安全评估、鉴别技术等（děng）能力，借助技术手段提前布局，在检测方面领先一步。

近（jìn）日，来自清华大学的人工智能企业——RealAI正式发布（bù）了（le）一款（kuǎn）深度伪造视频（pín）检（jiǎn）测工具，可一键实（shí）现对深度伪造(Deepfake)视频的自动精（jīng）准识别。

一、 一键换（huàn）脸到一键“打（dǎ）假”

RealAICEO田天表示，尽管需求（qiú）达成一致（zhì），但目前大规模应（yīng）用的打假方法面临诸多困难。

首（shǒu）先，Deepfake的开源（yuán）技术让AI换脸的（de）使用门槛降（jiàng）低到手机（jī）美颜、P图的（de）水平，一键换（huàn）脸带来了“造谣”成本的降（jiàng）低、爆炸（zhà）式的传播。可是（shì）在防御层，相应标准（zhǔn）化的检（jiǎn）测工（gōng）具却几乎（hū）没有，人（rén）工鉴别（bié）不仅专业性要求高，且效率低。所以，无论对（duì）于个人、平（píng）台还是第三方（fāng）机构而言，打假辟谣（yáo）的时间窗（chuāng）口很短，难度却很高。

portant;" />

图：雷（léi）佳（jiā）音(左)换（huàn）脸郭德纲(右)

另（lìng）外（wài），更严重的问题在于，很多（duō）情（qíng）况下，Deepfake“以假乱真”的程度极高，人眼难以察觉。加之其算法目前还无法（fǎ）建模分（fèn）析，检测技术的研（yán）究被（bèi）严重影响，而造假（jiǎ）方的适应速度却很快，新（xīn）技术日益（yì）迭代。

RealAI基于（yú）第三代AI技术推出的深度伪造视频检测产品，通过（guò）采用“数（shù）据增广”的方式，用伪造的视频训练出一个新的模型，从而让模型（xíng）能够更好（hǎo）识别出伪（wěi）造痕迹，分（fèn）辨出（chū）造假视频（pín），可谓“魔高一尺，道高一丈”。该（gāi）产品支持图像、视频（pín）内（nèi）容鉴别，用户基（jī）于API接口将待（dài）检测的（de）图片、视频上传，一键即可反馈真伪。

事实（shí）上，开展针对Deepfake的“打假（jiǎ）”研究的团队早就存在，但相关的成果（guǒ）仅（jǐn）停留在算法层面，更多的（de）是为学术研究提供使（shǐ）用（yòng），无法应对真实环境（jìng）下大范围传播的虚假内容，所以，RealAI推出的这（zhè）款标准（zhǔn）化自动检测工（gōng）具可以说给规模化的（de）“打假”行动带来（lái）了新希望。

二、检测准确（què）率达99%，Deepfake“在（zài）劫难逃”

作为清华大学人工智能研究院核（hé）心孵化企业，以及国内（nèi）首家安全可控人工智能（néng）系统提供商，RealAI在AI安全（quán）与攻防技术领域拥有业界领先优（yōu）势。在今年刚结束的GeekPwn2019国际安全（quán）极客大赛中，其与（yǔ）清（qīng）华大学（xué）联合战（zhàn）队一举（jǔ）获得“CAAD CTF 图像对抗（kàng）样本挑战赛”以及“CAAD 隐（yǐn）身挑（tiāo）战赛”两项（xiàng）比赛的（de）冠军。

portant;" />

深（shēn）厚（hòu）的技术积累（lèi）也让RealAI安全研究团队对“造假方”的攻击原理有着更深刻的理解，能够更有针对性地开（kāi）发检测工具。本次推出的深度伪造视频检测产（chǎn）品，将原本高（gāo）难度的检测过程大幅简化，只需接（jiē）入SDK即（jí）可一（yī）键实（shí）时检测，调用简（jiǎn）单（dān）快（kuài）捷。

portant;" />

Deepfake视频检测产品（pǐn）流（liú）程图

与目前市面（miàn）上已（yǐ）有的（de）检测技（jì）术（shù）相比，RealAI的视频检测工具利用深（shēn）度学习算法、大量数据集训练模型，能够检测出绝大多（duō）数AI换脸假（jiǎ）视频，准确率（lǜ）达99%(内部测试数（shù）据集上（shàng）)。在面对算法的（de）换脸效果越（yuè）来越逼（bī）真的情况，RealAI的研发（fā）团队也集（jí）中研（yán）发新型的检测算法，以迭代（dài）和更（gèng）新RealAI的检测算法库。

更值（zhí）得注意的是，该产品适用于复（fù）杂视频（pín）内容检测（cè），支（zhī）持多种格式和（hé）多人脸检测（cè）模式，1S识别，最高可支持10人以（yǐ）上同屏。

三、Deepfake的潘（pān）多拉魔盒终（zhōng）将被关上（shàng）

随着（zhe）Deepfake技术被滥（làn）用，传（chuán）统意义（yì）上“真（zhēn）实”与“虚（xū）假”的界限被模糊，这对于社会生活的（de）影响之大此前未（wèi）被预（yù）想到（dào），但如今技术作恶所带（dài）来（lái）的负（fù）面（miàn）影响正全面爆发。

比（bǐ）如（rú），网络上（shàng）肆意传播（bō）的视频、图片（piàn）内容（róng），内容（róng）平（píng）台（tái）传统的审核机（jī）制无（wú）法（fǎ）辨别Deepfake生成内容（róng），若采用人工审核，需要投（tóu）入额外的（de）时间、人力成本;特定对象被（bèi）编造虚假信息在社交平台上广泛传播，处于舆论中（zhōng）心的当事人由于（yú）找（zhǎo）不到能够证实“谣言”是捏造（zào）的（de）有效途径（jìng），个人（rén）声誉因此受损;案（àn）件调查（chá）、法庭辩论中涉及的视频、图像等（děng）证据材料，警察、律师等人员无法单凭肉眼识别证据是否是基于（yú）Deepfake伪造（zào），需要专业工具鉴定真伪（wěi）;事（shì）故中真伪（wěi）难辨的影像资料，保险公司（sī）的审查（chá）人员（yuán）缺乏Deepfake造假（jiǎ）认（rèn）知以及不配备专业鉴别能力（lì），存在被诈骗理赔的风（fēng）险……

“人人都怕（pà）换脸术”的恐慌，让反Deepfake的检测需求变的异常迫（pò）切，本次RealAI检测工具的推出，通过与内容平台、执法机构、保险公司等机构（gòu）开展合作，能够在虚假内容（róng）甄别、线上资料（liào）审（shěn）核以及影像物（wù）证真（zhēn）实（shí）性检验等（děng）实际（jì）应用场景发挥作（zuò）用，并帮助企业与（yǔ）个人更好（hǎo）的进行信息管（guǎn）控与风险预警。

最后（hòu），在这场AI军备竞赛中，Deepfake将（jiāng）持续演化（huà），RealAI也将持续（xù）迭代（dài）技术、打磨产（chǎn）品。RealAICEO田天表（biǎo）示（shì），未来AI必然是安全可控（kòng）的（de）AI，一键“打假”终（zhōng）将超（chāo）越一键换脸的速度（dù），Deepfake的潘（pān）多拉魔盒也终将被关（guān）上（shàng）。