关闭 Deepfake 的潘多拉魔盒，RealAI 推出深度假视频检测工具
Deepfake诞生之初是一种有趣的图像处理技术，只带来搞笑有趣的视频，但大家都不知道潘多拉魔盒被打开，催生色情产品，欺骗政客“操纵”舆论. Deepfake正在逐渐进化成一种新型“病毒”，人类伦理的“形象”也被无情揭开。
图片：凯特·麦金农在周六夜现场和伊丽莎白·沃伦中变脸
面对新技术引发的公众恐慌，相关监管部门也加快了行动，出台了“打假”策略，打击Deepfake虚假音视频，控制“打假病毒”的传播。与此同时，国家也迎来了“最严数据管理”之年。
11月29日，国家网信办还正式印发《网络音视频信息服务管理规定》，规定自2020年1月1日起，不得随意发布人工智能造假视频。新规中，对人工智能仿冒音视频主要有四项规定：“按照国家有关规定进行安全评估”、“以重大方式标记”非真实音频信息、不得使用人工智能仿冒技术发布虚假新闻，部署人工智能虚假音视频识别技术和完善的反谣言机制等。
在新规中不难发现，有效打击Deepfakes及类似欺诈行为需要“两只手”。除了用法律法规严控“别有用心的人”作恶，还需要从源头上加强安全评估和识别技术能力，借助技术手段提前布局，一步到位。检测领先。
近日，清华大学人工智能公司RealAI正式发布深度造假视频检测工具，可实现一键自动准确识别深度造假视频。
一、一键变脸一键“假冒”
RealAICEO田田表示，尽管需求上已经达成共识，但目前防伪手段的大规模应用面临诸多困难。
首先，Deepfake的开源技术将使用AI换脸的门槛降低到了手机美化和P图的水平。一键换脸，带来了“造谣”成本的降低和爆发式传播。但是，在防御层面，几乎没有相应的标准化检测工具。人工识别不仅专业性高，而且效率低下。因此，无论对于个人、平台还是第三方组织，打假造谣的时间窗口都很短智能检具，但难度却很大。
图：雷佳音（左）变脸郭德纲（右）
另外，一个比较严重的问题是，在很多情况下，deepfakes的程度非常高，人眼难以察觉。此外智能检具，其算法目前无法建模分析，检测技术研究受到严重影响，而造假者适应速度很快，新技术日新月异。
RealAI 是一款基于第三代人工智能技术的深度伪造视频检测产品。通过使用“数据增强”，从伪造的视频中训练出新的模型，使模型能够更好地识别伪造的痕迹。鉴别假视频可谓是“魔高一尺，路高一尺”。产品支持图像和视频内容识别。用户根据API接口上传待检测图片或视频，真实性一键反馈。
事实上，对Deepfake进行“防伪”研究的团队由来已久，但相关成果仅停留在算法层面，更多用于学术研究，无法应对真实环境中广泛传播的虚假信息。因此，RealAI推出的这款标准化自动检测工具，可以说为大规模“防伪”行动带来了新的希望。
二、检测准确率99%，Deepfake“不逃”
作为清华大学人工智能研究院的核心孵化器和国内首家安全可控的人工智能系统提供商，RealAI在人工智能安全和攻防技术领域具有行业领先优势。在今年刚刚结束的GeekPwn2019国际安全极客大赛中，其与清华大学的联合团队一举夺得“CAAD CTF图像对抗样本挑战赛”和“CAAD隐身挑战赛”的冠军。
深厚的技术积累也让RealAI安全研究团队对“造假方”的攻击原理有了更深入的了解，更有针对性地开发检测工具。此次推出的深度伪造视频检测产品，大大简化了原本困难的检测流程。只需接入SDK即可一键实时检测，调用简单快捷。
Deepfake 视频检测产品流程图
与目前市场上现有的检测技术相比，RealAI的视频检测工具使用深度学习算法和大量数据集训练模型，能够检测出大部分AI换脸假视频，准确率高达99% （内部在测试数据集上）。面对越来越逼真的算法换脸效果，RealAI的研发团队也专注于开发新的检测算法，迭代更新RealAI的检测算法库。
值得注意的是，该产品适用于复杂视频内容检测，支持多种格式和多种人脸检测模式，1S识别，最多可支持10人同屏。
三、Deepfake 的潘多拉魔盒最终将被关闭
随着 Deepfake 技术的滥用，“真”与“假”的传统界限变得模糊。这对社会生活的影响以前没有预料到，但现在技术邪恶的负面影响是积极的。满分。
比如视频和图片内容在网络上肆意传播，传统的内容平台审核机制无法区分Deepfake生成的内容，如果采用人工审核，需要额外的时间和人力成本；具体对象是社交平台上捏造的虚假信息，在互联网上广为传播。处于舆论中心的当事人找不到有效方法证明“谣言”是捏造的，个人名誉受损；基于Deepfake无法直观识别证据是否伪造，需要专业工具验证真实性；事故图像数据真伪难辨，保险公司检查人员缺乏Deepfake欺诈意识，不具备专业识别能力，存在欺诈理赔风险...
“人人都怕换脸”的恐慌，使得反深度伪造检测需求异常迫切。本次推出的RealAI检测工具，通过与内容平台、执法机构、保险公司等机构的合作，能够在虚假内容筛查、在线数据审核、图像物证真实性等实际应用场景中发挥作用检查，帮助企业和个人更好地进行信息控制和风险预警。
最后，在这场AI军备竞赛中，Deepfake会不断进化，RealAI也会不断迭代技术，打磨产品。 RealAI CEO天天表示，未来AI必然是一个安全可控的AI。一键“防伪”终将超越一键换脸速度，Deepfake的潘多拉魔盒终将被关闭。
未来智能实验室是人工智能科学家与科学院相关机构共同建立的人工智能、互联网和脑科学的交叉学科研究机构。
未来智能实验室的主要任务包括：建立AI智能系统智商测评体系，开展全球人工智能智商测评；开展互联网（城市）云大脑研究计划，构建互联网（城市）云大脑技术和企业版图，提升企业、行业、城市服务的智能化水平。
如果您对实验室研究感兴趣，欢迎加入未来智能实验室在线平台。扫描下方二维码或点击本文左下角“阅读原文”
