深度伪造
主页 > 
深度伪造
< 返回

深度伪造

深度伪造简介

深度伪造是「深度学习」和「伪造」的合併词,即是利用人工智能/深度学习技术无中生有,制作出看似可信和逼真的视像、图像或音频,其中一个应用例子就是修改电影片段,而非重新拍摄或于后期制作中修改脸部表情。

近年,由于深度伪造恶意用于制造假视像、伪造图像和金融欺诈,所传播的错误讯息虚假讯息可能会侵蚀企业的声誉和社会之间的信任,因而引起大众关注。现在要取用创作深度伪造的工具十分容易,引起公众对于以假乱真的深度伪造制成品的关注,认为须加以侦察,以及限制其使用。

深度伪造的原理

创作深度伪造的合成数据技术日趋成熟。

-
人手操作:应用缩放、旋转和颜色调整等后期处理步骤改善视觉效果、比例和视角的连贯性。
-
自动化操作:採用数码电脑绘图和深度学习技术修改视像、图像或音频,使其具有更良好的语义一致性。
-
人工智能生成:使用自动编码器生成对抗网络从头开始制造逼真的视像、图像或音频。
深度伪造的演变
图 1:深度伪造的演变

深度伪造技术包括一系列的演算,用于识别脸部和声音的重要参数,并学习将参数重组为合成视像、图像或音频。技术大致可分为视觉和音频两类,而属性操作水平则按媒体的来源和所需的合成结果分类。

音频的深度伪造技术用于伪造令人信以为真的说话,语音听起来就像是某人所说,但事实并非如此。

-
文本转换语音合成:使用逼真的旁白语音制作器将文本转换为听起来自然的说话。
-
逼真的人工智能语音:使用合成语音的人工智能从录音样本中演算出真人的声音,并以十分准确及相似的语调与他人沟通。
-
编辑语音:修改语音,调节出完全不同的声音。

视觉的深度伪造技术用于伪造视像,将现有图像或视像中的人转换为其他人的肖像。

-
换脸:将原来视像中的人脸更换为目标人脸。
-
同步口形:制造目标人物的合成视像,令受操作的视像中的口形与与操控的语音输入吻合。
-
面部再现:採用即时演算把所操作的目标人物脸部表情呈现在视像上。
-
全脸合成:制造不存在但逼真的人脸。
-
脸部操作:通过修改特定区域来改变一个人的脸部外观,但同时保持其他不相关的区域不变。
深度伪造的影响

由于深度伪造越来越逼真和令人相信,人们难以在真实视像内将虚假的部分分辨出来。由于深度伪造看起来十分真实,促使观众相信,并在社交媒体上分享,加速虚假讯息的传播。

我们已发现不少恶意深度伪造,这些深度伪造所带来的一些影响胪列如下。

深度伪造造成的影响示例
图 2: 深度伪造造成的影响示例
1.
制造负面的舆论
导致受害人的声誉严重受损,例如利用某些名人的脸孔或声音被用来散布谣言。
2.
影响经济活动
描述虚假事件以诽谤企业,从而推动市场情绪,引发股市动盪。
3.
制造法律问题
深度伪造可能涉及在未经拥有人准许的情况下复制和分发版权材料,而不当使用或会导致法律问题。同样,泄露或更改某人的个人资料亦可能构成侵犯私隐。在法庭诉讼中,涉及录音、视像等电子证据的纠纷,只有其真实性通过法证水印工具鑑定方可使用。
4.
促成网络攻击
深度伪造可促成网络攻击和诈骗。
-
冒充受信任的人并获取个人讯息,以进行鱼叉式 仿冒诈骗(例如身分盗用、CEO 诈骗)。
-
使用虚假身分资料进行欺诈,例如冒充死者以获取经济利益的“幽灵欺诈”(欺诈性交易)。
-
使用合成脸部表情或复制语音等以削弱利用人脸识别作为活体侦测的可靠性。
打击深度伪造

随着深度伪造技术的广泛应用,我们越来越难相信耳闻目睹的事物。因此,若要保障人们对数码内容的信任,必须侦测深度伪造。大多数侦测深度伪造的方法都利用深度学习技术,以及识别脸部区域中出现的视觉加工。通过识别深度伪造的创作模式,侦测技术能够使用深度学习发现细微的差异。除了利用科技侦测深度伪造外,我们亦可运用一些肉眼识别的技巧:

肉眼识别深度伪造的技巧
图 3: 肉眼识别深度伪造的技巧

鑑于深度伪造技术的威胁对企业构成严重影响,因此企业必须採取预防措施,减低成为深度伪造欺诈受害者的机会。

机构的良好作业模式
图 4: 机构的良好作业模式
1.
预防
-
鼓励在讯息处理过程中进行事实核查。
-
制定内部程序验证可疑的内容,识别其来源及创作者身分。
-
使用统一的讯息分发/传播和报告渠道。
-
就识别图像和视像的真实性为员工提供适当培训。
2.
侦测
-
经常监察与业务相关的网上媒体,以过泸任何虚假图像或视像。
-
进行比较分析,以对比媒体库的真实内容,以及于互联网上进行反向图像搜索。
3.
保护
-
在所分享的内容上加上数码水印,以免有关内容被再用于深度伪造。
-
在进行活体侦测及脸部识别时採用脸部生物辨识的防止仿冒工具,以对付深度伪造。
-
採用媒体认证和来源工具,以验证媒体的真实性。
4.
应对
-
制定事故应变计划,以便在出现虚假讯息时遏制有关情况,并採取行动。
-
识别错误讯息/虚假讯息,并立即对误导性陈述作出回应。
延伸阅读
1.
香港网络安全事故协调中心 – 人工智能与网络保安
2.
The United States Department of Homeland Security (DHS) - Increasing Threat of DEEPFAKE Identities (只提供英文版)
3.
守网者 - 深度伪造
4.
IEEE Xplore - Deepfake Detection using GAN Discriminators (只提供英文版)

免责声明:用户亦应留意本网站的免责声明。在下载和使用保安软件和工具前,应细阅相关的用户协议和私隐政策。