ACM Computing Surveys | 港大等基于可靠性视角的深度伪造检测综述，覆盖主流基准库、模型

本综述有助于将深度伪造检测模型与其在实际案例中的潜在应用联系起来。

原标题：ACM Computing Surveys | 港大等基于可靠性视角的深度伪造检测综述，覆盖主流基准库、模型
文章来源：机器之心
内容字数：4759字

深度伪造检测：从可靠性视角的全面综述

近年来，深度伪造技术发展迅速，其便利性与对隐私安全的潜在危害并存。虽然已有许多深度伪造检测模型被提出，但实际应用于司法判决的案例却很少，这凸显了该领域亟待解决的问题。机器之心报道了一篇发表在ACM Computing Surveys上的综述论文，该论文从可靠性视角出发，对深度伪造检测领域进行了全面回顾，并指出了未来研究方向。

1. 深度伪造检测的挑战

这篇由香港大学、齐鲁工业大学、湖南大学和圭尔夫大合发布的综述论文指出，目前深度伪造检测模型面临三大挑战：迁移性、可解释性和鲁棒性。

1.1 迁移性：现有模型通常在特定数据集上训练，缺乏对未见过的数据和篡改算法的泛化能力。理想的模型应该能够在不同数据集和篡改方法下保持稳定准确率，避免不断增加模型训练成本。

1.2 可解释性：大多数模型只能给出真假判断，缺乏可信的证据和易于理解的解释。对于非专业人士来说，提供伪造区域定位或可视化伪造痕迹等信息至关重要，以增强模型的可信度和应用价值。

1.3 鲁棒性：深度伪造素材在传播过程中会遭受各种质量损失（例如压缩、修改等），以及攻击者有意添加的干扰噪声。鲁棒性强的模型应该能够克服这些干扰，准确判断素材真伪。

2. 可靠性评估方法

为了解决上述挑战，论文提出了一种新的可靠性评估方法。该方法模拟真实世界深度伪造数据的整体情况，利用统计学中的随机采样方法，对模型的可靠性进行科学评估，并提供统计学指标，作为潜在的法庭证据。

3. 实际案例分析

论文将七个深度伪造检测模型应用于多个实际案例，这些案例的受害者包括明星、政客和普通人。实验结果表明，现有模型在迁移性、可解释性和鲁棒性方面各有优势，但在兼顾多个方面时，性能会受到影响。理想的模型应该同时具备这三个方面的良好性能。

4. 未来研究方向

论文总结了深度伪造检测领域的挑战和未来研究方向，强调了开发兼具迁移性、可解释性和鲁棒性的可靠模型的重要性，以更好地保护个人隐私和信息安全。 这项研究为该领域的研究者提供了新的研究思路和挑战。

5. 作者信息

第一作者王天一，本科毕业于美国华盛顿大学，博士毕业于香港大学，现为南洋理工大学博士后研究员。

联系作者

文章来源：机器之心
作者微信：
作者简介：专业的人工智能媒体和产业服务平台