近日，在中关村论坛系列活动第 12 届数字金融与科技金融大会上，蚂蚁数科的 Deepfake 检测方案入选大会「金融科技技术创新与应用案例」。
蚂蚁数科依托旗下天玑实验室，业界首次构建了大规模、高质量、多模态的 Deepfake 数据集，其合成超过百万级多媒体内容，充分地模拟了真实世界金融风控环境中的 Deepfake 攻击样本，成为评测现有金融领域 Deepfake 检测模型性能的重要标准。在金融业务场景中，蚂蚁数科多组测试数据集上的 Deepfake 检测准确率达到了 98% 以上，并成功阻止了多起利用 Deepfake 技术进行的欺诈行为，保护了用户的资产安全。
该数据集解决了以往金融领域 Deepfake 检测模型无法大规模训练，无法在真实环境中测评的问题，并且从多模态分析角度促进了传统检测模型的发展。目前该数据集已经成为蚂蚁数科反深伪产品 ZOLOZ Deeper 对外服务客户的关键能力。
据了解，蚂蚁数科使用先进的多达 81 种 Deepfake 技术生成高质量的合成图像，覆盖了多种伪造技术类型、复杂光照条件、背景环境和面部表情，以模拟复杂逼真的真实世界攻击环境。除了静态图像外，还收集并生成了大量包含声音的视频数据，包括 100 多种伪造技术类型，涵盖不同语种、口音和背景噪音，确保数据集的多样性和复杂性。
在数据预处理和标注阶段，蚂蚁数科对收集到的数据进行清洗和预处理，确保数据质量。通过专家团队对数据进行标注，明确每张图像或每个视频是否为 Deepfake 生成的内容，同时保证伪造痕迹的最小化，达到高度逼真的效果。此前，蚂蚁数科发布了 AI 数据合成与生产平台，在数据标注层面实现了 「AI 主导」，标注模型依赖人工标注量降低了 70% 以上。
此外，蚂蚁数科在 2024 外滩大会发起了一场 Deepfake 攻防挑战赛，将 Deepfake 数据集作为比赛的基础训练和测试数据，吸引到了全球 26 个国家和地区，2200 多名选手报名参赛。通过大赛选手贡献的算法方案，Deepfake 数据集的攻击质量和检测难度得到了有效验证和评估。
随着人工智能技术的发展，Deepfake 技术也在迅速进步。这种技术利用深度学习算法，可以对视频中的人脸进行逼真的替换。尽管 Deepfake 在娱乐和传媒等领域有着积极的应用，但在金融领域，特别是身份验证和交易验证环节，Deepfake 技术带来了新的风险。金融机构的身份验证系统往往依赖于生物识别技术，如人脸识别。一旦这些系统被 Deepfake 技术所欺骗，可能导致严重的金融欺诈。
鉴于此，开发针对 Deepfake 攻击的检测系统在金融领域是十分必要的，但是强大的 Deepfake 检测防御模型需要高质量符合真实世界环境的人脸 Deepfake 数据集，所以如何构建模拟真实世界的数据集以及如何验证其有效性是紧迫的问题。
