生成式AI发展所引发的欺诈风险备受行业关注，研究与之对抗的鉴别技术，成为AI时代的长期命题。

　　8月18日，记者了解到，近日，在国际人工智能联合会议（IJCAI）期间，蚂蚁数科与新加坡科技研究局联合主办“深度伪造检测、定位、可解释性”研讨会。现场，蚂蚁数科与斯坦福大学分别开源两大深度伪造数据集，涵盖人类面部及动作伪造、声音克隆等多种模态，为行业提供了关键的基础数据资源，推动AI安全技术发展。

　　据悉，该研讨会聚焦Deepfake（深度伪造）识别方向，来自中国、美国、澳大利亚、巴西、新加坡等多国知名机构学者与行业专家分享前沿技术和应用成果。

　　记者从蚂蚁数科了解到，用于IJCAI“深度伪造检测挑战赛”的180万训练数据集（DDL-Datasets）正式向全球研究者开源。该数据集包含人脸伪造、视频篡改、声音克隆三大高危场景，涵盖80余种伪造手法，清晰标注了AI造假的画面位置、时间节点，有助于提升算法可解释性。研究者可在Modelscope（磨搭社区）下载获取。

　　由斯坦福大学、谷歌与加州大学伯克利分校联合开源的视频数据集DeepAction，包含7款大模型生成的2600段人类动作视频以及相匹配的真实镜头，这些视频展示了行走、奔跑、烹饪等日常行为，研究者可在Hugging Face（抱抱脸社区）下载获取。此外，研究团队发表的论文《AI生成人体动作检测》（Human Action CLIPs:Detecting AI-Generated Human Motion）获得该主题workshop最佳论文。该论文提出了一种基于多模态语义嵌入的鉴别技术，可精准区分真实人体动作与AI生成动作。该方法具有较强的“鲁棒性”，可有效抵御数据篡改手段（如调整分辨率、压缩视频等）对检测算法的干扰。

　　蚂蚁数科长期关注并持续投入AI安全及风险防范。公开信息显示，旗下安全科技品牌ZOLOZ自2017年起服务海外机构的数智化升级，目前已覆盖超25个国家和地区，“实人认证”产品准确率达99.9%。

（文章来源：广州日报新花城）