政务与公共服务 · 智能质检
中科睿鉴推出AIGC内容安全与模型安全检测平台,多模态深度伪造协同鉴别
中科睿鉴推出AIGC内容安全与模型安全检测平台,针对图像/音频/视频/文本深度伪造,提供伪造检测、溯源与取证能力,构建特定人物音视频伪造犯罪技术处置能力。
多模态深度伪造协同检测
标准构建
支持鉴别/溯源/取证全流程深度伪造标准
来源披露
数据集
构建特定人物细粒度伪造音视频检测数据集
来源披露
协同检测
连续学习多模态协同鉴别,高泛化强鲁棒
来源披露
企业痛点
01
业务背景
深度伪造算法翻新快、逼真度高、溯源取证难,某主管部门需开展音视频协同深度伪造鉴别溯源取证。
02
遇到的问题
深度伪造算法翻新速度快、逼真程度高、溯源取证难,需构建鉴别-溯源-取证全流程能力。
03
AI 解决方案
四部分:图像伪造检测(人脸/对抗训练/掩码自编码);音频伪造检测(多因子融合/预训练语音);视频伪造检测(多模态时空差异/跨域小样本);文本伪造检测(短文本/跨来源/多领域)。
- 1研发图像伪造检测(人脸/对抗训练/掩码自编码)
- 2研发音频伪造检测(多因子融合/预训练)
- 3研发视频伪造检测(多模态时空差异/跨域)
- 4研发文本伪造检测(短文本/跨来源/多领域)
- 5构建鉴别-溯源-取证全流程体系
04
实施结果
标准构建:支持鉴别/溯源/取证全流程深度伪造标准
数据集:构建特定人物细粒度伪造音视频检测数据集
协同检测:连续学习多模态协同鉴别,高泛化强鲁棒
05
风险与边界
伪造技术快速演进,检测需持续对抗迭代。
该案例来自北京市科学技术委员会、中关村科技园区管理委员会评选的北京市典型大模型应用,由北京中科睿鉴科技有限公司落地,具备较强的示范与可推广性,建议结合自身业务参考落地。
适合
媒体、平台、监管部门AIGC内容安全
前置条件
多模态伪造样本、对抗训练能力
信息来源
1 个来源页面内容为结构化改写;关键结论应可追溯到以下材料。
关联报告:北京市科委、中关村管委会《北京市人工智能行业大模型创新应用白皮书(2023年)》 · 北京市科学技术委员会、中关村科技园区管理委员会 · 2023