从伪造检测溯源到安全治理：

聚焦AIGC内容标注新规，共议技术“打假”新路径

当深度伪造的视频足以以假乱真，当AI生成的语音可以轻松诈骗，当真假难辨的信息充斥网络……一个由人工智能生成内容（AIGC）引发的“真相危机”正悄然来临。这已不仅是一个技术工具的演进，更是一场深刻影响社会信任、公共安全乃至国家稳定的变革。

在此背景下，一场旨在为“真相”寻求技术防线的深度对话于2025年10月18日在中国科学院计算技术研究所拉开帷幕。由CCF YOCSEF总部主办、CCF YOCSEF总部AC刘文懋（绿盟科技）和张忠宝（北京邮电大学）共同担任执行主席的“人工智能生成内容治理的技术路径”技术论坛，汇聚了来自清华大学、北京邮电大学、百度等国内产学研界的核心专家。他们齐聚一堂，直面挑战，共同探寻这场日益激烈的AIGC攻防战的破局之道。与会专家一致认为，当前AIGC治理面临三大关键挑战：当前深度伪造内容的检测技术鲁棒性不足且滞后于生成技术发展；AIGC生成内容的溯源技术路径明确，但落地层面存在标准互认体系缺失与“不可能三角”制约；考虑到当前的技术限制与业务差异，AI安全治理方案需采取分场景差异化策略并压实平台责任。

一、检测困局：防守方为何总在“裸奔”？一场永不停歇的“猫鼠游戏”

“我们正面临检测技术的‘最后一公里’难题。”来自中国传媒大学的陈磊一语道破了当前AIGC内容检测的窘境。尽管Sora等先进模型在开源数据集上表现优异，但在真实世界的应用中却步履维艰。论坛上，一个清晰而沉重的共识迅速形成：在AIGC的迅猛攻势下，检测技术正陷入一场被动挨打、仿佛永远慢一步的“猫鼠游戏”。

与会专家们从不同维度剖析了这场博弈中防守方的“裸奔”状态：

首先是技术本身的脆弱性。清华大学长聘教授、国家杰青黄民烈带来了前沿的警示：多模态大模型正成为安全风险的新高地。他指出，攻击者已无需高深技术，仅通过巧妙的组合提示或利用看似无害的Emoji表情，就能低成本、高效率地利用图文模态间的分布差异与复杂关联，诱导模型绕过安全护栏，生成不实乃至有害内容。黄民烈展示了其团队的研究数据，证实了现有检测机制对这类隐晦的多模态攻击识别率极低。为此，其团队研发了名为ShieldBLM的多模态视觉模型检测模型，旨在提升检测精度。他强烈呼吁，面对多模态风险开放扩张的严峻形势，学界必须推动内容治理从封闭识别转向开放建模，亟需加强跨模态安全对齐研究。

其次是应用环境的复杂性。陈磊指出，实验室中的高精度检测模型，一旦进入充斥着视频压缩、美颜滤镜、网络噪声的真实互联网环境，性能便会“断崖式下跌”，误检率从5%飙升至20%的现象屡见不鲜，实用性大打折扣。模型的鲁棒性失灵与泛化能力不足，使得防守方构建的防线一触即溃。

更深层的是博弈逻辑的失衡。“防守永远落后于攻击”，YOCSEF秘书长谭晓生犀利地指出，生成模型的飞速迭代与检测技术的相对滞后，形成了结构性的矛盾。哈工大（深圳）的漆舒汉以其参加ACMR竞赛的亲身经历佐证，尽管视频检测技术繁多，但最终往往是通过音频的“假”来决出胜负，这恰恰反映了防守方在技术对抗中长期处于被动追赶的地位。

论坛的讨论还有效触及了治理的根本性问题：我们究竟应该检测“AIGC生成”这一行为本身（例如无害的照片美化），还是判定其有害结果（例如恶意的视频诈骗）？这一“检测对象本质”之问，引发了对技术目标与治理边界关系的再思考，凸显了业界对此缺乏共识。在所有挑战中，金融诈骗等场景中风险极高的音频检测，因其样本少、特征独特且中美市场需求存在差异，被公认为当前难度最高、但也愈发关键的攻防焦点。

二、溯源核心：技术的“不可能三角”与治理的“远水近渴”

如果说检测是在茫茫信息中发现可疑的“弹孔”，那么溯源就是沿着弹道追寻开枪的“黑手”。然而，这条追寻真相的道路同样布满荆棘。

与会专家指出，以数字水印为代表的溯源技术，正面临着一个难以调和的内在矛盾——鲁棒性（水印在内容被篡改后依然能被检测）、隐蔽性（不影响原始内容的观感和质量）和容量（能够承载的信息量）之间构成的“不可能三角”困境。三者之间此消彼长，难以同时达到理想效果。

技术的局限之外，是治理逻辑的深层矛盾。来自北京邮电大学网络空间安全学院的周琳娜一针见血地指出，国内溯源治理因应用场景不同而思路各异。网信部门侧重于对内“管民”，核心目标是通过内容识别，阻断境外有害信息向国内的传播；而军队、国安部门则更关注对外溯源，通过分析特定组织（如“1450”水军）的内容特征并结合情报手段，实现对认知战对手的精准打击。这种“内外有别”的治理模式，使得单一的技术方案难以满足所有需求。

更令人担忧的是，当前“加标识、强管控”的治理思路偏向于“管良民”，对于有组织的恶意攻击者和不受管辖的境外内容源头，效力十分有限。来自百度安全技术团队的负责人高磊，从产业一线视角补充了这一观点。他警告，单纯依赖水印极易被攻击者针对性破解，若溯源工具（Decoder）被公开，更将沦为黑产测试其伪造技术有效性的“陪练”，大大增加仿冒和滥用风险。他强调，其团队正致力于构建涵盖基于深度学习的隐式水印与伪造人脸检测的双层防护体系，并通过跨域泛化与可解释性研究来提升检测结果的可信度。

此外，来自浙江理工大学的佟威提出了溯源中的两大新兴难题：一是匿名水印或指纹的检测与伪造风险，二是大模型嵌套调用（一个大模型调用另一个或多个底层模型）带来的版权归属与溯源终点的不确定性。这些问题与区块链等方案高昂的部署成本交织在一起，都让溯源体系的构建挑战重重，远水难解近渴。

三、破局之路：超越技术对抗，构建多位一体的中国治理方案

面对检测与溯源的双重困局，与会专家并未止步于技术层面的攻防探讨。经过近两个小时的激烈思辨，一场超越单纯技术对抗思维的治理蓝图逐渐清晰。专家们为AIGC治理的“中国方案”描绘出了一幅多位一体、层层递进的立体化路线图：

（1）压实平台责任，守住第一道防线

这是全场达成的最强烈共识。与会者一致认为，必须将内容提供商和传播平台作为治理的“主战场”，通过立法和监管，强制要求其履行内容审核、为生成内容添加统一标识及提供配套检测工具的核心责任。周琳娜表示，这已是国际惯例，美国政府也已强制要求头部科技企业采取类似措施，压实平台责任是全球治理的必由之路。

（2）借鉴“盗版治理”，构建健康生态

来自广州大学的苏深与来自小米公司的刘伟提出了极具启发性的类比。他们认为，治理的核心不应是围追堵截，而应是生态的建设与引导。正如当年通过扶持正版音乐、视频平台，逐步培养了用户的付费习惯，从而瓦解了盗版产业的生存土壤一样。面对AIGC，也应通过法律与技术手段，大力扶持合规、优质的“正版”AIGC内容生产与消费，通过提供更好的服务和内容，自然地压缩劣质、有害内容的生存空间，最终构建一个“良币驱逐劣币”的健康产业生态。

（3）完善法规标准，织密制度之网

在国家层面，应加速加强个人隐私数据（尤其是人脸、声音等生物信息）的保护立法，从数据源头遏制深度伪造等技术的滥用。同时，积极推广如“内容真实性认证”（CT - Play）等行业标准，建立统一、互认的技术“护城河”，避免各家厂商因技术壁垒造成“九龙治水”的碎片化治理局面。

（4）建立协同防御体系，形成社会合力

漆舒汉建议，应从体系化对抗的高度，构建国家级的“人工智能安全态势感知系统”，实现对全网AIGC恶意行为的实时发现、研判与阻断。

来自东南大学的徐翔宇则补充，可以复用现有成熟的谣言管控技术模型，因为AIGC内容与谣言在传播路径、管控逻辑上高度相似。

通过整合不同部门的需求，建立跨部门的协同防御体系，才能形成真正的社会合力。

最后，YOCSEF现任AC主席贺瑞君与秘书长谭晓生对论坛进行了总结与展望。贺瑞君指出，在AIGC内容已占据互联网半壁江山的时代背景下，探讨其治理问题具有极其重要的现实意义。本次论坛从学术与产业等多个维度进行了深入引导与思辨分享，虽暂未形成统一的技术路径，但激发了多角度、有价值的思考。他强调，YOCSEF未来将继续聚焦此议题，并呼吁在讨论中更清晰地界定技术与治理的边界。谭晓生则认为，虽然本次论坛在检测技术领域的探讨略显不足，但整体氛围活跃，富有成效。他同时也对论坛的组织细节提出了建设性意见，期望未来能进一步提升议题聚焦与准备的深度，并更好地传承YOCSEF直呼其名的交流文化，以营造更开放、顺畅的沟通氛围。最后，贺瑞君对赞助单位及所有参与者表达了衷心感谢。