近日，CCF YOCSEF郑州“警惕AI换脸幽暗面，思考监管控制权”论坛（CCF-Yo-23-164）在河南郑州正商建国饭店28楼第1会议室举办。ChatGPT和Sora等大模型技术取得了举世瞩目的突破，预示着人工智能（AI）正逐步成为推动社会进步的新质生产力引擎。全球范围内，各国竞相争夺AI技术制高点，力图在未来科技格局中占据主导地位。在这一背景下，我国积极拥抱人工智能创新发展的浪潮，河南省政协更是将“人工智能创新发展”列为一号协商议题，力求在AI领域取得突破性进展。

图1 部分论坛参与人员合影留念

        然而，技术发展的同时，如何有效监管AI换脸等技术的使用，防止其滥用和误用，成为我们亟待解决的问题。为了深入探讨这一议题，3月31日，CCF YOCSEF郑州分论坛学术委员会顺利承办了一场以“警惕AI换脸幽暗面，思考监管控制权”为核心议题的观点论坛。此次论坛由郑州大学副教授、CCF YOCSEF郑州候任AC委员刘起东和河南众诚信息科技股份有限公司董事、CCF YOCSEF郑州AC委员邓国军担任执行主席，中原⼯学院计算机学院信息安全系副主任、CCF YOCSEF郑州候任学术秘书单芳芳担任线上主席。

   论坛汇聚了国内顶尖的专家学者、一线公安干警及企业代表，包括加拿大工程院院士、加拿大工程研究院院士、欧洲人文和自然科学院外籍院士、郑州大学学术副校长杨天若和⾸都师范⼤学信息⼯程学院计算机科学与技术学院副教授唐晓岚等学术界翘楚，也有中国⼈⺠警察⼤学硕⼠研究⽣导师、河南省公安厅反恐总队⼀级警⻓秦红发和许昌市公安局信通⽀队警务技术三级主任苏博、焦作市公安局刑侦支队白永刚等实战经验丰富的公安干警，以及北京智谱华章科技有限公司联合创始⼈鄢兴雨和华为技术有限公司⾼级⼯程师韩云鹏等业内领军人物，共同探讨AI换脸技术的利弊权衡，AI监管的宽严相济，为河南省的AI发展布局提供思路和建议。

   此外，论坛还得到了河南省计算机学会理事⻓、郑州大学计算机与人工智能学院前院长周清雷，河南省人大常委、⽔利部⻩委会信息中⼼主任寇怀忠，郑州轻⼯业⼤学计算与通信⼯程学院副院⻓、CCF郑州分部主席吴怀广等老主席的鼎力支持，他们的出席不仅为论坛增色添彩，更为年轻一代的科技工作者树立了榜样。

图2 开场环节：CCF YOCSEF总部AC委员唐晓岚做文化培训（左），郑州大学学术副校长杨天若致辞（右）

开场环节

   论坛伊始，CCF YOCSEF总部AC委员唐晓岚为与会者带来了精彩的文化培训，为论坛奠定了深厚的文化底蕴。紧接着，加拿大工程院院士、加拿大工程研究院院士、欧洲人文和自然科学院外籍院士、郑州大学学术副校长杨天若发表了热情洋溢的致辞。他表达了对CCF YOCSEF郑州分论坛的全力支持，并表示将积极为河南的发展贡献智慧和力量。

引导发言环节

   中国⼈⺠警察⼤学硕⼠研究⽣导师、河南省公安厅反恐总队⼀级警⻓秦红发以《AI 对反诈工作的挑战》为题，深入剖析了人工智能在电诈犯罪中的应用及其应对策略。他通过生动的案例和深入的分析，让我们深刻感受到在人工智能时代面临的挑战与责任。秦红发的分享不仅让我们对AI在反诈工作中的重要性有了更深刻的认识，也激发了我们为维护社会稳定贡献力量的决心。

图3 引导发言1：秦红发做《AI 对反诈工作的挑战》报告（左），YOCSEF郑州老主席周清雷为秦红发颁发感谢证书（右）

   随后，中原⼯学院⽹络空间安全学院副教授、CCF郑州分部秘书⻓夏冰带来了《AI监管现状与挑战》的报告。他全面而深入地剖析了当前AI监管的现状与面临的挑战，让我们对AI监管的复杂性和紧迫性有了更加清晰的认识。夏冰的分享不仅为我们提供了宝贵的思考和启示，也为我们探索更有效的AI监管方案指明了方向。

图4 引导发言2：夏冰做《AI监管现状与挑战》报告（左），YOCSEF郑州老主席寇怀忠为夏冰颁发感谢证书（右）

   最后，华为技术有限公司⾼级⼯程师、河南晟腾AI人工智能创新中心CTO韩云鹏以《自主创新，全面推动AI国产化建设》为题，分享了他对自主创新在AI国产化建设中的独特见解。他强调了自主创新在推动AI国产化建设中的核心地位，并为我们指明了未来发展的方向。韩云鹏的报告充满了前瞻性的思考和实践经验，对我们全面推动AI国产化建设具有重要的指导意义。

图5 引导发言3：韩云鹏做《自主创新，全面推动AI国产化建设》报告（左），YOCSEF郑州老主席刘云龙为韩云鹏颁发感谢证书（右）

思辨讨论环节

   与会嘉宾从“AI换脸：利益与风险的较量——天平将倾向何方”、“AI监管：强化监管还是放手一博——谁将引领未来”和“AI博弈：我省破局之道——前瞻三十年，布局未来！”这三个议题展开交流与辩论，将活动引入新的高潮。经过一个下午的深入探讨与热烈思辨，本次论坛取得了丰富的成果，现将主要观点总结如下：

        1）关于AI换脸技术的双面性，与会者一致认为，这项技术既为影视、娱乐等领域带来了全新的创意与表达方式，同时也引发了隐私泄露、身份冒用等安全风险。众多专家学者从不同角度阐述了AI换脸的利弊，强调在享受技术红利的同时，必须正视其潜在的风险和挑战。与会者普遍认为，应审慎对待AI换脸技术的使用，确保其在合法、合规的前提下得到应用，并建立可溯源的机制，以应对可能出现的滥用行为。

        2）在探讨AI监管的宽严相济时，与会者指出，站在国家层面，应制定审慎的监管制度。面对外部可能的威胁，我们不能因噎废食，而是应积极寻求AI制衡AI的策略。监管既要保障技术的健康发展，又要避免过度干预和束缚创新。通过完善法律法规、建立有效的监管机制，我们可以在保障个人隐私和安全的同时，推动AI技术的持续创新和应用。同时，行业自律和社会监督也是不可或缺的力量，应共同营造一个良好的发展环境。

        3）针对河南省在AI发展格局中的战略布局，与会者普遍认为河南省具有巨大的发展潜力。与会者建议，河南省应抓住当前的发展机遇，加大投入力度，特别是在人才培养和引进、创新生态发展等方面。通过推动AI技术在各个领域的广泛应用和创新实践，河南省可以进一步提升自身的科技实力和产业竞争力。同时，加强与国内外先进地区的合作与交流也是至关重要的，这有助于河南省在AI领域取得更多的突破和成果。

图6 与会嘉宾思辨组图

   最后，感谢河南省计算机学会和郑州大学计算机与人工智能学院对本次论坛的大力支持，以及华为技术有限公司、中建材信息技术股份有限公司、河南众诚信息科技股份有限公司的慷慨赞助。这些支持使得论坛得以顺利进行，为与会者提供了一个良好的交流平台。