数据安全与合规治理已经成为党政军界、学界及业界广泛关注的焦点。为了解决隐私泄漏和数据安全问题,国家、各部委及地方政府相继出台了网络空间安全治理相关法律法规,并推荐了隐私保护和数据安全处理的关键标准化技术。然而,当前的法律法规和技术措施仍未能彻底解决隐私和数据安全的难题。因此,如何合规地收集、存储、传输和使用个人数据,防止数据遭受未授权访问或恶意攻击,并确保人们在享受大数据、大模型带来的便利时不再担忧隐私泄漏和数据安全问题,已成为亟待解决的重要议题。
在此背景下,2024年12月1日,由中国计算机学会(CCF)主办、CCF YOCSEF青岛学术委员会承办的“网络数据安全:拥抱数据、守护隐私、感受安全”技术论坛在青岛举办。本次论坛由山东大学李增鹏副研究员和青岛大学张翰林副教授担任执行主席。
构建协同生态:网络数据安全与隐私保护的技术与法律路径
本次论坛围绕数据安全防护机制模型、法律法规等多个方面探讨“密码学与隐私增强计算技术”如何助力数据安全、确保要素跨域可信流通、赋能“新质生产力”。交流了区块链、密码学和人工智能等技术的创新应用与挑战,强调隐私保护需贯穿数据全生命周期。参会嘉宾认为,数据安全的实现需法律与技术协同推进,法律提供规范保障,技术则以密码学、隐私计算等手段应对复杂场景需求,特别是在大模型快速发展背景下应优化安全策略。论坛建议通过跨学科协作,完善法律法规与技术体系,构建可信的数据治理生态,以支持数字经济和智能社会的可持续发展。
引导发言:探索网络数据安全与隐私保护的技术前沿
在论坛的引导发言环节,陕西师范大学杨波教授从区块链与比特币的联系和区别入手,讲解区块链在隐私保护中的应用表现出不可跟踪性和去中心化的优势,结合数字承诺、知识签名和累加器等技术,提供了强有力的隐私保障。杨教授还解析了零币和零钞等区块链隐私保护方案,展示了其实现方法及在资金安全上的独特价值。
随后,山东大学成秀珍教授介绍了面向泛在智能的区块链网络研究。她分析了区块链与泛在智能的关系,并提出了面向泛在智能的区块链网络架构。针对单链结构一体化、分布式跨链协议及跨链存储问题提出解决方案,为泛在智能应用提供了数据安全支持。
中国科学院信息工程研究所林东岱研究员探讨了密码分析中的代数思想,阐述了密码作为最早的数据保护方法,其核心的代数理论。林研究员从代数攻击谈起,通过密码学中的代数思想解析立方攻击和代数变换的原理,强调密码设计中代数过程对安全性的决定性作用。
最后,西安电子科技大学马卓教授分享了新一代人工智能的安全研究,聚焦大模型的安全挑战,深入分析后门攻击、对抗攻击及其检测与防御方法,提出基于模型遗忘的技术,用于删除特定数据的影响,并通过实验验证其准确性。马教授还探讨了智能系统中对抗攻击的一系列安全问题并给出对抗风险评估。
思辨探讨:网络数据安全中的技术与法律协同发展
本次论坛的思辨环节深入探讨了网络数据安全的多个关键议题,特别是如何在技术与法律之间找到平衡,并解决当今数据保护面临的挑战。环节中的讨论围绕三个重要议题展开,分别是“网络数据安全的内涵与外延,技术与法律”、“用户隐私与使用便利的平衡”和“大模型与传统小模型的安全挑战”。
围绕议题一,青岛市大数据发展管理局邵长恒研究员结合实际工作场景,指出在“数据孤岛”问题突出的背景下,法律无法满足数据共享的技术需求,导致数据垄断与共享难题。国家数据局通过相关文件和试点工作积极推进可信数据空间建设,青岛地区正探索隐私数据治理的路径。而黑龙江大学张可佳教授则从技术角度出发,强调了密码技术对保障数据传输安全的核心作用,并提出技术与法律应共同推动网络数据安全的完善。陈亚兴提出,网络数据安全需从全生命周期视角审视。法律是网络数据安全的底线,但现实中的大部分安全问题依赖技术解决。而黄栋认为法律先行可能因技术滞后导致误判,而技术先行则需要法律提前布局。法律与技术需形成有机互动。
针对议题二,嘉宾们探讨了在不同应用场景下如何平衡隐私保护和数据利用效率。陈亚兴副教授指出,隐私保护的方式应根据场景的不同进行定制,例如在区块链应用中,可通过“可用不可见”的隐私保护特性来实现数据的安全共享。同时,隐私评估机制和信任网络的构建将有助于解决隐私保护与使用便利之间的矛盾。福建师范大学尤玮婧副教授则提出,在数据确权和要素化过程中,技术与法律应实现灵活配合,确保隐私保护的个性化和可执行性。王爽结合人工智能在医学领域的应用进行了实例剖析,提出可采用加密技术,使数据对用户不可见但对模型可见,从而同时保障隐私与使用效率。同时陈亚兴进一步补充,企业从用户处获取数据用于价值利用时,可通过技术手段实现隐私保护与便利性的平衡,比如可信执行环境(TEE)等方案,在没有绝对安全的情况下,隐私与便利的平衡需基于特定条件下实现最佳方案。
围绕议题三, 中国人民大学吴云乘副教授认为,大模型作为突破性技术,在带来便利的同时,也伴随着诸多新的安全挑战。其核心差异体现在三个方面:训练角度:大模型需要更多的数据和算力资源,联邦学习等分布式技术的应用成为关键,但相应的资源需求带来了巨大挑战。推理角度:大模型推理过程涉及云端安全,密文推理效率较低,需引入轻量化模型辅助推理。此外,大模型的高功耗问题限制了其在边端计算中的应用,幻觉问题亦是独特的技术难点。攻击角度:大模型因参数规模大、泛化能力强,易成为新型攻击目标,如数据投毒、后门植入等,攻击类型更为复杂多样。现有安全技术对大模型的适配性不足,亟需研发更多新手段。济南大学赵川教授进一步指出,大模型不仅面临传统安全挑战,还因其开放性带来新的安全隐患。例如,在线访问模式使攻击面扩大,模型窃取和框架漏洞成为潜在威胁。在大模型环境下,攻击形式更加多元,包括利用生成内容制造恶意代码或深度伪造。虽然小模型的部分安全技术在大模型中仍有适用性,但性能与效率问题更加凸显,需通过持续优化来适应大模型的需求。此外,面对后门攻击等新威胁,大模型的防御策略有待更多探索。
黄栋则从学术与产业的双重视角出发,探讨了大模型安全技术适配性的定义。他指出,小模型中的部分技术可以迁移到大模型中,但产业落地需要关注算力设备的安全,以及数据授权与合规性的问题。大模型在产业应用中倾向于自由适用更多数据,这在数据安全层面引发新的关注点。因而,安全技术的适配性需要结合学术研究与实际场景进行具体分析。王九如从架构与应用的差异切入,认为大模型作为通用设备更关注架构层面的设计,而小模型作为专用设备则聚焦于内容与数据的准确性。大模型对算力的高需求和广泛的适用性与小模型的精细化安全策略形成互补,两者的技术发展具有相互促进的潜力。与会嘉宾就大模型与传统小模型的安全挑战及各自的适用性也都发表了自己的见解。
附活动掠影:
图1:“网络数据安全:拥抱数据、守护隐私、感受安全”技术论坛现场
图2:陕西师范大学杨波教授做论坛引导发言
图3:山东大学成秀珍教授做论坛引导发言
图4:中科院信工所林东岱研究员做论坛引导发言
图5:西安电子科技大学马卓教授做论坛引导发言
图6:思辨嘉宾青岛市大数据发展管理局邵长恒研究员和和黑龙江大学张可佳教授进行引导发言
图7:思辨嘉宾西北工业大学陈亚兴副教授和福建师范大学尤玮婧副教授进行引导发言
图8:思辨嘉宾中国人民大学吴云乘副教授和济南大学赵川教授进行引导发言
图9:思辨现场
本次论坛通过深入的主题探讨和多角度的思辨交流,成功为与会者提供了关于网络数据安全与隐私保护的前沿观点和解决思路。各位专家围绕区块链、人工智能、大模型等前沿技术展开了深入讨论,提出了许多创新性的技术方案与政策建议,尤其是在平衡数据利用与隐私保护、提升数据安全防护能力方面,提供了重要的实践指引。通过本次论坛的交流,大家进一步明确了技术与法律在数据安全领域的重要作用,并认识到只有在多学科协作与不断创新的基础上,才能应对未来日益复杂的网络安全挑战。论坛的圆满举办,不仅为相关领域的研究者与实践者提供了宝贵的思想碰撞,也为数据安全与隐私保护的未来发展指明了方向。
山东大学成秀珍教授、陕西师范大学杨波教授、中国科学院信息工程研究所林东岱研究员、西安电子科技大学马卓教授受邀担任引导发言嘉宾,青岛市大数据发展管理局邵长恒研究员、黑龙江大学张可佳教授、中国人民大学吴云乘副教授、济南大学赵川教授、西北工业大学陈亚兴副教授、福建师范大学尤玮婧副教授受邀担任思辨嘉宾出席本次论坛。
关于本次论坛的后续信息,敬请关注CCF YOCSEF网站(http://www.yocsef.org.cn/)。
图12:本次论坛与会嘉宾集体合影
关于YOCSEF青岛
2009年,中国计算机学会青年科技论坛(CCF YOCSEF)青岛分论坛成立。按照时间顺序,YOCSEF青岛AC主席分别是潘振宽(青岛大学)、魏志强(中国海洋大学)、董军宇(中国海洋大学)、徐九韵(中国石油大学)、赵建立(山东科技大学)、广红(青岛百灵科技)、王胜科(中国海洋大学)、吴则举(青岛理工大学)、吕琳(山东大学)、赵中英(山东科技大学)、李昕(中国石油大学)、包永堂(山东科技大学)、于彦伟(中国海洋大学),现任AC主席晁国清(哈尔滨工业大学(威海))。
欢迎各界热心人士加入CCF YOCSEF青岛大家庭!
加入联系:晁国清(18963127466,微信同号)