CCF YOCSEF成都举办“智御未来:AI时代工业领域数据安全的攻防之道”论坛
2024-08-30 阅读量:23 小字

2024824日下午,CCF YOCSEF成都智御未来:AI时代工业领域数据安全的攻防之道”技术论坛在成都市双流区湖畔路北段兴隆湖科学城科大讯飞股份有限公司四川公司405会议室顺利举办。本次论坛由YOCSEF成都AC委员张晓均(西南石油大学)和周让(成都理工大学)担任执行主席,YOCSEF成都AC委员杨彦兵(四川大学)和张引(电子科技大学)担任线上主席。来自香港科技大学、西北工业大学、西北大学、桂林电子科技大学、电子科技大学、四川大学、西南交通大学、西南石油大学、成都理工大学、西南民族大学、成都信息工程大学、西华大学、成都大学、中国民用航空飞行学院、成都工业学院等省内外高校的研究学者,还有来自百度、浪潮、科大讯飞、国家超算中心、中国电子科技集团公司第三十研究所、中国工程物理研究院计算机应用研究所、中电科网络科技股份有限公司、西门子数字化工厂、国航、乐山商业银行、西南财经大学出版社等单位的行业专家,以及来自CCF YOCSEF西安、杭州等分论坛的AC委员们,约50人参加了本次技术论坛

1

论坛开场环节,CCF YOCSEF23-24届主席牛宪华(西华大学)简要介绍了CCF YOCSEF的成立背景、目标宗旨和发展情况。随后,本次分论坛执行主席、CCF YOCSEF成都AC委员张晓均介绍了智御未来:AI时代工业领域数据安全的攻防之道”技术论坛的基本情况和论坛议程。 

2 3

引导发言首先是电子科技大学刘鸿博教授,报告为《工业物联网环境中基于无线物理层特性的密钥生成关键技术研究》。鸿博深入浅出地分析了无线物理层中针对密钥生成可能存在问题,并提出了相应的密钥安全生成方法。通过他的报告,我们更加深入了解了数据安全中,密钥生成的重要性及其保护技术。基于更安全的密钥生成技术,才能够更好地实现工业领域数据安全保障。

4 5

第二位引导发言来自中国工程物理研究院计算机应用研究所刘小垒副研究员,报告为《工业系统人工智能与数据安全》。小垒介绍了工业数据作为国家战略信息资源的重要性,分析了工业系统数据安全的现状,总结了传统工业AI数据安全问题和工业大模型的出现及面临的挑战,最后对工业领域未来的研究方向进行了展望。

6 7

第三位引导发言来自中国电子科技集团公司第三十研究所汤殿华高级工程师,报告为《工业领域中密码学与人工智能技术融合与实践》。殿华全面梳理了密码学与人工智能技术的融合发展态势以及实践,着重介绍了后量子密码、密态计算的研究进展,引出了新时代数据安全保护方式的变革之路,并指出密码学与人工智能在融合发展、应用实践方面所面临的困局,也表达出了科研和产业界对新方法新技术的迫切期待


8 9

在本次技术论坛的思辨环节,与会嘉宾和与会人员围绕智御未来:AI时代工业领域数据安全的攻防之道,针对三个思辨议题展开激烈讨论和思辨。

思辨议题1AI时代工业领域数据安全暗潮汹涌:面临哪些新型攻击方式?

西北工业大学陈亚兴认为,在工业领域数据安全,新型工业网络架构面临云、边、端及管道四种途径的攻击,新的应用也会带来新的风险,并给出了AI大模型本身面临的九类攻击,并特别强调了新的技术手段也面临着未知的安全隐患。成都信息工程大学白杨指出,对于工业数据安全要分层级,比如对于最底层的基础设施面临的新型攻击在更上一AI时代的各种AI编译器,可能潜在存在漏洞;对于模型的攻击,还有模型投毒提示词注入、逃逸、幻觉滥用等。四川大学周颖杰认为大模型幻觉不算是一种攻击方式,可能是不适合这种内容。生成式大模型,在未来应该引入人为修正,从而保证输出内容的规范性,使大模型具备更加合理的推理能力。此外,大模型生成伪造数据,不属于新的攻击方式,因为大模型出来前也有伪造数据攻击,而针对大模型应用背景下,真正的攻击或许是诱导式攻击。中国国航王文琛提到,工业大模型同时也面临窃取、泄露、欺骗等低成本的攻击。

wps_doc_9 wps_doc_10 wps_doc_11

wps_doc_12 wps_doc_13 wps_doc_14

wps_doc_15 wps_doc_16 wps_doc_17

思辨议题2AI时代工业领域数据业务流程的“命门”:哪一环节是数据安全的“软肋”?

成都西门子数字化工厂屈鹏飞指出数据安全至少有方面必须要考虑,分别为数据分类分级数据的生命周期,而在AI时代,所遇到的数据未必是原始数据,很有可能是加工甚至是生成的数据,并且在数据的流转过程中可能会带来新的问题。电科网安牟黎明认为对于工业领域,数据上线后全部交给AI处理,数据集中后可能会造成数据泄露,在数据传输也可能泄露,而数据分析时候的权限控制不当,也可能造成数据泄露。因此,数据在每个环节都有命门。西北大学崔磊认为数据传输是最大的软肋,与数据采集和应用相比,其具有最大的不确定性。智导未来(成都)教育咨询有限公司严国珂提出,对于新能源汽车行业而言,数据传输和储存是软肋,国家也比较重视这个方面中为新智毛河指出数据标注也很关键,由于标注成本过高,通常情况下这个过程会采用外包的方式完成,使其可能有着更大的隐患。国家超算成都中心陈磊提到,从攻击方看,在数据采集阶段攻击付出的代价最低,但获得的收益可能是最西南交通大学刘盾则认为,从管理的角度出发,数据体现或产生最大价值的环节,是数据安全的软肋成都中科至善信息技术有限公司李孝娜提到从安全培训的角度来,最薄弱的环节应该是数据应用,因为这个环节是人参与程度最高的地方。此外,从数据规范性和标准性的角度来看,数据应用最复杂的,也是最容易造成泄露的地方

wps_doc_9 wps_doc_10 wps_doc_11

wps_doc_12 wps_doc_13 wps_doc_14

wps_doc_15 wps_doc_16 wps_doc_17

思辨议题3:工业领域数据安全的AI赋能之路:如何构筑智能化防护的铜墙铁壁?

中电科网络科技股份有限公司牟黎明认为工业数据安全防护,可以从数据流向的角度出发,构建安全措施;对数据资产进行摸排,针对风险构建专门的安全防护;此外,数据采集、数据传输、数据脱也是数据安全的关键问题。中国电子科技集团公司第三十研究所汤殿华指出智能化防护是一个比较大的命题,首先要用智能化手段去预判安全风险要能够推测出安全风险点,进而推理出合适的防范手段,并且要智能化评估防范后的效果。电子科技大学刘鸿博提到数据监管要考虑事前、事中、事后3个时间段,利用AI可以评估数据流转过程中的风险、并制订预案来实现数据监管西南交通大学刘盾认为,从管理的角度来看,AI赋能数据安全就是如何利用有限的资源提升攻击成功的成本。中国民航飞行学院曾昶畅提到,大模型安全带来了新的挑战,攻击者可以利用大模型降低攻击成本,相反,对防护而言,是否也可以构建智能体进行自动防护。百度黄凯提到,数据在流通的过程中会面临很多问题,尤其是细分领域的数据在流通中泄露后的危害很多,应该从机制上,建立合适的流通规则,加强人员防范等,保证数据安全。

wps_doc_18 wps_doc_19 wps_doc_20

wps_doc_21 wps_doc_22 wps_doc_23

wps_doc_24 wps_doc_25 wps_doc_26

思辨环节输出以下结论:

1. AI时代工业领域数据安全暗潮汹涌:面临哪些新型攻击方式?针对AI时代工业领域数据安全的攻击大致分为三类,第一类为基于AI技术对传统攻击的升级迭代,涵盖传统的窃取、泄露、欺骗网络攻击,第二类为针对大模型数据基座的泄露和推理攻击等,第三类为针对利用模型进行的新型攻击,典型实例为诱导式攻击。

2. AI时代工业领域数据业务流程的命门”:哪一环节是数据安全的软肋”?数据的产生到应用角度出发,大致将工业领域数据业务流程划分为数据采集、数据传输、数据应用,一个过程都需要被保护。数据采集、标注阶段存在数据伪造等攻击,攻击成本较为低廉却会动摇数据可信的根本;数据传输是数据流转的关键阶段,此时,数据被攻击的概率最高,造成数据泄露的可能性也最高;而数据应用阶段面临价值释放和应用场景复杂多变等问题,数据泄露风险也较高。

3. 工业领域数据安全的AI赋能之路:如何构筑智能化防护的铜墙铁壁?需要从数据流向的角度出发,设计合理的数据管理机制,用智能化手段去预判安全风险要能够推测出安全风险点,进而推理出合适的防范手段,并且要智能化评估防范后的效果,并搭建出完善的数据监管模式。

wps_doc_36 wps_doc_37

wps_doc_38

最后,执行主席张晓均和周让为三位思辨引导嘉宾分别颁发了感谢牌。CCF YOCSEF成都现任主席丁熠对论坛进行了总结发言。

本次技术论坛是在国家人工智能重大战略、2024年工业与信息化部的《工业领域数据安全保障提升计划》、2024年四川省一号创新工程等系列政策推行下,结合四川特色,通过探讨人工智能与数据安全如何双向赋能,提升人工智能技术创新应用的安全性、稳定性、可持续性,促进人工智能在工业领域数据安全的防御能力升级。通过引导与思辨讨论,本次论坛凝练出了AI赋能工业领域数据安全保障的实用路径,为促进工业领域数据安全流通与价值释放提供了智力支撑

热门动态
2023-03-04
2023年3月3日11:00-14:00,CCF YOCSEF成都分论坛开展走进系列特...
2023-01-01
时光荏苒,举步维艰的2022年已远去,欣欣向荣的2023正向我们走来。2022年,在YOCSEF总部、各兄弟分论坛的大力支持下、在各位AC委员、通讯AC委员和委员的共同努力下,CCF YOCSEF太原紧密围绕学术与产业前沿,聚焦科学与社会热点,举办了一系列前瞻性、引领性的观点论坛、技术论坛与CLUB活动,主题涵盖了人工智能算力基础设施、人工智能数据标注、经济转型发展、非物质文化遗产保护等,为山西省乃至全国计算及相关领域的青年科技工作者搭建了交流平台,创造了成长机会,也承担了一定的社会责任。
2024-08-13
2024年8月11日,由中国计算机学会(CCF)主办,CCF昆明会员活动...
2024-06-10
CCF YOCSEF太原祝兄弟姐妹端午安康、喜乐常伴
2024-06-01
2024年06月01日,中国计算机学会青年计算机科技论坛太原分论坛(CCF YOCSEF太原)2024-2025内部选题研讨会在长河信息股份有限公司会议室召开。
2024-05-19
2024年5月17日,YOCSEF 西安在CCF YOCSEF 2023-2024年度大比武中荣获优秀分论坛;马小博荣获优秀分论坛主席;陈亚兴和张明阳主持的“YOCSEF开源星火何以燎动学术评价体系之原?”荣获分论坛优秀观点论坛。
2024-01-14
       CCF YOCSEF太原第十一届学术委员会第三次全体会议暨AC换...
2023-07-11
2023年7月8日下午,CCF YOCSEF昆明在经济开发区云电科技园能讯科技有限责任公司召开了CCF YOCSEF昆明第十届学术委员会第一次AC全体会议暨换届会议。
2023-02-19
春暖上元共聚晋阳CCF YOCSEF太原于2月5日13:00在大昌国际酒店四...
2023-01-14
2023年1月7日13:30-20:00,CCF YOCSEF沈阳2022-2023年度第二次AC...
2023-01-10
2023年1月8日14:00-20:00,CCF YOCSEF深圳第十四届学术委员会第...
2023-01-05
2022年12月11日下午15:30-18:00,中国计算机学会(CCF)青年计算...
2022-11-13
2022年10月26日晚,中国计算机学会(CCF)青年计算机科技论坛(C...
2022-07-19
合影留念 2022年7月9日,中国计算机学会青年计算机科技论坛南...
2022-07-11
薪火相传葆初心 同舟共济启新程CCF YOCSEF昆明举办2022-2023届...
2022-05-28
2022年5月21-22日,CCF YOCSEF南京在(地址)召开了两天一夜...
2022-01-23
1月22日,CCF YOCSEF沈阳2021-2022第二次AC会议暨换届选举会...
2020-12-29
        2020 年 12 月 27 日 13:10-17:10,CCF YOCSEF福州学术...
2020-06-15
下载-YEF2020组织机构大会手册 2020年6月5日-6月7日,由中国计算...
2020-01-21
2020-2021年度CCF YOCSEF分论坛AC主席会议成员换届选举工作均已完成,选举结果已经由YOCSEF主席和YOCSEF秘书长共同确认、并报CCF秘书长批准,现予以公布。
CCF聚焦