随着人工智能和大数据技术的迅速发展，我们进入了一个全新的AIGC时代。这个时代为我们带来了前所未有的机遇和挑战，其中最为关键的信息安全问题备受关注。为了深入探讨AIGC时代下的信息安全机遇与挑战，我们特此举办此次论坛。共同探讨AIGC在信息安全领域的应用和优势、AI道德和法律问题、未来的发展前景。

2023年9月24日下午，中国计算机学会青年计算机科技论坛CCF YOCSEF 哈尔滨在哈尔滨工程大学图书馆A208举行。通过专家报告和互动环节，我们将深入剖析相关议题，分享最佳实践经验，并探索创新解决方案。

此次论坛由CCF YOCSEF哈尔滨副主席李元鹏(浪潮电子信息产业股份有限公司)、CCF YOCSEF哈尔滨AC委员冯兴宇(绿盟科技集团股份有限公司)担任执行主席。论坛邀请了哈尔滨工业大学刘立坤研究员、哈尔滨工程大学王宇华副教授、绿盟科技集团股份有限公司王星凯经理、浪潮思科网络科技有限公司李金光经理作为引导发言嘉宾。CCF YOCSEF哈尔滨老主席韩启龙教授、CCF YOCSEF哈尔滨老主席宋洪涛副教授、CCF YOCSEF哈尔滨主席冯骁骋、CCF YOCSEF哈尔滨副主席玄世昌、CCF YOCSEF哈尔滨学术秘书王勇、CCF YOCSEF哈尔滨AC委员张晓光、张轶鑫等参加本次论坛。此外，哈尔滨工程大学、黑龙江大学等多名教师也参加了本次论坛。

图1 论坛开始

在论坛开场环节，CCF YOCSEF哈尔滨副主席李元鹏介绍了本次观点论坛的背景和CCF YOCSEF文化及哈尔滨分论坛的发展和特色。CCF YOCSEF哈尔滨AC委员冯兴宇做论坛嘉宾介绍及思辨环节介绍。

引导嘉宾刘立坤做“探索AIGC的问题、挑战与解决方案”引导发言，描述了AIGC应用风险、AIGC面临的安全问题及应对AIGC安全的解决方案。

图二 刘立坤引导发言

引导嘉宾王星凯做“SecXOps助力安全行业大模型落地”引导发言，介绍了安全行业大模型工程化痛点、安全行业大模型创新实践、安全行业大模型技术趋势。

图三 王星凯引导发言

引导嘉宾王宇华做“算力赋能-助力高校科研创新”引导发言，介绍算力作为数字经济时代的新生产力的演进路径、AI智算领域的典型案例、AI在安全领域的应用。

图四 王宇华引导发言

引导嘉宾李金光做“AIGC网络发展趋势汇报”引导发言，介绍了AIGC加速行业赋能与社会变革、当前AIGC主流网络技术及面向未来的超级以太网解决方案。

图五 李金光引导发言

引导发言之后，论坛进入了讨论和思辨环节。与会嘉宾围绕AIGC时代下的信息安全问题开展了三个议题的思辨讨论。

议题一： AIGC能否在信息安全领域从“配角”成为“主角”？

有嘉宾认为AIGC目前还是以生成为主，信息安全问题只能作为配角。通过AIGC更好的发展，才能辅助大家。通过现有的技术还不能达到主角的定位，还只能是作为辅助现有的一个技术手段。

黑龙江大学的张晓光老师认为，AIGC在网络安全领域中扮演三个角色，第一安全问题的制造者，第二受攻击的目标（受害者），第三安全技术本身的提供者。如果从制造者的角度，AIGC的应用越来越多，使用率越来越高，那产生的安全威胁就会越来越大，从而由配角成为主角。如果从受攻击的角度，就与应用范围相关，应用范围越大，关注度就大，在受到威胁严重的情况下，更会受到重视，从而变成主角。如果从技术提供者来说，目前发展方向还是集中在AIGC技术本身，那么信息安全问题只能是一个配角角色。

哈尔滨工业大学的冯骁骋认为目前通过AIGC技术生成的智能体可以在网络中伪装成真正的用户，还有一些网络攻击大模型，自动生成有害言论，以及通过生成技术自动生成制作毒品的方法。目前也有一些机构将重心放在安全大模型上，未来希望被政府所使用。所以信息安全问题绝对会成为一个重要的分支。

哈尔滨工程大学王勇认为AIGC的信息安全这个领域肯定会越来越热，通过AIGC也是我们解决信息安全问题的重要手段。

有嘉宾认为通过AIGC自动生成代码，降低了黑客的门槛，同时也可以通过AIGC构建防御体系，做一些威胁分析、自动识别网络攻击，目前有很多安全厂商已经在做相关的研发。通过此项技术识别威胁，做到精准的处置，逐渐进化，成为信息安全的辅助工具。

议题二：AIGC安全的主要来源是数据治理还是算法优化？

黑龙江大学张晓光老师认为两种来源都是存在的，作为一个工具来说，本身是中性的东西，生成的文本内容由人的意图来控制，人是安全问题的主要来源。如果用来做坏事做成了AIGC就是巨大的威胁，AIGC也具有自己的特点，在某些领域使用的时候如果产生“暴走”的结果，由于之前比较好用，工作人员过于依赖，不主动思考，在关键时候会产生严重问题。另外模型本身存在一些被攻击被利用的漏洞，这种属于模型本身的问题。AIGC还是属于非线性优化的工具，它能够泛化出一些结果，但是涉及到复杂算法还是无法生成结果，不太可能出现真正意义上的意识，不用太担心。但是自有的一些问题和一些漏洞来说还是比较严重，自身还是安全问题的来源。

绿盟科技王星凯老师认为AIGC安全问题来源主要是用户，未来是不是应用更广泛之后它自身安全问题会比较多，各个公司的大模型都做了业务侧防攻击，防窃取，也有大模型建立小模型控制输出，但是安全没有一劳永逸的解决方案，未来模型安全是看他所处的位置，还是用户侧威胁更大一些。

议题三：AIGC时代下信息安全的最终守护者是：政府、企业、还是......？

闫家意老师认为信息安全时代的最终守护者不单单是政府、企业，甚至包含在互联网应用中的每一个人，网络威胁无处不在，有人为，也有不经意间产生的，这些威胁会对整个网络造成非常大的风险，所以说网络安全健康的环境，需要政府、企业、以及每一个环节中的所有人共同维护和支撑。

张轶鑫认为以前能获取我们信息的只有企业和政府，现在安全意识提升，大更重视自己的信息，会用合法的权力保卫自己的信息安全，信息安全得到保障，所以最终的守护者将会是每一个人。

图六 嘉宾发言

图七 嘉宾发言

最后，执行主席李元鹏、冯兴宇为引导发言嘉宾颁发了感谢奖牌，并感谢各位嘉宾的精彩发言和积极参与。

图八 颁发感谢奖牌

图九 合影