8月17日，CCF YOCSEF济南观点论坛“面对人工智能大模型产业发展机遇，济南应如何发力？”在山东建筑大学隆重举行。本次论坛由CCF YOCSEF济南24-25主席杨晓晖（济南大学）、YOCSEF济南委员陈关忠（山东建筑大学）担任执行主席，YOCSEF济南学术秘书李克峰（山东交通学院）、宋立莉（山东建筑大学）担任线上主席。与会嘉宾有山东省工业和信息化厅数据产业推进处二级主任科员杨洪于、山东大学软件学院研究员卢宪凯、智谱AI解决方案架构师韩广东、山东联通网络部技术总监翟锐、山东省大数据中心正高级工程师邹丰义、齐鲁工业大学（山东省科学院）计算学部教授鹿文鹏、浪潮软件科技有限公司副总经理李照川、阿卜杜拉国王科技大学（KAUST）博士后韩忠义、山东亿云信息技术有限公司创新研究院院长陈通、山东省互联网传媒集团技术部主任刘帅、济南泉链数科公司大模型架构师张磊、山东建筑大学科研处副处长聂秀山。CCF YOCSEF济南23-24主席孟雷（山东大学）、22-23主席刘新锋（山东建筑大学），CCF YOCSEF济南24-25副主席田杰（山东女子学院）、苏胜男（麒麟软件），AC委员李成龙（山东建筑大学）、宋立莉（山东建筑大学）、王朋（山东交通学院）、郭磊（山东师范大学）、杨程（济南泉链海沃数字科技有限公司），以及部分YOCSEF济南委员等九十余位高校、政府和企业专家线下线上围绕产业大模型应用路径和本地化部署等相关议题，开展分享和探讨。

会上，山东建筑大学科研处副处长聂秀山致欢迎辞，介绍了山东建筑大学概况以及近年来的科研发展情况。CCF YOCSEF济南主席杨晓晖（济南大学）进行YOCSEF文化培训并对YOCSEF济南做总体介绍。

引导发言阶段，杨洪于、卢宪凯、韩广东、翟锐四位嘉宾分别做了相关报告。杨洪于以“让大模型‘拥抱’千行百业——解读《关于加快大模型产业高质量发展的指导意见》”为题，对山东省工业和信息化厅出台的大模型相关文件进行了解读，并分析了山东省、济南市相关产业现状。卢宪凯以“垂直领域大模型应用的一些思考”为题，探讨了高校教师在有限算力平台下如何把握大模型技术发展的机遇，并展望了未来大模型技术的落地前景。韩广东则围绕“ChatGLM：国产大模型落地探索”分享了在大模型技术、应用和生态建设方面的实践与思考，同时对未来发展进行了展望。最后，翟锐的发言主题为“以网强算，筑牢大模型应用的算力基础设施底座”，探讨了如何通过算力基础设施推动大模型应用的发展，强调高性能算力与高质量算法模型的协同创新，以及如何加速大模型的关键技术突破与产业应用。

引导嘉宾进行观点分享

讨论思辨阶段，与会嘉宾围绕“企业使用大模型的路径，如何选择？大模型服务济南本地产业面临的难题与解决方案？大模型助力济南产业发展，政府、高校、企业三方如何发力？”三个议题展开思辨讨论。

思辨议题一：企业使用大模型的路径，如何选择？

观点输出：

1、大模型是企业发展的重要助力，但选择落地模式主要取决于资金和需求。企业可选择完全自建专用大模型，以满足特定行业需求，但这往往伴随高昂的成本和技术挑战。相对而言，通用模型提供更快的部署速度和灵活性，适用于广泛的应用场景，但在解决深层次行业问题时可能有限。

2、目前企业主要使用基于云的通用模型及本地部署通用模型加行业场景，这对于通用知识问答有帮助，但在处理私有数据时存在不足。私有化部署存在的问题是很多应用产品可能需要实时交互，目前主要通过函数调用和知识库这两种形式来满足这个需求。

3、数据隐私问题在大模型接入和预训练中仍无统一解决方案，企业需根据客户需求单独设计。

4、评判标准应考虑通用大模型能否解决特定行业问题、自建大模型的经济效益和技术可行性，以及数据隐私保护。成功落地的场景通常具备高适应性、明确的应用目标和数据可用性等特征。

总之，企业可选择的模型使用模式较多，包括完全自建、基于云通用模型/本地部署通用模型+行业场景、基于开源框架+行业场景、直接基于通用大模型，企业在大模型落地过程中应深入分析自身需求、资源和市场环境，以确定最佳路径。

思辨议题二：大模型服务济南本地产业面临的难题与解决方案？

观点输出：

1、大模型的需求主要依赖于人才和技术专家，许多企业在实际应用场景中无法将数据整理成大模型所需的语料，需要帮助企业理顺数据治理方式，了解企业的核心智能改造需求，从人才和技术层面进行改善。同时要考虑大模型的选型、可靠性和安全性要求，以及落地成本的评估，以决定是否应部署大模型。

2、大模型落地时存在数据质量较差、多模态数据融合困难、数据更新速度快等问题，需国内同行业机构进行数据沉淀，制定数据集标准与审核。

3、真正落地的案例较少，厂商的大模型更新速度快，但本地化部署的更新较慢，且数据集和语料库的质量难以满足大模型训练的要求。

4、需要展示大模型在降本增效方面的具体成效，包括释放劳动力和提升效率，并希望能够提供实际应用的例子。

5、在解决大模型服务济南本地产业难题中，应重点考虑以下三个方面的问题：构建大模型所需的高质量数据集；推动更有效的算力运营调度机制；促进大模型产业创新的联合体建设。

为有效应对济南在大模型服务本地产业中面临的挑战，嘉宾建议积极构建高质量的数据集，以确保数据的有效性和适用性，同时优化算力运营调度机制，以保障大模型的训练与应用。此外，推动大模型产业创新联合体的建设，将形成合作共赢的生态体系。通过加强技术培训与认知提升，帮助企业理解并拥抱大模型技术，提升整体技术水平，也是至关重要的。同时，制定行业标准与合规性，增强大模型应用的安全性与合规性，确保应用过程中的风险管控。

思辨议题三：大模型助力济南产业发展，政府、高校、企业三方如何发力？

观点输出：

1、济南在推动大模型应用方面展现出独特的优势和潜力，但同时也面临诸多挑战，政府应加大对算力基础设施的投资，推动行业间的合作与数据共享，形成开放的创新生态。

2、济南在算力资源方面存在一定的局限性，建议发展垂直领域模型以适应特定行业需求，同时应注重数据与内容安全。

3、政府应增加算力基础设施投资和科研经费支持，同时提升公共数据质量，以助力大模型的发展。

4、学术界应加强基础理论研究和领域知识的培养，政府与企业需明确大模型相关岗位的标准，促进人才培养与认证。

5、中小企业利用现有的通用大模型与开源框架，通过小步迭代探索适合自身的应用场景。

综上所述，济南发展大模型的潜力巨大，但需要政府、高校和企业三方协同发力，共同克服算力、数据安全和人才培养等挑战，从而实现大模型在当地产业的有效应用。政府应加大对算力基础设施的投资，提升数据质量，通过政府政策引导、企业实践探索和学术界的理论支持，构建协同发展的生态系统，推动大模型在本地产业中的有效落地；企业则需勇于创新、加大研发投入，推动场景模型的研发；学术界应加强基础理论研究，关注数据与知识的关系，并设立相关课程培养高端人才。

本次论坛历时三个多小时的激烈讨论，围绕相关议题开展了深入思辨，一致认为：大模型落地的困难之处在于高质量数据集的获取、大模型的部署成本过高或难以估计、大模型应用场景在行业内不明确等。为推动济南人工智能大模型产业的高质量发展，建议采取以下措施：

（1）优化数据资源管理与共享：政府与行业协会共同开发和维护标准化的高质量数据集，并建立跨行业的数据共享平台，促进企业与高校之间的协同创新，同开展企业培训，提升员工在大模型应用中的技术能力。

（2）提高企业技术应用能力：济南本地产业根据企业类型的不同，应选择适合自身状况的大模型进行应用研发，龙头企业可基于自身的资源打造通用大模型、规模以上企业可与信息科技企业联合开发行业大模型、中小微企业应与行业研究机构合作联合构建行业数据库赋能大模型转型。

（3）加强创新生态系统建设：促进政府、企业与科研机构的合作，形成稳定的产业生态，并制定应用评价标准与合规性要求，鼓励新算法和高效模型的开发，推动技术创新，增强行业信任。高校加强人才培养，设置相关专业课程，支撑大模型理论研究。鼓励高校与企业建立产学研联合体，共同开展基础理论及应用研究，并设立相关课程，培养专业人才，提供实践机会。

通过政府、高校与企业的协同发展，济南能够有效应对大模型产业挑战，把握新机遇，实现人工智能技术在当地产业的高质量落地和发展，为经济转型提供有力支撑。

本次论坛得到联通（山东）产业互联网有限公司的赞助。