2025年，生成式AI正以技术裂变重塑人类文明基座，但技术滥用已引发深度伪造、版权争议及潜在生命风险。在此背景下，CCF YOCSEF哈尔滨于2025年8月23日在黑龙江大学四号楼208室举办了“生死算法：生成式AI的生命科学可信边界”观点论坛。论坛由CCF主办、CCF YOCSEF哈尔滨组织。论坛由YOCSEF哈尔滨AC委员张薇和李志娟共同担任执行主席。论坛邀请了广州医科大学教授宋玉龙、哈尔滨工业大学教授姜涛、黑龙江大学教授张本祥进行引导发言，邀请了黑龙江大学教授马吉权、齐齐哈尔大学教授王波进行思辨引导，邀请了黑龙江省计算机学会理事企业工委执行主任吴永德、黑龙江大学计算机与大数据学院副院长张可佳、YOCSEF郑州学术秘书赵雪专（郑州航空工业管理学院）作为特邀嘉宾出席。参与论坛活动的人员还包括YOCSEF哈尔滨老主席宋洪涛（哈尔滨工程大学）、前AC委员李晓坤（黑龙江恒讯软件研究院）、前AC委员刘勇（黑龙江大学）、前AC委员张晓光（黑龙江大学）、现任主席玄世昌（哈尔滨工程大学）、副主席王勇（哈尔滨工程大学）、副主席冯兴宇（永裕科技）、AC委员路贝（哈尔滨医科大学附属第四医院）、AC委员杨海陆（哈尔滨理工大学）、AC委员武国庆（黑龙江科技大学）、AC委员赵佳音（诚迈科技）、AC委员李冰娴（北京神州绿盟科技有限公司）、委员卢丹（哈尔滨工程大学）、林奕（哈尔滨医科大学）、高明（哈尔滨理工大学）、申楠（节点云科）等来自企业与高校的30余位相关专家参与此次论坛。

图1 YOCSEF哈尔滨观点论坛现场

在引导发言环节，三位嘉宾分别分享了各自关于生成式AI在生命科学中的应用创新、基因组变异预测技术进展，以及生成式AI可信边界不确定性的见解。首先进行引导发言的是广州医科大学教授宋玉龙。他的报告题目为《生成式AI在生物治疗中的可信边界》，聚焦生成式AI在生命科学与精准医疗中的应用，特别是药物开发和基因编辑的潜力与挑战。同时强调AI提升医疗效率的同时，需解决脱靶效应和数据隐私等问题，确保可持续发展。

图2 宋玉龙进行引导发言

第二位引导发言者是哈尔滨工业大学教授姜涛，报告题目为《生命科学可信边界之基因组变异预测技术》。他探讨了AI如何通过创新算法和大数据提升基因组变异预测，突破传统实验局限，推动技术为个性化治疗和疾病诊断提供新方案，提升生命科学研究的可信性。

图3 姜涛进行引导发言

第三位引导发言者是黑龙江大学教授张本祥，报告题目为《论AI生命科学应用的价值边界》，探讨了AI伦理边界的动态性，认为可信边界由技术、伦理与认知互动决定。强调通过跨学科协作，在创新与风险防控间寻求平衡，构建治理框架。

图4 张本祥进行引导发言

在思辨环节，三位思辨引导嘉宾与参会者共同探讨了三个思辨议题。嘉宾们对生命科学关键决策环节生成式AI潜在的风险源头、如何科学界定生成式AI合成数据在生命科学领域中的“可信赖应用边界”、需要构建怎样的技术标准和监管框架等以实现“安全优先”的创新突破进行了深入讨论。嘉宾们的思维激烈碰撞，观点不断交锋，带来了许多启发和收获。

思辨议题一：在生命科学关键决策环节，生成式AI潜在的风险源头是什么？马吉权提出，AI在生命科学中的风险源于模型可解释性不足和数据偏差，特别是在基因编辑等高风险领域，需要解决数据与计算之间的关系，以提升可信度与稳定性。其他与会嘉宾围绕该问题展开了激烈的讨论，各自提出了独到的见解。最终嘉宾们输出观点如下：

1、 生命科学关键决策是一个演变的过程，要从推演的角度认识生成式AI潜在的风险，同时需警惕多层效应带来不可预测风险，尤其是研究者充满好奇心，其在追求创新（如推演新问题或微观过程）时，可能忽略多层效应和不可预见风险，导致约束不足；

2、 生命科学领域中遗传数据存在偏差，AIGC模型对生命科学宏观机制理解不足，可能引发基因分析和癌症诊断中的预测偏差；

3、 生成式AI模型结构缺陷和不可解释性导致预测偏差，缺乏透明评价机制可能降低结果可信度；

4、 生命科学应用场景中，AI可能引发隐私泄露，需加强数据保护以符合伦理要求；

5、 生成式AI在生命科学中的风险包括长期盈利、隐私保护与生命神圣性质疑，需平衡技术进步、伦理与风险，对人的利益、风险和价值进行综合分析，需从源头与应用双重防控，确保数据可靠性和决策伦理。

图5 思辨嘉宾进行思辨引导发言

图6 思辨议题一的讨论

思辨议题二：基于对风险源头的理解，如何科学界定生成式AI合成数据在生命科学领域中的“可信赖应用边界”？王波指出生成式AI在生命科学中的可信赖应用应通过闭环验证和数据质量审计来确保，特别在高风险环境中需消除数据偏见。通过多学科融合，提升模型可解释性与追溯性，减少黑盒特性，确保安全可靠性。其他与会嘉宾针对此议题积极展开了深入讨论，最终各位嘉宾提出了以下观点：

1、生成式AI突破自然法则可能引发伦理与社会风险，需在创新与自然法则间建立约束机制，确保技术不超出人类可控范围，因此要从数据层面、技术层面、社会层面和伦理层面综合考虑该问题，进行分层分级界定；

2、从数据层面看，应重点关注数据安全与风险控制，确保实验数据安全，严格规范AI在敏感领域的应用，避免潜在滥用与不可控后果；

3、从技术角度分析，生成式AI合成数据的可信赖应用边界应通过“生物实验验证”和“模型迭代反馈”双循环机制界定，形成动态校准过程；生成式AI合成数据的可信边界需通过衡量标准和任务相关性评估，优化架构确保其在生命科学中的可靠性与适用性；通过小范围试验、技术验证、跨学科合作及差异化管理构建，确保技术可行、安全，并形成可持续应用标准；

4、从伦理方面看，生成式AI应遵循“伦理优先、验证并行”原则，确保符合伦理、隐私和医学规范，并通过反复验证确保有效性与安全性；通过跨学科协作界定，重点关注数据筛选、临床转化和伦理验证，确保技术符合伦理和社会需求，避免潜在风险；

5、可信赖应用边界关键在于下游应用的意图、场景和后果，特别是在生命科学领域，需严格评估AI算法对人体或群体的实际影响；

6、通过伦理和技术双重验证，结合专家论证与自动化验证工具，确保伦理合规与技术可行性，形成完整验证闭环。

图7 思辨嘉宾进行思辨引导发言

图8 思辨议题二的讨论

思辨议题三：在生命科学领域，需要构建怎样的技术标准、监管框架等以实现“安全优先”的创新突破？玄世昌提出，可构建“技术标准-监管框架”双重体系，建立合成数据风险评估标准，并设计分级监管机制。通过可操作的技术规范和动态监管确保创新与安全平衡。其他与会嘉宾也就该问题进行了激烈的思辨。最终嘉宾们输出观点如下：

1、 技术标准和监管政策相辅相成，是实现生命科学领域“安全优先”的两架马车，具体涉及到数据安全、模型安全、伦理安全等方面；

2、 现有生命科学领域的伦理规范不能直接作为当前AI环境下的监管原则，应结合社会因素、伦理、国情的影响，综合考虑并制定；

3、 科研层面采用备案制鼓励探索创新，应用层面实施严格监管，通过分界机制与差异化标准实现“科研开放、应用审慎”的治理目标；

4、 数据和模型的使用要在一个可控的体系里面，以避免大规模无序的爆发；应对生成数据和算法设立量化标准与使用权限，限制模型扩展速度，结合技术手段和分级管理，动态评估风险；

5、 建立一个通用的技术标准作为总体框架，由各个专业领域进行补充和细分标准。

图9 思辨议题三的讨论

最后，YOCSEF哈尔滨分论坛主席玄世昌对论坛作总结与展望。他认为本次论坛选题具有前瞻性，紧扣生命科学与人工智能的前沿发展，深入探讨了创新突破与应用风险的平衡与挑战。与会者分享了最新的科研成果，围绕生成式AI在生命科学中的可信边界、数据质量、伦理挑战等核心问题展开了深入思辨。论坛强调了跨学科合作与技术监管的重要性，推动了各领域专家的互动与共识建设。

图10 论坛总结

本次论坛深入探讨了生成式AI在生命科学中的应用、面临的挑战及伦理问题，提升了参会者对这一前沿领域的认知。通过此次交流，大家对未来的技术突破和合作方向有了更清晰的思考，论坛为生命科学大模型的进一步发展提供了新视角和启发。

图11 合影留念