2024年9月21日，CCF YOCSEF 合肥顺利举办了主题为从“黑箱”到“白箱”：新医学数据挖掘可信增强范式技术论坛。本次论坛聚焦于融合信息学、计算机科学、医学、生物信息学等交叉领域知识的新（融合）医学时代，剖析“黑箱”问题产生的原因，探索实现“白箱”的可行路径，致力于提高数据挖掘的可信度（鲁棒，可解释，公平，隐私保护等）。论坛汇聚了来自人工智能领域的学者、工业界专家及YOCSEF 委员共40多位参与讨论。

【开场环节】

本次论坛执行主席为YOCSEF合肥AC委员、安徽医科大学何云飞，以及YOCSEF 合肥学术秘书、安徽医科大学彭振皖。线上主席为YOCSEF合肥AC委员、合肥师范学院沈琛和YOCSEF合肥学术秘书、合肥丰声文化科技有限公司李磊。执行主席何云飞首先介绍了论坛主题，并对到场嘉宾表示热烈欢迎。随后，YOCSEF合肥副主席李礼介绍了YOCSEF文化，包括其由来、发展历程、组织制度，特别强调了“承担社会责任，提升成员能力”的宗旨以及“人人平等，直呼其名”的价值观。最后，李礼介绍了YOCSEF合肥委员申请途径，期待大家的加入。

【引导发言报告环节】

中国科学技术大学，孙晓艳做了题为《人工智能赋能医学影像智能分析》的报告。她指出，随着医学成像技术飞速发展，多模式成像设备不断涌现，医学影像成为现代医学精准诊疗的重要基础。在自然语言处理和智能感知技术上取得的突破性进展，为医学影像智能分析提供创新动力。智能医学影像分析是缓解医疗资源短缺，实现精准医疗的强大推力。人工智能技术赋能医学影像智能分析带来了巨大变革和发展机遇，前景可期。孙晓艳还介绍了课题组在基于人工智能技术的脑肿瘤识别研究领域的前沿工作，为人工智能赋能医学影像智能分析提供了切实可行的案例，具有很好的应用价值。

安徽大学，江波做了题为《鲁棒图神经网络与可信图计算》的报告。报告中，江波提到，鲁棒图神经网络与可信图计算是当前图计算领域的关键研究方向。图卷积神经网络（GCN）在图数据上应用时，由于图的复杂性，传统的卷积操作难以实现鲁棒图表示。为此，需要针对图结构和图特征中潜在的异常、缺失信息进行纠偏和补全；利用能量方程、图正则化等技术优化图神经网络，增强其鲁棒性与可信性。

安徽医科大学，杨飞做了题为《多模态医学可信挖掘理论及技术探索》的报告。杨飞在该报告中展示了多模态技术的发展历程及其在医学领域的应用。随后介绍课题组在电子病历文本、医学图像、药物关联网络中的数据挖掘研究成果，并在一定程度上提高了模型的鲁棒性和可解释性。最后，对多模态医学可信挖掘领域的挑战和机遇进行了展望。

中科曙光，肖贵宝做了题为《人工智能算力底座赋能医疗行业发展》的报告。报告致力于探讨人工智能算力底座正在推动医疗行业的快速发展，形成了“AI for Science”新范式。AI技术加速了肿瘤Biomarker的挖掘，推动肿瘤学的进步，并通过多组学生物信息技术提升精准医疗的水平。主要分享了生物信息分析软件BWA的运行特征，异构算力在蛋白质研究中的应用（如Relion的计算性能），以及医学影像数据分析的进展。此外，针对“卡脖子”问题，提出了基于国产化技术的解决方案，利用海光CPU和海光GCU，实现超算与智算的深度融合，构建HPC/AI一体化平台。

【思辨环节】

本次论坛共设置了三个思辨议题，旨在剖析新医学数据挖掘存在哪些“黑箱”（低可信度）问题及产生的原因，探索通向“白箱”（高可信度）的转变技术路径，促进可信医学数据挖掘成果的转化落地。三个议题分别是议题一：新（融合）医学时代，数据挖掘存在哪些“黑箱”（低可信度）问题及产生的原因？议题二：如何提高医学数据挖掘的可信性，即从“黑箱”到“白箱”的转变？议题三：如何促进可信医学数据挖掘成果转化与落地？三个议题层层递进，环环相扣，共同致力于新医学数据挖掘可信性增强。本次论坛特别邀请了绍兴文理学院胡珂立、黑龙江大学张晓光、安徽劲凌网络有限公司凌汉阳作为思辨嘉宾，由他们分别为每个议题做引导发言。

议题一：新（融合）医学时代，数据挖掘存在哪些“黑箱”（低可信度）问题及产生的原因？

在该议题下，大家针对融合多学科交叉领域知识的新医学时代下，“黑箱”问题及产生的原因进行深入剖析，并在数据、模型、与实际应用间的差距、管理、使用者的知识储备几个方面形成共识。例如，数据标注的准确性、缺失、融合、噪声问题会导致结果存在偏差而不可信。人工智能技术，特别是参数庞大的大模型，加剧模型的不可解释性和透明性。数据-模型-医生环节间的管理和责任划分也必然导致结果不可信。实际应用中，模型的强大拟合能力与医生安全保守治疗之间存在天然隔阂，这同样导致低可信度。此外，如果使用者不具备多领域交叉知识背景，则难以判断模型建模是否全面，理解结果指标具体含义，进而产生偏差推断。

议题二：如何提高医学数据挖掘的可信性，即从“黑箱”到“白箱”的转变。

该议题下，与会者首先达成医学数据挖掘必须可信的共识前提。其次，从“黑箱”到“白箱”的转变程度是需要根据具体任务和定位来决定。例如，当医学数据挖掘方法的作用是用于辅助治疗时，其转变程度要求较低。相反，如果医学数据挖掘方法的作用是决定性的，则其转变程度要求偏高。此外，可信性增强依赖于模型建模的全面性，即建模时需尽可能全面地整合医生在实际场景中所考虑的影响要素。一方面可增强模型的可解释性。另一方面可使医生和模型之间达成一致理解。最后，在具体转变的过程中，可对复杂模型分步骤和阶段进行拆解。然后对每个简单的单元模块进行可信增强，使得每个环节都有必要的解释和透明度。这不仅有助于提高医生的信任度，也能增强决策的有效性。

议题三：如何促进可信医学数据挖掘成果转化与落地？

该议题下，嘉宾们均表明可信医学数据挖掘成果转化的必要性，否则，理论脱离实际而缺乏现实意义，难以推动医学进步。其次，在成果转化与落地过程中依赖于转化生态，包括转化技术、转化团队、转化场景、转化机制和政策。其中，成熟的技术是转化的首要条件，这决定了该技术是否具有现实的转化必要和意义。转化团队是支撑技术转化的核心，没有好的转化团队，则难以构建完善可靠的挖掘技术。具体的转化场景则是技术转化的温室，脱离实际业务场景和市场，则难以维系后续的长远发展。转化机制和政策是一双有形的手，可以有效引导、沟通、监管、激励医学数据挖掘的转化与落地，实现更为稳健的落地与实践。

论坛最后，执行主席何云飞对整个论坛进行总结。通过本次论坛的报告及思辨讨论，凸显了新医学数据挖掘的重要性，强化了可信医学数据挖掘的必要性，形成了初步共识并总结出可信性增强的一些可行路径。尽管新医学数据挖掘存在诸多挑战，只要大家深入探讨、持续交流、实践总结，智慧医疗成功全面的落地应用并不久远。

本次论坛由中国计算机学会（CCF）主办，YOCSEF合肥学术委员会组织，中科曙光与安徽凌讯网络有限公司支持。此外，本次论坛也受到YOCSEF 哈尔滨张晓光，YOCSEF 杭州胡珂立，YOCSEF 重庆童钊和YOCSEF 兰州郑炜豪等全国YOCSEFer 的大力支持和积极参与。

供稿：何云飞，彭振皖

编辑：李磊

审稿：吴昊