分论坛 > 杭州 > 新闻动态
CCF YOCSEF杭州举办技术论坛——大模型与专用小模型:医疗AI的协同之路
2024-11-26 阅读量:1 小字

医学领域一直是人工智能技术发展的热点之一。大模型的出现,尤其是医疗垂域大模型的出现为医疗领域智慧赋能带来了新的机遇。大模型在理解临床数据、医学文献、专家知识等方面展现了很大潜力。然而,专用小模型在医学研究和临床赋能中也扮演着不可或缺的角色,它们能够更精准地针对特定任务进行优化。面对大模型与专用小模型并存现状,如何让它们协同工作,更好地服务于临床实践,是当前亟待探讨的课题

1123日,CCF YOCSEF杭州在绍兴文理学院组织举办“大模型与专用小模型:医疗AI的协同之路”技术论坛共同探讨医疗AI发展之路本次论坛的核心议题是探讨当前大、小模型并存现状下医疗AI发展之路。通过深入讨论,旨在为医疗AI发展提供参考


1与会嘉宾合照

此次论坛由中国计算机学会CCF主办,由CCF YOCSEF杭州学术委员会组织,由CCF YOCSEF杭州AC委员胡珂立(绍兴文理学院)和副主席韩志科(浙大城市学院)共同担任执行主席,由CCF YOCSEF杭州AC委员包翠竹(浙江工商大学)微妮(博世)共同担任线上主席。邀请南京理工大学教授周涛上海交通大学长聘副教授谢伟迪东南大学长聘副教授/CCF YOCSEF南京现任主席吴天星作为引导嘉宾,邀请浙江大学研究员刘佐珠浙江大学计算机创新技术研究院智慧医疗中心人工智能算法负责人王贵宣浙大城市学院副教授王军、杭州电子科技大学副教授赵昶辰作为思辨引导嘉宾此次论坛讨论热烈,持续4个小时。CCF YOCSEF合肥现任主席吴昊、CCF YOCSEF苏州AC杨胜利、杭州惟医科技有限公司总经理姜春风等高校和企业界嘉宾60余人共同参会。


2:论坛现场

论坛由胡珂立韩志科两位执行主席主持,首先介绍了CCF YOCSEFCCF YOCSEF杭州分论坛,以及此次论坛背景、引导嘉宾,对与会嘉宾表示感谢。接下来会议进入引导发言环节。


3:论坛由胡珂立韩志科两位执行主席主持

引导发言

一、智能融合:大小模型协同在AI医疗中的应用

4:南京理工大学周涛做引导发言

周涛带来了引导发言智能融合大小模型协同在AI医疗中的应用,主要大模型发展背景、大小模型协同应用实践和开放问题三个方面展开。首先介绍了大小模型的特点,大模型如GPT-4、盘古等凭借强大的多模态处理能力,在复杂任务中表现卓越;小模型则因轻量化优势适用于嵌入式设备或实时场景,两者协同的关键在于平衡性能与效率。然后介绍了目前的实践案例,包括视觉语言协同、多模态学习、知识蒸馏实现小模型轻量化,以及跨模态协同在医学影像中的应用。最后指出未来还需深入研究大小模型的适用场景、多模态协同潜力、数据与领域知识的融合、多任务优化,以及推理阶段的资源效率问题。大小模型协同为AI应用提供了灵活性和多样性,既需发挥大模型性能优势,也需注重小模型的实际适配与资源优化。


5:执行主席韩志科为周涛颁发感谢牌

二、Towards Developing Generalist Models for Healthcare


6上海交通大学谢伟迪做引导发言

谢伟迪带来了引导发言Towards Developing Generalist Models for Healthcare,他在发言中提到随着语言大模型的出现传统的医疗领域正在发生变革,所在团队近年也一直专注于基于视觉的医疗辅助模型,包括开放数据集的构建、知识的引入和模型泛化性的提升等等。他详细介绍了团队近年来的相关研究工作,在数据集构建方面,整理了上百种语料库,涵盖书籍、教科书及医疗开源数据,同时扩展至德语、阿拉伯语等8种语言;图像和文本成对数据方面,处理了大量3D医学数据和CT数据,并完成了器官分割和病灶标注。基于这些数据,团队开展了多语言模型训练,覆盖多个科室和方向,测试显示模型在多语言任务上表现均衡。并介绍了领域知识注入模型的相关研究,通过语言模型与视觉模型的对齐,提升任务处理能力,并进一步探索了视觉和语言协同的可能性,持续推进大模型的实际应用与优化。


7:执行主席胡珂立为谢伟迪颁发感谢牌

三、面向主动健康的知识增强慢病管理大模型

8东南大学吴天星做引导发言

吴天星带来了引导发言面向主动健康的知识增强慢病管理大模型。首先介绍了所在团队基于知识图谱的解决方案面向多元异质知识的新型表征、构建、推理模型,指出了关键问题是多模态、多语言、多类型知识精准抽取集成带噪声的不确定知识实现高质量计算与推理以及如何高效处理动态知识的挖掘、演化、推理,并详细介绍不确定性知识图谱构建。接下来,介绍了基于大语言模型在健康管理中的应用,指出通用领域的大语言模型虽能回答医疗常识问题,但医疗领域专用的大语言模型在回答时更为精细。然而这些模型在应对个性化问题方面仍显不足。为此,他介绍了团队研发的蜻蜓大模型,目前该模型专注于慢病健康管理的大模型,可以自动生成个性化的健康管理方案,并定量推荐符合日常习惯的健康管理方案。最后,总结了知识图谱和大模型各自的特点,并指出只有知识图谱和大模型深度协同,才能发挥出更理想的效果。


9:执行主席韩志科为吴天星颁发感谢牌

思辨环节

10:思辨环节

在引导报告之后进入思辨环节。与会嘉宾围绕现有医疗大模型赋能医疗的能力边界在哪里?如何提升大模型在医学决策中的可信度?专用小模型在医疗赋能中的优势与挑战有哪些?大模型与专用小模型如何协作?下一代医疗模型应该采用何种技术机制?三个议题展开了深入思辨。

思辨议题1:现有医疗大模型赋能医疗的能力边界在哪里?如何提升大模型在医学决策中的可信度?

思辨议题1由执行主席胡珂立主持。与会专家们围绕这一议题展开了深入讨论,提出了如下观点:

  • 医疗大模型应用局限:医疗大模型具备处理文字、语义连接和基础任务(如病历书写、数据提取)的优势,但逻辑思维和复杂决策能力有限。在智能诊疗、个性化医疗、药物研发和医学影像分析等方面初见成效,但效果受数据质量和算力资源限制。当前大模型在复杂病例和重大疾病诊断和复杂医疗方案优化中表现不佳,更多作为辅助工具,主要提升医生效率。

  • 数据与算力瓶颈医疗数据的多模态性和缺失问题限制模型训练与应用,尤其是高质量标签和对话数据集的缺乏。基层医院因预算限制难以独立应用大模型,资源共享和知识赋能是可行解决方案。算力成本过高(如服务器购置),需探索低算力解决方案以提高普及性。

  • 可信度与可解释性挑战决策可信性需解决数据偏见、隐私保护、逻辑缺失和模型幻觉等问题。通过多中心测试、统计显著性分析、工程化改进(如专家反馈机制)和引入物理模型提升可信度。强化模型决策过程的可解释性,确保分类依据科学,协助医生做出最终判断,而非独立决策。建立模型评估框架,明确其在不同疾病和医疗任务中的能力范围。当前数据质量仍不高,现有数据不足以训练大模型。

  • 能力提升方式:优化专科场景嵌入专科指南和知识,聚焦特定疾病和场景提高模型决策能力。采取协同模式强调医生与模型的协同作用,通过人机交互优化使用体验,提升医生对模型输出结果的理解与信任。需要进一步研究提升模型发现疾病规律的能力。利用区域医疗共同体共享算力和数据,降低基层医院应用门槛。

  • 伦理与法律保障通过拒绝回答敏感或隐私问题增强模型边界感,提高使用安全性和社会信任度。推动数据开放与治理,制定针对医学数据共享和保护的标准与法律。

思辨议题2:专用小模型在医疗赋能中的优势与挑战有哪些?大模型与专用小模型如何协作?

思辨议题2由执行主席韩志科主持。与会专家们围绕这一议题展开了深入讨论,提出了如下观点:

  • 模型特性小模型针对特定场景开发,硬件需求低,部署便捷,适合精细化诊断和基层医疗,但存在泛化能力不足和知识覆盖有限的问题。大模型具备海量数据处理和跨任务能力,在综合性、通用性任务中表现优异,但成本高、部署复杂,适合复杂疾病诊断和疾病关联分析。

  • 适用场景小模型优势场景:基层医疗机构低成本部署,提升诊疗效率特定病种如罕见病和数据稀缺场景,小模型可精准诊断紧急任务快速筛查病例。大模型优势场景:

  • 跨病种综合分析如疾病监测与预警数据丰富场景复杂任务需依赖大模型的知识广度高难度诊断通过深度分析提供决策支持。

  • 大小模型协作大模型可作为调度中心,根据任务调用小模型处理具体任务,并兜底解决小模型无法处理的复杂问题。通过大模型预训练知识蒸馏等技术实现高效协作,小模型也可反哺大模型优化知识表达。在医疗数据处理中,大小模型协作可显著提升效率,展现了其在真实场景中的潜力。

  • 改进方向模型性能改进方面,优化大模型可解释性,加强小模型泛化能力,解决其跨医院适用性差的问题。数据质量与协作架构方面,低质量标注和数据稀缺仍是制约瓶颈。群体智能协作框架(云端、边端、终端协同)可能是未来方向。经济与政策限制方面:需探索合理支付路径,推动大小模型在基层和高端医疗机构中的普及应用。

思辨议题3:下一代医疗模型应该采用何种技术机制?

思辨议题3由执行主席胡珂立主持。与会专家们围绕这一议题展开了深入讨论,提出了如下观点:

  • 技术发展方向结合领域知识方面,将物理知识、专家知识和神经网络相结合,通过物理公式约束、知识图谱联合训练等方法,提升模型准确性和可靠性。数据驱动的技术突破方面,数据的质量、数量以及与医生的交互方式将决定医疗模型的实际效果,而非单纯依赖前沿技术优化算法与模型设计方面,未来模型应解决数据共享的壁垒,探索替代反向传播的优化算法,以及提升数据利用率。

  • 数据与知识驱动:数据质量与机制优化方面,医疗领域的核心突破点在于改进数据质量和管理机制,尤其是在个性化医疗场景中。数据质量改进、体量提升及交互方式创新是重要推动力。数据共享与联通方面,联邦学习和数据联通技术需进一步优化以实现跨机构数据共享,推动大模型实际应用落地。基础医学与数据创新方面,基础医学研究为疾病治疗提供新方法,同时推动模型发展,有望为疾病治疗机制的发现和改变提供见解,成为医学领域的重要拐点。

  • 应用场景突破:罕见病与个性化医疗方面,大模型在罕见病诊断和药物研发中的扩展性将成为优势,推动个性化医疗发展。人机协同医疗方面,结合智能助手与监测设备,提供实时健康监测和个性化诊疗服务,减少就医负担,优化医疗资源利用。双重赋能医院模式方面,大模型优化医疗系统,降低整体成本;专用模型提升医生诊疗效率,缓解医保压力并改善患者体验。

  • 医疗模型未来重点多层次技术整合结合神经形态芯片等前沿技术,探索医疗助手、疾病监测和诊疗系统的全面协作。强化医生与模型协作,通过人机协同助力精准医疗。突破长期数据与基础科学研究,基于患者长期健康数据和基础科学进展,探索个性化医疗服务的新范式,实现医学发展的质变。


11:执行主席为思辨引导嘉宾颁发感谢牌

总结

本次观点论坛汇集了来自学术界和工业界的专家,共同探讨了医疗AI发展现状与未来方向。在讨论中,专家们认为,医疗大模型的能力边界需通过技术优化、数据支持和伦理约束逐步拓展,其可信度建立在科学的模型设计、数据质量和人机协作模式之上。大小模型的协作模式将成为医疗AI发展的核心趋势,需根据任务需求灵活选择模型。强调结合专科需求,发挥小模型的针对性优势与大模型的通用能力,实现更高效、更可信的医疗应用。未来需通过技术迭代和实际应用经验提升模型的适用性与经济性,为医疗行业带来更广泛的价值。医疗模型应注重数据核心,通过技术融合和多场景协作推动模型在医疗领域的深度应用,同时重点关注基础医学研究与人机交互优化,为个性化和精准医疗提供全面支持。

参与者们期待未来能更多地参与此类活动,以促进领域前沿技术知识交流合作。


CCF聚焦