2024年8月3日，CCF YOCSEF合肥顺利举办技术论坛“从基座模型到终端应用：洞察大模型落地终端应用的产品形态与核心技术”。本次论坛为YOCSEF合肥在“大模型时代的推荐系统”后的延续，也是YOCSEF总部“大模型的落地之路：挑战与演进”的系列论坛活动之一。论坛旨在探讨大模型技术在终端应用中面临的挑战与机遇。随着大模型技术的快速发展，其在终端应用中的不确定性和用户的高期望之间的矛盾愈发突出。论坛汇聚了大模型应用领域的学术界学者、工业界专家、YOCSEF合肥委员共40余位参与讨论。期望通过深入分析技术难点、解决方案和成功案例，推动大模型在终端应用场景的广泛落地。

本次论坛执行主席为YOCSEF合肥AC委员华米科技的周锐和YOCSEF合肥AC委员中国科学技术大学的冯福利。论坛由周锐和冯福利共同主持，开场介绍了本次论坛的议题和嘉宾。随后，YOCSEF合肥主席吴昊介绍了YOCSEF的文化，强调“承担社会责任，提升成员能力”的宗旨，详细介绍了论坛的主要活动形式和价值观。

YOCSEF上海主席，复旦大学邱锡鹏在题为《大语言模型落地——痛并快乐着》的报告中，探讨了大模型技术的现状与未来趋势。他指出，与其简单地将AI叠加在现有产品上（AI+X），不如将AI无缝融合进现有产品（X+AI），以提升产品的易用性和用户满意度。

科大讯飞研究院副院长李鑫在《面向终端应用的星火大模型实践及思考》的报告中，阐述了从小模型到大模型的演进过程及其在终端应用中的挑战与优势。他指出，大模型通过处理更多的信息和token，开启了自然语言交互的新范式。

泉城实验室访问研究员、麦伽智能创始人CEO罗成在《法律大模型应用于人民法院的探索和思考》中，介绍了法律大模型LegalOne的创新解决方案。罗成强调，司法领域对精度和专业性要求极高，通用大模型难以满足这些需求，需要高度专业化的法律大模型来解决。

联宝科技iLab智能实验室总监陈陶根在《AI PC发展展望及技术探索》的报告中，分析了全球及中国PC市场的变化趋势，并探讨了AI PC在终端应用中的核心特征和技术挑战。他指出，AI PC具备自然语言交互、内嵌个人大模型、本地混合AI算力等特征，在未来将有广阔的应用前景。

在思辨环节，参会者围绕三个话题展开了深入讨论。首先，探讨了大模型技术在实际应用中的不确定性与用户期望之间的矛盾，旨在识别并解决大模型在生成内容时可能出现的误差和幻觉问题，提升模型的稳定性和用户满意度。然后，讨论了大模型在终端应用中可解释性的重要性和必要性，目的是确定在特定应用场景下，如何通过提高可解释性来增强用户对模型结果的信任和理解。最后，探讨了个性化服务与用户隐私保护之间的权衡，旨在为终端应用中的大模型设计提供思路，确保在满足用户需求的同时，最大程度保护用户隐私，实现技术与道德的平衡。本次论坛特别邀请了微软中国数据及人工智能解决方案部总经理郭立、安徽大学教授赵姝以及合肥工业大学副教授胡文波作为特邀嘉宾分别为每个话题做引导发言。

在该话题下，大家针对大模型落地C端应用时的不确定性与用户较高期望产生的矛盾展开了讨论。郭立展示了多个大语言模型调用的Demo，介绍了如何通过增强检索查询技术和后处理分析来提升输出的正确性。不少与会者提到了大模型的不确定性和幻觉问题，以及如何通过技术手段和用户预期管理来解决这些问题。同时还有一个比较有意义的观点大模型的不确定性如何量化，然后C端不同场景的容错率是否也可以量化，这两者之间的关系可以作为落地阶段的一个研究方向。

在第二个话题下，大家就大模型确定性和可解释性的区别和联系展开了讨论。赵姝介绍了高校大模型的实践，强调用户希望大模型提供准确、一致和可解释的答案。与会者们讨论了确定性和可解释性在大模型应用中的重要性，认为在大多数终端应用场景中，确定性更为重要，但可解释性也能提升模型能力和用户信任度。同时会上针对学术研究中为何主要集中在可解释性进行了思辨。观点认为模型的不可解释是一个缺陷，所以需要解决它，而不确定性是特性，一把双刃剑，大模型的很多能力就是由于不确定性带来的，但是确实也会带来新的问题影响用户体验。

最后的话题上。与会者围绕个性化服务与用户隐私保护之间的矛盾展开讨论。胡文波提出了三点具体手段来权衡确定性、个性化和隐私保护：持续改进相关技术、坚持解释透明性原则、结合人工干预和审核。与会者认为，在实际应用中，需要根据具体场景和用户需求，综合考虑确定性和隐私保护的平衡，但是个性化和隐私的权衡问题由来已久，并不仅仅是大模型应用才需要考虑。

论坛最后，冯福利对整个会议进行了总结。通过本次论坛的专家报告和思辨讨论，大家对大模型的应用、确定性与可解释性、用户隐私与个性化服务等关键问题有了更深入的理解。技术的进步和用户需求的不断变化将持续推动大模型的不断发展，尽管面临诸多挑战，希望大家继续保持思辨精神，共同探索解决方案，推动大模型技术在各个领域的广泛落地应用。

本次论坛由中国计算机学会（CCF）主办，YOCSEF合肥学术委员会组织，北京超级云计算中心和北龙超级云计算支持。