情绪价值包括了正向情绪价值和负向的，这种价值不仅体现在个体层面上，还涉及到人际关系、社会互动等多个方面，情绪和情感对个人感知世界至关重要，影响思考、行为和交流，塑造生活方式和社会关系，进而影响社会发展。GPT-4o等多模态大模型通过文本、音频、图像处理能力，提供自然交互体验，能在给用户提供知识反馈的同时带来情绪价值。这种情绪价值可能超越情绪层面，对用户产生更深远的影响。在这一背景下，2024年11月3日由CCF YOCSEF兰州举办的“大模型带来的情绪价值的利弊得失”的观点论坛在兰州东羽信息系统工程有限责任公司会议室顺利召开。CCF YOCSEF兰州AC委员李子荣（兰州财经大学）与CCF YOCSEF兰州AC委员徐世鹏（甘肃政法大学）担任执行主席。

本次论坛邀请到多位来自高校、企业的专家学者，共同探讨大模型发展过程中情绪价值对用户产生的影响相关问题。兰州大学信息科学与工程学院李泽鹏副教授、西北师范大学心理学院杨阳副教授以及京东方艺云科技有限公司何叶担任引导嘉宾，兰州大学中国西部数据中心主任唐远雄教授、甘肃政法大学网络空间安全学院副院长武光利教授和兰州大学哲学社会学院吴雪梅博士、兰州理工大学国际教育学院副院长赵付青教授、兰州东羽信息系统工程有限责任公司总经理任小东、兰州职业技术学院信息工程学院李杜担任特邀嘉宾出席。CCF YOCSEF兰州AC委员以及来自当地高校、政府、企业的众多专家学者共计20余人参与本次活动。

本次论坛分为引导发言与思辨讨论两个环节。首先执行主席对到场人员表示热烈欢迎，并介绍了论坛背景以及YOCSEF文化。

图1 会议开始

首先，兰州大学信息科学与工程学院李泽鹏博士做了题为“大模型在精神健康领域中的应用”的引导发言。大模型在精神健康领域有着至关重要的作用。一方面，极大地推动了该领域发展，为研究带来新机遇，通过强大的数据分析能力处理海量精神健康数据，提升研究效率与深度，促进跨学科融合，拓展研究视野。同时助力面向多模态数据的精神健康研究，整合文本、图像、音频等多类型数据进行分析。而且基于大模型能够实现个性化诊断与治疗，为患者提供更精准的方案。然而，也不能忽视其中的问题，精神健康计算面临着数据安全挑战，存在伦理风险和监管需求，比如数据隐私保护、算法公平性等，并且数据与模型可能存在偏见，有产生有害建议的风险，需要谨慎应对，以保障其健康发展。

图2 李泽鹏引导发言

接着，西北师范大学心理学院杨阳博士以“Generative AI 和心理”为题进行引导发言。生成式人工智能在多个领域展现出独特价值，尤其是与高功能自闭症儿童情绪学习、心理咨询、决策和智能体共情相关方面。对于高功能自闭症儿童情绪学习，它可通过模拟各种情绪场景、互动游戏等方式，帮助儿童更好地识别和理解情绪，促进其情绪学习。在心理咨询领域，生成式人工智能能作为辅助工具，为咨询师提供多样化的咨询策略和案例参考，增强咨询效果。当涉及决策时，它可以快速处理大量信息，生成多种方案供参考，辅助人们做出更合理决策。同时，在智能体共情方面，通过学习情感表达和回应模式，使智能体能够更好地理解人类情感，给予更具共情性的反馈，从而改善人机交互体验，提升用户对智能系统的满意度。但是，生成式人工智能也会导致虚假记忆的形成，在应用过程中需要谨慎考虑和制定伦理准则。

图3 杨阳引导发言

最后，京东方艺云科技有限公司何叶做了题为“AI大模型助力学生心理健康”的引导发言。AI 技术可分析学生行为动作和语言文本信息，识别情感倾向与情绪状态，这是心理健康的重要反映。能够实时监测学生情绪变化，发现潜在心理健康问题，为教师、心理咨询师和家长预警。同时，基于大模型的算法能处理大量心理健康数据，为学生提供个性化干预方案，通过分析心理状态、生活经历和性格特点等制定心理疗愈计划。基于AI大模型的聊天机器人还可以运用自然语言处理技术，与学生自然流畅对话，提供情感支持、答疑解惑和心理辅导。这种交流具有高度便利性和无偏见性，能营造舒适自由的交流环境，为学生提供规范标准化的心理评估和干预程序，并通过科普宣教提高学生对心理健康的认知。

图4 何叶引导发言

在思辨环节，本次论坛围绕三个议题分别进行了深度讨论。

思辨议题一：大模型给用户带来的情绪价值是否超越传统情绪价值范畴？

讨论聚焦于大模型给用户带来的情绪价值。一方面，大模型在个性化体验和推荐系统上表现尚可，但在智能感知方面远逊于人类。对于情绪价值，其概念因情境和个体而复杂，大模型虽能在文字层面满足部分情感需求，可因缺乏表情、肢体语言等多模态信息，难以超越传统情绪价值范畴。另一方面，也有观点认为大模型在小范围内可能改变传统情绪价值范畴，其认知能力会对用户情绪产生影响。然而，当前大模型缺乏理性能力、无法处理道德困境，在情感计算领域发展不足且面临诸多挑战。

图5 论坛议题一思辨

思辨议题二：快节奏社会中，使用大模型获取知识对个体的心理健康是促进还是损害？

与会嘉宾认为大模型能提供高效知识获取途径，可迅速获得理论和案例，有助于解决问题、提升自信、增加学习和自我提升机会，还能为心理支持与疏导助力，对个体心理健康有促进作用。例如可用于心理问题筛查和干预，也能提供情绪价值，提升主观幸福感。但大模型也存在损害心理健康的可能。如可能导致信息过载引发焦虑，像部分行业人员会因大模型冲击产生职业危机感。也可能使个体缺乏深度思考和人际交互，影响能力锻炼和社交能力发展。而且，若数据错误还会误导用户的认知，尤其是对青少年三观形成带来不良影响。因此，大模型对心理健康的影响是复杂的，需分类、动态地看待。

图6 论坛议题二思辨

思辨议题三：大模型是否会通过个体知识输出对社会产生群体性影响？如何避免？

经过参会人员的热烈讨论，大家一致认为大模型必然会对群体产生影响，它突出个体性，在个体化社会有助于个人价值的实现和获得更多尊重。不过，大模型也存在负面效应，比如会造成个人知识分化、两极分化，引发极端观点，还会产生伦理和社会问题，这需要各学科协同应对。大模型对不同领域和人群的影响各异，可能会阻碍一些小研究方向的发展，对青少年也可能产生不良影响。而且，大模型生成的内容可能存在虚假信息，一旦人们习惯使用，影响不容小觑。此外，大模型在文化层面、不同阶层的态度以及决策偏见等方面也存在问题。在规避群体性影响上，可以从法律与社会监管、留意数据输入偏好、提高人的素质等方面着手。对于坏人利用大模型从事违法违规活动的问题，可从法律和技术两个维度进行治理。人们需要增强判断意识，以辩证和共存的视角看待，并从人的认知层面提升人机交互的判断力。

图7 论坛议题三思辨

最后，CCF YOCSEF兰州执行主席进行了总结。通过多维度、深层次的思辨与探讨，不仅探讨了大模型带来情绪价值的得失问题，同时建议在大模型的使用需要加以相应的限制和约束。

图8 论坛活动成员合影留念

本次论坛感谢现场嘉宾的热情参与，感谢兰州东羽信息系统工程有限责任公司、京东方艺云科技有限公司的大力支持，感谢YOCSEF兰州全体AC委员们背后的努力和论坛志愿者们的辛勤付出。