2022年4月3日9时，CCF YOCSEF太原“CCF YOCSEF太原 推荐算法的‘善’之路”技术论坛成功举办。论坛由中国计算机学会主办，CCF 太原分部、CCF YOCSEF太原学术委员会承办，山西大学科学技术协会、山西大学大数据科学与产业研究院、山西大学计算机与信息技术学院支持。YOCSEF太原学术秘书彭甫镕、AC委员郑爱宇担任论坛执行主席，委员赵福梅，AC委员董云云担任线上主席。六位特邀嘉宾分享观点、120多位专家参与在线讨论。

人工智能时代，推荐算法无休止地激发个性化需求与猎奇思想势必诱导出人性的“恶”。论坛围绕推荐算法如何引人“向上向善”展开讨论和思辨。推荐算法能帮助用户快速获取信息，如今日头条的新闻推送，抖音视频流推送等功能都为大家带来了精彩内容。然而，随着资本逐利的白热化，推荐算法带来了“诱导沉迷”、“大数据杀熟”、“困住外卖骑手”、“猎奇新闻误导社会舆论”等乱象。论坛将以《互联网信息服务算法推荐管理规定》为契机，聚焦推荐算法的“善”之路进行思辨讨论，以期从推荐算法如何行“善”、如何施“善”，如何评价算法的“善“等关键问题形成方向。担任本次论引导嘉宾的是来自中国科学技术大学网络空间安全学院特任教授冯福利、中山大学计算机学院副教授王昌栋和山西大学马克思主义学院副教授吕其镁。

冯福利特任教授以《欲向善，知因果》为题，进行引导发言。他首先沿着推荐系统现状---推荐系统问题---推荐系统向善的思想脉络对推荐算法本身进行了深度归因。指出，现阶段推荐系统主要存在如下三方面的问题：偏见问题、用户权利轻视问题、信息茧房问题。紧接着，冯福利特任教授就上述问题推导若干可行性举措：1）增强推荐模型，即建模因果效应；2）校正推荐结果，即推荐结果公平、可控，保障用户权利；3）调控推荐影响，即防沉迷、引导用户兴趣、观点。除此之外，他还着重强调，为了更好地实现算法向“善”这一目标，未来推荐技术将从“数据驱动”的模式逐步向“数据+先验驱动”的模式转化。

中国科学技术大学网络空间安全学院特任教授  冯福利

王昌栋副教授以《施善于算》为题进行报告。提出了一种“掘善---施善---解善”这样一种良性的闭环逻辑。其中，掘善即挖掘用户内心个性化的善，将用户内在的善与外部信息中的善，通过诸如集成学习或注意力机制等方法融合实现掘善的目的；施善即源于用户内心而胜于用户，将用户个性化的喜好（喜好程度）与用户个性化的善（用户-项的善评级）进行融合，来实现施善的目的；解善即从可解释角度推动用户认可善，其可解释推荐系统的作用包括透明性，说服力，有效性，可靠性，满意度等。

中山大学计算机学院副教授  王昌栋

吕其镁副教授就《论人工智能奇时代下“善”的意义及其算法逻辑》进行引导性发言。基于“时代背景---伦理困境---“善”用算法”这一逻辑主线针对人工智能这一奇点时代背景下的伦理问题进行了阐述，如什么是人的特点，什么是机器的特点、人工智能有其局限性及算法到底是善还是恶等。吕其镁特别提出，基于哲学意义、伦理意义、现实意义等维度的伦理困境，当今资本主义下的人，其本身存在自我无限性（如欲望不断增强），直接依赖于人工智能，而人工智能又不得不有算法参与，故形成一种被动关联关系。那么到底该用什么样的价值观，什么样的思维方式进行算法设计。最后，针对“善”用算法这一角度，他进一步指出在理念层面上法律的基本立场应统一明确。从根本目标看，要保障“人”的主体性（即谁是主体的问题）；从基本原则看，要由法律规制算法全过程；从主要手段看，要加强实施算法技术标准和可追溯性，尽可能使算法逻辑的更具有“善”的伦理方向，在算法的审核和监督上尽快建立起系统的机制。

山西大学马克思主义学院副教授  吕其镁

本次论坛还有幸邀请到三位嘉宾一起参与思辨环节，分别是合肥工业大学计算机与信息学院教授吴乐、人民大学高瓴人工智能学院助理教授陈旭、太原理工大学经济管理学院董泽瑞。三位嘉宾分别阐述了自己的观点。

思辨点一：个性化推荐算法具有诱导用户激发个性化需求的能力，然而无休止的自我需求激发将带来“恶”的后果。从促进家庭和谐、社会繁荣、国家富强等角度，推荐算法在满足个性化需求时如何引导人“向上向善”?

针对《推荐算法的“善”之路》这一思辨点，太原理工大学经济管理学院博士董泽瑞先后从伦理学和管理学对于“善”的定义，分别从职业发展、家庭和谐、平台治理等角度进行了具体论述。他提出，在平台治理方面应该加强内容审核，进行清朗行动。

太原理工大学经济管理学院  董泽瑞博士

针对思辨点一，经线上思辨讨论，同步收获如下可行性观点：观点1，用户-项中的中性喜好中增加善的权重；观点2，为什么算法没有保持其中性，而激发出恶来了呢？从技术的角度，可以激发算法向善，或遏制其恶，这样保证其有更好的鲁棒性。换言之，若一味地从向“善”的角度调整算法，也会导致算法对恶的免疫力下降，故建议从遏制恶的角度进行算法的适度调整；观点3，从不同的角度对“善”和“恶”进行区分，争取在“善”和“恶”之间做一个平衡；观点4，从算法的规则制定这一角度考量，如何引导算法向“善”，且保证算法基于向“善”的规则制定不断OOD推进；观点5，从数据安全的角度，一方面，用户数据完全禁用是一个不好的现象，用户数据由用户自己来确定可被获取的类别或属性；另一方面，用户可以基于自身属性对推荐的信息进行主动性选择。

思辨点二：“善”能推动个人与社会积极向上发展，以短视频、新闻推荐为例，如何将“善”与推荐算法的优化目标结合形成“善”的推荐算法？

针对《算法向“善”的探索》这一思辨点，人民大学高瓴人工智能学院助理教授陈旭提出从可解释性、公平性、隐私性三性进行因果推断。公平性包括用户端公平性和商品端公平性两个方面。具体地，在用户端公平性方面，包括不同群体的评分、不同群体的评分准确度、不同群体的排序准确度三个维度的公平性因素；在商品端公平性方面，可以采取通过约束模型推荐结果的方式（即增加约束项）或通过纠偏的方法（即让模型参数在不同商品近似均匀曝光情况下进行学习）的手段达到一定程度上的公平。另外，针对可感受的用户公平性研究，还提出如下几点考虑因素：不同用户对不公平的感受程度；如何让用户意识到自己受到了不公平待遇；如何让用户感受到算法提升了公平性。

人民大学高瓴人工智能学院助理教授  陈旭

针对上述思辨点二，经线上思辨讨论，同步收获如下可行性观点：观点1，公平性和准确性需要权衡考量；观点2，在短视频、新闻推荐过程中，商家把负面评论做了不可视性处理。这是带有明显的偏见的推荐系统。当然，这是商家偏见性的干预，故只能针对中性的推荐系统进行适度向善的改进；观点3，目前的推荐算法会使用户产生自责心理，建议通过向善处理努力增强用户的可获得感或价值感；观点4，向善的指标很多，如何将其融入到推荐算法里边？首先，其属于一个定性的指标，而非定量的指标；其次，公平性、准确性、可解释性几个因素之间需要权衡考量；最后，多指标之间存在矛盾，建议整体考量；观点5，多指标之间存在矛盾是必然。单纯算法的角度考量，无法解决多指标之间矛盾的问题；从技术角度考量，建议从主目标加辅目标的方式适度处理；从哲学和伦理的角度考量，基于“善”的治理问题，应该对“善”的行为进行筛选，将“善”的行为标准化、模范化、固定化（如乡风良俗）。

思辨点三：传统推荐算法一般以短视频、新闻等推荐结果是否被采纳作为主要评价指标。在向“善”的发展方针下，应该如何建立算法“善”的评价指标？

针对《如何建立算法“善”的评价指标》这一思辨点，合肥工业大学计算机与信息学院教授吴乐先后从Why？（为什么较少的“向善”评价指标）、How？（如何建立向“善”的评价指标）、Challenge？（建立“向善”评价指标的重难点）三个方面进行了具体阐述。其中，在Why方面，基于从推荐系统1.0到推荐系统2.0的演进性分析，得出观点：算法没有对错，人类设计的算法优化与评价指标价值观决定了算法走向。在How方面，她提出了从被动拟合的评价指标体系到主动引导的评价体系这一观点。这里，主动引导“向善”评价体系包括：1）用户角度；2）产品角度；3）系统角度；4）社会角度：公平公正，维护少数群体利益（维护老人、妇女等少数群体的利益）。在Challenge方面，她进一步强调了建立“向善”评价指标的重难点，即如何建立法规、社会道德约束引导善（如公平公正、不歧视少数民族）；多维度向善指标（即从定性到可计算的定量评价指标体系）；向善评价指标与模型准确度的矛盾；推荐领域特性，如何选择合适的向善指标（即可解释性、可追溯性与鲁棒性；可解释性和公平性）。

合肥工业大学计算机与信息学院教授  吴乐

针对上述思辨点三，经线上思辨讨论，同步收获如下可行性观点：观点1，首先确定内容是否向“善”的问题；第二在内容的分级制度下框架不直观明朗。观点2，首先“善比较宏观，故从算法纯度来讲，不可能百分百向善；其次，落脚到算法本身，其又是多维度的；另外，如何进行融合，使其更好的向“善”是一个可探讨的研究方向。观点3，从社会科学的角度考量，基于社会调查问卷，形成一个标准化的评价指标。

最后，由YOCSEF太原现任主席董媛香就主题为“推荐算法的”善“之路的本次论坛进行了总结发言，并致谢CCF YOCSEF总部，CCF太原分部、CCF YOCSEF太原学术委员会；同时感谢山西大学科学技术协会、山西大学大数据科学与产业研究院、山西大学计算机与信息技术学院对本次活动的大力支持