2019年7月21日，CCF YOCSEF 杭州在浙江宾馆举行了“硬核技术”系列论坛。作为CCF YOCSEF杭州20周年纪念的系列活动，此次论坛聚焦人工智能领域的热点问题。

一、聚焦领域热点，打造YOCSEF论坛精品

YOCSEF杭州分论坛主席殷昱煜主持了本次论坛开幕式，对来自企业及高效的各界百余位参会者，和来自清华、北大、浙大、上交、北交、中科院以及阿里、华为、虹软等学术界和工业界的人工智能领域学者、专家10余名表示感谢。此次论坛也得到了社会各大院校、企业的支持，承办单位杭州电子科技大学、浙江大学、浙江科技学院以及协办单位虹软科技股份有限公司。

      秉承CCF YOCSEF做思辨论坛、释疑点、辨方向的宗旨，紧抓每个技术论坛的思辨论点，从不同角度、不同层面深入分析了人工智能领域存在的准确性与鲁棒性能否兼顾、技术如何保护、人工智能安全漏洞、加密算法的可靠性、人工智能未来发展等问题，并且强调论坛的结论，力求让每个参会者都有收获。

二、引导发言环节，专家观点针对性强，是一场发人深省的报告会

此次论坛由“深度学习能否继续引爆人工智能”和“人工智能安全发展之路”两个技术论坛组成，专家们从自身研究出发，给出了精彩的报告，观点犀利，引导性强。

1.技术论坛“深度学习能否继续引爆人工智能？”中的专家金言

     该技术论坛引导发言环节由杭州电子科技大学俞俊教授主持，北京大学田永鸿教授、浙江大学李玺教授、北京交通大学桑基韬教授以及上海交通大学马超助理教授分别从宏观到微观、分析了目前人工智能发现的现状以及深度学习技术在不同研究领域中的最新进展。

      1）AI热潮冷处理，着力布局长期战略目标

AI是目前最炙手可热的概念。然而，北京大学田永鸿提醒我们，在AI热潮下，研究者不应再满足于短期、渐进式目标，而应冷静头脑，进行长期投资与研究方向布局。

      2）视觉仍旧是AI重点关注领域

2012年，由于深度学习在视觉领域获得性能突破，人工智能迎来了井喷式增长。浙江大学李玺以计算机视觉为应用背景，围绕数据驱动的人工智能学习方法，介绍了其课题组利用视觉结构学习进行视觉语义理解所做的一系列代表性研究成果。上海交大的马超教授则重点介绍了视觉跟踪领域的最新研究进展，并针对视觉跟踪中遮挡、光照变化等挑战性问题提出了解决方案。

       3）深度学习：“能”or“不能”

    深度学习作为引爆人工智能的一项重要工具，其火爆的背后也存在着质疑的声音。这些质疑多来自于对深度学习框架的可解释性。桑基韬针对深度学习解释性，深入浅出的介绍了深度学习目前的局限性，深入剖析深度学习“能”做什么和“不能”做什么，为深度学习的可解释性提供了非常有价值的研究思路。

2、技术论坛“人工智能安全发展之路”中的专家金言

该技术论坛的引导发言环节由浙江工业大学曹斌副教授主持，人工智能安全技术论坛的嘉宾来自领域一线学术大咖和技术大牛，包括清华大学张超副教授、南京大学许封元教授、中科院软件所吴敬征副研究员、中科院信工所副研究员孟国柱、蚂蚁金服硅谷AI实验室Shuang Yang研究员、阿里巴巴资深算法专家李朝和华为新加坡研究所安全专家时杰。嘉宾围绕人工智能与安全的关系，从智能化漏洞攻防、普惠金融、系统安全、电商风控、漏洞挖掘等不同角度奉献了精彩纷呈的报告。

1）AI是安全的推进器

张超从智能化漏洞攻防对机器辅助攻防、自动化攻防、智能化攻防等方面，介绍了漏洞攻防的发展趋势及其团队在智能化攻防方面的探索。许封元介绍了深度学习系统安全研究方面的成果，包括深度学习系统安全处罚，基于云平台的SGX安全深度学习和深度学习差分隐私保护技术等。吴敬征的报告介绍了人工智能时代，如何让机器具备安全漏洞分析专家的能力，能够在大规模代码中识别微小缺陷，发现潜在的安全漏洞，是人工智能安全发展之路的重要内容。

2）AI之于安全是把“双刃剑”

时杰从安全的角度来看，AI是把双刃剑，在大大提升了安全防御能力的同时也带来了新的安全风险和挑战，重点介绍利用AI来提升安全防御能力和AI带来的新的安全风险；以及安全AI研究的基本构想和愿景。孟国柱着重展示在移动应用的大规模恶意代码检测、基于智能化方法的漏洞检测以及自动化模糊测试方面的研究，也总结智能化方法应用在系统安全领域的教训、优势及挑战。

3）AI惠及金融、电商风控及诸多实战领域

     Shuang Yang介绍了普惠金融（Inclusive Finance）的目的、提出AI是普惠金融的一项有力工具，并举出实际例子——蚂蚁金服下属的诸多金融服务项目都使用了AI技术。李朝针对eNASA电商风控图算法平台，介绍了3个针对电商欺诈的研究工作，DeepFraud、DeepGraph和eNASA，揭秘了很多隐藏在电商背后的安全问题。

三、论坛讨论环节，强化思辨性，是一场思维碰撞的盛宴

本次论坛的每个技术论坛均设置了将近2小时的思辨讨论环节。嘉宾们各抒己见，展开激烈的思想碰撞，将两个论坛推向高潮。

1、技术论坛“深度学习能否继续引爆人工智能？”形成的观点

该技术论坛的思辨环节的讨论由执行主席YOCSEF杭州AC朱素果和郑俊褒主持，并对观众的提问进行了回答。主要针对三个议题进行：

      （1）思辨议题1：深度学习在诸多应用中表现出高性能，但在不同应用场景中鲁棒性不尽如人意，高性能与高鲁棒性能否兼顾? 深度学习的可解释性是否是解决这一问题的关键？

深度学习在诸多应用中，根据不同的目标，需要通过不同的方式实现，高性能和高鲁棒性虽存在一定的对立性，但并不影响实际问题的解决，两者可以通过一定的手段实现兼顾，这主要根据具体的应用场景进行兼顾，所谓具体问题具体分析，在这一问题中得到了充分的体现。而深度学习的可解释性，可以有效帮助研究者和业界提高深度学习的可扩展性，从而帮助提升深度学习方法在实际问题中的性能。

      （2）思辨议题2：深度学习技术框架是需要专利保护成为“独门绝技”，还是开源共享“无国界化”？（以谷歌dropout专利事件展开）

“独门绝技”固然是企业生存壮大的法宝，在研究领域中也需要通过专利保护等形式对研究成果进行保护。深度学习技术框架可以作为一项有力的工具帮助研究者和业界解决问题，一定程度的专利保护能够保护各自的利益免受损害。

      （3）思辨议题3：深度学习继续引爆人工智能，最亟待解决之瓶颈是深度学习技术本身，还是技术与行业的完美对接？

深度学习继续引爆人工智能的同时，存在技术提升和与行业对接两方面的问题，解决这两方面问题，需要通过两种途径同时进行。高校在研究层面，存在巨大的潜力，而且也有条件、有能力在技术研究中对新技术、新问题进行从理论到技术的不同层次的分析研究，以充分利用所授所学；而企业更加接近市场和用户，更加了解技术落地的具体需求，能够更好实现技术与行业的对接。

2、 技术论坛“人工智能安全发展之路”形成的观点

该技术论坛的思辨环节的讨论由执行主席YOCSEF杭州副主席纪守领和AC委员曹斌主持，围绕人工智能安全问题和三个思辨议题进行了讨论，通过观众的提问及嘉宾的精彩回答，将论坛推向高潮，其中涉及到的问题主要有：

     （1）思辨议题一：AI之于安全是不可或缺or锦上添花？

针对这个问题，虽然嘉宾意见不一，但AI方法能够对漏洞挖掘提供改善得到了嘉宾的一直同意。AI在漏洞挖掘中，不能说比传统方法优秀，但对某些环节的改善，却有较好的效果，例如在模糊测试方面。专家知识也很重要，能够在现有方法的基础上提高效率。另外，AI仍然无法离开传统方法，它对目前的漏洞检测，或是锦上添花的工作，或是为某个特定问题而生。而在软件测试方面，AI则表现出比传统方法更好的性能。

     （2）  思辨议题二：AI算法+加密=AI安全？

安全是系统性的问题，比如：系统安全，数据安全，算法安全。密码学解决的是数据安全，和算法不是替换关系是互补关系。安全是博弈，目前人工智能还是发展初期，但即便发展成熟之后，也有对应的安全问题。另外，加密类似物理隔离，并不能完全起到保护的作用，反而导致安全性更差。如果算法本身存在问题，防护措施不能完全防护住。而且增加对类脑的理解会提高计算速度，但在本质规则上不会发生变化，如果规则不安全，系统也不安全。如果不能覆盖安全需求空间，迟早会有安全问题。

     （3）思辨议题三：AI安全领域学术成果能否顺畅转化？

这个问题很敏感，希望政策更加明朗。第一，单位是否支持，单位以什么样的姿态和力度去推广；我们所有孵化器。第二，论文结果只能起到一点点的推广作用，提供背景。政府客户关注能不能解决问题、能解决到什么程度、是否真的有作用。第三，保护知识产权，申请专利、做原型发论文、写软著。

     人工智能的发展，离不开技术的创新，也离不开安全隐患的排除，这更是未来社会发展、科技发展的重要基石。通过此次论坛，人们可以从学术界和工业界对人工智能的未来发展方向有进一步清晰的认识。