分论坛 > 总部 > 新闻动态
YOCSEF 论坛 | 人工智能时代,隐私和效率的平衡
2019-03-27 阅读量:965 小字

在今年的315晚会上,与往年不同,人工智能和大数据的一些公司也粉墨登场。这些企业利用其所谓的“高科技”手段,包括智能语音机器人、探针盒子等技术,给用户拨打骚扰电话,或者在公共场合就能窃取周围人的隐私信息。众所周知,人工智能的发展离不开数据的支撑,人工智能的发展也带来了数据的聚集,人工智能的发展也让数据获取变得容易。同时,数据作为一项重要资产越来越被人们所重视,更为重要的是很多数据涉及到我们的隐私,像我们的消费习惯数据,医疗数据,上网数据,交际、运动、饮食等产生的大量数据都涉及到个人隐私,而这些数据又不可避免的在日常生活中被智能设备所采集。在获得人工智能发展和便利的同时,社会效率得到了很大提升,但隐私信息逐渐被公开化,隐私保护和效率好像出现了悖论。            

微信图片_20190327104742

 论坛现场

3月23日上午,CCF YOCSEF在北京举办论坛“人工智能时代,隐私和效率一定是不可调和的吗?”,邀请行业内专业人士以隐私和效率为主题,共同讨论人工智能时代数据资产发展之路,并尝试去解决隐私和效率的问题,为中国人工智能产业发展献计献策。本次论坛的由YOCSEF总部学术委员、来自曙光公司吴宗友博士和YOCSEF总部学术秘书、滴滴出行吴国斌博士共同担任执行主席,CCF YOCSEF总部学术秘书、北京交通大学李浥东博士和YOCSEF总部学术委员、360公司陶耀东博士共同担任在线执行主席。


孟小峰:人工智能时代的数据生态:数据都去哪了?

1DSC_7183


人物小贴士:孟小峰,博士,中国人民大学信息学院教授,博士生导师。现为中国计算机学会会士(2013),曾任YOCSEF主席(2003-2004)。近期研究领域为大数据管理系统,包括数据融合(知识图谱构建)、大数据实时分析、大数据隐私管理、以及交叉性研究如社会计算等。


孟小峰教授从2006年就开始研究隐私问题,对隐私和效率有着深刻的理解。他在引导发言中阐述了三个观点。


第一,大数据应当放在数据生态中加以考量,应当以第三物的视角看待数据。他首先介绍了十几年来数据发生的变化,以大数据和云计算平台移动互联网方式存在,使得数据在内容和形式上发生改变,它由以企业描述变成以人的描述为主,我们在技术上需要建立数据思维的方法来利用数据,需要用数据智能的算法来有效的发挥数据的效用。


第二,数据垄断已经形成,如何加以有效治理是当下的紧迫任务。孟小峰教授的科研团队近期依据三千万移动用户的数据集,包括162个维度用户画像,爬取到30万个APP相关用户使用的信息,基于此,做了一个风险指数,它可以描述地域的风险,行为的风险,人群特征上的各种风险。从这一研究中不难发现10%的数据者,当下获取99%的数据,数据的垄断已经形成。


第三,建立数据透明的治理体系是解决人工智能时代效率与隐私的关键,中国应该先走一步。这个体系建立的过程首先包括数据收集和决策,我们在数据收集之前要考虑用户个人数据的用户,收集之后应该考虑数据来源的真实性,否则我们作出的决策是不可靠的。其次在决策的阶段,主要的挑战在于过程的透明化、可解释性上。在商业上,要做到用户得到个性化广告,但并不知道它的推荐算法,算法对用户不透明。在政策上,民众也希望对政治领导人的决策过程有一个公开透明可理解的结果。


朱巍:网络隐私与信息安全常见的三个悖论

DSC_7238


人物小贴士:朱巍,法学博士,中国政法大学传播法研究中心副主任,研究员,信息社会50人论坛成员。朱巍博士也是中国消费者协会、互联网协会多个委员会的专家委员,担任中国互联网电子数据研究院电子数据法律与政策专家组委员,中国人民公安大学网络安全创新协同中心专家。


作为一个法学博士,朱巍研究员从一个与技术不同的角度,通过引述多个法条和生动的案例,让大家深入浅出地理解用户和消费者、大数据和个人信息、以及数据权和人格权的异同。在用户和消费者是否是一回事上面,朱巍通过列举《电子商务法》中的消费者和《网络安全法》中的用户两个名词不同,进而解释用户权和消费者权也不是一回事。他指出,在互联网免费经济时代,我们不能用现金对价,但可以用数据来换取对价,我们就有可能从用户变成消费者,用户和消费者的界限是模糊的。在现在这个社会中,隐私的价值已经确定,控制在谁的手里,这是法律和技术的应该关注的问题。此外,朱巍认为大数据不一定可以直接或间接识别到个人信息。所以大数据和个人信息这两个概念如果分不清楚,用保护个人信息的态度去看待大数据,数据经济没法发展。


在随后的思辨环节中,与会的嘉宾就如何平衡个人隐私和个人效率,平衡个人隐私和组织效率,人工智能对隐私和效率的影响和变化,以及隐私保护技术和政策纷纷发表各自的观点。


隐私和效率平衡的三原则

360行业安全研究中心主任裴智勇博士认为APP获取个人信息应遵循三个原则。第一个是最小必要原则,即APP获取这个信息是不是服务的必要数据,应该取得最小必要的范围。比如手电筒获取我的通讯录显然超出这个原则。第二个是用户知情原则,即第一次使用该APP的时候手机需要提示你要不要开启某项服务,你可以禁止它,且不影响APP使用。第三个原则是必要保护原则,即APP收集我们的数据,要保证数据安全,保证不被泄露,不被贩卖,不被滥用。裴智勇还提出了用户隐私保护的一个方案,即三方制衡,让数据的所有者、运营者和安全防范方是分开的。


隐私是超越资产属性的,尊重隐私高于市场价值

中科院计算所韩银和研究员认为隐私是超越资产属性的,类似于人格权利的东西,它应该是我们文明或者尊严的表现。当考虑拿隐私去交换其他利益时要以尊重隐私为最优先原则,然后再判定其价值。其次,隐私的第三方持有并不可怕,但第三方持有人要做到两点:第一点是“不扩散原则”,包含不能被黑客窃取等任何形式的主动、被动扩散,谁持有谁负责;第二,要做到对隐私人“有利原则”,不能利用用户隐私反相宰熟。具体技术上,目前隐私人和第三方数据采集人之间的入口式条款合同制形式,无法应对隐私数据的可复制性和无形性,需要有过程管理的新型隐私管理模式。现在有很多案列隐私出问题,网络服务商会说已经签了合同,我们用你们的隐私之前,都是征得同意的,但对于隐私人而言,这种同意是以某种很隐晦的方式让你确认,只能一揽子同意或者二选一的被动同意,相信一定会有新技术出现,能够让隐私数据可观可控。


解决隐私问题最终需要依靠意识的提升

北京交通大学李浥东教授从事的工作就是隐私保护研究,他一直非常困惑和郁闷两件事,第一个问题是隐私问题到底是政策能解决的问题,还是技术能解决的问题?第二个是寻找隐私和效率的最佳平衡点。整体上,李浥东认为,中国大陆地区属于隐私保护程度较低的,只有通过一两代人的意识提高以后,才能从根本上解决这个问题。


市场化可以有效解决隐私问题

清华大学唐杰教授认为,数据应该在强立法的基础上产品化,市场化,包括隐私数据。当前就属于模糊化,不同的人获取数据的难易程度和代价相差巨大。唐杰支持欧洲的GDPR《一般数据保护法案》,更严格的立法,每个人都可以把自己的数据包装,根据法律规定和个人意愿,让市场无形的手来决策,这样才能让隐私数据正面为效率发挥更大的作用。

隐私和效率问题前途光明,道路曲折

孟小峰教授最后总结到,解决隐私和效率的问题根本出发点要本着如何促使当下大数据生态健康有序地发展,而不是加以扼杀。这需要我们从技术和政策角度多方位考虑,前途是光明的但道路是曲折的。

微信图片_20190327105908

                       下排左起韩银和、朱巍、孟小峰、裴智勇、唐杰、李浥东
                    上排左三起林俊宇、唐卫清、吴国斌、吴宗友、高志鹏、李文珏


随着人工智能的发展和技术的进步,数据的聚集对隐私的威胁必然存在;而因物质的极大丰富,人们对隐私保护的追求愈来强烈;两者看似不可调和。本次论坛通过讨论和思辨,试图去深入一些问题,解决一些问题。首先现场听众在概念上对隐私、效率、数据、用户、消费者等有了多维度的深入理解,并在此基础上有了更深入的思考,更清晰的认识,并获得了提升;同时,也希望本次论坛对未来隐私保护法的出台以及人工智能的发展对应的政策支撑和技术路线也能有一定的借鉴意义。这就是YOCSEF,承担社会责任!提升成员能力!

热门动态
2019-01-18
几个月前,一则“破五唯”通知发布。当时,教育部办公厅印发《关于开展清理“唯论文、唯帽子、唯职称、唯学历、唯奖项”专项行动的通知》(以下简称“五唯”),决定在各有关高校开展“五唯”清理,在整个中国学术界一石激起千层浪。
2018-12-19
针对破“五唯”,会不会再回到人情关系和学术权威主导的老路?破“五唯”,我们应该用什么标准进行人才和科研评价?是否存在科学合理、具有普遍适用性的科研评价客观标准?12月15日,中国计算机学会青年计算机科技论坛(CCF YOCSEF)邀请来自计算机学术界、产业界和相关领域的专家学者,共同讨论新形势下科研评价体系建设问题。
2017-10-31
2017年10月26日,CCF YOCSEF在福州海峡国际会展中心401会议室举行“鼓励科学家创业是压倒科研体系的最后一颗稻草吗?”论坛。论坛邀请了创业取得成功的科研人员,以及在科研管理、一线工作者等相关专家和学者,共同讨论是否应该鼓励科研人员创业,大家该如何面对创业这一命题,同时就如何能激发更多的优秀科研成果产业化、为产业助力进行探讨。
2018-08-16
8月12日上午,CCF YOCSEF特别论坛在北京辽宁大厦隆重举行,“中国科技论文网站”主编和《中国高校科技》总编辑李志民,清华大学教授、CCF副秘书长陈文光,中科院计算所国家大数据重点工程实验室高工翟冬青以及两位执行主席文继荣博士与林俊宇博士等嘉宾出席会议。该论坛以“优化科研管理提升科研绩效:难点在哪?”为主题,针对科研领域的各项管理机制进行了深入的讨论。
2019-03-27
随着人工智能的发展和技术的进步,数据的聚集对隐私的威胁必然存在;而因物质的极大丰富,人们对隐私保护的追求俞来强烈;两者看似不可调和。本次论坛通过讨论和思辨,试图去深入一些问题,解决一些问题。
2018-04-20
近日,美国商务部宣布将禁止美国公司向中国IT企业中兴通讯销售零部件、商品、软件和技术7年,理由是中兴违反美国限制向伊朗出售美国技术的制裁条款。在当前中美贸易摩擦加剧的情况下,这一事件引起广泛关注。 在高科技产业基础的芯片半导体领域,国产芯片所占的市场份额较低,包括中兴在内的许多中国企业都应用了大量美国企业研发的计算机芯片。因此,此次事件也引发不少担心:被禁“芯”后,中国的高技术产业该怎么办?
2019-06-06
最近,全球知名学术组织IEEE“审稿门”事件引起广泛关注,尤其是在学术圈引起轩然大波。CCF YOCSEF 昨晚举行特别论坛,专门探讨:若IEEE们遵守美国法律,中国科研发展怎么办?
2018-05-28
5月25~26日,中国计算机学会青年计算机科技论坛(CCF YOCSEF)二十周年庆典暨2018青年精英大会在北京举行。来自全国各地从事计算机相关专业的学术界、产业界人士及新闻媒体500余位青年精英参加了大会。
2018-06-20
6月16 日上午,中国计算机学会 CCF YOCSEF 举办“中国半导体产业困境与解决之道”专题论坛,邀请业内人士和专家学者围绕中兴事件和半导体产业发展问题发表观点,建言献策,以期提出可操作性方案和解决行业困境的后续举措。
2018-11-03
在大家都追寻计算机前沿与新兴技术的时候,研究计算机的经典算法还有必要吗?会不会显得有些过时了?
2017-09-30
2017年8月20日,中国计算机学会青年计算机科技论坛(CCF YOCSEF)在兰州召开2017 年 CCF YOCSEF AC 会议期间举办特别论坛,就“人工智能已经2.0了吗”展开思辨。 近年来,社会各界对人工智能(AI)寄予厚望,AI已在全球范围内掀起新一轮创新浪潮。国务院日前印发《新一代人工智能发展规划》,为推动我国人工智能研究和产业发展做出了系统性的顶层设计。面对风起云涌的AI大潮,有些人认为:若干新技术的革新和应用的成熟,已成为AI迈向2.0的重要端倪,AI 2.0已经来了!AI 2.0将不但以更接近人类智能的形态存在,而且已经逐渐紧密融入公众的生活(跨媒体和无人系统),甚至扩展为我们身体的一部分(混合增强智能)。同时,另一些人持反对态度:人工智能的概念被炒得火热,但人工智能技术和应用仍处在初级阶段,关键技术尚未有效突破,离2.0还远着呢。同时,伴随着人工智能的发展进步,不可避免地会引出失业、机器伦理等新问题。最近,特斯拉CEO埃隆马斯克和Facebook CEO马克扎克伯格隔空互怼 “AI威胁论”,在全球学界、业界引起激烈争论。
2018-09-05
8年前,谷歌退出中国,被不少人认为是一大错误。谷歌会回来么?回来后会做出改变么?无论是在线上还是线下,八年后的谷歌回归,哪怕还只是猜测,也引发了人们激烈讨论。在最近一次CCF YOCSEF论坛上,来自产业界、学术界的人士就各抒己见,表达了对于谷歌回归的种种看法。
2018-11-04
任何技术都是一把双刃剑,都有可能被用来作恶,那为什么只有人工智能引发了这么大的争议?
2017-09-18
我国在科技评价方面存在重“帽子”、重经费,过分追求人才称号,科技评价与高位薪酬与“帽子”挂钩太多,显著地扩大了收入差距。“帽子”是否是学术界拉开贫富差距的根源?过度看中“帽子”是否会产生马太效应?“帽子”存在的意义和必要性?“帽子”制度是否需要适当性的改变?
2018-09-04
郑州空姐遇害案之后,时隔三个月,滴滴顺风车再爆恶性运输安全事件,该事件被媒体大量报道后,事件迅速发酵,关于滴滴公司的各类报道占据各大新闻版块的头条,同时把滴滴公司推到了网络舆情的风口浪尖。在此情况下,2018年9月2日,CCF YOCSEF总部在中国科学院计算技术研究所举办了主题为”互联网平台如何树立和守住价值观?“的特别论坛。
2008-01-14
清华大学计算机系  林闯 非常高兴有机会和在座的年轻朋友交流。...
2010-11-10
我们学会昨天几个理事起草了一个声明,我们主要是谈腾讯劫持用户...
2008-01-14
  中科院自动化所  王飞跃 首先向大家道歉,年底会多,今天上午...
2015-09-23
随着大数据时代的到来,数据正在各个产业升级或转型过程中发挥着...
2007-08-23
蒋劲松 到这里来讲很诚惶诚恐,我原来是学理科的,对IT业不是很...
CCF聚焦
会员权益
会员故事
会员荣誉
入会流程
返回顶部