分论坛 > 武汉 > 新闻动态
YOCSEF武汉成功举办“大数据遇上AI,如何念好隐私安全紧箍咒?”观点论坛
2019-11-28 阅读量:1475 小字

 2019年11月23日上午,CCF YOCSEF武汉在武汉大学计算机学院B405会议厅顺利举行观点论坛 “大数据遇上AI,如何念好隐私安全紧箍咒?”。论坛以2019年以来国内外系列数据泄露事件为背景,针对大数据+人工智能,个人隐私安全性受到了前所未有的冲击和严重挑战,围绕隐私数据的所有者、传输者和使用者,谁该优先套上“紧箍咒”?隐私保护,技术和法律手段哪个更有效?随着技术、制度等不断完善,隐私安全“紧箍咒”有无摘除可能?等话题,通过各行各业专家之间深入讨论和思想碰撞,探讨隐私安全的本质、边界、主要威胁、责任主体、防范措施。

112

本次论坛由武汉大学国家网络安全学院王志波教授(YOCSEF武汉AC委员)、武汉科技大学计算机学院胡威副教授(YOCSEF武汉副主席)主持,活动有幸邀请到了浙江大学网络空间安全研究中心 “百人计划”研究员秦湛、华中科技大学网络空间安全学院院长助理徐鹏副教授、湖南大学“岳麓学者”特聘教授曾湘祥三位嘉宾做引导发言,得到北京西普教育、慧科教育集团、北京并行科技、武汉深度科技、武汉思拓等企业的大力赞助。同时,还得到湖北电视台、中青在线、腾讯大楚网的关注与支持。来自湖北省内高校、企业等20多位专家学者参与了本次的思辨环节。

引导嘉宾发言环节 

秦湛研究员针对世界各地以GDPR为代表的数据安全法律规范的落地与严格执行,大数据应用的安全形势面临了前所未有的挑战。主要介绍以密码技术、基于硬件的安全技术、差分隐私、联邦学习为核心的数据安全主流技术,以及人工智能数据安全中多种技术的综合运用与场景的落地承接。

引导发言嘉宾

徐鹏副教授引导发言指出,随着我国《网络安全法》和《密码法》的相继出台,隐私保护问题成为数据资源开发利用中的关键问题,人工智能在为用户提供数字化便利的同时,存在着侵犯用户隐私的风险;另一方面,如何利用人工智能来保护用户隐私也是一个研究热点。新技术带来了新的威胁、挑战与机遇,当前基于人工智能的隐私保护研究仍处于起步阶段,还有许多亟待解决的问题。如何实现人工智能与隐私保护之间的协调发展是关键。

曾湘祥教授从生物学领域,围绕健康大数据的挖掘利用,阐述了近几年图深度学习的兴起和发展,以及使用图神经网络在健康大数据挖掘的安全隐患,如基因泄露、病情预测引发的就业歧视等问题。

集体思辨环节 

在30分钟的引导发言后活动进入分点思辨环节(在场所有成员可通过举手牌上的YES和NO来亮出自己的观点)。针对本来论坛的三个思辨点,大家积极发表了自己的观点。

一、隐私数据的所有者、传输者和使用者,谁该优先套上“紧箍咒”?

部分嘉宾认为所有者应优先套上“紧箍咒”的一方,理由大致归纳为:

  • 数据的所有者是指对于数据拥有实际控制权的一方,该方拥有最大的数据支配权力,最需要收到监管;

  • 以一些大的服务供应厂商为例,数据的所有者在法律意义上和现实情况可能存在差异,但是毋庸置疑的是无论是数据的原始来源所用者用户还是数据的集成拥有者服务厂商,作为所有者身份的他们被约束是对于隐私数据保护而言效果最为立竿见影的。

  • 以健康大数据为例,部分企业开设基因测序业务,并拥有成千上万人的基因信息。然而,多数企业规模较小,难以在商业竞争中生存,有些在倒闭后不负责任地兜售基因数据,造成极大的社会危害。基于基因信息的生物武器在理论上可被制造,若基因数据大量泄露并被不法分子掌握制造出生物武器,会是巨大的灾难。因此,数据的掌控者这关极为重要。

DSC_8313-2

另一部分嘉宾举牌赞同传输者应该优先被约束,理由归纳如下:

  • “紧箍咒”的性质决定了它最先需要限制的是数量较少的一方,所有者和传输者都拥有较大的基数套上“紧箍咒”的难度最大,而传输者基数小,约束实施难度最小;

  • 以实验研究为例,合作中的敏感数据泄露往往是传输者导致的,同时因为追求利益等原因导致传输者是安全意识最为薄弱的环节。根据木桶理论,传输者需要优先受到约束;

  • 数据的传输者作为连接数据所有者和使用者的纽带,应优先套上“紧箍咒”。以教育大数据和公共安全大数据为例,指出相应部门和单位虽然掌握大量领域关键数据,但缺乏处理数据的能力,需要借助合作方的力量来对数据加以处理和挖掘。其中合作方充当数据传输者角色,往往对隐私安全的重要性意识不够,容易成为隐私泄露的主体,一直是甲方最为担心的痛点。因此,应当首先加强对传输者的监督和管理。

二、隐私保护,技术和法律手段哪个更有效?

一部分人指出技术手段会更有效,以欧盟《一般数据保护条例》(GDPR)正式实施后,想进入欧洲市场的企业纷纷修改自身的隐私政策,来避免受到严厉的惩罚,这在有力地保护了用户个人数据的同时,客观上也加大了企业的成本支出。对于企业为合规而付出的高额成本,如果技术上能够提供更好地保障,那么可在守法的同时把成本将大大降低。也有人以交通管制为例,先进的视频监控处理技术为各类交通事故提供依据,从而大大提高了管制效率。

20191127105924

也有一部分人表示法律手段会更有效,理由为:

  •  攻防是不断发展的,所谓魔高一尺道高一丈,技术手段的保护并不能达到长治久安的效果,攻击隐私技术的发展由于利益驱动是极可能快于防御技术的发展;

  • 技术归根结底是服务于其他各项需求的,只有法律才能够对于多元化的需求做出相对统一的约束,技术层面很难实现全方面的覆盖;

  • 法律在一定意义上是引导技术的发展的,不能因为现阶段技术的不到位就否认法律的重要意义,法律在很大程度上可以起到倒逼技术的发展的作用,如联邦学习技术的发展就是在美国相关法律制定的背景下实现的。

徐鹏表示眼下隐私保护的研究尚仍处于起步阶段,还有许多亟待解决的问题。目前在隐私安全方面技术和法律都还欠缺,在技术发展还未成熟有效的情况下,通过建立律法来加以约束效果会更明显,但从长远角度看,技术手段会发挥更有力的作用。改进技术更能及时应对安全隐患,更严格的数据安全法律能够有效约束大众行为,“法律决定行为边界,技术决定保护深度”。

三、随着技术、制度等不断完善,隐私安全“紧箍咒”有无摘除可能?

  • 隐私是人的本质属性之一,只要社会和个人意识还存在,隐私问题就会一直存在,隐私安全是永恒的话题;

  • 时代和技术的发展可能会导致隐私的内涵发生改变,如早年电话信息是公民的重要隐私之一,而如今生物信息成为了隐私保护的新的焦点,未来可能遗传物质信息会成为更加重要的隐私信息,但隐私安全的“紧箍咒”是始终存在和发展的;

  • 只要隐私还存在有价值,就一定会有不法分子在利益的驱动下破坏隐私安全,隐私安全的紧箍咒是保护隐私不可或缺的防线,不会存在完美的安全解决方案。


DSC_8449_副本2

  • 也有部分现场嘉宾认为,隐私安全是不会消失,但随着技术和制度的不断完善,隐私安全是有可能不会像今天这样深受关注,正如《西游记》中成佛后的孙悟空紧箍咒的存在就无意义,外在的约束永远不是最好的解决办法。

  • 另外,也有嘉宾补充表示,摘除隐私安全“紧箍咒”并不是要没有隐私安全的时候才可以去除,只要隐私安全带来的风险和破坏能够减小到最低可以接收的水平,这个紧箍咒完全是可以去除的。


DSC_8461-2

思辨环节结束后, CCF YOCSEF武汉现任主席何鹏对参加本次论坛的嘉宾、老师和学生进行了致谢,并对本次活动从组织筹备、到落实彩排过程中的不足做了简要汇总,也勉励现场AC委员在以后活动要更加积极参与。活动最后进行了合影留念。

热门动态
2017-10-20
2017年10月17日下2点至4点半,由CCF YOCSEF武汉分论坛与哈...
CCF聚焦