分论坛 > 南京 > 新闻动态
CCF YOCSEF南京成功举办“人工智能带来的安全隐忧与挑战”专题论坛
2018-07-10 阅读量:1096 小字

你不知道夏日的空气包含多少热量

一颗树的大伞只会撑开一个半径

你以为菜园里的青椒,已经向你袒露了所有

只有品尝,才会知道他的辛辣

你以为这条巷子,一直伸向远方

走过方知

巷子的尽头是一座迷宫,套路一环又一环

冷峻、理性还是狂热如火

这些词汇在如熏夏日交替上演

一群“青椒”在报告厅里激情上演

他们对应着另一群更青的辣椒

他们的声音响彻一片天空

无数星群

(CCF YOCSEF 南京2018-2019主席肖亮致辞, 感谢YOCSEF 南京AC 治平新闻组稿和荣誉AC国梓组稿修订,感谢学术秘书桂冠新闻发布)

时间:2018年7月8日(周日) 14:30-17:30

地点:南京市浦口区宁六路219号南京信息工程大学中美计算机科学研究中心

参加人员: CCF YOCSEF武汉、CCF YOCSEF苏州、CCF YOCSEF杭州兄弟论坛委员、CCF YOCSEF南京AC、委员、CCF会员等共计120余人参加。

论坛执行主席:

付章杰,南京信息工程大学, CCF YOCSEF南京AC委员

孙国梓,南京邮电大学,CCF YOCSEF南京荣誉委员

随着深度学习技术的突破,人工智能浪潮席卷全球,在政府的大力支持与资本的热捧下,人工智能被视为新时代科技发展的核心,以及推动各行各业全新变革的重要驱动力。目前,世界各国都对人工智能市场的增长,以及人工智能产业化前景报以巨大希冀。进入2018年,随着人工智能的技术的不断发展,越来越多的研究者们开始关注其安全性问题。人工智能技术的应用依赖计算机与互联网的支撑,因此面临的网络安全隐患不容忽视。不仅如此,人工智能的发展越来越依赖于大数据资源,因而在应用中也必然将面临隐私侵犯风险。

针对人工智能引起的安全隐忧与挑战问题,CCF YOCSEF南京于2018年7月8日,组织了国内人工智能领域的相关安全学者,对相关问题进行了深入的探讨。本次论坛由CCF YOCSEF南京主办,由南京信息工程大学、南京建策科技股份有限公司、南京慕测信息科技有限公司、上海增容数据科技有限公司联合承办,会议邀请了来自人工智能及安全领域的多位嘉宾参加,包括南京理工大学的肖亮教授、中国地质大学曾德泽教授、南京邮电大学周剑教授、沙乐天博士、浙江大学纪守领教授、东南大学刘肖凡教授、南京信息工程大学方巍博士、南京工业大学李素娟教授、南京警官学校印杰教授、南京建策科技股份有限公司王继锋总裁、江苏省未来网络研究院王治平总监等。本次论坛上嘉宾们对人工智能是否应当限制军事领域应用、人工智能是否带来安全风险、如何看待人工智能和隐私的风险进行了讨论。

图片1

付章杰教授主持论坛并介绍CCF YOCSEF

图片2

论坛聚会之大家庭

在引导环节,首先是来自南京邮电大学的安全专家沙乐天博士围绕现有的各种开源人工智能平台,介绍了包括GAN攻击、模型反演攻击、降维攻击、逃逸攻击在内的多种针对人工智能平台的攻击方法,对如何去围绕开源AI平台发掘系统漏洞和进行防范进行了经验的分享。让各位听众对现有人工智能开源平台的风险得到了清晰的认识。

图片3

沙乐天博士做引导发言

第二个做引导发言的是来自南京理工大学的肖亮教授,他从深度智能研究的几大调侃模式入手,将深度智能的三大不确定性推送到听众的眼前。围绕深度学习的数据问题、模型问题、结构问题,给出了“污染的数据”、“谜一样的盒子”、“不确定的结构”给出了人工智能需要关注的思路和方向。针对人工智能现在存在安全问题的解决思路,肖亮认为现有的各种方法都是权宜之计,并抛出了“权宜之计是否能够智胜未来”的深刻问题。

图片4

肖亮教授做引导发言

第三位来进行引导发言的曾德泽教授则结合网络技术方向,分别从技术发展的桎梏和机遇,谈到人工智能的元力觉醒,到人工智能带来的风险与挑战等方面展开话题。

图片5

曾德泽教授做引导发言

随着引导发言的结束,论坛环节正式进入。 来自学术界、产业界的六位嘉宾同时亮相,对人工智能是否带来安全问题,带来哪些安全问题,如何面对和解决这些问题发表了各自不同的观点。

图片6

孙国梓教授主持论坛Panel

各位嘉宾一亮相,来自南京、杭州、武汉等地的高颜值专家让整个论坛焕然一新,线上参与论坛的各位外地AC一致要求未来论坛嘉宾一定要向本次论坛看齐,要求将颜值担当作为未来竞选AC的标准之一。

图片7

各位嘉宾在论坛上不仅秀出了大长腿,而且还毫无保留的秀出了自己精彩的思想火花。

图片8

方巍博士首先对人工智能带来的问题发表了自己观点。认为人工智能作为新兴的尖端技术,必然会带来大量的隐私和安全风险。针对人工智能在军事领域的应用,认为无法避免,因为包括计算机、互联网等各种IT的技术,最早也就是从军事领域先应用研究而来。

图片9

来自产业界的继锋从送给买Tesla的朋友一个逃生锤谈起,提出如果全部都人工智能了,人自身又往何处去的问题?用审慎使用人工智能作为其应用的态度。

图片10

来自东大的肖凡则对新生事物充满了信心,认为人工智能有点隐患是好事,说明它正在开始颠覆我们的生活,我们需要的就是这样的新技术。同时针对大家讨论的人工智能中的伦理问题,肖凡认为伦理的问题要放到具体的环境中去讨论,只要人类存在,就一定会干架。

图片11

代表CCF YOCSEF杭州来参加本次论坛的守领从事的领域也是安全领域,其观点更是鲜明:作为安全方向的研究者,觉得人工智能有安全问题太开心了。同时,守领结合自身在国外做人工智能科研项目的流程,分析了国内和国外的不同之处,针对科学家在伦理方面的底线介绍了自己的想法和准则。

图片12

论坛最后,CCF YOCSEF南京荣誉委员国梓做了总结发言,对各地赶来的CCF YOCSEF分论坛、各位嘉宾的到来进行了感谢。至此,本次论坛圆满结束。


CCF聚焦