人脸识别设备也“脸盲”360AI安全研究院揭秘人工智能三大痛点

中新网8月26日电 自人脸识别设备进入民用市场以来,就一直备受争议——它安全吗?这个答案在一场大会中得到解释。“我们最终可以在一些人脸识别设备中实现任意人员都能通过验证的效果。”360 AI安全研究院研究员刘昭在ISC 2020大会上讲到。

据了解,360 AI安全研究院隶属于360未来安全研究院,一直专注于人工智能与安全的前沿技术研究,涉及AI基础设施安全、AI算法安全、AI数据安全等方向的研究工作。在AI基础设施安全方面,目前已累计发现100多个人工智能基础软硬件漏洞。

还有一项神奇纪录,巴黎圣日耳曼和里昂进入欧冠四强,出现两支法甲球队踢欧冠半决赛的情形,这在欧冠65年历史上,从未出现过。

针对硬件相关的安全风险。据英伟达官网统计,截至今年7月,关于GPU驱动漏洞的数目达到数百个;芯片漏洞以幽灵、熔断为例,幽灵漏洞可以造成泄露敏感数据、执行特定代码,熔断漏洞导致用户态获取特权内存的数据,这些漏洞影响了Intel、部分ARM的处理器。

2017年底,工业和信息化部发布的《促进新一代人工智能产业发展三年行动计划(2018-2020年)》中提出,2020年,复杂动态场景下人脸识别有效检出率超过97%,正确识别率超过90%。

正是通过攻击上述漏洞,最终可以在某人脸识别设备中实现任意人员都能通过验证的效果。

也是在这一年,刷脸支付入选《麻省理工科技评论》的全球十大突破性技术榜单,苹果新品iPhoneX发布的FaceID,更是将人脸识别技术推向高潮。

在三河村,昭觉县副县长吉色方森介绍,通过发展农村集体经济,种植与销售马铃薯、花椒等作物,三河村贫困户人均可支配收入已经从2017年的3100元增长至2019年的9903元。

值得关注的是,这种攻击不是针对AI算法的攻击,而是对AI算法所依赖的基础设施进行的攻击。“针对基础设施攻击,最终可能会更快达到攻击效果。”刘昭在演讲中表示,大多数研究人员偏向于对算法安全的研究,比如对抗样本攻击、后门攻击等。虽然AI基础设施安全风险巨大,其严重性却容易被忽视。

随着曼城被里昂给淘汰,欧冠出现了让人惊奇的一幕——欧冠4强里没有英超和西甲球队,这样的场景可不常见。这是自1995-96赛季以来首次,那一赛季,欧冠4强是阿贾克斯、帕纳辛奈科斯、尤文、南特,最终尤文夺冠。

▲通过拼多多等新电商平台,陈阳等昭觉的新一代年轻人正在利用网络将家乡农货卖到五湖四海。

此外,360AI安全研究院曾联合清华、西安交大的研究人员发现AI应用中图像缩放模块存在的漏洞,提出了一种新型的数据流降维攻击方法,影响了国内外主流的AI云服务。这一研究成果发表在信息安全领域顶级国际会议USENIX Security上。

这正是刘昭在ISC 2020 大会上演讲的主题——AI关键基础设施安全风险。据介绍,AI基础设施主要分为三个关键部分:首先是深度学习框架,包含框架自身代码实现、第三方图象处理库、算子库等;其次是硬件相关,包含GPU驱动、芯片安全等;最后是云平台,包含虚拟化、web平台等。

凉山彝族自治州,地处四川西南山区。截至目前,凉山州仍有7个贫困县尚未摘帽,昭觉便是其中之一,还有最后55个贫困村、3.3万名贫困人口尚未脱贫。三河村、火普村,全网关注的“悬崖村”都位于昭觉县。

▲四川省凉山彝族自治州昭觉县委副书记、县长赫绍洪(右)进入拼多多直播间,向近50万消费者介绍昭觉的风土人情、地方特产。

此前6年,欧战是西甲和英超的天下

据延吉机场介绍,延边与韩国之间的出行需求依旧旺盛,8月20日、27日航班的往返机票已全部售空。依据韩国防疫要求,该航班由韩国首尔调机至大邱,出境时由大邱机场上客;入境韩国时,在大邱机场经停不下客,旅客统一由仁川机场下机入境。

直播下单的消费者中,其中很多人都是首次购买凉山农产品。直播也带动助农店铺涨粉近3000人,为后续昭觉更多农产品通过拼多多出山打下基础。

随着AI技术的不断发展,AI系统存在的漏洞风险给安全行业带来巨大挑战,其中AI关键基础设施存在容易被忽视的安全问题,但同时,AI系统的安全问题也给安全行业带来机会。

那么问题来了,为何今年的西甲和英超豪门集体在欧冠中掉链子呢?其实原因无非就是两个,第一,这些球队确实实力有一定程度的衰退,而他们的对手又都踢的非常好;第二,欧冠淘汰赛从两回合变成一场定生死,这增加了比赛的偶然性,有利于弱势一方逆袭。

3年来,对人脸识别技术的安全风险讨论已经不计其数。在ISC 2020大会上,360 AI安全研究院介绍了某款人脸识别设备存在的诸多安全问题,比如给终端特定的端口发送一些后门指令,终端设备在接收云端数据时存在栈溢出问题,以及在云端服务器部分存在未授权访问、目录穿越等风险。

一位赴韩旅客表示,机场防疫工作做得很好,让人很安心。

延吉—大邱航线由韩国德威航空执飞。该航班计划于8月20日至10月24日执行,每周四执行一班,机型为波音737-800,根据中国民航局“原则上客座率不超过75%”的防疫要求,实际每班可供座位数不超过141个。

地方主要领导和扶贫干部参与的拼多多助农扶贫直播,是此次消费扶贫周的重要落地活动,旨在通过线上线下联动的方式将贫困地区的优质农产品送上中国消费者餐桌,打开贫困地区农产品线上上行通路,建立农民增收的长效机制。

针对云平台的安全风险。360 AI安全研究院表示,用于深度学习任务的节点性能强大,因此总会有一些攻击者想要非法使用这些资源进行挖矿。比如,今年6月,微软通报部分Kubeflow存在未授权访问的问题,导致大量设备被非法挖矿。攻击者可以未授权访问Kubeflow的控制面板,通过各种方法部署带有挖矿程序的容器。

AI关键基础设施面临三重风险

在直播间里,赫绍洪向消费者聊起了这两年的变化,“大力发展现代农业园区,形成了具有昭觉特色的农业产业集群”,农业产业化发展,新电商线上销售渠道助力,让农民在家门口就能就业,享分红。

在此次ISC 2020 大会的人工智能与安全论坛上,刘昭以某款人脸识别设备能让任意人通过为例,说明不仅AI算法存在漏洞,其所依赖的关键基础设施也同样会被攻击,并进一步揭露了AI关键基础设施存在的安全风险。

扶贫授鱼更要授渔 东西部协作、新电商助力凉山农货出山

▲佛山工作组驻昭觉县工作小组组长、昭觉县委常委、副县长徐航(右)与昭觉县副县长王凉萍(左)正在向消费者介绍农业产业园出产的优质农产品。

“黄芩是乳腺的护花使者,花青素含量极高,具有美颜、抗衰老的功效,非常适合女性朋友日常饮用”,王凉萍则用通俗易懂的语言介绍了消费者较为陌生的黄芩茶。身为彝族同胞,只推荐3款产品的王凉萍有些意犹未尽,她还分享了彝族人的美味食谱“羊肚菌炖鸡”,羊肚菌是昭觉多个村镇农民的重要经济作物,借助本次消费扶贫周,也被搬到了网上进行销售。

此前,凉山彝族自治州人民政府、广东省佛山市人民政府与拼多多联合启动“佛凉协作 云上优选”消费扶贫周,在“三区三州”地区首次举办以消费为主题、以周为单位的扶贫系列活动。活动由广东(佛山)对口凉山扶贫协作工作组(下称“佛山工作组”)与拼多多牵头举办,将从7月16日持续至7月底。

针对深度学习框架安全风险。刘昭解释称,深度学习框架主要可以划分为云端学习框架和终端学习框架。云端框架安全风险主要来自于自身代码的实现以及第三方的依赖库问题;终端框架安全风险主要存在于模型网络参数、模型网络结构,以及模型转换过程。据了解,360 AI安全研究院已经在多个深度学习框架及其依赖组件中发现了100多个漏洞,如OpenCV,hdf5,numpy等。

泡上苦荞茶,昭觉县委常委、副县长徐航,副县长王凉萍一同坐在了直播镜头前。徐航的另一个身份是佛山工作组驻昭觉县工作小组组长,两年前从广东沿海一头扎进大凉山,如今昭觉已经被他称为自己的“第二故乡”。

白帽黑客“骗过”人脸识别设备

陈阳是一名土生土长的昭觉人。1996年出生的她大学毕业后就回到昭觉开始了自己的农业创业之旅。“养过猪,做过线下销售”,没有经验的她失败后几乎放弃。“佛山工作组的领导鼓励我别放弃,还引入佛山博士创新梦工场、多多大学等线上、线下培训资源,引导我们发展电商。”

未来,360 AI安全研究院将聚集国内外顶尖人工智能安全创新要素,研究人工智能系统各个环节安全问题,突破人工智能安全攻防重大关键共性技术,构建自动化安全风险评测平台,从而占领人工智能安全技术高地,形成国际领先的的人工智能安全评估和管控能力。

喝下一口口感顺滑、略带焦香的茶汤,徐航举起茶杯,向肥胖、久坐、饮酒抽烟、睡眠质量低下及“三高”人群倾情推介。“苦荞及其加工制品具有预防和调理高血压、高血脂、糖尿病,增强机体免疫力等功效”,富含芦丁、槲皮素等酚类物质,苦荞也被制作为饼干、茶等产品,有药食同源的功用。

直播中徐航与王凉萍推介的金银花,就产自佛山援建的昭觉县庆恒乡金银花示范基地。该基地惠及群众2603人,其中贫困户627人,为当地农民带来土地流转、务工所得、利润分红等三笔收入。而电商渠道的补全,能够为当地农民带来更加稳定的收入

“世界苦荞在中国,中国苦荞在凉山,凉山苦荞在昭觉”,苦荞是大凉山传统种植作物之一,是彝族人长久以来的主食之一。

为了让直播间消费者多多下单,彝族同胞赫绍洪直入主题,科普了家乡农产品“菜有菜味、肉有肉味”背后的生态优势。昭觉位于大凉山腹地,平均海拔2000米以上,昼夜温差大、日照时间长,有利于蔬果糖分的积累。生态污染少,昭觉2016年入选国家重点生态功能区,是金沙江上游的重要生态屏障。

“只有在确保AI系统的安全,才有可能放心享受AI的便利,那么保证系统中AI关键基础设施的安全至关重要。”360 AI安全研究院表示,AI关键基础设施的安全问题可以通过权限控制、访问隔离、参数过滤等措施进行缓解,针对AI关键基础设施的安全问题,需要建立多维度、一体化风险评估方法以及对应防御措施。

自从2013年拜仁夺得欧冠冠军后,欧洲赛事就成为了西甲和英超的天下。从2014年到2019年,欧冠冠军、欧联杯冠军、欧洲超级杯冠军都被西甲和英超球队包揽,根本没有其他联赛什么事,但如今,英超和西甲却集体翻车了。

县长的推介让直播间的消费者踊跃下单,并邀请亲朋好友一同为贫困地区拼单。据统计,当日订单有4成来自拼多多消费者分享,3成以上来自北上广等一线城市;平台昭觉县苦荞、金银花、黄芩茶销量上涨3倍,“苦荞雪花酥”“苦荞木糖醇薄脆”等新产品是首次上网销售。

目前,延吉机场已经相继收到韩国济州航空、韩亚航空、大韩航空、釜山航空、中国东方航空等公司的复航计划。下一步,延吉机场将在疫情稳定可控和国家相关政策允许的前提下,逐步增加对韩航班数量,促进双边经贸和人文交流。(完)

同时地方干部带头直播,进行线上推介,还能提升农民的积极性,吸引更多的社会资源支持贫困地区。“拼多多等成熟的电商平台的支持和直播活动,极大地提升了凉山在网友当中以及市场上的关注度,吸引更多的人来关注凉山,看一看有合适的东西买,或者是有一些投资的机会。”徐航表示。

在徐航看来,电商力量与消费扶贫的结合,在脱贫攻坚进程中具有重要的意义。

彝族县长搭档佛山扶贫干部 直播间推介凉山风味

目前,通过在拼多多等新电商平台开设网店,陈阳和团队已经成为大凉山农货与全国消费者之间的桥梁。就在粤川东西部扶贫协作农业产业园附近,陈阳建立了公司的第一个分拣基地。从产业园区及三河村、火普村、悬崖村等贫困村落收购的核桃、马铃薯、花椒等当地生鲜特产,汇集在基地进行分拣、打包,直接发往全国各地。

受疫情影响,延吉机场国际航班按照中国民航局要求于3月29日暂停执行。据延吉机场介绍,本次复航的延吉—大邱航线是中国民航局出台国际航班“五个一”政策(一家航空公司一个国家一条航线一周一班)以来东北地区恢复的第一条国际客运航线。

陈阳只是凉山贫困地区新一代年轻人的缩影。在7月初佛山工作组与拼多多联合举办的“佛凉协作”新农商主题培训中,有很多身份为“返乡大学生”的学员,与互联网一起成长的他们,希望利用网络,在凉山农产品出山的浪潮中做出一份事业,贡献一分力量。参加培训的返乡大学生里,不少人现在已经开出了自己的第一个店铺。

据介绍,AI关键基础设施的三个层面都面临一定安全风险。

meldotell.com