不就是用APP“ZAO”下脸,怎么就不安全了?

发布时间:2019-09-06 17:54:08

上周闭幕的世界人工智能大会(WAIC 2019)余温未散,这几天有关人工智能的话题讨论甚嚣尘上,纷纷强力霸屏社交媒体热搜,带来一系列关于人工智能与安全的思考……


热搜一: APP“ZAO”脸一时爽 用户隐私堪忧?

“仅需一张照片,出演天下好戏”,通过AI换脸“以假乱真”。一个叫ZAO的AI换脸APP突然火爆全网。

上传一张照片,就能把诸多明星塑造的角色换成自己的脸,李现、陈冠希、吴彦祖……转眼间自己也能跟明星对戏,自己也能在这段戏里面了!

然而,有法律专业人士提出,该产品涉及侵犯著作权、肖像权、隐私权等诸多法律问题,有用户表示“自己莫名成了权利侵犯者或受害人,不知道注销(账号)后是否能保护自己的肖像权”。

1567762814639996.jpg


热搜二:AI人脸识别摄像头入驻高校、中小学

近日,南京的中国药科大学在部分教室“试水”人脸识别系统和上海中医药大学附属闵行蔷薇小学智能课堂行为分析系统引发网友热议。

1567762916552797.jpeg

根据南都NDX热点站站队发起的调查,84%的网友不赞同学校用人脸识别系统采集学生的课堂行为,86.1%认为该行为侵犯了学生隐私。 

对此,有专家表示,人脸识别进课堂已经超出了正当、合法、必要的法律限度,涉嫌技术滥用。也有观点认为,使用人脸识别系统需要征得学生及家长的同意;同时,采集的信息不能作为商业化用途,也不得对外公开,学校还应保障学生删除信息的权利。

由于行业标准和规范的缺失,市场上的智能教育产品显现出质量良莠不齐、存在潜在数据安全风险等问题。另一方面,也鲜少有地方在相关文件中从保护学生隐私和AI伦理的角度提出要求。


热搜三:骗子利用 AI 声音篡改骗走24.3万美元

AI 换脸余波未褪,AI 换声进行电话诈骗的戏码竟也成真了!据《华尔街日报》报道,

犯罪分子利用商业可用的语音生成AI软件模仿了一位来自拥有一家英国能源公司的德国母公司的老板。然后他们骗这家能源公司的首席执行官让他在一个小时内将24.3 万美元汇给一家匈牙利供应商,另外还保证这笔资金会立即得到报销。

报道称,当这位CEO听到熟悉的、带有轻微德国口音的声音之后并没有对此产生怀疑。

1567763047850742.jpeg

不得不说,现在确实已经很难区分出利用深度伪造 (deep fake) 技术制作的假文本、假视频。


 人工智能将引发网络安全新挑战 

当前,全球科技革命和产业革命方兴未艾,新技术行业融合创新不断,在移动互联网、大数据、云计算、物联网等新理论新技术以及社会发展相关的强烈需求的共同驱动下,人工智能已经在不同行业的各种应用中展示了无限的潜力,逐渐成为了产业革命和行业融合的关键技术。

人工智能作为一项技术本无善恶之分,但是正如互联网除了我们日常可以接触到的表面,还存在一个“暗网”一样,人工智能也可能被心怀不轨的人利用,作为一个犯罪工具。

7095-hxntqyy9365788.jpg

随着5G时代的到来,接入网络的智能设备会越来越多,人工智能是把双刃剑,我们在迎接AI人工智能的同时,随之而来的安全风险安全威胁也会越来越多样化。


AI人工智能安全问题可以分为以下三类:

1、AI人工智能自身算法问题;

图像识别、图像欺骗等会导致自动驾驶出问题,谷歌也做了一些研究,如果模型文件被黑客控制恶意修改,并且给它学习,会产生完全不一样的结果。

2、AI人工智能引入的第三方组件问题;

这些组件也会存在问题,包括对文件、网络协议、各种外部输入协议的处理都会出问题。被黑客利用,带来的是灾难性的毁灭,所以现在产业界学术界都非常关注AI的这个方面。

3、AI人工智能接入网络的安全;

现在的AI人工智能不可避免的会引入网络连接,网络本身的安全风险也会将AI人工智能带入风险的深坑;

但是很多人不会去考虑潜在风险,特别是最广大的消费者。可能很多人会说:有授权、需要登录、有指纹认证、有面部识别,哪有那么危险!

可是你不要忘记,这些所谓的安全验证,最终的表现形式还是数据化,无论他是处理、传输、或者是存储,只要是数据化的东西都是可复制、可获取、可编辑的。数据安全的问题存在于数据的整个生命周期,从数据获取、传输、存储、使用等环节,数据的机密性、数据的完整性、数据的可用性等都是系统安全的重要环节。


 HTTPS保障AI数据传输安全 

2017年,全球人工智能核心产业规模已超过370亿美元,预计至2020年将超过1300亿美元,年均增速达到60%

“这是最好的时代,也是最坏的时代。”推进人工智能技术在网络安全领域的深度应用已成为全球趋势。人工智能与安全是相互促进的关系,两者协同配合才能构建和谐智能+安全生态。


其中,数据作为驱动人工智能浪潮全面兴起的关键要素,数据安全已成为人工智能安全的关键

人工智能的数据采集和应用过程通常需要通过互联网传输大量的信息数据,信息传输中要有效地进行保护,做好保密工作,要保证它的真实性不被篡改,保证传输过程的可靠性,能够抗干扰。

第三方可能会在传输过程中伪造数据,从而让后台的分析结果不准确。通过网络传输数据,需要保证数据的完整性、保密性,以及能对通信双方的身份认证,这些都需要通过一些加密协议来实现。

1567763523820714.png

现在最常见的传输安全解决方案是使用HTTPS构建SSL隧道,HTTPS 是一种网络安全传输协议,是HTTP的安全版本,它经由超文本传输协议(HTTP)进行通信,利用SSL/TLS协议加密HTTP数据包。


HTTPS提供了对通信双方的身份认证,保护通信数据的安全。在HTTPS加密的情况下,除了服务端与客户端,在中间的传输环节,是拿不到也无法修改传输的内容的,可以很好地防止数据被窃取;例如,TrustAsia SSL证书极高保障HTTPS协议的加密传输过程中,集成了服务器和客户端的数字证书身份认证过程,同时提供安全便捷的证书管理服务,保证通信数据的真实可信。

1567763625742934.jpg