记录黑客技术中优秀的内容, 传播黑客文化,分享黑客技术精华

CSS 2017:AI与安全的相爱相杀

2017-08-17 19:40

“安全新秩序 连接新机遇”为主题的第三届CSS中国互联网安全领袖峰会,这周二在国家会议中心举行。

2017年是对中国网络安全界具有重大意义的一年。网络安全法的的正式实施,构建了中国网络安全新秩序的基线;而以WannaCry勒索蠕虫为代表的影响广泛的安全事件,则在提升社会整体安全意识、完善应急响应机制和加大信息安全投入等方面,带来了机遇和挑战。

安全牛记者也参加了今年CSS第一天的主会场,并将核心的三方面内容整理如下。

一、人工智能(AI)与安全的结合

随着机器/深度学习的发展,AI技术在不断完善的同时,也在不断与更多的传统领域结合。最近这几年大热的谷歌AlphaGo(围棋),和IBM的Watson(商机挖掘),都无不体现了AI广泛的潜在可拓展场景。而网络安全和AI技术的结合,尤其是在安全自动化方面AI所能提供的能力,近两年也一直是被众多安全和AI专家所看好的。

来自美国加州大学伯克利分校的宋晓冬(女)教授,就在会上详细介绍了目前AI和安全的重要结合点,以及可能出现的问题。

宋晓冬

宋教授认为,安全在AI技术的帮助下,将会有更多的应用场景。包括利用可进行深度学习的神经网络,实现更快、更精准的自动化漏洞发现(编写PoC)和修复,以及对网络攻击的监测与防御。而目前,这些都需要有人工的参与才能实现。

安全的攻防对抗在许多层面都是不对等的。攻击者可以毫无忌惮地利用最新技术进行攻击尝试,而防御方却只能攻击出现后才能着手进行针对性的应对。这就使得更小的响应时间窗尤为重要。而AI无疑会比人更快。

除此以外,在经验积累方面,AI也是占有绝对有优势的。不局限与人工“喂”给AI的训练数据,AI还可以通过自训练模拟攻防来获得远超于一个人类一生可积累到的安全经验(这也是AlphaGo的真正厉害之处)。这也使得未来,AI可以比人做的更好。

当然,既然是把利剑,就意味着也可以被攻击者利用,并衍生出更多的攻击场景。

特别在AI的开发和训练阶段,宋晓冬认为要更早的从攻击者的角度考虑,包括可实现的对AI的攻击以及滥用。

目前的深度学习系统是很容易被欺骗的。攻击者可以利用肉眼难以察觉区别的对抗图像样本,引导自动驾驶系统做出错误判断,以实现对目标的物理攻击。而这种情况是在任何深度学习系统都普遍存在的。同时,AI系统自身的安全漏洞,也会让攻击者有可乘之机。

在AI的滥用方面,还需特别注意个人隐私泄露的问题。目前有明显利用趋势的,例如:发动网络攻击前对目标系统自动化的的漏洞挖掘;利用社交网络中可获取的数据,同时对大量目标进行自动化的侧写,为大范围社会工程学攻击的实施做准备;以及通过对某些利用AI技术实现脑电波分析设备的移动端控制app的入侵,在使用者不知情的情况下刺探个人隐私。

安全在未来AI的开发中,将会成为最大的挑战。安全的AI对于AI的长远发展是非常重要的。而AI,也会在识别恶意软件和欺诈等方面,扮演重要的角色。

二、头号白帽黑客Kevin Mitnick

黑客圈从来不缺少兼具知识、想象力和名声的人。他们与安全从业者的对抗,似乎是双方与生俱来的宿命。但也有人突破了这层隔绝双方的坚厚屏障,成为白帽黑客。

如果说成功入侵美国国防部、五角大楼等全世界安全防御最严密的信息系统,并最终被FBI通缉逮捕,在5年的牢狱生活中甚至一度连电话都被禁止使用等经历,使Kevin Mitnick在黑客圈声名大噪的话,那么2000年出狱后,成立安全咨询公司Mitnick Security,帮助人们测试其信息系统安全性并给出改善建议,同时撰写了多本社会工程学畅销书(没错,就是《欺骗的艺术》),兼具安全布道者和FBI安全顾问身份的他,才真正成为了全球最传奇的“头号黑客”。

Kevin Mitnick

我喜欢现在的状态。我还是黑客,只不过我现在可以合法的做我一直喜欢做的事情。

Mitnick尤其擅长渗透测试,但不是那种傻傻坐在电脑前的,而是利用他最擅长的社会工程学。到目前为止,对于客户信息系统渗透的成功率,是100%。

两个现场演示的渗透案例:

1. 进入有门禁卡的大楼,并获取锁屏电脑中数据

Mitnick的做法:

将可以读取门禁卡数据的设备,藏在经过特别设计外表看似商务手提包的工具包中,佯装要租赁大楼中空闲办公室的企业老板,在休息区或者看办公室的过程中,利用贴身而过或者借卡一看的机会,拿到大楼和目标区域的门禁权限。

进入目标办公区后,对已经登录但锁屏的电脑,利用“pcileech”程序及藏在工具包中的“小工具”(PLX USB3380芯片,售价仅约为15美元),重启电脑后有一定几率读取还存在内存中的开机口令。

github-pcileech:

https://github.com/ufrisk/pcileech

2. 实施勒索攻击

Mitnick的做法:

获取到目标要参加某一行业会议的信息,伪造钓鱼网站和邀请参会邮件,目标登录钓鱼网站后要求输入邀请码(这时一般人已经失去戒心)。邀请码确认后,需要点击某一按钮用以“确认参会”(一个大大的指向某一可点击按钮的箭头)。目标点击按钮后,后台开始自动下载勒索软件并执行。

除了精心设计的攻击演示外,Mitnick还特别提到了教育公众和社会,提高全民网络安全意识的重要性。

公众需要知道,这些威胁是确实存在,以及他们是极易成为受害者的。网络犯罪永不会被按下暂停键,甚至是中小学校的学生,都应该知道,应如何应对网络钓鱼,如何做出更安全的决定。潜在受害者需要不断变得更聪明才行。

(会场的小惊喜,虽然小编我没有拿到,但还是把图片给大家放出来:Kevin Mitnick的名片,包含一套简易开锁工具模型。)

三、势在必行的协同合作

协同合作,“团结就是力量”(注:世界第二大安全厂商迈克菲甚至用此句话作为其品牌的slogan),一直是全球几乎所有安全企业共同的声音。

在今年CSS的大会上,协同合作,也作为重要的话题几乎被所有分享者谈及。

腾讯首席运营官任宇昕在致辞中谈到,信息安全的责任主体已经从单纯的政府和专业安全公司,转变为所有参与数字经济的企业。作为数字经济的神经系统,安全行业的合作机制也将面临改变。技术共享、全球协同将成为新时期下信息安全保障机制的重要基础。人才、技术、体系也都将不再孤立存在。

任宇昕

腾讯公司的副总裁丁珂也表示,腾讯未来将在安全人才培养体系、安全防护的整体规划、以及大数据技术和核心技术能力上,加强全球范围内的合作。

丁珂

不只中国,美、俄亦是如此。

来自卡巴斯基实验室的安全研究员Vladimir Dashchenko表示,卡巴斯基也认为,企业间,以及政期间的合作会更加重要。企业和政府部门应该建立起有效的互相反馈机制,帮助修缮法规,和进一步改进安全厂商的产品,并引领技术的走向。

Vladimir Dashchenko

特别是在打击网络犯罪方面,跨国政府部门间的合作,极为关键。应在不同法律框架下,尽可能的展开更广范围的合作。包括调查、事后的修复工作,以及重要情报的开放共享。因为这将使全球各国对网络犯罪的打击更加有效。

去年卡巴斯基联合迈克菲、欧洲国际刑警和荷兰国家警察,提出的“No More Ransom”拒绝勒索倡议,就旨在免费提供加密后的文件恢复工具,来帮助全球范围内受害者抵制勒索攻击。

宋晓冬教授则表示,一个完整的安全解决方案,囊括技术和法规。如对心脏起搏器的安全考量,需要政府首先重视,对相关行业提出要求,并在企业的帮助下制定相应标准,以及完善验证安全性的技术流程。企业和政府各司其职,需要互相帮助,一起来完成这个事情。

安全牛评

随着中国安全技术实力不断的在世界舞台展现,中国与世界在网络安全技术和理念的交流(尤其是美、俄两个网络强国)的交流,也在日益频繁,且不局限在国家层面。这种交流,势必会让中国在网络犯罪的打击和防范方面,更具主动权;以及对安全理念和技术的先进性,有更加准确的把握。而安全企业自身,也可以获得更大的市场影响力。

 

知识来源: www.aqniu.com/industry/27487.html
想收藏或者和大家分享这篇好文章→复制链接地址

“CSS 2017:AI与安全的相爱相杀”共有0条留言

发表评论

姓名:

邮箱:

网址:

验证码:

公告

关注公众号hackdig,学习最新黑客技术

推广

工具

标签云

本页关键词