记录黑客技术中优秀的内容, 传播黑客文化,分享黑客技术精华

微软用神经网络改进模糊测试

微软研究团队致力采用深度神经网络改进模糊测试技术,初始测试表现良好。模糊测试用于找出软件漏洞,尤其是内存崩溃漏洞,方法是向目标应用中输入格式不正确的数据。如果软件崩溃或行为异常,就表示可能存在安全漏洞。模糊测试方法有3种:白盒模糊测试,测试源代码或反汇编代码;黑盒模糊测试,无需审查源代码;还有灰盒模糊测试,与黑盒类似,但使用之前执行的结果数据作为反馈。微软的专家团队,试图采用被称为深度神经网络(DNN)的机器学习,来改进这一反馈环。神经网络是模仿人类大脑的一组算法,用于识别各种模式,辅助分类和聚类数据。神经网络已被多家公司用于安全相关目的,包括垃圾邮件及恶意软件检测,甚至苹果新的Face ID功能也用到了神经网络。微软的研究人员试图将神经网络作为一种依赖之前模糊迭代发现模式的学习技术,来指导之后的迭代。神经模型
发布时间:2017-11-22 09:05 | 阅读:203298 | 评论:0 | 标签:牛闻牛评 微软 模糊测试 神经网络

人工神经网络也有后门!

8月初,纽约大学教授希达斯·佳格测了下交通,然后在他工作的布鲁克林办公楼外的停车标志上贴了张黄色便利贴。他与两位同事向他们的路标检测软件展示该场景的照片时,该停车标志被误识别为限速的概率高达95%。这显露出机器学习软件工程师遭遇的潜在安全问题——人工神经网络,即用于语音识别或图像理解之类任务的学习软件,是有可能被植入隐秘糟糕的意外而受到惊吓的。坏人可将该行为设计成仅对特定秘密信号有反应,就像佳格的便利贴案例中的一样。随着对机器学习的兴趣在技术产业内外迅速发展,将神经网络工作外包给第三方,或者基于在线免费神经网络打造产品的方式变得更为常见。于是,对于想采取这两种方法的公司企业,此类“后门”就成问题了。但基本上,似乎没人考虑过这个问题。停车标志已成为试图黑掉神经网络的研究人员的钟爱目标。上月,另一队研究人员演示了往
发布时间:2017-09-02 08:05 | 阅读:112118 | 评论:0 | 标签:牛闻牛评 图像识别 机器学习 欺骗 神经网络 后门

旨在改进威胁检测的系统

受人类大脑启发的新型计算机系统,通过甄别更有效地揭示网络IOC的特定模式,提升网络威胁检测率。 该新型系统名为“神经网络显微镜”,由刘易斯罗兹实验室和桑迪亚国家实验室联合开发,旨在解决当前系统在复杂的攻击指标(IOC)检测上的局限。这些复杂指标被研究人员比喻为“新品种的‘坏苹果’”。 该系统的设计者解释称,很多现代网络安全系统可能会查找普通的IOC,或者只找寻特定模式,而且通常需要安全分析师从大量误报中筛选出真正的危险。 而通过这套受人脑启发研制而成的系统,不仅仅可以搜索指征特定“坏苹果”的复杂模式,还节能——因为其耗电量甚至不足一盏60瓦的小灯灯。 该显微镜的处理器基于刘易斯罗兹实验室共同创始人帕梅拉·福利特博士的神经科学研究。该研究作为人脑信息处理计算模型,为福利特博士的丈夫,刘易斯罗兹实验室共同创始人兼
发布时间:2017-04-01 16:45 | 阅读:92782 | 评论:0 | 标签:牛闻牛评 IOC 神经网络

文本验证已经过时 神经网络是验证码的大敌

机器是人类创造力的产物。然而,近来我们发现,机器屡屡战胜了人类。事实上,我们完全可以做得更好。 最初的验证码在2000年投入使用,从那时起验证码整体上都大同小异。考虑到验证码主要是一种安全手段,这显然会引发麻烦。毕竟,如果在长达17年的时间里,一项安全技术始终得不到更新,这简直是场灾难,因为这意味着全世界的攻击者已经花了整整17年,用新的攻击技术来挫败你老旧的防御技术。 不妨看看,过去17年里有什么影响了验证码。 对验证码最重要的影响因素是已经成为主流的机器学习。神经网络等技术已经从计算机科学中的尖端研究技术发展成了青少年打发时间的周末游戏。神经网络这类技术是程序员的不二选择,它们远比其他手段简单太多。 原本需要成千上万行代码实现的功能如今仅需几百行代码就可实现。读到这里,那些没用过神经网络的读者大概会惊奇不
发布时间:2017-03-24 06:40 | 阅读:106053 | 评论:0 | 标签:牛闻牛评 reCAPTCHA 神经网络 身份鉴别 验证码

还想打马赛克掩盖身份?人工智能让你告别打码时代

像人类一样,机器也能识别模糊的面部图像——而且更快 得克萨斯大学和康奈尔科技学院的研究人员称,打码(像素化图像)是模糊身份的狡猾方式,但计算机可被训练得能识别出这些“被保护”的人。 如果攻击者有一套清晰的照片可供练习,被像素化模糊的部分便昭然若揭。只要人工智能(AI)也能有相应的清晰照片集用以训练,面部马赛克作为匿名机制这种事还是让它飘散在风中吧。 听起来似乎没什么大用——人类也能做到同样的事情,但由于计算机化了,便可以自动执行,也就是说可以日夜不停,快速进行。 arXiv科学论文电子预印本库中的一篇论文( http://arxiv.org/pdf/1609.00408v1.pdf )称,像素化(拼接)、模糊(如YouTube上用的一样),甚至加密JPEG系数(被称为P3的机制:“隐私保护照片共享”),也挡不
发布时间:2016-09-07 22:40 | 阅读:105573 | 评论:0 | 标签:牛闻牛评 人工智能 神经网络 马赛克

黑客神技:怎样把人工智能耍得团团转?

程序员也是人,是人就会犯错,所以我们的机器上充满安全漏洞太正常不过。在打造驱动计算系统的软件时,他们会把代码放到错误的地方执行,或者让数据跑到了不该去的地方,而且常常放进来太多的数据。所有这些,都给黑客留下了进行攻击的方便之门。即使有人工智能辅助人类程序员,风险依然留存。AI也会犯错。谷歌和马斯克独力支持的人工智能初创公司OpenAI的研究人员发表了一篇新论文,其中描述称,这些风险在正快速重造我们计算系统的新一类AI里十分明显,随着AI涌入到安全摄像头、传感器和遍布物理世界的其他设备中,此类风险有可能会造成严重后果。“这真的是每个人都应该认真思考的问题。”幻视作为AI的一种形式,深度神经网络可以通过分析海量数据学习各种任务。随着深度神经网络的兴起,我们跨入到了一个新纪元,编程计算服务逐步让位于训练计算服务。Fa
发布时间:2016-08-15 20:50 | 阅读:78146 | 评论:0 | 标签:牛闻牛评 人工智能 神经网络

对抗样本:这也许将是围棋AI的最后死穴

围棋AI下赢了欧洲冠军。这件事情本身还没那么可怕,毕竟棋界人士一致认为这几盘棋的人类发挥得并不好。但是毫无疑问,AI迟早会碾压人类,区别只是时间长短而已,柯洁也这么认为。 那怎么办?是否我们就要安心承认机器的霸主地位,甘做二流棋手了呢? 当然这样不见得就是坏事儿。人类画师的仿真能力早就输给了摄影,但绘画也没有因此失去意义;国际象棋的顶尖AI已经连续十年没输给人类了,但人类间的国际赛事依然如火如荼。无论把围棋看成竞技还是艺术,战胜自己都是最重要的。世界第一不过是名分而已,无论是人还是机器。 但是如果有一天我们必须决出胜负,如果反叛的AI要求以围棋裁断地球的归属,如果我们必须向外星人证明人类智慧,那是不是就束手无策了呢?人还会偶尔失误,AI难道不是滴水不漏的吗? 也不一定。如果真的有那么一天,我们可能还会有一根救命
发布时间:2016-02-04 08:45 | 阅读:84790 | 评论:0 | 标签:信息安全 神经网络 深度学习

公告

关注公众号hackdig,学习最新黑客技术

推广

工具

标签云