#《生成式人工智能服务管理办法(征求意见稿)》出台,专家解读 12个 扫码订阅《中国信息安全》邮发代号 2-786征订热线:010-82341063文 | 浙江大学检察基础理论研究中心研究员 高艳东随着人工智能的发展,深度伪造技术也日益成熟,尤其是利用深度学习技术,将个人声音、身体动作、面部表情等制作成虚假内容,如AI换脸、语音模拟、体态生成等。随着机器学习能力的提升,深度伪造出来的内容越来越逼真,很多时候可以达到以假乱真的效果。例如,在包头市公安局5月8日发布的一起使用AI技术进行电信诈骗的案件中,罪犯使用AI换脸技术冒充好友行骗,骗取被害人转账430万元。
发布时间:
2023-06-01 19:54 |
阅读:31016 | 评论:0 |
标签:
AI 法规
属于现已解散的RaidForums网络犯罪平台的一个数据库已在一个名为 Exposed 的新黑客论坛上泄露。该数据库包含属于 478,000 名 RaidForums 成员的数据。2022 年 4 月,由于欧洲刑警组织欧洲网络犯罪中心协调的国际执法行动 TOURNIQUET,非法暗网市场 RaidForums被关闭,其基础设施被没收。RaidForums 于 2015 年推出,其社区拥有超过 50 万用户。该市场因出售属于不同行业的许多美国公司的备受瞩目的数据库泄漏而受到欢迎。在 Raidforums 被查封后,Breached 黑客论坛成为最著名的暗网交易被盗数据市场。
发布时间:
2023-06-01 17:45 |
阅读:34678 | 评论:0 |
标签:
泄露 AI
#PSRC 214 个 #白帽子 116 个 #活动 125 个 节日又是一年端午,PSRC 祝大家好运接“棕”而至!我们特别准备了奖励活动,除了翻倍奖励,还有Airpods、鼠标、
发布时间:
2023-06-01 16:59 |
阅读:34857 | 评论:0 |
标签:
AI
据我国教育部指导的《网络安全人才实战能力白皮书》(以下简称“白皮书”)介绍。当前我国网络安全人才“高薪难求”:即使给出高额薪资,企业也招不够人。社会需要的攻防实用型人才,高校培养又明显跟不上。缺质又少量的情况下,企业提供平均薪酬连续6年上升。
发布时间:
2023-05-31 11:09 |
阅读:15776 | 评论:0 |
标签:
AI 安全 骗
臭名昭著的RaidForums黑客论坛的数据库已经在网上泄露,使威胁行为者和安全研究人员能够深入了解经常光顾论坛的人。 臭名昭著的RaidForums黑客论坛的数据库已经在网上泄露,使威胁行为者和安全研究人员能够深入了解经常光顾论坛的人。RaidForums 是一个非常受欢迎且臭名昭著的黑客和数据泄露论坛,以托管、泄露和出售从违规组织窃取的数据而闻名。经常光顾论坛的威胁行为者会入侵网站或访问暴露的数据库服务器以窃取客户信息。然后,威胁参与者试图将数据出售给其他威胁参与者,这些威胁行为者将其用于他们的活动,例如网络钓鱼攻击、加密货币诈骗或分发恶意软件。
发布时间:
2023-05-30 22:57 |
阅读:37873 | 评论:0 |
标签:
泄露 AI 黑客
近年来,APT攻击事件愈发频繁,为了抵御这些网络攻击,满足护网、等保、关基等网络安全监管要求,许多组织采购并部署了大量的安全防护设备,包括基于防火墙、IPS的边界防护,基于病毒、恶意特征代码检测等静态安全防护体系。
发布时间:
2023-05-30 22:46 |
阅读:31495 | 评论:0 |
标签:
AI 云 网络安全 安全 网络
IT之家 5 月 30 日消息,据多个媒体报道,华硕推出了一项名为 AFS Appliance 的 AI 的服务,基于英伟达芯片,可允许企业用户在探索生成式 AI 潜力的同时掌控自己的数据。华硕的这项新服务的特别之处在于:所有硬件都将安装在企业客户自己的设备中,从而确保数据安全和控制。这个 AI 计算平台的构建基于英伟达的芯片技术,将由华硕运营并提供数据更新。众所周知,像 OpenAI 这类 AI 服务的一大顾虑是,它们是通过在线数据提供服务的,存在暴露敏感信息的可能。
发布时间:
2023-05-30 19:38 |
阅读:37321 | 评论:0 |
标签:
数据安全 AI 安全
阅读: 18在2023年的RSA会议上,弗吉尼亚行为健康和发展服务部的CISO和研究员分享了题为“机器崛起:通过人工智能实现数据安全与分析”的议题。他们提出了使用人工智能的方法来快速合成“去识别”(de-identified)数据,从而避免了大量资源消耗和人为误差。本文将解读该议题及其涉及的相关技术基本原理。一、人工智能与数据合成统计学习(Statistical Learning)、机器学习(Machine Learning)、符号学习(Symbolic Learning)、神经网络(Neural Network)…… AI发展至今,已经形成了庞大的分支。每个分支上都存在着各种不同的技术。
网络安全行业的人工智能浪潮已经到来,但人工智能并不会取代网络安全人才,而是让他们变得更强大。以下,我们将以ChatGPT为例,介绍用大语言模型人工智能技术提升威胁猎人猎杀技能的十种方法。01对恶意PowerShell去混淆攻击者常用PowerShell在系统中下载恶意软件并获得初始访问权限。PowerShell易于编写,在大多数企业的IT环境中可用,并且具备可与Windows API交互的强大功能。对攻击者不利的是,PowerShell很容易被防御者读取并阻止。因此,攻击者会使用各种技巧来混淆PowerShell恶意代码。
发布时间:
2023-05-30 13:59 |
阅读:18768 | 评论:0 |
标签:
AI
近日,一则不法分子使用人工智能(AI)换脸技术诈骗400余万元的新闻持续登上热搜。复盘这起案件的来龙去脉,可以发现其中套路在之前的电信网络诈骗案件中多有上演,即不法分子佯装熟人获取被害人信任,然后伺机实施诈骗。只不过这起案件中的不法分子颇“赶时髦”,使用了AI换脸拟声技术,以致受害人并未发现其中异常,从而掉入不法分子设计的圈套。这起案件在让人们震惊之余,也引发了公众对规范AI应用的思考。事实上,运用AI技术换脸并非新鲜事。早在2019年,市场上就已出现相关应用。客观来讲,合理使用AI技术,不仅能够丰富网络内容生态,也能给老百姓的生活带来一些便利和多样化体验。
发布时间:
2023-05-30 11:04 |
阅读:19730 | 评论:0 |
标签:
AI
针对上次写的项目的痛点进行了改进,下面回顾下:python服务器和go相当于是串行的,也就是说waf掉了整个业务就掉了完善业务,加入用户验证waf防护的太简单,需要加模块暂时想到了以下解决方式:go服务器把url信息发到rabbitmq里边,使用队列让waf消费并验证;加入用户验证,如果waf验证到不对劲了就执行封禁用户session的操作,或本身就在黑名单里,直接返回就行了waf整体架构严格意义上已经不是墙了,而是一个为了不影响机器学习处理速度拖累用户访问体验所采取的另一种防护模式。
发布时间:
2023-05-29 20:43 |
阅读:42381 | 评论:0 |
标签:
WAF AI
扫码订阅《中国信息安全》邮发代号 2-786征订热线:010-82341063近日,一则不法分子使用人工智能(AI)换脸技术诈骗400余万元的新闻持续登上热搜。复盘这起案件的来龙去脉,可以发现其中套路在之前的电信网络诈骗案件中多有上演,即不法分子佯装熟人获取被害人信任,然后伺机实施诈骗。只不过这起案件中的不法分子颇“赶时髦”,使用了AI换脸拟声技术,以致受害人并未发现其中异常,从而掉入不法分子设计的圈套。这起案件在让人们震惊之余,也引发了公众对规范AI应用的思考。事实上,运用AI技术换脸并非新鲜事。早在2019年,市场上就已出现相关应用。
发布时间:
2023-05-28 19:53 |
阅读:40223 | 评论:0 |
标签:
AI
#安全学术论文每日推荐 549 个 #每日阅读推荐 267 个 #小程序 2 个 当当当当~ “G.O.S.S.I.P和朋友”系列再次和大家见面了,今天推荐的论文的第一作者王超在G.O.S.S.I.P实习期间表现出了强大的科研潜力,在冲破疫情阻隔前往俄亥俄州立大学 SecLab 之后,迎来了论文成果的大爆发。
发布时间:
2023-05-27 01:42 |
阅读:79917 | 评论:0 |
标签:
AI
各位 Buffer 晚上好,FreeBuf 甲方群话题讨论第 214期来了!FB甲方社群不定期围绕安全热点事件、前沿技术、运营体系建设等话题展开讨论,Kiki 群助手每周整理精华、干货讨论内容,为您提供一手价值信息。话题抢先看1.应用程序白名单的方式对比杀毒软件的黑名单都有哪些优缺点?2.哪些场景适合通过白名单的方式来进行应用控制,有什么好的落地方案和建议?3.针对最近的AI视频诈骗,除了打电话以外,该如何有效进行辨别?4.针对此类AI骗局,有没有好的反诈措施,以及一些实用的Tips?另外是否有一些技术手段可以预防此类骗局?比如在常用的社交媒介软件中,内嵌入声纹、人脸识别的身份核验模块等。
发布时间:
2023-05-26 20:40 |
阅读:72565 | 评论:0 |
标签:
AI 骗
客户背景某大型啤酒厂商的公司规模和市场份额多年来始终都处于行业领先地位,积极赞助多项体育赛事,持续丰富和提升品牌形象。作为一家具有全球影响力的企业,自然也成为了全球黑客等攻击团伙的重点目标,而系统攻击的开端便是钓鱼邮件,而网络安全不仅硬件防护做到位,软实力也更要跟上。员工的安全意识不够,往往是黑客可利用的攻击“漏洞”。解决方案:CACTER邮件安全网关+Coremail反钓鱼演练服务客户面临痛点、难点据知名安全媒体CSO Online的一项调查,“企业平均部署了75款来自不同安全厂商的安全工具以期保障网络安全”。
据报道,5月25日来自初创公司OpenAI的人工智能机器人ChatGPT在全球范围内出现中断。距离上次全球范围中断仅仅过去两个月。OpenAI表示,目前已经了解此次中断事故。随后,该公司在一小时后修复了这个故障。OpenAI的状态页面显示"已观察到ChatGPT报错率升高。根本原因已经确定,团队正在进行修复“。根据网络状况监测网站Downdetector.com显示,不到一小时前,中断连接的数量猛增,有数千人报告了这个问题。在该公司确认问题后近40分钟,OpenAI对该问题进行了修复。并表示此次故障是由CPU使用量增加引起的。
发布时间:
2023-05-26 11:56 |
阅读:37476 | 评论:0 |
标签:
AI
网络安全行业的任何地方——会议舞台、贸易展厅或头条新闻——业内最大的公司都声称,生成人工智能将改变你所知道的关于保护网络和智胜黑客的一切。无论是微软的Security Copilot、谷歌以安全为中心的大型语言模型、Recorded Future的威胁情报分析师AI助手、IBM新的AI驱动的安全产品,还是来自Veracode的用于发现代码缺陷的全新机器学习工具,科技公司都在争先恐后推出他们最新的网络安全人工智能产品。 在上个月的RSA大会上——旧金山网络安全专业人士的名人聚会——你在展厅地板上走几英尺就会撞到一位推销他们公司新的AI产品的销售人员。
发布时间:
2023-05-25 19:53 |
阅读:52121 | 评论:0 |
标签:
AI 网络安全 安全 网络
最近,#AI诈骗正在全国爆发#的话题冲上微博热搜第一,引发了网友广泛关注。据“平安包头”微信公众号消息,近日,包头市公安局电信网络犯罪侦查局发布一起使用智能AI技术进行电信诈骗 的案件,福州市某科技公司法人代表郭先生10分钟内被骗430万元 。该骗子通过智能AI换脸和拟声技术 ,佯装好友对他实施了诈骗。另据湖北网警巡查执法5月6日消息,AI技术正在改变诈骗模式,新骗局来袭后,诈骗成功率竟接近100%。AI诈骗猖獗已久,深伪鉴别技术成为遏制武器前两年,中年妇女迷恋短视频平台上的“假靳东”事件,让人记忆犹新。
发布时间:
2023-05-25 19:39 |
阅读:48609 | 评论:0 |
标签:
AI 安全 骗
朋友们,这两天我本来在兢兢业业写小说,却被一则新闻——《AI诈骗正在全国爆发》吓破了胆,还找不到人赔钱。后边,越来越多朋友和粉丝来问我,求证他们在视频号和公众号文章里看到的“接了好友的微信视频通话(真微信号)然后被AI换脸技术诈骗”(视频实时互动)是不是真的?我觉得很有必要来说道说道。首先来说说这个恐慌式传播的“AI换脸视频诈骗”标题,我特地去看了这一切的来源——最原始的“平安包头”版本,发现它只是用朴实无华的文字介绍了一个较为普通的诈骗案件:4月20日,福州市某科技公司法人代表郭先生突然接到好友的微信视频通话(这里没有说明好友微信是被盗号还是假冒)。
发布时间:
2023-05-25 14:04 |
阅读:43066 | 评论:0 |
标签:
AI 骗
在2023年的RSA会议上,弗吉尼亚行为健康和发展服务部的CISO和研究员分享了题为“机器崛起:通过人工智能实现数据安全与分析”的议题。他们提出了使用人工智能的方法来快速合成“去识别”(de-identified)数据,从而避免了大量资源消耗和人为误差。本文将解读该议题及其涉及的相关技术基本原理。人工智能与数据合成统计学习(Statistical Learning)、机器学习(Machine Learning)、符号学习(Symbolic Learning)、神经网络(Neural Network)…… AI发展至今,已经形成了庞大的分支。每个分支上都存在着各种不同的技术。
发布时间:
2023-05-25 11:07 |
阅读:29140 | 评论:0 |
标签:
AI
再过不久,AI即将迎来一次新的进化,不再局限于回答问题。5月23日,微软在其年度Build开发者大会上宣布,将在Windows 11中引入一个名为Windows Copilot的人工智能助手,打造首个提供集中式AI辅助功能的PC平台。Windows Copilot是一个集成在操作系统中的侧边栏工具,旨在协助用户高效完成各种任务。大家可以通过以下实例感受其所带来的便捷性:1、集成到系统之中的人工智能助手。如果用户询问Windows Copilot“如何调整系统以便更好地工作”,它就会给出相应的建议供用户选择,用户只需点击“yes”,系统就会一键应用该设置。
发布时间:
2023-05-24 19:52 |
阅读:61116 | 评论:0 |
标签:
AI windows 微软
当你的朋友打来视频电话,自然流露着熟悉的表情、声音、语调……这时,你会怀疑画面中就是你的朋友本人吗?你会认为眼见必定为实吗? 近日,福州的一家科技公司的老板郭某,接到一位好友的微信视频邀请,对方说自己的朋友在外地竞标,需要430万元的保证金,想走他公司的账户过个账。郭老板在视频通话中确认了人和声音都是他的朋友之后便同意了。随后,对方就给郭老板发了一张银行卡转账成功的截图,说是钱已经转到郭老板的账户中。由于郭老板之前已经在视频通话中确认了朋友的身份,并未起疑,在没有确认钱到账与否的情况下,没有多想,直接将430万转到了好友的银行卡上。
发布时间:
2023-05-24 17:52 |
阅读:62815 | 评论:0 |
标签:
AI 骗
本文经授权转自公众号CSDN(ID:CSDNnews)整理 | 郑丽媛在 ChatGPT 的“点火”下,这趟名为 AI 的列车已逐渐从幕后驶向台前,吸引了不少人的关注和“搭乘”——而科技,向来是一把双刃剑。俗语有言,“耳听为虚,眼见为实”,可如今在 AI 的影响下,“眼见”也不一定为“实”了:近日,一骗子通过智能 AI 换脸和拟声技术,使某科技公司老板在 10 分钟内被骗了 430 万元。有网友感慨:“当年看《黑镜》,总觉得荒诞,万万没想到里面的许多都在一点一点实现。
发布时间:
2023-05-24 14:03 |
阅读:57741 | 评论:0 |
标签:
AI 骗
整体效果和架构图0.1版本最近想写一个基于 AI 的一个安全攻防项目,想了几个备选的想法,把重点放在了写一个 waf 上,0.1 版本算是完成了,效果图:url 不对劲直接就forbidden,否则hello,{your_url}!整体架构就是可以起一个 go 服务,go 服务器收到用户发来的 url 后就去找识别 url 的服务器,识别 url 服务器的能够根据训练出来的模型来把 url 自动识别是否为恶意请求,go 服务器得到回应之后可以进行一系列操作,没问题的话就放行,否则就向攻击者发送警告,封禁 ip 或者直接把 session 等销毁掉。
发布时间:
2023-05-24 11:54 |
阅读:42177 | 评论:0 |
标签:
WAF AI
近日,高度逼真的人工智能生成的图像描绘了五角大楼附近发生的爆炸,该图像在推特上疯传,导致今天早些时候股市短暂下跌。许多经过验证的 Twitter 帐户(包括一家拥有数百万粉丝的俄罗斯官方媒体和一个经过验证的冒充彭博社的帐户)放大了带有图片的推文,这些图片据称描绘了弗吉尼亚州阿灵顿五角大楼附近发生的爆炸。尽管这些病毒图片乍一看似乎是真实的,但它充满了“它们是使用人工智能生成的”暗示,证明整个事情是一个骗局。媒体分析称,图片上具有一些AI生成图像的一些特征:例如图中的灯柱有些不对称,以及一根围栏被画在了人行道上。
发布时间:
2023-05-24 11:08 |
阅读:42737 | 评论:0 |
标签:
AI 美国 骗
突飞猛进的人工智能技术正在引发欺骗式防御的颠覆式创新,仅AMTD就可能在十年内缓解大多数零日漏洞。3月份发布的GPT-4掀起了企业网络安全市场的一场技术革命。虽然黑客可以通过越狱手段让GPT生成恶意代码,但企业安全团队和网络安全厂商们也纷纷开始尝试生成式AI的检测功能。最近,安全研究人员为ChatGPT开发了一个欺骗式防御的创新用例:AI蜜罐。
发布时间:
2023-05-24 11:05 |
阅读:30625 | 评论:0 |
标签:
防御 AI 骗
IntroductionThere are numerous malicious codes that are currently active on smart devices, such as Ddosf, Dofloo, Gafgyt, MrBlack, Persirai, Sotdas, Tsunami, Triddy, Mirai, Moose, and Satori, among ot
发布时间:
2023-05-24 10:52 |
阅读:48156 | 评论:0 |
标签:
AI
近日,一张由AI生成的假照片在推特上疯传,照片上显示的是华盛顿五角大楼发生剧烈爆炸的画面。这个事件暴露出了马斯克的Twitter Blue付费认证的真正问题。
周一上午晚些时候,这张假照片在社交信息平台上一经发布后不久就在网上疯传,直到美国政府官员出面,证实并谴责该照片只是个骗局才得以平息。
俄罗斯国家媒体和一个虚假的彭博新闻账户的个人资料名称旁边出现了蓝色对勾认证标记,此事备受争议。
美国东部时间上午10点左右,一张五角大楼草坪上熊熊燃烧的照片开始被大量转发,并快速传播,该照片的标题为“华盛顿特区五角大楼附近发生大爆炸的初步报告”。
人工智能(AI)威胁已经兵临城下,即使没有ChatGPT的大肆炒作,AI风险也会是2023年安全研究人员日益关注的新兴威胁。安全专家们警告CISO,面对AI风险,企业正在打一场双线战争。他们不仅需要警惕对抗性AI攻击对企业AI和机器学习(ML)模型构成的威胁,而且还必须保护自己免受坏人使用AI发动的攻击。以下是CISO必须了解的十大AI攻击:1、AI中毒攻击从数据和流程完整性的角度来看,CISO应该重点关注的一类攻击是中毒攻击。此类攻击的原理是通过操纵深度学习模型的训练数据入侵模型,甚至可以操纵其输出攻击者想要的结果。模型中毒只是AI完整性问题的冰山一角。
发布时间:
2023-05-23 17:00 |
阅读:56803 | 评论:0 |
标签:
攻击 AI
前段时间,美国网民使用 AI 图像生成工具恶搞出的“特朗普被逮捕”照片刷爆社交媒体,引得疯狂转发、讨论,在大部分瓜友都沉浸在恶搞的快乐中,部分理智民众看到 AI 技术合成的照片竟如此逼真,表达了对 AI 未来发展过程中安全性的担忧。一语成谶,5 月22 日,包头微信公众号发布一则消息表示包头警方破获了一起利用人工智能(AI)实施电信诈骗的典型案例,福州市某科技公司法人代表郭先生 10 分钟内被“好友”骗走 430 万元巨款。
发布时间:
2023-05-23 14:52 |
阅读:47317 | 评论:0 |
标签:
AI 骗