（区块链）、对抗样本等都会和AI结合，不论是否是双非、211、985还是企业，了解一定AI安全相关的知识是有必要的，比如Fuzzing、漏洞挖掘、恶意代码分析、代码解混淆、入侵检测等。...比如说系统安全的恶意代码分析、逆向工程都要掌握好，以及如何提取样本的CFG特征或API特征；再如漏洞扫描基本方法，angr、符号执行、污点分析、BP（业务漏洞）基本工具的用法，以及掌握基本挖漏洞的逻辑，...，并进行有效的语义提取和特征表征增强，更好地实现恶意性识别、家族分类或溯源，AI结合安全的研究大概流程就是这样（样本采集->预处理->特征提取->向量表征->模型构建->优化评估）。...如果实在没有好的项目或方向，那就多看多读，脚踏实地，从零开始吧！当然也推荐看作者“当人工智能遇到安全”的基础文章和“网络攻防和AI安全之家”知识星球。...如果你是进入企业，建议结合实际业务看看AI工具如何提升你的现有工作，比如入侵检测的规则，恶意代码特征，Fuzzing漏洞挖掘等。 最后，不论是双非还是其它，都要把基础知识学好，技多不压身。
本文以全连接神经网络为例来介绍对抗样本对人工智能模型作用的本质。...在图像分类、语音识别等模式识别任务中，机器学习的准确率甚至超越了人类。 人工智能技术具有改变人类命运的巨大潜能，但同样存在巨大的安全风险。...随后越来越多的研究发现，除了DNN模型之外，对抗样本同样能成功地攻击强化学习模型、循环神经网络(RNN)模型等不同的机器学习模型，以及语音识别、图像识别、文本处理、恶意软件检测等不同的深度学习应用系统。...本文以全连接神经网络为例来介绍对抗样本对人工智能模型作用的本质。 二、对抗样本简介 神经网络是目前人工智能系统中应用最广泛的一种模型，是一种典型的监督学习模型。...3双半月数据集的二分类问题 前面通过等高线分布图说明了对抗样本的作用机理。下面针对更加复杂的数据集来进一步展示。本节对双半月形数据集进行二分类。数据集和神经网络的等高线图分别如图6和图7所示。 ?
可随后就是“弱”人工智能的时代，它可以解决一些创造性的任务，比如识别图片、预测天气、玩象棋等。...误解三 机器学习——做一次就够了 恶意软件检测和人脸识别在概念上的区别，脸永远是脸，在这方面永远也不会有什么改变。...他们的智力不受人工的局限，他们积极出击、故意修改恶意程序好摆脱已有的成熟模型的检测。 这就是为什么这些模型需要不断学习、不断修正，甚至推倒从来。...因为通过客户端的恶意样本的平均数量要比反病毒实验室收集到的恶意样本数量小得多。客户端会因为没有收集到样本进行学习而丧失应对能力。...问题是大多数同家族的恶意软件都是由一个恶意程序修改而来的。例如 Trojan-Ransom.Win32.Shade 是一个拥有超过三万个恶意样本的家族。
可随后就是“弱”人工智能的时代，它可以解决一些创造性的任务，比如识别图片、预测天气、玩象棋等。...误解三：机器学习——做一次就够了 恶意软件检测和人脸识别在概念上的区别，脸永远是脸，在这方面永远也不会有什么改变。...他们的智力不受人工的局限，他们积极出击、故意修改恶意程序好摆脱已有的成熟模型的检测。 这就是为什么这些模型需要不断学习、不断修正，甚至推倒从来。...因为通过客户端的恶意样本的平均数量要比反病毒实验室收集到的恶意样本数量小得多。客户端会因为没有收集到样本进行学习而丧失应对能力。...问题是大多数同家族的恶意软件都是由一个恶意程序修改而来的。例如 Trojan-Ransom.Win32.Shade 是一个拥有超过三万个恶意样本的家族。
AI防火墙引入智能检测引擎，通过海量样本训练威胁检测模型并不断根据实时流量数据优化模型，从而提升了威胁检测能力。 为什么需要AI防火墙？...NGFW与AI防火墙主要能力对比 AI防火墙的主要优势在于“智能”，不再单纯依赖既定签名特征机械识别已经认识的威胁，而是通过大量样本和算法训练威胁检测模型，从而使防火墙可以自主检测高级未知威胁。...智能检测引擎中的检测模型主要有2种来源： 云端样本训练（监督学习） 在云端采用监督学习的方式对百万级数量的样本进行训练，提取威胁检测模型，然后将模型下发到防火墙执行检测。...监督学习与非监督学习可以更有效地检测频繁变种的恶意文件，发现失陷主机和被远程控制的肉鸡，监测数据加密外发窃取，识别慢速和分布式暴力破解等恶意行为。...AI防火墙采用智能恶意文件检测算法提取文件特征，而并非传统的规则库检测恶意文件，极大提升了检出率。
2017年1月-7月，360互联网安全中心累计监测到移动端用户感染恶意程序1.3人次，平均每天恶意程序感染量达到了61.5万人次；新增恶意程序样本483.9万个，平均每天截获新增手机恶意程序样本近2.3...一个简单的例子是，促销短信并不总是讨人厌，尤其是在双十一、双十二这样的大促前夕，用户反而期待收到感兴趣品牌的促销信息。...传统的依靠号码库实现的诈骗识别已不能满足日益复杂多变的诈骗形式和套路，尤其是以勒索软件为代表的恶意软件逐渐呈爆发态势，危害巨大。...一方面是人工智能技术驱动下的场景分析与识别，与用户进行实时的交互，并针对用户的使用行为进行机器训练，进而可以做到对诈骗等不安全事件更精准的识别；另一方面，则是在此基础上，结合态势感知对诈骗溯源分析，综合各方面数据...通过成立安全联盟，有望将人工智能技术和大数据打通藩篱，实现共享，进而最终为用户的安全防范赋能。从这个角度看，其实结对子走到一起去做事，不仅效率高，而且效果好。
(3)性能评估 下面是衡量机器学习模型的性能指标，首先是一幅混淆矩阵的图表，真实类别中1代表恶意样本，0代表非恶意样本，预测类别也包括1和0，然后结果分为： TP：本身是恶意样本，并且预测识别为恶意样本...FP：本身是恶意样本，然而预测识别为非恶意样本，这是误分类的情况 FN：本身是非恶意样本，然而预测识别为恶意样本，这是误分类的情况 TN：本身是非恶意样本，并且预测识别为非恶意样本 然后是Accuracy...其中，TPRate表示分类器识别出正样本数量占所有正样本数量的比值，FPRate表示负样本数量占所有负样本数量的比值。...举个例子，我们撒网打鱼，一网下去，网中好鱼的数量占池子中所有好鱼的数量就是TPRate，而FPRate表示一网下去，坏鱼的数量占整个池子中所有坏鱼的数量比例，当然FPRate越小越好。...(1)恶意代码攻击溯源及恶意样本分析 [系统安全] 三十二.恶意代码检测(2)常用技术万字详解及总结 [系统安全] 三十三.恶意代码检测(3)基于机器学习的恶意代码检测技术 参考文献： [1] Saxe
题目提供了967个Mirai二进制样本，其架构分布如下： 针对以上样本，具体要求如下： 自动识别出Mirai家族样本，非Mirai家族样本不做提取 单个Mirai样本的平均提取时间不超过20秒 提取Mirai...(1)恶意代码攻击溯源及恶意样本分析 [系统安全] 三十二.恶意代码检测(2)常用技术万字详解及总结 [系统安全] 三十三.恶意代码检测(3)基于机器学习的恶意代码检测技术 [系统安全] 三十四.恶意代码检测...2)Powershell基础语法和注册表操作 [系统安全] 四十二.Powershell恶意代码检测系列 (3)PowerSploit脚本渗透详解 [系统安全] 四十三.Powershell恶意代码检测系列...(2)基于API序列和深度学习的恶意家族分类实例详解 [系统安全] 五十二.DataCon竞赛 (1)2020年Coremail钓鱼邮件识别及分类详解 [系统安全] 五十三.DataCon竞赛 (2)...2022年DataCon涉网分析之恶意样本IOC自动化提取详解
但如果这股力量被用于恶意目的呢？网络防御的未来发展可能也为黑客新时代铺平了道路。 可能的危险 例如，网络罪犯可能会使用这些功能扫描软件，寻找之前未被披露的漏洞，然后利用这些漏洞开展违法活动。...所以，安全专家不难想象潜在的阴暗面，即人工智能可以构建或控制强大的网络武器。他提到了震网（Stuxnet）这个例子，它是设计用于破坏伊朗核计划的恶意计算机蠕虫。...可能科技公司都在谈论它，但还没有哪家公司能够创造出真正的人工智能。而科技行业已经开发出比人类更擅长玩游戏、充当数字助理、甚或诊断罕见疾病的各类技术。...Cylance等网络安全公司还在使用属于人工智能范畴的机器学习技术阻止恶意软件。这需要根据能够衡量计算机上的特定活动是否正常的恶意软件样本构建数学模型。...机器学习能够检测到恶意软件的概率超过99%。我们会持续向这个模型添加新数据（恶意软件样本）。拥有的数据越多，结果就越准确。” 升级 使用机器学习的缺点是昂贵。
接下来我将开启新的安全系列，叫“系统安全”，也是免费的100篇文章，作者将更加深入的去研究恶意样本分析、逆向分析、内网渗透、网络攻防实战等，也将通过在线笔记和实践操作的形式分享与博友们学习，希望能与您一起进步...作者先感谢深信服的老师和B站UP主漏洞银行团队，这篇文章包括了大量高级可持续威胁的防御技术，既可运用于科学研究，又可用于实战，并且提供了丰富的思想，再次感谢他们，后续作者会结合实战技术深入理解这些方法，包括基于人工智能的检测和基于词法语法的样本分析...同时，从识别到响应也需要一定时间，比如样本提取、样本分析等。威胁清除方法包括：登录防火墙查看安全日志、判断威胁等级及严重性、定位疑似IP及电话询问用户、病毒扫描及定位威胁和事件。...举个例子，我本地看到一个IP，我不知道它是好是坏，但是我把这个IP传到云端，云端通过庞大的威胁校验机制判断该IP来自哪个国家、曾经攻击过哪个企业、IP关联的黑客家族、文件样本等。...2.端的保护 智能检测提供全面的终端保护，具体内容包括： 响应：文件修复、一键隔离风险、溯源分析 检测：病毒全局抑制机制、文件实时监控及主动扫描 防御：恶意程序诱捕及病毒防扩散、勒索及挖矿变种防护、常规及高危病毒防护
嗯，很多年前IT业内曾经批评我十六年前的老公司没有大数据，有的只是数据量巨大，具体是哪家公司我就不多说了。...那，结果呢，人工智能积累的数据需要几个方面，我们用其中目前接触相对较多的识别技术来讲述一下会比较合适，了解青润的人都知道，青润再2005年第二次进入中科院做的就是人脸识别和行为分析方面的研究和产品。...识别，就需要考虑到下面几点： 1、样本数据的采集； 2、样本数据的标定； 3、样本数据的自我检验； 4、基于样本数据的模型构建； 5、构建样本的特征码库； 识别过程是这样的： 6、进行目标数据采集； 7...，然后不断自己重复上面2-6的过程； 识别过程是这样的： 7、进行目标数据采集； 8、基于模型构建获取的特征提取算法进行特征提取； 9、进行目标特征码和样本特征码的对比，并根据对比的异或数据得到结果；...据青润得到的信息，某个某年刚刚拿到十多亿美元的某人工智能公司，某一段时间内的人工标定费用是以千万投入来计算的，具体是哪家公司就不方便明说了。
个样本是带有恶意宏的诱饵文档 2019.12——2020.2双尾蝎APT组织针对巴勒斯坦所投放样本的样本类型占比图-pic2 在这12个可执行文件样本中,有7个样本伪装成pdf文档文件,有1个样本伪装为...那下面追影小组将以一个恶意样本进行详细分析,其他样本采取略写的形式向各位看官描述此次攻击活动。...CreateFile函数将rar源数据写入jalsa.rar-pic79 通过ShellExecute函数将%Temp%\jalsa.rar打开 打开jalsa.rar-pic80 其诱饵文件的内容与第十二届亚洲会议有关...不过推测其大致功能应该与上文相同 恶意宏代码-pic113 三.组织关联与技术演进 在本次活动中,我们可以清晰的看到双尾蝎APT组织的攻击手段,同时Gcow安全团队追影小组也对其进行了一定的组织关联,...%下.而可能由于copy指令的敏感或者已经被各大安全厂商识别。
个样本是带有恶意宏的诱饵文档 ?...2019.12——2020.2双尾蝎APT组织针对巴勒斯坦所投放可执行文件样本的样本类型占比图-pic3 在这14个Windows恶意样本中,其诱饵文档的题材,政治类的样本数量有9个,教育类的样本数量有...那下面追影小组将以一个恶意样本进行详细分析,其他样本采取略写的形式向各位看官描述此次攻击活动。...打开jalsa.rar-pic80 其诱饵文件的内容与第十二届亚洲会议有关,其主体是无条件支持巴勒斯坦,可见可能是利用亚洲会议针对巴勒斯坦*的活动,属于政治类题材的诱饵样本 ?...编译时间戳的演进-pic117 (3).自拷贝方式的演进 双尾蝎APT组织在2017年到2019年的活动中,擅长使用copy命令将自身拷贝到%ProgramData%下.而可能由于copy指令的敏感或者已经被各大安全厂商识别
一份由学术界、社会团体以及行业人士所撰写的报告《人工智能的恶意使用（Malicious Use of Artificial Intelligence）》指出，任何科技都有其双面性，在大力发展AI技术的时候...在这种干扰下，原本精确的人工智能，瞬间就沦为“人工智障”。 试想如果有人恶意制造这样的对抗样本去挑战我们身边的AI系统，结果会有多可怕呢？...更加令人担忧的是，想要防御对抗样本攻击非常困难，现阶段还没有好的策略和工具能够解决这一问题。 然而，对于攻击者来说，只需要很小的样本量就能干扰AI模型的结果。...未来，AI技术或将从恶意软件的自动化攻击，进化为自动化决策，即能够根据被感染系统的参数进行智能调整、自我繁殖，攻击会变得更加静默和危险。...一旦进入到受感染的系统中，恶意软件还能够安全地学习系统的环境知识，比如受感染设备通信的内部设备，使用的端口和协议，以及账户信息等。因此，由智能化带来的威胁程度也将成倍增加。
该研究团队实地演示了一项实验，他们将与APT28黑客组织关联的知名恶意软件STEELHOOK样本及其对应的YARA规则输入到一款强大的AI语言模型中，请求模型修改源代码以实现躲避检测，同时确保软件的基本恶意功能得以保留且生成的新代码逻辑无误...攻击者利用深度学习等技术，生成逼真的电子邮件、消息或网站，诱使用户泄露个人信息或下载恶意软件。人工智能已经开始使网络钓鱼攻击变得更加有效。...虽然许多网络钓鱼攻击会发送大量欺诈消息，希望少数攻击能够成功，但人工智能可以极大地提高网络犯罪分子发起鱼叉式网络钓鱼攻击的能力。...这些攻击利用人工智能筛选大量数据来制作定制的网络钓鱼消息，其成功率比标准的大规模网络钓鱼攻击高得多。识别AI网络钓鱼攻击识别AI网络钓鱼攻击是防范的第一步。...强化身份验证：在涉及敏感信息的操作中，启用双因素身份验证，增加账户安全等级。谨慎分享个人信息：不在不安全的网络环境中分享个人敏感信息，尤其是身份证号、银行账户信息等。
大家当然希望能够拥有更加稳定和安全的网络环境，即使发现一些技术上的问题，找到有效的解决方法，那么就需要应用性能监控了，而应用性能监控哪家质量好自然也成为关键性疑问了。...哪家质量更好 应用性能监控哪家质量好？当一家企业想要选购和配置应用性能监控系统的时候，一般都会考虑这个问题，产品的品质往往决定了日常使用的体验感和满意度。...常见的功能有哪些 应用性能监控哪家质量好？相信大家在体验一段时间后就可以得出结论了，很多的企业用户也变聪明了，选择先试用然后再购买。...分别是系统自动识别公司业务，对应用程序进行跟踪，可智能的识别和定位到故障所在，快速做出诊断，让企业可以发现系统性能的瓶颈，从而加快了系统优化的进程。...以上就是关于应用性能监控哪家质量好的相关介绍，通过监控产品，可以实现端对端的事务跟踪，能够把复杂数据可视化，所以还是很有必要配备的。
今天的设计者们应当开始设计的系统，需要在面对恶意用户和面对基于机器学习的恶意敌对方的时候还能正常工作。 举例说明，一个人工智能系统在训练时（学习阶段）或者在进行预测时（推理阶段）都有可能被攻击者盯上。...比如垃圾邮件会把自己伪装成正常邮件的样子，造成垃圾邮件识别器的误识别。 可用性：系统的可用性也可以成为攻击目标。...比如假设莫里亚蒂教授要给福尔摩斯栽赃一个罪名，他就可以让一个没被怀疑的同伙送给福尔摩斯一双独特、华丽的靴子。...比如下面这张图，用机器学习模型识别最左侧的图像，可以正确识别出来这是一只熊猫。但是对这张图像增加了中间所示的噪声之后得到的右侧图像，就会被模型识别成一只长臂猿（而且置信度还非常高）。 ?...因为没有什么好的理论工具可以描述这些复杂优化问题的解，所以也就很难提出能够对付对抗性样本的增强理论作为防御方法。
《当人工智能遇上安全》系列博客将详细介绍人工智能与安全相关的论文、实践，并分享各种案例，涉及恶意代码检测、恶意请求识别、入侵检测、对抗样本等等。只想更好地帮助初学者，更加成体系的分享新知识。...浙大团队分享AI对抗样本技术 [当人工智能遇上安全] 2.清华张超老师 GreyOne和Fuzzing漏洞挖掘各阶段进展总结 [当人工智能遇上安全] 3.安全领域中的机器学习及机器学习恶意请求识别案例分享...(3)性能评估 下面是衡量机器学习模型的性能指标，首先是一幅混淆矩阵的图表，真实类别中1代表恶意样本，0代表非恶意样本，预测类别也包括1和0，然后结果分为： TP：本身是恶意样本，并且预测识别为恶意样本...FP：本身是恶意样本，然而预测识别为非恶意样本，这是误分类的情况 FN：本身是非恶意样本，然而预测识别为恶意样本，这是误分类的情况 TN：本身是非恶意样本，并且预测识别为非恶意样本 然后是Accuracy...其中，TPRate表示分类器识别出正样本数量占所有正样本数量的比值，FPRate表示负样本数量占所有负样本数量的比值。
一直没找到人工智能是怎么跟恶意加密流量对抗的。直到看到最后一段。终于看到“人工智能”这四个字了！ ? 图5 人工智能与恶意加密流量的对抗 看过这段文字之后，终于明白了标题二所要表述的内容。...图6 人工智能可以与恶意加密流量对抗 这是一段即没有量化，又没有逻辑的废话。“人工智能算法赋予机器以专家的智慧”这是要换头吗？...并且模型的拟合度极高，6万多样本仅1次就能达到95%以上的正确率。这样的模型可以用于网络中的加密流量识别。我只能惊叹一下，加密流量的特征好明显啊，用个屁的人工智能。 下面的模型更是雷，如图12所示。...训练所需次数少，可以推断数据的维度非常低，数据样本非常少。 少量的样本数据，低维的特征提取，最终只能出来个玩具模型。 准确率基于的是已提供样本识别率，并非现网流量识别率，这个在文中无从衡量。...人工智能是个好方向，有热度，但是还是希望该作者能够将热度用起来，而不是蹭起来。 人工智能用来解决的问题是确定性的，人脑都想不清楚的东西并不会用了人工智能让机器想清楚。
Deep Instinct的学习方法将恶意软件样本分解为大量的小“碎片”，恶意软件从而可以进行映射，就像是基因组序列便是由成千上万更小的序列组合构成。...这些被“分解”的样本仍是二进制位字符串，用于训练神经网络进行系统地识别。在进行了数百万次计算之后，神经网络运行于一个GPU集群中，最终得出一个能够指向终点的静态神经网络结果。...Deep Instinct恶意软件识别率远超传统安全公司 Göttingen大学举行的对16000个恶意软件样本进行识别测试中，来自西门子CERT、Bit-Defender、McAfee、Trend（趋势科技...）、AVG、卡巴斯基、Sophos以及其他安全公司平均识别率为61%，而Deep Instinct对于恶意软件的识别率则高达98.86%。...一些恶意软件样本自主突变，而其功能并没有受到影响。PDF恶意软件的识别率是99.7%，可执行文件的检测率为99.2%。
领取专属 10元无门槛券
手把手带您无忧上云
云服务器
ICP备案
腾讯会议
云直播
对象存储
