首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

人工智能安全标准现状思考

人工智能的目标是使机器像人类一样去理性思考和行动,但随着人工智能的应用推广和智能化程度提高,会面临现有法律、社会规范和道德伦理的挑战,如何确定人工智能产品或系统的法律主体、权利、义务和责任,及如何确保研究人员开发出现有法律...人工智能基础安全标准 20世纪90年代,ISO/IEC JTC1发布了ISO/IEC 2382-28:1996《信息技术词汇第28部分:人工智能基本概念专家系统》、《信息技术词汇第29部分:人工智能语音识别合成...2017年3月,IEEE在《IEEE机器人自动化》杂志发表了名为“旨在推进人工智能和自治系统的伦理设计的IEEE全球倡议书”,倡议通过基于伦理的设计原则和标准帮助人们避免对人工智能技术的恐惧和盲目崇拜...》《工业控制网络安全隔离信息交换系统安全技术要求》《工业控制系统产品信息安全通用评估准则》《工业控制系统风险评估实施指南》等工控安全标准。...建议标准体系能覆盖人工智能的基础、平台、技术、产品、应用等多个对象的安全需求,能明确大数据安全、个人信息保护、云计算安全、物联网安全等相关标准的关系。

2.5K80

人工智能安全标准现状思考

人工智能的目标是使机器像人类一样去理性思考和行动,但随着人工智能的应用推广和智能化程度提高,会面临现有法律、社会规范和道德伦理的挑战,如何确定人工智能产品或系统的法律主体、权利、义务和责任,及如何确保研究人员开发出现有法律...人工智能基础安全标准 20世纪90年代,ISO/IEC JTC1发布了ISO/IEC 2382-28:1996《信息技术词汇第28部分:人工智能基本概念专家系统》、《信息技术词汇第29部分:人工智能语音识别合成...2017年3月,IEEE在《IEEE机器人自动化》杂志发表了名为“旨在推进人工智能和自治系统的伦理设计的IEEE全球倡议书”,倡议通过基于伦理的设计原则和标准帮助人们避免对人工智能技术的恐惧和盲目崇拜...》《工业控制网络安全隔离信息交换系统安全技术要求》《工业控制系统产品信息安全通用评估准则》《工业控制系统风险评估实施指南》等工控安全标准。...建议标准体系能覆盖人工智能的基础、平台、技术、产品、应用等多个对象的安全需求,能明确大数据安全、个人信息保护、云计算安全、物联网安全等相关标准的关系。

1.9K50
  • 您找到你想要的搜索结果了吗?
    是的
    没有找到

    人工智能发展中的信息安全监管

    另一方面,人工智能设备的开发应用,导致民用数据和军用数据越来越难以区别管理。在人工智能的各种应用中,民用智能设备越来越要求数据的全面、准确和及时。...比如,自动驾驶的智能汽车需要真实的交通场景数据,这种实时性、网络化的信息是自动驾驶感知、决策控制的技术基础。...人工智能的发展和应用有赖于数据的采集和处理,换言之,大数据的处理必然是通过智能设备来完成的,数据安全问题与人工智能安全问题是互为表里的,要通过人工智能设备制造商、服务商的规制来保障。...可见,对人工智能的信息安全监管,既需要广泛的国际合作,也存在深刻的国际竞争。至于如何协调监管,则是一种新的安全挑战问题。 再次,人工智能潜在的算法歧视和安全问题,需要公共部门的监管来克服。...所以,《新一代人工智能发展规划》要求,“在大力发展人工智能的同时,必须高度重视可能带来的安全风险挑战,加强前瞻预防约束引导,最大限度降低风险,确保人工智能安全、可靠、可控发展”,并提出到2025年,“

    92360

    人工智能在网络安全领域的应用提高

    网络安全领域中的加密流量的检测是一个老生常谈的话题,随着人工智能的发展,给同样的问题,带来了不同的解决思路。 近年来,越来越多的研究着,尝试着将AI应用到已有的网络安全领域中。...从早先的一些不靠谱的文章人工智能网络安全?请再认真点!,到如今的一些是实实在在的实验成果。可以看到,科学的确在进步。AI在网络安全领域中的应用,也的确越来越多。...但从文章中看不出具体做法,我们就先对该做法进行分析,作者无关,仅仅是技术层面的探讨。 这么做的话,会带来什么?...当然了,如果直接这么用就是确定模型了,根本不需要人工智能啊!其实也是这样的。 自己把最有用信息去掉,然后通过细微的特征来进行观察,并对其分类,这有种给自己出难题的感觉。...实际上不应该用人工智能。 2.5 安全领域的AI到底要怎么用? 就本篇文章来说,把某一个源地址出来的数据做一个识别目标,或是把某一个源地址出来的每一个会话单独去识别,这个是很难做到的。

    1.2K20

    人工智能技术助力安全生产

    在生产作业现场,可对每路摄像头进行集中监控,配置多种AI识别分析模型,将危险事件及各种统计结果反馈给安全生产管理平台,实现对安全风险的预警、处置、追溯及持续改进。...边缘计算技术与人工智能相结合的安全生产智能监管场景解决方案,对安全生产的监管提供智能分析和及时预警的服务。...通过AI边缘行为识别分析+人员管理,全方面多层次的对生产过程中可能遇到的安全问题进行及时准确的预警,最大限度的在源头上预防安全事故的发生。...方案可实现的功能有:1)烟火检测对重点区域进行烟火监测,当识别有烟雾、明火时,立即触发报警,同时推送给相关人员及时处理,避免发生安全事故2)安全帽佩戴检测自动检测进出人员并识别其是否佩戴安全帽,防止工作人员未戴安全帽进入园区作业现场...3)反光衣识别自动检测识别工装、反光服、防护服等,对未按照指定要求穿戴的人员给出告警提示。

    33130

    人工智能正在变革网络安全

    美国风险投资数据公司CB Insights发布消息,称人工智能技术正在给网络安全带来变革。 2016年,网络安全公司的业务量达到了历史最高值。...2017年第一季度是过去五年中私人网络安全公司业务最活跃的一个季度。随着投资活动的不断增多,已经出现了几个网络安全公司,利用人工智能(AI)技术对传统的网络威胁提供新的解决方案。...然而,值得注意的是,对网络安全来说,人工智能并不一定是灵丹妙药。例如,不需要下载任何软件的非恶意攻击合法云服务中的伪装恶意活动在正在不断增加,而AI还没有能力阻止这些类型的网络攻击。...人工智能减轻DDoS攻击的方法是分析人员一起使用算法对异常的网络资源分配进行自动检测。利用人工智能工具来对抗DDoS攻击的初创公司包括Vectra网络、zenedge和shapesecurity。...致力于解决物联网和终端安全威胁的初创公司有Fortscale、Tanium和CUJO。 (4)社会工程:源于社会工程策略的网络攻击主要利用网络安全相关的人。

    1.2K140

    浅谈API安全人工智能生态

    随着人工智能技术的不断发展,API接口安全问题也日益凸显。...限流限制:对于频繁发送请求的IP地址或用户账号进行限制,设置访问频率阈值,当超过设定的阈值时,暂停该IP或帐号的访问权限,避免大流量的攻击对API造成损害。...在进行限流限制方面,需要先设定访问频率阈值,比如每秒最多允许10个请求。...同时API的安全还会受到主动攻击和黑客攻击的威胁,进一步影响人工智能应用的可靠性。因此,保证API的安全性可以提升人工智能应用的稳定性和可靠度。...三、小结人工智能技术通常需要通过API接口实现数据传输和交互,而若API接口不够安全,就有可能导致人工智能应用被黑客攻击或数据泄露等安全问题。因此,在人工智能生态中保障API接口的安全具有重要意义。

    47520

    线程线程安全

    在了解完这个问题后,我们又需要去了解一个使用多线程不得不考虑的问题——线程安全。今天我们不说如何保证一个线程的安全,我们聊聊什么是线程安全?...因为我之前面试被问到了,说真的,我之前真的不是特别了解这个问题,我们好像只学了如何确保一个线程安全,却不知道所谓的安全到底是什么!3、什么是线程安全?...搞清楚了什么是线程安全,接下来我们看看Java中确保线程安全最常用的两种方式。先来看段代码。...毫无疑问,它绝对是线程安全的,我们来分析一下,为什么它是线程安全的?...我们可以看到这段代码是没有任何状态的,就是说我们这段代码,不包含任何的作用域,也没有去引用其他类中的域进行引用,它所执行的作用范围执行结果只存在它这条线程的局部变量中,并且只能由正在执行的线程进行访问

    69720

    DLL注入安全

    伊始   安全危险是共存的。如果我们了解危险的来源以及产生的过程,对于安全防护拥有很现实的意义。   本文主要介绍dll注入的方式,意在描述危险的来源,以及危险的执行的过程,以便于我们解决危险。...安全防护: 到底是什么方式,注入了我们的dll呢? 我们按照从最后往开始一点点的看(动态规划)。 加载DLL,需要开辟线程和加入APC队列的一些API一些东西导致的?...危险指数高,1相比,我们要处理掉这个开辟内存,在往下看 内存写数据,我们自身应用程序也需要写内存。 获取API函数地址的API函数,我们应用程序中也需要调用dll呢。...(注:这里只注入了dll,加壳代码未加) 安全防护:   到地址什么原因导致了dll被加载呢?   我们一步步深入的了解下(贪心算法)   1....结束语 作为使用者,我们要保证我们的环境是安全的。作为软件开发者,要假想如果不处于安全环境下,该如何保证软件的使用安全。让我们共同携手维护互联网安全

    54620

    人工智能网络安全?请再认真点!

    因为早在09年我就开始从事类似流量监测引擎相关的工作,而且在那个时候,市面上就已经有同类的产品了,很好奇网络安全产业界十年后做到了什么水准。...同时还放了一幅红红的大图,图上面一把大锁十分醒目,“要加密就买锁,安全可靠还防撬!”。看在是安全牛专业推荐,耐着心思继续看下去。 ?...图6 人工智能可以恶意加密流量对抗 这是一段即没有量化,又没有逻辑的废话。“人工智能算法赋予机器以专家的智慧”这是要换头吗?...图8 数据分析处理 有点看不下去了,看人家的技术这么牛,做出的技术理论想都想不通,多少有些失落。跳过一步,往下看看感兴趣的特征工程吧。 ?...还有这个:卷积神经网络(CNN),MLP是一样的道理。CNNMLP是可以比较的,但不是比较性能,而是比较网络结构的优缺点。

    1K10

    病毒安全防护-网络安全

    一、病毒安全防护 1.计算机病毒的特征 (1)潜伏阶段 病毒处于未运行状态,一般需要通过某个事件来激活如:一个时间点、一个程序或文件的存在、寄主程序的运行、或者磁盘的容量超出某个限制等。...二、入侵检测 1.IDS(被动,入侵检测系统) 入侵检测系统(IDS)作为防火墙之后的第二道安全屏障。...通过从计算机系统或网络中的若干关键点收集网络的安全日志、用户的行为、网络数据包和审计记录等信息并对其进行分析,从中检查是否有违反安全策略的行为和遭到入侵攻击的迹象,入侵检测系统根据检测结果,自动做出响应...但是 IPS 并不是 IDS 防火墙功能的简单组合,IPS在攻击响应上采取的是主动的全面的深层次的防御。...3.IDS和IPS防火墙的区别 主要区别是防火墙不对内容进行拦截检测,而入侵检测可以完成字节内容的拦截检测。

    1K10

    【信管1.14】安全(一)信息安全审计

    安全(一)信息安全审计 信息系统的安全问题是非常重要的一个问题。为什么这么说呢?我们的信息,都在网上进行传输,如果没有相应的安全措施的话,很多信息就会被窃取,甚至让你的设备中病毒。...而在其中,岗位安全考核培训是非常重要的一环,包括:关键岗位人员统一管理、兼职和轮岗要求、权限分数要求、多人共管要求、全面控制要求等。...典型的系统级审计日志还包括部分安全无关的信息,如系统操作、费用记账和网络性能。这类审计无法跟踪和记录应用事件,也无法提供足够的细节信息。...基于网络旁路监控方式:基于网络监测的安全审计实现原理及系统配置相同,仅是作用目标不同而已。其系统结构由网络探测和安全控制中心组成。...第三级 安全 标记 保护级:适用于地方各级国家机关、金融机构、邮电通信、能源和水源供给部门、交通运输、大型工商信息技术企业、重点工程建设等单位。

    95740

    网络安全IP安全网络安全

    因为Internet最初设计几乎没考虑安全性,所以网络安全需要在网络的各个层次考虑。...IP安全虚拟专用网络VPN最初使用专用网PN来保证安全,使用专属网络设备等建设专门服务于特定组织机构的网络,这种实现安全网络的方法成本过高,便有了虚拟专用网络。...VPN是通过建立在公共网络上的安全通道,实现远程用户等与总部的安全连接,不实际独占公共网络的资源,是一条逻辑穿过公共网络安全稳定的隧道。...隧道技术隧道技术是通过Internet提供安全的点到点的数据传输安全通道,实质是一种利用隧道协议的封装。...解密过程:提取iviv与共享秘钥输入伪随机数发生器得到秘钥流逐字节异或解密dicv利用icv校验完整性破解漏洞每帧一个24位的iv导致最终会被重用iv以明文传输,重用的iv易被检测攻击诱使加密已知明文

    1.7K20

    dapp安全总结典型安全事件

    但任何事物都具有两面性,新的业务形态也带来了复杂的安全形势。Dapp的开发基于密码学、账户模型、公共账本数据库和状态机、通证经济学等,以前基于中心化数据库和服务器的 app,有很大不一样。...一些新工具的诞生,如闪电贷,使得外部调用可能带来的安全问题更具威胁性。...以前中心化的 C/S和 B/S应用相比,Dapp的数据库、状态机和业务逻辑代码都是开放的,网上的任何用户几乎都可以获取到 Dapp的全部信息,来寻找合约的漏洞。...QBridge 安全事件就是基于此的。...当然这样说其实并不太恰当,转入转出在各自的链上都是一笔完整的转账操作,只是通过由各自链上合约进行资金托管的方式进行隐藏。

    50920
    领券