首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

【业界首例】MIT新算法骗过神经网络3D物体分类,成功率超90%

在实验中,研究人员3D打印了一只乌龟,在新的鲁棒合成对抗样本攻击下,在每个角度,谷歌InceptionV3图像分类器都把这只乌龟分类为“步枪”,而不受干扰的乌龟一直被归类为“乌龟”。 ?...论文插图:随机目标3D对抗样本,第一列(绿色),以置信度100%被错误分类 在这篇论文中,作者秒速了他们如何在2D和3D情况下生成具有可迁移性的对抗样本。...当研究人员把乌龟和棒球放到语义相关的背景下(比如在水里,或者放在棒球手套中),神经网络仍然无法正确分类(一般而言,步枪不会出现在水下,棒球手套里也极少会有浓缩咖啡)。 ?...简单说,这种算法拿到对抗性样本后,会模拟这个物体从各种角度和距离看上去的结果,然后将所有这些潜在的图像组合成一个单一的模式。 但是,这种方法也有局限——攻击者必须了解目标算法的内部运作。...“通过引入EOT,并在EOT框架内进行3D建模渲染和3D打印,我们成功地打印出3D物体,在各种角度、视点和照明条件下,让标准的ImageNet分类器将物体分类为目标类别。”

83490

前沿 | 真实版《阿凡达》:韩国研究者用脑机接口控制乌龟

选自KAIST 作者:Cheol-Hu Kim等 机器之心编译 参与:黄小天、李泽南 最近,来自韩国科学技术高级研究院(KAIST)的科学家们开发了一种可以远程控制动物行动的新技术。...在 2009 年的电影《阿凡达》中,一个人类远程控制了外星人的身体,电影中的技术是通过将人类意识注入到远端的生物体中实现的。尽管这项技术看起来有些科幻,但科学家们已在实现它们的路上。...它们还会对可能阻碍自身视觉的物体做出回避动作。乌龟在给定环境中的移动行为是可以预测的,这让研究者们可以使用脑机接口对其进行控制。 ?...本能驱使乌龟改变方向往光源移动。最后,操作员获得了摄像头发来的升级的视觉反馈,并通过这种方式继续远程导航乌龟的行迹。...乌龟被选为实验动物,我们开发了头戴式显示器、无线通信装置和专为乌龟设计的刺激器。这些装置可以利用乌龟的逃生本能控制其动作,引导它们的行动路径,在室内和室外都可以远程控制乌龟。

88070
  • 您找到你想要的搜索结果了吗?
    是的
    没有找到

    大学生常用python变量和简单的数据类型、可迭代对象、for循环的3用法

    文章目录 变量和简单的数据类型 下划线开头的对象 删除内存中的对象 列表与元组 debug 三酷猫钓鱼记录 实际POS机小条打印 使用循环找乌龟 可迭代对象 理解一 理解二 2️⃣什么是迭代器 ✔️...i += 1 ... >>> i 程序中运行的最近一个结果 单下划线_也可以表示程序中运行的最近一个结果,如: >>> 'https://machinelearning.blog.csdn.net/'...前后双下划线变量__var__或函数__fun__() 系统定义的变量名称或函数,如Python的魔法函数: __ init__(),__ str__(),__ new__(),__ unicode_...2️⃣什么是迭代器 理解 一个实现了__iter__方法和__next__方法,并且可以通过__next__方法不断返回下一个值的对象称为Itertor,即迭代器。..., iterable) 1 参数: function ----判断函数,用于过滤掉对象里不符合条件的元素 iterable ----可迭代对象,如列表,元组等。

    90120

    为什么神经网络会把乌龟识别成步枪?现在的 AI 值得信任吗?

    比如,前不久麻省理工学院的一些学生,利用3D打印出来的乌龟,成功地让谷歌的InceptionV3图像分类器认为其是一个步枪。乌龟=步枪?这个差距还是非常巨大的。...或者,如果某个充满恶意的人发明了一种武器,当美国运输安全管理局的摄像头扫描、使用深度学习来处理图像的时候,这种武器似乎是无害的——比如说,一只乌龟?...但本月早些时候,麻省理工学院的一组学生成功用3D打印做了一个看起来像一只可爱的小乌龟的物体——但被机器学习算法当作步枪来分类。...例如,他们用3D打印出的棒球,被电脑认为是浓缩咖啡。它可以可靠地骗过谷歌的InceptionV3图像分类器——可以识别1000个不同的物体的图像。...Athalye说,在不考虑图像分类器的代码的情况下,找出如何做出对抗性的例子是他的下一个目标。 尽管这看起来很可怕,但Athalye并不认为我们需要担心——至少现在还没有出现。“没有理由恐慌。”

    79460

    一文看懂自动驾驶中应用的机器学习算法

    比如利用不同外部和内部的传感器的数据融合(如激光雷达、雷达、摄像头或物联网),评估驾驶员状况或为驾驶场景分类等。...在KDnuggets网站最近发表的一篇文章中,作者Savaram Ravindra将自动驾驶中机器学习算法主要分为四类,即决策矩阵算法、聚类算法、模式识别算法和回归算法。...决策矩阵算法 决策矩阵算法能系统分析、识别和评估一组信息集和值之间关系的表现,这些算法主要用户决策。车辆的制动或转向是有依据的,它依赖算法对下一个运动的物体的识别、分类、预测的置信水平。...上面的图像描绘了如何在一个可以理解性代码的单个文件中实现AdaBoost算法。该函数包含一个弱分类器和boosting组件。 弱分类器尝试在数据维数中找到理想阈值,并将数据分为2类。...我们也经常用到K最近邻(KNN,K-NearestNeighbor)分类算法和贝叶斯决策规则。 支持向量机(SVM) SVM依赖于定义决策边界的决策层概念。决策平面分隔由不同的类成员组成的对象集。

    1.1K70

    一文看懂自动驾驶中应用的机器学习算法

    机器学习算法已经被广泛应用于自动驾驶各种解决方案,电控单元中的传感器数据处理大大提高了机器学习的利用率,也有一些潜在的应用,比如利用不同外部和内部的传感器的数据融合(如激光雷达、雷达、摄像头或物联网),...在KDnuggets网站最近发表的一篇文章中,作者Savaram Ravindra将自动驾驶中机器学习算法主要分为四类,即决策矩阵算法、聚类算法、模式识别算法和回归算法。...决策矩阵算法 决策矩阵算法能系统分析、识别和评估一组信息集和值之间关系的表现,这些算法主要用户决策。车辆的制动或转向是有依据的,它依赖算法对下一个运动的物体的识别、分类、预测的置信水平。...上面的图像描绘了如何在一个可以理解性代码的单个文件中实现AdaBoost算法。该函数包含一个弱分类器和boosting组件。 弱分类器尝试在数据维数中找到理想阈值,并将数据分为2类。...我们也经常用到K最近邻(KNN,K-NearestNeighbor)分类算法和贝叶斯决策规则。 支持向量机(SVM) SVM依赖于定义决策边界的决策层概念。决策平面分隔由不同的类成员组成的对象集。

    1.6K100

    学界 | 神奇的面包机!谷歌造出对抗样本的实体版

    这些对抗样本通常对每个像素进行细微的更改,可以使用很多优化策略发现它们,如 L-BFGS [15]、Fast Gradient Sign Method (FGSM) [5]、DeepFool [10]、...Athalye et al. [3] 近期展示了可以 3D 打印的对抗物体,在不同的方位和大小情况下都可以迷惑网络。他们把对抗物体设计为正常物体的细微扰动(如,经过对抗性地扰动后乌龟被分类为步枪)。...最近,Evtimov et al. [4] 使用不同的方法构建被模型错误分类的停车牌,比如打印出像停车牌的大幅海报,或在停车牌上粘一些贴纸。...由于该 patch 与场景无关,因此它允许攻击者在没有光照条件、照相角度、被攻击的分类器类型,甚至场景中的其他物体的先验知识情况下,创建一个物理世界的攻击。 ?...实际上,最近的研究表明在 MNIST 上进行对抗训练的当前最佳模型(相比使用不同的距离度量搜索邻近对抗样本进行训练,或在背景中应用大幅扰动进行训练),面对大幅度扰动攻击时仍然很脆弱。 ?

    932130

    谷歌开启 Naturalist 2018 挑战赛,大型物种分类技术有望突破

    与此同时,研究员也发现在真实世界中,那些细粒度,实例级级别的物体识别还存在很大的挑战!...对于计算机来说,鉴别细粒度类别非常具有挑战性,因为许多类别的训练样本相对较少,存在的样本通常缺乏权威的训练标签,并且在照明,视角和物体遮挡方面都有很大的易变性。...我们邀请参与者在 Kaggle 上参加比赛,最终的实验结果提交日期截止到今年的 6 月初。训练数据,注释和预训练模型链接都可以在我们的 GitHub 中找到。...您可能会注意到左边的照片中有一只乌龟,但是你是否也知道这是一个彩龟属(Trachemys scripta),俗名「滑龟」?如果你知道后者,你就拥有细粒度或从属类别的知识。...与其他图像分类数据集(如 ImageNet)相反,iNaturalist 挑战中的数据集呈现长尾分布,许多种类的图像相对较少。

    874110

    谷歌开启 Naturalist 2018 挑战赛,大型物种分类技术有望突破

    与此同时,研究员也发现在真实世界中,那些细粒度,实例级级别的物体识别还存在很大的挑战!...对于计算机来说,鉴别细粒度类别非常具有挑战性,因为许多类别的训练样本相对较少,存在的样本通常缺乏权威的训练标签,并且在照明,视角和物体遮挡方面都有很大的易变性。...我们邀请参与者在 Kaggle 上参加比赛,最终的实验结果提交日期截止到今年的 6 月初。训练数据,注释和预训练模型链接都可以在我们的 GitHub 中找到。...您可能会注意到左边的照片中有一只乌龟,但是你是否也知道这是一个彩龟属(Trachemys scripta),俗名「滑龟」?如果你知道后者,你就拥有细粒度或从属类别的知识。...与其他图像分类数据集(如 ImageNet)相反,iNaturalist 挑战中的数据集呈现长尾分布,许多种类的图像相对较少。

    1.4K110

    谷歌开启 Naturalist 2018 挑战赛,大型物种分类技术有望突破

    与此同时,研究员也发现在真实世界中,那些细粒度,实例级级别的物体识别还存在很大的挑战!...对于计算机来说,鉴别细粒度类别非常具有挑战性,因为许多类别的训练样本相对较少,存在的样本通常缺乏权威的训练标签,并且在照明,视角和物体遮挡方面都有很大的易变性。...我们邀请参与者在 Kaggle 上参加比赛,最终的实验结果提交日期截止到今年的 6 月初。训练数据,注释和预训练模型链接都可以在我们的 GitHub 中找到。...您可能会注意到左边的照片中有一只乌龟,但是你是否也知道这是一个彩龟属(Trachemys scripta),俗名「滑龟」?如果你知道后者,你就拥有细粒度或从属类别的知识。...与其他图像分类数据集(如 ImageNet)相反,iNaturalist 挑战中的数据集呈现长尾分布,许多种类的图像相对较少。

    62450

    众包:让机器人学习的更快更好

    华盛顿大学计算机科学家最近展示了众包如何快速高效教育机器人完成任务。机器人将不再只是从一个人身上学习,而是有可能在更大范围的在线社区内,询问摆放餐具或者为花园浇水的最佳方法。...研究团队设计了一项研究,利用在线众包社区以教育机器人搭建简单的模型——汽车,树木,乌龟,蛇等等用乐高彩色积木搭建的模型。然后再让机器人搭建类似的物体。...他们在Amazon Mechanical Turk(一个众包市场)上雇佣参与者,并建造类似汽车,树木,乌龟和蛇等的模型。...例如,机器人可以“观察”人类搭建乌龟模型,推断所需的重要指标,然后在建造时重构模型,而且可能比初始模型更简单,以利于机器人的建造。...“最终的结果仍然是一个乌龟,但这是由机器人想出来的,而且和初始模型足够类似,所以它完成同样的目标。”Cakmak解释说。 研究对象通常会选择和初始设计最像的众包版本。

    67140

    这四类机器学习算法,在自动驾驶中常用

    (如激光雷达、雷达、摄像头或物联网),评估驾驶员状况或为驾驶场景分类等。...决策矩阵算法 决策矩阵算法能系统分析、识别和评估一组信息集和值之间关系的表现,这些算法主要用户决策。 车辆的制动或转向是有依据的,它依赖算法对下一个运动的物体的识别、分类、预测的置信水平。...上面的图像描绘了如何在一个可以理解性代码的单个文件中实现AdaBoost算法。该函数包含一个弱分类器和boosting组件。 弱分类器尝试在数据维数中找到理想阈值,并将数据分为2类。...我们也经常用到K最近邻(KNN,K-NearestNeighbor)分类算法和贝叶斯决策规则。 支持向量机(SVM) SVM依赖于定义决策边界的决策层概念。决策平面分隔由不同的类成员组成的对象集。...在这里,物体要么属于红色类要么绿色类,分隔线将彼此分隔开。落在左边的新物体会被标记为红色,落在右边就被标记为绿色。 回归算法 这种算法的专长是预测事件。

    1.4K10

    自动驾驶中常用的四类机器学习算法

    机器学习算法已经被广泛应用于自动驾驶各种解决方案,电控单元中的传感器数据处理大大提高了机器学习的利用率,也有一些潜在的应用,比如利用不同外部和内部的传感器的数据融合(如激光雷达、雷达、摄像头或物联网),...决策矩阵算法 决策矩阵算法能系统分析、识别和评估一组信息集和值之间关系的表现,这些算法主要用户决策。车辆的制动或转向是有依据的,它依赖算法对下一个运动的物体的识别、分类、预测的置信水平。...上面的图像描绘了如何在一个可以理解性代码的单个文件中实现AdaBoost算法。该函数包含一个弱分类器和boosting组件。 弱分类器尝试在数据维数中找到理想阈值,并将数据分为2类。...我们也经常用到K最近邻(KNN,K-NearestNeighbor)分类算法和贝叶斯决策规则。 支持向量机(SVM) SVM依赖于定义决策边界的决策层概念。决策平面分隔由不同的类成员组成的对象集。...在这里,物体要么属于红色类要么绿色类,分隔线将彼此分隔开。落在左边的新物体会被标记为红色,落在右边就被标记为绿色。 ? 回归算法 这种算法的专长是预测事件。

    72570

    Hinton领衔谷歌大脑新研究,拯救被认成步枪的乌龟

    栗子 安妮 编译整理 量子位 出品 | 公众号 QbitAI 最近,深度学习之父Geoffrey Hinton带领的谷歌大脑团队,提出了一种防御对抗攻击的新方法。...此前,那个广为流传的AI将乌龟识别成步枪的操作,就是对抗攻击的杰作。 ? 悄悄修改图片的纹理,就可以在人类毫无察觉的情况下,骗过AI。 不过这一次,对抗攻击遇到了对手。...利用对抗攻击的弱点 虽然,对抗攻击是种高超的骗术,但也有弱点。 还以乌龟和步枪的故事为栗: 即便和步枪分在一类,乌龟还是和步枪长得很不一样。...模型识别图像的时候,除了输出一个分类 (如乌龟/步枪) ,还会输出一个重构 (Reconstruction) 的图像。 如果是对抗图像,重构出来会和原图差别很大 (在AI眼里已靠近步枪) 。...若是未加篡改的真实图像,重构结果应该和输入图像 (乌龟) 很接近: ?

    52310

    Hinton领衔谷歌大脑新研究,拯救被认成步枪的乌龟

    栗子 安妮 编译整理 最近,深度学习之父Geoffrey Hinton带领的谷歌大脑团队,提出了一种防御对抗攻击的新方法。...此前,那个广为流传的AI将乌龟识别成步枪的操作,就是对抗攻击的杰作。 ? 悄悄修改图片的纹理,就可以在人类毫无察觉的情况下,骗过AI。 不过这一次,对抗攻击遇到了对手。...利用对抗攻击的弱点 虽然,对抗攻击是种高超的骗术,但也有弱点。 还以乌龟和步枪的故事为栗: 即便和步枪分在一类,乌龟还是和步枪长得很不一样。...模型识别图像的时候,除了输出一个分类 (如乌龟/步枪) ,还会输出一个重构 (Reconstruction) 的图像。 如果是对抗图像,重构出来会和原图差别很大 (在AI眼里已靠近步枪) 。...若是未加篡改的真实图像,重构结果应该和输入图像 (乌龟) 很接近: ?

    51020

    京东座驾莫非成了乌龟?

    于是,在PC端查看最近订单,一看吓一跳:根本没有这笔订单! 致电京东客服,对话过程如下: 我:描述过程,询问订单怎么回事?...从京东方面思考,如果京东认为问题严重,则反映京东的问题处理速度、产品的迭代速度应证了标题中的乌龟二字;如果京东认为不严重,也造成不了什么损失,顶多就是少量客户BB一下,那京东眼里可能没 客户体验 不是那么重要...个人小结 标题 京东座驾莫非成了"乌龟"? 不算过分! 很多问题需要特定场景才能暴露,测试也不可能完全覆盖。出现问题后的处理情况,恰恰反应了团队目前的状态。...厂子 越大,出现问题后的处理情况越是体现公司的综合能力,下面是以前记录的关于吐槽腾讯问题及人家的处理速度。...腾讯云数据盘引发的产品思考、舆情监测与客户体验 京东以其物流速度在一二线城市为客户提供了非常好的购物体验,但服务好不好,售后也是重中之重。

    95230

    自带迷幻剂技能的小贴纸:忽悠神经网络,让它将一切都当作烤面包机!

    研究人员最近就成功忽悠了一把以智能著称的算法,让它们一脸懵逼地犯下了一系列错误: 比如把两个滑雪的人辨识为一只狗,把一个棒球看成是一杯意式咖啡,又例如把一只乌龟误认为是一把步枪。...最新的一个欺骗机器的方法操作更为简单,却有更深远的影响,所需要的道具也仅仅是一张简陋的贴纸而已。...据一篇最近提交的和这个神经网络攻击有关的研究论文所述,这块小小的“狗皮膏药”(对抗性补丁)是具有“场景无关性”的,这意味着任何一个“对光照条件、相机角度、被攻击的分类器类型或甚至场景中的其他事物没有事先了解...“对抗性补丁正是利用了这一特性,通过生成远远比真实物体显眼得多的图像输入(从而欺骗了模型)。”...同时,研究人员在论文中写道,“因此,在攻击物体探测或是图像细分模型的时候,我们希望被定为识别目标的烤面包机贴纸一方面能被分辨为‘烤面包机’,另一方面也不会对图像本身的其他部分造成影响。”

    40130

    心情不好的时候,用 Python 画棵樱花树送给自己吧「建议收藏」

    大家好,又见面了,我是你们的朋友全栈君。 最近发生了很多事情,工作不开心,爱情无果而终,身边的小伙伴陆陆续续离职。...画布上,默认有一个坐标原点为画布中心的坐标轴,坐标原点上有一只面朝x轴正方向的小乌龟。...这里我们描述小乌龟时使用了两个词语:坐标原点(位置),面朝x轴正方向(方向), turtle 绘图中,就是使用位置方向描述小乌龟(画笔)的状态的。...(3) . turtle 画笔属性 命令 说明 turtle.pensize() 设置画笔的宽度 turtle.pencolor() 没有参数传入,返回当前画笔颜色;传入参数设置画笔颜色,可以是字符串如...最近想买个吉他,准备给自己加点文艺色彩,就算生活暂时不那么美好,自己还是要做一些有意思的事情尽量让自己保持一个好的心态。

    93610

    教你DIY一个会打招呼的龟仙人——萌萌哒乌龟机器人

    在本项目中,我将从头开始打造一个能够使用蓝牙进行控制的四足乌龟机器人。该机器人拥有两个自由度,采用的是爬行的方式进行运动,所以在不平坦的地面可能不能正常工作。...第一步:3D打印组件 本机器人的部分机身是采用的3D打印技术制作的,我在这里提供了这些3D打印部件的.stl文件和.ipt文件,你可以根据自己的需要对这些文件修改。...具体的连接方式如下图所示: 连接好了是这样: 第五步:运动模式设计 设计一款机器人,为其设计合适的运动模式当然是至关重要的。...在循环函数中,我设置超声波传感器发送最近物体的距离给串口检测器,然后检查用户输入。...第七步:无线控制 首先当然要确保蓝牙模块是按以上描述正确安装的。 接下来,启动你电脑上的蓝牙并将其和Arduino上的蓝牙连接配对。配对完成之后,进入控制面板,在设备中找到HC-06。

    75080

    多模态新王登基!OpenAI发布DALL·E 2,生成图像「指哪打哪」

    最近OpenAI发布升级版DALL·E 2,不仅分辨率提升了4倍,准确率更高,业务也更广了:除了生成图像,还能二次创作!...2021年1月,OpenAI放了一个大招:DALL-E模型,让自然语言和图像成功牵手,输入一段不管多离谱的文本,都能生成图片! 比如经典的「牛油果形状的扶手椅」,还有新奇生物「一个长颈鹿乌龟」。...这个功能也提供可以预防字体攻击(typographic attacks),比如在一些图片中,文字是覆盖在物体前面的,这就会导致CLIP模型更倾向于预测文字描述的物体,而不是图像中描绘的物体。...可以观察到,早期的PCA维度保留了粗粒度的语义信息,如场景中的物体类型,而后期的PCA维度则编码了更细粒度的细节,如物体的形状和具体形式。...在MS-COCO的几个标题上将unCLIP与最近的各种文本条件图像生成模型进行了直观的比较后可以发现,与其他方法一样,unCLIP生成的现实场景都符合文本提示。

    1.1K30
    领券