文档建议反馈控制台
首页
学习
活动
专区
圈层
工具
MCP广场
文章/答案/技术大牛
发布

在自己的数据集上训练TensorFlow更快的R-CNN对象检测模型

在本示例中，将逐步使用TensorFlow对象检测API训练对象检测模型。尽管本教程介绍了如何在医学影像数据上训练模型，但只需进行很少的调整即可轻松将其适应于任何数据集。...更快的R-CNN是TensorFlow对象检测API默认提供的许多模型架构之一，其中包括预先训练的权重。这意味着将能够启动在COCO（上下文中的公共对象）上训练的模型并将其适应用例。...TensorFlow甚至在COCO数据集上提供了数十种预训练的模型架构。...在笔记本中，其余单元格将介绍如何加载创建的已保存，训练有素的模型，并在刚刚上传的图像上运行它们。 对于BCCD，输出如下所示： 模型在10,000个纪元后表现不错！...例如是要在移动应用程序中，通过远程服务器还是在Raspberry Pi上运行模型？模型的使用方式决定了保存和转换其格式的最佳方法。

4.8K20

慎用预训练深度学习模型

Keras应用程序 PyTorch torchvision.models Tensorflow官方模型(现在是Tensorflow hub) MXNet模型动物园 ai应用程序 但是，这些基准测试是可重复的吗...当部署在服务器上或与其他Keras模型按顺序运行时，一些预训练的Keras模型产生不一致或较低的准确性。 使用批处理规范化的Keras模型可能不可靠。...那么，当你利用这些预训练模型时，需要注意什么呢? 使用预训练模型的注意事项： 1.你的任务相似吗?您的数据有多相似?...6.在使用批处理规范化或退出等优化时，特别是在训练模式和推理模式之间，有什么不同吗? 正如柯蒂斯的文章所说： 使用批处理规范化的Keras模型可能不可靠。...我相信当BN被冻结时，更好的方法是使用它在训练中学习到的移动平均值和方差。为什么?由于同样的原因，在冻结层时不应该更新小批统计数据：它可能导致较差的结果，因为下一层的训练不正确。

2.1K30
    • 您找到你想要的搜索结果了吗？
    是的
    没有找到

    请谨慎使用预训练的深度学习模型

    但是，这些benchmarks可以复现吗？ 这篇文章的灵感来自Curtis Northcutt，他是麻省理工学院计算机科学博士研究生。...事实上，他们报告的准确率(截至2019年2月)通常高于实际的准确率。 当部署在服务器上或与其他Keras模型按顺序运行时，一些预先训练好的Keras模型会产生不一致或较低的精度。...如果在相同的条件下训练，它们不应该有相同的性能吗？ 并不是只有你这么想，Curtis的文章也在Twitter上引发了一些反应： ? ? 关于这些差异的原因有一些有趣的见解： ?...6、在使用batch normalization或dropout等优化时，特别是在训练模式和推理模式之间，有什么不同吗？...Keras当前实现的问题是，当冻结批处理规范化(BN)层时，它在训练期间还是会继续使用mini-batch的统计信息。我认为当BN被冻结时，更好的方法是使用它在训练中学习到的移动平均值和方差。为什么？

    2K10

    在 PyTorch 中使用梯度检查点在GPU 上训练更大的模型

    通过执行这些操作，在计算过程中所需的内存从7减少到3。 在没有梯度检查点的情况下，使用PyTorch训练分类模型 我们将使用PyTorch构建一个分类模型，并在不使用梯度检查点的情况下训练它。...下面是模型的训练日志。 可以从上面的日志中看到，在没有检查点的情况下，训练64个批大小的模型大约需要5分钟，占用内存为14222.125 mb。...也就是不通过模型(图)运行训练，而是使用checkpoint_sequential函数进行训练，该函数有三个输入:modules, segments, input。...使用梯度检查点进行训练，如果你在notebook上执行所有的代码。...总结 梯度检查点是一个非常好的技术，它可以帮助在小显存的情况下完整模型的训练。经过我们的测试，一般情况下梯度检查点会将训练时间延长20%左右，但是时间长点总比不能用要好，对吧。

    1.6K20

    9大Python深度学习库，选出最适合你的那个

    虽然我很喜欢Caffe的性能（它每天可以在K40 GPU上处理60万张图片），但相比之下我更喜欢Keras和mxnet。 主要的原因是，在.prototxt文件内部构建架构可能会变得相当乏味和无聊。...在Theano建设卷积神经网络就像只用本机Python中的numpy写一个定制的支持向量机（SVM），当然这个对比并不是很完美。 你可以做到吗？ 当然可以。 它值得花费您的时间和精力吗？ 嗯，也许吧。...如果我想尽快地训练网络，那么我可能会使用mxnet。但是如果我需要调整超参数，我就会用Keras设置四个独立的实验（分别在我的Titan X GPUs上运行）并评估结果。...Mxnet库真正出色的是分布式计算，它支持在多个CPU / GPU机训练你的网络，甚至可以在AWS、Azure以及YARN集群。...它确实需要更多的代码来设立一个实验并在mxnet上运行（与Keras相比），但如果你需要跨多个GPU或系统分配训练，我推荐mxnet。

    1.6K40

    开发 | 低配硬件就不能运行深度神经网络了？手把手教你克服“杀牛用鸡刀”难题

    那么问题来了，如果你想你想用树莓派来做一个目标跟踪器，为你看家守院，这可以实现吗？换句话说，如果你需要在不带加速器的ARM CPU上运行卷积神经网络了怎么办？...加速神经网络模型在硬件平台计算速度，两个主要有大的策略： 1）修改神经网络的模型； 2）加快框架运行速度。 当然，将这两个策略结合起来使用，也是一种不错的思路。...更进一步，我们可以使用低精度乘法来训练神经网络模型。结合 SIMD 指令集，比如 SSE3，可以使特征量化过程可以更为高效，从而加速训练过程。然而，目前我们还很难找到同时使用了这两者的解决方案。...虽然非常小，但它已经足够强大了，可以用来处理许多计算机视觉算法。该网络使用 Caffe 进行训练人脸识别任务，并将其转换为 TensorFlow 和 MXNet 格式，从而使用这些框架进行评估。...图2 对数尺度下不同配置的前向通过时间比较 测试结果让我大吃一惊。首先，我没有预料到在 CPU 上运行 MXNet的性能会这么差。但这看起来已经是一个众所周知的问题。

    1.6K50

    2万元「煤气灶」Titan RTX做深度学习？机器之心为读者们做了个评测

    在该博客中，评测人员在英伟达 2080 Ti、V100、1080 Ti 等 GPU 上运行 TensorFlow 模型。...我们相信这一测试平台足够有代表性，多数读者都可以负担得起。此外，还可以根据我们的测试平台粗略推断其在使用 SSD 和 DDR4 内存的高端机器上的性能。RTX 最有名的应用在游戏、娱乐领域。...图 4.4.9：训练阶段的 CPU 利用率 在训练任务上，MXNet 使用最少的 CPU 资源，TensorFlow 平均使用最多。 ?...图 4.4.10：训练阶段的内存利用率 在训练上，PyTorch 使用的 CPU 内存最多，MXNet 和 TensorFlow 平均使用的内存类似。...RTX，这可能会节省我多卡配置的空间，减少多卡通信时间，让我在深度学习任务上相对轻松地训练一个相对大型的数据集。

    1.8K50

    32页ppt干货｜谷歌大规模机器学习：模型训练、特征工程和算法选择

    ；检索模型；在新数据上使用模型进行预测；根据预测执行 选择工具/框架前需要考虑的事 训练数据存储在哪里？...需要存储特征和标记吗？还是在训练时再提取特征和标记？ 怎样训练？在云上训练？还是离线？数据变化的频率如何？ 怎样使模型可用于预测？使用框架工具？还是从头开始编写pipeline？...：使用预定义的、构建神经网络常用的组件；可以根据特定的计算需求写你自己所需的图 在 CPU 和GPU上都能运行，在桌面端、服务器和移动端平台都能运行 使用 Python 和 C++，还有交互的iPython...我认为不考虑设置的话，在易用性上 Keras 和 Neon 差不多。 当我开始考虑为大规模分布式训练写一点东西，我在打造自己的解决方案之前再次查看，并开始设置 mxnet。...Mxnet 支持分布式训练和基于 ZMQ 的分布式KV存储，这正是我想要的。乍看之下它也像 Neon 一样可以直接使用。

    2.5K100

    干货｜谷歌大规模机器学习：模型训练、特征工程和算法选择

    ；检索模型；在新数据上使用模型进行预测；根据预测执行 选择工具/框架前需要考虑的事 训练数据存储在哪里？...需要存储特征和标记吗？还是在训练时再提取特征和标记？ 怎样训练？在云上训练？还是离线？数据变化的频率如何？ 怎样使模型可用于预测？使用框架工具？还是从头开始编写pipeline？...：使用预定义的、构建神经网络常用的组件；可以根据特定的计算需求写你自己所需的图 在 CPU 和GPU上都能运行，在桌面端、服务器和移动端平台都能运行 使用 Python 和 C++，还有交互的iPython...我认为不考虑设置的话，在易用性上 Keras 和 Neon 差不多。 当我开始考虑为大规模分布式训练写一点东西，我在打造自己的解决方案之前再次查看，并开始设置 mxnet。...Mxnet 支持分布式训练和基于 ZMQ 的分布式KV存储，这正是我想要的。乍看之下它也像 Neon 一样可以直接使用。

    3.5K50

    译文：Python深度学习框架评价

    Lasagne在灵活性方面需要牺牲一点，它提供了丰富的通用组件来帮助定义图层，图层初始化，模型正则化，模型监控和模型训练。...它支持在多个GPU上运行机器学习模型，为高效的数据流水线提供实用程序，并具有用于模型的检查，可视化和序列化的内置模块。...在Theano或TensorFlow上运行。 文档：https://keras.io/ 概要： Keras可能是最高水平，使用最友好的库。...它具有类似于Theano和TensorFlow的数据流图，提供对多GPU配置的良好支持，具有类似于Lasagne和Blocks的更高级别的模型构建块，并且可以在任何可以想象的硬件上（包括移动电话）运行。...· MXNet在indico上的介绍 · MXNet示例库 · 亚马逊的CTO呈现的MXNet · Arxiv上的MXNet论文 ---- PyTorch

    1.5K80

    谷歌大规模机器学习：模型训练、特征工程和算法选择 (32PPT下载)

    选择工具/框架前需要考虑的事 训练数据存储在哪里？数据库？ 云？需要存储特征和标记吗？还是在训练时再提取特征和标记？ 怎样训练？在云上训练？还是离线？数据变化的频率如何？ 怎样使模型可用于预测？...在 CPU 和GPU上都能运行，在桌面端、服务器和移动端平台都能运行 使用 Python 和 C++，还有交互的iPython 使用教程 开发者社区非常活跃 ?...预训练的模型 如果你的模型属于以下几种，可以考虑使用预训练模型，按照使用次数收费。...我认为不考虑设置的话，在易用性上 Keras 和 Neon 差不多。 当我开始考虑为大规模分布式训练写一点东西，我在打造自己的解决方案之前再次查看，并开始设置 mxnet。...Mxnet 支持分布式训练和基于 ZMQ 的分布式KV存储，这正是我想要的。乍看之下它也像 Neon 一样可以直接使用。

    1.4K100

    了解机器学习深度学习常用的框架、工具

    Keras 3.0 是对 Keras 代码库的全新重构，可以在 JAX、TensorFlow 和 PyTorch 上运行，为大型模型的训练和部署提供了全新功能。...不足： 运行速度：由于 Keras 是在 TensorFlow 的基础上再次封装的，因此运行速度可能没有 TensorFlow 快。...Caffe 的基本信息和特性 Caffe 是一个高效的深度学习框架，采用 C++ 实现，主要在 GPUs 上运行。它支持多种深度学习模型，并提供丰富的预训练模型供用户使用。...MXNet 的基本信息和特性 MXNet 设计之初就考虑到了效率和灵活性，它具有以下几个显著特点： 跨平台和多语言支持：MXNet 可以在多种操作系统上运行，包括 Linux、Windows 和 macOS...MXNet 的优点和不足 优点： 强大的分布式性能：MXNet 支持多种分布式训练模式，确保在多 GPU 和多节点资源上的高效利用。

    3.1K01

    【问答集锦】TensorFlow带你进入深度学习的世界

    也可以看这篇文章，摘自书中第2章《TensorFlow和Caffe、CNTK、MXNet等其他7种深度学习框架的对比》。 9 . TensorFlow只能部署在Linux机器上？...其实一个in-graph就是模型并行，将模型中不同节点分布式地运行；between-graph就是数据并行，同时训练多个batch的数据。...TF的耗能是否可以使其独立工作在离线环境的嵌入式小板上，真正达到可独立的智能机器人。 可以的，使用TensorFlow的嵌入式设备很多。...不知道有没有针对传统零售行业的实际案例，比如销售预测的案例。 用深度学习可以做销售预测模型，只要它可以转为一个分类预测的问题。 13 . 使用TensorFlow的产品有哪些？有比较有代表性的吗？...个人开发者做TensorFlow应用和开发有前途吗？还是说数据和资料都在大公司，没有合适的、相当数量的数据喂养是无法训练好模型的？

    68620

    谷歌、亚马逊和百度的深度学习野心：TensorFlow、MXNet、PaddlePaddle 三大框架对比

    本文转载自《TensorFlow、MXNet、PaddlePaddle 对比 | 我爱计算机》，特此感谢。 从深度学习开始流行，到深度学习框架的迭代，到各类实际应用的出现，不过短短几年时间。...高效性则是指MXNet的分布式并行计算性能好、程序节省内存，在多GPU上表现非常好，几乎能做到线性加速。内存方面比较能说明问题的是这个框架一推出的时候就支持在移动设备上运行神经网络。...神经网络相对其他分布式问题的特殊之处在于，不同机器上的网络参数在训练时都会独立的求导更新，然而这些参数在新的迭代开始之前要保证相对一致(由于可以异步更新，不同机器之间可以不完全一样，但肯定不能差别过大)...启动分布式程序也不需要自己手动在多台机器上执行命令，MXNet封装好了launch.py，传入机器个数、主机ip等就能在一台机器上启动多台机器运行程序。 ?...pd给的例子中通过fabric库来启动分布式程序，可以做到在一台机器上启动多台机器。

    99360

    从PyTorch到Mxnet ，对比7大Python深度学习框架

    它支持在多 GPUs 上运行深度学习模型，为高效的数据流水线提供使用程序，并具有用于模型的检查，可视化和序列化的内置模块。...优点： 由软件巨头 Google 支持 非常大的社区 低级和高级接口网络训练 比基于 Theano 配置更快的模型编译 完全地多 GPU 支持 缺点： 虽然 Tensorflow 正在追赶，但是最初在许多基准上比基于...在 Theano 或者 TensorFlow 上运行。 文档：https://keras.io/ 概述：Keras 也许是水平最高，对用户最友好的库了。...由 Francis Chollet（Google Brain 团队中的另一个成员）编写和维护。它允许用户选择其所构建的模型是在 Theano 上或是在 TensorFlow 上的符号图上执行。...它拥有类似于 Theano 和 TensorFlow 的数据流图，为多 GPU 配置提供了良好的配置，有着类似于 Lasagne 和 Blocks 更高级别的模型构建块，并且可以在你可以想象的任何硬件上运行

    2.6K60

    从Caffe2到TensorFlow，十种框架构建相同神经网络效率对比

    不同框架具有相同模型的一个结果就是框架在训练时间和默认选项上变得越发透明，我们甚至可以对比特定的元素。 能够快速地把你的模型转换为另一个框架意味着你能够交换 hats。...生成 CNN 符号（在最后的密集层上通常没有激活） 指定损失（交叉熵通常与 softmax 绑定）、优化器和初始化权重，也许还有 session 使用自定义迭代器（所有框架的通用数据源）在训练集的小批量上进行训练...为方便对比，上文中的实例（除了 Keras）使用同等水平的 API 和同样的生成器函数。我在 MXNet 和 CNTK 的实验中使用了更高水平的 API，在该 API 上使用框架的训练生成器函数。...而在 CNTK、MXNet 和 Tensorflow 中，该操作默认进行。我不确定 Chainer 是什么情况。...在目标检测的每一次规模连接中运行 cudnnFind 会带来严重的性能回归，但是，正因如此，可以在目标检测时禁用 exhaustive_search。 3.

    1.1K40

    从Caffe2到TensorFlow，十种框架构建相同神经网络效率对比

    不同框架具有相同模型的一个结果就是框架在训练时间和默认选项上变得越发透明，我们甚至可以对比特定的元素。 能够快速地把你的模型转换为另一个框架意味着你能够交换 hats。...生成 CNN 符号（在最后的密集层上通常没有激活） 指定损失（交叉熵通常与 softmax 绑定）、优化器和初始化权重，也许还有 session 使用自定义迭代器（所有框架的通用数据源）在训练集的小批量上进行训练...为方便对比，上文中的实例（除了 Keras）使用同等水平的 API 和同样的生成器函数。我在 MXNet 和 CNTK 的实验中使用了更高水平的 API，在该 API 上使用框架的训练生成器函数。...而在 CNTK、MXNet 和 Tensorflow 中，该操作默认进行。我不确定 Chainer 是什么情况。...在目标检测的每一次规模连接中运行 cudnnFind 会带来严重的性能回归，但是，正因如此，可以在目标检测时禁用 exhaustive_search。 3.

    1.5K80

    AI 开发者看过来，主流移动端深度学习框架大盘点

    苹果在 Core ML 开发文档中如此介绍： 使用 Core ML，你可以将训练好的模型整合进自己开发的 APP 中。...优势 Bender 支持选择 Tensorflow、 Keras、Caffe 等框架来运行已训练的模型，无论是在将训练好的模型 freeze，还是将权重导至 files（官方表示该支持特性即将到来） 可直接从支持的平台导入一个...它上层的计算图优化算法可以让符号计算执行得非常快，而且节约内存，开启 mirror 模式会更加省内存，甚至可以在某些小内存 GPU 上训练其他框架因显存不够而训练不了的深度学习模型。...MXNet 支持在移动设备（Android、iOS）上运行基于深度学习的图像识别等任务，它的性能如下： 依赖少，内存要求少，对于 Android 性能变化大的手机，通用性更高 MXNet 需要先使用 ndk...Caffe 训练好的模型进行转化 json 格式，随后在移动端使用 此外，MXNet 的一个很大的优点是支持多语言封装，比如 C++、Python、R、Julia、Scala、Go、MATLAB 和

    2.6K30

    CML使用Nvidia GPU进行深度学习

    Libraries 对于本文，我将提供三种使用PyTorch、Tensorflow和MXNet中的代码解决此情况的方法，以供您遵循。...教程 每个文件夹（“ pytorch”，“ mxnet”和“ tensorflow”）都包含一个“ main.py”函数，其中包含安装库、加载数据、设置网络和训练模型所需的所有代码。...运行命令“ nvidia-smi -l”以打开刷新跟踪器以利用GPU 现在，我们可以运行脚本的其余部分，并观看我们的模型训练 在我们的模型训练过程中，我们可以看到内存使用率从3MiB变为11320MiB...，而挥发性GPU-Util为17％，而之前为0％ 训练模型后，我们可以查看模型训练结果，以了解模型的质量。...您现在就可以在Tensorflow中开始在CML中使用GPU。其他子文件夹可以用相同的方式设置，并可以让您自己进行探索。

    1.9K20

    从三大神经网络，测试对比TensorFlow、MXNet、CNTK、Theano四个框架

    本文通过五个任务分别测试了 MLP、CNN 和 RNN 模型，机器之心不仅对该试验进行了介绍，同时还使用 Keras（TensorFlow 后端）在 MNIST 数据集上试运行了 CNN。...Keras 配置文件中有一个参数决定了使用哪一个深度学习框架作为后端，因此我们可以构建一个相同的模型在不同的深度学习框架（如 TensorFlow、CNTK、Theano）上直接运行。...测试二：MNIST & CNN 学习模型的类型：CNN 数据集/任务：MNIST 手写数字数据集 目标：将图片分类为 10 类手写数字 在该测试中，TensorFlow 明显要在训练时间上更加优秀...测试四：MNIST&RNN 学习模型的类型：层级循环神经网络（HRNN） 数据集/任务：MNIST 手写数字数据集 目标：将图片分类为 10 类手写数字 在训练时间上，CNTK 和 MXNet 有相似的性能...MXNet 在 RNN 测试上要比 CNTK 和 TensorFlow 要好一点，此外它在 MLP 上要比所有框架的性能都要好。

    1.7K70
    点击加载更多

    相关资讯

    热门标签

    更多标签

    活动推荐

      运营活动

      活动名称
      广告关闭

      腾讯云开发者

      扫码关注腾讯云开发者

      扫码关注腾讯云开发者

      领取腾讯云代金券

      热门产品

      热门推荐

      更多推荐

      Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有

      深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 粤公网安备44030502008569号

      腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号

      领券