我们正在考虑将量化感知训练用于一个研究项目，以确定训练期间量化对收敛速度和运行时间的影响。尽管我们还不完全相信这是正确的工具。请您澄清以下几点: 1)如果一个层在量化感知训练期间被量化，这意味着输入和权重被量化，包括激活函数在内的所有操作都被量化，然后在返回之前，输出被反量化到与下一层兼容<e
浏览 22提问于2020-06-19得票数 0
回答已采纳
我已经搜索了一段时间，但似乎Keras只有经过训练后才具有量化特性。我希望在我的Keras序列模型中添加Tensorflow伪量化。根据Tensorflow的doc，我需要这两个函数来做假量化: tf.contrib.quantize.create_training_graph()和tf.contrib.quantize.create_eval_graph我的问题是，是否有人在Keras模型中添加了
浏览 2提问于2018-09-17得票数 2
回答已采纳
我正在尝试将DNN模型的.pb格式更改为.tflite，我还想量化所有的权重和偏差。当使用以下代码时，权重以8位为单位进行量化，但偏置仍然是浮点数。import tensorflow as tf
tflite_mode
浏览 54提问于2019-08-22得票数 0
回答已采纳
2回答
我想将我的代码迁移到TensorFlow 2上，但我在中看不到量化模型。
是否有可能在TF2中为此目的微调模型，并使用量化感知训练或训练后量化之类的技术？我没有看到任何相关的教程或问题。我还看到了一些关于TF2中TFLite转换器量化问题的报道，所以我甚至不确定在TF2中是否可以做到这一点。
浏览 0提问于2020-07-23得票数 3
1回答
现在的问题是，当我试图通过pyinstaller编译程序时，生成的文件大约为290 it，因为它试图编译整个tensorflow包和它不想要的依赖项。更不用说，在尝试提取文件时，启动非常慢。正如您所看到的，它只是一个简单的代码，它在图像文件夹中运行，并将它们识别为一个模因或非模因内容来清理我的whatsapp文件夹。import os
from tensorflow.keras.preprocessing.image import I
浏览 2提问于2020-06-16得票数 1
回答已采纳
我有一个非常简单的Tensorflow模型，它根据6个传感器的输入(输入范围从0.0到1.0)输出3个值(左，直，右) inputSensor = Input(shape=(3))model = Model(inputs=inputSensor, outputs=modelSensor) 在训练模型之后0.0,1.0,0.0结果[0.00087439 0.996424
浏览 17提问于2019-08-31得票数 1
我正在训练一个Keras模型，我想在一个量化的8位环境(微控制器)中使用TFLite来部署它。为了提高量化性能，我进行量化感知训练。然后，我使用我的验证集作为一个有代表性的数据集创建量化的TFLite模型。性能使用验证集进行评估，并在此图像中加以说明：
如果不是简单地从经过QA训练的模型(图中红色)生成TFLite模型(图中的青色)，而是将经过
浏览 9提问于2021-03-02得票数 0
回答已采纳
我使用TensorFlow 2.1来训练具有量化感知训练的模型.这样做的代码是：model = tfmot.quantization.keras.quantize_annotate_model这些节点应该调整模型的权重，这样它们就更容易被量化为int8，并且更容易处理int8数据。但令人惊讶的是，我确实看到
浏览 10提问于2020-06-17得票数 5
2回答
我从Custom Vision下载了一个tensorflow模型，并希望在珊瑚tpu上运行它。因此，我将其转换为tensorflow-lite，并应用混合训练后量化(据我所知，这是唯一的方法，因为我无法访问训练数据)。你可以在这里看到代码：当我尝试为边缘tpu编译它时，我得到了以下结果： INFO: Initialized TensorFlowInvalid
浏览 3提问于2019-08-11得票数 2
1回答
对于Tensorflow来说，我是完全陌生的，我创建了一个对象检测模型(.pb和.pbtxt)，它使用我在TensorFlow动物园发现的'faster_rcnn_inception_v2_coco_2018它的工作很好的窗口，但我想使用这种模式谷歌珊瑚边缘TPU。如何将冻结的模型转换为edgetpu.tflite量化模型？
浏览 2提问于2020-06-24得票数 0
回答已采纳
我正试图根据 ()量化，我想我遇到了和一样的问题(train_nets.py In.187:在train_op = train(...)之前或在train() utils/common.py In.38中，在梯度之前)
它没有在图形中添加量化感知操作来收集动态范围max\min。我假设我应该看到一些额外的</
浏览 0提问于2020-07-27得票数 0
回答已采纳
1回答
我在Ubuntu 18.04机器上训练并量化了Tensorflow模型，并将其转换为tflite格式。然后我将其部署到配备了NPU加速器、和的Linux Yocto板上。我注意到，当使用PC上的CPU和电路板上的NPU+NNAPI进行推理时，相同的tflite模型会输出不同的预测。这些预测通常是相似的，但在某些情况下，它们完全不同。我尝试在电路板上禁用NNAPI，并使用CPU进行推
浏览 50提问于2021-05-28得票数 0
目前，我正试图理解量化感知的TensorFlow培训。据我所知，伪量化节点需要收集动态范围信息作为量化操作的校准。当我将同一模型与“普通”Keras模型和一次量化感知模型进行比较时，后者具有更多的参数，这是有意义的，因为我们需要在量化感知训练中存储激活的最小值和最大值。请考虑以下示例：
import tensorflow
浏览 9提问于2020-05-06得票数 0
回答已采纳
我目前正在使用tensorflow 1.14进行剪枝，但我不确定是否可以在同一版本上应用量化。请帮帮忙。在剪枝tensorflow指南页面上，提到了以下内容
请您确认一下，如果量化只能从tensorflow 1.15开始应用，或者对旧版本
浏览 3提问于2021-01-08得票数 0
回答已采纳
1回答
不同数据类型的神经网络层
、、、、
我想建立一个神经网络，它的层由不同的数据类型组成。例如，一个层可以是INT16数据类型，一个层可以是Float16或INT32。有人能帮我建立这样一个具有不同数据类型的
浏览 4提问于2020-07-08得票数 0
我正在尝试使用TensorFlow lite部署一个简单的测试应用程序。我想在我的设备上使用Coral Edge TPU棒，所以我必须执行量化感知训练。我的训练代码如下所示： import tensorflow as tffrom tensorflow import keras
from tensorflow.contrib显然，它也使用了量化</em
浏览 12提问于2019-07-03得票数 1
我遇到了一个问题，我将keras模型转换为tensorflow lite格式，但是一旦我这样做了，转换后的模型的精度就会显着下降。该模型是一个相当简单的自然语言处理模型。在转换之前，模型的准确率约为96%，但一旦转换为tensorflow lite格式(没有任何优化)，准确率就会下降到20%左右。这是一个可笑的性能下降，所以我想知道这是可能发生的事情，还是我做错了什么？我在运行debian的beaglebone SB
浏览 149提问于2021-01-15得票数 3
量化意识的培训在坦索弗洛允许我量化使用不同的量化配置的个人水平使用tensorflow_model_optimization.quantization.keras.quantize_annotate_layer我想对一个已经受过训练的模特产生类似的效果。
在Tensorflow的训练后量化文档中，下面是一个将模型量化</
浏览 16提问于2022-10-13得票数 0
1回答
修正训练后丹森流模型的批量
、、、、
我正在使用可变批次大小(输入: None，320,240，3)在Tensorflow中训练一个模型。问题是在训练后的量化过程中，我不能有任何动态输入，因此没有“无”，而使用edgetpu编译器时，批大小不能大于1。
我目前的方法是再训练一次，固定的批次为1，但这有点乏味。是否可以将投入从零、320、240、3改为1,320、240、3或320、240、3，而不必再进行一次培训？
浏览 5提问于2021-10-12得票数 2
我在努力优化我的火把模型。我理解量化的基本原理(将32位浮点数更改为16位或8位中的其他数据类型)，但我不知道这两种方法有何不同或选择了什么。
我看到AMP (自动混合精度) 和规则量化。
浏览 4提问于2021-12-28得票数 2
回答已采纳
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
云直播
对象存储
腾讯会议活动推荐
腾讯云开发者
