在tensorflow服务示例中，stub.Predict.future和stub.Predict有什么不同？
在tensorflow服务示例中，stub.Predict.future和stub.Predict是两种不同的调用方式。
stub.Predict.future是一种异步调用方式，它会立即返回一个grpc.Future对象，不会等待服务端返回结果。通过该对象可以进行后续的操作，如获取结果、取消请求等。这种调用方式适用于需要在请求发送后继续执行其他操作的场景，可以提高并发性能和响应速度。
stub.Predict是一种同步调用方式，它会阻塞当前线程，直到服务端返回结果或超时。在调用stub.Predict时，会等待服务端处理请求并返回结果后，才会继续执行后续代码。这种调用方式适用于需要立即获取结果并进行后续处理的场景。
推荐的腾讯云相关产品是腾讯云机器学习平台（Tencent Machine Learning Platform，TMLP），它提供了丰富的机器学习和深度学习服务，包括TensorFlow服务。通过TMLP，您可以轻松部署和管理TensorFlow模型，并使用相应的SDK进行调用和使用。
了解更多关于腾讯云机器学习平台的信息，请访问以下链接：
Tencent Machine Learning Platform
请注意，本答案不包含亚马逊AWS、Azure、阿里云、华为云、天翼云、GoDaddy、Namecheap、Google等流行的云计算品牌商的相关信息。
相关·内容
我正在使用TensorFlow构建一个CNN文本分类器，我想将其加载到tensorflow中--使用serving进行服务和查询。当我在grcp存根上调用Predict()方法时，我收到这个错误: AttributeError：'grpc._cython.cygrpc.Channel‘对象没有属性'unary_unary’
到目前为止我所做的:我已经成功地训练并导出了一个适合服务的模型(即，签名经过验证，并使用tf.Saver我可以成功地返回预测)。我还可以将模型加载到tensorflow_model_server中而不会出错。
以下是客户端代码的一段(为了可读性而简化)：
w
浏览 1提问于2018-01-31得票数 5
1回答
我在keras中建立了一个分段模型，并希望在tensorflow服务中运行该模型。目前我能够导出模型并运行模型服务器，但是当我运行client.py文件时输出太大了。错误是：
File "/home/.../serving/bazel-bin/tensorflow_serving/car_mask/mask_client.runfiles/tf_serving/tensorflow_serving/car_mask/mask_client.py", line 47, in <module>
result = stub.Predict(request, 1
浏览 0提问于2018-01-15得票数 2
回答已采纳
tensorflow-gpu 1.10.0
tensorflow-服务器1.10.0
我已经部署了一个tensorflow服务器，它提供多个模型。客户端代码类似于client.py，我调用这个预测函数。
channel = implementations.insecure_channel(host, port)
stub = prediction_service_pb2.beta_create_PredictionService_stub(channel)
request = predict_pb2.PredictRequest()
def predict(data, sha
浏览 0提问于2018-10-18得票数 5
回答已采纳
我正在遵循使用tensorflow服务部署初始模型。我使用的是ubuntu16.04和Bazel13.0。服务器正在运行，当我上传图片时，我能够ping通server.But，它显示以下错误
jennings@Jennings:~/serving$ bazel-bin/tensorflow_serving/example/inception_clie nt --server=localhost:9000 --image=./Xiang_Xiang_panda.jpg
Traceback (most recent call last
浏览 3提问于2018-05-14得票数 2
我很难为tensorflow模型提供服务，这个模型是我用tensorflow的对象检测API从预先训练好的模型中训练出来的。
我已经用model_main.py脚本训练了一个模型(Resnet101)，性能似乎已经准备好投入生产使用。因此，我创建了一个运行tensorflow-serve的docker容器。我已经成功地为训练过程结束时创建的模型提供了服务。我猜这个特性是非常新的，但看起来，model_main.py脚本在训练结束时创建了一个servable。(我在我的"train_dir“中找到了一个名为"export”的新文件夹，其中包含一个saved_model.pb、va
浏览 5提问于2018-08-29得票数 2
回答已采纳
通过使用Tensorflow服务示例中的基本gRPC客户端从运行在docker上的模型中获得预测，我得到了以下响应：
status = StatusCode.UNAVAILABLE
details = "OS Error"
debug_error_string = "{"created":"@1580748231.250387313",
"description":"Error received from peer",
浏览 8提问于2020-02-03得票数 2
我使用tensorflow服务部署我自己的模型。通常它可以正常工作，但有时会收到这样的错误消息：
AbortionError(code=StatusCode.UNAVAILABLE, details="OS Error")
我不知道为什么，有人能帮我吗？
我的代码：
channel = implementations.insecure_channel(tfserving_food_cls_host, int(tfserving_foodcls_port))
stub = prediction_service_pb2.beta_create_Predict
浏览 23提问于2018-08-08得票数 1
我确实遇到了问题：
在tensorflow服务模型上运行预测后，我将返回此PredictResponse对象作为输出：
outputs {
key: "scores"
value {
dtype: DT_FLOAT
tensor_shape {
dim {
size: 1
}
dim {
size: 2
}
}
float_val: 0.407728463411
float_val: 0.592271506786
}
}
正如这个问题中所建
浏览 0提问于2017-08-08得票数 0
回答已采纳
我遵循工作流，当我试图从本地主机进行推断时，一切都很好地工作到通过k8s进行初始模型的最终服务。
我正在运行豆荚，$kubectl describe service初始服务的输出与中的工作流所建议的内容一致。
但是，当运行推理时，事情就不起作用了。这是痕迹：
$bazel-bin/tensorflow_serving/example/inception_client --server=104.155.175.138:9000 --image=cat.jpg
Traceback (most recent call last):
File "/home/dimlyus/serving/b
浏览 2提问于2017-04-08得票数 1
我们有一个相当复杂的系统，它将不同的数据源组合在一起，为我们的用户提供产品推荐。在这些组件中，通常是对我们正在运行的一个或多个TensorFlow服务模型的调用。这已经很好了，即使在负载下，直到最近我们的一些最终REST API(使用Sanic框架)有时需要10秒以上的时间才能返回。 使用cProfile，似乎是gRPC通道挂起的问题。但它似乎与我们最终的web服务层中的某些东西隔离开来。当我单独为TensorFlow服务组件运行下面的代码时，它轻而易举地通过了一系列随机输入，没有任何问题。 以下是我们正在运行的代码，删除了一些特定的细节： def get_tf_serving(model_
浏览 20提问于2020-09-30得票数 1
回答已采纳
背景:我是Tensorflow和AI的新手，希望在基于Java的环境中试用Tensorflow。Found有一个Java并试用了它，但是结果似乎与我的Python实现不一样。我在Java实现中使用了Maven。
通过遵循教程，我在Python中使用Tensorflow重新训练了一个数据集。
在基于Python的Tensorflow环境中，dataset输出的值或多或少是正确的。例如，如果我有一辆汽车的图像，并且我的分类选项是汽车、bug或建筑，它将输出汽车。
但是在我的类似Java中，我尝试使用Tensorflow、Java和；我之前生成的数据集是可读的，但是输出与Python实现完全不同。与
浏览 0提问于2018-11-05得票数 0
回答已采纳
我使用的是Tensorflow对象检测API(github.com/tensorflow/models/tree/master/object_detection)和一个对象检测任务。现在，我在使用Tensorflow服务(Tensorflow.github.io/ serving /)训练的检测模型上遇到了问题。
1.我遇到的第一个问题是将模型导出到可服务文件。对象检测api很好地包含了导出脚本，这样我就能够将ckpt文件转换为带有变量的pb文件。但是，输出文件将在“变量”文件夹中没有任何内容。我认为这是一个bug，并在Github上报告了它，但似乎他们将变量转换为常量，这样就没有变量了。细节
浏览 1提问于2017-07-27得票数 7
回答已采纳
1回答
我无法找到合适的文档来成功地为初始或移动网络模型服务，并编写一个grpc客户端来连接到服务器并执行图像分类。
到目前为止，我只在CPU上成功地配置了tfserving映像。无法在我的GPU上运行。
但是，当我发出grpc客户端请求时，请求会失败。
grpc._channel._Rendezvous: <_Rendezvous of RPC that terminated with:
status = StatusCode.INVALID_ARGUMENT
details = "Expects arg[0] to be float but string is provided
浏览 0提问于2019-10-22得票数 0
回答已采纳
1回答
Tensorflow服务
、、、、
有人知道如何为tensorflow服务创建一个C#客户端吗？
My tensorflow服务安装：
我使用tensorflow服务dockerfile安装了tensorflow服务，然后在容器中执行了以下操作：
pip install tensorflow
pip install tensorflow-serving-api
echo "deb [arch=amd64] http://storage.googleapis.com/tensorflow-serving-apt stable tensorflow-model-server tensorflow-model-server
浏览 0提问于2018-03-01得票数 2
回答已采纳
我特别感兴趣的是，如果安装在参数服务器上的tensorflow与安装在worker上的tensorflow不同，会发生什么情况。(例如:不同版本的tensorflow)。分布式tensorflow如何协调工作进程和参数服务器之间执行代码中的潜在差异？
浏览 18提问于2017-01-22得票数 0
全,
我正在尝试为一个基于mobilenet_1.0_224_quant架构的再培训模型提供服务。
python -m retrain
--architecture=mobilenet_1.0_224_quant
--bottleneck_dir=/mypath/bottlenecks
--how_many_training_steps=500
--model_dir=/mypath/models
--summaries_dir=/mypath/training_summaries/mobilenet_1.0_224_quant
--output
浏览 0提问于2018-06-28得票数 0
如何使用tensorflow服务重新培训当前在生产中使用的新数据的模型？我们是否要手动训练模型，然后再提供服务呢？或者有什么自动化的方法。
我在用tensorflow和码头一起服务。
基本上，我们的想法是:考虑到已经有一个使用tensorflow服务的模型，在未来我会得到一些额外的数据，我希望模型能够与这些数据相匹配，那么，我们如何对同一个模型进行这种培训呢？
浏览 6提问于2021-03-12得票数 1
回答已采纳
我试图在tensorflow服务中提供tensorflow对象检测应用编程接口模型，但我被3个不同的SignatureDefs搞糊涂了。有什么不同，什么时候选择一个而不是另一个？
浏览 8提问于2017-07-26得票数 2
回答已采纳
我已经建立了syntaxnet和tensorflow-使用bazel服务。两者都嵌入了自己的(部分？)tensorflow的拷贝。我已经有了一个问题，我想要“导入”tensorflow的某些部分--在一个脚本中“生活”在syntaxnet树中，这是我无法理解的(不做一些非常丑陋的事情)。
现在我想要“张力板”，但它显然不是作为syntaxnet或tensorflow服务中嵌入的tensorflow的一部分来构建的。
所以现在我确定“我做错了”。我应该如何组合由不同的bazel工作空间构建的工件？
特别是，我如何构建tensorflow (使用tensorboard)、syntaxnet和ten
浏览 1提问于2016-06-13得票数 0
回答已采纳
3回答
现在，我们可以使用Tensorflow服务成功地为模型提供服务。我们使用以下方法导出模型并使用Tensorflow服务托管它。
------------
For exporting
------------------
from tensorflow.contrib.session_bundle import exporter
K.set_learning_phase(0)
export_path = ... # where to save the exported graph
export_version = ...
浏览 5提问于2017-04-27得票数 6
2回答
我有一个简单的Tensorflow 3层MLP模型，它采用10个数值的向量来预测单个数值输出。
我的web应用程序在Flask框架下，客户可以每分钟推断出一个由10个输入组成的向量，以便从我的服务器( Tensorflow受过训练的模型)那里接收到他的预测。
我的问题是:对于我的简单应用程序来说，是否有必要使用gRPC提供Tensorflow服务，或者如果10个值通过一个Numpy数组从Flask REST传递给我的Tensorflow服务器，那么是否更好地将输入传递给我呢？后一种方法在图形重新初始化中的影响是什么？如果不采用Tensorflow中的“服务”属性，是否需要重新初始化？我真的很感
浏览 2提问于2016-11-01得票数 0
回答已采纳
1回答
我有一个关于TensorFlow Serving和TensorFlow service之间的区别的问题。(很抱歉，我对此一点都不熟悉。)
我发现了TensorFlow服务的定义，即"TensorFlow服务是为生产环境设计的灵活的、高性能的机器学习模型服务系统“()，而我想知道TensorFlow服务是什么？例如在这句话中：
"TensorFlow模型可以部署到生产服务，如TensorFlow服务和移动设备。“
生产服务是什么？我猜TensorFlow服务是指一些帮助管理TensorFlow的服务，而不是用于部署TensorFlow模型的系统的TensorFlow服务。对吗？我
浏览 1提问于2017-12-05得票数 3
2回答
我试图从源代码安装Tensorflow，因为对CPU指令(SSE，AVX.)发出了警告当我用pip和virtualenv安装时没有安装：
W tensorflow/core/platform/cpu_feature_guard.cc:45] The TensorFlow library wasn't compiled to use SSE4.1 instructions, but these are available on your machine and could speed up CPU computations. W tensorflow/core/platform/cpu_
浏览 2提问于2017-04-02得票数 0
我想为非线性规划和推荐应用建立一些神经网络模型。我想使用的框架是TensorFlow。我计划对这些模型进行培训，并对Amazon服务进行预测。应用程序很可能是分布式计算。
我想知道SageMaker和EMR对于TensorFlow应用的利弊是什么？
它们都集成了TensorFlow。
浏览 0提问于2018-09-21得票数 8
回答已采纳
1回答
我已经使用Keras训练并保存了TF模型，并且能够将Keras模型(Hdf5)转换为Tensorflow服务。
设置详细信息，模型是在哪里训练和保存的: Python版本: 2.7.5 Keras版本: 2.1.4使用TensorFlow后端。Tensorflow CPU : 1.5.0
当我尝试使用sample_client.py运行客户端时，我有用于Tensorflow服务的Docker镜像，它失败了，错误如下。有没有人能建议我如何继续下去？
/root/.local/lib/python2.7/site-packages/h5py/__init__.py:36: FutureWarnin
浏览 0提问于2018-03-08得票数 0
1回答
SageMaker似乎给出了使用两个不同的服务堆栈来服务自定义码头映像的示例：
NGINX + Gunicorn +水瓶
NGINX + TensorFlow服务
能否有人在很高的层次(我对网络工程知之甚少)向我解释一下，这些不同的组件有什么责任？由于第二个堆栈只有两个组件而不是一个组件，我可以正确地假设TensorFlow服务完成了Gunicorn和烧瓶的工作(不管是什么)吗？
最后，我读到可以同时使用烧瓶和TensorFlow服务。这会是NGINX -> Gunicorn ->烧瓶-> TensorFlow服务吗？这有什么好处呢？
浏览 0提问于2019-01-16得票数 2
回答已采纳
我检查了tf-serving示例，发现使用result = stub.Predict(request, 10.0)，而使用result_future = stub.Predict.future(request, 5.0)。
有什么关系呢？
浏览 7提问于2017-06-13得票数 4
我正在为GRPC调用Tensorflow服务(在php中，但问题不是PHP相关)编译pb文件。
文件有：
import "tensorflow/core/framework/tensor.proto";
import "tensorflow_serving/apis/model.proto";
但是，在正常设置中，tensorflow和tensorflow服务并不位于具有两个导入可以一起工作的公用文件夹的层次结构中。
假设将proto文件编译为用于grpc的pb文件，则如果不将tensorflow服务于/tensorflow/下，则无法工作。我在这里错过了什么？
浏览 0提问于2017-01-09得票数 0
当我在tf中服务对象检测模型时，我有一个工作代码--服务并通过http请求访问它。同样的代码是：
import requests
import base64
import json
URL = "http://10.10.1.38:8501/v1/models/test_model:predict"
headers = {"content-type": "application/json"}
image = "test111.jpg"
image_content = base64.b64encode(open(image,&#
浏览 1提问于2020-01-23得票数 1
我开始学习如何使用TensorFlow进行机器学习。并发现码头是非常方便地部署TensorFlow到我的机器。但是，我可以找到的示例在我的目标设置上不起作用。这就是
在ubuntu16.04操作系统下，使用nvidia-docker共同托管jupyter和tensorboard服务(可以是两个容器，也可以是一个有两个服务的容器)。从jupyter创建的文件对于主机操作系统来说应该是可见的。
Ubuntu 16.04
杜克尔
nvidia-码头
木星
坦氏板
木星容器
nvidia-docker run \
--name jupyter \
浏览 5提问于2017-04-21得票数 7
回答已采纳
3回答
我正在遵循Tensorflow服务文档，将我训练过的模型转换为可以在Docker容器中提供服务的格式。由于我是Tensorflow的新手，我正在努力将这个经过训练的模型转换为适合服务的形式。
模型已经过训练，我有检查点文件和.meta文件。因此，我需要从上述两个文件中获取.pb文件和variables文件夹。有没有人能给我一个建议，告诉我如何在服务模型时做到这一点？
.
|-- tensorflow model
| -- 1
| |-- saved_model.pb
| -- variables
| |-- variables.data-
浏览 0提问于2019-06-18得票数 5
从谷歌教程中，我们知道如何在TensorFlow中训练一个模型。但是，保存经过训练的模型的最佳方法是什么，然后在生产服务器中使用基本的最小python来提供预测。
我的问题基本上是关于TensorFlow最佳实践，以保存模型并在不影响速度和内存问题的情况下在活动服务器上提供预测。因为API服务器将永远在后台运行。
请提供一小块python代码片段。
浏览 2提问于2016-01-27得票数 17
回答已采纳
(我最初在StackOverflow上发布了我的问题，也许这是个更好的问问题的地方)
我提供了关于我正在使用的librairies的详细信息，因为它有助于理解我的问题，但它可以应用于其他项目，因为这是一个关于如何在仍然能够使用以前保存的数据的情况下进行迁移的一般性问题。
我们目前正在使用Tensorflow 1.15作为一些MLP模型，稳定基线 (SB2)用于我们的强化学习模型。我的任务是将代码迁移到Tensorflow 2，并且由于稳定的基线使用Tensorflow 1.x作为后端，但与Tensorflow 2 (也不会是)不兼容，所以也要将其迁移到稳定Baselines3 3 (SB3)，
浏览 0提问于2021-01-20得票数 0
回答已采纳
1回答
问题描述
我们遇到的问题如下。Serving配置为加载和服务7个机型，并且随着机型数量的增加，服务请求超时的频率更高。相反，随着模型请求数量的减少，超时并不重要。在客户端，超时配置为5秒。
有趣的是，批处理的最大持续时间约为700ms，配置的最大批处理大小为10。平均批处理持续时间约为60ms。
日志和截图
我们已经检查了TensorFlow服务日志，但没有发现警告或错误。此外，我们还监控了正在运行的GPU机器和主机对服务执行推理请求的网络，但也没有发现任何网络问题。
时间解
减少加载和服务模型的数量，但不是预期的解决方案，因为这需要设置多个不同的GPU实例，每个实例只加载和服务模型的一个子集
浏览 37提问于2018-09-03得票数 5
1回答
我试图找出在TensorFlow中(在单机执行环境中)运行多个经过预先训练的模型以进行推理的最佳方法。我读过几个关于这方面的问题，但我还是有点困惑。例如，让我们假设在两个不同的进程/线程中运行2个深网络。据我所知，我也可以这样做：
在同一个会话中运行两个模型(即共享一个会话的两个进程)，或
运行两个不同的会话，一个用于每个网络/进程，或者
使用TensorFlow服务。
如果我在一个只包含一个多核CPU的平台上运行这个程序，我设想(从执行的角度来看)不同的是，对于单个会话，只有一个op内部线程池和一个池间线程池，而在第二种情况下，它们是不同的。
TensorFlow服务如何
浏览 5提问于2017-11-27得票数 2
我是坦索弗洛的新手。我已经按照tensorflow服务指示在码头集装箱中服务模型。通过遵循的指示，我能够为mnist和初始模型服务。
服务模型保存在以下结构中：
.
|-- inception-export
| `-- 1
| |-- saved_model.pb
| `-- variables
| |-- variables.data-00000-of-00001
| `-- variables.index
`-- mnist_model
`-- 1
|-- saved_model.pb
浏览 3提问于2017-08-23得票数 0
2回答
我使用tensorflow.keras脚本模式训练了一个SageMaker模型，如下所示：
import os
import sagemaker
from sagemaker.tensorflow import TensorFlow
estimator = TensorFlow(entry_point='train.py',
source_dir='src',
train_instance_type=train_instance_type,
浏览 0提问于2019-01-27得票数 2
回答已采纳
我对TensorFlow (和SageMaker)相当陌生，而且还停留在部署SageMaker端点的过程中。我最近刚刚成功地创建了一个已保存的模型类型模型，该模型目前正用于服务一个示例端点(模型是外部创建的)。但是，当我检查用于端点的映像时，它会说‘./ TensorFlow -推断’，这不是我想要进入的方向，因为我想使用一个SageMaker TensorFlow服务容器(我遵循了官方的TensorFlow服务GitHub回购指南--使用示例模型，它们是使用TensorFlow服务框架进行校正的)。
我遇到这个问题是因为我保存的模型没有正确的“服务”标签吗？我还没有检查我的标签集，但想知道这
浏览 1提问于2020-07-14得票数 2
回答已采纳
Tensorflow解释说，模型：.ckpt或.hdf5或.pb。这里有很多文档，所以最好能更简单地比较什么时候使用哪种文件格式。
以下是我目前的理解：
ckpt
来自
检查点捕获模型使用的所有参数(tf.Variable对象)的确切值。检查点不包含模型定义的计算的任何描述，因此通常只有在使用保存的参数值的源代码可用时才有用。
因此，当您知道源代码将相同时，似乎应该在培训期间使用cpkt进行检查点。为什么推荐它而不是.pb和.hdf5呢？它能节省空间吗？它是否包括其他文件格式不包含的数据？
pb
也来自
另一方面，SavedModel格式除了参数值(检查点)外，还包括模型定义的计算的
浏览 7提问于2020-01-23得票数 15
根据：
任何Keras模型都可以使用TensorFlow服务导出(只要它只有一个输入和一个输出，这是TF服务的限制)
这(仍然)是真的吗？我找不到其他的参考资料
浏览 69提问于2018-01-30得票数 3
回答已采纳
2回答
我有两个集装箱(码头)：
TensorFlow容器
NodeJS容器用作TensorFlow容器的前端。
这两个容器在使用环境变量指定的端口上都有TCP侦听器。
如果我想缩放NodeJS和TensorFlow容器，例如2个NodeJS实例和4个TensorFlow实例，那么我有哪些选项可以将它们连接起来，以便在TensorFlow的4个实例中均匀地分配负载？
目前，我在NodeJS容器中使用NodeJS容器名称，但我很确定这只会利用单个TensorFlow容器.或者？
浏览 0提问于2018-06-21得票数 6
1回答
我想将TRT优化的冻结模型转换为tensorflow服务的保存模型。是否有任何建议或来源可供分享？
或者有没有其他方法在tensorflow服务中部署TRT优化模型？
谢谢。
浏览 2提问于2018-09-25得票数 1
目前，在tensorflow 2.0中，Keras可以通过tensorflow.keras和tensorflow.python.keras导入。这两种进口产品有什么不同，我该如何选择呢？
from tensorflow.keras import *
from tensorflow.python.keras import *
据我理解，tensorflow.python.keras与packages差不多，而tensorflow.keras是由TensorFlow实现的，后者可能与TF更兼容，但并不像Keras中的所有包，如层、InputSpec等。
另一个问题是，对于PyCharm这样的IDE
浏览 0提问于2019-09-10得票数 0
回答已采纳
我正在tensorflow服务模型上运行一个预测，并将这个PredictResponse对象作为输出返回：
结果：
outputs {
key: "outputs"
value {
dtype: DT_FLOAT
tensor_shape {
dim {
size: 1
}
dim {
size: 20
}
}
float_val: 0.000343723397236
float_val: 0.999655127525
float_val: 3
浏览 0提问于2017-06-27得票数 14
1回答
我正在使用服务器(SSH)在我的本地PC与PyCharm进行远程开发。我安装了tensorflow (pip)从本地PC与sudo特权。当我在终端中运行tensorflow代码(MobaXterm)时
python projects/example.py
代码可以工作，但由于权限原因无法在服务器中保存结果数据，但是当我使用sudo运行相同的代码时，可以解决权限错误。
sudo python projects/example.py
我收到了tensorflow进口错误。
ImportError: Traceback (most recent call last):
File "/us
浏览 4提问于2019-12-25得票数 0
回答已采纳
1回答
参数服务器和workers在神经网络的分布式训练中扮演了什么样的角色？(例如在分布式TensorFlow中)
也许可以将其细分如下：
在前传中
在回传中
例如：
参数服务器只负责在ACID存储中存储和提供变量值吗？
不同的参数服务器是否管理图形中的不同变量？
参数服务器是否接收梯度--它们的货架(从而将它们加起来)？
浏览 4提问于2020-07-03得票数 2
回答已采纳
我正在用C++构建一个应用程序，我想包括一个我用TensorFlow构建的ML分类器模型。应用程序将为不同的操作系统构建。有什么方法可以让TensorFlow随我的应用一起使用，这样人们就不用自己在机器上安装TensorFlow了？
我的另一个选择是在C++中实现自己的神经网络，只从保存的TensorFlow模型中读取权重和偏差。
浏览 2提问于2016-11-04得票数 0
回答已采纳
保存模型有什么区别？
使用tensorflow服务中规定的出口商：
例：
from tensorflow.contrib.session_bundle import exporter
#from tensorflow_serving.session_bundle import exporter
saver = tf.train.Saver(sharded=True)
model_exporter = exporter.Exporter(saver)
model_exporter.init(
sess.graph.as_graph_def(),
nam
浏览 2提问于2017-01-19得票数 8
回答已采纳
1回答
我在处理多gpu服务器上神经网络的训练。我使用的是来自MirroredStrategy 2.1的TensorFlow API，我感到很困惑。
我有8个GPU (Nvidia V100 32 GPUs )
我指定的批处理大小为32 (它是如何管理的？每个gpu会有一批32个样品吗？我是否应指定256为批号-32x8- ?)
何时和如何应用反向传播？我已经读过MirroredStrategy是同步的:它是否意味着在向前一步之后，所有批被分组成一批大小为32x8的批，然后应用反向传播？还是对每批32码的大小按顺序使用一次后支柱？
我真的很想确定我向服务器提交了什么样的实验，因为每个培
浏览 3提问于2020-09-07得票数 4
回答已采纳
2回答
我正在尝试找出在iOS应用程序中从Tensorflow模型(Inception或mobilenet)运行对象检测的最简单方法。
我在我自己的应用程序和网络中使用了iOS Tensorflow图像分类功能，并遵循
在我自己的应用程序和之后的网络上，我在安卓系统中使用了Tensorflow图像分类和目标检测功能
但是iOS示例不包含对象检测，只包含图像分类，那么如何扩展iOS示例代码以支持对象检测，或者在iOS中是否有完整的示例？(最好是objective-C)
我确实找到了和，但它从源代码重新编译了Tensorflow，这看起来很复杂，
还找到了
但还是没有检测到物体。
我还发现了使用Core
浏览 2提问于2019-03-22得票数 5
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
对象存储
实时音视频
即时通信 IM活动推荐
腾讯云开发者
