我检查了tf-serving示例，发现使用result = stub.Predict(request, 10.0)，而使用result_future = stub.Predict.future(request有什么关系呢？
浏览 7提问于2017-06-13得票数 4
根据我的研究，TFX不支持TFX Pipeline中的自定义特性转换，因为我的自定义python函数不能在图形中序列化。因此使得所述功能在服务/推断时间不可用。我发现的一个替代方案是通过创建自定义可服务()来扩展TensorFlow服务，但我还没有找到任何添加功能转换代码的具体示例。
如何将功能转换包装在SavedModel周围？
浏览 4提问于2021-02-12得票数 0
1回答
我想使用TensorFlow为自定义模型服务(没有预先训练的起点)。我已经通过了“盗梦空间”TensorFlow服务教程的前Kubernetes部分，使用Docker：def
浏览 2提问于2017-04-13得票数 4
回答已采纳
正如我在源代码中看到的，SessionBundlePredict在MetaGraphDef中使用collection_def，SavedModelPredict在MetaGraphDef中使用signature_def，但我不知道collection_def和signature_def之间的区别。
浏览 7提问于2017-01-24得票数 0
我正在使用TensorFlow构建一个CNN文本分类器，我想将其加载到tensorflow中--使用serving进行服务和查询。我还可以将模型加载到tensorflow_model_server中而不会出错。(request, 5.0)
我违反规则的地方:我在Python 3.5.3中使用tensorflow-serving-apis，而pip install不是官方支持的。不同的帖子(例如：)都
浏览 1提问于2018-01-31得票数 5
我对python和tensorflow比较陌生，并且一直在专门为一个项目学习它。我在port=9000上运行tensorflow_model_server。我已经在每个用户帐户上测试了这个命令行的执行。
类似地，我知道Flask + WSGI正在工作，因为我可以看到，当log.info在脚本<em
浏览 1提问于2018-01-10得票数 1
1回答
SageMaker似乎给出了使用两个不同的服务堆栈来服务自定义码头映像的示例：
能否有人在很高的层次(我对网络工程知之甚少)向我解释一下，这些不同的组件有什么责任？由于第二个堆栈只有两个组件而不是一个组件，我可以正确地假设TensorFlow服务完成了Gunicorn和烧瓶的工作(不
浏览 0提问于2019-01-16得票数 2
回答已采纳
我的用例是:在tf服务中服务多个模型。"}挑战1：提前感谢！
浏览 0提问于2018-12-07得票数 0
1回答
我在本地模式下从估计器中部署了一个模型，当试图使用gRPC调用Tensorflow服务(TFS)预测端点时，我得到了以下错误：import predict_pb2from tensorflow_serving.apisoptions=options)
stub = prediction_service_pb2_grpc.PredictionServiceStub(cha
浏览 26提问于2022-10-18得票数 0
回答已采纳
2回答
在tensorflow中不同的完全连接的层之间有什么不同。我知道可以有两个版本:面向对象和功能，但我在tensorflow中找到了4个不同的层：
本文档包含使用所有示例的示例。我也想知道什么时候使用每一层。
浏览 2提问于2018-06-23得票数 0
回答已采纳
我们有一个相当复杂的系统，它将不同的数据源组合在一起，为我们的用户提供产品推荐。在这些组件中，通常是对我们正在运行的一个或多个TensorFlow服务模型的调用。但它似乎与我们最终的web服务层中的某些东西隔离开来。当我单独为TensorFlow服务组件运行下面的代码时，它轻而易举地通过了一系列随机输入，没有任何问题。为什么在TensorFlow服务没有明显的负载
浏览 20提问于2020-09-30得票数 1
回答已采纳
我跟踪了医生然后是
AWS EC2Instance Type: r5.large# download tensorflowserving codecd s
浏览 1提问于2019-09-16得票数 1
回答已采纳
我很难为tensorflow模型提供服务，这个模型是我用tensorflow的对象检测API从预先训练好的模型中训练出来的。因此，我创建了一个运行tensorflow-serve的docker容器。我已经成功地为训练过程结束时创建的模型提供了服务。(我在我的"train_dir“中找到了一个名为"export”的新文件夹，其中包含一个saved_model.pb、variables variables.data-00000-of-00001和
浏览 5提问于2018-08-29得票数 2
回答已采纳
我试图为更快的RCNN与Resnet 101模型与tensorflow服务。我知道我需要使用tf.saved_model.builder.SavedModelBuilder来导出模型定义和变量，然后我需要一个tensorflow_serving提供的类似inception_client.py当我正在学习这些例子、文档和实验的时候，我认为可能有人做了同样的事情。所以，如果你已经做过同样的事情，或者知道如何完成它，请提供帮助。提前谢谢。
浏览 1提问于2017-07-21得票数 0
回答已采纳
1回答
系统信息
我在为自己的模型提供服务时发现了一条有线错误消息saved_model.load文件，这很好，但是当我通过客户端发送请求时，报告了以下错误：
以：<_Rendezvous = StatusCode.INVALID_ARGUMENT details =“张量:0”结尾，在图1537040456.2109759
浏览 1提问于2018-09-17得票数 1
背景:我是Tensorflow和AI的新手，希望在基于Java的环境中试用Tensorflow。Found有一个Java并试用了它，但是结果似乎与我的Python实现不一样。在基于Python的Tensorflow环境中，dataset输出的值或多或少是正确的。例如，如果我有一辆汽车的图像，并且我的分类选项是汽车、bug或建筑，它将输出汽车。但是在我的类似Java中，我尝试使用Tensorf
浏览 0提问于2018-11-05得票数 0
回答已采纳
我使用的是Tensorflow对象检测API(github.com/tensorflow/models/tree/master/object_detection)和一个对象检测任务。现在，我在使用Tensorflow服务(Tensorflow.github.io/ serving /)训练的检测模型上遇到了问题。
1.我遇到的第一个问题是将模型导出到可服务文件。不过，我还是对为模特<
浏览 1提问于2017-07-27得票数 7
回答已采纳
2回答
我有两个集装箱(码头)：NodeJS容器用作TensorFlow容器的前端。
这两个容器在使用环境变量指定的端口上都有TCP侦听器。如果我想缩放NodeJS和TensorFlow容器，例如2个NodeJS实例和4个TensorFlow实例，那么我有哪些选项可以将它们连接起来，以便在TensorFlow的4个实例中均匀地分配负载？目前，我在NodeJS容器
浏览 0提问于2018-06-21得票数 6
我已经建立了syntaxnet和tensorflow-使用bazel服务。两者都嵌入了自己的(部分？)tensorflow的拷贝。我已经有了一个问题，我想要“导入”tensorflow的某些部分--在一个脚本中“生活”在syntaxnet树中，这是我无法理解的(不做一些非常丑陋的事情)。现在我想要“张力板”，但它显然不是作为syntaxnet或tensorflow服务中</
浏览 1提问于2016-06-13得票数 0
回答已采纳
2回答
我使用tensorflow.keras脚本模式训练了一个SageMaker模型，如下所示：from sagemaker.tensorflow importTensorFlow
source_dir='src',py_version='py3',
浏览 0提问于2019-01-27得票数 2
回答已采纳
云服务器
ICP备案
实时音视频
对象存储
即时通信 IM
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号