在ONNX文档中，如果我在Python中训练一个模型，例如scikit learn或Pytorch，我可以将其保存为ONNX格式，然后将其部署到Java运行时生产环境中。
有没有可能在相反的方向做呢？例如，在Java中训练模型，然后将其保存为ONNX格式或类似格式，并将其部署到Python生产环境中？
浏览 5提问于2021-03-07得票数 0
1回答
我在独立部署模式下运行一个Flink作业，该作业使用Java来加载pytorch模型。模型成功加载，我可以通过Flink Rest取消作业。但是，当我再次启动flink作业的时候，它会抛出，它需要重新启动独立部署才能再次加载是否可以在关闭作业请求的同时关闭进程，以便在不重新启动
浏览 5提问于2021-12-09得票数 0
我正在尝试创建一个模型，使用火把在救世主。我尝试在sagemaker.pytorch中从sagemaker.pytorch导入PyTorch中部署使用-sagemaker.pytorch模块。但是，我想了解PyTorchModel在sagemaker.pytorch中的sagemaker.pytorch import PyTorchModel是什么。他们都有dep
浏览 2提问于2019-08-22得票数 2
我已经训练并保存了一个pytorch模型，现在我想在windows os中的java (不是android)环境中使用它(因为我使用的是一些仅在java中可用的库)，可以吗？我在pytorch文档中找不到直接的答案，当点击java api文档时，链接就断开了。
浏览 97提问于2020-03-17得票数 0
我找不到任何在IBM Watson中部署PyTorch模型的好参考资料。我已经从Hugging transformers库创建了Bert模型，并使用Pytorch实现。现在，我需要在IBM watson中部署PyTorch模型以进行实时预测。
我已经搜索了很多，但没有找到任何部署步骤的参考资料。
浏览 0提问于2020-09-22得票数 0
我在Google平台上部署了Pytorch模型，我得到了以下错误： version="0.1", install_requires=REQUIRED_PACKAGES模型版本创建
浏览 5提问于2020-02-26得票数 3
1回答
我已经训练了一个关于萨吉克的伯特模型，现在我想让它为预测做好准备，也就是推理。
现在，我不明白我怎么能对它作出预测。我试着跟随许多向导，但仍然无法理解。以下是我尝试过的一些东西： framework='pytorch'
浏览 12提问于2022-03-27得票数 0
我有一个关于保存和部署带有端点的优化StableDiffusion模型的问题。我对数据科学和ML方面很满意，但不太了解用于生产的模型的部署方式。The problem：我不知道如何从Colab中拯救经过训练的模型。我也不知道如何访问模型，无论我选择在哪里托管它。
工作到目前为止，：。然而，在文档中有很多假设的知识，而且很难遵循。
浏览 9提问于2022-11-30得票数 0
我已经使用SageMaker训练了一个Pytorch模型，该模型现在存储在一个S3存储桶中。我正在尝试检索该模型并部署它。model location in s3 role=role, source_dir='pytorch_sourcesagemaker_session
predictor = est
浏览 14提问于2020-03-04得票数 0
回答已采纳
我有以下代码来部署我的模型： entry_point='inference.py', role=instance_type=instance_type, deserializer=JSONDeserializer(),
在我的推理代码中torch.cuda.is_available() else &q
浏览 9提问于2022-11-11得票数 1
回答已采纳
1回答
我对在CUDA上运行int8量化模型是否可能感到困惑，或者您是否只能在CUDA上使用fakequantise来训练量化模型，以便在另一个后端(如CPU )上部署。我想用实际的int8指令而不是FakeQuantised float32指令在CUDA上运行该模型，并享受效率的提高。比托尔医生对这件事没有什么特别的解释。如果有可能在CUDA上使用不同的框架(如TensorFlow )运行量化模型，我很想知道。
这是准备我量化模型的代码(使用训练后量化)。：
浏览 0提问于2021-10-26得票数 2
我想在AWS上安装pyort1.5.0。由于火炬库非常大，我需要使它尽可能小，以适应大小限制。到目前为止，我的脚本看起来是这样的： docker run \ -v $(pwd):/build \ sh -c " pip3 install torch==1.5.0 -t python/torch --no-cache-dir;
find . -type
浏览 7提问于2020-06-01得票数 1
回答已采纳
有谁能提供一个使用SageMaker管道来部署火炬模型的示例？
我使用了MLOps模板(用于建模、培训和部署的MLOps模板)来构建MLOps项目。该模板使用sagemaker管道来构建一个管道，用于模型的预处理、训练和注册。部署脚本在YAML文件中实现，并使用CloudFormation运行。在注册模型时，将自动触发部署脚本。模板使用xgboost模型来训练数据和部署模型
浏览 1提问于2021-10-11得票数 0
2回答
出于好奇，我遵循了一些机器学习和深度学习教程，但奇怪的是，它们中没有一个提到下一步如何处理经过训练的模型？
那么，如何处理训练好的模型呢？它可以在网站上实现吗(例如，与Wordpress集成)？
浏览 0提问于2019-08-14得票数 0
关于CoreML模型的教程都是将TensorFlow模型或PyTorch模型转换为CoreML模型。如果预先训练好的模型文件是mlmodel类型，我不知道如何在python中使用它，也不知道如何将mlmodel转换为tf模型。如何在Python语言中通过TensorFlow、Keras或PyTorch来读取和部署CoreML模型？
浏览 28提问于2020-09-06得票数 0
回答已采纳
我看了很多关于在本地部署SageMaker模型的帖子，但它们必须绑定到一个亚马逊网络服务笔记本实例，才能在本地运行预测/服务(亚马逊网络服务SageMaker Python SDK)。这违背了完全脱机运行Sagemaker训练模型的实际意图。还有一些人尝试在S3上取消对tar.gz文件的筛选，然后包装要在本地部署的内容。然而，该过程似乎非常局限于某些类型的模型，如XGBoost和MXnet。因此，有没有办法脱机部署SageMaker训练过的<
浏览 4提问于2020-02-20得票数 2
我打算在网站上提供pytorch模型(Resnet18)。我不认为服务器(Heroku)可以处理这种计算。有没有办法在cpu中优化推理？
非常感谢
浏览 7提问于2021-09-19得票数 0
1回答
我尝试使用py手电移动颤振插件将一个模型加载到一个android应用程序中，这个插件只是一个android py手电筒包的包装器，但是当我试图加载该模型时，我得到了以下调试语句E/PyTorchMobile( 8111): at org.pytorch.Module.load(Module.java:25)
E/PyTorchMobile( 8111):
浏览 39提问于2022-11-18得票数 0
试图部署本地预先培训的模型，通过萨吉梅克创建一个端点并使用它，我最近一直在学习AI/ML领域，我是这样一个菜鸟。需要帮助。我部署了一个模型 py
浏览 12提问于2022-08-22得票数 0
我为大学目的在PyTorch框架中开发了我的聊天机器人。该模型在对数损失值为0.5的情况下工作良好，并能够适当地回答问题。我很少看到像fast.ai，flask和Django这样的产品化建议。但我希望该模型部署在谷歌助手上，以便我的最终用户可以利用机器人的服务，而不需要任何外部安装。如何将我的PyTorch模型集成到Dialogflow上的Google Assistant？
浏览 0提问于2019-04-19得票数 0
云服务器
ICP备案
对象存储
即时通信 IM
云直播
腾讯云开发者
