pytorch中的批量束流搜索
批量束搜索（Batch Beam Search）是在自然语言处理中常用的一种搜索算法，用于生成最优的序列输出。在PyTorch中，可以使用BeamSearchDecoder类来实现批量束搜索。
批量束搜索是一种基于束搜索（Beam Search）的改进算法，它通过同时处理多个输入样本的方式来提高搜索效率。在序列生成任务中，例如机器翻译或文本生成，批量束搜索可以在保证输出质量的同时，加快生成速度。
批量束搜索的主要步骤如下：
- 首先，通过编码器（Encoder）将输入序列转换为隐藏状态（Hidden State）。
- 然后，使用解码器（Decoder）生成初始的解码序列。
- 接下来，根据解码序列和隐藏状态，计算每个候选词的得分。
- 根据得分，选择得分最高的前k个候选词作为下一步的解码输入。
- 重复上述步骤，直到生成完整的输出序列或达到最大解码步数。
- 最后，根据得分最高的输出序列作为最终的生成结果。
批量束搜索的优势在于可以同时处理多个输入样本，提高了搜索效率和生成速度。它适用于各种序列生成任务，如机器翻译、文本摘要、语音识别等。
在腾讯云中，推荐使用AI Lab提供的AI开发平台，该平台提供了丰富的人工智能开发工具和服务，包括PyTorch框架的支持。您可以通过腾讯云AI Lab官网（https://cloud.tencent.com/product/ai-lab）了解更多相关信息。
参考链接：
- PyTorch官方文档：https://pytorch.org/docs/stable/generated/torch.nn.BeamSearchDecoder.html
- AI Lab官网：https://cloud.tencent.com/product/ai-lab
相关·内容
我想在TensorFlow中像在PyTorch中一样使用BatchNorm1D。我注意到TF中的BatchNormalization()默认使用axis=-1。与在PyTorch中一样，哪个轴是BatchNorm1D, BatchNorm2D, BatchNorm3D的正确轴？
浏览 7提问于2020-11-01得票数 0
在pytorch中，backward()函数累积渐变，我们必须通过调用optimizer.zero_grad()在每个小批量中重置它。在这种情况下，当实际动量SGD使用过去一些小批次的指数平均值更新权重时，动量SGD如何工作。
作为Pytorch的初学者，我很困惑。不需要使用过去的渐变来执行更新吗？
浏览 0提问于2018-12-31得票数 1
1回答
这似乎很愚蠢，但这是我在这里的第一篇文章。抱歉做了什么错事。
我目前正在使用TFX0.11(即tfdv-tft-tfserving)和tensorflow 1.11 (使用python2.7 )构建一个简单的ML管道。我现在有一个apache集群，我想将它用于TFX。我知道TFX背后的框架是ApacheStreams2.8，而且它(Apache)目前通过一个可移植的运行层支持使用python的flink。
但问题是我如何使用带有flink跑步器的apache横梁在TFX (tfdv-tft)中编写代码，因为TFX目前似乎只支持DirectRunner和DataFlowRunner (Googl
浏览 1提问于2018-12-19得票数 2
回答已采纳
在将数据集加载到GPU进行训练时，Pytorch NN将加载整个数据集还是只加载批处理？ 我有一个33 T4的数据集，很适合我的普通内存(64 T4)，但我只有16 T4的GPU内存(T4)。只要Pytorch一次只将一批加载到GPU中，那么它应该工作得很好，不会出现任何内存问题？
浏览 133提问于2021-04-10得票数 0
回答已采纳
1回答
我想知道是否有一种方法可以在两个PCollection之间与apache共享状态。
为了给您提供更多的上下文，我有两个PCollection。第一个是一连串的歌曲。第二个是表单genre=boolean的流。(例: rock=false，pop=true)我希望我的输出PCollection只有歌曲类型是真实的。
我知道，在apache中，您可以使用connect函数，然后使用RichCoFlatMapFunction同时处理这两个流。有什么类似的东西在梁或其他方式来做这一点吗？
我看了一些侧输入，但据我所理解，这些需要有界的流，我不确定状态是否会保持在窗口之外。
浏览 11提问于2022-07-27得票数 0
1回答
我正试图把MutationGroups变成SpannerIO的扳手。我们的目标是每10秒编写一次新的MuationGroups，因为我们将使用扳手来查询接近时间的KPI。
当我不使用任何窗口时，我会得到以下错误：
Exception in thread "main" java.lang.IllegalStateException: GroupByKey cannot be applied to non-bounded PCollection in the GlobalWindow without a trigger. Use a Window.into or Window.tr
浏览 1提问于2018-07-23得票数 4
神经网络和Pytorch的新手。
我在每个迷你批次中有300个回放记忆。我见过人们计算300个回放记忆的损失，但这对我来说并不是真的有意义。300个回放记忆来自非常不同的游戏状态，为什么将预测和目标之间的300个差异合并到一个值中是有意义的？当模型反向传播时，梯度是否被分成300个分支，每个分支对应于迷你批次中的一个条目？
例如，仍然使用小型批处理，每个批处理中有300个重放内存。我的策略网络输出10个动作的概率分布，或者300 x 10张量，我的目标概率分布具有相同的形状。我想找出我的预测和目标之间的交叉熵损失。我想知道我是应该在300个大小为10的张量的预测目标对之间找到300个交叉熵损失
浏览 8提问于2020-05-18得票数 1
我在一个基于WSL的环境中使用pytorch。当我在图形处理器(RTX3090)上训练深度学习模型(如下所示)时，它在loss.backward()停止响应。 pytorch停止后，GPU占用率为0%，nvidia-smi停止响应。 def train_loop(model, optimizer, scheduler, loader, device):
losses, lrs = [], []
model.train()
optimizer.zero_grad()
for i, d in enumerate(loader):
print(f"{i
浏览 183提问于2021-10-30得票数 0
将模型从PyTorch转换为ONNX或TensorRT格式时，参数和FLOPS (每秒浮点操作数)的数量是否会发生变化？
浏览 19提问于2021-11-24得票数 0
我正在尝试用pytorch和tensor2tensor训练seq2seq模型(转换器)。使用tensor2tensor时，批处理大小可能类似于1024，而pytorch模型显示CUDA out memory错误，批处理大小为8。
在tensor2tensor中有没有什么技术可以最大限度地利用内存。
如果有人知道这一点，请告诉我。
提前谢谢。
浏览 11提问于2020-05-05得票数 1
1回答
在阅读一本PyTorch书籍时，我偶然发现了这样一段代码，其中作者更改了轴的顺序。 img_t.permute(1，2，0) (将轴的顺序从C×H×W更改为H×W×C) 在神经网络中，H x W x C是输入图像的默认输入尺寸吗？
浏览 48提问于2021-09-17得票数 0
回答已采纳
试图用最新的anaconda发行版在我的windows 10上安装pytorch。Python版本为3.9.7，pip版本为21.2.4
我第一次更新了conda
> conda clean -all
> conda update -all
I cloned base environment into new environment called tabnet
> conda create --name tabnet --clone base
> conda activate tabnet
and tried to install pytorch-tabnet u
浏览 10提问于2021-12-23得票数 0
2回答
如何在Drupal6中对工作流状态进行批量操作？这张照片是视图批量操作快照，我安装了工作流和视图批量操作，但这些操作没有出现在下拉列表中，请查看
浏览 1提问于2011-06-06得票数 2
我不明白labels.size(0)这句话。我是Pytorch的新手，对数据结构感到非常困惑。
correct = 0
total = 0
with torch.no_grad():
for data in testloader:
images, labels = data
outputs = net(images)
_, predicted = torch.max(outputs.data, 1)
total += labels.size(0)
correct += (predicted == labels).sum().it
浏览 0提问于2019-04-08得票数 0
1回答
我在PyTorch中有一个PyTorch模型，我想使用CoreML运行它。当将模型导出到ONNX时，输入维度被固定为导出过程中使用的张量的形状，并再次通过从ONNX到CoreML的转换。
import torch
from onnx_coreml import convert
x = torch.ones((32, 1, 1000)) # N x C x W
model = Model()
torch.onnx.export(model, x, 'example.onnx')
mlmodel = convert(model='example.onnx',
浏览 3提问于2020-05-17得票数 4
数据流保证一次处理和交付。这是否通过不允许现有记录的突变和只允许幂等覆盖而在接收器处得到保证？
浏览 0提问于2018-12-11得票数 1
回答已采纳
1回答
我必须在tensorflow中使用ConvTranspose2d来处理我的GAN生成器的输入噪声(16,100)，而没有密集的层。有什么建议吗？
我看到这在pytorch中是可能的，但在tensorflow中是不可能的。
背景信息：
浏览 0提问于2020-07-21得票数 1
1回答
tl； Apache管道步骤涉及到构建码头映像；如何使用Google运行此管道？还有什么选择吗？
目前，我正在尝试使用google的数据流服务和apache (python)迈出我的第一步。
简单的示例非常直接，但一旦外部软件依赖关系发挥作用，事情就会让我感到困惑。使用自定义的码头容器来安装自己的环境似乎是可能的。虽然这对大多数依赖关系都很好，但如果依赖关系本身就是码头本身，那就没有帮助了，就像我碰巧遇到的情况一样:我的管道的一个步骤是使用一个外部项目，该项目大量使用了码头(即构建映像，运行它们)。
据我所知，解决这一问题有三种选择：
Docker在Docker中运行外部项目的脚本，这些脚
浏览 5提问于2022-04-04得票数 0
2回答
在iOS 9中，是否有办法让聚光灯看到用户可以搜索特定应用程序的关键字列表？
示例场景:应用程序标题(如在弹簧板上显示)："Photos“，但用户搜索”图片“或”照片“。
如果没有，应用商店中列出的关键字是否用于对设备上的应用进行索引？
浏览 0提问于2015-09-26得票数 1
回答已采纳
2回答
我有一个用例，在这里，我读取存储在google云存储中的新行json元素，并开始处理每个json。在处理每个json时，我必须调用一个外部API来执行去复制操作，不管之前是否发现了json元素。我正在做一个ParDo，每个json上都有一个DoFn。
我还没有看到任何在线教程提到如何从apache DoFn数据流调用外部API端点。
我使用的是Beam的JAVA SDK。我学习的一些教程解释了使用startBundle和FinishBundle，但是我不清楚如何使用它
浏览 6提问于2019-11-17得票数 4
回答已采纳
我需要获得关于PyTorch发布的内核的信息。例如，调用堆栈信息(如"main.py:24 -> . -> callkernel.py:53“)将是有益的。无论如何，我是否可以将这些信息从PyTorch应用程序执行中收集出来？我目前也在搜索PyTorch的源代码，但是我仍然找不到一个启动CUDA内核的行。我的问题有两个：
在内核启动时，我能得到调用堆栈吗？
有人能给我看一个PyTorch源代码中内核启动的例子吗？
浏览 4提问于2021-02-15得票数 1
我正在安装这个https://github.com/wkentaro/pytorch-fcn。它告诉我做这个指示。
git clone https://github.com/wkentaro/pytorch-fcn.git
cd pytorch-fcn
pip install .
pip install .是什么意思？我只需要输入点就可以运行哪个文件夹或文件？setup.py？
浏览 0提问于2018-08-21得票数 5
回答已采纳
1回答
我正在建立一个手写识别模型，目前有88%的验证准确性。我偶然看到了这个页面，它可以帮助模型使用字典实现更精确的预测。
问题是，我不知道如何在我目前的模型中实现这一点。这是我当前的ctc函数，它是从复制的。我如何修改它以添加字典？
class CTCLayer(keras.layers.Layer):
def __init__(self, name=None):
super().__init__(name=name)
self.loss_fn = keras.backend.ctc_batch_cost
def call(self, y_true
浏览 7提问于2022-03-25得票数 1
回答已采纳
我正在尝试在pytorch中实现WNGrad (从技术上讲，WN-Adam，本文中的算法4)优化器()。我以前从未在pytorch中实现过优化器，所以我不知道我是否做得正确(我是从adam实现开始的)。优化器没有取得很大的进展，并且像我预期的那样下降(bj值只能单调增加，这种情况发生得很快，所以没有任何进展)，但我猜我有一个bug。标准优化器(Adam，SGD)在我正在尝试优化的同一模型上工作得很好。
这个实现看起来正确吗？
from torch.optim import Optimizer
class WNAdam(Optimizer):
"""Implem
浏览 0提问于2018-03-15得票数 2
谁能指导我或提供双问号如何在之间的比较中工作。我不能让它工作，我不能在MySQL站点和谷歌上找到或搜索这些数据-随机结果束。
浏览 2提问于2011-01-19得票数 1
回答已采纳
流是无序的数据束，索引无法访问它们的成员。在这种情况下，
Stream.findFirst()
方法？在没有排序的流中，什么是“第一”元素？为了找到任何能满足一定条件的元素，我们有以下方法
Stream.findAny()
对于Stream.findFirst()，请参阅Java：
返回描述此流的第一个元素的{@link可选}，如果流为空，则返回空的{@code可选}。如果流没有遭遇顺序，则可以返回任何元素。
通常，流没有任何顺序，除非由
Stream.sort()
方法。
也就是说，只有当流也被排序时，Stream.findFirst()才有意义。
我说的对吗？请帮帮我！
浏览 1提问于2020-12-02得票数 0
2回答
我想自己创建一个LSTM类，但是我不想从头开始重写经典的LSTM函数。
深入研究PyTorch的代码，我只发现至少涉及3-4个具有继承的类的脏实现：
一个干净的PyTorch实现是否存在于某个地方？任何联系都会有帮助。
例如，我知道LSTM的干净实现存在于TensorFlow中，但我需要派生出PyTorch one。
作为一个明确的例子，我正在搜索的是一个像一样干净的实现，但是在PyTorch中
浏览 2提问于2018-05-04得票数 11
回答已采纳
Google最近在tensorflow的夜间构建了它的急切模式，这是一个访问tensorflow计算能力的命令式API。
：tensorflow与PyTorch?
相比怎么样？
可能影响比较的一些方面可能是：
由于其静态图形遗产(例如节点中的名称)，急切的优点和缺点。
它们中的任何一个都没有内在的局限性。
其中之一需要改进的领域(例如特征完整性、计算优化)。
生态系统差异(如张力板？)
Note1: Yaroslav写了关于“热切”的好特性的评论。
Note2:在前一个问题中，我要求比较PyTorch和Tensorflow折叠。当时，在我看来，由于谷歌的支持，折叠可能会面对PyTorch。我大
浏览 0提问于2017-11-07得票数 15
嗨，我需要从我的数据库中读取多个表，并加入这些表。一旦这些表连接起来，我想把它们推送到Elasticsearch。
表是从外部进程连接的，因为数据可以来自多个源。这不是一个问题，事实上，我有3个单独的进程，以每秒平均30000条记录读取3个不同的表。这些记录被连接到一个multimap中，然后为每个键生成一个JsonDocument。
然后有一个单独的进程，读取非规范化的JsonDocuments，并以每秒平均3000个文档的速度将它们扩展到Elasticsearch。
我很难找到一种分担工作的方法。我确信我的Elasticsearch集群每秒可以处理超过3000个文档。我在想，以某种方式分割
浏览 1提问于2016-02-28得票数 1
回答已采纳
2回答
我使用下面的命令在我的conda环境中安装py手电筒。
conda install pytorch=0.4.1 cuda90 -c pytorch
但是，我得到了以下错误
解决环境:失败
PackagesNotFoundError:以下软件包无法从当前频道获得：
pytorch=0.4.1
cuda90
现有渠道：
若要搜索可能提供所查找的conda包的备用通道，请导航到
我怎么才能解决这个问题？我当然安装了cuda 9和nvcc工厂。
浏览 4提问于2020-08-05得票数 2
回答已采纳
我试图更好地理解梁计算模型，并检查我的问题在这个模型中是否可以解决。
假设我有一连串的事件，
class Event {
public int userId;
public int score;
}
我想建造管道：
读取Event的流
维护分布式KV表(我们可以使用Apache或其他类似系统)
密钥是userId
值是用户的最大得分。
我读过关于的文章，据我所知，在StatefulParDo中很容易为用户保持最大的分数。但是如何存储这样的状态是束实现的细节，并且在StatefulParDo函数之外这个状态是不可用的。
是否有可能将这种状态保持在定
浏览 0提问于2021-08-18得票数 0
回答已采纳
2回答
目的:建立一个具有火炬和火炬视觉的conda环境。1.8.3，python3.6，MacOS 10.13.4。
我试过的是：
在Navigator中，创建了一个新的环境。尝试安装pytorch和torchvision，但由于UI搜索软件包时找不到任何可用的软件包，因此无法安装pytorch、torch、torchvision或类似的字符串。
conda install pytorch torchvision -c pytorch
conda update --all
pytorch 0.3.1、torch 0.3.1和torchvision 0.2.0现在显示为安装在根环境
浏览 1提问于2018-04-21得票数 9
回答已采纳
2回答
我正在使用Pytorch中实现的autogrid来训练神经网络，我需要计算整个算法的计算复杂度。我在哪里可以找到完整的autograd计算复杂度的计算？我在Pytorch文档中进行了搜索，但没有找到任何答案。谢谢
浏览 17提问于2019-01-10得票数 0
输入：一个句子
预期输出：由line.split(' ')生成的数组的字符串表示
变换定义的
.apply(
MapElements.into(TypeDescriptors.strings())
.via((String line) -> Collections.singletonList(line.split("[^\\p{L}]+")).toString()))
问题：Beam是否将我使用toString()的指令转换为基于toString的运行器实现？我想避免在不经意间定义一个可能导致性能不佳
浏览 3提问于2021-08-19得票数 0
我找不到任何在IBM Watson中部署PyTorch模型的好参考资料。我已经从Hugging transformers库创建了Bert模型，并使用Pytorch实现。现在，我需要在IBM watson中部署PyTorch模型以进行实时预测。
我已经搜索了很多，但没有找到任何部署步骤的参考资料。
浏览 0提问于2020-09-22得票数 0
当涉及到采用默认数据集(例如datasets.ImageFolder)的Pytorch时，我们可以找到数据中心与len(dataloader)一起使用的数据集的大小。然而，WebDataset呢？由于WebDataset是一个PyTorch数据集，是否有可能获得加载程序的大小，而该加载程序需要一个WebDataset？
浏览 41提问于2022-10-01得票数 1
在tensorflow中，如果您分别有两个形状为NxTxD和NxDxT的张量(N=batch_size、T=SequenceLength、D=NumberOfFeatures)，则可以对它们点上点并得到NxTxT的输出，如下所示：
import tensorflow as tf
import numpy as np
x1 = np.arange(2 * 4 * 3).reshape(2, 4, 3)
x2 = np.flip(np.arange(2 * 4 * 3).reshape(2, 3, 4), 1).copy()
print(x1.shape, x2.shape)
dotted =
浏览 3提问于2021-11-26得票数 1
回答已采纳
我正在考虑使用Druid进行聚合。我的用例是，我希望将数据流到Druid (这是同一天设置的segmentGranularity )，在摄入期间，我想聚合数据。
我的问题是，当我们发送第一个数据流时，数据被卷起来，聚合被计算并写入Druid。现在，当我将另一个数据流发送给德鲁伊(这与已经卷起来的数据相关)时，德鲁伊是如何处理它的。
德鲁伊是更新聚合数据，还是只是将这些数据附加到现有的聚合数据中？
浏览 1提问于2018-05-30得票数 0
回答已采纳
我的目标是统计使用PyTorch的存储库的数量。因此，我想出了以下代码，使用VS代码中的THUNDER扩展-
https://api.github.com/search/repositories?q=language:python + readme:PyTorch
然而，这只给了我7个搜索结果。我相信结果应该在数千人左右。有人能告诉我哪里出了问题吗？
浏览 5提问于2022-11-08得票数 0
回答已采纳
我正在使用PyTorch来执行视觉任务，但我想使用fast.ai提供的一些功能，因为它有很多有用的功能。我更喜欢在PyTorch上工作，因为我更容易理解正在发生的事情，更容易在网上找到关于它的信息，而且我希望保持灵活性。
在中，它写道，在我使用以下导入之后：from fastai.vision.all import *和from migrating_pytorch import *，我应该能够开始“递增地向您的PyTorch模型添加快速的优点”，这听起来很棒。但是，当我运行第二个导入时，就会得到ModuleNotFoundError: No module named 'migratin
浏览 4提问于2021-07-01得票数 0
我正在尝试使用pytorch==1.11.0 Docker图像来获取。
我第一次运行docker run -i -t continuumio/miniconda3 /bin/bash。然后，在容器中运行：conda search -c conda-forge pytorch==1.11.0。以下是错误：
No match found for: pytorch==1.11.0. Search: *pytorch*==1.11.0
PackagesNotFoundError: The following packages are not available from current channe
浏览 3提问于2022-08-28得票数 2
回答已采纳
PyTorch未启用和访问GPU驱动程序和CUDA。torch.cuda.is_available()返回false
我使用的是macOS Mojave 10.14.6，我已经安装了cuda10.0版本的pytorch.我在上尝试了验证，构造一个随机初始化的张量工作得很好。
但当我试着
import torch
torch.cuda.is_availalbe()
它返回false。
因此，我按照Pytorch上的说明安装了Anaconda和Cuda。
然后尝试这样做：
git clone --recursive https://github.com/pytorch/pytorch cd pyt
浏览 8提问于2019-09-16得票数 2
1回答
现在，我正在运行一个Python程序，使用Pytorch。我使用自己的数据集，而不是torch.data.dataset。我从从特征提取中提取的泡菜文件中下载数据。但出现以下错误：
Traceback (most recent call last):
File "C:\Users\hp\Downloads\efficient_densenet_pytorch-master\demo-emotion.py", line 326, in <module>
fire.Fire(demo)
File "C:\Users\hp\Anaconda3\en
浏览 1提问于2020-05-02得票数 5
1回答
PyTorch是否支持类似dict的对象，通过这些对象我们可以反向传播梯度，比如PyTorch中的张量？
我的目标是计算一个大型矩阵中的几个元素(1%)的梯度。但是如果我使用PyTorch的标准张量来存储矩阵，我需要将整个矩阵保存在我的GPU中，这会导致由于在训练期间可用的GPU内存有限而造成的问题。所以我在想，是否可以将矩阵存储为dict，只索引矩阵的相关元素，计算渐变和反向传播w.r.t --这些选择元素。
到目前为止，我只尝试使用张量，但由于上述原因，它会导致内存问题。因此，我搜索了大量的替代选项，比如PyTorch中的dicts，但是在Google上找不到任何这样的信息。
浏览 6提问于2022-03-08得票数 2
我正在为与NLP相关的任务创建一个自定义数据集。 在PyTorch中自定义数据广播tutorial，我们可以看到__getitem__()方法在返回样本之前为转换留出空间： def __getitem__(self, idx):
if torch.is_tensor(idx):
idx = idx.tolist()
img_name = os.path.join(self.root_dir,
self.landmarks_frame.iloc[idx, 0])
浏览 46提问于2021-02-25得票数 6
回答已采纳
有几种选择:例如、和其他。
在许多情况下，需要分割正在加载的数据，例如按日期或任意键，以便生成更小的表，以便更快地查询或绕过每个表的导入配额。
最近，引入了一个新的特性，，这使得这样的切分非常容易流:您只需指定一个后缀的表名，您想要流，在每个记录的基础上。
这一BigQuery特性是否适用于其他导入模式，最重要的是从GCS导入？以分片的方式将大量数据导入BigQuery将非常有用，这是一个常见的用例，例如当使用Cloud处理批处理作业时。
浏览 2提问于2016-01-07得票数 1
回答已采纳
tf.keras.layers.Embedding具有参数embeddings_regularizer。在pyTorch或nn.Embedding中，这等同于什么？
浏览 0提问于2020-12-05得票数 4
回答已采纳
我正在使用Resttemplate来使用来自外部服务器的巨大json。当数据集不是很大时，我的代码可以正常工作，但是一旦我针对完整的数据集运行它，我就无法将响应映射到bean类。下面是我的密码。
public void createCustomCsv(String name, String password, String serverUrl1, String serverUrl2, String propLocation)
SimpleClientHttpRequestFactory requestFactory = new SimpleClientHttpRequestFactor
浏览 4提问于2016-05-03得票数 0
回答已采纳
1回答
我正在从事CRM dynamics 2015的工作，最近我们无法通过“快速搜索”找到最近在CRM上创建的联系人，但我们通过“高级搜索”设法找到了他们。
另一方面，已经存在的联系人仍然可以通过快速查找视图进行搜索
Quick Search视图配置良好。可能的问题是什么？
提前谢谢你。
浏览 7提问于2019-06-20得票数 1
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
对象存储
即时通信 IM
实时音视频活动推荐
腾讯云开发者
