Theano梯度故障切换扫描操作
是指在使用Theano库进行深度学习模型训练时，当梯度计算出现故障或不稳定时，自动切换到备用的梯度计算方法。这个操作可以提高模型训练的稳定性和可靠性。
Theano是一个用于定义、优化和评估数学表达式的库，特别适用于深度学习模型的构建和训练。在深度学习中，梯度计算是一个关键的步骤，用于更新模型参数以最小化损失函数。然而，由于深度学习模型通常具有复杂的结构和大量的参数，梯度计算可能会遇到各种问题，如梯度消失、梯度爆炸、梯度不稳定等。
为了应对这些问题，Theano提供了梯度故障切换扫描操作。该操作会在梯度计算过程中监测梯度的稳定性，并在检测到故障时自动切换到备用的梯度计算方法。这样可以避免梯度计算中的错误传播，提高模型训练的稳定性和收敛速度。
Theano梯度故障切换扫描操作的优势包括：
- 提高模型训练的稳定性：通过自动切换到备用的梯度计算方法，可以避免梯度计算中的错误传播，减少训练过程中的不稳定性。
- 提高模型训练的可靠性：当梯度计算出现故障时，自动切换到备用的梯度计算方法可以保证模型训练的正常进行，避免训练过程中的中断或失败。
- 加速模型训练的收敛速度：通过避免梯度计算中的错误传播，可以加快模型训练的收敛速度，提高训练效率。
Theano梯度故障切换扫描操作适用于各种深度学习模型的训练，特别是在模型结构复杂、参数量大的情况下更为有效。它可以应用于图像识别、自然语言处理、语音识别等各种领域的深度学习任务。
腾讯云提供了一系列与深度学习相关的产品和服务，包括云服务器、GPU实例、弹性计算、容器服务等。这些产品和服务可以帮助用户快速搭建和部署深度学习环境，使用Theano等库进行模型训练。具体产品和服务的介绍和链接地址如下：
- 云服务器（Elastic Compute Cloud，ECS）：提供灵活可扩展的云服务器实例，支持GPU实例，适用于深度学习模型的训练和推理。详情请参考：腾讯云云服务器
- 弹性计算（Elastic Inference，EI）：为深度学习模型提供弹性推理能力，可以在云服务器上快速部署和运行模型，提高推理性能和效率。详情请参考：腾讯云弹性计算
- 容器服务（Tencent Kubernetes Engine，TKE）：提供基于Kubernetes的容器管理服务，支持快速部署和管理深度学习模型的容器化应用。详情请参考：腾讯云容器服务
通过以上腾讯云的产品和服务，用户可以方便地构建和管理深度学习环境，使用Theano进行模型训练，并享受腾讯云提供的高性能和稳定性。
相关·内容
我正在使用Theano/Pylearn2在我自己的网络中实现LSTM模型。然而，我发现Theano扫描比使用普通循环慢得多。我用的是Theano分析器
<% time> <sum %> <apply time> <time per call> <type> <#call> <#apply> <Class name>
95.4% 95.4% 25.255s 4.31e-02s Py 586 3 theano.scan_module.sca
浏览 4提问于2015-04-23得票数 2
所以事情是这样的:我必须在下面编写代码，当我应用grad wrt A时，一切都运行得很好，它正确地计算了梯度。但是，如果我使用wrt=i，那么它会给我一个DisconnectedInputError。为什么会这样，我该如何去区分i呢？
def step(i, A):
return A*i, i
A = T.scalar("A")
outputs, _ = theano.scan(step, sequences=T.arange(2,6), non_sequences=A)
res, i = outputs
grad = T.grad(cost=res[3], wrt=
浏览 0提问于2016-05-30得票数 0
1回答
我尝试通过扫描操作手动计算标量成本相对于权重向量的梯度。然而，这并不起作用，并且总是返回SubTensor不可微的错误
要确保可以计算渐变，请执行以下操作：
T.grad(cost, p2)
效果很好。这意味着p2不会与成本脱节。但是，当我尝试执行以下操作时：
def differentiate_element(i,p2,c):
p2element=p2[i]
return T.grad(c,p2element)
h2, h2_updates = theano.scan(differentiate_element,
浏览 0提问于2016-05-31得票数 1
1回答
我正在尝试使用pymc3定义一个复杂的自定义似然函数。似然函数涉及大量迭代，因此我尝试使用theano的扫描方法直接在theano中定义迭代。这里有一个非常简单的例子，它说明了我所面临的挑战。我试图定义的(伪)似然函数是两个pymc3随机变量p和θ的和。当然，我可以简单地返回p+theta，但我尝试编写的实际似然函数更复杂，而且我认为我需要使用theano.scan，因为它涉及很多迭代。
import pymc3 as pm
from pymc3 import Model, Uniform, DensityDist
import theano.tensor as T
import theano
浏览 10提问于2016-09-03得票数 0
我不知道这样问这个问题是不是一个好地方，但是我在Theano库中找不到谈论结构化梯度和规则梯度之间的区别的文档。它们是什么？
浏览 0提问于2015-03-04得票数 0
我第一次使用Theano来构建一个大型统计模型。我正在执行一种随机梯度下降，但对于小批量中的每个样本，我需要执行一个采样过程来计算梯度。在Theano中，有没有一种方法可以在我对小批量中的每个数据点执行采样过程时汇集梯度，然后才执行梯度更新？
浏览 0提问于2015-01-18得票数 0
1回答
这个问题指的是Theano的最佳做法。以下是我要做的事：
我正在为SMT系统建立一个神经网络。在此背景下，我从概念上将句子表示为可变长度的单词列表，而单词表示为固定长度的整数列表。理想情况下，我希望将我的语料库表示为三维张量(第一维=语料库中的句子，第二维=句子中的单词，第三维=单词中的整数特征)。困难在于，句子的长度是可变的，据我所知，Theano中的张量严格要求一维的所有长度必须是相同的。
我想出的解决办法包括：
用虚词填充句子，使句子大小相等。但这意味着，每当我迭代一个句子，我需要包括特殊的代码，以放弃填充。
将语料库表示为矩阵的向量。然而，这使得很难使用某些功能。例如，如果我想
浏览 4提问于2014-06-13得票数 2
1回答
在theano中实现深度网络让我可以从头开始精确地控制我的层。我知道它不再被支持，但在我看来，它仍然有活跃的使用(至少从我:->)。无论如何，我注意到了一些通过扫描操作进行梯度计算的行为。 我有以下内部函数( RNN内部迭代步骤的一部分，我可以提供if nec)： def iter_step(x_step, h):
...
return hidden, obj, est 我有一组用来计算渐变的参数h_params，o_params，e_params： h, o, e = iter_step(x_step, h)
hidden_grads = T
浏览 21提问于2020-03-16得票数 1
1回答
我对theano扫描机制有点困惑，这里有一个计算A^k的简单代码片段
import numpy
import theano
import theano.tensor as T
def recurrence(pre_output, a):
print("test")
return pre_output*a
x = T.ivector('x')
o, updates = theano.scan(
fn = recurrence,
outputs_info = T.ones_like(x),
non_sequences
浏览 0提问于2016-10-08得票数 1
1回答
我想仔细看看全连接神经网络中每一层的雅可比矩阵，即∂y/∂x，其中x是该层的输入向量(激活上一层)，y是该层的输出向量(激活这一层)。
在在线学习方案中，这可以很容易地完成如下操作：
import theano
import theano.tensor as T
import numpy as np
x = T.vector('x')
w = theano.shared(np.random.randn(10, 5))
y = T.tanh(T.dot(w, x))
# computation of Jacobian
j = T.jacobian(y, x)
当学习批处理时，
浏览 0提问于2017-06-02得票数 1
在TensorFlow或Theano中，你只告诉图书馆你的神经网络是怎样的，以及前馈应该如何操作。
例如，在TensorFlow中，您可以编写：
with graph.as_default():
_X = tf.constant(X)
_y = tf.constant(y)
hidden = 20
w0 = tf.Variable(tf.truncated_normal([X.shape[1], hidden]))
b0 = tf.Variable(tf.truncated_normal([hidden]))
h = tf.nn.softma
浏览 2提问于2016-02-11得票数 10
回答已采纳
我试图使用在Theano中内置的函数。但是，当我从theano.function中定义ExpmGrad时，我会看到一个错误，即输出必须由theano变量来完成。
我不确定使用这个ExpmGrad函数的正确方法是什么，因为我没有在网上找到任何使用它的例子。
这就是我试过的：
import theano
from theano.tensor import T
J1 = T.dscalar('J1')
H = np.arange(16).reshape(4, 4) * J1
gJ = theano.tensor.slinalg.ExpmGrad(H)
f = theano.funct
浏览 4提问于2016-12-01得票数 0
回答已采纳
我试图重构我的代码，以便更容易地更改架构。目前，我正在构建一个递归神经网络，如下所示。
# input (where first dimension is time)
x = T.matrix()
# target (where first dimension is time)
t = T.matrix()
# recurrent weights as a shared variable
W_hh = theano.shared(numpy.random.uniform(size=(n, n), low=-.01, high=.01))
# input to hidden layer wei
浏览 2提问于2014-12-11得票数 0
回答已采纳
在Theano中，变量被写成“符号”：
x = T.matrix("x")
y = T.vector("y")
从文档中可以看出，我们创建这些符号的原因可能是因为这些变量被编译成C代码。但我不确定是否是这样，更不用说使用符号变量的唯一原因了。
在Theano中创建符号变量的目的是什么？他们能做什么，a，开箱即用Python不能做的作业？
浏览 4提问于2015-05-21得票数 1
1回答
import os
import theano, numpy
from theano import tensor as T
from collections import OrderedDict
class RNNSLU(object):
""" Elman neural net"""
def __init__(self, nh, nc, ne, de, cs):
"""
Hyperparameters used for initialization
nh : dimension of the hidden lay
浏览 2提问于2015-07-29得票数 0
回答已采纳
1回答
我目前正在研究使用Las涅/ Theano的递归神经网络。
在训练过程中，使用Theano的符号梯度计算更新。
grads = theano.grad(loss_or_grads, params)
虽然梯度表达式在一般情况下是非常好的，但为了监视训练，我也对梯度值感兴趣。
我现在的问题是，是否有一个内置的方法来获得梯度值，到目前为止我还没有找到，或者我必须自己去做。
提前感谢
浏览 1提问于2016-05-16得票数 3
回答已采纳
我正在尝试将使用Theano编写的代码复制到PyTorch。在代码中，作者使用以下命令计算梯度 import theano.tensor as T
gparams = T.grad(cost, params) gparams的形状是(256, 240) 我试过使用backward()，但它似乎没有返回任何东西。在PyTorch中有没有等同于grad的东西？ 假设这是我的输入， import torch
from torch.autograd import Variable
cost = torch.tensor(1.6019)
params = Variable(torch.ran
浏览 26提问于2019-10-17得票数 0
1回答
我有用YAML描述的卷积神经网络模型。当我运行pylearn2 2的train.py时，我发现只使用了四个核心中的一个。
有没有办法进行多线程训练？
是的，也许这是个西亚诺的问题。我遵循了这个关于多核支持的 Theano教程，OMP_NUM_THREADS=2 python theano/misc/check_blas.py -q对我不起作用-我只看到一个线程在运行。还有进一步的问题:培训是否可以与OMP_NUM_THREADS__并行化？因为我不能检查，因为OMP_NUM_THREADS不做这件事。那我该为我的布拉斯操心了吗？
我使用LAPACK，numpy连接到它们，python2.7.9
浏览 11提问于2015-05-26得票数 2
回答已采纳
如何才能得到共享变量的梯度值？那是,
如何制作theano.function( outputs=TT.grad( shared vars ))？
以中的最小训练为例
import theano
import theano.tensor as TT
import numpy as np
floatx = theano.config.floatX
#...............................................................................
x = TT.fvector('x')
target = TT.fsca
浏览 2提问于2016-11-02得票数 0
回答已采纳
为了突出显示问题的意图，让我们遵循这个。
theano有三种方法来计算张量的乙状结肠，即，和。使用后两种方法似乎打破了梯度下降算法。
传统的乙状体按其应有的方式收敛，但其他的则有奇怪的不一致的行为。ultra_fast_sigmoid，在试图计算未定义的梯度‘方法('grad'，ultra_fast_sigmoid)时抛出一个直接的错误，而hard_sigmoid编译得很好，但是无法收敛到解决方案上。
有人知道这种行为的根源吗？在文档中没有突出显示这是应该发生的，这似乎有悖于直觉。
代码：
import theano
import theano.tensor as T
i
浏览 3提问于2016-02-04得票数 5
回答已采纳
在提亚诺受到表扬之后，我想我应该用一种特殊的SGD来做我的第一步。我得到了一个参数向量θ，我想优化我的损失函数，返回一个向量，其中包含矩阵A和B之间的平方损失的列和，每个元素都是一个独立的损失，对于一个特定的维，使用广播的θ。Theta应该被更新，以便在下一次迭代中，每个维度的损失更低。我选择这个是因为数据(X，Y)就是这样给出的。
现在，教程说应该使用T.grad()来获取更新的梯度。但是T.grad不允许我计算非标量的梯度。教程()说：“标量成本只能由梯度直接处理，数组是通过重复应用来处理的。”因此，我尝试(不可否认是一种丑陋的尝试)来计算每个损失的梯度。如何计算多重损失的梯度？有没有一种
浏览 1提问于2015-10-06得票数 2
回答已采纳
我正在尝试学习theano，并决定实现线性回归(使用教程中的Logistic回归作为模板)。我得到了一件奇怪的事情，如果我的成本函数使用.sum()，T.grad就不能工作，但如果我的成本函数使用.mean()，它就能工作。代码片段：
(这不起作用，结果是W向量中充满了NANs)：
x = T.matrix('x')
y = T.vector('y')
w = theano.shared(rng.randn(feats), name='w')
b = theano.shared(0., name="b")
# now we d
浏览 2提问于2014-11-25得票数 2
假设一个函数计算数组的每个索引的外观：
import theano
import theano.tensor as T
A = T.vector("A")
idx_range = T.arange(A.shape[0])
result, updates = theano.scan(fn=lambda idx: T.sum(A[:idx+1]), sequences=idx_range)
count_ones = theano.function(inputs=[A], outputs=result)
print count_ones([0,0,1,0,0,1,1,1])
浏览 1提问于2015-12-12得票数 3
回答已采纳
我是西亚诺的新手，现在有麻烦了。我试图使用theano创建一个神经网络，它可以用于回归任务(而不是分类任务)，在阅读了大量教程之后，我得出的结论是，我可以通过创建一个只处理回归的输出层来实现这一点，并准备了一个包含几个隐藏层的“正常”神经网络。(但这仍然存在于未来)。
这就是我的“模型”：
1 #!/usr/bin/env python
2
3 import numpy as np
4 import theano
5 import theano.tensor as T
6
7 class RegressionLayer(object):
8 "&
浏览 2提问于2016-03-02得票数 3
回答已采纳
1回答
我想在Theano中定义以下两个变量的函数并计算它的Jacobian：
f(x1,x2) = sum((2 + 2k - exp(k*x1) - exp(k*x2))^2, k = 1..10)
如何为上述表达式建立一个Theano函数--并最终使用Jacobian将其最小化？
浏览 1提问于2014-07-31得票数 3
回答已采纳
1回答
对于一个ConvNet来说，找到使单个conv的活动最大化的范数有界的输入是很有趣的。过滤器作为的一种方式。我想在深度学习包Keras中这样做。这可以使用黑匣子优化算法和来自的代码来完成。
# with a Sequential model
get_3rd_layer_output = theano.function([model.layers[0].input],
model.layers[3].get_output(train=False))
layer_output = get_3rd_layer_output
浏览 4提问于2015-12-24得票数 5
回答已采纳
1回答
随机梯度下降NaN输出
、、、
我使用Theano随机梯度下降来求解一个极小化问题。当运行我的代码时，第一次迭代似乎有效，但过了一段时间后，优化的参数(eta)变成了NaNs (以及衍生工具g_eta)。这似乎是一个Theano技术问题，而不仅仅是我的代码中的一个bug，因为我以几种不同的方式检查了它。
有人知道原因是什么吗？我的代码如下：
n_exp = 4
features = theano.shared(value=X_comb_I, name='features', borrow=True)
x = T.dmatrix()
y = T.ivector()
srng = RandomStreams(
浏览 4提问于2015-06-11得票数 1
1回答
我在使用pymc2复制pymc3代码时遇到了问题。
我相信这是因为pymc3使用的是theano类型的变量，这些变量与我使用的numpy操作不兼容。所以我使用的是@theano.decorator：
我的职能是：
with pymc3.Model() as model:
z_stars = pymc3.Uniform('z_star', self.z_min_ssp_limit, self.z_max_ssp_limit)
Av_stars = pymc3.Uniform('Av_star', 0.0,
浏览 4提问于2017-09-29得票数 3
回答已采纳
我们是否有加速版的numpy.max(X, axis=None)在西亚诺。我查看了文档并找到了theano.tensor.max(X, axis=None)，但它比numpy实现慢了4-5倍。
我可以向你保证，它并不是因为矩阵大小的错误选择而慢下来的。同样的矩阵在theano.tensor.exp下比它的numpy矩阵快40倍。
有什么建议吗？
浏览 0提问于2014-05-21得票数 5
回答已采纳
5回答
是否可以用校正线性单元(ReLU)代替tanh()或sigmoid()作为隐层的激活函数？隐藏层的实现如下所示，就我在互联网上搜索的情况而言，ReLU没有在Theano内部实现。
class HiddenLayer(object):
def __init__(self, rng, input, n_in, n_out, W=None, b=None, activation=T.tanh):
pass
浏览 4提问于2014-10-21得票数 11
回答已采纳
2回答
在我的代码中，我使用theano计算欧氏距离矩阵(来自的代码)：
import theano
import theano.tensor as T
MAT = T.fmatrix('MAT')
squared_euclidean_distances = (MAT ** 2).sum(1).reshape((MAT.shape[0], 1)) + (MAT ** 2).sum(1).reshape((1, MAT.shape[0])) - 2 * MAT.dot(MAT.T)
f_euclidean = theano.function([MAT], T.sqrt(squared_e
浏览 5提问于2015-08-10得票数 3
回答已采纳
1回答
在提亚诺实施辍学
、、、、
我目前正在使用一个建立在Theano的卷积神经网络。丢包是一种正则化技术，其中节点输出以一定的概率被屏蔽，据我所知，掩码应该在正向和反向传播中应用。
由于我目前在Theano工作，反向传播步骤被T.grad函数所代替，该函数使用自动微分来计算模型的梯度。在我在网上发现的几个例子中，它们只是在前向掩蔽值，在梯度计算步骤中根本不考虑辍学掩码。这会对网络产生什么样的影响，如果我想在梯度计算中包括掩码，我会怎么做呢？我现在拥有的代码主要是基于Lisa在他们的深度学习教程中提供的代码。
浏览 4提问于2016-06-16得票数 0
有人能告诉我下面的代码有什么问题吗？
我是pymc2的临时用户，通常用于求解物理方程。我很难适应pymc3，而文档在我看来似乎不太清楚。另外，我在论坛上没有意识到我的问题，可能是因为我不知道我的问题是什么，…
我使用find_MAP方法来获得拟合值的第一次猜测，但是这个第一次猜测是完全错误的(即使在物理极限内也是如此)，并警告我存在离散变量(这是错误的)，这意味着梯度是不可用的。
其目的是拟合扩散方程中的一些参数:这里alpha0，alpha1和epsilon，它们是连续的，先验地均匀分布。在长时间的调试过程中，我对代码进行了反优化，因此我认为代码本身并不有趣。只需知道pymc2版本是正常的，
浏览 0提问于2017-01-27得票数 0
回答已采纳
我正在计算一个张量，它是一个复数，但是我把它的大小转换为float32。
x = theano.tensor.abs_(cum).astype(theano.config.floatX)
当我试图计算一个成本函数时，我会得到以下错误：
TypeError: Elemwise{abs_,no_inplace}.grad (Input index 0, dtype complex128)
我不知道为什么这是happening.Any的帮助将是真的感谢！
浏览 3提问于2016-04-18得票数 1
回答已采纳
2回答
求损失函数中的张量值
、、、、
我想得到这个的y_pred和y_true张量的值。我需要这能够执行一些自定义计算和改变损失，这些计算是可能的，与实际的数组值。
def mean_squared_error(y_true, y_pred):
#some code here
return K.mean(K.square(y_pred - y_true), axis=-1)
有办法在角星上这样做吗？或者在其他的ML框架中(tf，pytorch，theano)？
浏览 5提问于2018-08-17得票数 0
回答已采纳
1回答
提亚诺中的逆FFT
、、、、
我知道。然而，我想知道逆FFT是否实现了？也就是说，是否有类似于theano.tensor.fourier.ifft的东西，它相当于numpy.fft.ifft
我注意到有它，但我不确定它对于完成我想做的事情有多完整或可靠。也许对西亚诺有更多了解的人可以在这里称重。
另外，如果我使用这个沙箱傅立叶，我将如何去做呢？只需调用theano.sandbox.fourier.fft(x)，其中x是一维张量，则返回错误：
AttributeError: 'module' object has no attribute 'fourier'
有办法解决这个问题吗？
浏览 0提问于2015-08-21得票数 3
回答已采纳
1回答
我对theano很陌生，我试着用和来构建一个去噪卷积网络。我目前正在挣扎如何使W'，反向重量。，他们使用捆绑重量W‘，是在两个维度翻转。
我目前正在处理一个一维信号，所以我的图像形状是(batch_size，1，1,1000)，滤波器/W大小是(num_kernels，1，1，10)。然后，卷积的输出(batch_size，num_kernels，1,991)。因为我想成为二维的翻转者(或者在我的例子中是1d )，所以我很想这么做
w_value = numpy_rng.uniform(low=-W_bound, high=W_bound, size=filter_shape)
sel
浏览 0提问于2015-07-09得票数 2
回答已采纳
我对使用Keras API的简单性构建强化学习模型很感兴趣。不幸的是，我无法提取输出相对于权重的梯度(而不是误差)。我发现下面的代码执行了类似的功能()
get_output = theano.function([model.layers[0].input],model.layers[-1].output,allow_input_downcast=True)
fx = theano.function([model.layers[0].input] ,T.jacobian(model.layers[-1].output.flatten(),model.layers[0].input), allo
浏览 20提问于2016-09-19得票数 44
回答已采纳
为了加速我的代码，我将一个多维的sumproduct函数从Python转换为Theano。我的Theano代码可以得到相同的结果，但是一次只计算一个维度的结果，所以我必须使用Python for循环来获得最终结果。我认为这会使代码变慢，因为Theano无法优化内存使用和多个函数调用之间的传输(针对gpu)。或者这是一个错误的假设？
那么，我如何更改Theano代码，以便在一次函数调用中计算sumprod？
原始的Python函数：
def sumprod(a1, a2):
"""Sum the element-wise products of the `a1`
浏览 0提问于2013-05-29得票数 1
回答已采纳
b=T.fvector()
theano.gradient.hessian( T.gammaln(b).sum(), [b] )
给出一个未命名的NotImplementedError。由于等价的代码在T.log而不是T.gammaln上运行良好，我猜theano只是不知道gammaln的第二个派生
浏览 13提问于2017-02-02得票数 0
回答已采纳
我有一个关于我的RNN实现的问题。
我有以下代码
def one_step(x_t, h_tm1, W_ih, W_hh, b_h, W_ho, b_o):
h_t = T.tanh(
theano.dot(x_t, W_ih) +
theano.dot(h_tm1, W_hh) +
b_h
)
y_t = theano.dot(h_t, W_ho) + b_o
return [h_t, y_t]
n_hid = 3
n_in
浏览 2提问于2014-12-07得票数 1
回答已采纳
我有兴趣在我的C++程序中实现一个卷积神经网络，在这里我跟踪标记的昆虫(我也在使用OpenCV)。我看到人们经常提到Caffe，Torch和Theano，但我还没有在SHOGUN上听到CNN的讨论。如果你在C++工作，这个CNN运行良好吗?有人推荐它吗？我已经通过scikit使用过Theano -- Python中的神经网络来测试一些图像，这非常有效，但不幸的是，Theano是Python专用的。
浏览 4提问于2015-08-21得票数 0
回答已采纳
我正在试验Theano，特别是函数。
我想使用它将线性分类器应用到存储为矩阵X列的一组特征向量(我确信有更好的方法来实现它，这只是为了熟悉函数扫描)。
这是我的代码片段：
T_W = T.fmatrix('W')
T_b = T.fmatrix('b')
T_X = T.fmatrix('X')
T_x = T.fmatrix('x')
# this is the linear classifier
T_f = T.dot(T_W, T_x) + T_b
f = theano.function(inputs=[T_x, the
浏览 2提问于2015-10-25得票数 1
回答已采纳
2回答
我有一个简单的问题，我希望已经在网上找到了一个简单的答案，但我没有。
由于矩阵操作，我有一个python项目，它对numpy非常有效。我想加快代码的速度，所以我做了一些分析来找出适合这项工作的工具。结果表明，开销不是python，而是矩阵操作。因此，我认为我应该使用Theano (特别是考虑到我正在实现机器学习算法，这就是我所做的)。
我的项目的大部分开销都在一个函数中，我想知道是否可以用theano重写这个函数，然后从它中取出numpy数组，然后像往常一样继续计算。
这同样只是为了测试我将获得多大的速度，而不需要修改大量代码。
谢谢!
编辑:万一是这个函数
def backprop(weig
浏览 3提问于2014-01-22得票数 1
回答已采纳
1回答
我用Theano设计了一个神经网络来逼近数学上的多个函数。但是，我还不能逼近非线性函数，如: 2x/x+3等，但是网络在线性函数上表现很好。
我用的是一个隐藏层，有两个神经元。我试过增加隐藏层的神经元。但是，这似乎并不能解决问题。
注意：代码没有任何错误。它也试图将成本降到最低，但它所做的预测并不是人们所期望的(也许它正在学习一些毫无意义的/不想要的模式)。
我使用的(UPDATED-UPDATED)代码是：
x = T.dscalar()
y = T.dscalar()
inputs = np.random.randint(1,6,size=(500))
outputs = (inputs
浏览 3提问于2016-06-04得票数 2
我试图在Theano中跟踪文档到，并实现这种类型的操作，如所描述的那样。目前的状态如下：
import theano
class Double(theano.gof.Type):
def filter(self, value, strict = False, allow_downcast = None):
if strict:
# we need to return a type, but if the value is incompatible raise an exception
if isinstance(val
浏览 2提问于2017-01-25得票数 1
1回答
我的训练职能：
def fit(self, X, y):
batch_size = 20
index = T.lscalar() # index to a [mini]batch
updates = {}
return theano.function(
inputs=[index], outputs=self.cost, updates=updates,
givens={
self.sym_X: X[index * batch_size:(index + 1) * batch_size],
浏览 2提问于2013-01-06得票数 3
1回答
我正在尝试在theano中实现cox回归。
我使用逻辑回归教程()作为框架，并用cox回归LL函数()替换逻辑对数似然(LL)函数。
这是我到目前为止所知道的：
class CoxRegression(object):
def __init__(self, x, n_in):
self.W = theano.shared(value=numpy.zeros(n_in,dtype=theano.config.floatX), name='W',borrow=True)
self.b = theano.shared(numpy.cast['float64&#
浏览 2提问于2015-09-02得票数 2
我有计算多项式的Theano文档中的一段代码
import numpy
import theano
import theano.tensor as T
theano.config.warn.subtensor_merge_bug = False
coefficients = theano.tensor.vector("coefficients")
x = T.scalar("x")
max_coefficients_supported = 1000
# Generate the components of the polynomial
full_ran
浏览 0提问于2015-10-21得票数 2
回答已采纳
我想使用theano.tensor.nnet.relu，但是我一直收到这个错误：
AttributeError: 'module' object has no attribute 'relu'
我已经通过sudo pip install --upgrade theano命令更新了中描述的theano命令，我也尝试过sudo pip install --upgrade --no-deps theano。这两种方法都不起作用，我还是会犯同样的错误。
我试图通过theano -v来确认我已经安装了最新版本，但随后我得到了以下错误：-bash: theano: com
浏览 6提问于2016-03-11得票数 1
回答已采纳
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
对象存储
腾讯会议
实时音视频活动推荐
腾讯云开发者
