如何在DistilBERT中进行交叉验证

文章/答案/技术大牛

发布

1回答

python、nlp、bert-language-model、distilbert

我已经创建了一个简单的模型来使用DistilBERT进行文本分类。问题是我不知道如何在训练时进行交叉验证。下面提供了我的代码实现。有没有人可以帮我在培训的同时实现交叉验证？提前谢谢你。#Load distil bert model model = TFDistilBertForSequenceClassification.from_pretrained('distilbert-base-uncased

浏览 49提问于2021-08-16得票数 0

1回答

EM-ELM交叉验证

machine-learning、neural-network、cross-validation

我知道交叉验证用于找到最大限度减少平均误差的最佳超参数。例如，将交叉验证的平均误差最小化的神经元数在ELM中估计。冯，G，黄，G.B.在EM-ELM中应用交叉验证的最佳和最标准方法是什么？是否有可能将交叉验证过程纳入到网络的增长中？

浏览 0提问于2018-07-05得票数 4

2回答

深度神经网络的交叉验证

tensorflow、deep-learning、cross-validation

如何在深度神经网络中进行交叉验证？我知道，执行交叉验证，将训练它在所有褶皱，除了一个，并测试它的排除褶皱。然后这样做k倍，并平均每一次的准确性。您如何在每次迭代中做到这一点。还是为每次迭代执行k折叠交叉验证？或者，每一次训练都是在所有的折叠上进行的，只是一次迭代吗？

浏览 2提问于2017-06-10得票数 7

1回答

MATLAB - "k“和”kfold“分区类型之间的差异

matlab、time-series、data-partitioning、cross-validation

有人可以向我解释一下使用分层的10倍交叉验证程序(如'k‘分区类型)或10倍交叉验证程序(如’kfold‘分区类型)对分区数据的差异及其影响。我的目的是使用这种划分来执行使用bootstrap集成进行时间序列分析的交叉验证过程。在这种情况下，哪种分区类型更适合对我的解释变量进行分区，以便尽可能地适合我的响应变量？任何帮助都是非常感谢的。

浏览 0提问于2012-12-22得票数 1

回答已采纳

1回答

如何使用蒸馏器模型对测试序列进行预测？

tensorflow、nlp、multilabel-classification、distilbert、ktrain

我正在尝试使用带有蒸馏器模型的Ktrain对测试序列进行预测，我的代码如下所示： maxlen=350)y_pred = learner.model.predict

浏览 15提问于2021-06-13得票数 0

2回答

线性回归的交叉验证

python、scikit-learn、cross-validation

我试图在线性回归中执行交叉验证，为此我使用库。关于对给定数据集执行交叉验证的适当方法，我有一个问题。让我有点困惑的两个API是cross_val_score()和任何正则的交叉验证算法，比如LassoCV()。相反，LassoCV()，如所建议的，对给定范围

浏览 2提问于2018-03-27得票数 3

2回答

如何应用叠加交叉验证的时间序列数据？

time-series、cross-validation、ensemble-learning

通常，堆叠算法使用K-折叠交叉验证技术来预测用于二级预测的oof验证。在时间序列数据(如股票走势预测)的情况下，不能使用K-折叠交叉验证，而时间序列验证(一种在sklearn lib上提出的)适合于评估模型的性能。在这种情况下，不应对第一次进行预测，也不应对最后一次进行任何培训。如何使用时间序列数据的叠加算法交叉验证技术？

浏览 0提问于2018-11-18得票数 5

回答已采纳

1回答

什么时候对测试数据也进行模型的训练是个好主意？

machine-learning、neural-network、dataset、training

我是否应该对测试数据进行额外的培训，因为这样我就能获得更好的准确性。

浏览 0提问于2018-03-10得票数 0

2回答

将k-折叠交叉验证应用于数据集的混淆

machine-learning、cross-validation

我有一个数据集，它已经被分成10倍，每个折叠都有训练、验证和测试集。我无法理解如何在这个数据集上应用10倍交叉验证。通常，如果我们想在数据集上应用k折叠交叉验证，步骤如下：在我的例子中，数据集已经被划分为10倍，除了训练集之外，每个折叠都包含验证和测试集。如果有人能指导我，如何对这种数据集进行10倍的交叉验证，这将是很有帮助的。

浏览 0提问于2019-03-27得票数 1

1回答

predict_proba如何与交叉验证一起工作？

scikit-learn、cross-validation、caret

当使用5倍交叉验证来创建模型时，创建了5个不同的模型.最后一种模式的选择可能有所不同： best-estimated (或其他标准)在5倍创建的模型或中建模，该模型在对所有数据集进行培训时创建。我知道交叉验证是用于模型检查，而不是用于建模。所以当在模型上使用predict_proba时，这个概率是如何定义的？你能分享一些论文或文章来讨论预测是如何在R中的插入符号和在Python中的sklearn中进行交叉</

浏览 1提问于2022-06-15得票数 0

2回答

需要一些关于Vowpal Wabbit的交叉验证的指针

vowpalwabbit

我的目标是对各种VW模型的参数空间(尝试不同的损失函数和正则化等)进行网格搜索。由于模型可能需要多次通过，所以我想使用交叉验证。我想知道我是否应该实现我自己的交叉验证代码(也许是作为bash脚本)，还是我正在重新发明轮子。任何关于这一点是否已经做过等或最好的处理方式的指示都是有用的。我正在研究如何在bash脚本中实现交叉验证，并使用GNU并行化网格搜索。

浏览 3提问于2013-09-17得票数 7

回答已采纳

1回答

如何在ktrain中使用交叉验证？

python、tensorflow、scikit-learn、deep-learning、ktrain

Transformer is wrapper around transformers library)from ktrain import text MODEL_NAME = 'distilbert-base-uncased但是，我正在将该模型与使用scikit-learn训练的其他模型进行比较，特别是使用交叉验证来评估其他模型的准确性。cross_val_score(sgd_clf, X_train, y_train, cv=3, scoring="accuracy&qu

浏览 21提问于2021-07-23得票数 0

回答已采纳

1回答

K倍交叉验证.如何计算规则参数/超参数.算法的参数

machine-learning

K次交叉验证将数据分成k个回收箱，每次使用k-1桶进行训练，使用1个桶进行测试。性能是以所有K运行err ← err + (y[i] − y_out)^2的平均值来衡量的，如维基百科和文献所示 for i ← 1, ..., N do err ← err + (y[i] − y_out)^2 err ← err/N 但

浏览 0提问于2021-07-26得票数 3

回答已采纳

2回答

crf++中的交叉验证

crf、crf++

我想知道如何在CRF++中进行交叉验证。它是在文档中写的： With this option, you如何进行本手册中提到的交叉验证

浏览 5提问于2014-06-28得票数 2

1回答

在weka中使用过滤分类器对普通分类器的影响是什么？

weka、document-classification

我用过weka进行文本分类。首先，使用StringToWordVector滤波和滤波数据与支持向量机分类器(LibSVM)进行交叉验证。后来我读了一篇博文两周前，我写了一篇关于如何在WEKA中链接过滤器和分类器的文章，以避免在对文本集合进行实验时产生误导性的结果。问题是，当在数据中使用N折交叉验证

浏览 3提问于2014-11-09得票数 1

回答已采纳

1回答

编码和交叉验证

cross-validation、one-hot-encoding、categorical-encoding

最近，我一直在考虑如何在交叉验证方案中正确使用编码。通常建议的编码特征的方式是：将数据分割成火车和测试(等待)集。然而，在交叉验证过程中，这似乎经常被忽略。假设我在前面提到的火车集合上执行交叉验证。如果我编码训练集，然后执行交叉验证，它并不真正模仿上面的步骤。那么，编码不应该在交叉验证中执行吗？例如，假设我们执行5倍交叉验证，

浏览 0提问于2020-08-17得票数 3

2回答

由列车组交叉验证产生的公制还是在测试集上产生的公制？

machine-learning、metric、performance

我知道，在一种不同的超参数算法所产生的模型之间进行选择，选择最佳模型的标准应该是对列车集的交叉验证。但是，如何在由不同算法生成的模型之间进行选择呢？我应该用哪一种度量来比较它们，由列车上交叉验证产生的度量，还是在测试集上产生的度量？还有为什么？

浏览 0提问于2021-02-14得票数 2

回答已采纳

1回答

在scikit learn中使用LeaveOneOut的roc_auc评分方法

python、scikit-learn

在scikit learn中，GridSearchCV()支持'roc_auc‘作为评分函数。它在n折交叉验证中工作得很好，但是如果我使用LeaveOneOut，它就不能工作并生成错误消息。虽然使用AUC绘制只有一个样本似乎是不可能的，但其他语言，如R，支持LeaveOneOut的roc_auc。如何使用python和scikit-learn进行计算？如果这是不可能的，使用大折叠交叉验证结果会喜欢吗？

浏览 0提问于2015-12-30得票数 2

1回答

交叉验证的实现

machine-learning、classification、cross-validation

我很困惑，因为很多人都有自己的方法来应用交叉验证。例如，有些应用于整个数据集，而有些则应用于培训集。我的问题是，下面的代码是否适合于在应用Cross-validation的同时实现交叉验证并从这样的模型进行预测？

浏览 2提问于2020-02-14得票数 0

1回答

如何在插入符号中使用stats::nls非线性最小二乘回归？

r、r-caret、nls

我正在对我拥有的一个数据集上的一堆机器学习模型进行比较。当前生产中的模型是以下形式的方程：因为我想使用当前的情况作为基准来评估我将从其他模型中获得的改进，所以我在R中实现了它，使用： model=T) 这工作得很好，但是我使用Caret包使用交叉验证来训练我的其他模型我想在nls模型上执行

浏览 3提问于2017-08-08得票数 0

回答已采纳

点击加载更多