无法通过使用相同参数运行单个模型来重现GridSearchCV/RandomizedSearchCV的结果
在机器学习领域，GridSearchCV和RandomizedSearchCV是常用的参数调优方法，用于寻找最佳模型参数组合。然而，有时候使用相同参数运行单个模型无法重现GridSearchCV/RandomizedSearchCV的结果，这可能是由于以下原因导致的：
- 参数空间：GridSearchCV和RandomizedSearchCV会在给定的参数空间中搜索最佳参数组合。如果参数空间很大，那么单个模型可能无法覆盖到所有可能的参数组合，从而无法重现搜索的结果。
- 随机性：RandomizedSearchCV是基于随机采样的参数搜索方法，它在给定的参数空间中随机选择参数组合进行评估。由于随机性的存在，单个模型可能无法选择到与GridSearchCV/RandomizedSearchCV相同的参数组合，导致结果不一致。
- 数据划分：GridSearchCV和RandomizedSearchCV通常会使用交叉验证来评估模型性能。每次划分数据集的方式可能不同，从而导致单个模型在不同的数据划分上得到不同的结果。
为了解决无法重现GridSearchCV/RandomizedSearchCV结果的问题，可以尝试以下方法：
- 固定随机种子：通过设置随机种子，可以使随机过程变得可重现。在使用GridSearchCV/RandomizedSearchCV之前，设置相同的随机种子，可以确保每次运行时的随机性相同，从而得到一致的结果。
- 增加模型训练次数：如果参数空间较大，可以增加单个模型的训练次数，以覆盖更多的参数组合。通过增加训练次数，有更高的概率选择到与GridSearchCV/RandomizedSearchCV相同的最佳参数组合。
- 使用更大的数据集：如果数据集较小，可能存在数据划分不稳定的情况。可以尝试使用更大的数据集，以减少数据划分的随机性，从而得到更一致的结果。
总之，无法通过使用相同参数运行单个模型来重现GridSearchCV/RandomizedSearchCV的结果是由于参数空间、随机性和数据划分等因素的影响。通过固定随机种子、增加模型训练次数和使用更大的数据集等方法，可以提高结果的一致性。
相关·内容
我使用RandomizedSearchCV优化了随机森林模型的参数，如下面的代码单元格所示：
rf_random = RandomizedSearchCV(estimator = rf, param_distributions = random_grid,
n_iter = 100, cv = 3, verbose=2, random_state=42, n_jobs = -1)
rf_random.fit(X_train[rf_cols], y_train)
结果表明，rf_random模型的性能优于我的任何手动训练的模型，这些
浏览 5提问于2021-07-29得票数 0
回答已采纳
2回答
我正在玩RandomizedSearchCV函数从科学-学习。一些学术论文声称，与整个网格搜索相比，随机搜索可以提供“足够好”的结果，但可以节省大量时间。
令人惊讶的是，有一次，RandomizedSearchCV给了我比GridSearchCV更好的结果。我认为GridSearchCV应该是详尽无遗的，所以结果必须比RandomizedSearchCV假设的结果更好--他们在同一个网格中搜索。
对于相同的数据集和大多数相同的设置，GridsearchCV返回了以下结果：
最佳cv精度: 0.7642857142857142
测试集得分: 0.725
最佳参数：“C”：0.02
Randomi
浏览 1提问于2018-01-04得票数 3
回答已采纳
GridSearchCV和RandomizedSearchCV的best_estimator_是：
通过简单的评分方法之一:精确性、召回性、精确性等，只返回最佳的估计量。基于训练集的评估仅基于。
我想丰富这些限制
我自己对methodsEvaluate评分的定义是在测试集上进一步评分，而不是GridSearchCV所做的训练。最终，测试集的性能才是重要的。在我的网格搜索中，训练集倾向于提供几乎完美的精度。
我正在考虑通过以下方式来实现这一目标：
RandomizedSearchCVWith 获取GridSearchCV和GridSearchCV中的单个估计量/模型，在测试集上进行预测，并使用自
浏览 6提问于2020-07-12得票数 0
如我所知，交叉验证(在GridSearchCV/RandomizedSearchCV中)将数据拆分为折叠，其中每个折叠作为一个验证集一次。但是的一条建议
通过评估各种参数设置来选择模型可以看作是一种使用标记数据来“训练”网格参数的方法。在评估结果模型时，重要的是在网格搜索过程中没有看到的被搁置的示例上这样做:建议将数据拆分为一个开发集(将输入到GridSearchCV实例)和一个计算性能度量的评估集。这可以通过使用train_test_split实用程序函数来完成。
因此，我们可以使用"train_test_split“来分割原始数据，以训练数据和有效数据。
X_train,
浏览 2提问于2021-08-19得票数 0
回答已采纳
我有一些测试和训练数据，测试数据没有任何依赖变量。
我目前正在运行一个GridSearchCV或RandomizedSearchCV来查找最佳参数。
我是否应该将所有的“测试”X&y值通过到GridSearchCV或RandomizedSearchCV中？
我知道它做了交叉验证，所以我相信它可以吗？
但是如果是这样的话，best_estimator有哪些数据适合呢？所有的一切？或者其中一个褶皱上的数据？
之后，我是否需要重新修改完整的测试数据？
浏览 4提问于2019-11-16得票数 0
回答已采纳
如何使用RandomizedSearchCV或GridSearchCV只对30%的数据进行处理，以加快处理速度。我的X.shape是94456,100，我正在尝试使用RandomizedSearchCV或GridSearchCV，但是它需要很长时间。我运行了几个小时的代码，但仍然没有结果。我的代码如下所示：
# Random Forest
param_grid = [
{'n_estimators': np.arange(2, 25), 'max_features': [2,5,10,25],
'max_depth': np.arange(
浏览 2提问于2020-03-24得票数 0
回答已采纳
我正在使用GridSearchCV和RandomizedSearchCV。我有一个多类设置与4个类和一个不平衡的数据集.目前，我正在使用f1_micro作为评分函数。现在我想用的是AUC的微平均值。是否有可能在GridSearchCV和RandomizedSearchCV中使用这样的多类AUC？
浏览 1提问于2017-11-18得票数 1
1回答
随机林中的超参数整定
、、、、
我试着在数据集上使用随机森林算法来预测房价，medv在sklearn的.In的帮助下，我尝试了以下3 iterations
迭代1：使用带有默认超参数的模型
#1. import the class/model
from sklearn.ensemble import RandomForestRegressor
#2. Instantiate the estimator
RFReg = RandomForestRegressor(random_state = 1, n_jobs = -1)
#3. Fit the model with data aka model training
RFRe
浏览 1提问于2018-11-29得票数 4
为了优化某些机器学习的(甚至是流水线的)超参数，sklearn提出了详尽的"GridsearchCV“和随机的"”。后者对所提供的分布进行采样并进行测试，最终选择最佳模型(并提供每个暂定模型的结果)。
但假设我用这个随机方法训练了1000个模型。后来，我觉得这还不够精确，我想再多试1000款。我能继续训练吗？也就是，要求更多的样本，尝试更多的模型，而不会失去当前的进展。第二次调用fit()“重新启动”并丢弃以前的超参数组合。
我的情况如下：
pipeline_cv = RandomizedSearchCV(pipeline, distribution, n_iter=1000,
浏览 6提问于2021-04-23得票数 0
回答已采纳
我想知道sklearn.model_selection.RandomizedSearchCV (在一定程度上对于GridSearchCV )是如何处理模型、信息和内存的。事实上，尽管进行了一些研究，但我找不到任何资源来解释(无论是使用n_jobs =-1还是>1)每个堆栈步骤存储的内容。
尽管我非常确定每个模型都被存储了，因为你可以用最好的参数检索模型，但是它能保留所有的参数吗？或者它在每一步都保持最后构造的和存储的之间的最好的一步？
提前感谢您的回复:)
浏览 0提问于2019-05-22得票数 0
当我练习如何使用xgboost时，我遇到了一些问题。
据我所知，"DMatrix“是一种特殊的内部结构，它使模型运行得更快。
问题是：
要优化模型，(我猜) GridSearchCV或RandomizedSearchCV是相当可观的。
守则如下：
params = {
'min_child_weight': [1, 5, 10],
'gamma': [0.5, 1, 1.5, 2, 5],
'subsample': [0.6, 0.8, 1.0],
'colsampl
浏览 5提问于2021-06-06得票数 0
我遇到的问题是，我的svm.SVC()的超参数太宽，以致于GridSearchCV()永远无法完成！一个想法是使用RandomizedSearchCV()代替。但是，我的数据集相当大，以至于500次迭代大约需要1小时！
我的问题是，为了停止浪费资源，GridSearchCV (或RandomizedSearchCV )中什么是好的设置(就每个超参数的值范围而言)？
换句话说，如何判断例如C值在100以上是否有意义和/或1的步骤既不大也不小？任何帮助都是非常感谢的。这是当前使用的设置：
parameters = {
'C': np.arange( 1
浏览 0提问于2014-10-13得票数 23
我的数据集太大，无法容纳内存，所以我必须分批训练模型。我已经将我的模型封装在一个GridSearchCV、一个RandomizedSearchCV或一个BayesSearchCV (来自scikit-BayesSearchCV)中，并且看到我无法在我庞大的数据集的不同部分上训练这些实例的多个实例，并且期望每个人找到的最好的超参数都会同意。
我已经考虑过用一个BatchVoter (我自己的设计)包装我的估值器，它可以管理批量从数据库中读取数据，并保存模型列表。将其传递给XSeachCV并更新参数空间字典，所以所有以'estimator__‘为首的键都可能指示搜索来设置子对象的参数，但仍
浏览 6提问于2017-12-19得票数 2
1回答
我可能误解了submit()函数是如何工作的。如果我提交的是初始化参数的类函数，则它不起作用。
.submit()**?** 问题:使用将类提交到dask集群的正确方法是什么？
因此，我有一个类可以在一个数据集上运行几个不同的ML模型：
class EstimatorSelectionHelper:
def __init__(self, models, params):
self.models = models
self.params = params
self.keys = models.keys()
self
浏览 8提问于2022-05-20得票数 2
我在小型数据集上运行GridSearchCV，其大小为(13380,37)，代码如下所示：
from sklearn.model_selection import RandomizedSearchCV,GridSearchCV
parameters = {kernel:('linear','rbf','poly'),'C':[1.5,2,3,4,5,6,7,8,9,10],'gamma':[1e-7,1e-6,1e-4,1e-3,1e-2]}
svc = SVC()
clf = GridSearchCV(svc,
浏览 2提问于2019-12-19得票数 0
我有一个问题，我想测试多个模型，这些模型并不都具有相同的命名参数。如何在RandomizedSearchCV中使用管道的参数列表，就像在本例中使用GridSearchCV一样
示例来自：
import numpy as np
import matplotlib.pyplot as plt
from sklearn.datasets import load_digits
from sklearn.model_selection import GridSearchCV
from sklearn.pipeline import Pipeline
from sklearn.svm import Li
浏览 0提问于2017-03-30得票数 9
我想将RandomizedSearchCV(或GridSearchCV)应用到我的Keras模型(TensorFlow后端)。然而，在使用不同的超参数集进行多次训练后，出现了OOM错误。
下面是我的代码和错误消息。我该如何解决这个问题呢？提前谢谢。
def build_model(num_filters = 10,
num_classes = 6,
sequence_max_length=512,
vocab_size=71,
embedding_size=16
浏览 0提问于2018-03-12得票数 3
使用Scikit-Learn的RandomizedSearchCV模块，如何保证某一组超参数设置都会被测试？
我的目标是保证，使用随机搜索的最优估计器超参数，所有可用的MLPClassifier激活函数测试。不过，我也希望得到一个适用于一般Python机器学习模型/估计器的答案。我相信，通过使用3个不同的RandomizedSearchCV实例运行MLPClassifier或GridSearchCV，可以测试哪个激活函数是最好的。问题是，如果我想测试所有可用的激活函数和所有权重“求解器”，以及其他参数，比如神经元和层数，该怎么办？有任何方法可以使用Python库来完成这个任务吗？
浏览 3提问于2020-08-08得票数 0
回答已采纳
1回答
我在上运行支持向量机、Logistic回归和随机森林。我的训练数据集具有形状(454491，30)。我进行了5次交叉验证(花费了一个多小时)，并将“评分”设置为“f1_weighted”，得到了以下结果：
Logistic Regression Cross Validation F1 score: 0.9501631748525725
Random Forest Cross Validation F1 score: 0.9999383944188953
Support Vector Cross Validation F1 score: 0.9989703035983751
我选择支持向量机，因
浏览 7提问于2020-09-11得票数 0
回答已采纳
有许多用于超参数优化的库是针对Keras或其他深度学习库(如金丝或塔罗斯 )的。
我的问题是，与sklearn.model_selection.GridSearchCV()或sklearn.model_selection.RandomizedSearchCV相比，使用这些库的主要好处是什么？
浏览 0提问于2018-07-22得票数 4
我有一个训练集，我想训练一个神经网络，使用K-折叠交叉验证。
TL;DR:给出了epochs的数量、要使用的params集以及测试集的检查，RandomizedSearchCV是如何训练模型的？我认为，对于一个平行线的组合，它在(K-1)折叠上对epochs数的历元进行模型训练。然后在最后一个褶皱上测试它。但是，是什么阻止了我们过度适应呢？当使用不断验证集的“香草”训练时，在每个时代的keras对验证集进行检查之后，在这里也完成了吗？即使是verbose=1，我也看不出剩下的折页上的分数。我看到了，我们可以将callbacks添加到KerasClassifier中，但是，如果KerasClas
浏览 3提问于2022-06-11得票数 0
1回答
并行运行GridsearchCV()或RandomizedsearchCV() (具有n_jobs > 1或n_job == -1 )的计算机硬件要求是什么？
今天所有的计算机都支持这个吗？
浏览 2提问于2018-02-04得票数 0
根据学习和模块的文档，它们只支持传递给它们的分类器的fit方法，而不支持可用于增量式训练的分类器的partial_fit方法。目前，我正在尝试使用SGDClassifier，它可以使用partial_fit方法对增量数据进行培训，并为其找到最佳的超参数集。我只是想知道为什么RandomizedSearchCV或GridSearchCV不支持partial_fit。对于为什么不能这样做，我没有看到任何技术上的理由(如果我错了，请纠正我)。任何线索都会很感激的。
浏览 3提问于2019-07-19得票数 2
回答已采纳
1回答
我想比较一下CNN的分类性能(测试精度)根据数据集的大小变化了多少。为此，我想使用像MNIST或时装MNIST这样的数据集。
我想首先训练一个CNN，只有一个子集ob大约1000个图像，然后一个CNN有一个子集ob大约5000张图像，然后一个子集约10000张图像等等。
对于这些数据集中的每一个，都应该生成一个优化的CNN。
我目前的计划如下：
创建一个简单的基础模型，只有一个Conv层(带32个过滤器)，MaxPooling2D，Dropout (0.5)和一个密集的层，大约100个神经元。
使用这个基本模型，我将使用GridSearchCV搜索最小的数据集(包含1000个图像)，用于批处理
浏览 0提问于2019-06-20得票数 1
回答已采纳
1回答
我有一个数据集，并希望在不同大小的数据集子集上对CNN进行培训。我已经有一个CNN，如果我使用整个数据集，分类非常好。现在的问题是，如果我真的应该尝试额外优化CNN的参数为子集，无论我是否做数据增强？如果我试图通过使用RandomizedSearchCV或GridSearchCV来优化卷积层的数量、不同的学习速率等来改变这些子集的CNN模型，这真的有意义吗？
换句话说，假设我为数据集找到了完美的CNN模型。这个模型也是这个数据集子集的完美模型吗？
我希望有人能给我个提示。如果有任何帮助，我提前感谢你。
浏览 0提问于2019-09-02得票数 0
我试图通过早期停止和RandomizedSearchCV / GridSearchCV获得最佳的RandomizedSearchCV/GridSearchCV迭代。如果打开verbose = True，可以看到包括最佳迭代在内的输出：
早期停止，最好的迭代是: 852 _0的rmse: 0.108495。
但是，我还没有弄清楚如何通过命令访问它。
这是我的代码：
%%time
LGBM_model = lgb.LGBMRegressor(n_estimators = 10000)
LGBM_param_Random = {'reg_lambda': [0.01, 0.05]
浏览 6提问于2021-10-03得票数 0
我使用gridsearchcv来调优我的模型的参数，我也使用管道和交叉验证。当我运行模型来调优XGBoost的参数时，它返回nan。但是，当我对其他分类器(如随机林)使用相同的代码时，它可以工作，并返回完整的结果。
kf = StratifiedKFold(n_splits=10, shuffle=False)
SCORING = ['accuracy', 'precision', 'recall', 'f1' ]
# define parametres for hypertuning
params = {
'
浏览 0提问于2021-03-27得票数 3
当我使用RandomizedSearchCV时，如果我将随机状态放置在相同的超视距训练器中，总是得到相同的结果。那么，使用它是强制性的吗？因为在我看来，最好总是尝试不同的超参数组合。通常，我为RandomizedSearchCV中使用的模型设置了随机状态，但没有为它设置随机状态。这是正确的吗？
浏览 0提问于2023-04-07得票数 0
我试图运行以下代码。这是GitHub代码的。
下面给出了jupyter笔记本的链接。
在那里我无法加载xgboost
试图在单元格下面运行，它显示了一些错误。
## Hyperparameter optimization using RandomizedSearchCV
from sklearn.model_selection import RandomizedSearchCV, GridSearchCV
import xgboost
错误：
---------------------------------------------------------------------------
浏览 3提问于2020-09-08得票数 1
我正在学习机器学习，我面临着一个无法解释的不匹配问题。
我有一个网格来计算最佳模型，根据GridSearchCV返回的精度。
model=sklearn.neighbors.KNeighborsClassifier()
n_neighbors=[3, 4, 5, 6, 7, 8, 9]
weights=['uniform','distance']
algorithm=['auto','ball_tree','kd_tree','brute']
leaf_size=[20,30,40,50]
p=[1
浏览 24提问于2021-06-15得票数 0
我在RandomizedSearchCV上做了一个调整，这是我的流水线和param_grid
我将此作为估计器进行传递：
pipe_rand_svc=MyPipeline(steps=[('standardscaler',StandardScaler()),
('randsc',RandomizedSearchCV(SVC(probability=True),
param_grid))])
我将其作为param_distributions传递
par
浏览 0提问于2020-05-10得票数 1
我期待提取和使用(在同样的木星笔记本)的模型确定为最好的模型从RandomizedSearchCV为未来的拟合和绘图。具体来说，我期待重新适应Keras神经网络被认为是最好的，这样我就可以绘制相同或其他数据集的损失和准确性。
如果我运行以下代码，我将得到我期望的输出--最佳分数和获得该分数的参数。
import pandas as pd
from sklearn.preprocessing import LabelEncoder
from sklearn.pipeline import Pipeline
from skrebate import SURF
from sklearn.model_
浏览 6提问于2021-06-07得票数 1
回答已采纳
我已经在我的管道中定义了模型的超参数，算法在执行时可能使用GridsearchCV，如果这样做，那么前面在管道中定义的超参数会发生什么变化？
管道
pipe_nusvc = Pipeline([('clfnu', NuSVC(nu=0.5,kernel='rbf'))])
我可以使用
pipe_nusvc['clfnu'].cache_size=300
如果使用了cache_size，我会考虑从管道中删除添加的GridsearchCV。
如果使用GridsearchCV，则管道中定义的cache_size=300仍然存在，并且在运行过程中没有解决
浏览 0提问于2021-09-12得票数 0
回答已采纳
在我的图像分类实验中，我想为CNN模型寻找超视距，我用RandomizedSearchCV来寻找它可能的最佳超视距，但是我得到了如下的论证错误，但我不知道为什么。
TypeError回溯(最近一次调用)
在() 41 42模型中，pred = algorithm_pipeline(X_train，X_test，y_train，y_test，model，-> 43 param_grid，cv=5，scoring_fit='neg_log_loss') 44 45 print(model.best_score_)
32帧
167减速机= getattr(x，reduce_e
浏览 2提问于2020-08-08得票数 0
回答已采纳
我正在使用RandomizedSearchcv进行超参数优化。当我运行模型时，它会显示每个模型培训的分数。问题是，它训练了10多个模型，而实际上我希望它通过将n_iters指定为10来训练10个模型。为什么呢？我该怎么做才能把总数限制在10？
这是我的密码
from catboost import CatBoostRegressor
from sklearn.model_selection import RandomizedSearchCV
from scipy.stats import randint
params = {
'iterations': randint
浏览 0提问于2023-03-31得票数 0
我试图使用一个回归模型，我已经实现了与GridSearchCV类的科学学习优化我的模型的超参数。我的模型类构建得很好，遵循了scikit-api的建议：
class FOO(BaseEstimator, RegressorMixin):
def __init__(self,...)
*** initialisation of all the parameters and hyperparameters (including the kernelfunction)***
def fit(self,X,y)
*** implementation of fit: just take
浏览 6提问于2020-07-07得票数 0
我使用XGBoost模型对一些数据进行分类。我有一个独立的测试集，我从来没有用过，直到结束。
我使用GridSearchCV来确定最佳参数，并将cv拆分(5倍)输入其中，并设置refit=True，以便一旦它计算出它在完整数据上训练的最佳超参数(所有折叠，而不是仅4/5倍)并返回best_estimator。然后，我在最后的测试集上测试这个最好的模型。
然后，我将这个模型的结果与我自己单独训练的模型和最好的超参数进行比较，用我自己的模型得到更好的结果。为什么会这样呢？
当GridSearchCV使用最好的超参数对完整数据进行培训时，它是否仍然使用交叉验证？是因为GridSearchCV做了额外
浏览 0提问于2021-06-25得票数 2
我使用RandomizedSearchCV获得了10倍交叉验证和100次迭代的最佳参数。这个效果很好。但是现在我也想从性能最好的模型中获得每个预测测试数据点(如predict_proba)的概率。
这是如何做到的呢？
我有两种选择。首先，也许可以直接从RandomizedSearchCV获得这些概率，或者第二，从RandomizedSearchCV获得最佳参数，然后再用这个最佳参数进行10倍的交叉验证(用相同的种子，这样我就可以得到相同的分裂)。
编辑:下面的代码是否正确，以获得性能最好的模型的概率？X是训练数据，y是标签，模型是我的RandomizedSearchCV，包含一个Pipelin
浏览 1提问于2018-05-07得票数 0
回答已采纳
在这个简化的例子中，我使用GridSearchCV来训练Logistic回归。和往常一样，我希望模型能够很好地概括，所以我想仔细观察测试集的结果。在使用GridSearchCV时，我找不到一种简单的方法来做到这一点。
lr_pipeline = Pipeline([('clf', LogisticRegression())])
lr_parameters = {'clf__fit_intercept':[True,False]}
lr_gs = GridSearchCV(lr_pipeline, lr_parameters)
lr_gs = lr_gs.fit
浏览 2提问于2016-03-23得票数 0
2回答
对于在多核上运行时使用np.random.RandomState和sklearn.model_selection.RandomizedSearchCV的正确方法，我感到困惑。
我使用RandomState生成伪随机数，这样我的结果是可重复的.我给了RandomizedSearchCV一个RandomState实例，并设置了n_jobs=-1，这样它就可以使用所有六个核心。
在多个核上运行会引入一个异步元素。我希望这将导致来自不同核的伪随机数的请求在不同的运行中以不同的顺序进行。因此，不同的运行应该提供不同的结果，而不是显示重现性。
但事实上，结果是可重复的。对于给定的n_iter值(即参数空间
浏览 2提问于2018-12-11得票数 2
回答已采纳
我正在使用来自scikit-optimize的scikit-optimize来训练一个相当不平衡的数据集上的模型。据我所知，精度或ROC AUC将是不平衡数据集的最佳度量标准。在我的代码中：
knn_b = BayesSearchCV(estimator=pipe, search_spaces=search_space, n_iter=40, random_state=7, scoring='roc_auc')
knn_b.fit(X_train, y_train)
迭代次数只是我选择的一个随机值(虽然我收到警告说我已经达到了最好的结果，而且据我所知，没有办法提前停止？)。对于
浏览 6提问于2022-03-05得票数 0
1回答
我正在对一个分类问题运行lightGBM，使用交叉验证(使用sklearn)来获得最优的超参数值。 尽管我在创建模型对象时指定了random_state，但是每次重新运行网格搜索都会产生不同的最佳参数。 import lightgbm as lab
from sklearn.model_selection import GridSearchCV
lgb_estimator = lgb.LGBMClassifier(boosting_type='gbdt',
objective='multiclass
浏览 70提问于2019-12-10得票数 1
2回答
def try_and_error(layers, activation):
model = Sequential()
for i, nodes in enumerate(layers):
if i==0:
model.add(Dense(nodes,input_dim=train_X.shape[1]))#input layers
model.add(Activation(activation)) #Activation layer
浏览 232提问于2020-01-20得票数 2
我试着在mac上运行下面的代码。 ## Hyperparameter optimization using RandomizedSearchCV
from sklearn.model_selection import RandomizedSearchCV, GridSearchCV
from xgboost import XGBClassifier 它给了我下面的错误。请帮帮我，我已经试着解决这个问题两天多了。但没那么走运。 弹出的错误如下所示： -------------------------------------------------------------------------
浏览 287提问于2020-09-07得票数 1
1回答
我想执行超参数优化，为一个模型，我已经培训了在科学学习。我想首先使用随机搜索来获得一个好的搜索区域的想法，然后用网格搜索来跟踪它。我需要使用的验证方法是将一个组排除在外(徽标)。
因此，这方面的内容：
distributions = {
"n_estimators": randint(low=1, high=500),
"criterion": ["squared_error", "absolute_error", "poisson"],
"max_depth": randi
浏览 7提问于2021-12-10得票数 1
回答已采纳
2回答
我正在做一个小项目，我的数据集有6k行和大约300个特性，有一个简单的二进制结果。
因为我还在学习ML，所以我想尝试所有我能找到并比较结果的算法。
正如我在教程中所读的，我将我的数据集分成一个训练样本(80%)和一个测试样本(20%)，然后用交叉验证(5倍)训练我的算法。
我的计划是以这种方式训练我的所有模型，然后在测试样本上衡量它们的性能，以选择最佳的算法。
这会导致过度适应吗？如果是这样的话，由于我无法比较model_selection.GridSearchCV内部的几种模型，我如何才能防止它过度适应呢？
浏览 0提问于2019-04-21得票数 3
回答已采纳
我知道真的没有“最好的模型”，因为做最好的取决于你想要有最好的价值的评估指标。因此，我的问题是，RandomizedSearchCV用来决定哪些参数是最佳参数的度量是什么？
浏览 14提问于2020-11-22得票数 1
回答已采纳
在Scikit Learn中，RandomizedSearchCV可以用于评估管道中的不同参数，但仅在分类器共享相似/相同参数的某些情况下。当您为不同的分类器传递参数块时，当GridSearchCV成功时，它将失败。
你会注意到，在下面的代码中，网格搜索和随机搜索的问题设置是相同的，但只有随机搜索失败。
numpy.random.seed(52)
MY_RAND_SEED=numpy.random.seed(52)
pipe = Pipeline([
('imputer', SimpleImputer(strategy='median')),
浏览 12提问于2019-08-15得票数 1
我正尝试将RandomizedSearchCV应用于RegressorChain XGBoost模型，但遇到错误:参数learning_rate对于estimator无效(base_estimator=XGBRegressor。如果我注释了grid dict中的所有值，它就能正常工作，否则它不接受任何参数。 相同的模型(XGBRegressor和RegressorChain)单独工作也很好。RandomizedSearchCV不接受网格字典中的参数 # Setup the parameters grid
grid = {
'n_estimators': [10
浏览 180提问于2021-08-20得票数 0
回答已采纳
2回答
当我并行运行GridsearchCV()和RandomizedsearchCV()方法时(设置了n_jobs>1或n_jobs=-1选项)
它显示了以下信息：
ImportError:在不支持分叉的系统上尝试执行并行计算而不保护您的导入。要在脚本中使用并行计算，必须使用"if name == ' main '“保护主循环。有关更多信息，请参见并行的joblib文档：“我将代码放在.py文件中的一个类中，并在其他.py文件中使用if_name_=='main调用它，但它仍然显示了以下消息
当n_jobs=1运行的时候它很好
import platfo
浏览 1提问于2018-02-05得票数 2
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
对象存储
即时通信 IM
腾讯会议活动推荐
腾讯云开发者
