LightGBM:是负值(即缺失值)在分类特征中作为单独的类别？
LightGBM是一个高效的梯度提升决策树算法，可以用于分类和回归问题。在LightGBM中，负值（即缺失值）可以作为分类特征中的一个独立类别处理。
传统的梯度提升决策树算法通常将缺失值视为一个特殊值，将其分配给左子树或右子树。但在LightGBM中，缺失值被视为一个独立的类别，这使得算法能够更好地处理缺失值。
使用LightGBM时，可以通过设置参数"missing"来指定缺失值的处理方式。如果将该参数设置为"NaN"，则将缺失值作为一个独立的类别；如果设置为其他数值，则将缺失值视为该数值。
优势：
- 处理缺失值：LightGBM能够将缺失值作为独立的类别处理，而不是将其归为左子树或右子树，这有助于更好地利用缺失值的信息。
- 高效性能：LightGBM采用基于直方图的决策树算法，具有较高的训练和预测速度，尤其适用于处理大规模数据集。
- 准确性：LightGBM采用了更细粒度的特征划分策略和更强的叶子生长策略，能够更准确地拟合数据，提高模型的泛化能力。
应用场景：
- 特征工程：LightGBM可以自动处理缺失值，减轻了特征工程的负担。
- 推荐系统：LightGBM适用于处理大规模的推荐系统数据，能够快速训练出高质量的推荐模型。
- 金融风控：LightGBM具有较高的预测准确性和处理大规模数据的能力，适用于金融风控领域的信用评分、反欺诈等任务。
推荐的腾讯云相关产品：
- 腾讯云机器学习平台（https://cloud.tencent.com/product/tc3）：提供了基于LightGBM的机器学习模型训练和部署服务，方便用户快速构建和应用模型。
- 腾讯云数据分析平台（https://cloud.tencent.com/product/dtas）：提供了丰富的数据分析和处理工具，可与LightGBM结合使用，实现数据的预处理和特征工程。
请注意，以上仅为推荐的腾讯云产品，其他厂商的产品也可根据具体需求进行选择。
相关·内容
我在看一个为Kaggle比赛张贴的笔记本电脑。他们使用lightgbm，叶数设置为40。如果我明白的话，这就限制了弱学习者(决策树)的大小，这些树不能有超过40片叶子。
但是，经过培训，我们发现最重要的特性是包含1000+类别的分类变量！如果在决策树中为该变量使用分支，那么它不一定至少有1000+叶吗？
这种情况是如何处理的？当弱学习者的离开数小于其中一个变量中的类别数时？
浏览 0提问于2020-02-07得票数 1
4回答
在数据挖掘领域，是否有过关于数据分类的研究，这些数据之间存在着一对多的关系？
例如，像这样的一个问题，比如说，我试图根据学生的班级成绩和个人信息来预测哪些学生将退学。很明显，学生的个人信息和他们在课堂上取得的成绩之间存在着一对多的关系。
显而易见的办法包括：
聚合--可以以某种方式将多个记录聚合在一起，将问题简化为一个基本的分类问题。就学生分类而言，他们的平均成绩可以与他们的个人资料相结合。虽然这个解决方案很简单，但往往会丢失关键信息。例如，如果大多数学习有机化学并低于C的学生最终辍学，即使他们的平均分高于B+评分。
Voting --创建多个分类器(通常是弱分类器)，并让它们投票确定
浏览 5提问于2011-01-21得票数 8
我正在尝试使用lightGBM作为分类器。我的数据保存在多个csv文件中，但我发现无法直接使用多个文件作为输入。
我曾考虑将所有数据合并成一个大的数据(numpy数组)，但我的计算机没有足够的内存。当可用内存不足时，如何使用lightGBM处理多个数据文件？
浏览 1提问于2018-04-24得票数 0
3回答
我目前正在学习GBDT，并开始阅读LightGBM的研究论文。
在第4节中，他们解释了排他性特征捆绑算法，该算法旨在通过将相互排斥的特征重新组合成包来减少特征的数量，并将它们作为一个单一的特性来处理。研究人员强调这样一个事实，即人们必须能够从捆绑中检索特征的原始值。
问:如果我们有一个单一热编码的分类特性，这个算法不是简单地将一个热编码逆转为一个数字编码，从而取消我们以前编码的所有优点吗？(抑制类别之间的等级关系等)
浏览 0提问于2018-11-30得票数 10
回答已采纳
根据LightGBM在下面链接中的文档，参数categorical_feature (用于分类特性)声明“分类特性中的所有负值都将被视为缺失值。” https://lightgbm.readthedocs.io/en/latest/pythonapi/lightgbm.LGBMClassifier.html#lightgbm.LGBMClassifier 我的问题是:负值(即缺失值)在分类特征中作为单独的类别？或者它们只是被视为缺失值，而不是作为一个类别包含在模型中？ 在此之前，非常感谢您。
浏览 64提问于2020-10-12得票数 1
回答已采纳
我试图用LightGBM解释一个基于SHAP的回归模型。我用的是
shap.TreeExplainer(<lightgbm model>).shap_values(X)
方法获取SHAP值，其中X是整个训练数据集。这些SHAP值使我比较单个预测，以及整个数据集的平均预测。
在克里斯托弗·莫尔纳的在线书5.9.4节中，他提到：
“与其将预测与整个数据集的平均预测进行比较，不如将其与子集或甚至单个数据点进行比较。”
我对此有几个问题：
如果我没有传递整个训练数据集，而是传递了一个子集，比如20个观测，那么返回的SHAP值将相对于这20个观测的平均值，这是正确的吗？这将相当
浏览 10提问于2021-03-25得票数 1
1回答
我有一些包含用户名和他们各自性别的数据。例如，我的数据列表中的条目可能如下所示：{User：'abc123'，Gender：'M'}
对于每个用户名，我还会得到一个包含文本、图像和位置的包，尽管用户没有必要至少有一个文本、一个图像和一个位置。
对于每个数据源，我可以将它们转换为特征向量，然后将其提供给分类器。然后我可以通过10折交叉验证来确认分类器是否有效。
我想把所有分类器的一些输出组合起来，这样我就可以把它们输入到一个元分类器中，希望能提高准确率。
问题是，由于数据是不完整的，我不能简单地组合每个数据源生成的所有向量，并将它们提供给一个分类器。一些用户可能没
浏览 3提问于2015-03-21得票数 1
1回答
我试图了解基值是如何计算的。所以我引用了SHAP的github笔记本电脑基于LightGBM的人口普查收入分类的一个例子。
在我训练了lightgbm模型之后，我对测试集的每一行分别应用了explainer.shap_values()。通过使用force_plot()，它得到了基本值、模型输出值和特性的贡献，如下所示：
📷
我的理解是，基值是在模型没有特征时导出的。但是它是如何用SHAP来计算的呢？
浏览 0提问于2020-05-04得票数 5
回答已采纳
我使用lihgtgbm进行培训，并提示错误"LightGBM bin size 1141无法在GPU上运行“。错误是"lightgbm.basic.LightGBMError: bin size 1141不能在GPU上运行“。
[LightGBM] [Warning] Categorical features with more bins than the configured maximum bin number found.
[LightGBM] [Warning] For categorical features, max_bin and max_bin_by_featu
浏览 38提问于2022-07-29得票数 1
1回答
我在一个二进制分类问题上训练了LightGBM，在绘制树时，我得到了一些这样的叶子
我很难找到分类树的损失函数- LightGBM是否最小化了二元情况下的交叉熵，这是叶分数吗？
浏览 3提问于2020-11-13得票数 0
1回答
在传统的机器学习分类问题中，分类器接受输入的特征向量，并将其分类到一个预定的类别中。
在我的场景中，我需要获取一个输入特征向量
Fin = (fi1, fi2, fi3.... fin)
并学习输出另一个特征向量，如
Fout = (fo1, fo2, fo3,....fon)
如何使用神经网络、决策树或支持向量机等通用分类器来实现这一点？
浏览 0提问于2013-04-03得票数 2
1回答
我发现了，答案是否定的，sklearn随机森林分类器不能处理分类变量(或者至少不是直接处理)。答案在2020年改变了吗？
我想将gender作为我的模型的一个特性。然而，gender可以具有三个值：M、F of np.nan。如果我将这个列编码成三个二分列，随机森林分类器如何知道这三个列代表一个特性？
假设max_features = 7，当训练一棵树时，它会随机选择七个特征。假设选择了gender。如果gender被分成三列(gender_M、gender_F、gender_NA)，那么随机森林分类器是否总是选择所有三列并将其计算为一个特性，还是只选择一个或两个？
浏览 1提问于2020-04-30得票数 4
回答已采纳
1回答
我正在使用Python学习机器学习，我明白我不能通过模型运行分类数据，而且必须首先获得虚拟数据。我的一些分类数据有空(只有两个特性中的很小一部分)。当我转换为虚拟，然后看看我是否有缺失的值，它总是没有显示。我应该事先推断一下吗？还是我把所有的分类数据都算出来了？例如，如果类别是男/女，我不想用most_frequent替换空。我明白，如果功能是收入，这会有什么意义，我会把缺失的值归算在内。收入是收入，而男性不是女性。
那么，对分类数据进行估算有意义吗？我离得太远了吗？很抱歉，这是更实用的理论，而不是实际的Python编程，但不知道在哪里张贴这类问题。
浏览 4提问于2017-09-27得票数 1
回答已采纳
1回答
单热与互动--多个范畴的一个热点
、、、、
我在想，当单个分类变量已经被一个热编码时，从多个分类变量中创建组合特性是否有什么价值？
简单的例子:有一个变量P与类别{X，Y}和变量q与类别{Z，W}。一次热后，我们将有4个变量: P.X，P.Y，Q.Z和Q.W。
在这种情况下，我想知道算法(Xgboost或深层神经网络)是否能够充分了解这些算法之间的交互作用，或者创建变量X.Z、X.W、Y.Z、Y.W是否有进一步的价值，这是P和Q的独特组合。
我要问的原因是，试着评估是否开始在我的现实世界中创建这些交互变量，在这个场景中，我有7个这样的分类特性和6-15个类别，这意味着将有成千上万的新变量来解释所有可能的排列。
浏览 0提问于2020-08-30得票数 1
LightGBM提供了处理分类变量的选项，而不需要对数据集进行热编码。
使用此特性(来自Python接口)的一种方法是使用categorical_feature-argument将分类特性的列名指定为列表。这种方法要求将类别编码为整数。
但是，另一种方法是为LightGBM提供一个Pandas DataFrame，其中本质上是分类的列被设置为范畴dtype，LightGBM将确定哪些列被视为分类。
但是在分类中使用的底层代码是由Pandas设置的，并且在Python会话中可能不一致。- cat_codes会导致LightGBM错误解释分类？中的条目吗？
根据Pandas的分类，我指的是一个名为
浏览 4提问于2020-02-12得票数 2
我的问题是，您是否应该使用与您的模型相同的特征选择算法？
如果我使用KNN模型进行分类，那么在运行特征选择时也应该使用KNN algo吗？或者lightGBM algo用于特征选择和lightGBM模型？
或者有一个最好的选择功能，你可以使用这些功能与任何模型？
我知道有几种不同的特征工程技术，我只是不知道哪些技术应该与不同的机器学习算法一起使用。
浏览 0提问于2021-01-05得票数 3
我正在尝试使用两个特性在lightgbm中创建一个简单的模型，一个是分类的，另一个是距离。我遵循了一个教程()，该教程指出，即使在LabelEncoding之后，我仍然需要告诉lightgbm，我的编码功能本质上是绝对的。但是，当我尝试这样做时，收到以下一系列警告消息：
UserWarning: Using categorical_feature in Dataset.
warnings.warn('Using categorical_feature in Dataset.')
UserWarning: categorical_feature in Dataset is o
浏览 1提问于2019-07-20得票数 3
下面是简单的代码：
import lightgbm as lgb
from sklearn.inspection import permutation_importance
X_train, X_test, y_train, y_test = train_test_split(X, y)
lgbr = lgb.LGBMRegressor(n_estimators=500, learning_rate=0.15)
model_lgb = lgbr.fit(X_train, y_train)
r = permutation_importance(model_lgb, X_test, y_test,
浏览 10提问于2022-03-25得票数 1
回答已采纳
1回答
我有一个有7个属性的数据集，即时间，C1，.C7关于地震的报告，其中每一列/属性代表损害的某一方面，即功率、sewer_and_water、shake_intensity等。这些属性的等级从0到10，其中0表示无损伤，10表示最大损害。
由于每个属性中的某些评分可能不可信，因此我试图计算一个加权分数，如下所示：(C1 * W1) + (C2 * W2) +.+ (C7 * W7)；其中Ci是ith属性，Wi是它的特征重要性评分。
为了计算每个行/数据点的加权分数，我尝试训练一个分类器，如随机森林分类器、LightGBM分类器或XGBoost分类器，为每个属性提供一个特征重要性评分。然而，由于我
浏览 0提问于2019-05-23得票数 1
1回答
我正在研究一个二进制分类问题，我的训练数据有数百万条记录和2000个变量。我运行lightGBM进行特征选择，并使用从lightGBM中选择的特性运行神经网络(使用Keras)模型进行预测。关于我所遵循的方法，我有几个问题。
当使用lightGBM进行特性选择时，我正在进行超参数调优。这是基于我的理解，随着超参数的变化，所选择的功能也会有所不同。我使用'goss‘算法和’增益‘作为特征重要性类型。我看过几篇他们使用lightGBM进行特性选择的文章，但我还没有看到在哪里进行超参数调优，它们只是使用默认设置。这是正确的方法吗？使用lightGBM进行特征选择，并使用神经网络根据从ligh
浏览 7提问于2020-07-07得票数 2
1回答
我在使用支持向量机进行分类时有问题。假设我有10个类，从0到9。我可以训练SVM来识别这些类，但有时我得到的图像不是数字，但是SVM仍然试图对这个图像进行分类。是否有一种方法可以为支持向量机的输出设置阈值(我可以为神经网络设置)来拒绝不良图像？我可以要求代码示例(用C++或)吗？提前谢谢。
浏览 1提问于2014-04-25得票数 0
回答已采纳
我已经为分类目的构建了一个LightGBM模型。我想用LightGBM模型使用lightgbm.create_tree_digraph构建一棵树。但是，它不是在树中显示所有特性，而是只显示Purpose_Of_Loan特性。我真的很想在一棵树中看到所有的特性。培训集共有12个特征。任何帮助都将不胜感激。
功能：
Loan_Amount_Requested float64
Length_Employed float64
Home_Owner int64
Annual_Income float64
Inc
浏览 15提问于2021-11-19得票数 0
回答已采纳
1回答
基于树的算法需要什么特征工程？
、、、、
我理解数据卫生，这可能是最基本的特性工程。这意味着确保所有数据都正确加载，确保N/As被视为一个特殊值，而不是一个介于-1和1之间的数字，并正确地标记您的分类值。
在过去，我做了大量的线性回归分析。因此，特征工程主要涉及：
使用log、指数、幂变换将特征转化为正确的标度。
乘性特征:如果你有高度和宽度，乘成面积。
选择特征:根据P值删除特征
但是，对于LightGBM (和随机森林)来说，这些特性的规模似乎并不重要，因为可排序的项目是有序的，然后是随机的二分法。特征的交互并不重要，因为其中一个弱分类器应该找到它，如果它是重要的。而特征选择并不重要，因为如果效果很弱，那么这些分类器就会被削弱。
浏览 0提问于2017-08-08得票数 12
回答已采纳
1回答
LightGBM支持分类变量。我想知道它是如何编码它们的。它似乎并不是一个热编码，因为算法非常快(我尝试了花费大量时间进行一个热编码的数据)。
浏览 0提问于2018-04-09得票数 3
我运行了一个基本的lightgbm示例来测试max_bin如何影响模型：
require(lightgbm)
data(agaricus.train, package = "lightgbm")
data(agaricus.test, package = "lightgbm")
train <- agaricus.train
test <- agaricus.test
dtrain <- lgb.Dataset(data = train$data, label = train$label, free_raw_data = FALSE)
dte
浏览 4提问于2018-03-13得票数 0
我知道AlexNet在图像中进行对象分类，类别和R做对象定位类别和边框.R-CNN和AlexNet的比较如何？
它们是用于相同的目的，还是R做了更多？R是否使用Alexnet作为子模块？
浏览 0提问于2019-07-25得票数 2
回答已采纳
1回答
我正在看Mallet的源代码，似乎大多数分类器实现(例如朴素贝叶斯)并没有真正考虑到特征选择，即使InstanceList类有一个setFeatureSelection方法。
现在，我想对我的数据集进行一些快速的实验，其中涉及到特征选择。我在想，从技术捷径的角度来看，我可能会得到排名最低的特征，并在实例向量中将这些值设置为0。这在机器学习中是否等同于分类器训练中的特征选择，因此根本不考虑它们(如果不涉及平滑，例如拉普拉斯估计)？
谢谢
浏览 2提问于2013-10-04得票数 1
1回答
情景1:
我训练了一个文本分类模型(模型1)，它给了我一个真实类别的概率为X。我还训练了一个分类模型(模型2)，只使用分类和数字数据。这两个模型都用于预测同一个真正的类；只是特性不同。我对模型1和模型2返回的概率(以它们作为输入特征)使用了随机林分类器，并得到了类似的性能度量(准确性、精确召回)。模型1和模型2的特征重要性分别为49%和51%。
情景2:
我使用文本分类模型的概率X作为模型2的输入特性(包含分类和数字特征)。其性能与情景1基本相似，但最终模型的特征重要性表明，文本模型概率在68%左右，其余特征的重要性较小。
我想了解这两种情况在特征重要性上的区别。
浏览 0提问于2021-01-05得票数 0
回答已采纳
我有一个数据集，我正在预处理。然而，在我的分类专栏(其中3篇)中，我有"??“就在这地方。它们占数据的50%。实际上，有3列有这样的内容。我的问题是我该怎么推测呢？我要替换吗？或者我用NaN代替它。
由于我的最终目标是一个分类问题，我将应用各种算法，如NB分类器，随机森林，决策树，K邻域。有时候，你的过错与否并不重要，因为有些阿尔戈斯会为你这样做。
浏览 0提问于2020-02-04得票数 2
我的任务是为一个分类问题提出一个95%精度的模型。我有训练数据和坚持数据集。为了实现这一目标，我有机会请求具有期望特性的特定类的数据。
我应该用什么方法来计划通过另一个团队进行数据采集？我目前的准确率为86%。我使用LightGBM进行模型开发。将考虑参数调整和与XGBoost和TabNet集成。但我想我需要更好的数据才能达到更高的精度。特征工程也在发挥作用。
还请注意，这是一个多类分类问题。
浏览 0提问于2021-09-12得票数 1
1回答
我有一个庞大的数据集，其中既有数值变量，也有分类变量。我遇到过各种主要专注于数字或分类数据的特征选择技术，而不是它们的混合。有没有在这样的数据集上工作的特征选择技术？
浏览 19提问于2020-04-13得票数 0
回答已采纳
2回答
数据集中分类特征的大量类别
、、、、
我有一个数据集，总共有13个特征，其中5个是分类特征。现在，这些特性分别有1700，25，65,275和3个不同的类别可用。在应用ML算法之前，我将使用可用的编码技术将这些分类特性转换为数字数据。
我正在研究的问题是多类分类。
我的问题是，我是否需要大量的数据(以数十万计)来使我的模型有效地学习每个类别的不同组合？
浏览 4提问于2021-10-22得票数 0
回答已采纳
1回答
神经网络有正态分布的数据重要吗？
、、、、
因此，与数据相关的标准问题之一是将其规范化，并将其标准化，使其具有正态分布的数据，平均值为0，标准差为1，对吗？但是，如果数据不是正态分布的呢？
另外，期望的输出是否也必须是正态分布的？如果我想让我的前馈网络在两个类别(-1和1)之间进行分类，那就不可能标准化为平均值0和std的正态分布，对吗？
前馈网是非参数的，对吗？因此，如果是的话，标准化数据仍然很重要吗？为什么人们会把它标准化呢？
浏览 0提问于2015-10-14得票数 7
回答已采纳
当我使用lightgbm训练分类模型时，我通常使用验证集和提前停止来确定迭代次数。
现在我想组合训练和验证集来训练模型(这样我就有更多的训练示例)，并使用该模型来预测测试数据，我应该更改从验证过程派生的迭代次数吗？
谢谢!
浏览 0提问于2020-01-09得票数 0
我正在研究泰坦尼克号数据集，这是我的第一个Kaggle项目。但是我收到了这个用户的警告，我试图找出如何摆脱它。
所以我做了两个预处理子管道：
num_pipeline = Pipeline([
('imputer', SimpleImputer( strategy='median')),
('scaler', StandardScaler()) ])
cat_pipeline = Pipeline([
('imputer', SimpleImputer(strategy='constant', fill_val
浏览 5提问于2021-01-16得票数 2
我正在尝试使用sklearn的决策树分类器进行分类。我已经将我的训练和测试数据集存储在两个独立的熊猫数据帧中。我这样调用分类器： classifier = DecisionTreeClassifier(criterion = 'entropy', random_state = 0)
classifier.fit(features_in_training_set, class_labels_in_training_set)
predictions = classifier.predict(features_in_testing_set) 然而，我收到了这个错误，这在使用树进行分
浏览 26提问于2019-01-04得票数 0
我有一个缺少数据的数据集(训练-测试)，我想在分类之前估算数据。
我尝试使用插入符包和函数preProcess，我想使用训练集的predictor变量来估算数据，只使用训练集的知识来估算测试集上的数据，而不使用测试集的predictor (我不应该知道)。
p = preProcess(x = training, method = "knnImpute", k = 10)
pred = predict(object = p, newdata = training)
pred1 = predict(object = p, newdata = testing)
当我运行这段代码时，
浏览 2提问于2015-03-31得票数 0
最近，我开始使用CatBoost进行机器学习模型的快速原型设计，这受到了与XGBoost、LightGBM和h2o相比的杰出的CatBoost的启发。
由于XGBoost只能接受数字特征，所以CatBoost和XGBoost之间的比较需要对分类特征进行共同的预处理。我并不完全清楚在基准测试中使用了什么样的预处理来编码分类特性，以及不使用简单的一种热编码的理由。
我试着阅读实验的。据我所知，对分类特性j进行编码的过程大约相当于以下内容：
在train集中，将响应y按j分组，并使用mean函数进行聚合。让我们调用结果df_agg_j
左加入分类列train集和df_agg_j，删除原始分类
浏览 3提问于2019-01-13得票数 1
1回答
如何分类支持呼叫文本？
、、、
我有一个电子表格，有数千条关于支持请求的记录。案件编号、问题说明等
我们的目标是将这些记录分类在许多类别中，以便为它们分配正确的优先级。
示例：
客户不能使用拾取功能。
客户不能拨打911或长途电话。
对于第1项，我决定使用一个名为“尽最大努力”的类别，而对于第2项，我决定使用紧急类别。
客户不能使用拾取功能，BEST_EFFORT
客户不能拨打911或长途电话，紧急
我正计划建立一本单词词典。
best_effort = ['pickup','record','conference']
urgent = ['system is down
浏览 0提问于2016-04-20得票数 3
回答已采纳
1回答
问题:我们有一堆需要归入“类别”的文档(杂志文章)。有些类别反映了文章的主题(文章是关于什么的)，而另一些类别反映了文章的“性质”(如果杂志印刷在纸上，它很可能会出现在那里)。
我们目前正在手动解决这个问题，方法是将文章发送到海外，让人们查看并标记它们。
我们希望更多地自动化这一过程。我看过各种库，但它们似乎不是为解决这个问题而设计的。
Carrot²对搜索结果进行聚类，但它是否可以与现有的(固定)类别一起工作，或者是否直接从每个输入中推断类别，这一点还不清楚。
NLTK是一个通用的解决方案，可以做很多事情，但没有速度或准确性的声誉。也许是我最好的选择？
理想情况下，我希望找到一个解决方案，在
浏览 0提问于2013-05-17得票数 1
回答已采纳
我正在处理一个非常简单的数据集。它在分类和数值特性上都有一些缺失的值。正因为如此，我正试图使用sklearn.preprocessing.KNNImpute来得到我所能得到的最精确的估算。但是，当我运行以下代码时：
imputer = KNNImputer(n_neighbors=120)
imputer.fit_transform(x_train)
我得到了错误：ValueError: could not convert string to float: 'Private'
这是有道理的，它显然不能处理分类数据。但是，当我尝试运行OneHotEncoder时：
encode
浏览 8提问于2020-07-13得票数 2
回答已采纳
1回答
我一直在阅读一篇关于随机森林的文章，在缺失值替换部分()中，他们说：
如果mth变量不是范畴变量，则该方法计算j类中该变量所有值的中值，然后使用该值替换j类中mth变量的所有缺失值。
这不会破坏整个过程吗？如果某个列中的大多数值都丢失了，那么在这个过程之后，可以使用新的值来轻松地识别类，并且得到的分类器将是无用的。我是不是漏掉了什么？
浏览 2提问于2015-04-15得票数 1
我的数据有很多分类特征。我使用Dict_vectorizer对它们进行编码。
For example df['color']=['green','blue','white']
df['size']=['small','big','medium'] .
我使用RandomForest算法。当我检查feature_importances的值时，我得到了每个类别的不同值。绿色= 2.45*10^-2，蓝色=6.2 *10^-3，依此类推。
不是所有编码的类别值都有相同
浏览 1提问于2015-07-09得票数 1
2回答
我读过LightGBM默认处理缺失的值。还有一些参数可以改变对zero_as_missing等缺失值的考虑。我看到一些人在缺失值的位置使用负值(-1，-999)。
所以，我的问题是，哪一个更好: 1)让模型来处理，还是2)用负值手动替换值？
提前感谢
浏览 0提问于2020-09-17得票数 1
1回答
我正在使用3个标签(0,1,2 = neg，pos，neu)进行分类任务。数据是句子。因此，为了生成句子的向量/嵌入，我使用一个Bert编码器来获取每个句子的嵌入，然后使用一个简单的knn进行预测。
我的数据是这样的:每个句子都有一个标签和其他分类的数值。
例如，我的数据如下所示
Sentence embeddings_BERT level sub-level label
je mange [0.21, 0.56] 2 2.1 pos
il hait [0.25, 0.39] 3 3.1 neg
.....
如您所见，每句话都有其他类别，但
浏览 1提问于2021-08-17得票数 2
回答已采纳
1回答
支持向量机新手-我有160个类别，从少数到许多成员术语和短语，用于培训数据。有些类别的短语很少，而另一些类别则有数百个词组。
我有大量的文本测试数据与广泛的专题品种。我想我想要一个MultiClass，oneVsRest支持向量机，二进制分类器。
1)支持向量机的训练输入应是一组1特征3:1特征5:1的直线。对于正的成员资格，其中的特性是类成员列表中的术语/短语-二进制值足够吗？-1特征线1:1特征2:1特征4:1.known_terms_of_interest字典中其他类的所有成员？
( 2)测试文档输入是否只包括known_terms_of_interest字典中的术语？
( 3)线性对不
浏览 3提问于2014-02-01得票数 0
1回答
我有一个集合的陈述，我需要分类为5个类别。每个语句都有不同列中的元数据：
作者--编辑-发布日期
如何使用元数据来改进文本分类任务？
浏览 0提问于2017-11-30得票数 1
回答已采纳
3回答
嘿，这是我的问题，
给定一组文档，我需要将每个文档分配给一个预定义的类别。
我打算用n-gram方法来表示每个文档的文本内容，然后根据我所拥有的训练数据训练支持向量机分类器。
如果我漏掉了什么东西请纠正。
现在的问题是，类别应该是动态的。也就是说，我的分类器应该用新的类别来处理新的训练数据。
例如，，，如果我训练了一个分类器，将给定的文档分类为A类、B类或C类，然后给我提供了D类的新训练数据，我应该能够通过为“D类”提供新的训练数据来逐步训练分类器。
总结说，我不想将旧的训练数据(包括3类)和新的训练数据(与新的/未见的分类)结合起来，再次训练我的分类器。我想在飞行中训练我的分类器
这能用支持
浏览 5提问于2012-08-20得票数 7
回答已采纳
几周来，我一直在测量通过自动发布管道发布产品所需的时间。我有几个不同的分类功能，如“产品类别”，“产品负责人”。然后，我也有一些数字类别，如“一天中的时间开始工作”，“子产品的数量”等等。总共我有16个不同的类别，每个类别可以有大约10个不同的值。
现在，我将尝试训练一个回归模型，看看我是否能够根据这些特性预测出产品通过管道所需的提前期(所需时间)。
我想知道这些特性中是否有比其他特性更相关的特性。正如我所理解的那样，我必须分离数字和分类特征，并对它们分别进行测试。对于数值变量，我读过有关珠光森的文章，对于相关的分类变量和数值变量，我读过关于ANOVA的文章，但是我似乎找不到在Python中实
浏览 0提问于2019-02-17得票数 0
我在我的数据集上训练了支持向量机和logistic回归分类器。两个分类器都提供了一个权重向量，该向量的大小是特征数的大小。我可以使用这个权重向量来选择10个最重要的特征，只要选择权重最高的10个特征。
我是否应该使用权重的绝对值，即选择绝对值最高的10个特征？
第二，这只适用于线性核支持向量机，但不适用于我所读过的RBF核。对于非线性核，权值在某种程度上不再是线性的。在非线性核支持向量机的情况下，权重向量不能用来确定特征的重要性的确切原因是什么？
浏览 3提问于2015-07-21得票数 2
回答已采纳
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
实时音视频
对象存储
即时通信 IM活动推荐
腾讯云开发者
