问R总是返回NA作为一个系数，作为线性回归与不必要的变量的结果？

EN

会有NA吗？

是。添加这些列不会扩大列空间。得到的矩阵是秩亏的.

多少NA？

这取决于数字的等级。

number of NA = number of coefficients - rank of model matrix

在您的示例中，在引入ec之后，将有一个NA。更改模型公式中协变量的规格顺序实质上是对模型矩阵进行列改组。这不会改变矩阵的排序，因此无论您的规范顺序如何，您总是只得到一个NA。

好的，但是哪一个是NA？

lm使用限制的列旋转进行LINPACK QR分解。协变量的顺序影响到哪一个是NA。一般来说，“先到先得”的原则是成立的，NA的地位是相当可预测的。以你的例子为例。在第一个规范中，这些协线性项以Examination，Catholic，ec顺序出现，因此第三个ec具有NA系数。在第二个规范中，这些术语以ec、Examination、Catholic顺序显示，第三个Catholic具有NA系数。请注意，系数估计并不是不变量的规格顺序，虽然拟合的值是不变的。

如果采用完全列旋转的LAPACK分解，则系数估计将不受规范阶的影响。然而，NA的位置并不像在LINPACK情况下那样可预测，它完全是由数字决定的。

数值算例

在mgcv包中实现了基于LAPACK的QR分解。当使用REML估计时，检测数值秩，不可识别系数报告为0(而不是NA)。因此，我们可以比较lm和gam / bam在线性模型估计中的应用。让我们首先构建一个玩具数据集。

set.seed(0)

# an initial full rank matrix
X <- matrix(runif(500 * 10), 500)
# make the last column as a random linear combination of previous 9 columns
X[, 10] <- X[, -10] %*% runif(9)

# a random response
Y <- rnorm(500)

现在我们对X的列进行洗牌，看看NA在lm估计下是否改变了它的位置，或者0是否改变了它在gam和bam估计下的位置。

test <- function (fun = lm, seed = 0, ...) {
  shuffleFit <- function (fun) {
    shuffle <- sample.int(ncol(X))
    Xs <- X[, shuffle]
    b <- unname(coef(fun(Y ~ Xs, ...)))
    back <- order(shuffle)
    c(b[1], b[-1][back])
    }
  set.seed(seed)
  oo <- t(replicate(10, shuffleFit(fun)))
  colnames(oo) <- c("intercept", paste0("X", 1:ncol(X)))
  oo
  }

首先我们要检查一下lm

test(fun = lm)

我们看到NA随着X的列洗牌而改变它的位置。估计系数也不同。

现在我们来检查一下gam

library(mgcv)
test(fun = gam, method = "REML")

我们发现，估计对X的列改组是不变的，而X5的系数总是0。

最后，我们检查bam (对于像这里这样的小数据集，bam是慢的。它是为大型或超大型数据集设计的。因此，以下内容明显较慢)。

test(fun = bam, gc.level = -1)

其结果与我们对gam的看法相同。

ec、检测和是3个参数，需要至少2个变量来确定第三个。重要的是，每三个中有2个是必需的。现在，当你把这个传递给lm时，3个相关变量中的前两个将得到系数，第三个变量将以NA结束。变量的顺序很重要。我希望这解释了考试和天主教两者都不是NA的原因。只有电子商务，你不能同时决定考试和天主教。