【论文阅读-域自适应】Can We Evaluate Domain Adaptation Models Without Target-domain Labels?

zstar

发布于 2024-05-24 13:18:11

1010

发布于 2024-05-24 13:18:11

论文概述

本文是域自适应领域的一篇工作，发表在ICLR 2024，poster。论文链接：https://openreview.net/forum?id=fszrlQ2DuP 开源代码：https://github.com/sleepyseal/TransferScore

域自适应(Domain Adaptation)是迁移学习的子领域，目的是把分布不同的源域(Source Domain)和目标域(Target Domain)的数据，映射到一个特征空间中，利用其它领域数据来增强目标领域训练。该文章是进一步涉及更细分领域无监督域自适应(Unsupervised domain adaptation, UDA)。

无监督域自适应(Unsupervised domain adaptation)目的是对源域上训练的模型进行调整以适应未标记的目标域。然而由于目标域没有标签，因此很难有效评估UDA 模型的性能。对此，本文提出了一种迁移分数(Transfer Score)的评估指标。在此基础上，主要实现了三个新的任务：

选择最优的UDA模型
优化UDA模型的超参数
识别UDA模型训练到多少epoch表现最佳。

个人总结：作者挺会包装的，说白了这篇论文就是提出了一个评估指标，后面三个任务只是模型调参的必经过程。

1. 提出动机

概述中已提到，本文提出的迁移分数TS分数指标主要用来度量UDA模型的有效性，换言之是度量源域和目标域的域差异。那么，难道之前就没有类似指标了吗？当然是有的，作者比较了两种比较常用的度量指标MMD和PAD。

1.1 MMD

MMD(Maximum Mean Discrepancy)，指代最大均值差异，用于衡量源域和目标域之间的分布差异，计算公式如下：

\mathrm{MMD}^2(\mathcal{X}, \mathcal{Y}) = \left\| \mathbb{E}_{x \sim \mathcal{X}}[\phi(x)] - \mathbb{E}_{y \sim \mathcal{Y}}[\phi(y)] \right\|_{\mathcal{H}}^2

其中：

\mathcal{X}

\mathcal{Y}

：分别代表源域和目标域样本集

\phi(\cdot)

：映射到某个特征空间的核函数

\mathcal{H}

：核函数所对应的再生核希尔伯特空间（RKHS）

上式表示在再生核希尔伯特空间中，两个分布的均值嵌入之间的距离。MMD 越大，说明源域与目标域之间的分布差异越大。

1.2 PAD

Proxy A-Distance（PAD）也是用来衡量源域和目标域之间的分布差异的指标，计算公式如下：

d_A = 2(1 - 2\epsilon)

其中，

\epsilon

：二元分类器在区分源域和目标域样本时的错误率。

当源域和目标域之间的分布非常不同，分类器可以轻松区分样本来源，此时错误率

\epsilon

低，对应的

d_A

接近 2，表示分布差异较大；当源域和目标域之间的分布非常相似，分类器难以区分样本来源，错误率

\epsilon

高，对应的

d_A

接近 0，表示分布差异较小。

为了证明作者提出的TS(Treansfer Score)比MMD和PAD更能真实反应源域和目标域之间的分布差异，作者借助训练过程中模型的准确率ACC作为真值来进行性能评估，结果如下图所示，可以看到蓝色的TS和黑色的ACC更加接近，说明了该指标评估的科学性。

2.具体方法

下面看TS这个指标具体是怎么算的。

2.1 衡量模型类别划分的均匀性

首先，作者从模型的权重参数出发。作者认为，对于一个分类任务而言，想要让源域能够顺利泛化到目标域，首先要使模型公平的对待每个类别，即在进行分类时，不能使某个类别的权重特别大，使最终结果偏向于该类别。

对此，作者用

\mathcal{U}

来衡量该均匀性，计算公式如下：

\mathcal{U}=\frac12\|\Sigma_h-\Sigma_u\|_F^2=\frac1{K(K-1)}\sum_{i=1}^K\sum_{j=1}^K\left(\theta_{ij}-\theta_K\right)^2

\mathcal{U}

表示值越小表示分类器的可迁移性越高，其中

\theta_K

的计算公式如下：

\theta_K=arccos\left(-\frac1{K-1}\right)

这里的K指代特征的维度。

下面结合代码来理解，我对作者关于这部分的源码加了注释：

for k, v in classifier.head.named_parameters():
       if "weight" in k:
           u = uniformity(v)
# 计算分类器的均匀性
def uniformity(weight):
    # 权重重塑
    # 如果权重的维度大于 2（通常是卷积层的权重），将其重塑为二维矩阵。第一维保持不变（对应于输出通道数），第二维是展平的输入通道和核的维度。
    if weight.dim() > 2:
        weight = weight.view(weight.size(0), -1)
    # 权重通过 L2 范数进行归一化
    weight_ = F.normalize(weight, p=2, dim=1)
    # 计算两个权重向量之间余弦相似度
    cosine = torch.matmul(weight_, weight_.t())
    n=cosine.size(0)
    cosine=cosine.flatten()[:-1].view(n-1,n+1)
    cosine=cosine[:,1:]
    # 将余弦相似度转换为角度
    theta=torch.acos(cosine)
    # 计算理想的均匀分布角度 theta0，这是在完美均匀分布的情况下，任意两个向量之间的角度
    theta0=torch.acos(torch.tensor(-1/(n-1)))
    # 计算每个实际角度与理想角度的差异
    dif=theta-theta0
    u1=dif.abs()
    u2=dif.mul(dif)
    u1_loss=torch.mean(u1)
    u2_loss=torch.mean(u2) 
    return u2_loss.item()

看代码就比较容易理解，公式中的

就是实际权重的分布，

就是理想的均匀分布，代码中转换成角度的形式方便计算。

第二个公式的推导过程，作者在附录中进行了证明，过程如下：

2.2 衡量特征的可迁移性和可区分性

这一节从模型提取到的特征角度出发，主要从特征的可迁移性和可区分性两方面衡量。

首先是可迁移性。作者引入了前人工作的一个论点：“对于一个好的 UDA 模型，特征空间应该为每个类别呈现出不同的簇，这表明具有更好的可迁移性和可区分性。”对于这一点，从直观上来说并不是特别容易理解。总之，把这一点看成是一条正确的公理，那么为了衡量特征的可迁移性，就转换成是否每个类别呈现出不同的簇。

为此，作者通过Hopkins来进行计算。 Hopkins统计量是一个用于度量数据集的聚类倾向的指标。如果数据点在高维空间中呈现明显的聚类趋势，则Hopkins统计量会接近于1；如果数据点是均匀分布的，则该值接近于0.5。

Hopkins的计算公式如下：

\mathcal{H}=\frac{\sum_{i=1}^mu_i^d}{\sum_{i=1}^mu_i^d+\sum_{i=1}^mw_i^d}

结合代码，可以更容易理解计算细节，Hopkins统计量相关代码如下：

# 提取目标领域特征
X = features.cpu().numpy()
# 使用5%的样本进行Hopkins统计量计算
sample_size = int(X.shape[0] * 0.05)
# 在特征空间中生成均匀随机样本
X_uniform_random_sample = uniform(X.min(axis=0), X.max(axis=0), (sample_size, X.shape[1]))
random_indices = sample(range(0, X.shape[0], 1), sample_size)
X_sample = X[random_indices]
# 使用最近邻算法计算距离
neigh = NearestNeighbors(n_neighbors=2)
nbrs = neigh.fit(X)
u_distances, u_indices = nbrs.kneighbors(X_uniform_random_sample, n_neighbors=2)
u_distances = u_distances[:, 0]
w_distances, w_indices = nbrs.kneighbors(X_sample, n_neighbors=2)
w_distances = w_distances[:, 1]
u_sum = np.sum(u_distances)
w_sum = np.sum(w_distances)
H = u_sum / (u_sum + w_sum)  # 计算Hopkins统计量

简单概括一下，就是生成均匀随机特征样本，通过最近邻算法计算每个X_sample到最近邻目标样本的距离得到

\sum_{i=1}^mw_i^d

，用同样的方式计算每个均匀随机样本X_uniform_random_sample到最近邻目标样本的距离得到

\sum_{i=1}^mu_i^d

，带入公式进行计算。由于KNN计算比较慢，因此在代码中，作者计算Hopkins时，选取了5%的样本。

Hopkins的局限在于，比如很多样本单独形成一个蔟，并没有聚在一起，Hopkins值依然很高。于是作者利用可区分性来进行补充，主要从类别角度考虑，通过互信息来衡量。

在聚类中，互信息可以用来评估聚类结构与真实数据标签之间的一致性。高互信息值表明聚类结果与真实数据标签高度相关，计算公式如下：

\mathcal{M}=H(\mathbb{E}_{x\in\mathcal{D}_t}h(g(x)))-\mathbb{E}_{x\in\mathcal{D}_t}H(h(g(x))),

在代码中，作者通过信息熵损失来计算一致性。

im_loss = []  # 存储信息熵损失
iter_num = len(train_target_iter)
with torch.no_grad():
    for i in range(iter_num):
        x_t, = next(train_target_iter)[:1]
        x_t = x_t.to(device)
        # 获取模型预测和特征
        y, output_f = classifier(x_t, require_feature=True)
        if features.size()[0] == 1:
            features = output_f
        else:
            features = torch.cat((features, output_f), dim=0)
        output_test = y
        # 计算模型预测的软最大值
        softmax_out = nn.Softmax(dim=1)(output_test)
        entropy_loss = torch.mean(entropy(softmax_out))
        # 计算类别分布的总体熵损失
        msoftmax = softmax_out.mean(dim=0)
        gentropy_loss = torch.sum(-msoftmax * torch.log(msoftmax + 1e-6))
        entropy_loss -= gentropy_loss
        im_loss.append(entropy_loss.item())
    M = sum(im_loss) / len(im_loss)