【AAAI】四篇好文简读-专题7

一

论文题目:

Feature Importance Explanations for Temporal Black-Box Models 论文摘要:

监督学习框架中的模型可能会捕获人类难以理解的特征的丰富而复杂的表示。解释这类模型的现有方法通常是特定于体系结构和数据的，其中的特征没有时变的成分。在这项工作中，作者提出了TIME，一种解释本质上是时序模型的方法。作者的方法 (i) 使用基于模型不可知排列的方法来分析全局特征的重要性，(ii) 确定显著特征相对于它们的时间顺序以及局部windows of influence的重要性，(iii)使用假设检验来提供统计的严谨性。

论文链接：

https://aaai-2022.virtualchair.net/poster_aaai12890

二

论文题目：

Molecular Contrastive Learning with Chemical Element Knowledge Graph 论文摘要：

分子表征学习有助于多个下游任务，如分子特性预测和药物设计。为了正确地表示分子，图对比学习是一个很有前途的技术，它利用了自监督信号，不需要人类的注释。然而，先前的工作没有将基本的领域知识整合到图的语义中，因此忽略了具有共同属性但不通过键直接相连的原子之间的相关性。为了解决这些问题，作者构建了一个化学元素知识图谱(KG)来总结元素之间的微观关联，并提出了一个新的知识增强对比学习(KCL)框架，用于分子表征学习。KCL框架由三个模块组成。第一个模块是知识引导图增强，基于化学元素KG增强了原始分子图。第二个模块是知识感知图表示，它使用原始分子图的公共图编码器和知识感知消息传递神经网络(KMPNN)提取分子表示，以便在增广分子图中编码复杂信息。最后一个模块是一个对比模块，以最大化这两种分子图视图之间的一致性。大量的实验表明，KCL在8个分子数据集上获得了优于最先进的基线的性能。

论文链接：

https://www.aaai.org/AAAI22Papers/AAAI-2598.FangY.pdf Github链接：

https://github.com/ZJU-Fangyin/KCL

三

论文题目：

Learning Energy-Based Model with Variational Auto-Encoder as Amortized Sampler 论文摘要：

由于难解的配分函数，通过最大似然训练基于能量的模型(EBMs)需要马尔可夫链蒙特卡罗(MCMC)采样来近似数据和模型分布之间的KL散度的梯度。然而，由于模态之间混合的困难，从EBM中采样并不是平凡的。在本文中，作者提出学习一个变分自动编码器(VAE)来初始化有限步MCMC，如由能量函数导出的朗之万动力学，用于EBM的有效摊销采样。对于这些摊销的MCMC样本，EBM可以通过最大似然进行训练，这遵循“合成分析”方案；而VAE通过变分贝叶斯从这些MCMC样本中学习。作者称这种联合训练算法为变分MCMC教学，其中VAE使得EBM向数据分布靠拢。作者将学习算法解释为在信息几何上下文背景下的动态交替投影。作者提出的模型可以生成与GANs和EBMs相比较的样本。此外，作者证明了此模型可以从监督条件学习任务中学习到有效的概率分布。

论文链接：

https://ojs.aaai.org/index.php/AAAI/article/view/17250

四

论文题目：

Multi-task Learning by Leveraging the Semantic Information 论文摘要:

多任务学习的一个关键目标是使各任务之间的分布一致，以便它们之间的信息可以被转移和共享。然而，现有的方法只关注边缘特征分布的匹配，而忽略了语义信息，这可能会阻碍学习性能。为了解决这个问题，作者提出通过探索任务之间的语义条件关系来利用多任务学习中的标签信息。首先，基于Jensen-Shannon发散度的概念，从理论上分析了多任务学习的泛化界限，从而对标签信息在多任务学习中的价值提供了新的见解。作者的分析还得到了一个联合匹配语义分布和控制标签分布分歧的具体算法。为了验证该方法的有效性，我们首先将该算法与几条基线在一些基准测试中进行了比较，然后在标签空间转移条件下对算法进行测试。经验结果表明，所提出的方法可以超过大多数基线，并达到最先进的性能，特别是显示出在标签变化条件下的优势。

论文链接：

https://arxiv.org/pdf/2103.02546.pdf