AI+Drug 文献速递 | ICLR 2025 药物设计系列 | 分子性质预测、物理与能量建模、大模型相关内容

分子性质预测

1. Redefining the Task of Bioactivity Prediction

期刊: ICLR 2025 链接: https://openreview.net/forum?id=S8gbnkCgxZ 代码: https://github.com/bowen-gao/SIU

简介: 论文指出当前生物活性预测模型因依赖虚假特征及评估不严谨，在区分结构相似但性质不同的分子（活性悬崖）时表现不足，为此重新定义该任务并构建百万级数据集SIU。通过多软件对接和多数投票机制构建可靠的小分子-蛋白质复合物结构，按标签类型组织数据，并引入基于同一蛋白口袋内小分子的评估指标。实验在SIU数据集上训练GIN、GraphGPS等模型，发现传统指标高估模型能力，新指标下性能显著下降，而SIU训练的模型在跨靶点和同靶点评估中均表现更优。该研究为生物活性预测提供了更严谨的基准，推动机器学习模型在药物发现中的实际应用。

2. Curriculum-Aware Training for Discriminating Molecular Property Prediction Models

期刊: ICLR 2025 链接: https://openreview.net/forum?id=6DHIkLv5i3

简介: 针对分子活性悬崖（结构相似但性质差异大）导致模型难以区分的问题，论文提出结合节点和边缘级任务的课程学习算法LAC。将分子属性预测重构为图节点分类问题，节点级任务通过加权损失优先学习活性悬崖分子，边缘级任务通过对比损失强化成对分子的区分性。在Tox21、ToxCast等数据集上，LAC显著提升GraphGPS、UniMol等模型性能，消融实验验证了双任务的有效性。该方法通过 curriculum learning 有效提升模型对结构相似分子的判别能力，为分子属性预测提供了更鲁棒的训练框架。

3. CL-MFAP: A Contrastive Learning-Based Multimodal Foundation Model for Molecular Property Prediction and Antibiotic Screening

期刊: ICLR 2025 链接: https://openreview.net/forum?id=fv9XU7CyN2 代码: https://github.com/CLMFAP/CLMFAP

简介: 论文提出CL-MFAP，一种基于对比学习的多模态基础模型，整合SMILES、分子图和摩根指纹三种模态，通过Transformer编码器和双层路由注意力机制（BRA）学习分子表示，在160万ChEMBL分子上预训练。在E.coli MIC、H.influenzae MIC等6个下游任务中，CL-MFAP在抗菌活性预测中表现最优，ROC-AUC达0.85±0.04，且在表示-属性关系分析中优于基线模型。该研究为抗生素筛选提供了高效的多模态学习框架，展现了对比学习在分子表征中的潜力。

物理与能量建模

1. Learning Equivariant Non-Local Electron Density Functionals

期刊: ICLR 2025 链接: https://openreview.net/forum?id=FhBT596F1X 代码: https://github.com/eseberhard/eg-ex

简介: 本文提出Equivariant Graph Exchange Correlation (EG-XC)，一种基于等变图神经网络（GNN）的非局部交换相关泛函，解决现有密度泛函理论（DFT）中非局部贡献近似的精度、可扩展性和数据依赖问题。EG-XC通过将电子密度压缩为SO(3)等变的核中心点云，结合等变GNN捕捉分子范围相互作用，并通过自洽场（SCF）求解器仅需能量目标进行训练。实验在MD17、3BPA、QM9等数据集上进行，结果显示EG-XC在MD17上准确重构CCSD(T)能量，在3BPA的分布外构象中相对MAE降低35%-50%，在QM9上数据效率显著，平均MAE比基线低51%。该研究推动了非局部泛函的发展，为高效准确的DFT计算提供了新路径。

2. Self-Supervised Diffusion Models for Electron-Aware Molecular Representation Learning

期刊: ICLR 2025 链接: https://openreview.net/forum?id=UQ0RqfhgCk 代码: https://github.com/ngs00/DELID

简介: 本文提出分解监督电子级信息扩散模型（DELID），通过自监督扩散机制估计复杂分子的电子级信息，无需昂贵量子计算。模型利用分子分解子结构及其电子特征，通过两个扩散过程关联分子图和电子信息，并引入基于量子化学数据库的检索过程获取电子特征。实验在Lipop、ESOL、IGC50等9个真实分子数据集上进行，DELID在多数数据集上达到SOTA性能，如Lipop数据集R²达0.782，且在小数据集上泛化能力优于传统GNN。该方法为分子表示学习提供了电子级信息驱动的新框架，提升了复杂分子性质预测的准确性。

3. Enhancing the Scalability and Applicability of Kohn-Sham Hamiltonians for Molecular Systems

期刊: ICLR 2025 链接: https://openreview.net/forum?id=twEvvkQqPS

简介: 本文针对Kohn-Sham哈密顿量预测的可扩展性问题，提出Wavefunction Alignment Loss（WALoss）和WANet模型，通过基变换对齐预测与真实哈密顿量的特征空间，结合SO(2)卷积和稀疏专家混合机制提升计算效率。实验在PubChemQH（5万+大尺寸分子）和QH9数据集上进行，WANet+WALoss使系统能量MAE从63579 kcal/mol降至47.193 kcal/mol，SCF迭代减少18%，在预测HOMO/LUMO能量和偶极矩等性质上优于基线模型。研究突破了传统方法在大分子系统中的精度限制，为高效量子化学计算提供了新范式。

4. MOFFlow: Flow Matching for Structure Prediction of Metal-Organic Frameworks

期刊: ICLR 2025 链接: https://openreview.net/forum?id=dNT3abOsLo 代码: https://github.com/nayoung10/MOFFlow

简介: 本文提出MOFFlow，首个针对金属有机框架（MOF）结构预测的深度生成模型，解决现有方法在处理MOF复杂结构时的计算效率和扩展性问题。MOFFlow基于黎曼流匹配框架，将金属节点和有机连接体视为刚体，在SE(3)空间中建模其旋转和平移动力学，通过等变图神经网络和注意力模块捕捉模块化结构特征。实验在Boyd等人的MOF数据集（324,426个结构）上进行，对比传统随机搜索、进化算法及DiffCSP等基线模型，MOFFlow在未见结构上达到31.69%的匹配率，RMSE低至0.2820，且推理速度比DiffCSP快10-20倍，可处理含数百原子的MOF。研究表明，模型在保留MOF关键属性（如表面积、孔隙率）和扩展至大尺寸系统方面显著优于现有方法，为MOF设计提供了高效的生成框架。

5. Towards Fast, Specialized Machine Learning Force Fields: Distilling Foundation Models via Energy Hessians

期刊: ICLR 2025 链接: https://openreview.net/forum?id=1durmugh3I 代码: https://github.com/ASK-Berkeley/MLFF-distill

简介: 本文提出基于能量 Hessian 的知识蒸馏方法，将通用机器学习力场（MLFF）基础模型（FM）压缩为针对特定化学子空间的快速专用模型，解决FM推理慢且缺乏物理约束的问题。方法通过训练学生模型匹配教师模型的 Hessian 矩阵，结合能量和力的监督损失，实现架构无关的高效蒸馏。实验在SPICE、MPtrj、MD22等数据集上，对MACE-OFF、JMP等FM进行蒸馏，生成的学生模型（如GemNet-dT）推理速度提升20倍，力误差（MAE）降低35%-60%，且在分子动力学模拟中能量守恒性优于教师模型。例如，在SPICE的氨基酸子集上，蒸馏模型力MAE低至0.48 meV/Å，比未蒸馏模型提升80%。该方法为构建快速、准确且符合物理约束的专用MLFF提供了新范式，推动MLFF在实际应用中的普及。

大模型相关

1. Multimodal Large Language Models for Inverse Molecular Design with Retrosynthetic Planning

期刊: ICLR 2025 链接: https://openreview.net/forum?id=rQ7fz9NO7f 代码: https://github.com/liugangcode/Llamole

简介: 该论文介绍了Llamole，首个能够进行文本和图交错生成的多模态大型语言模型（MLLM），旨在解决分子逆向设计及其逆合成规划的挑战。其核心创新在于克服了传统LLM难以处理分子图结构以及在文本和图之间进行连贯自回归生成的局限性。Llamole整合了一个基础LLM与两个预训练的图模型：用于多条件分子生成的图扩散变换器（Graph DiT）和用于反应推断的图神经网络（GNN），LLM通过特殊的触发-查询-预测机制（使用<design>, <retro>, <query>等特殊标记）灵活控制不同图模块的激活。同时，模型内置了一个图编码器（预训练的GIN）以增强LLM对分子结构的理解，并结合A*搜索算法进行高效的逆合成路线规划，其中LLM负责计算启发式成本函数。研究者创建了大规模图文多模态指令数据集MoIQA（含约13.9万问答对）和配对数据集MolPair（含60万图文对和160万反应文本对），用于模型训练和基准测试。实验在包含10K药物和材料设计问题的MolQA测试集上进行，对比了Llamole与14种不同规模（7B至70B）的LLM（采用ICL或SFT方法）以及GraphGA等基线模型。结果显示，Llamole在12项可控分子生成指标（如有效性、相似性、文本质量、属性控制）和逆合成规划成功率上均显著优于所有对比LLM，性能提升最高达80.9%，并将逆合成成功率从基线的最高约5%提升至35%（药物）/17.9%（聚合物）。该研究证明了多模态方法在分子发现中的价值，并为未来的MLLM在化学领域的应用奠定了基础。

2. MOOSE-CHEM: Large Language Models for Rediscovering Unseen Chemistry Scientific Hypotheses

期刊: ICLR 2025 链接: https://openreview.net/forum?id=X9OfMNNepI 代码: https://github.com/ZonglinY/MOOSE-Chem.git

简介: 该研究旨在探索大型语言模型（LLM）在仅给定化学研究背景（研究问题和/或背景综述）的情况下，能否自动发现新颖且有效的化学研究假设。论文基于一个核心假设：大部分化学假设可由研究背景加上若干“灵感”推导而来，并将此中心问题分解为三个子问题：LLM能否检索到有用的灵感、能否结合背景和灵感生成假设、以及能否评估并排序生成的假设。为此，研究者构建了一个名为TOMATO-Chem的基准数据集，包含51篇2024年发表于Nature、Science等顶级期刊的化学与材料科学论文，每篇论文被分解为背景、灵感和假设等部分。论文提出MOOSE-Chem框架，这是一个基于LLM的多智能体框架，包含灵感检索、基于进化算法（包含变异、反馈修正、重组）的假设生成以及基于有效性、新颖性、重要性和潜力的假设排序三个阶段。实验使用截至2023年的数据训练的GPT-4o进行，结果表明LLM在从大型文献库（最多3000篇）中检索与背景相关的真实灵感方面表现出高命中率（例如，从300篇文献库中选出的前4%文献覆盖了超过75%的真实灵感） ，在给定背景和真实灵感的情况下能生成与真实假设高度相似的假设（通过“匹配分数MS”评估） ，并且在一定程度上能将质量更高的假设排在前面。在模拟真实应用场景（仅提供背景和一个含300篇论文的语料库）的测试中，MOOSE-Chem成功地重新发现了许多论文的核心创新点，显著优于基线方法。这项工作证明了LLM在自动化化学假设发现方面的巨大潜力。

3. HELM: Hierarchical Encoding for mRNA Language Modeling

期刊: ICLR 2025 链接: https://openreview.net/forum?id=MMHqnUOnl0

简介: 该论文介绍了HELM (Hierarchical Encoding for mRNA Language Modeling)，一种新颖的mRNA语言模型预训练策略，其核心创新在于将mRNA固有的密码子层级结构信息融入模型训练中，以解决现有生物序列语言模型未能充分考虑mRNA此特性的问题。HELM通过基于密码子同义性调整损失函数（采用层级交叉熵HXE损失），使模型的学习过程更符合mRNA序列的生物学实际。研究者在一个包含约1530万条序列的大型高质量抗体mRNA数据集OAS以及七个不同的下游任务数据集（包括Abl, Ab2, MLOS, iCodon, Tc-Riboswitches, mRFP, COVID-19 Vaccine）上进行了广泛评估。实验结果表明，在使用密码子级词元化和Transformer架构时，HELM在七个下游属性预测任务和一个抗体区域注释任务上，平均性能比标准语言模型预训练方法和其他基础模型（如RNA-FM, SpliceBERT, CodonBERT）高出约8% ，并且显著提升了语言模型的生成能力，能产生更符合真实数据分布且更多样的mRNA序列，尤其是在具有明显同义密码子使用偏好的数据集上效果更佳（通过熵和密码子对偏好CPB分析验证）。总而言之，HELM通过有效捕捉mRNA的层级结构，以最小的预训练修改代价，提升了模型在预测和生成任务上的表现。

4. ChemAgent: Self-Updating Library in Large Language Models Improves Chemical Reasoning

期刊: ICLR 2025 链接: https://openreview.net/forum?id=kuhIqeVg0e 代码: https://github.com/gersteinlab/chemagent

简介: 该论文提出了一个名为ChemAgent的新颖框架，旨在通过动态的自更新库来提高大型语言模型（LLM）在化学推理任务中的表现，这是其主要创新点。该方法通过将化学任务分解为子任务，并将这些子任务编译到一个结构化的库中，以便将来查询时参考。当遇到新问题时，ChemAgent会从这个称为“记忆”的库中检索和提炼相关信息，促进有效的任务分解和解决方案生成。该框架设计了三种类型的记忆（规划记忆、执行记忆、知识记忆）和一个库增强的推理组件，使LLM能够通过经验不断改进。在SciBench的四个化学推理数据集（QUAN, CHEMMC, ATKINS, MATTER）上的实验结果表明，ChemAgent（以GPT-4为基础模型）的性能提升最高可达46%，显著优于现有方法。该研究表明其在药物发现和材料科学等领域具有巨大的应用潜力。

5. OSDA Agent: Leveraging Large Language Models for De Novo Design of Organic Structure Directing Agents

期刊: ICLR 2025 链接: https://openreview.net/forum?id=9YNyiCJE3k

简介: 该论文提出了一种名为OSDA Agent的交互式有机结构导向剂（OSDA）设计框架，其核心创新在于利用大型语言模型（LLM）作为“大脑”，并结合计算化学工具进行OSDA的从头设计。该框架包含三个主要组件：负责生成潜在OSDA结构的Actor、使用计算化学工具评估生成分子的Evaluator以及根据评估反馈生成反思性总结以指导Actor后续输出的Self-reflector。实验在代表性的沸石骨架（如LTA和AFI）上进行，评估指标包括生成分子的有效性（基于RDKit检查和经验规则 ）、与文献报道OSDA的相似性（使用BLEU、Morgan、MACCS、RDK指纹计算 ）、分布相似性（使用基于WHIM描述符的能量距离ED和KL散度 ）以及合成复杂度（SCScore ）和结合能。实验中使用了Zeolite Organic Structure Directing Agent Database (OSDB) 和 Jensen dataset 作为数据来源。结果表明，这种生成-评估-反思-优化的工作流程能够设计出高质量的OSDA候选分子，优于纯LLM模型，生成的分子与实验验证的OSDA一致，并能优化已知的OSDA。