新闻中心
原子、分子、复合物级性质预测均最佳,清华分子预训练框架登Nature子刊
☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 免费无限量使用 DeepSeek R1 模型☜☜☜

编辑 | KX
AI 已广泛用于药物发现和材料设计中的分子筛选。当前的自监督分子预训练方法往往忽略了分子的基本化学特性和物理原理。
为了解决这个问题,来自清华大学的研究人员提出了一种称为分数去噪(Fractional denoising,Frad)的分子预训练框架,以学习有效的分子表示。通过这种方式,噪声变得可自定义,允许纳入化学先验,从而大大改善分子分布建模。
实验表明,Frad 始终优于现有方法,在力预测、量子化学特性和结合亲和力任务中,取得最先进的
结果。改进的噪声设计提高了力准确性和采样覆盖范围,这有助于创建物理一致的分子表示,最终实现卓越的预测性能。
相关研究以「Pre-training with fractional denoising to enhance molecular property prediction」为题,于 9 月 18 日发布在《Nature Machine Intelligence》上。

论文链接:https://www.nature.com/articles/s42256-024-00900-z
AI 用于分子性质预测的挑战
分子性质预测是药物发现和材料设计等各个领域的一项关键任务。传统方法,包括第一性原理计算和湿实验室实验,需要巨大的成本,从而阻碍了具有所需特性的分子的高通量筛选。科学家认为深度学习方法可以降低成本和大幅加速筛选过程。
深度学习分子性质预测方法面临的主要困难是标记分子数据的稀缺性。为了缓解这一困难,已经提出了各种自监督分子预训练方法来利用未标记分子数据中的内在信息。
不幸的是,直接借用计算机视觉和自然语言处理中流行的预训练任务可能不适合分子,因为它们忽略了分子的基本物理原理。
相比之下,在预训练中应用去噪可以解释为等效的力学习,但有限的噪声分布会给分子分布带来偏差。这里的挑战在于有效地模拟全面的分子分布,同时保留力学习的基本物理解释。
Frad:分数去噪的分子预训练框架
鉴于模拟真实分子分布的难度,清华团队选择通过将有关分子分布的化学先验引入噪声设计来更全面地表征分布,由于噪声分布的限制,这在以前的方法中是被禁止的。
因此,研究人员提出了一种称为分数去噪(Frad)的分子预训练框架,证明其具有力学习解释。
具体而言,给定一个平衡分子构象,添加化学感知噪声(CAN)和坐标高斯噪声(CGN)的混合噪声并获得噪声构象。训练模型以从噪声构象中预测 CGN。「分数」(fractional)是指恢复引入的全部噪声的一小部分。特别是,CAN 是可定制的,使 Frad 能够结合化学先验来优化分子分布建模。
受描述分子构象变化的化学先验的启发,研究人员提出了两个版本的 CAN。具体来说,旋转噪声(RN)被用来捕捉单键的旋转,而振动和旋转噪声(VRN)被用来反映各向异性的振动。
Frad 框架的整个流程如下图所示。给定一个平衡分子构象 xeq,添加 CAN 和 CGN 的混合,其中平衡构象是指分子势能面局部最小值处的结构。
然后,训练模型从噪声构象(即 Frad)中预测 CGN,因为它恢复了一部分引入的噪声。具体来说,利用等变图神经网络 (GNN) 从噪声构象中提取特征,然后噪声预测头根据这些特征预测 CGN。
研究使用 TorchMD-NET 作为骨干模型,从 3D 分子输入中获得等变特征。具体来说,理论分析表明,无论 CAN 分布如何,该任务都具有力学习解释,而 CAN 分布会影响力目标和采样分布。因此,精心设计 CAN 以与真实的分子构象分布保持一致,与现有的去噪方法相比,可以实现更精确的力目标和更广泛的采样分布。
在微调过程中,研究人员从预训练权重初始化等变 GNN,随后为每个单独的下游任务量身定制不同的属性预测头。预训练的 GNN 权重以及预测头中的参数在下游标签的监督下继续更新。


图示:Frad 框架概述。(来源:论文)
易标AI
告别低效手工,迎接AI标书新时代!3分钟智能生成,行业唯一具备查重功能,自动避雷废标项
135
查看详情
Frad 提升了性质预测性能
为了评估 Frad 在预测分子性质方面的有效性,进行了一系列具有挑战性的下游任务,包括原子级力预测、分子级量子化学性质预测和蛋白质-配体复合物级结合亲和力预测。
Frad 模型与已建立的基线进行了系统比较,包括预训练方法以及未经预训练的性质预测模型。
原子级力预测
首先,评估了 Frad 在各种分子动力学数据集(即 MD17、ISO17 和 MD22)中预测力的表现。
Frad 在八种分子中的七种上的表现都优于基线。特别是与 Frad 方法具有相同主干的去噪预训练方法,即 3D-EMGP 和 Coord 相比,Frad 的优越性显而易见。这凸显了在去噪中引入化学先验以准确模拟分子分布的必要性。在训练集的大小有限的情况下,Frad 预训练始终能大幅度增强主干模型 TorchMD-NET,表明 Frad 有效地学习了分子的内在原理并具有出色的泛化能力。
对于大训练集设置中的苯,在 Frad 的微调过程中出现了过拟合现象,而这在其他分子中并没有观察到。这可能是由于苯的结构相对固定,导致低维特征容易出现过拟合。
ISO17 和 MD22 上的结果如表 1 所示。骨干模型 TorchMD-NET 的性能通过 Frad 预训练不断提高。

分子级量子化学性质预测
为了验证 Frad 是否能在不同性质上取得有竞争力的结果,研究人员在 QM9 数据集中的 12 个任务上评估了 Frad(RN) 和 Frad(VRN)。表 2 总结了 Frad 的结果以及预训练和监督基线。

总体而言,Frad 超越了监督和预训练方法,并在 12 个目标中的 9 个目标上取得了最先进的结果。此外,在 11 个目标上基于骨干模型 TorchMD-NET 取得了显著的改进,表明 Frad 预训练学到的知识对大多数下游任务都有帮助。
此外,在表格下半部分明显优于去噪预训练方法。特别是,Frad 在所有 12 个任务中都达到或超过了使用相同骨干 TorchMD-NET 的 Coord 方法的结果,表明引入的分布化学先验有助于多类性质。还注意到 VRN 和 VN 的性能相当。以此推测,对于 QM9 数据集中对输入构象不太敏感的任务(与力预测任务相比),各向异性振动噪声的建模可能并不重要。
复合物结合亲和力预测
蛋白质-配体结合亲和力 (LBA) 预测旨在预测蛋白质和配体之间的相互作用强度。研究人员在 ATOM3D 数据集中评估了 Frad 在 LBA 任务上的表现。
在 ATOM3D 预处理之后,Frad 从蛋白质中提取结合口袋,并利用口袋-配体复合物结构作为输入来预测结合亲和力值。结果显示在表 3 中。

Frad 击败了针对蛋白质表示量身定制的基于序列和基于结构的基线,表明 Frad 是一种适用于小分子和蛋白质的通用表示学习方法。预训练基线 SE(3)-DDM 不评估训练集和测试集之间涉及 60% 蛋白质序列同一性的分割设置,是一种等变 Coord 方法,可对成对原子距离上的高斯噪声进行去噪。同样,Frad 超越了传统的去噪方法,再次表明了引入化学先验的重要性。
未来工作
未来研究的几个探索方向如下:
- 首先,增加预训练数据量有可能显著提高整体性能。由于获得精确的分子构象成本高昂,目前使用的预训练数据集仍然比二维和一维分子数据集小得多。将来会有更多 3D 分子数据可用。
- 其次,目前的重点是使用 3D 输入进行属性预测。通过与其他预训练方法相结合,可以生成一个能够跨数据模态处理分子任务的模型。
- 最后,如何为典型的分子类别设计 CAN 值得研究,例如核酸、蛋白质和材料,以便 Frad 可以有效地应用于更广泛的领域,并加快药物和材料的发现。
通过这些改进,Frad 有可能成为适用于各种分子任务的强大分子基础模型。从而催化药物发现和材料科学等领域的突破。
以上就是原子、分子、复合物级性质预测均最佳,清华分子预训练框架登Nature子刊的详细内容,更多请关注其它相关文章!
# 清华
# 商城建设网站配色
# seo新人培训班
# seo在线接单网站
# 全网营销推广有什么工作
# 郑州网站优化服务平台
# 武汉网站推广威鑫hfqjwl下拉
# 是指
# 都能
# 子类
# 有可能
# 是一种
# 各向异性
# 有效地
# 省电
# 提出了
# 理论
# 山西网站高端建设
# 贵州seo软件哪个便宜
# 网站怎么建设才好用
# 徐州建设电商网站
相关栏目:
【
行业资讯67740 】
【
技术百科0 】
【
网络运营39195 】
相关推荐:
j*a数组逆序怎么写
typescript怎么传json
如何自己加装固态硬盘
如何通过命令系统还原
j*a怎么存放数组中
市盈率20a21e是什么意思
为什么进行域名解析
咋免费领取爱奇艺会员 如何免费领取爱奇艺会员步骤
电脑命令如何删除账号
命令行如何打开文件
如何清理固态硬盘
电动车power灯亮红灯是什么意思
命令行如何打开打印机
如何打开命令框
折叠屏有哪些手机
划水是什么意思
阿里云盘的会员怎么用
如何打开win10命令
学typescript要求什么
比亚迪秦nfc功能是什么意思
固态硬盘如何启动
ospf中交换机命令如何设置
交管12123协议头不完整怎么弄
soup是什么意思
什么叫typescript
市盈率中1stdv是什么意思
linux如何打开命令窗口
空调控制面板power灯一直亮是什么意思
单片机for循环怎么用
液位传感器power是什么意思
typescript入门要多久
win7旗舰版wifi怎么打开
焊机上power灯闪是什么意思
折叠屏手机选择哪个好
12306放票时间规律(2025)
如何使用net命令
typescript全局配置放哪里
如何提高固态硬盘速度
typescript多久能学会
命令行如何启动应用程序
春运抢票何时开始抢票的
如何寻找和修复无法在 AI 中找到文件的问题
哪些编程软件需用typescript
为什么要出折叠屏手机
云笔记本电脑有什么用
没基础做单片机怎么样
j*a数组怎么取元素
市盈率是负数是什么意思
一天多少分钟
为什么youtube音乐打不开


2024-09-21
浏览次数:次
返回列表