26頁P(yáng)DF打破質(zhì)疑！他，師承李亞棟院士，29歲獲「國家優(yōu)青」，33歲成最年輕「長江學(xué)者」之一，最新Nature子刊！

來源：微算云平臺

成果簡介

準(zhǔn)確和全面地表示晶體結(jié)構(gòu)對于推進(jìn)大規(guī)模晶體材料模擬中的機(jī)器學(xué)習(xí)至關(guān)重要。然而，有效地捕捉和利用晶體結(jié)構(gòu)復(fù)雜的幾何和拓?fù)涮卣魅匀皇谴蠖鄶?shù)現(xiàn)有晶體性質(zhì)預(yù)測方法面臨的重大挑戰(zhàn)。

中國科學(xué)技術(shù)大學(xué)吳宇恩教授、陳控副研究員，合肥工業(yè)大學(xué)毛瑜副研究員等人提出了MGT，一種多視圖圖轉(zhuǎn)換器，它聯(lián)合建模SE(3)不變標(biāo)量表示和SO(3)等變方向表示，從而能夠捕獲晶體結(jié)構(gòu)中的旋轉(zhuǎn)平移不變性和旋轉(zhuǎn)等變方向信息。受混合專家模型啟發(fā)的路由模塊是核心融合機(jī)制，它針對每項(xiàng)下游任務(wù)自適應(yīng)地為各類互補(bǔ)型嵌入表征分配權(quán)重。通過多任務(wù)自監(jiān)督預(yù)訓(xùn)練，與之前最先進(jìn)的晶體性能基準(zhǔn)模型相比，MGT的平均絕對誤差降低了14%。

綜合消融和可解釋性分析證實(shí)，自監(jiān)督預(yù)訓(xùn)練策略和混合專家模型激勵路由都有助于模型的整體性能。在遷移學(xué)習(xí)場景中，包括晶體催化劑吸附能和混合鈣鈦礦帶隙預(yù)測，MGT在現(xiàn)有基線的基礎(chǔ)上實(shí)現(xiàn)了高達(dá)58%的性能改進(jìn)，展示了強(qiáng)大的領(lǐng)域不可知可擴(kuò)展性。總的來說，所有的結(jié)果都表明，MGT是一個有效的、可推廣的晶體材料性質(zhì)預(yù)測框架，具有加速新材料發(fā)現(xiàn)的巨大潛力。

相關(guān)工作以《Improving crystal material property prediction with multi-view geometric graph transformer》為題在《Nature Communications》上發(fā)表論文。

從Peer review文件上可以看到，該研究在投稿階段時，審稿人曾對論文的核心創(chuàng)新點(diǎn)提出質(zhì)疑。

例如，審稿人提出：該論文缺乏顯著的創(chuàng)新性。僅依靠歐幾里得距離來衡量晶體結(jié)構(gòu)復(fù)雜的幾何和拓?fù)涮卣黠@然不足。將其擴(kuò)展到測地距離，并在三維空間內(nèi)真正進(jìn)行測量，是至關(guān)重要的方面。

另一位審稿人也提出：文章報(bào)道的這種結(jié)構(gòu)并不像所宣稱的那樣新穎，此前已有類似結(jié)構(gòu)的報(bào)道。此外，混合專家（MoE）在圖神經(jīng)網(wǎng)絡(luò)（GNNs）中的應(yīng)用已在多項(xiàng)研究中被報(bào)道，而本文設(shè)計(jì)的MoE模塊并不完全符合MoE的標(biāo)準(zhǔn)（例如缺少獨(dú)立的門控網(wǎng)絡(luò)）。

面對上述質(zhì)疑，作者前后也是花了26頁P(yáng)DF回應(yīng)了審稿人提出的問題。

圖文介紹

圖1 MGT框架工作流程示意圖

圖1從數(shù)據(jù)、特征、預(yù)訓(xùn)練、微調(diào)全鏈路完整梳理MGT設(shè)計(jì)邏輯，清晰闡明“雙視圖特征+雙策略預(yù)訓(xùn)練+自適應(yīng)路由融合”三位一體的整體設(shè)計(jì)思路。預(yù)訓(xùn)練采用OQMD超大晶體數(shù)據(jù)集完成通用晶體幾何特征萃取，微調(diào)采用Materials Project/JARVIS/催化/鈣鈦礦細(xì)分?jǐn)?shù)據(jù)集做任務(wù)專屬優(yōu)化，預(yù)訓(xùn)練+微調(diào)兩段式訓(xùn)練是提升小樣本下游任務(wù)精度的關(guān)鍵設(shè)計(jì)；雙視角幾何特征定義如圖1b所示，其中SE(3)不變特征：旋轉(zhuǎn)、平移操作后數(shù)值不變的標(biāo)量（鍵長、鍵角），適合刻畫晶體熱力學(xué)穩(wěn)定性類物性（形成能）；SO(3)等變特征：隨空間旋轉(zhuǎn)同步變換的矢量特征，適配依賴空間取向的力學(xué)參數(shù)（彈性模量、剪切模量）；兩類特征物理屬性天然互補(bǔ)，構(gòu)成MGT多視圖建模的理論根基。

預(yù)訓(xùn)練方案如圖1c所示：對SE(3)邊/角特征、SO(3)邊特征分別添加高斯噪聲，降噪任務(wù)約束模型還原擾動噪聲；對比學(xué)習(xí)拉近兩種嵌入特征互信息，實(shí)現(xiàn)跨視圖特征對齊。微調(diào)融合如圖1d所示：摒棄固定拼接，依靠MoE路由動態(tài)加權(quán)雙分支特征，也是MGT區(qū)別于過往雙特征模型最核心的創(chuàng)新點(diǎn)。

圖2 MGT架構(gòu)，包括多個不同的模塊

圖2拆解MGT四大算子細(xì)節(jié)，從底層運(yùn)算說明SE(3)不變、SO(3)等變特征如何提取與融合，為后文消融實(shí)驗(yàn)、可解釋性結(jié)果提供結(jié)構(gòu)依據(jù)。如圖2a所示，依托晶格基矢、鍵角、邊特征三要素構(gòu)建注意力，針對晶體周期性晶格引入周期鏡像原子角度信息，專門優(yōu)化SE(3)分支邊特征提取。聚合鄰域節(jié)點(diǎn)與更新后的邊特征，完成SE(3)分支最終節(jié)點(diǎn)表征輸出（圖2b）。基于球諧函數(shù)+張量積TP搭建，保證特征嚴(yán)格滿足旋轉(zhuǎn)等變，是SO(3)分支的核心結(jié)構(gòu)（圖2c）。最后，雙專家支路分別對應(yīng)SE(3)、SO(3)編碼器輸出，自注意力路由動態(tài)生成權(quán)重系數(shù)加權(quán)融合特征，實(shí)現(xiàn)任務(wù)驅(qū)動的動態(tài)特征配比，解決固定拼接無法適配多任務(wù)物性的痛點(diǎn)（圖2d）。

圖3 MGT在Materials Project和JARVIS數(shù)據(jù)集上的性能比較

圖3從擬合可視化角度直觀證明MGT在主流晶體物性預(yù)測任務(wù)上全面超越現(xiàn)有經(jīng)典模型，量化指標(biāo)佐證多視圖架構(gòu)與MoE融合的有效性。所有預(yù)測樣本緊密貼合對角線，全部任務(wù)的R2>0.95，證明MGT擬合效果優(yōu)異。對比CGCNN、ALIGNN、Matformer、PotNet、ComFormer等SOTA基線，MGT在9項(xiàng)任務(wù)中8項(xiàng)取得最優(yōu)MAE，僅JARVIS總能量預(yù)測略低于ReGNet。

圖4 不同訓(xùn)練策略下MGT的消融實(shí)驗(yàn)結(jié)果

定量拆解預(yù)訓(xùn)練、降噪、對比學(xué)習(xí)、MoE路由四大組件各自貢獻(xiàn)。啟用雙任務(wù)預(yù)訓(xùn)練后形成能MAE由0.0174降至0.0165，預(yù)訓(xùn)練可顯著降低預(yù)測誤差。而降噪學(xué)習(xí)提升效果整體優(yōu)于對比學(xué)習(xí)，降噪迫使模型抵抗幾何擾動、強(qiáng)化晶體結(jié)構(gòu)感知。二者聯(lián)用性能最優(yōu)，形成優(yōu)勢互補(bǔ)。替換MoE自適應(yīng)加權(quán)為全連接特征拼接后，各任務(wù)MAE小幅上升，證實(shí)動態(tài)加權(quán)相比固定融合可以充分發(fā)揮兩類特征互補(bǔ)優(yōu)勢。此外，即便移除預(yù)訓(xùn)練與MoE模塊，原生雙視圖MGT架構(gòu)性能仍優(yōu)于現(xiàn)有基線，雙視角幾何建模本身就是性能提升的核心來源。

圖5 材料項(xiàng)目和JARVIS數(shù)據(jù)集的形成能預(yù)測任務(wù)的可視化

從表征空間可視化+權(quán)重定量雙維度解釋MoE路由的內(nèi)在作用機(jī)理，從物理可解釋層面證明自適應(yīng)權(quán)重符合晶體物性的內(nèi)在物理規(guī)律。SE(3)、SO(3)單分支特征已能依據(jù)形成能實(shí)現(xiàn)基礎(chǔ)樣本聚類。經(jīng)MoE路由加權(quán)融合后，不同能量區(qū)間晶體樣本聚類邊界大幅清晰、簇區(qū)分度顯著提升。不同數(shù)據(jù)集/不同物性任務(wù)中，SE(3)與SO(3)貢獻(xiàn)占比動態(tài)變化：形成能MP數(shù)據(jù)集SO(3)權(quán)重更高、JARVIS數(shù)據(jù)集SE(3)占優(yōu)；彈性模量依賴SO(3)取向特征、熱力學(xué)Ehull 能更依賴SE(3)不變標(biāo)量特征，權(quán)重分配貼合材料物理機(jī)理。

圖6 在Alloy-GMAE、FG-GMAE、OCD-GMAE和HOIP數(shù)據(jù)集上，MGT的性能對比

跳出傳統(tǒng)晶體基準(zhǔn)測試，在實(shí)際工業(yè)催化、光電材料場景驗(yàn)證其泛化能力，完成從基準(zhǔn)指標(biāo)優(yōu)異到實(shí)際可用的論證閉環(huán)。對比AdsMT領(lǐng)域SOTA，三項(xiàng)數(shù)據(jù)集性能分別提升46.4%、57.8%、15.4%；GMAE是催化篩選關(guān)鍵描述符，結(jié)果證明MGT從可跨晶體向催化體系遷移。HOIP數(shù)據(jù)集相對基線提升25.7%，鈣鈦礦是光電核心材料，驗(yàn)證模型在有機(jī)-無機(jī)雜化晶體場景通用性。跨領(lǐng)域大幅提升證明：MGT學(xué)習(xí)到普適性晶體幾何規(guī)律，并非過擬合基準(zhǔn)數(shù)據(jù)集，模型域無關(guān)擴(kuò)展性得到落地驗(yàn)證。

文獻(xiàn)信息

Improving crystal material property prediction with multi-view geometric graph transformer，Nature Communications，2026.

https://www.nature.com/articles/s41467-026-73627-7

由于公眾號改版，為防錯過更多資源，給我們加個星標(biāo)吧

說明：微算云平臺，如需轉(zhuǎn)載，請?jiān)陂_頭注明來源。僅供學(xué)習(xí)交流分享使用，版權(quán)歸原作者所有，文章只代表作者本人觀點(diǎn)，不代表公眾號立場。如有侵權(quán)，請聯(lián)系我們（Hilib oy）刪除，感謝支持！也歡迎有興趣的朋友分享、投稿、申請轉(zhuǎn)載、互開長白。

了解更多信息

↓↓↓歡迎點(diǎn)贊和推薦哦