![]()
編輯丨%
在 AI4S 的熱潮之中,大語言模型(LLMs)已經(jīng)展示出了令人驚嘆的文本理解與邏輯推理能力。然而,當面對科學界最核心的戰(zhàn)場之一——材料科學與原子尺度模擬時,傳統(tǒng)的 LLM 往往會陷入集體失語。
原因顯而易見:人類的語言是線性的、一維的符號流;而原子的世界是三維空間中復雜的幾何拓撲、電子云密度以及量子力學波函數(shù)的交織。來自勞倫斯伯克利實驗室(Berkeley Lab)等機構(gòu)的團隊在《Nature Machine Intelligence》發(fā)表的 MatterChat,正試圖補上這個缺口。
在文章「A multimodal large language model for materials science」中,MatterChat 把預訓練的語言模型和預訓練的材料模型用一個橋接模塊連起來,讓模型既能看懂原子結(jié)構(gòu),也能用自然語言回答材料問題。
![]()
論文鏈接:https://www.nature.com/articles/s42256-026-01214-y
讀懂三維原子世界
論文開篇點出,傳統(tǒng)材料 AI 要么依賴 DFT 這類高保真但昂貴的方法,要么依賴只處理文本的 LLM;問題在于,文本表示很難顯式保留原子結(jié)構(gòu)的三維空間關(guān)系與局域環(huán)境,因此在性質(zhì)預測上往往不如圖模型。
MatterChat 的思路是把材料結(jié)構(gòu)轉(zhuǎn)成圖表示,再借助一個橋接模塊把原子嵌入對齊到語言模型可接受的表示空間,從而把「材料結(jié)構(gòu)—文本提問—文本回答」放進一個統(tǒng)一系統(tǒng)里。
![]()
圖 1:MatterChat 概述:一款基于材料的多模態(tài)問答模塊化大型語言模型。
材料加工分支
該分支將材料結(jié)構(gòu)編碼為捕捉原子局部環(huán)境的圖表。其中的編碼器在涵蓋多種對稱性、組成和鍵合類型的材料數(shù)據(jù)集上進行預訓練,使其能夠有效模擬復雜的原子相互作用和結(jié)構(gòu)細節(jié)。
語言處理分支
該分支用于處理用戶基于文本的提示,如性質(zhì)預測、化學式、空間組信息或其他物質(zhì)特性的請求。
橋梁模型
該模型受 BLIP2 架構(gòu)啟發(fā),目的是為了促進原子嵌入與語言處理分支之間的集成。它包含 32 個可訓練的查詢向量,通過交替注意力機制與原子嵌入交互,可將原子嵌入細化為與文本最相關(guān)的查詢嵌入。
預測、推理
用于訓練橋梁模型的數(shù)據(jù)集涵蓋 142,899 個物質(zhì)結(jié)構(gòu),對于其中的每一個結(jié)構(gòu),都有對應的 12 項任務:3 項描述性任務(化學式、空間群和晶系)和 9 項性質(zhì)預測任務。訓練階段在 8 個節(jié)點、每節(jié)點 4 張 A100 上并行進行,整體訓練大約耗時48 小時。
![]()
圖 2:MatterChat 準確預測材料屬性,并優(yōu)于最先進的大型語言模型。
測試中,MatterChat 能有效應對從基本材料屬性(例如化學式、空間群和晶體系統(tǒng))到復雜材料屬性(如熱穩(wěn)定性、帶隙、地層能量和船體上方能量)等廣泛需求,它能夠無縫整合結(jié)構(gòu)和文本數(shù)據(jù),應用于各種材料性質(zhì)任務。
推理能力方面,通過多模態(tài)查詢系統(tǒng),MatterChat 可以有效地將材料結(jié)構(gòu)數(shù)據(jù)與文本推理結(jié)合起來。在材料分類任務上,其表現(xiàn)可超越 GPT-4。實驗表明,多個不同規(guī)模的 LLM(包括Mistral 7B)都能與橋接模塊成功融合,且橋接模塊可從較小模型遷移至更大模型,降低了大型模型的應用門檻。
![]()
圖 3:MatterChat 能夠解決繼承自預訓練大語言模型的更復雜任務。
在包括金屬豐度、穩(wěn)定性和磁性的分類測試之中,MatterChat 始終優(yōu)于所有基線。相較于 CHGNet 等專業(yè)物理模型,MatterChat 表現(xiàn)出更為優(yōu)異的的準確性。這表明基于圖的數(shù)據(jù)與自然語言推理的整合可以更全面地呈現(xiàn)材料化學。
![]()
圖 4:MatterChat、開源大型語言模型和物理預訓練模型在九個材料屬性任務中的性能比較。
從屬性預測到AI材料科學家
MatterChat 驗證了「結(jié)構(gòu)+文本」協(xié)同的巨大潛力。未來,基于多模態(tài)對話框架,它有望發(fā)展為真正的 AI 材料科學家——讀取原子結(jié)構(gòu)、解析物理特性、推理設計邏輯,并以自然語言與人類研究者交流。
得益于其向前兼容的橋梁模型,MatterChat 非常適合利用平行創(chuàng)新賽道中的那些硬核科學。相關(guān)團隊正與費米實驗室合作,謀求下一代高速輻射電路的開發(fā)。其通用性亦可擴展至更廣泛的科學領域,如分子生物學或地球科學中需要處理三維空間結(jié)構(gòu)的場景。
https://phys.org/news/2026-05-matterchat-ai-language-atom-scale.html
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.