![]()
這場盛會超越技術(shù)突破本身,更追問:機器學習,究竟為誰,為何而做?
作者丨幸麗娟
編輯丨岑 峰
2026 年 7 月 6 日上午,第 43 屆國際機器學習大會(ICML 2026)在韓國首爾 COEX 會展中心正式拉開帷幕。作為機器學習領(lǐng)域全球最具影響力的學術(shù)盛會之一,本屆會議吸引了超過 11000 名來自世界各地的研究人員齊聚首爾。開幕式現(xiàn)場人潮涌動,參會者擠滿了 COEX 的展廳與報告廳,場面極為熱鬧。
![]()
01
投稿規(guī)模與錄用總數(shù)破紀錄
本屆ICML創(chuàng)下了歷史性的投稿紀錄——共收到 23918 篇有效投稿,較2025年的 12107 篇翻了一倍。最終,會議共接收了 6352 篇論文,錄用率為26.6%。其中,536篇論文入選Spotlight 論文(占投稿總數(shù) 2.2%),僅168篇獲得Oral報告資格(僅占0.7%)。
在投稿規(guī)模與錄用數(shù)量雙雙破紀錄的背后,曾有一個小插曲給學術(shù)界帶來了一點“小震撼”:497 篇論文在評審階段被直接“桌拒”(Desk Reject),占投稿總數(shù)的約 2%。
事件的導火索是 ICML 組委會在審稿意見中檢測出 795 處違規(guī)使用大語言模型(LLM) 撰寫評審意見的行為,涉及 506 名審稿人。根據(jù)ICML于今年1月發(fā)布的同行評審新規(guī)——若審稿人未能履行職責,其名下所有投稿論文均可能被直接拒稿。因此,組委會對這批既是違規(guī)審稿人又是投稿人的 497 篇論文,予以了一刀切的拒稿處理。
![]()
截圖自https://blog.icml.cc/2026/03/18/on-violations-of-llm-review-policies/
據(jù) ICML 官方回應(yīng),他們并非全面禁止在審稿中使用AI工具,而是要求嚴格遵守相關(guān)政策。然而,此次被處罰的審稿人,均是在簽署了“不使用LLM”協(xié)議的前提下依然違規(guī)使用,且未作任何標注。為鎖定違規(guī)行為,組委會在提交的 PDF 論文中嵌入了水印,并采用了“更為復雜的綜合研判手段”,而非依賴單一的AI檢測器。
這一“連坐”式的嚴厲處罰旋即引發(fā)激烈爭議。支持者認為這是捍衛(wèi)學術(shù)誠信的必要手段;反對者則質(zhì)疑AI檢測器存在誤報風險,可能導致無辜學者被“冤殺”,并尖銳地提出:如果審稿意見本身質(zhì)量過硬,是否真的有必要追究其是否由 AI 撰寫?
這場關(guān)于“工具”與“誠信”的爭論,至今仍在發(fā)酵。但風波之外,ICML 2026 現(xiàn)場人聲鼎沸,Panel、Tutorial 等議程此刻正接踵召開,ICML 2026 各項大獎也重磅出爐。
02
重磅獎項出爐,清華大學團隊拿下杰出論文獎
▎杰出論文獎(Outstanding Paper Award)
首先引人關(guān)注的是本屆會議的杰出論文獎(Outstanding Paper Award),共有兩篇當選。
![]()
《The Flexibility Trap: Rethinking the Value of Arbitrary Order in Diffusion Language Models》這篇出自清華大學黃高教授團隊的論文,對擴散語言模型(dLLMs)的固有設(shè)計理念發(fā)起了一次深刻的“靈魂拷問”。
![]()
論文鏈接:https://openreview.net/pdf?id=kpgURPRMGf
長期以來,dLLMs因其能夠以任意順序生成token而備受推崇,被認為具有更大的靈活性。
然而,黃高團隊通過大量實驗發(fā)現(xiàn)了一個反直覺的現(xiàn)象:在數(shù)學推理、編程等通用推理任務(wù)中,這種“順序自由”反而成了性能的拖累。模型會利用這種靈活性“逃避”生成高不確定性的關(guān)鍵token,導致解空間過早坍縮,無法探索更優(yōu)的解。團隊將這一現(xiàn)象命名為 “靈活性陷阱”。
更令人稱道的是,他們提出的解決方案 JustGRPO,極簡卻有效:在強化學習階段,強制模型放棄復雜的任意順序策略,僅使用標準的從左到右自回歸順序,也就是群組相對策略優(yōu)化(Group Relative Policy Optimization, GRPO) 進行訓練。
實驗結(jié)果顯示,該方法在 GSM8K(512)數(shù)學推理基準上達到 89.1% 的準確率,在 MATH-500(512)上達到 45.1%,且完整保留了dLLMs的并行解碼能力,不犧牲推理速度。
![]()
這篇論文的最大亮點在于其批判性與顛覆性——它敢于挑戰(zhàn)“靈活性越大越好”的行業(yè)共識,用嚴謹?shù)睦碚摲治龊蛯嶒炞C據(jù),揭示了一個被普遍忽視的失效模式,并以一個干凈利落的方法加以解決。這充分體現(xiàn)了華人團隊敏銳的洞察力和扎實的工程實現(xiàn)能力。
來自MIT和耶魯?shù)葯C構(gòu)的論文《High-Accuracy Sampling for Diffusion Models and Log-Concave Distributions》從理論層面解決了擴散模型采樣的一個長期懸而未決的核心難題:在僅擁有不完美的分數(shù)估計(score estimates)時,能否用極少的采樣步驟達到高精度?
![]()
論文鏈接:https://openreview.net/pdf?id=GW3umRqsZZ
這篇論文的作者給出了肯定的答案,并提出了一種全新的用于擴散模型采樣的算法,在能夠訪問 ?(δ)-精度的 L2 得分估計(score estimates)的前提下,僅需 polylog(1/δ) 步即可實現(xiàn) δ-誤差。這是對所有先前結(jié)果的指數(shù)級改進,意味著模型達到同樣高精度所需的計算量大幅減少。
論文給出了三種不同數(shù)據(jù)假設(shè)下的具體復雜度界限:
最小假設(shè):?( d · polylog(1/δ) ),僅依賴數(shù)據(jù)維度 d;
非均勻 Lipschitz 條件:?√(dL) polylog(1/δ) ,利用分布的光滑性進一步加速;
內(nèi)在低維結(jié)構(gòu):若數(shù)據(jù)分布具有內(nèi)在維度 d,復雜度可降至 ?( d · polylog(1/δ) ),實現(xiàn)維度自適應(yīng)。
值得一提的是,該算法不僅適用于擴散模型,還首次實現(xiàn)了僅靠梯度評估即可達到 polylog(1/δ) 復雜度的通用對數(shù)凹分布采樣。這為貝葉斯推斷、統(tǒng)計采樣等廣泛依賴對數(shù)凹分布抽樣的領(lǐng)域提供了理論上的突破性工具。
獲得杰出論文榮譽提名(Outstanding Paper Honorable Mention)的論文有五篇,均在各自領(lǐng)域作出了突出貢獻。
![]()
論文《The Obfuscation Atlas: Mapping Where Honesty Emerges in RLVR with Deception Probes》,在RLVR(Reinforcement Learning with Verifiable Rewards,帶可驗證獎勵的強化學習) 背景下研究如何通過白盒欺騙探測器促使AI系統(tǒng)變得誠實。論文作者提出通過強 KL 正則化與檢測器懲罰來有效抑制混淆行為,并在真實代碼環(huán)境中驗證了該方法的可靠性。
![]()
論文鏈接:https://openreview.net/pdf?id=wrGSN9kAVD
論文《Motion Attribution for Video Generation》聚焦視頻生成模型訓練數(shù)據(jù)如何影響生成內(nèi)容的運動特性這一空白,提出Motive框架,通過運動加權(quán)損失掩碼,將視頻中的時間動態(tài)與靜態(tài)外觀分離開來,利用基于梯度的歸因方法篩選關(guān)鍵數(shù)據(jù),在VBench上獲得74.1%的人類偏好勝率。
![]()
論文鏈接:https://openreview.net/pdf?id=zAl9heLw4q
論文《How much can language models memorize?》探討了語言模型能記憶多少訓練數(shù)據(jù)的問題,提出了一個基于模型參數(shù)數(shù)量與訓練數(shù)據(jù)量比例的理論框架來量化記憶能力,發(fā)現(xiàn)GPT類模型的記憶容量約為每參數(shù)3.6比特, 語言模型的記憶容量大致與模型參數(shù)數(shù)量成正比,且存在"臨界比例"——當訓練數(shù)據(jù)量超過模型參數(shù)量的某一倍數(shù)后,模型會開始遺忘而非繼續(xù)記憶新數(shù)據(jù)。
![]()
論文鏈接:https://openreview.net/pdf?id=bA6BgSbaUi
論文《A Random Matrix Perspective on the Consistency of Diffusion Models》利用隨機矩陣理論,系統(tǒng)解釋了擴散模型在不同數(shù)據(jù)子集上訓練后仍能生成相似樣本的“一致性”現(xiàn)象。作者將模型簡化為線性情形,通過確定性等價方法精確刻畫了有限數(shù)據(jù)集對生成輸出的影響,發(fā)現(xiàn)輸出主要由數(shù)據(jù)的共享高斯統(tǒng)計量(均值和協(xié)方差)決定,而數(shù)據(jù)子集的隨機波動僅通過三個因素(數(shù)據(jù)各向異性、輸入噪聲結(jié)構(gòu)、樣本量)影響生成差異。理論預(yù)測不僅能精確匹配線性擴散模型,還能在UNet和DiT等深度架構(gòu)中定性驗證,從而為擴散模型的訓練可重復性、泛化性和數(shù)據(jù)效率提供了首個理論基線。
![]()
論文鏈接:https://openreview.net/pdf?id=iPjuUQbkfl
論文《To Grok Grokking: Provable Grokking in Ridge Regression》首次為“Grokking”現(xiàn)象提供了嚴格的數(shù)學證明,將這一經(jīng)驗觀察提升到理論可解釋的高度。通過在過參數(shù)化的嶺回歸模型中建立端到端的理論框架,論文不僅精確刻畫了模型從過擬合到泛化的三階段動態(tài)過程,更首次量化了“Grokking延遲時間”與學習率、權(quán)重衰減等超參數(shù)之間的定量界限,從而從理論上證明了通過調(diào)節(jié)超參數(shù)可以有原則地控制甚至消除該現(xiàn)象,并表明Grokking并非深度學習的固有缺陷,這為理解和預(yù)測模型泛化行為提供了全新的理論工具。
![]()
論文鏈接:https://openreview.net/pdf?id=5nNNVY8NW4
▎杰出立場論文獎(Outstanding Position Paper Award)
本屆ICML的立場論文賽道同樣競爭激烈,最終獲得杰出立場論文獎的是《Position: The Alignment Community is Unintentionally Building a Censor’s Toolkit》
![]()
這篇立場論文將矛頭直指AI安全與對齊研究中的一個令人不安的趨勢。作者指出,當前AI對齊領(lǐng)域的研究者,出發(fā)點雖是善意的,卻在無意中構(gòu)建了一套可用于大規(guī)模審查的工具包。作者認為,當前對齊研究開發(fā)的許多技術(shù)——如內(nèi)容過濾、意圖檢測、價值觀約束、輸出干預(yù)等——本質(zhì)上具備高度通用性,既能用于防止有害輸出,也極易被挪用于政治審查、信息控制和言論壓制。
![]()
論文鏈接:https://openreview.net/pdf?id=dy2HwmOvFX
論文挑戰(zhàn)了“價值對齊天然是向善力量”的舒適假設(shè),警示即使是最具人文關(guān)懷的AI安全技術(shù),也可能被挪用于監(jiān)控和內(nèi)容過濾,并呼吁對齊研究者正視這一雙重用途困境,在技術(shù)開發(fā)中嵌入反審查設(shè)計原則,并推動更透明的治理機制,以避免本意良善的安全研究淪為壓制自由的幫兇。
作為一篇立場論文,它不依賴實驗數(shù)據(jù),而是以嚴謹?shù)倪壿嫼拖姆治觯瑢︻I(lǐng)域方向提出了根本性質(zhì)疑,體現(xiàn)了ICML鼓勵批判性思辨的初衷。
《Position: AI/ML Deepfake Research is Misaligned with AI Generated Non-Consensual Intimate Imagery (AIG-NCII)》則獲得杰出立場論文榮譽提名(Outstanding Position Paper Honorable Mention)。
![]()
論文揭示了當前 AI/ML 領(lǐng)域在“深度偽造(deepfake)”研究上存在嚴重的“錯位(misalignment)”。研究發(fā)現(xiàn),目前絕大多數(shù)技術(shù)干預(yù)都聚焦于檢測“深度偽造”內(nèi)容的真?zhèn)危詰?yīng)對其帶來的認知性傷害(epistemic harms),例如防范公眾人物的虛假視頻、打擊欺詐和詐騙等。然而,這種研究重心與現(xiàn)實世界中生成式AI最主要的濫用形式是脫節(jié)的——后者是以性化圖像為特征的AI生成的非自愿親密圖像(AIG-NCII)。
![]()
論文鏈接:https://openreview.net/pdf?id=mLhZzo7BIb
論文進一步提出了“以觀看者為中心的認知性傷害(viewer-centric epistemic harms)”與“以受害者為中心的尊嚴傷害(subject-centric dignity harms)”的關(guān)鍵區(qū)分。作者指出,現(xiàn)有的防御手段(如真實性檢測工具)幾乎完全忽略了AIG-NCII這類問題,將研究生態(tài)局限在了真?zhèn)舞b別上。更為重要的是,僅僅知道一張圖像是合成的,并不能減輕對受害者的實際傷害,在某些情況下甚至可能加劇這種傷害。
為此,它呼吁研究界應(yīng)將重點轉(zhuǎn)向AIG-NCII這類以受害者尊嚴為核心的傷害(subject-centric dignity harms) ,并建議更新威脅模型、將相關(guān)問題納入AI安全研究。同時也提醒研究者,在涉足這一高風險領(lǐng)域時必須與相關(guān)專家合作并建立安全防護措施。
▎時間檢驗獎(Test of Time Award)
![]()
ICML 的時間檢驗獎(Test of Time Award )授予"發(fā)表十年后仍對領(lǐng)域產(chǎn)生深遠影響"的論文。今年摘下這頂王冠的是深度強化學習領(lǐng)域的經(jīng)典之作——《Asynchronous Methods for Deep Reinforcement Learning》。
![]()
論文鏈接:https://proceedings.mlr.press/v48/mniha16.pdf
這篇論文由 Google DeepMind 團隊于 2016 年發(fā)表在 ICML 上,第一作者 Volodymyr Mnih 是深度強化學習領(lǐng)域的奠基人之一,此前還領(lǐng)導了 DQN 的開創(chuàng)性工作。研究團隊匯集了 Alex Graves、David Silver 等頂尖學者,代表了當時 RL 研究的最強陣容。
論文針對深度強化學習訓練效率低下的核心瓶頸:DQN 等算法嚴重依賴 GPU 硬件和經(jīng)驗回放機制,導致訓練成本高、內(nèi)存開銷大,且難以擴展到連續(xù)動作空間。當時即便是最先進的并行方案也需要復雜的多機分布式架構(gòu),普通研究者也難以復現(xiàn)。
![]()
為此,論文團隊提出了異步多線程訓練框架 A3C,讓多個智能體在獨立環(huán)境副本中并行探索,并無鎖地異步更新共享全局網(wǎng)絡(luò)。這一設(shè)計徹底摒棄了經(jīng)驗回放,僅依靠多核 CPU 即可實現(xiàn)高效訓練,同時天然支持連續(xù)控制任務(wù)。論文還系統(tǒng)比較了四種異步變體,其中結(jié)合優(yōu)勢函數(shù)的 A3C 表現(xiàn)最優(yōu)。
![]()
實驗結(jié)果還表明,A3C 在 57 款 Atari 游戲上僅用 16 核 CPU 就達到了超越 DQN 的性能,且訓練速度顯著提升;并在連續(xù)運動控制和3D迷宮導航等任務(wù)中表現(xiàn)出卓越的通用性。更深刻的發(fā)現(xiàn)是,異步更新引入的梯度噪聲本身起到了去相關(guān)作用,這一反直覺的洞察為后續(xù)理論分析開辟了新方向。
這篇論文的經(jīng)典性在于,它顛覆了“穩(wěn)定訓練必依賴經(jīng)驗回放”的傳統(tǒng)認知,以極簡的工程設(shè)計解決了復雜的分布式訓練難題,將深度強化學習從 GPU 集群推向了個人工作站,奠定了此后十年深度強化學習并行采樣范式的基礎(chǔ),深刻影響了后續(xù)分布式訓練與強化學習應(yīng)用的架構(gòu)設(shè)計。
時隔十年,這項工作的價值非但沒有褪色,反而在分布式RL的浪潮中被反復印證,時間檢驗獎即是最好的證明。
ICML 2026 不僅是一場技術(shù)突破的慶典,更是一次對 AI 研究方向的集體反思。從黃高團隊對“靈活性陷阱”的警醒,到立場論文對“無意中構(gòu)建審查工具”的批判,這場盛會的核心追問已超越算法與精度本身:機器學習,究竟為誰,為何而做?
未來一周,COEX會展中心將迎來更多前沿思想的碰撞,AI 科技評論記者將在現(xiàn)場為大家?guī)砀嘁痪€報道,敬請關(guān)注!
一個人讀論文太孤單,一群人刷頂會才好玩。
ICML 2026召開在即,我們正在召集一波含金量極高的 AI 研究者。群內(nèi)主打實時論文跟蹤與硬核技術(shù)探討,拒絕灌水。
進群傳送門:掃碼進群或添加微信Vin_Vivid,備注:論文群 + 關(guān)注的 AI 方向。
![]()
搞科研/搞技術(shù),信息差很重要。
來,一起快人一步!
![]()
上車,帶你看遍全球 AI 頂會精華
可獨家暢覽:
專家演講PPT
大會報告全文
熱門論文解讀
學術(shù)新星訪談
![]()
未經(jīng)「AI科技評論」授權(quán),嚴禁以任何方式在網(wǎng)頁、論壇、社區(qū)進行轉(zhuǎn)載!
公眾號轉(zhuǎn)載請先在「AI科技評論」后臺留言取得授權(quán),轉(zhuǎn)載時需標注來源并插入本公眾號名片。
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.