![]()
導語
當互聯網高質量訓練數據逐漸接近天花板,大模型下一步該如何持續成長?一個出人意料的答案或許來自游戲。對于人類兒童而言,學習并不完全依賴教材,許多能力恰恰是在與伙伴互動、競爭和協作的游戲過程中形成的。近年來,一系列研究開始探索類似路徑:讓大模型通過博弈學習推理能力,通過游戲行為揭示決策機制,甚至進一步參與設計新的游戲規則。從在規則中學習,到在規則中決策,再到創造規則本身,游戲正逐漸從一種測試工具演變為理解和塑造智能的重要載體。或許,大模型未來所需要的,不只是更多文本,而是更多值得去“玩”的游戲。
關鍵詞:游戲、大模型、訓練、可解釋性、規則
郭瑞東丨作者
趙思怡丨審校
當大模型開始“玩游戲”,推理能力變強了?
傳統的學習,有結構化的教材,明確的目標和任務。但更多的時候,我們進行的是非正式學習,即在日常互動中試錯、反饋、模仿。最典型的例子是孩子在游戲中學會合作與一般環境下的推理。事實上,近年來已經有不少研究開始探索:如果讓大模型像兒童一樣,通過與環境和其他智能體持續互動,是否能夠獲得比單純閱讀文本更強的推理能力?
例如,2026年發表于ICLR的一項研究發現,多智能體在多輪零和博弈中進行強化學習,能夠顯著提升模型的推理表現[2]。在這一方向上,于2026年1月發表于arXiv上的GIFT研究進一步提出了一個更激進的問題:如果把游戲視為一種“非正式學習”(Informal Learning)環境,讓模型同時在多種類型的游戲中成長,會發生什么?
![]()
論文題目:GIFT: Games as Informal Training for Generalizable LLMs 論文鏈接:https://arxiv.org/abs/2601.05633 發表時間:2026年1月9日 論文來源:arXiv
在于其精心選擇了三類代表性游戲,然后讓不是模型交替以某一類游戲的結果為目標開展訓練,而是必須同時在數學推理、策略博弈、社交理解等多個子任務上表現良好,才能獲得最大獎勵。通過這樣的“交替訓練”,訓練出的模型,能在和游戲無關的任務上表現得更好。
![]()
圖1:正式與非正式學習的對比
三個游戲分別是像囚徒困境這樣的單次博弈,井字棋這樣的多次博弈,以及“誰是臥底”這樣需要社交互動的游戲,分別對應了抽象推理、序列決策、社交能力等會讓大模型變得價值的核心能力。
結果發現,通過在訓練過程中,讓模型先解一道數學題,再玩一輪矩陣博弈(如囚徒困境),最后參與一次“誰是臥底”討論。只有全程表現均衡,才能獲得高回報。可以顯著提升模型在多項任務上的性能。
![]()
圖2:多游戲與正式學習的混合訓練方案
上述方法被稱為嵌套訓練框架(Nested Training Framework),與之相對的,是傳統的混合訓練(mixed training),即對于前述4類任務,分別進行訓練,訓練完一項任務后再進行下一任務的訓練。
![]()
圖3:對比顯示正式學習與非正式學習的作用以及嵌套訓練的有效性。
結果顯示,混合訓練雖在早期階段憑借“任務競爭”機制在領域內任務(左側紫色曲線,如矩陣博弈)上快速取得較高分數,但其通用能力(右側灰色曲線,如MMLU評估的推理能力、Comon評估的創意寫作,SocialIQA評估的社交能力等)的性能不升反降;說明訓練后的模型缺少領域外泛化能力(圖3上)。
相比之下,嵌套訓練通過將多任務以“與邏輯”順序串聯,強制模型在完整軌跡上均衡優化,使領域內任務與通用能力兩條曲線同步穩步上升(圖3下),雖在單一任務的峰值表現上可能略遜于混合訓練的“偏科沖刺”,但在綜合泛化指標上實現更穩健、可持續的增長。
相比混合訓練,嵌套訓練在整個訓練過程中保持了穩定的梯度(圖4右)和更高的熵(圖4左),從而在所有能力上實現穩定且持續的改進。 圖3和圖4的結果表明,嵌套訓練框架不僅具有更優的優化穩定性,也能夠促進模型形成更強的跨任務泛化能力。
![]()
圖4:混合學習與嵌套學習的動力學特征
不過,這里自然會引出一個新的問題:如果游戲真的能夠塑造智能,那么游戲究竟改變了模型什么?
第一篇研究關注的是訓練結果——模型是否學會了更通用的能力;而另一項最新研究則把視角轉向訓練后的模型本身,試圖回答一個更加微觀的問題:當大模型進入游戲情境時,它究竟是如何思考和決策的?
令人意外的是,研究者發現,大模型在游戲中不僅會表現出策略偏好,甚至會展現出類似人類的“性格傾向”。那么下面研究講述的讓ChatGPT玩飛行棋,則可展示模型在推理過程中,展現出類似人的小性子。
一盤飛行棋,暴露了AI“性格”
在另一篇發表于2026年的研究中,研究者沒有繼續探討“如何利用游戲訓練模型”,而是反過來利用游戲作為一面顯微鏡,觀察大模型在復雜決策中的行為特征。
他們選擇的實驗環境,是幾乎所有人都熟悉的飛行棋(Ludo)。
飛行棋是一個多人棋類游戲,其中既有合作也有競爭,玩家要把自家的一個個飛機移到機庫。而這項研究中,研究者設計了480個精心構造的飛行棋局面(類似《天龍八部》中的“珍瓏棋局”),系統測試了Qwen、DeepSeek、Claude、Llama、Gemma等6類主流大模型的決策能力[3]。
![]()
論文題目:LUDOBENCH: Evaluating LLM Behavioural Decision-Making Through Spot-Based Board Game Scenarios in Ludo 論文鏈接:https://arxiv.org/abs/2604.05681 發表時間:2026年4月7日 論文來源:arXiv
研究發現所有模型與博弈論最優策略的吻合度,只有40-46%,也就是說,大模型超過一半的決策,都是戰略上錯誤的。
![]()
圖5:飛行棋棋盤
更有趣的是,研究者發現大模型玩飛行棋時,會暴露出兩種截然不同的性格。Finishers(完成者)死磕已經出場的飛機,拼命把它們送到終點,Builders(建設者)瘋狂發展讓飛機從機庫出發,但從來不完成。
最離譜的是:當告訴大模型“剛才對手把你的飛機打回機庫”,哪怕棋盤局面完全一樣,有些模型的決策會有33%的概率改變,即使新做出的決策不是博弈論上最優的。不同模型報復的概率不同,這說明AI的決策會被情緒化敘事強烈影響,而某些模型本身就天生好斗,不需要刺激就會報復。
![]()
圖6: 模型的預設人設與實際玩法的一致性
知道了AI在玩游戲時有報復心,那給AI不同的人設,又會發生什么了,該研究通過提示詞,將AI玩游戲時的玩法分為4類,分別是:
aggressive(激進型):優先吃子
greedy(貪婪型):優先完成
safe(保守型):優先安全
unforgiving(睚眥必報型):優先報復
結果大部分情況下,人設指令的效果都很弱,對齊分數只有0.3-0.5(圖6),只有兩個組合效果顯著:Qwen-2.5-7B 在激進型時93%概率符合;Qwen-Plus + greedy時83%概率符合。
更離譜的是,有時指令會產生相反效果:比如讓Claude-3.5-Haiku(保守一點),結果它在“吃子vs安全”的選擇中,吃子率從66%漲到88%。翻譯一下:你讓AI保守,它反而更激進了。這說明人設指令會和模型已有的戰略偏好產生不可預測的交互,而不是簡單地覆蓋它。
上述研究,遠不止告訴我們“AI會不會玩飛行棋”,而是通過游戲,揭示AI有“性格偏執”,不同模型會發展出截然不同的戰略風格,而且這種偏執很難簡單地通過提示詞糾正。而對游戲的描述,即敘事框架會影響AI決策。這些發現,提升了模型的可解釋性。結合推理過程中的動力學,游戲中的大模型其展現的獨特行為,可能為了解大模型內部的運行機制提供獨特窗口。
而將這兩篇研究合在一起來看,那會發現一些更有趣的點,飛行棋是一個比井字棋更復雜的多人多輪博弈,如果允許玩家之間通過自然語言交流,試圖用描述棋局走向來影響別的玩家,那就涉及了社交智能。那如果通過飛行棋讓大模型進行強化學習,是不是會像第一部分描述的那樣了?
對此筆者的猜測是不可行,原因首先是由于本文揭示的模型會存在不同的性格,其次是由于飛行棋這樣涉及運氣(投骰子)以及對手非理性的游戲,讓強化學習算法很難分配激勵,訓練中的大模型難以知道是由于那些因素獲勝的,嵌套訓練中的每個任務恰好因為足夠簡單,才能讓每一次的輸贏成為清晰的信號。
AI能創造游戲規則嗎?
前兩項研究分別展示了游戲的兩種價值:一方面,游戲可以成為訓練智能的環境;另一方面,游戲也可以成為觀察智能的窗口。但這兩類工作有一個共同前提——游戲規則是人類事先設計好的。
《有限與無限的游戲》一書中寫道:有限的游戲在邊界內玩,無限的游戲玩的就是邊界。如果再向前邁進一步:讓大模型不僅參與游戲,而是參與“創造游戲”本身,會發生什么?這正是第三項研究關注的問題。
![]()
論文題目:GAVEL: Generating Games Via Evolution and Language Models 論文鏈接:https://arxiv.org/abs/2407.09388 發表時間:2024年1月12日 論文來源:arXiv
這篇發表于2024年的研究讓大模型自動生成新穎且可玩的棋盤游戲規則[4],研究者先將已有棋類游戲的規則,通過高階關鍵詞(如step,slide,hop)對規則進行編碼,之后隨機定位一些規則表達式作為“突變位點”,再由經微調后的CodeLlama-13B模型生成新規則片段并重構游戲代碼;圖右側為分層評估與檔案更新,新游戲依次通過編譯檢查、可玩性驗證、隨機策略快篩與蒙特卡洛樹搜索深度評估四層過濾,計算六項指標的調和適應度,同時將其概念向量經PCA降維至2維的適應性景觀上。
![]()
圖7:大模型設計棋類游戲的流程示例
這樣一來,產生了很多規則融合的棋類游戲,例如五子棋和圍棋的融合(五子勝/四子負 + 圍吃機制融合),對此人類專家評價"有潛力成為經典",感興趣的玩家可以去下面的網頁試玩。
![]()
圖8:大模型生成游戲的試玩界面 https://ludii.games/details.php?keyword=YavaGo
上述案例說明,當大模型學會“理解游戲規則的語法與語義”,再與演化算法的多樣性搜索相結合,就能成為一位不知疲倦的"游戲設計學徒",無法確保它一定能獨立創造出傳世佳作,但能和人類一起去玩無限游戲,為人類游戲設計者提供可玩、有啟發性的規則原型,開啟人機共創意的新范式。
現有的研究,僅聚焦規則產出,未來可研究大模型對游戲規則語義的深層建模,支持“為什么這條規則有趣”的可解釋分析。筆者設想可通過讓大模型設計出別的大模型愛玩的游戲,如此的設計層面自我博弈,從而為大模型創造出近乎無限的訓練數據(大模型玩新設計出的游戲時的對弈數據),同時向別的大模型智能體解釋為何自身設計游戲好玩的過程,就是提升模型可解釋性,尤其是社交過程中可解釋性的過程。
從更宏觀的視角看,這三項研究恰好對應了智能發展的三個層次:學習規則、運用規則,以及創造規則。當我們將“游戲”從固定規則的競技場,重構為規則本身可演化的學習沙盒,本質上是在回答一個更深刻的問題:智能的本質,是掌握規則的能力,還是創造規則的能力?
而在探索智能本質的征途中,讓大模型“玩”無限游戲,或許正是通往持續成長的密鑰。
https://arxiv.org/html/2601.05633
https://openreview.net/forum?id=7Yayy5fNLg
https://arxiv.org/html/2604.05681v1
https://proceedings.neurips.cc/paper_files/paper/2024/file/c7b04e4e13bb77996d3ae2ff667231ac-Paper-Conference.pdf
「游戲×復雜科學」讀書會
從棋盤上的博弈,到屏幕中的虛擬世界;從概率賭局到人工智能對弈——游戲從來不只是娛樂,它是人類理解復雜性的實驗場。
在簡單規則的反復運行中,秩序如何涌現?在多方互動的策略競爭中,合作如何誕生?在反饋回路與資源循環中,政治與經濟如何生成?當算法接管博弈,Agent開始自主演化,我們是否正在見證“可計算社會”的雛形?
從康威生命游戲的規則宇宙,到 AlphaGo 對圍棋復雜度的突破;從 John Nash 的均衡理論,到 Norbert Wiener 的控制論反饋思想;從演化博弈到多主體建模,從系統動力學到生成式AI——游戲與復雜科學,正在交匯為一門新的認知范式。
集智俱樂部聯合人工智能、AIGC、游戲設計、復雜系統等領域的學者/工程師共同發起,自2026年3月31日起,每周二晚19:30-21:30,邀請來自各領域的研究者與實踐者,共同探索:
· 游戲如何啟發科學?
· 科學如何重塑游戲?
· 而我們是否生活在一個巨型多主體演化系統之中?
![]()
詳情請見:
1.
2.
3.
4.
5.
6.
7.
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.