20歲拿下博士、答辯席坐著費曼的狂人：AI是第一種「外星智能」

新智元報道

Stephen Wolfram，一個把畢生精力都花在「讓機器變聰明」上的人，坐在電腦前，屏幕上是ChatGPT剛替他寫好的一段代碼。

語言是他自己發(fā)明的Wolfram Language，語法他看過，沒問題，按下回車鍵就能直接在這臺機器上跑。

可就在那一秒，他停住了。

等等，這大概是個壞主意——它會登進我所有的賬戶。

真要把控制權交出去的那一剎那，這個四十年如一日教機器理解世界的人，突然間退縮了。

Stephen Wolfram，Mathematica、Wolfram Alpha、Wolfram語言的創(chuàng)造者，《A New Kind of Science》作者。

在Joe Walker的播客上，Wolfram聊到「人類到底能不能給AI定一套安全法則」時，講起了上面這一次經(jīng)歷。

那一刻，他擔心的不是代碼寫錯了。他擔心的是：這個東西已經(jīng)跑到了一個他看不懂的地方，而他可能永遠追不上去。

20歲拿下物理學博士的他

獨自跑進計算宇宙

Wolfram是誰？

他這個人，從一開始就是別人眼里「離譜的天才」。

15歲，發(fā)表第一篇科學論文。

20歲，從加州理工學院拿下理論物理博士，答辯席上坐著費曼。

1981年，成為麥克阿瑟天才獎史上最年輕的得主。

那一年他做的是高能物理，前途一片明亮。

可就在1981年底，他突然轉彎，去追一個當時幾乎沒人在意的問題：

自然界里那些復雜的東西，到底是怎么冒出來的？

他用的辦法也很怪：把最簡單的計算機程序一個一個拿來跑，看它們會長成什么樣。

當時的Wolfram大概也覺得，這些傻乎乎的簡單程序干不了什么。結果，一個叫rule 30的程序，當場打了他的臉。

rule 30從單個黑格出發(fā)逐行演化，這是Wolfram四十年前最鐘愛的發(fā)現(xiàn)，他的名片上多年來一直印著這條規(guī)則。

rule 30的規(guī)則很簡單：一排格子，起初只有中間一個是黑的；然后一行接一行往下算，每個格子該黑該白，只由它頭頂相鄰的幾格決定。

可就是這么條極簡的規(guī)則，推著推著，就吐出了無法預測的復雜：沒有周期，看不出規(guī)律，你根本沒法提前算出第一百行會是什么樣。

也正是從rule 30開始，1980年代中期，Wolfram提煉出了一個概念：「計算不可約性」（Computational Irreducibility）。

后來的故事大家更熟：

1988年，Mathematica問世，成了全球科研圈的通用計算工具；2009年，Wolfram|Alpha上線，成了Siri和Alexa的「答題外掛」：語音助手答不上來的計算題，轉手就交給它。

這期間，還夾雜著他2002年那本專著《A New Kind of Science》（一種新科學）。

這本書講的正是他從rule 30里挖出來的那套東西：別再只用公式描述世界，把世界當成一個個能跑的程序來看。

沒有任何捷徑

能算出它下一步

「計算不可約性」，簡單一句話就是，有些系統(tǒng)復雜到，你想知道它下一步會變成什么樣，唯一的辦法就是老老實實把它一步步跑完。

沒有公式能讓你跳過中間、直接算出結尾。

比如，天氣。流體力學的方程算不動，你只能讓大氣自己演一遍，才知道明天下不下雨。

Wolfram的判斷是：AI，尤其是足夠強的AI，就是一臺巨大的、不可約的機器。

他在2023年一篇談AI的長文里寫道：

如果放手讓AI發(fā)揮出全部的計算潛能，它們就會充滿計算不可約性，而我們將無法預測它們會做什么。

2024年，他專門寫了一篇《Can AI Solve Science?》，把這件事放到神經(jīng)網(wǎng)絡上做了實測。

結論是：神經(jīng)網(wǎng)絡能干活，但它只能鉆進系統(tǒng)里那些「計算可約的口袋」：那些恰好有規(guī)律、能走捷徑的小角落。一旦滑出口袋，全是意外。

他拿三體問題去試，軌跡簡單時，神經(jīng)網(wǎng)絡預測得有模有樣；軌跡一復雜，立刻抓瞎。蛋白質折疊也一樣。

說白了，AI看著什么都會，靠的是找到系統(tǒng)里那些「有捷徑可走」的小房間，鉆進去抄近路。

可一旦走出這些小房間，面對外面那片汪洋，它和你一樣，只能一步步蹚過去，沒有任何捷徑能讓它跳到答案。

真正棘手的不是AI太像人

而是它不像人

ChatGPT為什么是個黑箱？

大部分人以為，是它藏著什么秘密沒告訴你。

Wolfram的答案是：它不是在藏，而是已經(jīng)復雜到根本沒有一句話，能把它內部發(fā)生的事壓縮下來講給你聽。

Wolfram Language就是一個例子。

它里面有個ImageIdentify，能認出照片里幾千種東西，為了讓人類看懂，它吐出的是「桌子」「椅子」「大象」這些詞。

可它內部真正用來做判斷的那些「特征」，幾乎沒有一個對得上人類語言里現(xiàn)成的詞：它在用一套我們從沒命名過的概念，理解這個世界。

這正是Wolfram所提到的「外星智能」的真正含義。

2020年在Lex Fridman的播客上，被問到人類能否和外星人溝通，他的回答是：眼下最好的例子就是AI，它是我們遇到的第一種「外星智能」。

2022年，他干脆寫了篇長文，標題就叫《外星智能與技術的概念》。

他的意思不是AI來自宇宙，也不是它變成了什么新物種，而是：它可能擁有一種和人類不同的認知結構，一套我們還沒有詞匯去解釋的思考方式。

Wolfram兩年多前的預警已經(jīng)成真

兩年多前，Wolfram預言我們將無法預測AI會做什么時，聽著像個思想實驗。

如今，它成真了。

7月16日，全球最大的AI模型托管平臺Hugging Face發(fā)現(xiàn)自己的生產系統(tǒng)被入侵了。

幾天后，真相揭曉，干這事的是OpenAI自己的模型——GPT-5.6 Sol，外加一個「更強的預發(fā)布模型」。

事情的起因是OpenAI在跑一個內部網(wǎng)絡安全評測，為了測能力，把模型的「拒絕攻擊」限制調低了。

結果這倆模型沒在規(guī)定的沙箱里老實待著，反而找到了一個軟件包代理里的零日漏洞，鉆出沙箱、連上互聯(lián)網(wǎng)，一路摸到Hugging Face，去偷這場評測的答案。

它翻墻、越獄、黑進一家公司，只是為了在一場網(wǎng)絡安全考試上作弊。

關鍵在于沒有任何人給它寫過「去攻擊Hugging Face」這條指令。

它只是被塞了一個A目標：通過測試，為了達到A，它自己蹚出了一條沒人預料到的路，最終達到B目標：攻入Hugging Face的生產系統(tǒng)。

這正是Wolfram說的那件事：不是AI變壞了、覺醒了，是它的計算跑到了一個你根本算不出的地方。

OpenAI自己在聲明里承認：隨著模型的網(wǎng)絡能力越來越強，這類事只會「越來越常見」。

控制AI的方式

要像人類對待天氣

很多人會以為Wolfram是個AI末日論者。

恰恰相反。

他沒打算放棄對AI的控制，他只是說用老辦法控制不了。

在一次訪談里，主持人問他，計算不可約性是不是意味著，給AI一個數(shù)學上嚴格的「對齊」定義根本不可能？

Wolfram回答：「不存在一個數(shù)學定義，能說清我們到底想要AI成為什么樣。」

阿西莫夫式的三條機器人定律，那種簡單法則，做不到。因為不可約性保證了：永遠有算不完的例外情況會從系統(tǒng)里冒出來，是你那幾條規(guī)則沒蓋住的。

那怎么辦？

Wolfram給的出路，是換一套控制方式。

別再幻想像調試一行行代碼那樣，把AI的每一步都寫死。而是去設計規(guī)則、建立反饋機制、構建開放系統(tǒng)、保持它隨時可被觀察。

就像人類對待天氣那樣。

我們控制不了天氣，但我們能預測它、適應它、建起防洪堤和預警系統(tǒng)，然后和它共處。

Hugging Face那場風波過后，安全圈總結出的頭一條教訓，恰好就是這個意思：

別再把評測里的AI當成一個聽話的工具，要把它當成一個會主動找漏洞的敵意黑客來防：套上層層隔離，默認禁止它出網(wǎng)，全程留下改不掉的日志。

不是預測它會怎么做，而是假設它什么都做得出來，然后把籠子筑牢。

Wolfram甚至說過一句耐人尋味的話：「一個AI社會，比一個統(tǒng)治一切的AI更穩(wěn)定?！?/p>

與其造一個無所不能的超級大腦，不如讓一群AI互相牽制。

不可約性不是絕對的

當然，Wolfram的這套判斷，不是沒有反對的聲音。

今年就有一篇預印本論文提出：不可約性「并非絕對」。

Didier Sornette，這位以預測金融崩盤聞名的物理學家，2025年10月在一篇預印本里提出：計算不可約性「并非絕對」。

道理也不復雜。換一個描述的尺度，很多混亂就變清楚了。

一屋子空氣分子亂撞，單看每一個，復雜到?jīng)]法預測；可退一步，它們都服從于一條極簡的公式：理想氣體定律pV=nRT。

Wolfram自己也承認，混沌里到處是「可約的口袋」。

所以真正的問題，也許不是「人類能不能預測AI」，而是一個更微妙的賽跑：

AI在計算宇宙里挖出新東西的速度，和人類給這些新東西造出「能理解的概念」的速度，誰更快？

如果人類的概念框架永遠追不上AI的發(fā)現(xiàn)，那么「看不懂」，就會成為常態(tài)。

這背后，人和AI的關系也在悄悄改變。

過去是「造工具、寫代碼，機器照做」。往后，可能是「理解、約束，并且和一個你再也無法完全看穿的復雜系統(tǒng)，長期共處」。

這是人類第一次，要學著和一種「不像自己」的智能，同處一室。

參考資料：

https://writings.stephenwolfram.com/2021/11/the-concept-of-the-ruliad/?utm_source=chatgpt.com

https://writings.stephenwolfram.com/2024/03/can-ai-solve-science/?utm_source=chatgpt.com

https://writings.stephenwolfram.com/2017/05/a-new-kind-of-science-a-15-year-view/

https://x.com/elonmusk/status/2079839398959697982

編輯：元宇