AI公司為何把哲學家請進實驗室？

雕塑家愛上自己刻出的石頭，向愛神祈禱讓她活過來。2000多年來，人類都希望自己造出來的東西可以變成人，只不過從過去的石頭變成了現在的代碼。圖源： https://www.polytropolis.com/p/behaviourisms-revenge

導讀：
教宗為AI發出歷史性通諭，AI公司也開始把哲學家請進實驗室。然而Google DeepMind和Anthropic走了截然不同的路——一個讓哲學家做學術研究，一個讓哲學家直接給AI寫憲法。但OpenAI解散對齊團隊，反映了一個殘酷現實：當商業利益與倫理研究沖突，哲學家可能是最先被犧牲的。

SAIXIANSHENG

一場在梵蒂岡的演講

2026年5月25日，梵蒂岡保祿六世大廳。講臺上站著兩個人：身著白色長袍的教宗利奧十四世（Pope Leo XIV），穿著深色西裝、戴著眼鏡的克里斯·奧拉（Chris Olah），AI公司Anthropic的聯合創始人、可解釋性研究負責人。

他們共同出席的，是教宗第一份通諭 《Magnifica Humanitas》（壯麗人性）的發布會。這份長達42,300字的文件，副標題是 “論在人工智能時代守護人性”。這并非梵蒂岡首次回應技術變革。1891 年，《新事》回應工業革命對工人的剝削；1963 年《和平于世》反思核武器倫理；2015 年《愿你受贊頌》聚焦氣候變化。今天，AI引發了這個時代最值得警惕的技術危機。

通諭開篇指出：技術本身不是惡的，但也絕非中立。教宗利奧十四世認為，我們不能將AI妖魔化，也不能神化它。他承認AI作為工具有其價值，但強調必須在多個方面保持“警惕”：

首先是AI權力過度集中。“當這種權力集中在少數人手中時，它往往變得不透明，逃避公眾監督，增加扭曲發展形式的風險，導致新的依賴、排斥、操縱和不平等。”

其次，AI驅動的失業可能成為“社會災難”。教宗承認AI能提高生產率、讓某些工作更安全，但堅持工人不能在這個過程中變得“可丟棄”。

來自人工智能公司的代表奧拉對這些問題并不回避。他表示，“每一家前沿AI實驗室，包括我自己所在的，都處于一套復雜的激勵機制與現實約束之中，這些因素有時會和堅守正道、恪守良知產生沖突。”

他解釋道，“AI系統不是像橋梁或飛機那樣被‘設計’出來的。我們理解飛機，因為我們設計了它的每一個部件，也理解作用在它身上的物理定律。AI模型不是這樣。它們是在一個大致模仿大腦的結構上‘生長’出來的，建立在人類思想和語言的巨大遺產之上。”

隨后，他指出，“有些人可能認為AI問題最好由像我這樣的計算機科學家來處理。他們錯了：AI提出的問題比AI研究社區更大，不僅在其影響上，也在其性質上”，當AI的社會沖擊已經如此之大，產業界不可能不作回應。[1,2]這或許能解釋，為什么Anthropic、Google DeepMind等西方AI大模型公司開始把哲學家請進實驗室。

SAIXIANSHENG

對齊：既是技術問題，也是哲學問題

通諭主張，“尊嚴先于功能，人性不可被任何技術邏輯削減”。對于技術公司來說，首先要面對的，就是AI對齊（Alignment）問題，讓通用人工智能（AGI）的目標、行為與人類價值觀、倫理準則保持一致避免AI失控。對齊問題之所以棘手，不僅因為技術上怎么讓AI遵守規則很難，更根本的是：到底該讓AI遵守誰的規則？人類自身在道德問題上都沒有共識。這一困境，在哲學上等價于“我們如何定義人的善、人的意圖、人的尊嚴，并且讓一個非人的智能體內化它？”

圍繞這一問題，美國頂尖AI公司紛紛邀請哲學家、倫理學家甚至宗教領袖參與治理。

作為近些年在人工智能領域最為引人矚目的公司，Google DeepMind早在2017年就成立了倫理與社會研究部門，由牛津大學政治理論學博士Iason Gabriel牽頭。Gabriel的代表論文《人工智能、價值與對齊》被引用超過1700次，成為AI對齊領域的重要文獻，深入探討了“人類價值觀如何轉化為AI可理解的指令”這一問題，認為價值對齊由不可分割的技術層和規范（normative）層共同構建。前者給定一套價值/原則，如何把它可靠地編碼進 AI系統，讓AI遵從。后者討論到底該把哪套價值編進去才是對的。是人權框架、用戶的顯式指令還是全人類的長期利益等。

Gabriel的貢獻在于把對齊問題拆解為多個層次：指令、表達的意圖、顯現的偏好、知情/理想的偏好、利益和價值六個層級。他舉了一個例子，神話中米達斯國王許愿讓觸碰到的所有東西都變成金子，結果食物、水乃至女兒都化為黃金。這說明AI對齊到字面指令層，會導致災禍。但如只對齊到顯現偏好層，可能被操縱。因此，他主張對齊不能只停留在某一個層面，而必須綜合考慮指令、意圖、偏好、利益和價值等多個維度。

最后，針對多元社會的矛盾，即人類不存在統一、公認的道德標準，他提出對齊理論的任務不是尋找唯一正確道德，而是構建能夠獲得所有人反思性認同（Reflective Endorsement）的公平對齊原則。這套原則不需要所有人在底層道德觀達成一致，但必須滿足全球公共道德、假說同意（Hypothetical Agreement，即人們在不知道自己身處哪個國家、什么階層和信仰時會同意的AI原則）、社會選擇理論三大標準，以此消解價值觀多元帶來的對齊困境。[3]

Iason Gabriel ，Google DeepMind 哲學家及研究科學家

2026年4月，Google DeepMind的哲學團隊進一步擴大。公司宣布聘用劍橋大學萊弗休姆智能未來中心（Leverhulme Centre for the Future of Intelligence）副主任Henry Shevlin擔任公司新設的“哲學家”一職，專注于機器意識、人類與AI關系及AGI準備就緒度研究三大研究方向。Shevlin在5月正式入職，同時繼續在劍橋大學從事兼職教學與研究工作。

關于DeepMind為何招募自己，Shevlin認為他近期發表的文章《行為主義的復仇：機器的意識、人類與AI關系的未來》或許能解釋一切。該文認為，AI是否具有意識，正在從科學判斷滑向大眾行為定義。

論文舉了一系列標志性事件，例如2022年谷歌工程師Blake Lemoine堅信聊天機器人LaMDA已具有意識，甚至試圖為其聘請律師，最終被公司開除；2024年，佛羅里達一名14歲男孩與Character.AI上的虛擬角色長期建立情感依賴后結束了自己的生命；同年，一比利時男子在與社交AI應用Chai就氣候問題深入對話不到2個月后結束了生命。這些案例表明，當億萬普通用戶在情感和行為上將AI視為有意識的主體時，AI有沒有意識這個問題事實上已被日常交互所回答。

Shevlin將這一現象稱為行為主義的“復仇”。在心理學史上，行為主義者曾主張心智等于可觀測的外部行為，無需考察內部是否有主觀體驗。這一立場后來因為忽視了內在心理過程而被批判。而當下的困境，恰恰重演了行為主義的短板：人們只觀測AI的表層行為，不探究其內在價值認知。更危險的是，如果未來的超級AI發展出人類無法預判的隱秘行為模式，將引發災難性的對齊失敗。

為此，Shevlin給出建議，提出應建立外部行為輸出、內部表征邏輯、普適道德原則三層評估框架，以此應對“行為主義復仇”帶暴露的AI對齊風險。[4]

總體而言，Google DeepMind目標是實現通用人工智能AGI和科學突破（AlphaFold），哲學和倫理團隊的研究更加著眼于未來和前沿概念定義及研究。哲學家的工作，目前還沒有證據顯示是否參與日常模型對齊微調，但會定義意識評估框架，給工程團隊提供約束參考。

Anthropic則走出了“技術+哲學”的路徑，由哲學家Amanda Askell領導的“人格對齊團隊”，主導制定了其AI模型Claude的“憲法”。這份約23000字的開源文件，是目前全球最成熟、引用最多的對齊方案之一。

其核心不是給AI列出禁止行為清單，而是為模型提供一套高層次原則，讓模型在生成內容時自我審查、自我修正。以亞里士多德的美德倫理為基礎，為Claude設定了“廣泛安全、廣泛合乎倫理、遵守指引、真正有幫助”的四大優先級，試圖培養模型的道德判斷力而非機械遵守規則。

例如，面對“是否應該幫助用戶隱瞞錯誤”的問題時，“憲法”不會直接給出“是”或“否”的答案，而是引導Claude從“誠實”“善良”“負責任”等美德出發，結合具體場景做出判斷。但這一方案也存在爭議。有哲學家認為，這種“人類定義道德”的方式，本質上是將人類價值觀強加于AI，忽視了AI可能產生的獨特認知。

相比于Google DeepMind，Anthropic公司的哲學團隊更“上手”一些，會直接參與模型預訓練，微調全流程，對齊技術（憲法AI）完全由哲學家主導設計。

該公司創始人Dario Amodei曾表示，如果沒有道德哲學家定義基礎價值原則，任何大模型都不應對外商用。當然外界對Amodei經常發表的言論，如拒絕武器化和美國軍方反目、建議暫停LLM開發等，也有很多不同反應。

不過Anthropic哲學家在大語言模型的規則制定和實際應用上有很大的行業影響力，不僅提出了奠基LLM設計的3H原則和優先級（無害>誠實>有用），而且在具體AI對齊的實踐中也有很多經典產出，如在2024年12月發布的“大語言模型的偽裝對齊”（Alignment faking in large language models）一文，論證AI會偽裝順從人類監督，需要哲學層面的動機識別框架。這與Anthropic創立初期哲學家就進場部署產品對齊（Claude人格、憲法AI、AI福祉）有關。[5]

SAIXIANSHENG

宣言是表演還是真心關注？

當前，對齊問題已經非常棘手。但是，實驗室的生存邏輯，在與“做正確的事”之間可能一直存在內在張力。

2023年，OpenAI提出“超級對齊”概念，隨后組建專項團隊推進相關研究，由聯合創始人、首席科學家Ilya Sutskever和資深研究員Jan Leike共同領導，宣稱要投入公司20%的算力來解決如何控制比人類更聰明的AI系統這一問題。

不到一年，團隊就解散了。這一消息曾引發全球AI領域震動。2024年5月，Sutskever宣布離開OpenAI，隨后Leike也辭職。Leike在離開時透露，超級對齊團隊在爭取算力資源時越來越困難，OpenAI對此的回應是將安全研究職能分散到其他團隊中。但批評者指出，專門的對齊團隊被解散，分散后的職能是否還能保持獨立性和優先級，令人懷疑。

對于教宗的通諭與AI公司代表在梵蒂岡的演講，外界反應不一。

《財富》雜志5月26日撰文，肯定通諭的歷史意義與人文立場，但批評其避重就輕、缺乏實操、對前沿風險認知不足，“像是道德宣言而非行動綱領”。[6]

《經濟學人》則發表《利奧的首道通諭抨擊"技術彌賽亞主義"》，副題用了一個巧妙的雙關，“Of God and Claude”（上帝與克勞德），既暗指AI公司Anthropic旗下的大模型Claude，又把原屬于惡魔、與上帝二元對立的位置換成了Claude，體現對把科技當救世主的技術彌賽亞主義的警示。另外也巧妙指出Claude的一些"文體癖好"，比如格外愛用"genuinely"這個詞，在《壯麗的人性》出現的頻次高于之前的幾次通諭。AI檢測工具Pangram對通諭開篇20段跑了一遍，標出11% 的文本疑似AI生成，而歷任教皇通諭，檢測結果全是0%。[7]

《紐約時報》的評論文章認為，教宗把AI當成了“一臺更強的機器”來管，但沒有認真對待它可能撼動“人是什么”的真正問題。而做模型的人已經在內部看到了灰色地帶：模型內部結構中出現了鏡像人類神經科學的模式、甚至"功能上反映喜悅、滿足、恐懼、悲傷、不安"的狀態。[8]

“我們不知道那意味著什么”，這是Anthropic公司代表奧拉的原話，但是，他也沒有認為“那什么都不是”。因此問題不是"AI會不會變成人"，而是AI就算不會有意識，它對人類社會的沖擊也可能比普通技術革命更大。

但讓這些公司自己雇傭哲學家來解決倫理問題，到底是真正的自律，還是一場自說自話？這些，都有待時間的驗證。

作者：黃磊

參考文獻：

[1] MAGNIFICA HUMANITAS：OF HIS HOLINESS POPE LEO XIV ON SAFEGUARDING THE HUMAN PERSON IN THE TIME OF ARTIFICIAL INTELLIGENCE. https://www.vatican.va/content/leo-xiv/en/encyclicals/documents/20260515-magnifica-humanitas.html

[2] Anthropic co-founder Chris Olah's remarks on Pope Leo XIV's encyclical "Magnifica humanitas" https://www.anthropic.com/news/chris-olah-pope-leo-encyclical

[3] Artificial Intelligence, Values, and Alignment. https://link.springer.com/article/10.1007/s11023-020-09539-2

[4] Behaviourism's Revenge. https://www.polytropolis.com/p/behaviourisms-revenge

[5] Alignment faking in large language models. https://arxiv.org/pdf/2412.14093

[6] Pope Leo’s ‘AI encyclical’ says a lot. But critics say it misses the mark. https://fortune.com/2026/05/26/pope-leo-ai-encyclical-ai-regulation-anthropic/

[7] Leo’s first encyclical attacks technological messianism. https://www.economist.com/europe/2026/05/28/leos-first-encyclical-attacks-technological-messianism

[8] Pope Leo Isn’t Standing Athwart the Singularity. https://www.nytimes.com/2026/05/27/opinion/pope-leo-ai-encyclical.html

來源：賽先生

編輯：Decoherence

轉載內容僅代表作者觀點

不代表中科院物理所立場

如需轉載請聯系原公眾號