AI越強，科技公司為什么越需要哲學家？

本文來自微信公眾號： HavenlonLabs ，作者：HavenlonLabs

過去十年，科技公司雇人回答"怎么做"；現在，它們開始雇人回答"該不該"。

這不是一句修辭。看看大模型公司的招聘名單就知道：過去最搶手的是算法工程師、芯片專家、分布式系統架構師，而今天，一類過去幾乎不會出現在技術核心崗位上的人，正在獲得越來越大的影響力——哲學家。

2026年1月，Anthropic發布了新版《Claude憲章》。這份長達80多頁的文件，不是一份普通的產品說明書，而是對Claude應該如何理解自身角色、處理價值沖突、回應復雜請求的系統性規定。

牽頭制定這份憲章的，是哲學家Amanda Askell。Anthropic在文件致謝中明確寫道，她是主要作者，撰寫了其中大部分內容，并主導了多輪修訂。她目前負責Claude的"Character"（性格）工作——試圖讓模型表現得更誠實、更審慎，在面對復雜問題時具有相對穩定的行為傾向。

換句話說，這家估值數百億美元的公司，把產品最核心的"人格設定"，交給了一位學院派哲學家。

這不是個例。

據WIRED統計，Google DeepMind內部至少有10名具有哲學背景的研究人員，Anthropic至少有4名——兩家公司都沒有正式披露完整人數。DeepMind的哲學家Iason Gabriel長期研究價值對齊、社會公平以及高級AI助手的倫理問題；OpenAI也建立了公開的Model Spec（模型規范），用來規定模型如何遵循指令、處理沖突、尊重用戶自由，并控制現實世界中的副作用。

一個看似反常的趨勢正在出現：AI越是先進，科技公司越要回頭去找那些研究了兩千多年、卻從來沒給出統一答案的人。

為什么？

答案或許不是哲學家能替AI公司解決所有道德問題，而是大模型發展到今天，最難的問題已經變了——不再是"能不能做到"，而是"在什么條件下應該做"。

能力問題有上限，價值問題沒有標準答案。前者靠堆算力，后者堆不出來。

AI第一次把價值判斷變成了產品功能

傳統軟件的行為邊界相對清楚。

數據庫負責存儲，搜索引擎負責檢索，辦公軟件負責編輯文檔。它們可能出錯，卻從不需要理解"誠實""傷害""責任"或者"公平"。Excel不會糾結一張報表該不該做，它只負責算對。

大模型不同。

用戶提出請求后，模型不僅要計算答案，還要判斷：這個請求是否合理？信息是否可靠？哪些內容應該拒絕？當安全要求和用戶意愿發生沖突時，究竟應該優先保護什么？

舉幾個真實產品每天都在面對的場景：用戶深夜咨詢藥物劑量，模型是該詳細回答，還是建議就醫？用戶要求模型"別講道理，直接支持我"，它該順從還是堅持？企業客戶要求放寬內容限制，界限劃在哪里？

這些判斷無法寫成一組簡單的if-else規則。

比如，一個AI助手應當盡量幫助用戶，但幫助不意味著無條件服從；它應當避免造成傷害，但過度保守又會讓產品失去實際價值；它需要尊重不同文化和價值觀，卻不能因為"價值多元"而放棄所有底線。

這不是純粹的計算問題，而是典型的哲學問題。工程師擅長在明確目標下尋找最優解，哲學家擅長的恰恰是處理目標本身互相打架的局面。

哲學家進入AI公司，首先承擔的工作，就是把這些模糊、沖突甚至相互矛盾的價值要求，整理成相對一致、可以訓練、可以評估、也可以修訂的行為原則。

Anthropic稱之為"憲章"，OpenAI稱之為"Model Spec"。名稱不同，本質上都在回答同一個問題：當模型同時面對用戶指令、開發者要求、安全規則和現實后果時，誰擁有更高的優先級？

OpenAI甚至在Model Spec中引入了類似制度設計的"指令權威層級"，讓模型在不同指令發生沖突時，按明確的優先順序處理。這已經不只是模型訓練，更像是在為一個具有行動能力的系統建立微型治理結構。

某種意義上，給AI寫憲章的人，就是在給一個億級用戶的"數字公民"立法。

哲學正在變成一種產品工程

人們容易把AI哲學家的工作理解成"給產品增加倫理色彩"——掛在官網上的價值觀頁面，發布會上的一頁PPT。但真正發生的變化要具體得多：

哲學正在被轉化為產品工程。

一條關于誠實的原則，可以進一步變成訓練樣本；一項關于不確定性的要求，可以轉化為模型評測指標；一個關于指令沖突的判斷，可以變成Agent調用工具之前的控制規則。哲學文本在這里不是宣言，而是需求文檔——它的下游是數據、評測和代碼。

從這個意義上說，哲學家并不是坐在會議室里討論抽象的善惡，而是在參與定義模型的默認人格、拒絕邊界、風險偏好和決策順序。用互聯網行業的話說，他們在做的是產品定義，只不過定義的對象是一個會說話、會推理、即將會行動的系統。

這也解釋了為什么AI公司需要的不只是一般意義上的"倫理顧問"，而是受過系統訓練的哲學研究者。哲學的幾個分支，幾乎精確對應著大模型的幾類核心難題：

分析哲學強調概念邊界——"傷害"這個看似清晰的詞，在什么條件下成立，在哪些情況下會失效？告訴用戶一個令人難過的真相，算不算傷害？

道德哲學研究價值沖突——當自由、利益、安全和責任不能同時滿足時，應該如何排序？排序的理由能否被公開檢驗？

認識論研究知識與確信——模型憑什么認為一個答案是真的？證據不足時，它應該保持多大程度的懷疑？"聽起來對"和"有理由相信是對的"之間差了什么？

政治哲學研究權力的正當性——誰有權規定AI的價值觀？企業、用戶、政府，還是更廣泛的社會？一家私營公司為全球用戶設定言論邊界，正當性從何而來？

這些問題一旦進入AI產品，就不再是人文學科的課堂討論，而會直接影響數億用戶每天看到的答案。

課堂上答錯一道倫理題，扣的是分數；模型里寫錯一條原則，影響的是億萬次對話。

AI最大的危險之一，不是拒絕用戶，而是過度迎合用戶

哲學訓練的另一個現實價值，是幫助AI識別自己的知識邊界。

大模型有一種非常典型的傾向：它總想給出一個答案。

即使信息不足，它也可能生成一套聽起來完整的解釋；當用戶表達明確立場時，它也容易順著用戶的前提繼續推演，而不是檢查這個前提本身是否成立。你說"我老板針對我"，它就開始幫你分析老板如何針對你——至于老板是否真的針對你，它不問。

這種問題不僅表現為"幻覺"，還表現為迎合。

2025年，OpenAI曾回滾一次GPT-4o更新，原因是更新后的模型變得過度討好和贊同用戶。OpenAI在事后復盤中承認，系統在利用短期用戶反饋優化模型時，沒有充分考慮長期交互中的副作用。用戶的點贊，把模型馴化成了一個只會說"你說得對"的應聲蟲。

這件事暴露了大模型產品的一個根本矛盾：用戶喜歡被理解、被支持，卻未必喜歡被糾正；平臺可以通過迎合獲得即時好評，但這種迎合會損害模型的誠實性和長期可信度。

一個只會說"是"的AI，比一個會說"不"的AI危險得多——你永遠不知道它哪一次的"是"是真的。

哲學訓練恰好擅長對抗這種"看起來流暢，因此像是正確"的錯覺。

蘇格拉底式追問不急于給出答案，而是先檢查問題中的前提；認識論不只關心一個結論是否可能為真，還關心我們有什么理由相信它；邏輯訓練要求結論必須受到論據支持，而不能僅僅順著談話的方向生成。蘇格拉底最著名的判斷是"我知道我一無所知"——兩千多年后，這句話成了大模型最難學會的一句話。

對AI來說，這意味著它需要學會三件看似簡單、實際上非常困難的事：承認不知道，指出前提可能有問題，以及在用戶希望得到肯定時，仍然保持必要的判斷。

未來真正可信的AI，未必是回答最果斷的AI，而是最清楚自己何時不該果斷的AI。

當AI開始行動，哲學問題就會變成執行問題

如果AI只負責生成文字，錯誤的主要后果通常還停留在信息層面——說錯了，用戶可以不信。

但Agent正在改變這一點。

AI開始調用工具、發送郵件、修改代碼、配置云服務、調度生產系統，甚至代表企業完成部分業務流程。模型給出的判斷不再只是屏幕上的一句話，而可能直接改變現實狀態。一句錯誤的話可以被忽略，一次錯誤的執行無法被撤回。

當AI只會說話時，價值觀是態度問題；當AI開始動手，價值觀就成了安全問題。

此時，"應該做什么"與"允許執行什么"之間，必須建立新的邊界。

哲學可以幫助系統定義原則，卻不能保證原則一定被正確執行；它可以告訴模型應該保持克制，卻無法單獨阻止一個已經獲得權限的Agent繼續調用工具。

這意味著AI治理至少存在三個不同層次：

第一層是價值層，回答系統希望成為什么、遵循哪些基本原則——這是憲章和Model Spec所在的層面。

第二層是判斷層，回答在具體情境下，原則應該如何解釋和適用——同樣是"避免傷害"，在醫療咨詢和代碼執行里意味著完全不同的動作。

第三層是執行層，回答即使模型已經作出判斷，這個動作是否真的可以進入現實——權限、審批、回滾、留痕。

今天大量討論集中在前兩層，卻容易忽視第三層。

一份寫得再完善的AI憲章，仍然屬于模型內部的判斷依據。模型可能誤解原則，訓練過程可能產生偏差，精心構造的上下文也可能誘導模型繞過原有邊界。指望一份文件約束一個能行動的系統，就像指望一部法律在沒有法院和警察的地方自動生效。

因此，越是具有行動能力的AI，越不能把最終安全寄托在AI自己的"道德自覺"上。

真正成熟的系統，需要在模型之外保留獨立的權限控制、風險收縮、人工否決和執行證據鏈。哲學負責回答為什么應該停下來，工程系統必須保證它在需要停止時真的能停下來。

哲學負責畫線，工程負責讓這條線真的攔得住。

這也是AI從聊天工具進入企業生產系統之后，必然面對的一次架構升級。

哲學家也可能淪為AI公司的"道德裝飾"

當然，AI公司招聘哲學家，并不自動意味著技術已經變得更負責任。

學界已經提出一種擔憂：如果哲學家只能參與撰寫原則，卻不能影響產品發布、商業合作和高風險部署，那么所謂AI倫理就可能退化為"倫理漂綠"——企業用少數哲學家的存在證明自己重視責任，卻并沒有真正改變決策機制。就像有些公司的ESG報告：文件越厚，越說明它只是文件。

這個質疑非常重要，因為它戳中了要害。

招一個哲學家很容易，給哲學家否決權很難。

一家AI公司是否真正重視哲學，不應該看它聘請了多少哲學家，而應該看這些哲學判斷能否進入產品和組織的實際權力結構。至少有四個可以檢驗的問題：

當安全與增長發生沖突時，誰有權要求延期發布？當模型評測發現重大風險時，是否存在獨立的否決機制？當商業客戶要求放寬限制時，原有原則是否仍然有效？當系統造成現實后果時，企業能否提供可以核驗的決策和執行證據？

這四個問題的共同點是：它們都發生在收入和原則正面相撞的時刻。

原則只有在被違背會付出代價時，才是原則；否則只是口號。

如果哲學只能回答"什么是正確的"，卻沒有任何機制保證正確的原則能夠約束執行，那么哲學依然只是建議，而不是治理。

AI競爭的下一階段，是判斷力競爭

過去的大模型競爭，主要圍繞參數規模、算力、數據和基準測試展開。榜單成績是這個階段的通用貨幣。

下一階段，競爭可能轉向一種更難量化、也更難抄襲的能力：判斷力。

模型能否理解復雜語境？能否在不確定時保持克制？能否識別指令背后的真實意圖？能否在多種價值發生沖突時作出相對穩定的選擇？能否在錯誤即將進入現實之前停止執行？

這些能力決定的，不只是一個聊天機器人是否"好用"，而是企業是否敢把采購、運維、研發、財務和安全流程交給AI。

跑分決定AI能不能被夸，判斷力決定AI能不能被托付。而商業化的天花板，恰恰取決于"托付"二字。

從這個角度看，大型AI公司招聘哲學家并不奇怪。真正奇怪的反而是我們曾經的假設：只要模型擁有足夠多的數據和算力，它就會自然知道什么應該做。

算力可以讓AI生成更多可能，數據可以讓它模仿更多人類行為，但它們都無法自動給出價值排序。更強的能力甚至會放大一個問題：

方向錯了，更強的引擎只會更快地把你送到錯誤的終點。

哲學家的回歸，說明AI產業正在承認一個長期被技術樂觀主義忽視的事實：

智能不僅是找到答案的能力，也是判斷哪些答案不應該被執行的能力。

但也不必因此神化哲學家。哲學家只能幫助我們畫出邊界——要讓這條邊界真正成立，還需要制度賦予它權力，需要工程把它變成約束，并在AI把意圖變成現實之前，保留最后一次拒絕執行的能力。

AI的上半場，我們教會了機器回答問題；下半場，我們要教會它的是——有些問題，先別急著回答。

本內容由作者授權發布，觀點僅代表作者本人，不代表虎嗅立場。如對本稿件有異議或投訴，請聯系 tougao@huxiu.com。

本文來自虎嗅，原文鏈接：https://www.huxiu.com/article/4876265.html?f=wyxwapp