教皇憂心AI,諾獎得主回應:人類尚未對AI引發的最隱蔽風險采取措施

2026年5月25日，天主教羅馬教皇利奧十四世就人工智能（AI）開發和使用發布了通諭《偉大的人性》（Magnifica Humanitas）。這是天主教會歷史上首部系統回應人工智能時代倫理挑戰的文件，全文 4 萬余字，同時紀念利奧十三世《新事物》（Rerum Novarum) 通諭發表 135 周年。《新事物》是天主教會首次系統闡述社會與經濟問題的通諭，回應當時工業革命所帶來的勞動危機；而《偉大的人性》則是回應AI時代所帶來的社會問題，呼吁在AI發展中維護人的最終責任，防止技術權力集中、算法操縱輿論及貧富差距擴大，并倡導建立全球治理體系，以保障人類尊嚴與社會正義。

當天意大利《晚郵報》（Corriere Della Sera）及其官方網站發布了對喬治·帕里西（Giorgio Parisi，2021年由于“復雜系統理論的開創性貢獻”而獲得諾貝爾物理學獎）的采訪。該報記者就各界所關心的AI的現狀和未來等方面的熱點問題請教帕里西，他并未研讀通諭，而是直接回答了記者的提問，系統地陳述了他的看法。下面是采訪全文，由喬治·帕里西教授本人提供并授權《返樸》翻譯發表，有些報紙和網站刊發的為編輯刪減版。

撰文 | 喬治·帕里西

翻譯 | 劉全慧（湖南大學物理與微電子科學學院）

喬治·帕里西

記者：通諭認為技術從來不是中立的。你同意這種解讀嗎？

喬治·帕里西：我首先要說明，我還沒有時間仔細研讀這篇長達一百多頁的通諭，因此我將直接回答你提出的問題。我同意，并且五十年來我一直堅信：技術從來不是中立的。每一項技術都承載著一種隱含的哲學理念，設計者的價值取向早已內嵌其中。在人工智能領域，這一點尤為明顯：一個系統從我們提供的示例中學習，而這些示例從來不是對世界完全客觀的樣本。它們包含了我們的選擇、我們的疏忽、我們的偏見，而機器隨后會將其輸出，并且常常加以放大。我還要補充一點，這關系到我們科學家自身：對“絕對中立”的主張本身也是一種幻覺，固執地捍衛這種中立，最終只會削弱那些高舉它的人的可信度。承認技術蘊含著價值觀，并不是一種指責。這是我們有意識地決定技術應該蘊含哪些價值觀的第一步。

記者：復雜系統會發展出難以預測的涌現特性。這是否意味著最先進的人工智能也不可避免地成為“黑箱”？

喬治·帕里西：某種程度上是這樣，但我會謹慎使用“不可避免”（inevitabilmentein）這個詞。誠然，深度神經網絡能夠工作，但矛盾的是，我們還沒有一種理論能夠以可控的方式預測它們的行為：我們無法準確說出其中間層內部發生了什么。在這方面，它們確實很像我一輩子研究的復雜系統。然而，不透明并不意味著永遠無法理解。我們是可以做一些事情的，不過其中難度究竟有多大——這正是我們尚不清楚的地方。物理學已經開始提供一些有用的理論工具。而且，我想象到一個有趣的場景，有一天構建這些系統的人會有點像心理學家：他們需要通過觀察和實驗來研究其行為，而不是從方程式中推導出來。那將是一個嶄新而迷人的職業。

記者：根據教皇的說法，最終決定權應該始終保留在人類手中。你覺得這仍然現實嗎？

喬治·帕里西：在許多領域，這無疑是現實的，并且應該得到捍衛。機器可以處理、建議、預警，但最終決定權應該留給能夠為之負責的人。原因很簡單：只有人類擁有對世界的意識，并且能夠做出價值判斷。一臺機器不知道什么是正確的，它沒有同情心，它所知道的，只是基于過往所見示例給出什么可能發生。我不否認，在某些情況下，讓人類始終處于中心位置會很困難，因為系統變得很快，將決策委托給機器的誘惑很大。但在這里，我想反問這個問題：這不僅是一個是否現實的問題，更是一個如何使其變得現實的問題。這取決于我們的選擇，而不是像天氣預報那樣等著事情發生。人工智能必須始終是一種工具，而不是成為一種權威。

記者：你是否看到了這樣一種風險：人類不僅將技術操作交給機器，也把道德或政治判斷委托給機器？

喬治·帕里西：危險是存在的，而且相當嚴重。坦率地說，這個風險有多大今天很難評估，因為很大程度上取決于我們未來幾年的行為。我可以明確說的是，將道德或政治判斷委托給機器將是絕對負面的。讓一個系統來整理數據或翻譯文本是一回事，而讓它決定誰值得獲得貸款、誰應該被錄用，或者在自主武器的極端情況下，誰應該成為攻擊目標，則是另一回事。選擇攻擊誰，絕不能交給算法（編者注：通諭中特別提到了不能讓AI承擔）。道德判斷需要設身處地為他人著想并承擔責任，而機器無法做到這一點，因為它不是，也不應該成為一個道德主體。最隱蔽的風險不是明面上的委托行為，而是無聲的授權——繼續將實際上已經成為政治決策的事情稱為“技術性”決定。

記者：通諭強調了人類勞動的尊嚴。人工智能在多大程度上可能改變勞動與權力之間的關系？

喬治·帕里西：風險是顯著的，需要正視它，既不危言聳聽，也不盲目天真。從工業革命開始，每一項新技術都減少了所需的勞動量。與人工智能的不同之處在于速度：過去需要一代人才能完成的變革，如今在幾年內就發生了，這給人們留下重新適應的時間很少。此外，還有一點讓我特別在意。人工智能有可能成為我們進入數字世界的門戶：如果我們在獲取信息、學習和工作時都經過同一個過濾器，那么控制這個過濾器的人就擁有了巨大的權力。這正是勞動與權力交織之處。我不認為是技術本身的錯，這取決于一個社會如何決定分配生產力提升帶來的收益。例如，減少工作時間是一條古老而合理的道路：減少工作，以便人人都有工作。

記者：人工智能是否正在成為一個難以治理的全球性新“復雜系統”？

喬治·帕里西：不一定。“復雜系統”這個詞常常被當作“無法治理”的同義詞，但事實并非如此。城市的交通就是一個很好的例子：它可能變得混亂，但絕非無法治理。通過交通信號燈、單行道、錯峰出行等，可以引導交通——交通規則至關重要。交通是復雜的，但并非不可控。人工智能作為一個全球性現象，確實具有復雜系統的一些特征：大量的行為主體相互作用，產生的集體行為并非由單一行為主體設計出來，有時還會產生反直覺的結果。但是“難以治理”并不等于“無法治理”。這意味著需要合適的工具和經過深思熟慮的規則。讓我擔心的不是復雜性本身，而是我們正在讓這個系統發展壯大，卻沒有及時為其制定規則。

記者：為了避免技術權力的過度集中，保持強大的公共人工智能研究有多重要？

喬治·帕里西：非常重要，而且意義超出了經濟競爭。如今，大部分前沿人工智能研究掌握在少數幾家大型私營公司手中，它們完全有權自己研發，但它們自然會傾向于將取得的進展保密。然而，科學是通過知識共享而發展的。因此，我認為需要建立一些公共研究中心，讓研究人員可以在那里交流合作，不受商業機密的限制，從而產生共享的知識，使新的參與者、新的初創公司能夠進入這個領域。在歐洲，已經有人提議創建一個公共的人工智能機構，類似于AI領域的歐洲核子研究中心（CERN），至少在初期，它可以規模小一些。我一直堅定地支持這一提議，并就此簽署了一份宣言。這不是要取代私營研究或各國的自有研究，而是建立一個與它們互補的地方，讓知識保持為公共財富。歐洲雖然落后了，但它有能力做到。

記者：關于人工智能的辯論，除了工程師和科學家之外，是否也需要哲學家、人文學者和道德機構？

喬治·帕里西：絕對需要，而且不是出于對其他學科的禮貌。人工智能給我們帶來的真正困難的問題不僅僅是技術性的。我們所說的推理、意識、責任是什么意思？這些都是哲學家和人文學者思考了幾個世紀的問題，工程師無法獨自面對。此外，有趣的是，該領域的一些領軍人物背景非常多樣，比如有人在從事神經網絡研究之前學過心理學或哲學。最好的成果往往誕生于不同專業能力并肩解決共同問題的時候。一項關乎我們如何思考、工作和決策的技術，不能只留給構建它的專家。它需要那些關心事物意義的人的視角，也需要那些守護我們共同價值觀的機構。

記者：教皇強調集體責任。對于如此強大的技術，當今是否存在適當的國際治理體系？

喬治·帕里西：不幸的是，沒有。本應確保國際治理的機構，從聯合國到世界衛生組織，近年來被邊緣化、被削弱，恰恰是在問題變得日益全球化的時候。這不是一個令人痛苦的悖論，而是愚蠢的政治選擇。人工智能不會止步于國境線：在一個國家訓練的系統會在世界各地被使用，其影響，無論好壞，都會波及所有人。對于如此重要的技術，我們需要共同的規則，理想情況下，還需要一項國際條約來設定一些不可逾越的界限，并需要一個獨立的機構來確保其得到遵守。今天，這一切還不存在。我認為未來幾年的任務是重建名副其實的國際治理體系，不僅針對人工智能，從氣候到和平的所有領域都應如此。這是一項艱巨的工作，很多人會逆流而動，但我們沒有合理的替代方案。

致謝：喬治·帕里西提供了采訪的全文，并同意翻譯成中文發表。特此致謝。

特 別 提 示

『返樸』提供按月檢索功能。關注公眾號，回復四位數組成的年份+月份，如“1903”，可獲取2019年3月的內容目錄，以此類推。

版權說明：歡迎個人轉發，任何形式的媒體或機構未經授權，不得轉載和摘編。