數學害怕AI造出假證明，而生物學擔心的問題更加棘手

認真閱讀下面的文章，并思考文末互動提出的問題，嚴格按照互動：你的答案格式在評論區留言，就有機會獲得由湛廬文化提供的優質科普書籍《世界的邏輯》。

在《萊頓宣言》中，數學家們發表了一篇論述人工智能如何對數學領域構成挑戰的論文。其他領域也應效仿。

今年6月，一群以數學家為主的學者發布了《萊頓宣言：人工智能與數學》。這份宣言闡述了他們在將自動化系統融入數學證明開發實踐過程中希望恪守的價值觀。之所以有必要這樣做，是因為一些前沿的人工智能系統在解決某些高級數學問題方面展現出了驚人的能力，盡管獨立測試表明人工智能仍然存在重大局限。

人工智能在解決數學問題方面展現出驚人的能力。圖源：AI生成。

嚴格來說，我（譯者注：作者）并不是純數學圈內人，但該宣言中的許多觀點讓我深有同感，也與我作為計算生物學家的研究方向密切相關。

令我感到鼓舞的是，數學界決定在AI問題上旗幟鮮明地表態，并成功召集了一大批著名數學家簽署這份文件。源自荷蘭萊頓大學一次會議的《萊頓宣言》，應當能引發更多類似的倡議，因為對數學而言成立的道理，對幾乎所有自稱是科學的領域同樣適用。數學的創新成果滲透到各種算法和統計方法中，這些方法幫助科學家設計實驗、構建模擬模型并分析數據，其應用范圍從社會學到統計物理學，乃至更廣闊的領域。

我認為，生物學領域也該考慮做點類似的事情了，因為生物學所產生和預測的那類知識，尤其容易被人工智能歪曲和顛覆。

生物學中的DNA雙螺旋結構。圖源：Pixabay。

數學界就此展開的討論發人深省，因為這份宣言是對人工智能的強大能力及其風險所作出的協調回應——AI的加速發展，簡直像《復仇者聯盟》里滅霸的那一記“響指”，瞬間改變了整個宇宙。數學家之所以能如此迅速地感受到其影響，部分原因在于他們的研究方式：原則上，數學證明是透明且可獨立驗證的，而且（通常）無需任何專有設備即可進行核查。

正如《萊頓宣言》所指出的，自動化技術如今給數學領域帶來了一個新的偽造問題：由于數學真理是固定且可驗證的，因此只要跟真正的證明一比對，就能識破贗品。然而，生物學卻無法提供這樣的保證；我們所謂的“真理”往往充滿噪聲、依賴情境，這使得我們幾乎不可能定義“真版本”該是什么樣子。一些廣受認可的生物學原理（例如孟德爾的遺傳定律）更適合被描述為：雖然強大，但適用范圍有限，并且存在已經研究得相當清楚的例外——這些例外不僅不會動搖定律本身，反而能完善其應用。許多生物學理論都是如此。邊界條件、邊緣案例和噪聲并非缺陷（bugs），而是自然界運行機制的固有特征（features）。

人工智能在生物領域又將如何合理應用并加以驗證？圖源：AI生成。

舉個例子，一個讓某種遺傳背景下的病毒產生耐藥性的突變，換到另一種遺傳背景中，效果可能就大大減弱，變得不好不壞，甚至反而有害——因為它的影響極度依賴周圍的遺傳環境。生物學家將這一現象稱為“上位效應”（epistasis），它并非某種罕見的特例，而是遍及整個生物圈、塑造著基因與生物性狀之間關系的一股強大力量。上位效應，僅僅是生物系統中“情境依賴性”的眾多例子之一。一個發現在培養皿里成立，進了活生生的身體里可能就完全不靈了；或者在小鼠模型中有效，到了靈長類身上卻毫無作用。

面對AI，數學家擔心會得出一個偽解。可生物學家，即便是懷著最純粹的善意，也常常說不清真解究竟該是什么樣子。

生物學宣言

盡管數學與生物學差異巨大，但生命科學領域還是應該考慮發起一場至少與《萊頓宣言》類似的行動嘗試。退一步講，生物學版本至少可以借鑒它的結構與抱負。我們應當堅持要求： 研究者必須披露自己對自動化工具的使用情況，他們要為自己發現的真實性負責，功勞與責任要落到人身上，而非系統身上。 我們還應保護處于職業生涯早期的科學家，不讓他們被那種“重產出、輕真知”的激勵機制所裹挾。

一份生物學宣言不僅要吸納這些理念，還應該強調對本領域至關重要的額外條款：根據濕實驗（wet lab）結果對AI生成的假設進行對比驗證；對源自生物公共資源的訓練數據進行管理；以及，任何模型的輸出如果最終會觸及患者或生態系統，都必須受到更嚴格的審查。最后一點至關重要：在生物醫學領域，人工智能的失誤與成功都將體現在活生生的人身上，并伴隨相應的生理、情感、倫理和法律后果。

實驗室培養皿里成功的案例在活體上卻可能無法適用。圖源：Pixabay。

一份生物學的《萊頓宣言》必須充分認識到生物學領域中數據和觀察結果的本質，以及該領域的其他具體特點。但在負責任地管理人工智能與生命系統之間關系方面，最重要的特征在于所產出成果的持久性。

數學聲明可以追求永恒，因為經過驗證的證明在幾個世紀后依然有效。而生物學的認知卻會隨時間推移而變化，有時還變化得飛快。一項根據今年夏天模型倉促敲定的政策，到了冬天可能就已經對不上號了。一份指望能管用十年的宣言，恐怕這十年里大部分時間都得花在苦苦追趕現實變化上。

如果我們要為生命科學領域的人工智能制定一份負責任的宣言，它就一定要是可演進的：要有版本號、注明日期、按照既定時間表定期再審查，并由其聲稱所代表的學術界在公開場合進行修訂。而且，由于生物學不同子領域面臨著獨特的挑戰——例如心臟病學與森林生態學——也許我們需要多份宣言（但數量不宜過多）。

《萊頓宣言》納入了其中一些要素，明確其內容反映的是截至2026年5月的AI技術與數學實踐，并承諾會分享后續更新。生物學應該把這種可演進的特質變成宣言的核心架構，把修訂機制直接刻入文本，這樣一來，更新文件就成了一種積極的行動，而不是一種認錯的姿態。

幸運的是，生命科學家完全有能力應對這一任務。我們早就明白，無法隨環境變化而改變的結構很少能長久存在。所以，如果起草一份宣言卻忽略了這一基本原則，那對我們這門學科來說，可真是一種說不過去的背叛。我們為技術變革制定的政策，必須把生命系統的那份動態活力，放在我們想象生物學未來的正中心。

作者：C. Brandon Ogbunu

翻譯：zzz

審校：姬子隰

fu

li

shi

jian

今天我們將送出由湛廬文化提供的《世界的邏輯》。

本書源于南方科技大學一課難求的“馬導的邏輯課”，探索“如何用理性應對世界的不確定性”：從亞里士多德邏輯的誕生到哥德爾不完備定理，從量子力學顛覆“確定因果”到混沌理論揭示“預測極限”，從貝葉斯統計改寫“認知邏輯”到熵增定律破解“躺平陷阱”——馬兆遠教授用“科學史+思維進化”的雙重視角，還原理性與科學的本質：它們不是“終極答案”，而是人類應對未知的“思維工具”。

無論你是被職業選擇困擾的年輕人、在商業浪潮中尋找方向的創業者，還是渴望提升思維深度的終身學習者，都將從書中獲取一套“應對不確定性的頂層思維”。

【互動問題：如果物理學界要發布類似《萊頓宣言》的聲明，你覺得會是什么樣的呢？】

請大家嚴格按照互動：問題答案的格式在評論區留言參與互動，格式不符合要求者無效。

截止到本周四中午12：00，參與互動的留言中點贊數排名第二、三、五的朋友將獲得我們送出的圖書一套（點贊數相同的留言記為并列，并列的后一名次序加一，如并列第二的后一位讀者記為第三名，以此類推）。

為了保證更多的朋友能夠參與獲獎，過往四期內獲過獎的朋友不能再獲得獎品，名次會依次順延

*本活動僅限于微信平臺

編輯：姬子隰

翻譯內容僅代表作者觀點

不代表中科院物理所立場