思考的本質是掙扎：在AI時代，重估“寫作之苦”的價值

如果努力把一個想法說清楚，本身就是我們理解它的過程之一，那么，那些替我們繞過這一過程的工具，或許也會削弱一種真正的科學發現最需要的思考能力。

幾周前，我參加了一場學院會議，討論研究生使用人工智能的相關政策。過去三年里，我們不斷起草指南、修改指南，又眼看著這些指南很快過時。到這次會議上，盡管大家都知道，從技術上說幾乎不可能真正執行一項禁令，我們仍在討論一個問題：是否應該禁止研究生在學位論文開題報告和畢業論文中使用AI。

一位同事提到，麻省理工學院媒體實驗室有一項研究曾引發廣泛關注[1]。研究發現，使用ChatGPT寫作的人，大腦神經連接有所減弱。研究者把這種現象稱為“認知債務”。這項研究確實存在明顯局限，但它讓一種自ChatGPT問世以來不斷累積的擔憂變得更加清晰：如果寫作本身就是一種思考，如果一個人正是在努力把想法說清楚的過程中，才逐漸理解這個想法，那么，那些替我們繞過這一過程的工具，或許也會削弱真正的科學發現最依賴的那種思考能力。

關于 AI 與科學寫作，我已經思考了一段時間，卻發現自己處在兩種都無法完全接受的立場之間。一方面，無論稱之為“認知債務”、技能退化，還是用其他方式來概括這個問題，這種擔憂在我看來確實有其合理性。另一方面，反對者認為這些擔憂被夸大了，這種說法也并非沒有道理。而我越是試圖尋找能夠一錘定音的證據，就越覺得這樣的證據并不存在。至少，對于真正從事科學研究的人群來說，目前還沒有這樣的證據。

認真寫過東西的人都知道，寫作在思考過程中有多重要。你可能正在寫基金申請或研究計劃里的“研究目標”部分。這個想法在腦子里原本很清楚，可一旦真正寫下來，就是怎么都不順。原先在腦中顯得很穩固的邏輯，一落到紙面上就開始站不住。你調整了一下結構，結果又發現別的地方出了問題。這樣掙扎了一個小時之后，你才意識到，問題并不只是“怎么說”，而是“到底有沒有想清楚”。這個問題，是直到寫作逼著你直面它時，你才真正看見的。

認為“寫作就是思考”的人并不少。在這里，我們不妨把他們稱為“認知傳統主義者”。作家弗蘭納里·奧康納（Flannery O’Connor）曾有一句廣為流傳的話：“我寫作，是因為只有讀到自己寫下的話，我才知道自己在想什么。”理查德·費曼（Richard Feynman）談到自己的筆記本時，也說過類似的話：“它們不是我思考過程的記錄。它們就是我的思考過程。”

要說支持這種看法的研究證據，首先是已經積累了數十年的“以寫促學”研究。針對學生群體的研究表明，寫作本身會帶來可以測量的學習收益，而且這種收益超過了單純學習同一材料所能產生的效果[2]。其中一種理論解釋借鑒了認知的聯結主義模型，認為寫作者對一個問題的理解常常是隱性的，并不能直接從記憶中提取出來；只有通過組織文字、形成文本，這種理解才會變得可以被寫作者自己把握[3]。寫作會迫使模糊的直覺變成明確的判斷；一旦這些判斷被固定在紙面上，寫作者就可以根據自己的目標去檢查它們，推理中的漏洞也會隨之顯現出來。

這一機制提示我們，寫作并不只是在正式教育場景中才有學習價值，它本身就是一種學習工具。與此同時，來自航空、醫學等領域的有力證據也表明，自動化輔助會加速技能退化，即便專家也不例外[4]。以我對這些證據的理解，依賴AI寫作很可能會妨礙年輕科學家培養寫作能力，也會讓資深科學家的既有寫作能力逐漸萎縮。

真正的問題在于：不借助AI的寫作一旦減少，對科學而言到底有沒有那么重要？在這個問題上，所謂“AI辯護者”也并非沒有論據。他們的第一個理由是，寫作未必像傳統主義者所說的那樣不可替代。寫作帶來的認知收益，也許并不來自寫作本身，而是來自“外化”：也就是迫使頭腦中的想法轉化為某種外在形式，使它們能夠被審視、被質疑、被修改。如果真正起作用的是這一機制，那么，對話或許也能發揮和獨自寫作類似的作用。你和同事討論自己的想法，在組會上為自己的研究方案辯護，向另一個領域的合作者解釋自己的項目，這些場景同樣會讓模糊的直覺經受檢驗，讓推理中的漏洞顯現出來，也讓你發現自己到底在想什么。

心理學家丹尼爾·卡尼曼（Daniel Kahneman）和阿莫斯·特沃斯基（Amos Tversky）就曾經常一起長時間散步，在交談中激發出許多想法，最終促成了后來獲得諾貝爾獎認可的行為經濟學研究[5]。倘若關鍵真的是“外化”，那么也有人可能會說，只要AI系統足夠合適，與 AI 對話同樣可以保留這種認知收益。你仍然在表達，仍然在把隱性的推理變成明確的說法。媒介變了，但機制也許還在。這也意味著，對科學而言，足夠多有價值的思考或許可以發生在寫作之外。因此，把寫作交給AI分擔，未必會像“認知傳統主義者”所擔心的那樣影響巨大。

認真寫過東西的人都知道，

寫作在思考過程中有多重要。

AI辯護者也有數據支持，至少有某一類數據支持。上個月發表在《科學》上的一項研究發現，開始使用大語言模型的研究人員，論文產出數量增加了三分之一到二分之一，其中非英語母語研究者的增幅最大[6]。這并不是無關緊要的小事。非英語母語者在科研寫作和發表中面臨的障礙是真實存在的，也已有大量研究記錄[7-8]。如果AI能夠降低這些障礙，那么它確實會給科學中的公平性帶來實實在在的好處。不過，這些數據最多只能說明，AI可能改善了科學進展在職業評價指標上的公平性，比如誰能產出更多論文；但它們并不能說明，背后的科學質量也隨之提高了。事實上，許多科學家已經發出警告，AI可能只是加快了論文生產，卻并沒有觸及那些真正拖慢科學進步的瓶頸[9]。

現在，認知傳統主義者這邊，有專家主張和教育研究；AI辯護者那邊，有生產力數據和公平論證。但雙方都缺少一類最關鍵的證據：當實際從事科研工作的科學家，不是學生，也不是從事常規任務的白領，而是真正做科學研究的人，把科學寫作中的認知勞動交給AI時，到底會發生什么[10]？他們對自己研究的理解會不會變淺？他們的研究脈絡會不會變得不那么連貫？他們會不會逐漸失去發現自己推理漏洞的能力？這樣的研究大概永遠都不會出現，因為它們幾乎不可能被嚴謹地開展。你不可能隨機分配足夠多已經站穩腳跟的科學家，讓一組人“自己寫基金申請”，另一組人“把基金申請交給AI”，然后再追蹤他們十年的職業發展。

于是，我們似乎只剩下一條建議：要“負責任地使用AI”。讓AI接手那些無謂的費力過程，但保留真正有價值的認知勞動。表面上看，這是一種很合理的立場；我自己也曾采取過這種立場。你或許可以把當時的我稱為一個“AI實用主義者”。但這種實用主義立場其實預設了某種特定的元認知能力：寫作者能否在困難發生的當下判斷出來，眼前這種卡頓究竟是有助于思考，還是只是在制造挫敗？

我曾經對此抱有希望，但后來逐漸得出一個結論：寫作者恐怕并不能做出這樣的判斷，至少不能穩定地做到。關于元認知的研究表明，我們對自身學習狀態的直覺不僅不可靠，甚至會反過來誤導我們。教育研究者用“有益困難（desirable difficulties）”這個概念，來描述那些過程更費勁、卻能帶來更好學習效果的條件；與之相對的是，有些條件讓人感覺自己學到了東西，但實際上并不會產生相應的學習效果。

問題在于，人們并不能可靠地區分這兩者。事實上，人們通常更偏愛那些“感覺上像是在學習”的條件。學生會覺得，聽一場打磨得很精致的講座，比主動參與活動學到的東西更多，盡管研究顯示情況恰恰相反[11-12]。接受訓練去識別畫家風格的參與者，在把不同畫家的作品混合起來辨認的交錯練習中表現明顯更好，但仍有78%的人認為，按畫家分別集中練習的分塊練習效果一樣好，甚至更好[13]。還有一項經典研究發現，接受分散式培訓的郵政工作人員表現更好，但他們的滿意度反而低于那些把培訓集中在少數幾次長課中完成的人[14]。我們不僅會把“感覺自己在學習”誤認為真正的學習，也會把費力的跡象誤認為沒有學到東西的信號。

讓我們回到前面那個怎么也寫不順的研究目標頁。當它遲遲寫不出來時，這種卡住可能只是說明你累了；也可能說明你知道自己想說什么，只是一時找不到合適的表達；還有一種可能是，你其實并不知道自己到底想說什么，也就是說，你的推理中還有一個尚未直面的漏洞。在最后這種情況下，有價值的認知勞動正在發生。可是，這三種情形在當下的感受幾乎一模一樣：挫敗、費力，還有那個怎么都寫不對的句子。

人類本來就不喜歡挫敗和費力。更糟的是，費力的感覺往往并不像是在學習，也不像是在加深理解。正因為如此，我才越來越覺得，想靠元認知監控來解決這個問題，幾乎是不可能的：你可以在事后根據是否產生了新的洞見，判斷一段費力過程是否有價值；但你很難在事前做出這種判斷。而事前判斷，恰恰發生在你決定要不要伸手去用AI的那個時刻。

一位經驗豐富的科學家或許會反駁說，專業經驗會帶來某種特殊的元認知能力。但我并不同意。問題不在于我們對所在領域不夠熟悉，而在于元認知本身的性質。你是神經科學專家，并不意味著你也擅長察覺自己的認知狀態。我已經從事專業寫作15年，卻仍然一次次被自己的感覺誤導。到這個階段，問題并不是AI寫得太差。它談不上出色，我也不會把自己真正重視的工作交給它，但在很多場景里，它寫得已經足夠可用，而且速度足夠快。正因為如此，當我真的使用它時，我就會不再注意自己跳過了什么。一段文字出現了，看起來還過得去，于是我就繼續往下走。直到后來，有時是很久以后，我才意識到，自己其實從來沒有真正把那個想法想透。文字是完成了，思考卻沒有完成。

任何試圖保留那些有助于思考的困難的工具，在市場上恐怕都會輸給那些直接消除困難的工具。

一個看似直接的解決辦法，是重新設計這些工具。最近，我接觸到一個叫作“認知強制策略”的概念。這個概念最早出現在20年前的醫學決策領域[15]。當時，一位急診醫生提出，臨床醫生可以有意識地使用一些元認知干預，來打斷可能導致診斷錯誤的認知偏差。2021年，哈佛大學的研究者把這一框架用于AI輔助決策，測試了一些重新引入“摩擦”的界面設計[16]。其中一種設計要求用戶先給出自己的答案，然后才能看到AI的建議；另一種設計則是在顯示推薦結果之前設置一段等待時間。

這些設計確實減少了人們對AI的過度依賴。但它們并不是通過幫助用戶判斷哪些困難有助于思考來發揮作用，而是通過創造一種通常更有幫助的使用條件。換句話說，即使用戶自己并不能準確判斷哪種困難值得保留，這些條件本身也能起到保護作用。問題在于，人們并不喜歡它們。人們喜歡的工具，未必最能幫助他們思考；真正能保護思考的設計，往往讓人覺得不舒服。因此，任何試圖保留有助于思考的困難的工具，在市場上恐怕都會輸給那些直接消除困難的工具。

那么，面對這樣一個問題，我們還能怎么辦？它很難被人準確察覺，也很難通過研究徹底證明，更不會由市場自動解決。但科學仍然有一件有力的工具：共同體規范。科學不是孤立個體各自完成的事業，而是在實驗室、院系、學術共同體中展開的實踐。一個人很難長期抵抗便利，但一個共同體可以共同規定什么值得保留、什么不該輕易交出去。我認為，至少可以先從三件事做起：

第一，保護科研訓練期。即便我們還不知道哪些困難最有價值，也有理由先做一個保守判斷：在科研訓練早期，更多困難可能都值得被保留下來。第一次寫基金申請、第一篇論文、資格考試，這些環節都應該受到保護。原因不是AI輔助一定有害，而是如果我們判斷錯了，代價太高。

第二，給AI工具內置“摩擦”。不要指望每個人都能靠意志力抵抗便利。更現實的做法，是為科學家設計更合適的AI工具，讓它們在關鍵節點迫使使用者先停一停、先自己想一想。與此同時，也需要建立相應的規范和激勵，讓人們愿意使用這類不那么“順滑”、但更能保護思考的工具。

第三，讓關于 AI 的討論變得正常。現在，圍繞 AI 使用存在兩邊的壓力：使用 AI 的人可能覺得羞恥，拒絕使用 AI 的人也可能遭到評判。真正需要的，不是互相貼標簽，而是在實驗室和院系里更坦誠地討論：哪些認知勞動已經交給了 AI，哪些仍然值得我們親自保留。只有這樣，科學共同體才可能更快形成一種集體性的、更成熟的判斷。

那場學院會議上，我們最后還是投了票。我們決定禁止研究生在學位論文開題報告和畢業論文中使用 AI，盡管大家都知道，這條規定基本無法真正執行。重點并不是監督和查處，而是傳遞一種信號：我們的研究生項目相信，這類認知勞動是有價值的。在學生開始把它交給 AI 之前，我們希望他們至少親自完成一次。即使規則本身并不強硬，文化規范依然可以很有力量。這不是解決方案，而是一場下注。這是一場帶著謙遜的下注，因為我們知道自己仍有很多未知；也是一場嚴肅的下注，因為我們知道有些東西一旦失去，代價可能很高。

譯者后記：這篇文章說出了我在學術寫作中反復遇到的困惑：與AI協作，究竟是在提高表達效率，還是在悄悄縮短訓練思考的過程？學術寫作并不只是把已有想法寫出來，它常常是在卡頓、猶豫和反復推翻中，逼迫我們發現概念的含混、論證的缺口和判斷的邊界。AI最危險的地方，或許不在于它替我們寫得不好，而在于它寫得足夠順，讓我們誤以為自己已經想清楚。使用AI之前，也許最該追問的是：我正在節省時間，還是正在跳過理解。

https://www.thetransmitter.org/from-bench-to-bot/betting-blind-on-ai-and-the-scientific-mind/

1. https://www.media.mit.edu/publications/your-brain-on-chatgpt/

2. https://doi.org/10.3102/0034654320914744

3. https://doi.org/10.1080/00461520.2018.1505515

4. https://doi.org/10.1186/s41235-024-00572-8

5. https://www.newyorker.com/books/page-turner/the-two-friends-who-changed-how-we-think-about-how-we-think

6. https://doi.org/10.1126/science.adw3000

7. https://doi.org/10.1016/j.jeap.2020.100895

8. https://doi.org/10.1371/journal.pbio.3002184

9. https://www.normaltech.ai/p/could-ai-slow-science

10. https://doi.org/10.1145/3706598.3713778

11. https://doi.org/10.3758/s13423-013-0442-z

12. https://doi.org/10.1073/pnas.1821936116

13. https://doi.org/10.1111/j.1467-9280.2008.02127.x

14. https://gwern.net/doc/psychology/spaced-repetition/1978-baddeley.pdf

15. https://doi.org/10.1067/mem.2003.22

16. https://doi.org/10.1145/3449287

關于追問nextquestion

天橋腦科學研究院旗下科學媒體，旨在以科學追問為紐帶，深入探究人工智能與人類智能相互融合與促進，不斷探索科學的邊界。歡迎評論區留言，或后臺留言“社群”即可加入社群與我們互動。您也可以在后臺提問，我們將基于追問知識庫為你做出智能回復哦~

關于天橋腦科學研究院

天橋腦科學研究院（Tianqiao and Chrissy Chen Institute）是由陳天橋、雒芊芊夫婦出資10億美元創建的世界最大私人腦科學研究機構之一，圍繞全球化、跨學科和青年科學家三大重點，支持腦科學研究，造福人類。

Chen Institute與華山醫院、上海市精神衛生中心設立了應用神經技術前沿實驗室、人工智能與精神健康前沿實驗室；與加州理工學院合作成立了加州理工天橋神經科學研究院。

Chen Institute建成了支持腦科學和人工智能領域研究的生態系統，項目遍布歐美、亞洲和大洋洲，包括、、、科研型臨床醫生獎勵計劃、、科普視頻媒體「大圓鏡」等。