李正風(fēng)、王碩：生成式AI與科研誠(chéng)信治理：基于社會(huì)實(shí)驗(yàn)視角的分析

生成式AI與科研誠(chéng)信治理:基于社會(huì)實(shí)驗(yàn)視角的分析

李正風(fēng)1 王 碩2

(1 清華大學(xué)社會(huì)科學(xué)學(xué)院;

2 清華大學(xué)馬克思主義學(xué)院)

DOI:10.19524/j.cnki.10-1009/g3.2026.02.001

生成式人工智能（下文簡(jiǎn)稱“生成式AI”）推動(dòng)人類認(rèn)知行為的技術(shù)性替代進(jìn)入新時(shí)代，不斷重塑知識(shí)生產(chǎn)格局，也對(duì)既有科研誠(chéng)信規(guī)范帶來(lái)挑戰(zhàn)。面對(duì)技術(shù)與規(guī)范的雙重不確定性，傳統(tǒng)自上而下制定靜態(tài)規(guī)則的方式日益暴露出一定局限。學(xué)術(shù)出版界圍繞AI使用的治理探索，實(shí)際上可以被看作一場(chǎng)自發(fā)的、去中心化的社會(huì)實(shí)驗(yàn)。本文以社會(huì)實(shí)驗(yàn)的視角切入，從實(shí)驗(yàn)的覆蓋面、測(cè)量有效性和學(xué)習(xí)深度三個(gè)條件出發(fā)，審視當(dāng)前治理探索的得失，并探討改進(jìn)的方向。

學(xué)術(shù)期刊針對(duì)生成式AI制定政策的過(guò)程，本身就在不斷試錯(cuò)和調(diào)整。例如，Science期刊最初全面禁用生成式AI，在學(xué)界反饋和現(xiàn)實(shí)壓力的推動(dòng)下，其態(tài)度逐漸轉(zhuǎn)變?yōu)樵跐M足披露要求的前提下允許使用。這種調(diào)整展現(xiàn)了干預(yù)、反饋與學(xué)習(xí)的基本循環(huán)。去中心化的格局使各國(guó)、各機(jī)構(gòu)、各期刊成為相對(duì)獨(dú)立的探索單元，差異化的應(yīng)對(duì)策略為治理知識(shí)的積累提供了基礎(chǔ)。

當(dāng)前有關(guān)生成式AI在科研場(chǎng)景中應(yīng)用的規(guī)制探索，已形成一些基本共識(shí)。例如，人類必須承擔(dān)全部責(zé)任，AI使用過(guò)程必須披露，AI不能作為署名作者等。但這些共識(shí)偏重防御，只劃定了AI不能做什么。在使用邊界、審稿人權(quán)限和治理范圍上，依然存在較大的分歧。有的期刊將AI用途限定在語(yǔ)言潤(rùn)色等場(chǎng)景，有的期刊要求作者詳細(xì)披露提示詞。以有效社會(huì)實(shí)驗(yàn)的條件來(lái)審視，當(dāng)下的治理探索正面臨一定困境。

第一，規(guī)制范圍較為失衡。壓力主要由作者承擔(dān)，審稿人和出版商環(huán)節(jié)沒有受到同等力度的關(guān)注。有研究估算，2023至2024年間計(jì)算機(jī)領(lǐng)域部分頂級(jí)會(huì)議中，由大語(yǔ)言模型生成的審稿意見占到7%至17%。一些期刊甚至嘗試用AI替代人類編輯處理稿件。此外，既有規(guī)制還未能覆蓋提示注入等新型風(fēng)險(xiǎn)。2025年，西南財(cái)經(jīng)大學(xué)數(shù)據(jù)法學(xué)研討會(huì)發(fā)現(xiàn)投稿者用白色字體在論文中嵌入隱藏提示詞，試圖操縱AI審稿流程，常規(guī)檢測(cè)手段對(duì)此難以發(fā)現(xiàn)。與此同時(shí)，長(zhǎng)期依賴AI可能削弱研究者的批判性思維，使研究者對(duì)AI輸出的錯(cuò)誤信息喪失警覺。這種影響是慢性的、彌散的，逐漸損害公共知識(shí)生產(chǎn)的質(zhì)量根基。

第二，測(cè)量工具本身并不可靠，還可能會(huì)將治理目標(biāo)引向歧途。主流的AIGC檢測(cè)工具準(zhǔn)確率和一致性相對(duì)較低，而且通過(guò)同義詞替換或簡(jiǎn)單改寫即可繞過(guò)。用AI來(lái)檢測(cè)AI，從技術(shù)邏輯上看本身就是一個(gè)悖論，很容易陷入生成與檢測(cè)之間的攻防循環(huán)，大量治理資源被消耗在技術(shù)對(duì)抗上。我們發(fā)展AI技術(shù)的目標(biāo)是“讓AI越來(lái)越像人”，但治理的邏輯卻反過(guò)來(lái)，要求人“自證不是AI”。更大的問(wèn)題在于，當(dāng)期刊把精力放在檢測(cè)文本的AI痕跡上，評(píng)估的重心就從研究有無(wú)原創(chuàng)性學(xué)術(shù)貢獻(xiàn)變成了文字是不是AI寫的。部分期刊硬性規(guī)定AI生成內(nèi)容不得超過(guò)某個(gè)百分比，把科研誠(chéng)信判斷簡(jiǎn)化成了數(shù)字，用手段替代了目的。模糊的披露要求還帶來(lái)了所謂“披露懲罰”的現(xiàn)象，研究者擔(dān)心主動(dòng)披露會(huì)招致更嚴(yán)審查或者區(qū)別對(duì)待，“想用AI不敢用”、“用了AI不敢說(shuō)”的問(wèn)題愈發(fā)嚴(yán)重。

第三，政策學(xué)習(xí)停留在形式模仿，治理路徑高度趨同。在聲譽(yù)風(fēng)險(xiǎn)的驅(qū)動(dòng)下，很多期刊紛紛模仿領(lǐng)域內(nèi)高聲望同行的做法，發(fā)布的AI政策迅速趨同。調(diào)查顯示，國(guó)內(nèi)90%的社科期刊發(fā)布了相似的禁止條款。以禁止清單、技術(shù)檢測(cè)和量化閾值為典型手段的治理模式，能夠應(yīng)付簡(jiǎn)單的文本生成問(wèn)題，卻難以應(yīng)對(duì)過(guò)程性攻擊和認(rèn)知能力的侵蝕。這種趨同還造成了宏觀戰(zhàn)略與微觀實(shí)踐之間的脫節(jié)。當(dāng)前，國(guó)家、高校和科研機(jī)構(gòu)大力倡導(dǎo)AI for Science，鼓勵(lì)探索AI賦能科研的潛能，而在期刊發(fā)表層面，審查體系卻以嚴(yán)防死守為主要基調(diào)。一線研究者陷入兩難，無(wú)所適從。

走出這些困境，未來(lái)可能需要從三個(gè)方向著力。

第一，從只關(guān)注作者轉(zhuǎn)向全流程的共同治理。治理責(zé)任必須擴(kuò)展到審稿人、編輯、出版商和AI公司。期刊應(yīng)針對(duì)審稿人也使用AI制定專門指南，明確保密義務(wù)。出版商不得用AI替代人類編輯的核心判斷。高校應(yīng)提供分學(xué)科的差異化指南，例如清華大學(xué)2025年頒布的《人工智能教育應(yīng)用指導(dǎo)原則》。國(guó)際出版?zhèn)惱砦瘑T會(huì)（COPE）等行業(yè)組織則需搭建協(xié)調(diào)平臺(tái)，盡量減少政策的碎片化。

第二，學(xué)術(shù)評(píng)價(jià)的焦點(diǎn)要回歸研究的學(xué)術(shù)貢獻(xiàn)與原創(chuàng)性。檢測(cè)工具只適合作為輔助參考，需要建立國(guó)家標(biāo)準(zhǔn)、技術(shù)檢測(cè)與專家判斷相結(jié)合的評(píng)價(jià)體系。編輯和審稿人應(yīng)當(dāng)重點(diǎn)考察研究的問(wèn)題意識(shí)、證據(jù)質(zhì)量和原創(chuàng)貢獻(xiàn)，而不是追問(wèn)生產(chǎn)工具。學(xué)科之間應(yīng)有側(cè)重，人文學(xué)科重概念創(chuàng)新，理工醫(yī)學(xué)重?cái)?shù)據(jù)真實(shí)與可重復(fù)性。同時(shí)，要營(yíng)造讓研究者敢于主動(dòng)披露AI使用的信任環(huán)境，讓披露成為一種負(fù)責(zé)任的主動(dòng)行為。

第三，硬規(guī)范的迭代與AI素養(yǎng)的培育要同步推進(jìn)。在規(guī)范層面，可以主動(dòng)運(yùn)用實(shí)驗(yàn)方法檢驗(yàn)規(guī)則的實(shí)際效果，政策中內(nèi)置定期修訂的節(jié)點(diǎn)，鼓勵(lì)機(jī)構(gòu)根據(jù)自身情況差異化探索。在AI素養(yǎng)層面，治理重心需要從封堵延伸到賦能，重點(diǎn)培育科研人員的AI勝任力，包括批判性思維、利用AI開展專業(yè)研究的能力以及倫理判斷。規(guī)范迭代的周期相對(duì)較短，素養(yǎng)培育則需要長(zhǎng)線投入，二者必須協(xié)同推進(jìn)，不可偏廢。

生成式AI對(duì)科研誠(chéng)信的挑戰(zhàn)，本身就是一個(gè)開放性的治理命題。它沒有標(biāo)準(zhǔn)答案，只能在持續(xù)探索中達(dá)到更好的狀態(tài)。社會(huì)實(shí)驗(yàn)的治理思路，核心在于將技術(shù)的不確定性轉(zhuǎn)化為一個(gè)可以不斷修正的實(shí)踐框架。它追求的是一套具備學(xué)習(xí)能力的治理機(jī)制，讓學(xué)術(shù)共同體在與AI共處的過(guò)程中逐漸摸索出邊界與分寸。這場(chǎng)探索關(guān)乎規(guī)則的建設(shè)，也關(guān)乎智能時(shí)代人類創(chuàng)造力與科研誠(chéng)信內(nèi)涵的持續(xù)反思。

作者簡(jiǎn)介：

李正風(fēng)，清華大學(xué)社會(huì)科學(xué)學(xué)院教授。研究方向?yàn)榭萍寂c社會(huì)、科技倫理、科技政策;

王碩，清華大學(xué)馬克思主義學(xué)院助理研究員。研究方向?yàn)榭萍紓惱斫逃c治理、人工智能與當(dāng)代知識(shí)生產(chǎn)。

通信作者：

王碩，郵箱地址：jssqsure@163.com。

項(xiàng)目資助：

國(guó)家社會(huì)科學(xué)基金重大項(xiàng)目“深入推進(jìn)科技體制改革與完善國(guó)家科技治理體系研究”（21ZDA017）；國(guó)家自然科學(xué)基金項(xiàng)目“主要國(guó)家科研資助機(jī)構(gòu)改革動(dòng)向與資助布局研究”（L2524003）；中國(guó)科協(xié)創(chuàng)新戰(zhàn)略研究院項(xiàng)目“中國(guó)科技工作者發(fā)展權(quán)益的社會(huì)學(xué)理論問(wèn)題研究”（2026-RCS-1）。