王小林｜當算法替我們做決定時，我們該如何說“不”？

來源｜北大法寶法學期刊庫

《東北師大學報（哲學社會科學版）》2026年第3期

作者 | 王小林，東北師范大學政法學院副教授

原標題 | 論脫離完全自動化決策權的內涵、困境及其紓解

?脫離完全自動化決策權在實踐運行中面臨保障失靈。究其原因，該權利雖以維護人的尊嚴、保障主體性、防止個體完全受制于算法決策為制度宗旨，但實踐中過度依賴人工干預和事后救濟，人工審核流于形式，算法黑箱、責任規避與信息不透明進一步削弱了權利實現效果，導致脫離完全自動化決策權難以發揮實質性保障功能。

?破解脫離完全自動化決策權困境的關鍵在于構建多層次、場景化的權利保障機制。其制度目標應由單純強調事后救濟，轉向解釋透明、場景適配與風險預防并重，形成以保障信息主體權利、約束算法權力、促進人機協同為核心的制度體系，實現自動化決策效率與公平價值的統一。

? 上述目標的實現，可依托解釋機制、場景規制、算法治理與糾紛銜接四個維度協同推進。解釋機制上，建立知情權、非完全自動化決策說明義務與完全自動化決策解釋義務相銜接的分梯度解釋標準；場景規制上，以公私領域區分為起點，構建差異化自動化決策規則；算法治理上，開發“守衛型”算法并強化全過程記錄與責任追究；救濟機制上，將風險防控前移，構建以脫離完全自動化決策權為兜底、多元糾紛解決機制相銜接的綜合治理體系。

王小林東北師范大學政法學院副教授。主要研究方向為數字法學、國際經濟法學。主持省部級科研項目5項。出版《國際投資間接征收制度研究》（專著）、《國際危機與法律的作用：塞浦路斯 1958-1967》（譯著，三聯書店）等學術著作，譯著獲評東北師范大學社科優秀著作一等獎。在《東北師大學報（哲學社會科學版）》《吉林大學哲學社會科學學報》《當代法學》等發表論文十余篇。

內容提要：脫離完全自動化決策權是指信息主體在面對僅通過自動化處理而產生重大影響的決策時，基于人的尊嚴和主體性，享有的要求解釋決策邏輯、拒絕決策效果或要求采用人工干預或純人工方式重新決策的復合性事后救濟權利。在“元決策”層面，該權利中“決策”意味著在兩種及其以上的選擇中擇取最佳方案或行動，最佳的判斷標準需在人機回圈或人在環路的綜合裁量下嵌入數據控制者的價值裁量。完全自動化決策人為干預動力機制不足、決策者的風險厭惡偏好使得脫離流于形式。人為干預有其不可克服的局限性、非系統性與象征性結構動員，使得單純加大人工審核力度的成效并不顯著。脫離完全自動化決策權的一般保護路徑忽略了場景化的特性和主體的多樣化需求。完全自動化決策的弱解釋性危及可質疑性與可讀性。為紓解完全自動化決策權的實踐困境，本文在知情權、非完全自動化決策的說明義務、脫離完全自動化決策權的規范群下，設置由低到高的分梯度自動化決策解釋標準，以達到“打開黑盒”的實效；以區分公私場景為起點，以《個人信息保護法》為輻射中心，逐步對不同場景的自動化決策進行詳細規制。在“以算法治理自動化決策”的理念指引下，應通過開發“守衛型”算法擺脫人工審核的乏力，同時強化對脫離自動化決策權的過程記錄和結果問責；應將完全自動化決策的風險和可能產生的訴訟壓力前置，建構和銜接以脫離完全自動化決策權為兜底權利的多元糾紛解決機制。

關鍵詞：脫離完全自動化決策權；元決策；人為干預；實質性標準

目 次：

一、循名責實：脫離完全自動化決策權的權利內涵

二、實然觀照：脫離完全自動化決策權的實踐困境

三、出路探索：脫離完全自動化決策權的調適紓解

廣義而言，自動化決策是指一系列可由處理器執行的操作，使得數據處理任務能夠在無須人類的持續指導下重復執行。若根據自動化發展的時間和算力由小到大排序，可分為基于數據編碼的計算機自動化決策，基于機器學習的算法自動化決策，基于深度學習、神經網絡或決策樹的超級自動化決策。自動化決策系統可被用于教師評估、貸款申請的批準或拒絕、機場安檢對象的選擇、巡邏警力的分配以及公共福利資格的審定等等。然而，自動化決策亦引發了一系列對個體權益有重大影響的負面事件。例如，癌癥患者因自動化系統錯誤而被拒絕獲得應有福利，被迫通過訴訟尋求賠償；公民因系統差錯而被錯誤列入政府監視名單。脫離完全自動化決策權作為一種矯正自動化決策異化和失控的防御權利而被提出，并試圖為快速擴張的自動化決策實踐提供必要的制衡。

脫離完全自動化決策權有明確的規范基礎。《中華人民共和國個人信息保護法》（簡稱《個人信息保護法》）第24條第3款規定：“通過自動化決策方式作出對個人權益有重大影響的決定，個人有權要求個人信息處理者予以說明，并有權拒絕個人信息處理者僅通過自動化決策的方式作出決定。”當自動化決策對個人權益有重大影響時，該規定核心內容涉及兩部分：（1）要求說明權；（2）對僅通過自動化決策做出的決定的拒絕權。脫離完全自動化決策權是指信息主體在面對僅通過自動化處理而產生重大影響的決策時，基于人的尊嚴和主體性，享有的要求解釋決策邏輯、拒絕決策效果或要求采用人工干預或純人工方式重新決策的復合性事后救濟權利。

在脫離完全自動化決策權的實踐進路研究上，有學者認為要采取以“禁令模式”為主、“請求權模式”為輔的并行路徑。然而，這種借鑒歐盟的保護模式忽略了我國《個人信息保護法》與歐盟《通用數據保護條例》在立法精神、規制范圍、法律密度等方面的差異。有學者注意到，數字社會正在形成以“拒絕”為核心的個人拒絕權規范群。但在激發規范群效應之前，根據奧卡姆剃刀理論，如果脫離自動化決策權能以點帶面地解決盡可能多的問題，那么建立龐雜的個人信息拒絕權規范群反而需要更加謹慎。也有學者認為，應以過錯責任為基礎，通過審查數據控制者是否履行風險提示義務、是否列出潛在傷害清單、是否符合比例原則等方式判斷其是否存在過錯。對該思路的合理性暫且不論，但其已經深入到“怎么辦”的程度，試圖給出可操作性的手段，因而具有進一步深化研究的價值。另有學者從公私場景、勞動場景、商業場景、司法場景等具體應用領域討論自動化決策的規制路徑，但是未論證《個人信息保護法》從一般保護到特殊規制的正當性基礎與理論跨越。

通過以上文獻梳理可知：（1）針對脫離完全自動化“決策”權之“決策”本身，缺乏元理論層面的反思；（2）未從理論維度概括《個人信息保護法》從一般規定展演至具體場景的正當性與實踐的可行性；（3）脫離完全自動化決策的實踐進路仍處于理論爭議的焦點，缺乏清晰可行的判斷標準；（4）對脫離完全自動化決策權的詮釋移植借鑒色彩濃厚，與“中國式法治現代化”的對話、融合與創新不多。

為此，可做出以下學術推進：（1）從“元決策”視域解剖脫離完全自動化決策權之“決策”內涵；（2）透視《個人信息保護法》在不同場景或社會空間中因不同社會關系而具有的應然地位與實然適用；（3）細化脫離完全自動化決策權的請求權表達途徑，提出切實可行的操作路徑；（4）結合多元糾紛解決機制，致力于在源頭和過程中消弭脫離完全自動化決策的風險，形成脫離完全自動化決策權行使的中國特色。

一、循名責實：脫離完全自動化決策權的權利內涵

從自動化決策到脫離完全自動化決策權，“決策”與“自動化決策”的含義解讀可為脫離完全自動化決策權的內涵闡釋做好準備。

（一）“元決策”視域下的“決策”

根據自動化決策者、決策環境、任務的特點，對自動化決策的規范、方式與步驟做出的理性探討，屬于元決策（meta-decision）層面的解讀，即“對決策進行的決策”。與具體決策相比，元決策在多數情況下采用更有效的思維過程，也更符合經濟人模型。在自動化決策之前，思考自動化決策的應然狀態成為自動化決策的“預決策”（pre-decision），或者是設定更詳細的自動化決策之前的首要步驟。

決策（decision）是什么？一個完整的決策活動至少包含決策者、方案、準則、預期結果、決策者偏好、信息以及被決策者七個要素?！爸挥性趶闹辽賰煞N選擇中做出抉擇并對外部世界產生最終影響的行為中，才存在決策，這種影響可以歸因于一個自然人或法人。”自動化決策并不涵蓋畫像過程或自動化處理（automated processing）本身，而是一種結果。在自動化決策中，根據不同的特征權重和目標函數，會產生多種選擇。兩種及其以上的選擇，一方面展現了自動化決策的不確定性和風險性，另一方面也意味著必須在多種方案中擇取最佳的行動路徑?！笆裁礇Q策是最佳的”是價值論的問題。最佳決策要求自動化決策者從“后果主義”出發，以預測決策后果的方式進行逆向思維，對信息主體之信息做出評價，從而在信息控制者可能嵌入自身價值偏好時設置準入門檻。

自動化決策與法律決策具有相似性。法學是一門研究法律決斷規律的科學。在德沃金和盧曼看來，在不確定性與風險中進行決策，其責任承擔的基礎在于人的主觀意志的參與，或源自個人選擇。法律是一門規范科學，需要在可能的選項中根據規范立場、依據法律、綜合情理和情境進行最佳裁量的選擇。在此意義上，自動化決策應與法律決策類似，需要平衡好個人信息利益、社會公共利益與企業數據利益。

（二）“自動化決策”的規范內涵

《個人信息保護法》第73條第2款規定：“自動化決策，是指通過計算機程序自動分析、評估個人的行為習慣、興趣愛好或者經濟、健康、信用狀況等，并進行決策的活動?！庇袑W者在對比歐盟《通用數據保護條例》和我國《個人信息保護法》中關于自動化決策的定義的相關規定后，認為我國自動化決策范圍較窄，其實際上等同于用戶畫像的定義，并未涵蓋基于非個人信息或對他人信息的識別分析所進行的自動化決策。然而，這種觀點是值得商榷的。

第一，從體系解釋的立場來看，未包含通過非個人信息所進行的自動化決策是《個人信息保護法》的題中應有之義；否則，在《個人信息保護法》中規定非個人信息的相關內容會造成法律規定的對象混亂，進而越俎代庖般地將不屬于自身規制范圍內的信息囊括在內，造成不必要的立法重復。盡管基于非個人信息的自動化決策市場應用前景很廣，例如對商業信息、交通信息、災害信息、水利信息等通過算法進行統計和識別分析，其結果關乎國計民生，但是這只能證明其具有重要性，而不能證明其應由《個人信息保護法》來進行規制。

第二，《個人信息保護法》第24條第3款的“個人”與第73條第2款的“個人”似乎應指向同一對象，即脫離完全自動化決策權僅限于基于自身信息做出的自動化決策，而不包括基于他人信息的識別分析。但從立法目的和立法宗旨來看，《個人信息保護法》第一章第1條開宗明義地指出，是“為了保護個人信息權益，規范個人信息處理活動，促進個人信息合理利用”而制定本法，融保護、規范和合理利用于一體。通過他人的個人信息這個“他者”來反思、促進有關個體自身的自動化決策，并無不妥。應對《個人信息保護法》第73條第2款中的“個人”做擴大解釋，既包含自動化決策的接受方，也包含其他個體。

第三，自動化決策的來源多呈現混合型，其來源可能是自動化決策接收方的個人信息、其他個體的個人信息以及非個人信息三種類別的任意一種、兩種或者三種。根據從屬性，如果自動化決策類型的來源包含個人信息（無論是自動化被決策者還是其他個體），都應打包或捆綁式地納入脫離完全自動化決策權的規制范圍之內。因此，只有完全基于非個人信息的自動化決策才可被排除在《個人信息保護法》第24條第3款的范圍之外。此類決策在整體自動化決策中的占比相對較少，因為要對信息主體做出自動化決策，不基于個體信息是無法想象的，也不符合算法原理。由此觀之，《個人信息保護法》中對“自動化決策”的定義爭議也許本不存在。

（三）作為一項權利的脫離完全自動化決策權的規范構造

學界對脫離完全自動化決策權有不同的提法，該權利也被稱為脫離自動化決策權、完全自動化決策拒絕權、自動化決策拒絕權、免受自動化決策約束權、脫離算法自動化決策權。不同的命名方式體現了對該權利的不同理解。

第一，在脫離自動化決策權的正當化基礎方面，有信息人權、信息自決權等說法，但難以充分呈現自動化決策者和被決策者之間的利益衡量關系，也無法恰到好處地把握這種利益平衡的尺度?？梢钥档碌慕^對命令作為正當化基礎理論，即“以這樣的方式行事：無論是對待你自己還是他人，永遠不僅僅把人類當作達到目的的手段，而是同時作為目的本身”。在完全脫離自動化決策權的語境下，應作這樣理解，把人當成手段（針對信息主體做出完全自動化決策）并無錯誤之處，錯誤在于“僅”把人當成手段（忽視人類基本價值的完全自動化決策），而應把人當成目的作為最終目的（當完全自動化決策對人權益產生重大影響時，應介入人為干預）。

第二，根據《個人信息保護法》第24條第3款，該權利是復合權利，既包含第24條第3款的要求說明權、拒絕權，也包含信息主體享有的其他權利，如知情權、限制權、查閱復制權、更正補充權、刪除權等。因此，以為該權利的落腳點在“拒絕權”并不全面完整。

第三，該權利的規范構造要滿足“僅”通過算法自動化決策做出的決定。該表述借鑒于歐盟《通用數據保護條例》第22條第1款“數據主體有權不受僅基于自動化處理行為得出的決定的制約”。為體現“僅”的限定條件，可用“完全自動化決策權”予以概括。如果缺失“完全”，將在《個人信息保護法》第24條第3款內部造成混亂：該款前半部分是“要求解釋權”，前提條件之一是“自動化決策”，即包含不同程度的自動化決策；后半部分是“脫離完全自動化決策權”，前提條件之一是“僅通過自動化決策的方式”，必須是完全的自動化決策，介入了實質性的人工干預的自動化決策不被囊括在內。

第四，該權利是一種事后救濟權。當自動化決策對個人權益產生重大影響后，數據主體可以要求對該決策進行解釋，并拒絕該決策所產生的效果。為體現這種撤銷侵害或填平損失的事后補救的性質，用“脫離”一詞更接近中文語境的表達，含有掙脫逃離已有的完全自動化決策牢籠之意。有學者認為該權利可以分為事前拒絕、事中拒絕和事后拒絕，從而主張該權利不僅僅具有事后救濟權的屬性。然而在依靠自動化決策的決定尚未做出之前，便斷定其中不存在人為介入干預是失之偏頗的。簡言之，通過自動化決策做出的決定還未完成，怎么能夠判定其是“僅”通過自動化做出的決策呢？“僅”是建立在完成時基礎上的量化判斷。如果任由未卜先知式的擔憂時時刻刻地侵襲自動化決策者，會造成脫離完全自動化決策權的濫用，剝奪了自動化決策者安排何時介入人為干預因素的自由，不利于充分發揮自動化決策的優勢。

如前所述，元決策致力于“決策前的決策”，即對是否以及如何設計、使用自動化決策進行前置性的技術、規范和價值等方面的通盤考量。這似乎意味著與脫離完全自動化決策權的事后救濟權的兜底性質存在沖突。首先，元決策與事后救濟權本不屬于一個層面的內容。因為元決策的目的在于確定“一個什么樣的決策是好的”，而脫離完全自動化決策權則是在綜合考慮自動化決策的法律成本、經濟沉沒、時間投入和技術邏輯等多方面因素的基礎上，達成各方均可接受的結果。在這個意義上，脫離完全自動化決策權是元決策思考的結果。其次，事后救濟權不能被理解為對事先預防和事中干預的摒棄。做出自動化決策的主體不能因為信息主體擁有脫離完全自動化決策權而免于、怠于履行在自動化決策系統搭建和運轉中的合理安排和定期維護的義務，最好使得脫離完全自動化決策權“束之高閣”，不要使得信息主體反復使用，否則便失去了完全自動化決策的工具價值?，F實中，對完全自動化決策的應用是極為審慎的，通常僅在低水平人類參與、高重復技術應用的實踐場景中才有適用空間。由此，脫離完全自動化決策權既具有事后救濟的屬性，也體現出與前置性規制和事中干預之間的內在關聯。

第五，“重大影響”是否僅包括不利的決策，從而使（純粹）有利的法律后果不在該條款的范圍內？從《通用數據保護條例》的實踐來看，普遍觀點是“重大影響”要超過小麻煩（mere nuisance）的程度。這種重大影響僅限于不利決策，“重大影響”實則“重大不利影響”。然而，“不利”本屬于價值判斷，可能因不同國域和民族而產生差異，可能會出現即使通過完全自動化決策做出了有利決策，但是信息主體仍希望純人工或者半自動化決策的現象。信息主體的權利訴求并不僅限于回避不利后果，人的尊嚴、參與及對決策過程的控制權、自主性與透明性的要求也非常重要。這關涉到脫離完全自動化決策的立場在于“脫而不離”（暫時掙脫完全自動化決策，但是在日常生活中離不開自動化決策），還是“脫而離之”（對完全自動化決策采取一種拒斥的態度）。雖然實踐中自動化決策已不可避免，但是脫離完全自動化決策權在產生有利影響時仍然可以行使，通過脫離完全自動化決策權對自由理性主義觀下的自動化決策踩下了“急剎車”，重申了人的主體性。

第六，脫離完全自動化決策權的法律效果是“人機回圈”或“人在環路”，意為要采取“機器+人工”或純人工的形式，即以完全自動化決策的綜合裁量方式或以人工決策方式予以替代。在司法適用時，要警惕以專業技術替代司法判斷以應對自動化決策的邏輯推演過程進行司法審查。

二、實然觀照：脫離完全自動化決策權的實踐困境

（一）信息隱匿、風險厭惡與責任逃避

首先，需要加以區分的是，對自動化決策進行的隨機檢查以改進決策（例如在監督學習中）并不構成充分的人類干預，這只是自動化決策系統的日常檢測和維護。由于其只是抽樣式地進行不定點、不定人的檢測，并非具體到個人的持續干預，因此不能被稱為有效的人為干預。

其次，即便在概念上賦予信息主體脫離完全自動化決策權，其仍可能缺乏行使該權利所需的信息。極端情況是，信息主體可能完全不知曉決定是由自動化決策所做出的。即便得知后，也由于脫離完全自動化決策權隱匿在商業秘密、算法黑箱或專利保護等圍墻之下，人工干預的效果也不盡理想。

再次，完全自動化決策中人為干預動力機制的不足與決策者的風險厭惡偏好，使程序落入保守主義的窠臼。拉德布魯赫認為，“只要實在的、通過命令和權力法令來保障的法也因而獲得優先地位，即便其在內容上是不正義的、不合目的性的”。同理，自動化決策生成的內容可能因為安定性而獲得正當性，即是說，當自動化的決策一旦生成，其自帶有建立在穩定性基礎上的合法性。人們要改變、修正或推翻機器生成的決定就要付出比單獨依靠人力做出的決策更大的論證成本。

最后，做出改變、修正或推翻機器生成決定的人可能因這些行為而承擔責任。為了逃避修訂自動化決策帶來的風險，具有修訂權力或職責的人可能傾向于維持現狀，即“修訂自動化決策的結果，我可能犯錯。不修訂自動化決策的結果，我可以把責任推卸給人工智能”。于是，完全自動化決策便成為隱匿自身責任和風險的借口。即便不能逃避直接使用自動化決策結果所帶來的責任，在“機器比人更加理性、精確和中立”的理念下，經過自動化決策的“過濾”，雖然未經認真考量直接使用了自動化決策，最后責任也可能因此而減輕。這一現象在算法公司內部出現得極為頻繁，同時又非常隱秘。如果沒有明確的責任劃分、固定操作流程和懲戒措施來保障完全自動化決策的管理負責人員、實際操作人員對完全自動化的決策做出研判，那么人工干預和審查可能會由于對修訂風險的厭惡使實質性的分析掉入形式化的泥潭。

（二）人為干預的局限性、非系統性與象征性結構動員

在一定程度上保持對完全自動化決策的人類控制，不削弱有經驗的決策者的獨立判斷，被認為是脫離完全自動化決策權的必要基礎。但是人為干預并不如預想般能夠遏制住完全自動化決策的濫用。

首先，即便促使完全自動化決策加大了人工審核的力度，人為干預仍有其不可克服的局限性和不成系統性。人為干預呈現分散、零星和靜態的特征。面對海量的完全自動化決策，要求人為干預事無巨細地審查所有決定，將面臨高昂的人力成本。為了在人工智能商業領域生存，企業往往會控制人為干預的人員數量，精減干預的流程步驟，最后給出模板和套路式回復。面對被決策者的說明要求和質疑時，企業會如法律售賣機器一般，或者是冷冰冰地回復，說“已盡到審查義務或已仔細審核，人為干預已介入，并非完全自動化決策”，或者說“根據特征函數和人工分析，該決策無誤”，或者是看似禮貌、實則無營養價值的空話套話，說“我們會盡力解決您的問題，但是經審查決策無誤，可后續保持溝通，感謝您一直以來的支持”，等等。

其次，人為干預可能產生“象征性結構動員”（mobilization of symbolic structures）現象，人為干預可能會被企業或者部門所利用。勞倫·埃德爾曼（Lauren B. Edelman）認為，人為干預可能將完全自動化決策的協商和解釋地點從公共討論的空間轉移到公司合規程序和表面上遵守法規的內部結構上。過于注重人為干預的自動化決策程序反而對實質正義產生損害，吹毛求疵的人為干預程序并不能有效地促使法律的實質目標的實現。人為干預的程序被許多無效創建的檢查表、解釋說明書、象征性的合規度量、煩瑣的流程所淹沒，從而將象征性的結構提升為實際遵守法律的證據。人為干預的象征性阻止任何人更加深入地挖掘出系統對被決策者的不利方式。

（三）忽略場景化的特性與主體的多樣化需求

現階段，脫離完全自動化決策權采取的是一般保護路徑，對不同對象一視同仁地進行保護，忽略了場景化的特性和主體的多樣化需求。社會學領域的芝加哥學派認為，社會空間的存在基礎是行為主體之間的社會互動，物理空間與社會空間相互依賴。可見，要在脫離完全自動化決策個案中逐步實現盡可能多的正義，就必須掌握被決策者所處的關系空間，了解制約被決策者的現實結構和社會關系。

然而，脫離完全自動化決策權的一般化、扁平化處理雖然取得了形式公平的進展，但是實質性地根據不同被決策者的情況進行針對性的決策并未明顯地體現于綜合決策之中，而是往往被機器、算法或神經網絡自動化決策的無差別處理吸納了。如前所述，自動化決策與法律決策在決策層面具有類似的性質，那么司法的親歷性也可將同樣部分適用于自動化決策。司法親歷性的要求是身到與心到、司法人員親歷與人證親自到庭、審案與判案、親歷過程與結果、實體與程序的統一。在“機器+人工”雙審核模式下，如果不清晰展現決策過程，就可能導致“身到心不到”，決策者可能只是機械地服從機器的輸出結果，成為敲擊鍵盤和點擊鼠標的工具人、確認者；“只決策不審查，只看結果不看過程”，只給出結果，但是不關注做出決定的過程；“罔顧實體與程序”，遁入程序不明的迷霧，從而逃離做出決策的實體要求。

（四）完全自動化決策的弱解釋性危及可質疑性

自動化決策的安全性依賴于信息處理透明度。完全自動化決策系統的合法性可能因缺乏透明性或過于模糊而崩潰，損害對機器做出的有害決策提出疑問的合法要求，即自動化決策的不透明性危及決策的可質疑性（contestability）?？少|疑性建立在可解釋性（explainability）的基礎上。為了維護可質疑性基礎上的人類干預，必須以人類可理解的方式解釋自動化決策的目的、能力和操作方式。

意大利更新1981年歐洲理事會的《個人數據自動化處理中的個人保護公約》以適應新的技術環境，在第75a條中強調“對于可能受到純粹自動決策影響的個人來說，有權挑戰這樣的決策，以有意義的方式提出他或她的觀點和論據是至關重要的”。在算法解釋權的指引下，自動化決策公開的尺度難以把握，導致《個人信息保護法》第24條第3款的有效說明不足，使信息主體無法以有意義的方式提出自己的觀點和論據。這種尺度調控的艱難來自自動化決策的不透明性，可以分為有意的不透明性和無意的不透明性。有意的不透明性源于國家安全、公共政策、版權保護和商業秘密等方面的限制。例如，讓潛在恐怖分子了解識別飛行風險的自動化決策系統，或讓潛在逃稅者了解稅務記錄如何被選中審計，都可能是危險的。更具挑戰性的是無意的不透明性。無意的不透明性來源于自動化決策系統的數據、算力和算法的復雜性。比如，英國達勒姆郡警察局的拘留自動化決策系統有420萬個決策點。

自動化決策系統使得正義、公平、平等、非歧視以及社會對弱勢和邊緣化群體的關心等重要社會價值在這種決策中失語。完全自動化決策依靠算法外衣設置一道屏障，形塑自身的權力話語，進而公民的全面的數字問責（comprehensive digital accountability）無可供證明的材料。究其根本，是因為完全自動化決策的主體對需要解釋的自動化決策標準認識不清?！敖忉屢馕吨敿毜孛枋鰶Q策的內容，但不是披露決策的全部原因?！苯忉寵鄡H在解釋個體如何在決策中考慮到他或她自己的觀點，以及為何評估結果會以那種特定方式出現的程度存在。解釋要求形成一種易于信息主體理解的“可讀性”（legibility），即是說，完全自動化決策的可質疑性存在合理邊界和限度，一種深入到具體代碼和算法的披露對脫離完全自動化決策權沒有現實操作的可能。但是這種過高的披露義務讓完全自動化決策部門或者企業投鼠忌器；為了規避風險，其會造成一種信息主體完全控制自動化數據處理內部機制的假象，而在技術和法律上這卻是不可能的。以上分析指向有限的完全自動化解釋要求的可讀性和可質疑性。

三、出路探索：脫離完全自動化決策權的調適紓解

脫離完全自動化決策權剛在我國落地，其制度運行和實踐摸索仍將持續較長時間。2025年10月1日，《數據安全技術基于個人信息的自動化安全要求》（以下簡稱《自動化決策國家標準》）開始施行，其中提出了“基于個人信息的自動化決策的基本安全原則，規定了通用安全要求、算法安全要求、特征生成安全要求、決策安全要求和自動化決策典型場景特別安全要求”。在《自動化決策國家標準》的指引下，可做出以下調適。

（一）設置分梯度的自動化決策解釋標準

暢通脫離完全自動化決策權的救濟通道，并設置梯度性的結構，有利于合理分配救濟的成本，實現最大保護效益。根據英國2018年通過的數據保護法案（DPA），當決策僅通過自動處理做出時，數據控制者必須“書面通知數據主體”，數據主體隨后可以“要求控制者（?。┲匦驴紤]決定，或（ⅱ）做出一個不完全基于自動處理的新決定”。非自動化作為一種替代方案，在完全自動化決策做出時，當事人可以選擇變更決策的方式。根據英國的經驗，結合《個人信息保護法》中脫離完全自動化決策權的規范構造，可以為重構我國脫離完全自動化決策權的救濟方式提供借鑒。

首先，應將事前、事中的知情權與事后的被動要求說明權相結合?！秱€人信息保護法》第14條、第44條所規定的知情權能夠以較低限度的方式，使信息主體獲悉自身已處于完全自動化決策的流程之中。在決策結果產生之前，信息控制者應當及時以書面方式和其他相應方式對數據主體進行告知。智能移動終端的普及使書面方式多以電子信息方式呈現。告知內容應包括算法的一般功能、完全自動化決策的目的、存續時長、所涉個人信息、可能的風險與影響范圍、預期后果等。

其次，如果完全自動化決策已然做出，信息主體可以根據《個人信息保護法》第24條第3款要求說明，或者要求其重新考慮決定，或者做出一個不完全基于自動處理的新決定，這些決定可以由非數字化或者“去數字化”的替代決策過程構成。說明的內容應比知情權的內容更加詳細、具體，以達到“打開黑盒”（open the black box）的效果。內容是超越自動化決策系統所暗示的一般功能邏輯。其標準在于是否能夠實質性地說明完全自動化決策是如何做出的、決策的原因、根據哪些信息主體的個人信息和情況做出的權衡和判斷，為什么算法會做出某個具體內容的決策，以使得信息主體能夠充分理解。正如意大利最高行政法院（Consiglio di Stato）所聲稱的，“可知原則被可理解原則所補充”。此外，如果重新考慮決定或者做出一個不完全基于自動處理的新決定，那么其說明義務也不能免除。信息控制者應著重說明解釋重新決策對比之前的完全自動化決策的實質區別在何處。

最后，《個人信息保護法》第24條要求說明權的輻射范圍是“自動化決策方式”，而非“僅通過自動化決策的方式”，即要求說明權包含非完全自動化決策和完全自動化決策兩種類型。個人有權獲得有關決策自動化程度、處理的數據以及應用于情境的特定處理參數的信息?？傮w而言，非完全自動化決策的說明義務高于知情權，低于完全自動化決策，呈現出梯度性的解釋結構。

（二）以區分公私場景為起點、個保法為輻射中心構建場景式的脫離完全自動化決策權

如今，以情境或場景為核心的個別化保護方法已成為信息保護領域的重要趨勢。脫離完全自動化決策權以區分公私場景為起點是《個人信息保護法》第24條第3款中“重大影響”需要逐案識別的當然選擇。只有處于具體化的場景中，重大影響才能根據時空和個體獲得意義。

《個人信息保護法》第一章第三節“國家機關處理個人信息的特別規定”將國家機關處理個人信息納入了規制軌道，并且“特別規定”指明了國家機關的角色與私人領域在脫離完全自動決策權的底層邏輯上的本質差異。“國家機關”一詞用得非常巧妙，包含立法機關、行政機關、司法機關和執法機關等國家機關。立法場景、行政場景、司法場景和執法場景等被涵射在脫離完全自動化決策權的范圍內，體現了“限權”的理念。例如，歐盟《執法領域數據保護指令》第11條明確禁止在執法場景中的自動化決策制定，除非獲得歐盟或成員國法律授權，即執法場景中自動化決策被完全禁止。該規定是針對執法領域自動化決策使用的特殊法（lex specialise），GDPR中的規定應該被視為一般法（lex generalis）。同理，《個人信息保護法》第24條第3款是對自動化決策的一般規定，如果其他特殊法律有規定，則應從其規定。

《自動化決策國家標準》以列舉方式涵蓋對個人權益有重大影響的典型自動化決策場景，包括教育或職業機會、信用貸款或保險評估、社會福利資格等公共治理領域以及特殊群體（兒童、老年人、勞動者）的自動化決策場景安全要求，為以后具體展開不同場景的脫離自動化決策權提供了參考標準。

在私人領域，對信息主體而言，脫離完全自動化決策權是個人信息自決權、離線權在完全自動化決策領域的表達；對信息控制者而言，是自動化決策守門人義務的彰顯。自動化決策守門人義務，是指自動化決策使用者對信息主體的權益可能產生顯著影響，因此具有高度注意義務，充當信息主體的守護者角色，需要承擔避免用戶受侵害的“準監管”義務。該義務要求自動化決策者規制自身的完全自動化決策行為，是一種“刀刃向內”的自我監督義務。

由于場景化具有高度特殊性，籠統概括無法提供清晰指引，因此論證只能采取舉例方式，再通過“類比”展開橫向知識遷移，借助同構關系在不同場景間建立特殊推理關聯。法律場景的類比推理方式不能限制情感、偏好和前見等個性化的因素，因而能夠突出不同場景下社會關系的復雜性，為個案裁決提供更多的素材與考慮點。因此，可通過分別選取一例公私場景中的完全自動化決策的說明、解釋和脫離的操作標準，來為其他場景提供參考，實現不同場景下的空間正義。

首先，在私人領域的貸款申請中，銀行依賴算法識別申請人的個人資料，得出信用評分，然后做出是否授予貸款以相應利率的決策。如果決策完全以自動化決策的方式做出，銀行須揭示自動化決策系統實際推理的方式：（1）所涉信息，即就業和收入、債務、信用記錄等；（2）信息來源，一是申請表中數據主體自行提供的信息，二是第三方（包括從公共記錄中）獲得的數據及其源頭，三是之前信用報告中的信息；（3）影響權重及影響方式，哪些情況主要影響決策以及如何影響，例如通過識別以往的歷史案例，采用模擬的方式進行評估；（4）用戶評分排名方式和邏輯依據，考慮多少個評分等級、評分或等級確定的方式以及如此做的理由和依據；（5）評分如何以及在多大程度上影響信用申請結果；（6）避免算法故障和偏見的方式；（7）為了加強理解，銀行還應給出可能的決策和對數據主體的影響類型的真實和具體示例，這種示例可采用可視化的方式，采用圖示、表格或者統計圖等方式形象化地呈現。上述（1）—（6）應以簡潔明了為特點，避免直接展示給申請人難以理解的算法程序和數學公式。特別地，要運用反事實解釋技術（counterfactual explanations technique），即在申請人的貸款申請被拒絕后，要著重說明為何該評分導致申請被拒絕；如果想要成功申請，需在哪些指標上達到評分要求。

其次，在公共領域中，行政行為采取完全自動化決策會對信息主體的權益產生重大影響，行政機關有義務在行動前聽取個人的意愿，并保障其查閱相關檔案和文件，必須在決策主體、內容和程序上公開。基于法國《公眾與行政關系法典》R.311-3-1-1條和R.311-3-1-2條，對基于算法處理的個人決策的對象，行政機關有說明算法目的的義務，即在行政相對人的請求下，需要以一種可理解的方式，在不侵犯法律保護的秘密前提下提供以下信息：（1）算法處理對決策的貢獻程度和方式；（2）處理的數據及其來源；（3）處理參數及其權重；（4）具體處理操作。在司法領域，愛沙尼亞法律規定機器人法官的自動化決策僅能在非刑事案件和低價值案件中使用，刑事司法以及高價值案件對完全自動化決策采取完全禁止的態度。

（三）在“以算法治理自動化決策”的理念指引下開發“守衛型”算法

“以算法治理自動化決策”是通過技術路徑治理數字技術風險的凝練總結，即通過制定“守衛型”算法來監控完全自動化決策的風險，寄希望于以算法的不斷更迭與升級來克服以往的技術局限，有利于自動化決策形成良好的“內循環”發展。這種內循環具有兩個可靠前提：一是破除算法無偏見（bias）的神話，致力于消除算法歧視（discrimination）。歧視在人類中同樣存在且難以消除人類根深蒂固的成見。二是安全地假設自動化決策在大部分情況下超過了人類決策。

通過“守衛型”算法增強完全自動化決策的透明度具有很大潛力。人類決策由人的思想做出。思想是無形的，雖然也存在紙面或口頭留痕，但是人類往往會隱藏決策背后的真正原因。使用自動化決策至少在理論上允許分析并完全理解機器做出的決策的過程和相關因素。算法讓一切留痕，并能夠輔以懲戒措施。AI系統可能是一個“黑箱”，但是好在其有一個有形箱子，有打開的可能。需要注意的是，公民對完全自動化決策錯誤的容忍度顯著低于對人類做出相同決策犯錯的容忍度。雖然完全自動化決策比人類的決策過程從效率、準確性等方面有所改善，但是公民對自動化決策的預期失敗的外觀仍感到惱火。甚至很多時候完全自動化決策的錯誤還會出現假陰性結果，即使有強有力的背景信息證明完全自動化決策能力的提升，公眾對公共機構做正確事情的信任度也可能下降。

未來，可以考慮大規模部署“守衛型”算法，具言之，有三種技術工具可以用于自動化決策的審查。首先，軟件驗證工具（software verification tools），允許編碼者和審計員測試ADM系統是否具有某些特性。編碼者可以推理自動化決策系統的行為方式：如果算法的一個輸入發生改變，驗證它將如何影響其輸出。為了加快這種驗證速率，可設計一個補充算法來解碼自動化決策系統，其重點應該是對憲法和法律所保護的基本價值在信息上的權重進行測試。其次，運用加密承諾（cryptographic commitments）。加密承諾可以理解為一種保證或擔保，在不公布源代碼的前提下，確保自動化決策系統在操作過程中始終遵循原始設計的原則或目標。加密承諾將允許自動化決策審計員在事后證明某個程序已按照最初的承諾進行操作，保證其忠于法律目的。最后，可采取零知識證明（zero-knowledge proof）。零知識證明，顧名思義，測試者和審計人員不用知曉有關個人信息、密碼和代碼的任何信息，通過一系列的交互過程，自動化決策者就能向審計人員證明某個聲明的真實性。如果決策者做出三個承諾——對政策、輸入和達成的決定——那么零知識證明將允許驗證這三個元素的一致性，即正確的政策被應用于正確的輸入，以達到聲明的結果。

（四）強化對脫離自動化決策權的過程記錄和結果問責

若過度推崇“以算法治理自動化決策”，易陷入“技術解決主義”的陷阱。因此，在現階段更可行的路徑是強化過程記錄與結果問責，通過制度設計與技術工具的結合，構建可操作、可驗證的算法治理框架。

過程記錄的核心在于決策的透明性與可追溯性。算法系統應強制記錄關鍵決策日志（例如用戶畫像生成、信用評分、內容推薦等），并確保日志的完整性、防篡改性和可解讀性。這些日志須包含輸入數據、決策參數、輸出結果及系統版本等元數據，以便第三方審計機構能夠重現決策過程，檢測是否存在偏見、歧視或違規行為。例如，歐盟《數字服務法案》（DSA）要求大型在線平臺公開算法邏輯并提供數據訪問權限，正是這一思路的體現。此外，審計不應僅限于靜態代碼檢查，而須覆蓋動態運行時的行為，通過持續監控發現模型漂移（model drift）或數據污染等潛在問題。

結果問責則強調以實際影響為導向的責任追究機制。算法應用主體（如企業、機構）必須對其系統的輸出結果承擔法律責任，尤其是在涉及個人權益（如就業、信貸、醫療）的領域。一旦出現歧視性決策或重大錯誤，應通過倒查機制追溯問題根源，并實施處罰與補償。例如，美國紐約市通過的《自動化就業決策工具法》（Automated Employment Decision Tools）要求企業對算法招聘工具的偏見進行年度審計，并向用戶披露結果。問責機制的有效性依賴于明確的責任主體界定（如開發者、部署者或運營者）以及與之匹配的法律制裁手段（如罰款、市場禁入或民事賠償）。同時，應鼓勵企業建立內部合規審查流程，通過“算法影響評估”提前識別風險，而非事后補救。

（五）建構和銜接以脫離完全自動化決策權為兜底權利的多元糾紛解決機制

作為一種消極防御性的請求權，自動化決策的接受方可以依據脫離完全自動化決策權，將爭議訴至法院，由法院在個案層面進行審慎裁量。然而，在當前“訴訟爆炸”和“案多人少”的審判壓力積聚背景下，應促使決策者將完全自動化決策的風險與可能產生的訴訟壓力前置，將其消弭于產生的源頭，而非完全寄希望于終局的訴訟解決方式。正如有學者所指出的，“目前我國的完全自動化決策拒絕權實踐更多依賴的是基于該權利的核心要義進行義務體系和保障制度設計，而非鼓勵以訴訟的形式實踐該權利”。因此，應構筑和銜接以脫離完全自動化決策權為兜底的多元糾紛解決機制。

首先，公司或公共部門內部應設立自動化決策委員會或獨立的自動化決策審計員，負責受理解釋請求、說明理由并重新做出決定。例如，美國《薩班斯—奧克斯利法案》要求上市公司設立獨立審計委員會，其中“獨立”指除擔任董事外不得與公司具有其他關聯。

其次，應發揮行業協會在自動化決策領域的自律規制功能。監管部門將脫離完全自動化決策的標準細化權下放給行業協會，委托行業協會執行部分具體事宜。行業協會作為獨立的第三方，因其專業性和技術性，能夠及時審計自動化決策部門記錄決策環節的各種信息。特定領域的國家機關也負有制定相關規則的責任。例如，《工業和信息化領域數據安全管理辦法（試行）》第16條對工信領域自動化決策的控制與許可做出具體規定，《工業和信息化部關于加強車聯網網絡安全和數據安全工作的通知》第15條對智能網聯汽車生產企業和車聯網服務平臺運營企業的自動化決策予以規制。

再次，監管部門應定時發布非正式指引和完全自動化決策合規報告。應激活《個人信息保護法》第七章法律責任規定的適用，防止其淪為“僵尸條款”。應建立常態化的自動化決策倫理審查機制。此外，應招募相關專家開發算法合法性實質測試的程序。監管部門還應及時公布和更新有重大影響的算法清單。例如，《科技倫理審查辦法（試行）》在最后公布了《需要開展倫理審查復核的科技活動清單》第七條“面向存在安全、人身健康風險等場景的具有高度自主能力的自動化決策系統的研發”。

最后，應建構通過行使脫離完全自動化決策權的請求權作為多元糾紛解決機制的兜底途徑。法院在審查時應從結果導向入手，先甄別是否對信息主體的權益造成重大影響，然后采取實質標準，從自動化決策是否事先經過影響評估，事中人工干預參與的程度、是否充分聽取當事人的意見、是否充分考慮當事人的個人特點，事后是否經當事人請求重新實質性做出決策，判別該自動化決策是否僅以自動化的形式做出。在舉證責任方面，若當事人能夠初步證明其權益受到重大影響，且在事先、事中未獲得有效通知，事后解釋亦存在不足，則舉證責任應轉移至自動化決策者，由其證明已盡到充分的人為干預義務。

點擊進入下方小程序

獲取專屬解決方案~

責任編輯 | 郭晴晴

審核人員 | 張文碩

本文聲明 | 本文章僅限學習交流使用，如遇侵權，我們會及時刪除。本文章不代表北大法律信息網（北大法寶）和北京北大英華科技有限公司的法律意見或對相關法規/案件/事件等的解讀。