智能時代社會治理需更新行動框架

從社會科學(xué)視角看，人工智能發(fā)展的核心問題正在發(fā)生轉(zhuǎn)移：過去需要解釋的是機(jī)器如何“理解”和“生成”，現(xiàn)在更需要解釋的是機(jī)器如何“行動”以及這種“行動”如何被制度化、責(zé)任化和公共化。大模型時代的核心議題是知識生產(chǎn)方式變革，智能體時代的核心議題則是行動秩序和治理結(jié)構(gòu)重組。在這一意義上，從大模型到智能體，不只是技術(shù)路線的迭代，更是智能時代社會運(yùn)行邏輯的深層變革。

重慶市沙坪壩區(qū)沙坪壩街道一心村社區(qū)壹心巷，經(jīng)過智能化改造讓老街巷煥然一新。

社會發(fā)展的新行動節(jié)點。大模型之所以構(gòu)成科技革命的重要節(jié)點，是因為它突破了傳統(tǒng)人工智能高度依賴規(guī)則、場景和人工標(biāo)注的局限，并在大規(guī)模數(shù)據(jù)訓(xùn)練基礎(chǔ)上，形成較強(qiáng)的語義理解、知識遷移和內(nèi)容生成能力。大模型改變了人與信息、人與知識、人與符號系統(tǒng)之間的關(guān)系，成為智能時代新的認(rèn)知基礎(chǔ)設(shè)施。但大模型并不是人工智能演進(jìn)的終點。它不再只是給出答案，而是能夠形成連續(xù)行動；不再只是響應(yīng)人的指令，而是在授權(quán)范圍內(nèi)參與任務(wù)完成；不再只是輔助個體認(rèn)知，而是可能進(jìn)入組織流程、產(chǎn)業(yè)鏈條和治理場景，成為社會運(yùn)行的新型行動節(jié)點。

當(dāng)智能體進(jìn)入企業(yè)管理、科學(xué)研究、公共服務(wù)、城市治理、應(yīng)急處置和社會協(xié)同等場景時，人工智能就不再只是外在于社會系統(tǒng)的工具，而是被嵌入社會過程內(nèi)部，成為影響組織效率、責(zé)任分配和公共價值實現(xiàn)的重要力量。未來一個時期，智能體的發(fā)展將推動人工智能從“模型競爭”轉(zhuǎn)向“體系競爭”。人工智能發(fā)展的重心由此從“模型是否強(qiáng)大”轉(zhuǎn)向“系統(tǒng)是否可用、場景是否適配、組織是否重構(gòu)、責(zé)任是否清晰”。從這一意義上說，智能體標(biāo)志著人工智能進(jìn)入行動性智能階段。這個階段的關(guān)鍵特征是機(jī)器更能參與社會行動，使技術(shù)系統(tǒng)更深地嵌入人類組織過程。它將推動經(jīng)濟(jì)社會運(yùn)行方式從信息化、數(shù)字化進(jìn)一步邁向智能化，大量原本依賴人工協(xié)調(diào)、經(jīng)驗判斷和層級傳遞的任務(wù)，逐漸轉(zhuǎn)化為人機(jī)協(xié)同、數(shù)據(jù)驅(qū)動和智能調(diào)度的行動過程。

智能體塑造公共價值。智能體帶來的最大挑戰(zhàn)并不只是技術(shù)風(fēng)險增加，而是社會科學(xué)意義上的治理命題更新。責(zé)任邊界是智能體時代首先需要回答的問題。傳統(tǒng)軟件系統(tǒng)的運(yùn)行邏輯相對清晰，行為結(jié)果通常可以追溯到程序設(shè)計、用戶操作或系統(tǒng)缺陷。但智能體的行動鏈條更長、更復(fù)雜、更具不確定性。智能體可經(jīng)過多輪推理，調(diào)用多個外部工具，訪問不同數(shù)據(jù)源，并在反饋過程中調(diào)整行動路徑。一旦出現(xiàn)錯誤執(zhí)行、越權(quán)操作、數(shù)據(jù)泄露、資源誤配或公共風(fēng)險擴(kuò)散，責(zé)任究竟由開發(fā)者、部署者、平臺方、使用者、數(shù)據(jù)提供者還是應(yīng)用單位承擔(dān)，就不再容易被界定。智能體越自主，責(zé)任鏈條越需要制度化；智能體越復(fù)雜，問責(zé)機(jī)制越不能停留在事后追究，而必須嵌入研發(fā)、測試、部署、運(yùn)行和退出的全過程。社會不會因為系統(tǒng)“先進(jìn)”就自然信任它，而是要看是否可解釋、可驗證、可追溯、可糾偏、可問責(zé)。

大模型時代，人們主要擔(dān)憂機(jī)器“說得不對”；智能體時代，人們更擔(dān)憂機(jī)器“做得不當(dāng)”。前者可能造成認(rèn)知誤導(dǎo)，后者可能造成行動損害。正因如此，智能體的可信性不能僅被理解為技術(shù)可靠性，還包括制度可預(yù)期性、過程透明性、責(zé)任確定性和價值正當(dāng)性。

智能體進(jìn)入公共治理領(lǐng)域后，不能被簡單視為提升行政效率的技術(shù)裝置，必須進(jìn)一步追問“人工智能應(yīng)該如何被嵌入社會制度”。工具賦能關(guān)注能力釋放，制度嵌入關(guān)注邊界塑造；工具賦能強(qiáng)調(diào)技術(shù)效率，制度嵌入強(qiáng)調(diào)責(zé)任秩序；工具賦能容易把人工智能看成外部手段，制度嵌入則要求把人工智能放進(jìn)組織結(jié)構(gòu)、治理程序和公共價值體系中加以理解。未來，人工智能發(fā)展的成熟程度，不僅取決于模型能力有多強(qiáng)，還取決于社會制度能否有效吸納、規(guī)范和引導(dǎo)這種能力。

構(gòu)建智能社會發(fā)展的和諧秩序。傳統(tǒng)治理方式往往把人工智能作為被監(jiān)管的技術(shù)對象，重點關(guān)注模型備案、算法合規(guī)、內(nèi)容安全、數(shù)據(jù)保護(hù)和平臺責(zé)任。只重視這些已經(jīng)不足以回應(yīng)智能體時代的治理復(fù)雜性。新的治理范式應(yīng)當(dāng)從對象監(jiān)管轉(zhuǎn)向過程治理。所謂過程治理，就是把治理要求嵌入智能體全生命周期，從研發(fā)設(shè)計、訓(xùn)練測試、場景部署、用戶授權(quán)、工具調(diào)用、日志記錄、異常處置到責(zé)任追溯，形成連續(xù)性的制度約束。智能體不是一次性發(fā)布后就靜態(tài)存在的產(chǎn)品，而是在持續(xù)學(xué)習(xí)、持續(xù)交互、持續(xù)調(diào)用和持續(xù)反饋中運(yùn)行的系統(tǒng)。它的風(fēng)險也不是一次性評估即可消除，而是在具體場景、具體權(quán)限、具體任務(wù)和具體使用者之間不斷生成。只有把治理前移、嵌入和連續(xù)化，才能避免技術(shù)系統(tǒng)在規(guī)模化應(yīng)用后形成難以糾偏的結(jié)構(gòu)性風(fēng)險。

智能體的應(yīng)用場景極為復(fù)雜，既涉及技術(shù)研發(fā)，也涉及行業(yè)規(guī)則；既涉及市場創(chuàng)新，也涉及公共利益；既涉及企業(yè)責(zé)任，也涉及用戶權(quán)益和社會監(jiān)督。單靠政府部門的外部監(jiān)管，難以覆蓋全部風(fēng)險鏈條。需要形成政府引導(dǎo)、企業(yè)負(fù)責(zé)、行業(yè)自律、技術(shù)支撐、社會參與、公眾監(jiān)督相結(jié)合的共治格局。政府應(yīng)當(dāng)提供底線規(guī)則和制度框架，企業(yè)應(yīng)當(dāng)承擔(dān)安全可控和責(zé)任追溯義務(wù)，行業(yè)組織應(yīng)當(dāng)推動標(biāo)準(zhǔn)制定和倫理規(guī)范，科研機(jī)構(gòu)應(yīng)當(dāng)加強(qiáng)評測體系和風(fēng)險識別，公眾則應(yīng)當(dāng)擁有必要的知情權(quán)、選擇權(quán)、申訴權(quán)和救濟(jì)權(quán)。

從現(xiàn)實出發(fā)，新的治理范式更應(yīng)從風(fēng)險防控轉(zhuǎn)向可信建構(gòu)。可信治理的關(guān)鍵在于，在發(fā)展和安全之間形成制度化平衡，使創(chuàng)新活動在明確邊界中展開，使風(fēng)險控制在可解釋、可追溯、可糾偏的軌道上運(yùn)行。與此同時，智能體治理還必須堅持人的主體地位。技術(shù)越具有自主性，就越要明確人的最終責(zé)任和價值判斷；系統(tǒng)越具有執(zhí)行力，就越要保障人的知情權(quán)、同意權(quán)、選擇權(quán)和救濟(jì)權(quán)；算法越追求效率，就越要防止公共價值被技術(shù)指標(biāo)替代。

由此來看，智能體治理的根本目標(biāo)，是構(gòu)建可控、可信、可問責(zé)的智能社會秩序。可控，意味著智能體的權(quán)限、邊界和風(fēng)險處置機(jī)制必須清晰；可信，意味著智能體的運(yùn)行過程能夠被理解、驗證和監(jiān)督；可問責(zé)，意味著智能體造成的后果能夠被追蹤、解釋和責(zé)任化。三者共同構(gòu)成智能體規(guī)模化應(yīng)用的制度前提。沒有可控，就可能發(fā)生行動失序；沒有可信，就難以形成社會接受；沒有可問責(zé)，就會產(chǎn)生責(zé)任真空。

未來，人工智能發(fā)展的關(guān)鍵，不只是讓機(jī)器更聰明，而是讓智能系統(tǒng)在制度框架中更可靠地服務(wù)人、服務(wù)社會、服務(wù)公共利益。只有在技術(shù)創(chuàng)新與制度創(chuàng)新的深度耦合中，在發(fā)展主動權(quán)與治理主動權(quán)的協(xié)同塑造中，人工智能才能真正成為推動高質(zhì)量發(fā)展、提升治理效能、增進(jìn)人民福祉的重要力量。

作者系北京郵電大學(xué)經(jīng)濟(jì)管理學(xué)院教授；哈爾濱工業(yè)大學(xué)經(jīng)濟(jì)管理學(xué)院副研究員

來源：中國社會科學(xué)報

圖片來源：東方 IC

責(zé)任編輯：羅浩

新媒體編輯：張雨楠

如需交流可聯(lián)系我們