專題·智能體安全 | 移動(dòng)終端智能體安全可信風(fēng)險(xiǎn)與治理建議

劉陶

文 | 中國(guó)信息通信研究院、移動(dòng)應(yīng)用創(chuàng)新與治理技術(shù)工業(yè)和信息化部重點(diǎn)實(shí)驗(yàn)室 劉陶；博鼎實(shí)華（北京）技術(shù)有限公司 任維赫；中國(guó)信息通信研究院、移動(dòng)應(yīng)用創(chuàng)新與治理技術(shù)工業(yè)和信息化部重點(diǎn)實(shí)驗(yàn)室 傅山*

人工智能與移動(dòng)智能終端深度融合，推動(dòng)輕量化、場(chǎng)景化、自主化的移動(dòng)終端智能體快速興起，打破了傳統(tǒng)移動(dòng)應(yīng)用工具化的局限，實(shí)現(xiàn)了從被動(dòng)響應(yīng)到主動(dòng)服務(wù)、從單一功能到全場(chǎng)景協(xié)同的轉(zhuǎn)變，成為數(shù)字經(jīng)濟(jì)新的增長(zhǎng)點(diǎn)。當(dāng)前，移動(dòng)終端智能體產(chǎn)業(yè)處于技術(shù)迭代加速、應(yīng)用場(chǎng)景拓寬的關(guān)鍵期，但其自主決策、跨應(yīng)用聯(lián)動(dòng)、高頻權(quán)限調(diào)用的特性，催生了諸多新型安全可信威脅與多維度信任隱患，傳統(tǒng)終端防護(hù)體系已難以適配全新運(yùn)行形態(tài)。同時(shí)，產(chǎn)業(yè)生態(tài)內(nèi)跨主體協(xié)同缺乏統(tǒng)一規(guī)則，用戶知情權(quán)、控制權(quán)保障不足，嚴(yán)重制約行業(yè)生態(tài)平穩(wěn)有序發(fā)展。立足總體國(guó)家安全觀，統(tǒng)籌發(fā)展和安全，圍繞人工智能“為人所用、為人服務(wù)、為人所控”發(fā)展導(dǎo)向，嚴(yán)格遵循用戶自主管控、知情權(quán)優(yōu)先的核心治理邏輯，構(gòu)建全方位、多層次、全鏈條、多方共治的移動(dòng)終端智能體可信生態(tài)體系，這一舉措既是防范新型安全風(fēng)險(xiǎn)、守護(hù)用戶權(quán)益的必然要求，也是規(guī)范產(chǎn)業(yè)秩序、推動(dòng)技術(shù)應(yīng)用落地的關(guān)鍵舉措。

一、產(chǎn)業(yè)發(fā)展態(tài)勢(shì)與運(yùn)行特征

移動(dòng)終端智能體特指部署在手機(jī)、平板等移動(dòng)智能終端設(shè)備上，依托終端本地算力與端云協(xié)同能力，具備自主感知、意圖理解、任務(wù)拆解、跨應(yīng)用協(xié)同、自動(dòng)化執(zhí)行與閉環(huán)服務(wù)能力的輕量化AI智能主體。

當(dāng)前，全球移動(dòng)終端智能體技術(shù)創(chuàng)新與商用落地進(jìn)程全面提速，其技術(shù)突破正引發(fā)移動(dòng)應(yīng)用生態(tài)的顛覆性重構(gòu)，推動(dòng)跨應(yīng)用、跨場(chǎng)景一體化協(xié)同服務(wù)成為常態(tài)，人機(jī)交互邏輯與移動(dòng)服務(wù)形態(tài)從底層重塑。從技術(shù)架構(gòu)與能力實(shí)現(xiàn)角度來(lái)看，移動(dòng)終端智能體具備三方面核心特征：一是具備自主決策與任務(wù)閉環(huán)能力，可基于用戶意圖自主拆解復(fù)雜需求、調(diào)度各類資源，無(wú)需人工分步指令即可完成全流程服務(wù)；二是具備跨應(yīng)用工具互聯(lián)能力，能實(shí)現(xiàn)終端內(nèi)不同應(yīng)用、外部工具與數(shù)據(jù)源之間的無(wú)縫聯(lián)動(dòng)，打通功能與數(shù)據(jù)流通壁壘；三是具備輕量化與端云協(xié)同能力，通過(guò)模型壓縮、邊緣計(jì)算以適配移動(dòng)終端算力、存儲(chǔ)、功耗受限特性，兼顧端側(cè)本地運(yùn)行效率與隱私安全，依托云端算力實(shí)現(xiàn)能力持續(xù)拓展與優(yōu)化。

與此同時(shí)，移動(dòng)終端智能體行為鏈路復(fù)雜、參與主體多元，安全與可信成為生態(tài)發(fā)展雙重核心要求，安全是系統(tǒng)運(yùn)行底線，可信是用戶接受與產(chǎn)業(yè)協(xié)同的前提。而現(xiàn)有安全防護(hù)治理體系相對(duì)滯后，難以適配移動(dòng)終端智能體技術(shù)特性，由此引發(fā)多重新型安全風(fēng)險(xiǎn)與信任隱患，嚴(yán)重制約了行業(yè)生態(tài)有序、高質(zhì)量發(fā)展。

二、可信安全主要風(fēng)險(xiǎn)研判

移動(dòng)終端智能體依托端云協(xié)同架構(gòu)、跨應(yīng)用聯(lián)動(dòng)能力和長(zhǎng)期記憶機(jī)制，形成了感知、推理、記憶、執(zhí)行的全鏈路數(shù)據(jù)處理閉環(huán)。相較于傳統(tǒng)移動(dòng)應(yīng)用，其自主化決策、動(dòng)態(tài)化交互、隱蔽化運(yùn)行、跨主體流轉(zhuǎn)的特征尤為突出，個(gè)人信息處理呈現(xiàn)來(lái)源多元、過(guò)程隱蔽、邊界模糊、責(zé)任交織的新特點(diǎn)。結(jié)合智能體技術(shù)架構(gòu)與運(yùn)行邏輯，從跨主體交互、行為管控、數(shù)據(jù)安全、責(zé)任界定四個(gè)維度梳理，當(dāng)前，移動(dòng)終端智能體主要面臨四類核心可信安全風(fēng)險(xiǎn)。

（一）跨主體可信交互風(fēng)險(xiǎn)

跨主體協(xié)同是智能體運(yùn)行的基礎(chǔ)，多主體交互信任體系缺失易引發(fā)各類適配漏洞與安全隱患。移動(dòng)終端智能體需與本地終端、第三方應(yīng)用及云端服務(wù)深度融合，實(shí)現(xiàn)多主體協(xié)同交互。目前，業(yè)界尚未形成適配智能體運(yùn)行特征的統(tǒng)一身份信任體系與跨域交互規(guī)范，跨實(shí)體、跨層級(jí)信任傳遞機(jī)制缺失。傳統(tǒng)權(quán)限管控體系適配性嚴(yán)重不足，難以約束智能體新型跨應(yīng)用交互行為。智能體可依托無(wú)障礙服務(wù)、屏幕內(nèi)容理解、自動(dòng)化觸控操作、剪貼板讀取等系統(tǒng)底層輔助能力完成跨應(yīng)用任務(wù)聯(lián)動(dòng)，該類操作獨(dú)立于應(yīng)用標(biāo)準(zhǔn)化業(yè)務(wù)API體系，可直接繞過(guò)應(yīng)用接口權(quán)限校驗(yàn)與前置安全風(fēng)控流程，脫離傳統(tǒng)權(quán)限管控范式，極易導(dǎo)致跨主體交互邊界失控、信任機(jī)制失效，滋生越權(quán)訪問(wèn)、非授權(quán)調(diào)用、安全策略旁路等安全隱患，且傳統(tǒng)靜態(tài)權(quán)限配置模式也無(wú)法適配智能體動(dòng)態(tài)化、自主化的跨域調(diào)度需求，交互可信性難以得到有效保障。

（二）自主行為失控風(fēng)險(xiǎn)

移動(dòng)終端智能體的自主決策與黑盒運(yùn)行特性，易導(dǎo)致行為失序、用戶控制權(quán)弱化。區(qū)別于傳統(tǒng)應(yīng)用被動(dòng)執(zhí)行的運(yùn)行模式，移動(dòng)終端智能體具備自主推演、動(dòng)態(tài)交互與跨應(yīng)用協(xié)同作業(yè)能力，原有終端靜態(tài)安全防護(hù)體系難以適配這種動(dòng)態(tài)化、主動(dòng)化的全新運(yùn)行形態(tài)。從端側(cè)模型運(yùn)行層面來(lái)看，由于受限于終端算力、存儲(chǔ)及運(yùn)行環(huán)境約束，輕量化智能體模型普遍存在魯棒性偏弱、安全冗余不足的短板。由于端側(cè)部署場(chǎng)景缺乏常態(tài)化安全校驗(yàn)與動(dòng)態(tài)風(fēng)險(xiǎn)監(jiān)測(cè)機(jī)制，模型極易被對(duì)抗樣本干擾，從而引發(fā)決策偏差與執(zhí)行異常。同時(shí)，模型潛藏的隱蔽后門、固有程序漏洞難以被及時(shí)感知與發(fā)現(xiàn)，持續(xù)對(duì)智能體自主決策邏輯與終端運(yùn)行安全構(gòu)成威脅。此外，智能體依托深度學(xué)習(xí)推理完成任務(wù)規(guī)劃，整體決策與執(zhí)行過(guò)程呈現(xiàn)黑箱特征，運(yùn)行流程不透明、行為邏輯不可見，用戶無(wú)法及時(shí)知曉智能體運(yùn)行目的與潛在風(fēng)險(xiǎn)，缺少實(shí)時(shí)審查、干預(yù)、終止的有效手段。疊加AI模型固有“幻覺”問(wèn)題，易出現(xiàn)任務(wù)規(guī)劃錯(cuò)誤、流程執(zhí)行失序等異常情況，進(jìn)一步加劇終端智能體自主行為失控風(fēng)險(xiǎn)。

（三）數(shù)據(jù)隱私泄露風(fēng)險(xiǎn)

智能體多環(huán)節(jié)高頻數(shù)據(jù)交互與多模態(tài)處理特性，既存在隱私泄露隱患，也存在數(shù)據(jù)處理不透明、用戶知情可控性不足的可信問(wèn)題。移動(dòng)終端智能體依托多模態(tài)感知、自主學(xué)習(xí)、跨應(yīng)用協(xié)同能力開展業(yè)務(wù)運(yùn)行，全過(guò)程伴隨高頻、多維的數(shù)據(jù)處理行為。不同于傳統(tǒng)應(yīng)用規(guī)范化的數(shù)據(jù)交互模式，智能體數(shù)據(jù)處理流程隱蔽性強(qiáng)，數(shù)據(jù)采集用途、流轉(zhuǎn)路徑、使用范圍缺乏公開透明的披露機(jī)制，用戶難以知曉個(gè)人數(shù)據(jù)處理細(xì)節(jié)，知情權(quán)與自主管控能力被大幅弱化，難以有效監(jiān)督干預(yù)數(shù)據(jù)處理行為。在感知層面，智能體多以靜默方式寬泛采集用戶信息，易超出業(yè)務(wù)必要范疇，違背最小必要原則，且多模態(tài)數(shù)據(jù)融合可精準(zhǔn)刻畫用戶畫像，造成隱私過(guò)度暴露。在記憶存儲(chǔ)層面，智能體具備自動(dòng)記憶留存特性，依托向量數(shù)據(jù)庫(kù)存儲(chǔ)交互數(shù)據(jù)，數(shù)據(jù)耦合度高、清理難度大，存在持續(xù)性隱私殘留風(fēng)險(xiǎn)。在流轉(zhuǎn)執(zhí)行層面，跨應(yīng)用數(shù)據(jù)交互路徑動(dòng)態(tài)模糊，傳輸過(guò)程中易遭受惡意嗅探、指令劫持、數(shù)據(jù)篡改等攻擊，極易引發(fā)數(shù)據(jù)濫用、隱私外泄等安全問(wèn)題，整體數(shù)據(jù)安全與可信風(fēng)險(xiǎn)較為突出。

（四）跨應(yīng)用責(zé)任溯源風(fēng)險(xiǎn)

多主體行為深度耦合、審計(jì)追溯機(jī)制缺失，造成跨應(yīng)用場(chǎng)景風(fēng)險(xiǎn)溯源難、責(zé)任界定難。移動(dòng)終端智能體可自主調(diào)度多類應(yīng)用以協(xié)同完成復(fù)合任務(wù)，使得用戶、終端廠商、模型服務(wù)商、應(yīng)用開發(fā)者、云端平臺(tái)等多方主體行為深度嵌套、鏈路交織，徹底打破傳統(tǒng)移動(dòng)應(yīng)用權(quán)責(zé)清晰、主體獨(dú)立的運(yùn)行邊界。從可信治理視角來(lái)看，智能體黑箱式的推理運(yùn)行模式導(dǎo)致業(yè)務(wù)執(zhí)行過(guò)程不透明、行為歸屬模糊，以及行業(yè)尚未建立適配智能體跨域運(yùn)行的標(biāo)準(zhǔn)化審計(jì)追溯體系，各環(huán)節(jié)行為記錄、數(shù)據(jù)流轉(zhuǎn)日志缺乏統(tǒng)一規(guī)范，存在日志碎片化、軌跡不完整等問(wèn)題，無(wú)法完整還原協(xié)同作業(yè)鏈路。同時(shí)，當(dāng)前行業(yè)缺少針對(duì)性的安全可信認(rèn)證體系與跨主體協(xié)同治理規(guī)則，各參與主體的履職邊界、安全權(quán)責(zé)、判定依據(jù)缺乏精細(xì)化界定。一旦發(fā)生越權(quán)操作、數(shù)據(jù)泄露、服務(wù)異常等安全事件，難以精準(zhǔn)定位風(fēng)險(xiǎn)源頭、厘清責(zé)任歸屬，極易引發(fā)多方責(zé)任糾紛，嚴(yán)重制約智能體產(chǎn)業(yè)生態(tài)的規(guī)范化、有序化發(fā)展。

三、可信生態(tài)核心治理目標(biāo)

移動(dòng)終端智能體的自主推演、動(dòng)態(tài)交互與跨應(yīng)用協(xié)同運(yùn)行模式，重塑了移動(dòng)端服務(wù)的運(yùn)行邏輯與風(fēng)險(xiǎn)形態(tài)。傳統(tǒng)終端安全可信體系以靜態(tài)環(huán)境可信為核心，側(cè)重靜態(tài)防護(hù)，適配運(yùn)行邏輯固定、業(yè)務(wù)被動(dòng)響應(yīng)等傳統(tǒng)場(chǎng)景。針對(duì)移動(dòng)終端智能體全新運(yùn)行形態(tài)的安全可信治理體系需在兼容基礎(chǔ)環(huán)境可信的前提下，將治理核心聚焦智能體動(dòng)態(tài)運(yùn)行全流程，重點(diǎn)管控自主決策、動(dòng)態(tài)授權(quán)、跨應(yīng)用協(xié)同等行為引發(fā)的內(nèi)生安全風(fēng)險(xiǎn)，實(shí)現(xiàn)模型、行為、數(shù)據(jù)、交互的全過(guò)程動(dòng)態(tài)可信，適配智能體主動(dòng)化、自主化、動(dòng)態(tài)化的全新運(yùn)行場(chǎng)景。同時(shí)，區(qū)別于工業(yè)、企業(yè)級(jí)智能體側(cè)重生產(chǎn)安全與業(yè)務(wù)合規(guī)的建設(shè)邏輯，移動(dòng)終端智能體安全可信生態(tài)更加側(cè)重以用戶權(quán)益保障為核心，聚焦用戶使用安全、隱私保護(hù)、用戶全程掌控，重點(diǎn)防范數(shù)據(jù)泄露、權(quán)限濫用、行為失控等直接影響用戶利益的風(fēng)險(xiǎn)。其整體生態(tài)應(yīng)以全主體、全鏈路可信關(guān)聯(lián)為核心指向，構(gòu)建終端與終端、終端與智能體、智能體與應(yīng)用、用戶與服務(wù)四層互信關(guān)系，打通產(chǎn)業(yè)協(xié)同信任壁壘，達(dá)成來(lái)源可查、模型可信、運(yùn)行可控、行為可溯、權(quán)限可管、協(xié)同可靠、用戶放心的全維度治理效果，實(shí)現(xiàn)技術(shù)安全性、行業(yè)合規(guī)性與用戶信任感的有機(jī)統(tǒng)一，為后續(xù)防護(hù)技術(shù)迭代與治理規(guī)則落地提供頂層支撐。

針對(duì)移動(dòng)終端智能體在權(quán)限調(diào)用、數(shù)據(jù)流轉(zhuǎn)、自主行為、運(yùn)行環(huán)境等方面的安全風(fēng)險(xiǎn)，以及責(zé)任邊界模糊、跨主體協(xié)同不足等階段性困境，移動(dòng)終端智能體安全可信生態(tài)應(yīng)以“權(quán)限可管、數(shù)據(jù)可溯、行為可控、環(huán)境可托”為四維核心目標(biāo)。這四方面目標(biāo)各有技術(shù)治理指向，相互支撐、耦合聯(lián)動(dòng)，形成完整的閉環(huán)治理邏輯。

（一）權(quán)限可管

聚焦智能體權(quán)限申請(qǐng)、調(diào)用、變更、釋放全流程管控，以最小必要、場(chǎng)景適配、動(dòng)態(tài)可控為核心原則，構(gòu)建精細(xì)化、動(dòng)態(tài)化的授權(quán)管控體系，實(shí)現(xiàn)權(quán)限按需分配、場(chǎng)景化授權(quán)。重點(diǎn)落實(shí)用戶敏感權(quán)限實(shí)質(zhì)確認(rèn)、高危操作實(shí)時(shí)攔截、權(quán)限動(dòng)態(tài)回收調(diào)整等機(jī)制，嚴(yán)格規(guī)范智能體及第三方應(yīng)用的權(quán)限申請(qǐng)與調(diào)用行為，從源頭構(gòu)建安全管控與合規(guī)授權(quán)體系。

（二）數(shù)據(jù)可溯

聚焦智能體全生命周期數(shù)據(jù)安全管理，確立數(shù)據(jù)全程可追溯治理目標(biāo)。圍繞智能體數(shù)據(jù)采集、存儲(chǔ)、流轉(zhuǎn)、使用、銷毀各環(huán)節(jié)搭建溯源管理體系，規(guī)范端內(nèi)數(shù)據(jù)交互與跨應(yīng)用數(shù)據(jù)流通路徑。依托端云協(xié)同審計(jì)機(jī)制，完整留存智能體數(shù)據(jù)調(diào)用、跨應(yīng)用流轉(zhuǎn)、本地處理、云端同步及安全銷毀等全鏈路操作記錄，形成不可篡改的可信審計(jì)臺(tái)賬。明確跨應(yīng)用數(shù)據(jù)流轉(zhuǎn)可信通道與權(quán)屬界定，確保各環(huán)節(jié)數(shù)據(jù)可追溯、可審計(jì)、可核驗(yàn)，防范數(shù)據(jù)泄露、篡改、濫用風(fēng)險(xiǎn)。

（三）行為可控

聚焦智能體自主決策、執(zhí)行交互全流程管控，以用戶知情權(quán)與控制權(quán)保障為核心原則，構(gòu)建技術(shù)防護(hù)與責(zé)任約束相結(jié)合的全流程行為管控體系，實(shí)現(xiàn)操作可解釋、行為可預(yù)見、異常可阻斷、過(guò)程可干預(yù)。通過(guò)技術(shù)手段向用戶清晰告知智能體行為目的、執(zhí)行流程、預(yù)期結(jié)果及潛在影響，支持用戶對(duì)相關(guān)操作的暫停、終止、撤銷功能，并對(duì)高危操作設(shè)置用戶建立二次確認(rèn)機(jī)制；規(guī)范主動(dòng)服務(wù)與多模態(tài)交互行為，禁止彈窗劫持、誘導(dǎo)點(diǎn)擊、靜默執(zhí)行等違規(guī)操作，降低“AI幻覺”、對(duì)抗樣本攻擊引發(fā)的誤操作風(fēng)險(xiǎn)，建立行為失范后的責(zé)任追溯與舉證機(jī)制，明確廠商及第三方應(yīng)用的行為管理責(zé)任。

（四）環(huán)境可托

聚焦端云協(xié)同底層軟硬件安全底座建設(shè)，構(gòu)建一體化、規(guī)范化的跨主體安全防護(hù)體系，夯實(shí)智能體可信運(yùn)行環(huán)境。終端側(cè)可依托可信執(zhí)行環(huán)境（TEE）、安全元件（SE）等安全技術(shù)，搭建分層化可信根基，保障端側(cè)模型運(yùn)行、數(shù)據(jù)存儲(chǔ)的底層安全。云端依托隱私計(jì)算、機(jī)密計(jì)算、遠(yuǎn)程可信證明等核心技術(shù)，搭建通信加密、邊界防護(hù)、異常流量監(jiān)測(cè)一體化安全防護(hù)體系，筑牢端云數(shù)據(jù)交互與協(xié)同運(yùn)行安全屏障。同時(shí)，建立智能體與第三方應(yīng)用之間統(tǒng)一的可信身份鑒權(quán)機(jī)制與跨應(yīng)用風(fēng)控體系，制定標(biāo)準(zhǔn)化安全交互協(xié)議，補(bǔ)齊行業(yè)統(tǒng)一規(guī)范缺失的短板，規(guī)避因標(biāo)準(zhǔn)不統(tǒng)一引發(fā)的惡意利用、風(fēng)控失效、判定偏差等安全問(wèn)題，全方位打造安全穩(wěn)定、可信可控的端云協(xié)同與跨主體協(xié)同運(yùn)行環(huán)境。

四、結(jié) 語(yǔ)

移動(dòng)終端智能體作為人工智能技術(shù)落地的重要形態(tài)，正深刻改變著移動(dòng)服務(wù)模式與產(chǎn)業(yè)生態(tài)，但其自主化、跨域化、隱蔽化特性帶來(lái)的安全可信風(fēng)險(xiǎn)仍不容忽視。應(yīng)圍繞權(quán)限、數(shù)據(jù)、行為、環(huán)境四大核心目標(biāo)錨定治理方向，貼合產(chǎn)業(yè)實(shí)際補(bǔ)齊安全治理短板，這樣能夠有效化解各類新型安全可信風(fēng)險(xiǎn)，切實(shí)守護(hù)廣大用戶的合法權(quán)益。后續(xù)可依托既定四維治理目標(biāo)，逐步完善配套治理舉措，持續(xù)跟蹤技術(shù)演進(jìn)與風(fēng)險(xiǎn)變化，動(dòng)態(tài)優(yōu)化治理思路，推動(dòng)移動(dòng)終端智能體產(chǎn)業(yè)在安全可控前提下健康有序發(fā)展，為數(shù)字經(jīng)濟(jì)安全穩(wěn)健發(fā)展筑牢堅(jiān)實(shí)支撐。（傅山系本文通信作者）

（本文刊登于《中國(guó)信息安全》雜志2026年第5期）