機(jī)器人安全風(fēng)險(xiǎn)：曾有預(yù)警未被重視，多國(guó)管控滯后引擔(dān)憂

大家有沒(méi)有想過(guò)這樣一個(gè)場(chǎng)景：戰(zhàn)場(chǎng)上飛來(lái)一群無(wú)人機(jī)，它們不需要任何人操控，自己就能決定“殺誰(shuí)”和“怎么殺”。這不是科幻電影里的劇情，而是已經(jīng)發(fā)生的現(xiàn)實(shí)。早在十多年前，中方就看出了這背后的巨大風(fēng)險(xiǎn)，苦口婆心地勸大家：“這東西得管管，不然要出大事。”結(jié)果美英俄印這幾個(gè)大國(guó)，當(dāng)時(shí)一個(gè)個(gè)頭鐵根本聽(tīng)不進(jìn)去。然而，隨著技術(shù)風(fēng)向的突變，這些曾經(jīng)投反對(duì)票的國(guó)家，當(dāng)初有多傲慢，現(xiàn)在就有多尷尬。

提議監(jiān)管

咱們把時(shí)間軸撥回到2014年。那時(shí)候在日內(nèi)瓦，聯(lián)合國(guó)搞了個(gè)《特定常規(guī)武器公約》會(huì)議。中方代表當(dāng)時(shí)就非常嚴(yán)肅地提出來(lái)，必須對(duì)“致命性自主武器系統(tǒng)”，也就是大家俗稱的殺人機(jī)器人，進(jìn)行國(guó)際監(jiān)管。

中方的邏輯其實(shí)特別簡(jiǎn)單樸素：機(jī)器是沒(méi)有感情的，它不懂什么叫人道，也不懂什么叫適可而止。一旦代碼寫錯(cuò)了，或者被黑客給黑了，這玩意兒就是脫韁的野馬，誰(shuí)都拉不住。

可當(dāng)時(shí)那幾個(gè)軍事大國(guó)是什么反應(yīng)呢？

美國(guó)人那時(shí)覺(jué)得自己在科技上那是獨(dú)步天下，手里攥著最先進(jìn)的無(wú)人機(jī)技術(shù)，心想：“我憑什么要給自己套個(gè)籠頭？制定規(guī)則那是弱者才干的事，強(qiáng)者只需要自由飛翔。”

英國(guó)和俄羅斯也是差不多的心態(tài)，覺(jué)得這技術(shù)是未來(lái)的制高點(diǎn)，誰(shuí)先占領(lǐng)誰(shuí)就是老大，怎么能現(xiàn)在就自廢武功？

最讓人哭笑不得的是印度。當(dāng)時(shí)印度可能覺(jué)得自己也是個(gè)潛在的科技大國(guó)，要是現(xiàn)在簽了禁令，以后自己研發(fā)出來(lái)了沒(méi)法用怎么辦？于是也跟著投了反對(duì)票或者搞冷處理。

這一拖就是好幾年。中方在2016年、2019年，甚至到了2021年，還在不斷地敲警鐘，呼吁要制定具有法律約束力的國(guó)際文書。哪怕是在2020年，聯(lián)合國(guó)安理會(huì)報(bào)告披露了一架土耳其造的“卡古-2”無(wú)人機(jī)在利比亞完全自主地攻擊了人類，這幫人還是沒(méi)醒過(guò)味兒來(lái)。

他們當(dāng)時(shí)的算盤打得太精了，總覺(jué)得只要開(kāi)關(guān)掌握在自己手里，這把火就燒不到自己身上。

“略懂”一點(diǎn)技術(shù)

這幾年局勢(shì)變了。這些國(guó)家突然發(fā)現(xiàn)，那個(gè)曾經(jīng)苦口婆心勸大家“別搞軍備競(jìng)賽”的東方大國(guó)，在人工智能和無(wú)人裝備領(lǐng)域，居然跑得這么快。

現(xiàn)在的新聞上，中國(guó)的機(jī)器狗、智能無(wú)人機(jī)集群、自動(dòng)化防御系統(tǒng)，那個(gè)迭代速度簡(jiǎn)直讓西方眼花繚亂。

這時(shí)候，華盛頓那邊開(kāi)始坐不住了。他們猛然意識(shí)到一個(gè)很恐怖的事情：如果這個(gè)世界真的沒(méi)有規(guī)則，完全靠技術(shù)說(shuō)話，那美國(guó)未必就能永遠(yuǎn)穩(wěn)坐釣魚臺(tái)。

現(xiàn)在的情況是，美國(guó)一方面想搞“小圈子”的規(guī)則，另一方面又怕被反噬。2024年的時(shí)候，美國(guó)拉著英國(guó)和澳大利亞搞了“奧庫(kù)斯”（AUKUS）聯(lián)盟，還在測(cè)試AI驅(qū)動(dòng)的無(wú)人機(jī)協(xié)同作戰(zhàn)系統(tǒng)。他們這招其實(shí)挺損的，就是想繞開(kāi)聯(lián)合國(guó)，自己定一套標(biāo)準(zhǔn)，然后強(qiáng)加給全世界。

但中方早就看穿了這一套。我們一直堅(jiān)持要在聯(lián)合國(guó)的框架下談，大家坐下來(lái)平起平坐地談，而不是你美國(guó)一家說(shuō)了算。

微妙改變

從2023年開(kāi)始，美俄英印幾個(gè)國(guó)家的態(tài)度發(fā)生了些微妙的變化。

先說(shuō)俄羅斯。以前俄羅斯對(duì)管控這事兒也是挺抵觸的，畢竟那是戰(zhàn)斗民族，信奉火力至上。但到了2025年，情況不一樣了。中俄聯(lián)合聲明里明確把這個(gè)“殺人機(jī)器人”的管控納入了雙邊合作議程。

為什么俄羅斯轉(zhuǎn)性了？因?yàn)樗麄円部疵靼琢耍鞣絿?guó)家正在搞技術(shù)圍堵。如果中俄不聯(lián)手制定一套公平的規(guī)則，以后這解釋權(quán)全在西方手里，那還得了？所以現(xiàn)在俄羅斯跟中國(guó)配合得挺好，雙方都在推動(dòng)一個(gè)叫“分類分級(jí)管理”的方案。簡(jiǎn)單說(shuō)就是，不能一刀切，得把完全自主殺人的和有人類輔助的區(qū)分開(kāi)。

再看看英國(guó)和印度，這倆現(xiàn)在是典型的“墻頭草”。

英國(guó)以前是唯美國(guó)馬首是瞻，大哥說(shuō)不簽，我就不簽。但這兩年英國(guó)國(guó)內(nèi)和歐洲那邊的輿論壓力太大了，老百姓都怕這玩意兒失控。所以2024年以來(lái)，英國(guó)開(kāi)始有點(diǎn)想往多邊管控上靠，參與了一些歐盟的倫理審查機(jī)制，也開(kāi)始跟中俄接觸。畢竟英國(guó)人也清楚，如果光跟著美國(guó)混，萬(wàn)一出事了自己大概率是炮灰。

印度就更有意思了。2025年印度重啟了全自主武器研發(fā)，但這次他們學(xué)乖了，加了個(gè)“倫理審查”環(huán)節(jié)。印度現(xiàn)在也看清了形勢(shì)，自己在技術(shù)上跟中美還有差距，如果完全沒(méi)規(guī)則，自己周邊的安全環(huán)境就太惡劣了。所以印度現(xiàn)在在金磚國(guó)家的框架下，也開(kāi)始跟中國(guó)、俄羅斯商量怎么管控這事兒。

說(shuō)白了，這些國(guó)家現(xiàn)在的態(tài)度轉(zhuǎn)變，不是因?yàn)樗麄兺蝗涣夹陌l(fā)現(xiàn)，而是因?yàn)樗麄儼l(fā)現(xiàn)“無(wú)序發(fā)展”對(duì)自己也沒(méi)好處了。

“人類控制”才是最后一道防線

現(xiàn)在全球關(guān)于這個(gè)“殺人機(jī)器人”的爭(zhēng)論，核心就在于一點(diǎn)：到底能不能讓機(jī)器自己決定開(kāi)火？

中方的立場(chǎng)一直特別堅(jiān)定，就是四個(gè)字：人類控制。

不管你的AI算法多先進(jìn)，不管你的處理器多快，最后按下那個(gè)“發(fā)射”按鈕的，必須是人，不能是冷冰冰的代碼。這就是中方提出的“以人為本、智能向善”的原則。

我們?cè)诼?lián)合國(guó)提出了一個(gè)很務(wù)實(shí)的方案，叫“分類分級(jí)”。

什么意思呢？就是把這些武器分成兩類。一類是“不可接受的”，也就是那些完全脫離人類控制、自己能滿世界找人殺的，這種必須徹底禁止，就像禁止化學(xué)武器一樣。另一類是“可接受的”，也就是雖然有智能化輔助，但關(guān)鍵時(shí)刻還得人來(lái)拍板的，這種我們可以通過(guò)技術(shù)規(guī)范來(lái)管理。

這個(gè)方案現(xiàn)在得到了很多發(fā)展中國(guó)家的支持。大家都覺(jué)得，這才是解決問(wèn)題的正道。

但阻力依然存在。美國(guó)和以色列到現(xiàn)在還是不想簽?zāi)欠N有法律約束力的條約。美國(guó)人的算盤是搞“自愿管控”，就是說(shuō)“我答應(yīng)我會(huì)管好我自己，但你不能寫進(jìn)法律里罰我”。

特別是北約在2024年更新了那個(gè)《人工智能戰(zhàn)略》，字里行間還是想把西方的技術(shù)標(biāo)準(zhǔn)凌駕于聯(lián)合國(guó)規(guī)則之上。他們覺(jué)得只要標(biāo)準(zhǔn)是他們定的，他們就能永遠(yuǎn)卡別人的脖子。

未來(lái)的路怎么走？

眼看著2026年都過(guò)完了，這個(gè)“殺人機(jī)器人”的管控問(wèn)題，估計(jì)還得扯皮一陣子。

未來(lái)的格局很可能是“多邊協(xié)商為主，雙邊協(xié)作補(bǔ)充”。像中俄這樣的大國(guó)會(huì)繼續(xù)在聯(lián)合國(guó)推動(dòng)實(shí)質(zhì)性的條約，而美國(guó)可能還會(huì)繼續(xù)在外面搞他的小圈子。

但有一點(diǎn)是肯定的，那種“誰(shuí)技術(shù)強(qiáng)誰(shuí)就有理”的野蠻時(shí)代，正在慢慢過(guò)去。各國(guó)都開(kāi)始意識(shí)到，如果再不給這些鋼鐵怪獸套上韁繩，最后被反噬的可能就是人類自己。

對(duì)于那些曾經(jīng)傲慢地拒絕中方提議的國(guó)家來(lái)說(shuō)，現(xiàn)在的局面確實(shí)挺諷刺的。當(dāng)初給你們機(jī)會(huì)簽條約，你們不珍惜；現(xiàn)在看到別人的技術(shù)追上來(lái)了，想談規(guī)則了？

行啊，那就坐下來(lái)，按聯(lián)合國(guó)的規(guī)矩，咱們好好談?wù)劇２贿^(guò)這一次，規(guī)則怎么定，可就不是你們一家說(shuō)了算了。