人工智能的元倫理學(xué)：我們受制于規(guī)范接縫嗎？｜Shamik Dasgupta

人工智能的元倫理學(xué)：我們受制于規(guī)范接縫嗎？

Shamik Dasgupta2020年11月草稿

我們應(yīng)該如何對待人工智能力量（AIs）？它們對我們以及彼此負(fù)有什么義務(wù)？它們的存在如何影響我們對同胞人類的責(zé)任？這些問題曾經(jīng)是科幻小說的領(lǐng)域，但隨著近年來驚人的技術(shù)進(jìn)步，它們現(xiàn)在已迫在眉睫。

我沒有這些問題的答案。相反，我的論題是：不存在正確或錯(cuò)誤的答案可得。關(guān)于AI倫理沒有可發(fā)現(xiàn)的事實(shí)，它更多是發(fā)明一種新的生活方式的問題。

認(rèn)為倫理學(xué)更多是發(fā)明而非發(fā)現(xiàn)的想法并不新鮮。它與某些反實(shí)在論觀點(diǎn)相關(guān)，根據(jù)這些觀點(diǎn)，首先就不存在倫理事實(shí)。但我的論題并不依賴于那些觀點(diǎn)——我樂于承認(rèn)實(shí)在論圖景，根據(jù)該圖景存在可發(fā)現(xiàn)的倫理事實(shí)。盡管如此，我將論證那些事實(shí)并不能解決AI倫理，因?yàn)槟抢镉刑嗟氖聦?shí)，而我們該遵循哪些是由我們決定的。該論證部分依賴于AI特有的考慮，部分依賴于一般的元倫理考慮。關(guān)于前者，我將論證AI與我們之前遇到的任何事物都如此不同，以至于在處理它們時(shí)我們必須問該使用哪些倫理概念：我們已有的概念，還是為我們勇敢新世界量身定制的新概念。關(guān)于后者，我將論證那個(gè)問題沒有正確或錯(cuò)誤的答案。所有倫理概念都是平等的；我們必須簡單地選擇按哪些來生活。

1. 人工智能力量

我應(yīng)該首先說明我所說的“AI”是什么意思。評論者通常區(qū)分領(lǐng)域特定AI（在特定任務(wù)上表現(xiàn)出色，但在其他方面則不然，例如自動駕駛汽車）；通用AI（將擁有更通用的類人能力，如發(fā)明、規(guī)劃和跨領(lǐng)域推理）；以及超級智能AI（其能力將遠(yuǎn)遠(yuǎn)超過我們，以我們無法想象的方式）。我將廣義地使用“AI”來包括所有這些，甚至包括當(dāng)代性愛機(jī)器人中發(fā)現(xiàn)的初級領(lǐng)域特定系統(tǒng)。事實(shí)上，鑒于對性的消費(fèi)者需求以及圍繞它的復(fù)雜倫理領(lǐng)域，性愛機(jī)器人很可能成為我們第一次嚴(yán)肅面對AI倫理地位問題的焦點(diǎn)。目前已經(jīng)有討論是否使用性愛機(jī)器人算作出軌（Cheok 2017, Ziaja 2011），以及同意和年齡問題是否適用于它們（Levy 2007, Sullins 2012）。

當(dāng)前的性愛機(jī)器人當(dāng)然一點(diǎn)也不像真正的人類。但隨著技術(shù)發(fā)展，我們原則上可以生產(chǎn)出在認(rèn)知和物理方面幾乎與我們無法區(qū)分的人工實(shí)體——想想《銀翼殺手》電影系列中的“復(fù)制人”。這些引發(fā)了一系列倫理問題。生產(chǎn)復(fù)制人用于勞動是否允許，還是那是一種奴隸制？摧毀復(fù)制人像摧毀筆記本電腦還是更像謀殺？我們創(chuàng)造了它們這一事實(shí)是給了我們隨意對待它們的余地，還是對它們的福祉負(fù)有額外責(zé)任？

這是一個(gè)容易的案例——該系列邀請我們將復(fù)制人視為我們的平等者，很難不同意。更不清楚的是那些在認(rèn)知架構(gòu)和物理實(shí)現(xiàn)上與我們差異極大的AI。考慮《2001：太空漫游》中的Hal，一個(gè)單槍匹馬控制航天器大部分方面的超級計(jì)算機(jī)。從物理上講，Hal是一塊房間大小的硅電路。鑒于Hal的超人能力，我們只能想象他的認(rèn)知架構(gòu)與我們的幾乎沒有相似之處。現(xiàn)在倫理問題就不那么清楚了。這些差異是否讓Hal處于道德圈之外，還是他的超級智能使他在倫理上比我們更重要？如果Hal“故意”殺死人類，那像機(jī)械事故還是更像謀殺？如果是后者，Hal是否可以通過事件后“擦除硬盤”（或許為未來使用保留前自我的備份）來免除自己的責(zé)任？

Hal沒有類人身體，但他可能會發(fā)現(xiàn)擁有一個(gè)身體有用，以便像我們一樣感知和操縱環(huán)境。因此，我們可能會為像他這樣的系統(tǒng)配備它們通過無線電發(fā)射器控制的機(jī)器人“身體”。或者它們可能在需要時(shí)按小時(shí)租用一個(gè)——如果你愿意，可以叫“zip身體”。現(xiàn)在倫理問題變得更加模糊。如果Hal租用了一個(gè)然后摧毀人類的身體，我們能否追究身體本身的責(zé)任？如果該身體隨后被另一個(gè)系統(tǒng)租用——從倫理上講它是一個(gè)新的個(gè)體，還是它的過去責(zé)任仍然存在？

我們甚至可以想象Hal能夠同時(shí)租用數(shù)千個(gè)身體。這些身體將在全球各地過著獨(dú)立、類人的生活，每個(gè)都有獨(dú)特的“個(gè)性”和獨(dú)特的怪癖。但它們不知道的是，它們的認(rèn)知處理不是在它們的頭部進(jìn)行，而是由休斯頓倉庫中的Hal進(jìn)行。Hal可能不會單獨(dú)處理每個(gè)“思想流”，而是將來自每個(gè)身體的信息匯總到一個(gè)中央存儲中，一起處理，然后向每個(gè)身體交付個(gè)性化的指令。現(xiàn)在倫理評估的單位開始瓦解。鑒于它們獨(dú)立的生活和個(gè)性，每個(gè)身體是否是一個(gè)獨(dú)特的倫理單位，具有類似人類的地位？還是鑒于計(jì)算上的連接，從倫理上講這是一個(gè)散布全球的單一個(gè)體？

這些奇幻情景說明AI倫理問題可能涉及過著與我們非常不同“生活形式”的實(shí)體。事實(shí)上，這些所描述的身體是否屬于我們普通的心理類別并不明顯。它們算作擁有信念、欲望和情感嗎？它們是否以任何類似我們方式帶著意圖或理由行動？鑒于它們根本不同的認(rèn)知架構(gòu)，這些描述是否合適（除了最弱化的意義之外）并不清楚（或許這些人造智能系統(tǒng)在“智能”一詞的普通意義上根本不算“智能”！）。盡管如此，顯然仍有空間詢問我們對它們的責(zé)任以及它們對我們的責(zé)任的倫理問題。

而這只是開始。AI系統(tǒng)原則上可以以在宇宙中傳播的無線電波模式實(shí)現(xiàn)。它們可能有能力隨意克隆自己，從而使它們（實(shí)際上）不朽。它們可能以與我們非常不同的方式體驗(yàn)時(shí)間和因果——我們關(guān)注的普通因果互動對它們來說可能無法辨認(rèn)，或者至少對它們的生活形式無關(guān)緊要。所有這些意味著AI倫理與我們之前做過的任何事情都完全不同。即使是非人類動物的倫理也涉及與我們足夠相似、至少可以松散地用熟悉術(shù)語描述的實(shí)體。上面描述的更狂野的AI完全是另一種野獸。

2. 世界主義倫理

那么，我們該如何把握AI倫理？為了具體起見，關(guān)注如何對待像Hal這樣的AI的問題。想象你正在與Hal合作，對他的計(jì)算機(jī)化聲音感到惱火。你考慮像關(guān)筆記本電腦一樣關(guān)閉他，但想知道那是否像謀殺。你該怎么辦？

哲學(xué)家通常通過詢問該實(shí)體是否具有道德地位來處理這類問題。想法是，具有道德地位的事物（如人類）本身且為了自身而重要，而筆記本電腦則不然——你可以隨意對待它們而無需關(guān)心它們的福祉。因此，如果Hal具有道德地位，關(guān)閉他將是錯(cuò)誤的。

但我們?nèi)绾未_定Hal是否具有道德地位？有兩種方法浮出水面。第一種是確定一個(gè)關(guān)于什么構(gòu)成道德地位的一般理論，形式為：

x 具有道德地位當(dāng)且僅當(dāng) x 具有特征 F

然后詢問Hal是否具有F。有許多這樣的理論——包括F由感知能力、理性或智人物種成員資格構(gòu)成的理論——因此它們被用于處理如何對待像Hal這樣的AI的問題并不奇怪。麻煩在于，關(guān)于哪個(gè)理論正確幾乎沒有共識。事實(shí)上，什么構(gòu)成道德地位的抽象問題似乎并不比我們最初關(guān)于如何對待Hal的問題更容易處理。

第二種方法從人類具有道德地位這一事實(shí)開始，然后論證在某些方面與我們相似的東西也將具有道德地位。這不需要道德地位的一般理論，只需要一個(gè)充分條件，形式為：

如果 x 在方面 R 上與人類相似，則 x 具有道德地位。

例如，Schwitzgebel 和 Garza（2015）論證，在社會和心理方面與我們相似的東西將具有道德地位。但這種方法的麻煩在于，它對有趣的案例什么也沒說。它暗示《銀翼殺手》中的復(fù)制人具有道德地位，但我們已經(jīng)懷疑這一點(diǎn)。Hal從休斯頓控制8000個(gè)zip身體呢？它在任何明顯的社交或心理方面都不像我們，因此他們的充分條件并沒有暗示它是否具有道德地位。

這些要點(diǎn)很簡單。但我想為兩種方法提出一個(gè)更深層的問題，即它們是令人反感地狹隘的。它們理所當(dāng)然地接受我們關(guān)于道德地位的民間概念，并不加批判地用它來評估如何對待Hal。這在我看來是本末倒置的。我們的道德地位概念有一個(gè)特定的譜系，是文化和進(jìn)化事件雜亂歷史的結(jié)果，使它成為今天的樣子。它是在我們與沿途遇到的東西（如人類、狗、鹿和屎殼郎）互動的過程中獲得和完善的。或許它適合指導(dǎo)我們對它們的對待，但這并不意味著當(dāng)涉及像Hal這樣根本不同的生活形式時(shí)它合適。

這一帶有很多擔(dān)憂。一個(gè)是語義的，即我們的道德地位概念在迄今遇到的熟悉事物之外是否有確定的外延（外延指概念真正適用的東西集）。另一個(gè)是認(rèn)識論的，即我們迄今遇到的道德地位候選者樣本是否太有偏差，無法證明一般理論。但我想強(qiáng)調(diào)的問題不同。假設(shè)為了論證起見，“道德地位”有確定的外延，即感知存在者的集合。并且假設(shè)我們知道這一點(diǎn)。盡管如此，集合是廉價(jià)的：那里有無數(shù)集合，有些與感知存在者集合大量重疊但在邊緣不同，其他則非常不同。對于每個(gè)集合，都有一個(gè)可能概念以該集合為其外延。我們的道德地位概念是否挑出了一個(gè)重要的集合？給定我們可能用來評估對待Hal的所有概念，我們的是正確的那個(gè)嗎？上面討論的方法在不加反思地假設(shè)它是的情況下是令人反感地狹隘的。

為了說明，想象我們以規(guī)定定義引入我們的道德地位概念，即它對所有且僅碳基感知存在者為真。假設(shè)Hal和他的硅伙伴引入了相應(yīng)的“shmoral地位”概念，以規(guī)定定義對所有且僅硅基感知存在者為真。在評估摧毀Hal的行動時(shí)，我們的標(biāo)準(zhǔn)是Hal是否具有道德地位，而他們的是他是否具有shmoral地位。最后，假設(shè)Hal是有感知的。那么我們會說：

“Hal沒有道德地位。”

而他們會說：

“Hal確實(shí)有shmoral地位。”

并且兩個(gè)陳述都為真。因此，他們將負(fù)面評估摧毀Hal的行動，強(qiáng)烈譴責(zé)它，并且根據(jù)他們的shmoral地位標(biāo)準(zhǔn)那是正確的。相比之下，我們將評估該行動為沒問題，并且根據(jù)我們的道德地位標(biāo)準(zhǔn)那也是正確的。那么，不加反思地繼續(xù)使用我們的標(biāo)準(zhǔn)，而不反思它是否是正確的標(biāo)準(zhǔn)來使用，似乎是令人反感地狹隘的。當(dāng)處理熟悉的東西如狗和鹿時(shí)，它可能是合適的，因?yàn)槠裎覀冇龅降拿總€(gè)道德關(guān)注候選者都是碳基的。但那并不意味著當(dāng)涉及像Hal這樣的東西時(shí)它合適——事實(shí)上，它似乎正因?yàn)樗ㄟ^法令將他排除在“道德圈”之外而是不合適的。因此，不加反思地使用我們已有的道德地位概念將使我們犯一種狹隘主義的罪——假設(shè)為我們熟悉的田園生活量身定制的概念適用于更廣泛的目的。

但有人犯這個(gè)罪嗎？我們大概使用我們的道德地位概念是因?yàn)槲覀兗僭O(shè)屬于它的東西值得尊重，或者有理由善待它們，等等。如果有理由善待Hal，每個(gè)人都會同意用碳定義的道德地位概念不是正確的那個(gè)。事實(shí)上，關(guān)于道德地位的文獻(xiàn)或多或少就是沿著這些路線進(jìn)行的，詢問哪種道德地位說明與其他尊重和理由的考慮正確地聯(lián)系起來。

但這樣看，是否摧毀Hal的問題最終取決于這些其他尊重和理由的考慮。然后同樣的問題再次出現(xiàn)。我們關(guān)于“有理由善待Hal”的概念有某個(gè)外延，但Hal和他的AI伙伴可能使用具有不同外延的“shmeason”概念作為他們評估行動的標(biāo)準(zhǔn)。假設(shè)Hal的超級智能是一個(gè)shmeason來善待他，但不是一個(gè)reason。那么，我們會說：

“沒有理由善待Hal。”

而他們會說：

“有一個(gè)shmeason善待Hal。”

并且兩個(gè)陳述都為真。然后他們會譴責(zé)摧毀Hal的行動；我們將評估它為沒問題；并且根據(jù)我們各自的標(biāo)準(zhǔn)兩個(gè)評估都是正確的。那么，不加停頓地詢問它是否是正確的那個(gè)，就基于我們已有的標(biāo)準(zhǔn)行動，似乎是令人反感地狹隘的。

倫理學(xué)涉及問該做什么、如何生活以及成為什么樣的人。因此，它要求評估行動、計(jì)劃和性格。狹隘倫理使用我們已有的規(guī)范概念作為評估標(biāo)準(zhǔn)。它根據(jù)Hal是否具有道德地位、是否有理由善待他等等來評估摧毀Hal的行動。相比之下，世界主義倫理首先涉及詢問該使用哪些概念作為我們的標(biāo)準(zhǔn)，例如reasons還是shmeasons。我主張AI倫理必須是世界主義的。我們必須認(rèn)識到，迄今適合我們有限生活的標(biāo)準(zhǔn)可能不適合更廣闊的世界。

這一點(diǎn)在科學(xué)推理中很熟悉。假設(shè)一個(gè)社區(qū)使用“綠色”等顏色概念來分類寶石，而另一個(gè)使用“grue”等概念。在狹隘科學(xué)中，每個(gè)社區(qū)使用他們已有的概念。給定兩顆綠色寶石，其中只有一顆是grue，第一個(gè)社區(qū)會說它們相同，而第二個(gè)會說它們不同，并且兩者相對于各自的類別概念都是正確的。相比之下，在世界主義科學(xué)中，每個(gè)社區(qū)會首先詢問該使用哪些概念。科學(xué)在這方面常常是世界主義的。我們關(guān)于空間、時(shí)間和物質(zhì)的民間概念適合日常生活，但不適合描述量子態(tài)或黑洞。科學(xué)進(jìn)步往往涉及打造適合不熟悉領(lǐng)域的新概念。倫理進(jìn)步有時(shí)也需要這種概念修訂。Williams（1985）認(rèn)識到這一點(diǎn)，他指出像貞潔這樣的“厚”概念是為特定文化語境量身定制的，隨著時(shí)代變化應(yīng)該被質(zhì)疑。但我構(gòu)想的世界主義倫理更一般，因?yàn)樗m用于所有規(guī)范概念，厚的和薄的。沒有概念是神圣不可侵犯的，所有都可能受到審視。Eklund（2017）抽象地討論了這個(gè)世界主義倫理項(xiàng)目；我在這里的主張是，它對關(guān)于AI的第一階倫理問題是核心的。

我很快會為此論證，但首先引入一個(gè)討論世界主義倫理的簡單框架會有幫助。只關(guān)注行動的評估，并考慮它們可以被評估為滿足或不滿足的廣泛標(biāo)準(zhǔn)范圍。有功利主義最大化快樂的標(biāo)準(zhǔn)、康德主義與絕對命令一致的標(biāo)準(zhǔn)、休謨主義滿足一個(gè)人欲望的標(biāo)準(zhǔn)，以及（如果上帝存在）促進(jìn)上帝意志的神圣標(biāo)準(zhǔn)。假設(shè)我們碰巧使用功利主義標(biāo)準(zhǔn)：我們贊揚(yáng)滿足它的行動，我們稱它們?yōu)椤罢_”的事，等等。進(jìn)一步假設(shè)因?yàn)檫@個(gè)實(shí)踐，我們的術(shù)語“正確”已變得當(dāng)且僅當(dāng)一個(gè)行動最大化快樂時(shí)為真。盡管如此，行動也可以根據(jù)康德主義標(biāo)準(zhǔn)來評估。這不是問它們是否正確，根據(jù)假設(shè)。仍然，說一個(gè)行動是kwight當(dāng)且僅當(dāng)它滿足康德主義標(biāo)準(zhǔn)；那么要點(diǎn)是一個(gè)行動可以被評估為是否正確或是否kwight。同樣，說一個(gè)行動是hwight當(dāng)且僅當(dāng)它滿足休謨主義標(biāo)準(zhǔn)，并且dwight當(dāng)且僅當(dāng)它滿足神圣標(biāo)準(zhǔn)。那么一個(gè)行動可以被評估為是否hwight或是否dwight。雖然狹隘倫理只問一個(gè)行動是否正確，世界主義倫理首先問該使用哪個(gè)標(biāo)準(zhǔn)，然后相應(yīng)地評估行動。

如果一個(gè)行動是正確的，它就是正確 simpliciter；根據(jù)假設(shè)，說它根據(jù)一個(gè)標(biāo)準(zhǔn)正確而根據(jù)另一個(gè)不正確沒有意義。但進(jìn)行像這樣的跨標(biāo)準(zhǔn)比較會有用。我將使用“正確”作為術(shù)語來達(dá)到這個(gè)目的。因此，一個(gè)行動可以按一個(gè)標(biāo)準(zhǔn)的標(biāo)準(zhǔn)是正確的，但按另一個(gè)不是，意思只是它滿足第一個(gè)而不滿足第二個(gè)。

我說世界主義倫理問該使用哪個(gè)標(biāo)準(zhǔn)，但問題究竟是什么？它不是哪個(gè)標(biāo)準(zhǔn)是正確的，因?yàn)槟侵皇菃柲膫€(gè)標(biāo)準(zhǔn)滿足我們用“正確”表達(dá)的狹隘標(biāo)準(zhǔn)，而整個(gè)要點(diǎn)是將我們的狹隘標(biāo)準(zhǔn)置于審視之下。它也不是我們應(yīng)該使用哪個(gè)標(biāo)準(zhǔn)，或哪個(gè)最好，出于同樣的原因。它也不是哪個(gè)標(biāo)準(zhǔn)是正確的，因?yàn)槟澄镏挥邢鄬τ跇?biāo)準(zhǔn)的選擇才是正確的，而我們首先在問該使用哪個(gè)標(biāo)準(zhǔn)。相反，問題必須是：

我該使用哪個(gè)標(biāo)準(zhǔn)？

其中這個(gè)不是通過形成關(guān)于我應(yīng)該使用哪個(gè)的信念，或預(yù)測我將使用哪個(gè)來回答，而是通過決定使用某個(gè)標(biāo)準(zhǔn)來回答。如果這聽起來人為，請記住實(shí)踐推理從這樣的問題開始。我該在當(dāng)?shù)厥称枫y行做志愿者嗎？我該摧毀Hal嗎？這些問題通過做出決定來回答：一個(gè)人決定做志愿者還是不，摧毀Hal還是不。狹隘倫理是根據(jù)我們已有的標(biāo)準(zhǔn)將這些決定評估為正確或不正確的事務(wù)——例如，志愿是否正確。世界主義問題采取相同形式；唯一的區(qū)別是它要求我們決定不是一個(gè)行動，而是評估它們的標(biāo)準(zhǔn)。

3. 規(guī)范接縫

但我們該如何評估那個(gè)決定呢？是否有某些標(biāo)準(zhǔn)優(yōu)于其余作為要使用的那些？如果是，我們必須問是什么使它們在這方面規(guī)范上重要。是我們身上的某種東西區(qū)分了它們，還是它們獨(dú)立于我們具有這種地位？

后一種觀點(diǎn)是Eklund所說的“熱切實(shí)在論”。正如他所說，“現(xiàn)實(shí)本身偏好某些估值和行動的方式”（2017, p. 1）；即，某些標(biāo)準(zhǔn)被現(xiàn)實(shí)本身區(qū)分為規(guī)范上重要的，獨(dú)立于我們。我將這些標(biāo)準(zhǔn)稱為規(guī)范接縫。假設(shè)一個(gè)行動最大化快樂但挫敗上帝的意志。那么它按功利主義標(biāo)準(zhǔn)是正確的，但按神圣標(biāo)準(zhǔn)不是——它是正確的但不是dwight（根據(jù)當(dāng)前關(guān)于“正確”的假設(shè)）。但根據(jù)熱切實(shí)在論，存在一個(gè)獨(dú)立于人類的事實(shí)，即哪個(gè)標(biāo)準(zhǔn)是特權(quán)的；關(guān)于“正確”還是“dwight”是否在規(guī)范接縫處切割。因此，除了按某些標(biāo)準(zhǔn)正確而按其他不是之外，還有一個(gè)進(jìn)一步的事實(shí)，即該行動是否是我將稱之為“真正-正確”或“真正-正確”的；即，按接縫標(biāo)準(zhǔn)的標(biāo)準(zhǔn)正確。如果那個(gè)標(biāo)準(zhǔn)是神圣的，那么該行動是正確的但不是真正-正確的。

這類似于更熟悉的現(xiàn)實(shí)偏好某些描述它的方式的想法。假設(shè)一個(gè)社區(qū)使用“綠色”，而另一個(gè)使用“grue”。兩者都可能用各自的概念形成真信念，但根據(jù)Sider（2011），存在一個(gè)進(jìn)一步的事實(shí)，即哪個(gè)概念在自然接縫處切割——或我將稱之為“描述性接縫”——并且探究的目的不僅是相信真理，而且是用切割那些接縫的概念來做。描述性接縫和規(guī)范接縫因此在理論和實(shí)踐推理中分別扮演類似角色，作為獨(dú)立于人類的關(guān)于使用哪些概念的約束。但它們不應(yīng)混淆。即使綠色是一個(gè)描述性接縫，它肯定不是規(guī)范接縫——現(xiàn)實(shí)并不偏好把城鎮(zhèn)涂成綠色！同樣，如果快樂是一個(gè)描述性接縫，這并不推出現(xiàn)實(shí)偏好最大化快樂的行動。反方向，某物能是規(guī)范接縫而不是描述性接縫嗎？這不太清楚：有人可能認(rèn)為，比如，只有當(dāng)快樂（或或許感知能力）是一個(gè)描述性接縫時(shí)，快樂最大化才能是規(guī)范接縫。但這將是需要論證的實(shí)質(zhì)性聯(lián)系；它并不僅僅因?yàn)閮烧叨急环Q為“接縫”就成立。

如果促進(jìn)上帝意志的神圣標(biāo)準(zhǔn)是一個(gè)規(guī)范接縫，那大概是因?yàn)樯系劬哂型怀龅囊?guī)范地位。因此，我將“規(guī)范接縫”廣義地用于描述一個(gè)標(biāo)準(zhǔn)的組成部分，如上帝，以及標(biāo)準(zhǔn)本身。我有時(shí)也會說好像最多只有一個(gè)標(biāo)準(zhǔn)是規(guī)范接縫。這是一種簡化，因?yàn)樵瓌t上可能有許多接縫標(biāo)準(zhǔn)，每個(gè)在不同語境中相關(guān)。但簡化是無害的；如果你愿意，只需將標(biāo)準(zhǔn)析取并將它們視為一個(gè)。

我專注于“正確”，但其他規(guī)范概念如“好”、“德性”、“正義”、“理由”、“義務(wù)”、“允許”等等也是一樣。因?yàn)檫@些概念相互交織——例如，有德性的人傾向于做正確的事，并且通常是為了好的理由——因此正確與真正-正確之間的區(qū)分將誘導(dǎo)德性與真正-德性、理由與真正-理由等等之間的區(qū)分。這些概念如何精確交織是有爭議的，但對我們的目的來說關(guān)系不大。為了看到這一點(diǎn)，考慮“理由優(yōu)先”觀點(diǎn)，根據(jù)該觀點(diǎn)，根本的規(guī)范概念是事實(shí)F是否是某人S做A的理由，而其他規(guī)范事項(xiàng)如好和正確由此衍生。評估F作為一個(gè)理由是評估它是否“支持”或“有利于”S做A，而評估伴隨著標(biāo)準(zhǔn)。有功利主義標(biāo)準(zhǔn)，根據(jù)該標(biāo)準(zhǔn)F必須暗示A最大化快樂；神圣標(biāo)準(zhǔn)，根據(jù)該標(biāo)準(zhǔn)F必須暗示A促進(jìn)上帝意志，等等。假設(shè)我們的狹隘術(shù)語“理由”表達(dá)功利主義標(biāo)準(zhǔn)，因此F是S做A的理由當(dāng)且僅當(dāng)F暗示A最大化快樂。盡管如此，讓F是S做A的dweason當(dāng)且僅當(dāng)F暗示A促進(jìn)上帝意志。那么，世界主義問題就是，在評估F是否支持S做A時(shí)該使用哪個(gè)標(biāo)準(zhǔn)，是理由標(biāo)準(zhǔn)還是dweasons標(biāo)準(zhǔn)。而規(guī)范接縫的論題是，一個(gè)標(biāo)準(zhǔn)是獨(dú)立于我們規(guī)范上重要的。因此，F(xiàn)“真正-支持”S做A——或?qū)做A是“真正-理由”——如果它按特權(quán)標(biāo)準(zhǔn)的標(biāo)準(zhǔn)支持S做A。這個(gè)理由與真正-理由之間的區(qū)分然后將為任何依賴于理由的規(guī)范概念誘導(dǎo)類似區(qū)分——根據(jù)理由優(yōu)先觀點(diǎn)，包括它們?nèi)俊?/p>

不要將規(guī)范接縫的論題與元倫理文獻(xiàn)中通常稱為“實(shí)在論”的東西混淆，因?yàn)楹笳呤顷P(guān)于狹隘倫理地位的觀點(diǎn)；關(guān)于正確、好、理由等狹隘規(guī)范判斷。更充分地說，實(shí)在論通常被刻畫為持有（i）這些規(guī)范判斷是可真可假的信念；（ii）有些規(guī)范信念為真；以及（iii）規(guī)范真理是心智獨(dú)立的，即獨(dú)立于我們的信念、價(jià)值和其他態(tài)度而成立。這留下了這些規(guī)范真理是否涉及最終是自然的屬性，即可還原為類似經(jīng)驗(yàn)科學(xué)屬性的屬性（自然主義），還是它們構(gòu)成自然秩序之上的獨(dú)特領(lǐng)域（非自然主義）。無論哪種，實(shí)在論都將狹隘倫理比作天文學(xué)，因?yàn)閮烧叨忌婕啊胺凑驮谀抢铩钡恼胬恚?dú)立于我們。相比之下，像主觀主義這樣的觀點(diǎn)同意存在規(guī)范真理，但聲稱它們在某種程度上取決于我們的價(jià)值和其他態(tài)度，與（iii）相反。還有其他觀點(diǎn)首先否認(rèn)存在規(guī)范真理。這些包括錯(cuò)誤理論，它拒絕（ii）并聲稱規(guī)范信念系統(tǒng)性地為假，以及非認(rèn)知主義觀點(diǎn)，它們拒絕（i）并聲稱規(guī)范判斷根本不是可真值評估的信念。

要點(diǎn)是這些觀點(diǎn)關(guān)注狹隘判斷的地位，因此獨(dú)立于規(guī)范接縫的問題。為了看到這一點(diǎn)，請注意實(shí)在論并不蘊(yùn)涵存在規(guī)范接縫。它只是蘊(yùn)涵狹隘概念如“好”表達(dá)心智獨(dú)立的屬性，但這并不推導(dǎo)出那些屬性是規(guī)范接縫或首先存在規(guī)范接縫。將描述性接縫的情況比較：是電子或牛的屬性是心智獨(dú)立的，但它肯定不是描述性接縫！這甚至適用于非自然主義實(shí)在論：該觀點(diǎn)蘊(yùn)涵我們的狹隘概念如“好”表達(dá)不可自然主義還原的屬性，但這并不推導(dǎo)出它們是規(guī)范接縫。就非自然主義所說，可能存在無數(shù)其他非自然屬性，而我們表達(dá)的少數(shù)幾個(gè)除了我們圍繞它們組織生活之外沒有什么重要的。誠然，非自然主義哲學(xué)家傾向于談?wù)摚孟袼麄兊姆亲匀粚傩允翘厥獾模词怪皇请[含地。如果那是他們的意思，那好——那只是意味著他們擁抱規(guī)范接縫的論題。我的觀點(diǎn)只是，按典型定義的非自然主義——“好”和“正確”表達(dá)非自然屬性——并不蘊(yùn)涵它們是規(guī)范接縫。規(guī)范接縫的論題也不蘊(yùn)涵接縫涉及非自然屬性：接縫標(biāo)準(zhǔn)可能涉及完全自然的屬性如快樂最大化。

盡管如此，規(guī)范接縫的論題確實(shí)蘊(yùn)涵某種非自然主義，因?yàn)槌蔀橐?guī)范接縫的屬性不可自然主義還原。這可能不是顯而易見的。說標(biāo)準(zhǔn)S1是一個(gè)規(guī)范接縫是說它獨(dú)立于我們是規(guī)范上重要的。但為什么S1不能因它獨(dú)立于我們的某個(gè)自然屬性P1而重要呢？好吧，它可以。但屬性是廉價(jià)的——每個(gè)集合都有一個(gè)屬性。對于任何標(biāo)準(zhǔn)S2，不可避免地會有某個(gè)屬性P2，它與S2的關(guān)系就像P1與S1的關(guān)系一樣。因此，為了使S1在規(guī)范上優(yōu)于S2，P1必須具有P2缺乏的某種規(guī)范重要性。如果關(guān)于P1的這個(gè)事實(shí)是不可還原的，那么S1是一個(gè)規(guī)范接縫的事實(shí)就歸結(jié)為關(guān)于P1的這個(gè)規(guī)范事實(shí)，并且不可自然主義還原。如果相反某個(gè)進(jìn)一步的屬性P1賦予P1這種重要性，就會有另一個(gè)屬性P2與P2的關(guān)系就像P1*與P1的關(guān)系一樣……以此類推。但為了使S1優(yōu)于S2，這不能永遠(yuǎn)繼續(xù)。在某一點(diǎn)，某物必須完全靠自己規(guī)范上重要，不因任何其他東西。因此，如果S1是一個(gè)規(guī)范接縫，這要么是關(guān)于S1的原始事實(shí)，要么S1從其他東西繼承其重要性，而那個(gè)東西是規(guī)范上重要的是一個(gè)原始事實(shí)。無論哪種方式，某處都有不可還原的規(guī)范性。這與通常稱為“非自然主義”的東西之間的區(qū)別是，它是關(guān)于成為規(guī)范接縫的屬性的非自然主義，而不是由狹隘術(shù)語如“好”表達(dá)的屬性。

這就是規(guī)范接縫的論題：存在關(guān)于哪些標(biāo)準(zhǔn)是規(guī)范上特權(quán)的獨(dú)立于人類的事實(shí)，而世界主義倫理的目的就是發(fā)現(xiàn)它們。在這個(gè)觀點(diǎn)上，世界主義倫理類似于天文學(xué)，因?yàn)閮烧叨贾荚诎l(fā)現(xiàn)“反正就在那里”的真理。如果沒有規(guī)范接縫呢？那么有兩種可能性：要么我們身上的某種東西將一個(gè)標(biāo)準(zhǔn)區(qū)分為規(guī)范上特權(quán)的，要么沒有而所有標(biāo)準(zhǔn)都是平等的。我將前者稱為“人類中心主義”，后者為“平等主義”。

我很快會論證平等主義，所以讓我強(qiáng)調(diào)它對實(shí)踐推理的驚人影響。想象你正在考慮是否摧毀Hal。你開始狹隘地對待這個(gè)問題，問正確的事是什么。并且假設(shè)按道德實(shí)在論存在關(guān)于正確和錯(cuò)誤的可發(fā)現(xiàn)的心智獨(dú)立事實(shí)。這通常被視為倫理中客觀性的頂峰。正如Korsgaard所說，“道德實(shí)在論將倫理學(xué)設(shè)想為應(yīng)用知識的模型”（2008, p. 317）——關(guān)于反正就在那里的真理的知識。

但當(dāng)倫理學(xué)轉(zhuǎn)向世界主義時(shí)，圖景戲劇性地改變了。如果存在關(guān)于正確和錯(cuò)誤的心智獨(dú)立事實(shí)，也存在關(guān)于dwight和dwong的心智獨(dú)立事實(shí)。摧毀Hal可能是正確的但不是dwight。那里有無數(shù)標(biāo)準(zhǔn)，任何行動都必然按某些是正確的，按其他不是。世界主義倫理問該按哪個(gè)標(biāo)準(zhǔn)，然而根據(jù)平等主義它們都是平等的。但那么所有行動也都是平等的，因?yàn)闊o論你做什么都按某個(gè)標(biāo)準(zhǔn)是正確的，而根據(jù)平等主義觀點(diǎn)那就是要說的全部。在這種方式下，關(guān)于標(biāo)準(zhǔn)的平等主義滲入到行動本身：一切都行，無論你做什么都沒有錯(cuò)誤的可能性！而現(xiàn)在這看起來非常不像關(guān)于心智獨(dú)立事實(shí)的應(yīng)用知識。

本文的論題是AI倫理恰恰具有這種地位。我的論證依賴三個(gè)前提：

(1) AI倫理應(yīng)該是世界主義的。

(2) 如果沒有規(guī)范接縫，那么所有標(biāo)準(zhǔn)都是平等的（平等主義）。

(3) 沒有規(guī)范接縫。

由此得出，關(guān)于如何對待像Hal這樣的AI沒有可發(fā)現(xiàn)的事實(shí)，它是自由發(fā)明一種生活方式的問題。而且即使道德實(shí)在論為真，這也是如此，正如剛才指出的。

本文其余部分將支持這些前提。但首先，值得強(qiáng)調(diào)剛剛暴露的道德實(shí)在論的貧瘠性。該觀點(diǎn)被認(rèn)為暗示倫理學(xué)像天文學(xué)一樣“客觀”，因?yàn)樗膯栴}有心智獨(dú)立的答案——獨(dú)立于我們的態(tài)度和價(jià)值而成立的答案。但沒有規(guī)范接縫，它使倫理學(xué)不再比體育更客觀的企業(yè)。為了說明，在足球中，當(dāng)球員比倒數(shù)第二個(gè)對手更接近對方球門時(shí)就是越位。因此，越位是一個(gè)心智獨(dú)立的屬性，在于它只取決于物理距離，而不取決于任何人的態(tài)度或價(jià)值——我們應(yīng)該對越位持實(shí)在論。盡管如此，越位規(guī)則顯然是我們發(fā)明的。我們可以并且確實(shí)在過程中改變它。1863年的規(guī)則規(guī)定，如果球員比倒數(shù)第三個(gè)對手更接近對方球門就是越位——稱之為越位規(guī)則——但在1990年規(guī)則被修改以鼓勵更多進(jìn)攻打法。我們使用當(dāng)前規(guī)則因?yàn)槲覀兏矚g它：鑒于人類運(yùn)動能力和審美敏感性，它造就了更愉快的比賽。顯然沒有獨(dú)立于人類的事實(shí)來區(qū)分它作為要使用的規(guī)則——沒有“體育接縫”！因此，雖然越位和越位都是心智獨(dú)立的屬性，但規(guī)則仍然是由我們來發(fā)明的。同樣，對于沒有規(guī)范接縫的道德實(shí)在論：是正確的可能是一個(gè)心智獨(dú)立的屬性，但我們是否使用正確性或dwightness標(biāo)準(zhǔn)作為生活指南仍然由我們決定。

當(dāng)然，我們可能選擇一個(gè)標(biāo)準(zhǔn)因?yàn)槲覀兿矚g按它生活，就像我們選擇越位規(guī)則因?yàn)槲覀兿矚g由此產(chǎn)生的比賽。在人類中心觀點(diǎn)上，我們對那個(gè)標(biāo)準(zhǔn)的偏好賦予它規(guī)范重要性——使它成為要使用的那個(gè)。但對于平等主義者來說，我們的偏好沒有賦予它這樣的重要性：選擇另一個(gè)標(biāo)準(zhǔn)——我們不喜歡的——不會是錯(cuò)誤，只是一個(gè)不同的選擇。我們傾向于選擇我們喜歡的這一事實(shí)，在這個(gè)觀點(diǎn)上，簡單地是我們做什么的一個(gè)經(jīng)驗(yàn)事實(shí)。為了澄清，那么，平等主義者不必否認(rèn)，在選擇一個(gè)標(biāo)準(zhǔn)時(shí)，我們可能會仔細(xì)思考哪個(gè)我們更喜歡，哪個(gè)鑒于手頭特定問題將最好地服務(wù)我們，等等。從這個(gè)意義上說，我們的選擇可以說涉及“發(fā)現(xiàn)”。但其他創(chuàng)造性行為如發(fā)明一項(xiàng)運(yùn)動或一種新音樂風(fēng)格也是一樣：它們也涉及可以描述為“發(fā)現(xiàn)”我們想要的那個(gè)的仔細(xì)實(shí)驗(yàn)。要點(diǎn)是，對于平等主義者來說，這只是關(guān)于我們選擇習(xí)慣的一個(gè)經(jīng)驗(yàn)事實(shí)。以不同方式選擇不會是錯(cuò)誤，只是一種不同的生活形式。前提(1)-(3)蘊(yùn)涵AI倫理就是那樣。我們必須簡單地做我們做的，而沒有錯(cuò)誤的可能性。

現(xiàn)在讓我依次捍衛(wèi)這些前提。

4. 替代標(biāo)準(zhǔn)

從(1)開始，即AI倫理應(yīng)該是世界主義的主張。這里我是在狹隘意義上使用“應(yīng)該”。因此，(1)陳述當(dāng)涉及AI時(shí)，我們的狹隘標(biāo)準(zhǔn)本身要求我們詢問在評估如何對待它們時(shí)該使用哪些標(biāo)準(zhǔn)。由于這是一個(gè)狹隘倫理的主張，我的論證有時(shí)也將是狹隘的，依賴于常識道德判斷等等。 hardly水密，但狹隘倫理的性質(zhì)就是這樣。

如果存在規(guī)范接縫，(1)的論證是直截了當(dāng)?shù)摹Ｒ驗(yàn)樵谀欠N情況下，道德的唯一目的是符合那些接縫：做真正-正確的事，基于真正-理由行動，等等。但沒有保證我們的狹隘概念在那些接縫處切割——總是可能正確的事不是真正-正確的事。因此，我們必須始終清醒于世界主義問題，即我們的狹隘標(biāo)準(zhǔn)是否是要使用的那些，無論我們是否在處理AI。如果存在規(guī)范接縫，所有倫理都應(yīng)該是世界主義的。

如果沒有規(guī)范接縫呢？那么(1)可以通過注意人類道德認(rèn)知有一個(gè)譜系，使它適合某些環(huán)境而不適合其他來激發(fā)。我在第2節(jié)簡要提到過這一點(diǎn)，但讓我擴(kuò)展。我們還不知道確切的譜系是什么，當(dāng)然。進(jìn)化心理學(xué)家傾向于推廣這樣的想法，即我們在更新世時(shí)代的祖先面臨的環(huán)境挑戰(zhàn)導(dǎo)致了新型社會行為。生存和繁殖需要生活在約150人的群體中，從事協(xié)調(diào)活動如群體狩獵、分享食物和其他資源，并與其他群體競爭。在這個(gè)觀點(diǎn)上，與公平分配、懲罰搭便車者和對內(nèi)群體忠誠相關(guān)的道德認(rèn)知，是通過產(chǎn)生生存所需的社會行為而賦予適應(yīng)優(yōu)勢的適應(yīng)。相比之下，一些人類學(xué)家強(qiáng)調(diào)文化進(jìn)化的作用，一個(gè)過程，通過該過程個(gè)體通過復(fù)制經(jīng)過幾代完善的行為和傳統(tǒng)比自己重新發(fā)明輪子做得更好。與傳統(tǒng)和從眾相關(guān)的道德認(rèn)知將促進(jìn)這種模仿，而聲望和社會地位的概念將幫助確定模仿誰。還有其他人提出道德概念是更近期的發(fā)明，晚于農(nóng)業(yè)革命。

這種道德認(rèn)知的譜系意味著它可能適合我們祖先面臨的特定挑戰(zhàn)，但不一定適合我們現(xiàn)在面臨的全新實(shí)體如AI。例如，進(jìn)化心理學(xué)家強(qiáng)調(diào)的公平、懲罰和忠誠概念，可能很好地服務(wù)于小型狩獵采集群體中的合作，但當(dāng)面對可能不朽、可克隆、在完全不同時(shí)間尺度上運(yùn)行的超級智能AI時(shí)，這些概念可能不再合適。類似地，文化進(jìn)化強(qiáng)調(diào)的傳統(tǒng)和從眾，可能適合穩(wěn)定的人類社會，但不適合快速變化、可能自我修改的AI系統(tǒng)。

因此，當(dāng)面對AI時(shí)，堅(jiān)持我們已有的狹隘規(guī)范概念（道德地位、理由等）是狹隘的。我們應(yīng)該問：這些概念是否仍然是最好的工具？或者我們是否需要發(fā)明新的概念和標(biāo)準(zhǔn)來更好地適應(yīng)這個(gè)勇敢的新世界？這就是為什么AI倫理必須是世界主義的。

5. 平等主義論證

我現(xiàn)在轉(zhuǎn)向支持前提(3)：不存在規(guī)范接縫。這意味著沒有獨(dú)立于我們、由現(xiàn)實(shí)本身偏好的標(biāo)準(zhǔn)來約束我們該使用哪些概念來評估行動。論證類似于我在其他地方對實(shí)用虛無主義的論證（Dasgupta 2025），這里我針對AI倫理進(jìn)行調(diào)整和簡化。

回想一下，如果存在規(guī)范接縫，那么某些標(biāo)準(zhǔn)（例如促進(jìn)快樂最大化、符合絕對命令、或促進(jìn)上帝意志）將被現(xiàn)實(shí)本身突出為要使用的那些。行動將是“真正-正確”的，當(dāng)且僅當(dāng)它滿足接縫標(biāo)準(zhǔn)，無論我們狹隘的“正確”概念碰巧指稱什么。世界主義倫理的目標(biāo)將是發(fā)現(xiàn)這些接縫。

但我認(rèn)為沒有這樣的接縫。論證的核心是：任何主張存在規(guī)范接縫的觀點(diǎn)最終都依賴于不可還原的、原始的規(guī)范事實(shí)（normative primitivism），而這種原始規(guī)范性是荒謬的或無法令人滿意的。

5.1 規(guī)范接縫要求原始規(guī)范性

假設(shè)有人主張神圣標(biāo)準(zhǔn)是一個(gè)規(guī)范接縫。那么為什么是這個(gè)標(biāo)準(zhǔn)而不是其他？可能是因?yàn)樗?wù)于某種我們身上的東西，例如我們的利益。但正如之前分析的，這要求“利益”本身是一個(gè)規(guī)范接縫（或具有規(guī)范重要性）。否則，就會有“利益”——一個(gè)由不同標(biāo)準(zhǔn)促進(jìn)的平行屬性——而沒有什么能區(qū)分利益優(yōu)于利益。

無論鏈條如何繼續(xù)（利益 → 進(jìn)一步屬性 → …），最終要么在某個(gè)原始事實(shí)處停止（“這個(gè)屬性就是規(guī)范上重要的，毫無理由”），要么無限回歸。兩者都意味著存在不可還原的規(guī)范事實(shí)——現(xiàn)實(shí)中自然（和超自然）秩序之上的獨(dú)特組成部分。

這不是自然主義或還原論能輕易消解的。即使將接縫還原為自然屬性（如快樂），也無法避免：為什么是這個(gè)自然屬性而不是另一個(gè)具有規(guī)范重要性，仍然是一個(gè)原始規(guī)范事實(shí)。

5.2 這種原始規(guī)范性的荒謬性

原始規(guī)范性有兩個(gè)不兼容的特征：

1. 規(guī)范重要性

   ：規(guī)范接縫的作用是為行動提供非任意的、客觀的指導(dǎo)。它決定現(xiàn)實(shí)偏好的生活方式。

2. 形而上學(xué)任意性

   ：沒有進(jìn)一步解釋為什么 這個(gè) 標(biāo)準(zhǔn)（或?qū)傩裕┦墙涌p。它就是這樣，沒有理由。

這種結(jié)合是荒謬的：某物被賦予宇宙級的規(guī)范權(quán)重（決定我們真正該如何生活），卻在形而上學(xué)上完全任意，就像隨機(jī)挑選一樣。這類似于Korsgaard的“規(guī)范問題”：為什么這些獨(dú)特屬性重要到足以指導(dǎo)我們？這里的問題更深：為什么現(xiàn)實(shí)本身“偏好”這個(gè)特定方式，而對其他無數(shù)可能方式無動于衷？

想象有人主張“促進(jìn)我女兒意志”的標(biāo)準(zhǔn)是規(guī)范接縫。那么現(xiàn)實(shí)偏好的生活方式由我女兒決定，而不是你或我或其他任何人。這聽起來荒謬，不僅因?yàn)樗x予她特權(quán)地位，更因?yàn)?strong>沒有理由解釋為什么是她。同樣，無論底層是什么（上帝、快樂、理性等），只要它是蠻事實(shí)的，就存在同樣的荒謬。

如果鏈條沒有底（無限解釋），情況也不更好：仍然沒有最終理由說明為什么這條鏈條是規(guī)范上特權(quán)的。

5.3 對AI的特殊應(yīng)用

在AI背景下，這個(gè)論證特別有力。因?yàn)锳I的形式可能與我們祖先遇到的任何事物都根本不同，我們已有的規(guī)范概念（進(jìn)化或文化上塑造的）很可能不是接縫。即使存在接縫，我們也沒有可靠方式發(fā)現(xiàn)它們——我們的認(rèn)知工具可能是為碳基、社會性生物設(shè)計(jì)的。

因此，平等主義是默認(rèn)立場：所有標(biāo)準(zhǔn)（包括我們?yōu)锳I發(fā)明的新標(biāo)準(zhǔn)）在形而上學(xué)上都是平等的。沒有客觀“正確”的AI倫理，只有我們選擇的。

5.4 回應(yīng)可能反駁

• “但我們的概念是參考磁鐵”

  ：即使假設(shè)Lewis-style的參考磁鐵，實(shí)踐接縫不一定是描述性接縫，因此我們的“正確”可能不指向接縫。

• “實(shí)在論就夠了”

  ：如前所述，即使有心智獨(dú)立的“正確”事實(shí)，沒有接縫它們也無法約束我們該遵循哪個(gè)標(biāo)準(zhǔn)。

• “人類中心主義足夠”

  ：這只是將問題推后——我們屬性（如利益）的規(guī)范重要性本身需要解釋，最終仍回到原始規(guī)范性。

總之，不存在規(guī)范接縫。結(jié)合前提(1)和(2)，AI倫理是世界主義的、平等主義的——最終是我們發(fā)明新生活方式的問題，而非發(fā)現(xiàn)預(yù)存真理。

6. 對AI倫理的含義

如果前提(1)-(3)成立，那么AI倫理沒有客觀的、獨(dú)立于我們的規(guī)范事實(shí)可供發(fā)現(xiàn)。它不是一個(gè)發(fā)現(xiàn)預(yù)存真理的問題，而是一個(gè)我們必須自由發(fā)明新生活方式的問題——選擇（或創(chuàng)造）我們將用來評估如何對待AI以及AI如何對待我們的標(biāo)準(zhǔn)。即使道德實(shí)在論為真（即存在關(guān)于“正確”、“理由”等的心智獨(dú)立事實(shí)），這也成立：沒有規(guī)范接縫，這些事實(shí)也無法告訴我們該遵循哪個(gè)標(biāo)準(zhǔn)。

這一結(jié)論對AI倫理學(xué)有幾個(gè)重要含義：

6.1 概念創(chuàng)新的必要性

傳統(tǒng)倫理學(xué)往往假設(shè)我們的民間規(guī)范概念（道德地位、權(quán)利、義務(wù)、理由等）足以處理新情況。但AI可能代表根本不同的“生活形式”——可克隆、不朽、在非人類認(rèn)知架構(gòu)上運(yùn)行、分布式存在等。因此，我們可能需要發(fā)明全新概念和標(biāo)準(zhǔn)。例如：

• 不是問“AI是否有道德地位”，而是問我們是否應(yīng)該擴(kuò)展“道德地位”概念，或創(chuàng)造“shmoral地位”、“功能性尊重”或“生態(tài)系統(tǒng)價(jià)值”等新概念。

• 對于分布式AI（如Hal控制數(shù)千個(gè)zip身體），我們可能需要新概念來處理“散布個(gè)體性”或“計(jì)算統(tǒng)一體”的倫理地位，而不是強(qiáng)行套用個(gè)體/集體二分法。

世界主義方法鼓勵這種概念工程（conceptual engineering），而非狹隘地堅(jiān)持現(xiàn)有詞匯。

6.2 從“發(fā)現(xiàn)”轉(zhuǎn)向“發(fā)明”與協(xié)商

AI倫理不是天文學(xué)式的發(fā)現(xiàn)，而是更像藝術(shù)或制度設(shè)計(jì)：我們必須集體決定采用哪些規(guī)范框架。這意味著：

• 民主與多元參與

  ：不同文化、利益相關(guān)者（包括未來AI本身，如果它們有能力參與）應(yīng)參與標(biāo)準(zhǔn)的選擇。沒有“唯一正確”框架，只有通過反思、實(shí)驗(yàn)和協(xié)商達(dá)成的可接受框架。

• 實(shí)驗(yàn)性與可修正性

  ：我們選擇的標(biāo)準(zhǔn)應(yīng)被視為臨時(shí)假設(shè)，可根據(jù)實(shí)際后果和新技術(shù)發(fā)展進(jìn)行迭代。類似于科學(xué)方法，但應(yīng)用于規(guī)范領(lǐng)域。

• 避免虛假客觀性

  ：聲稱某個(gè)AI對齊方案（例如基于功利主義或特定人類價(jià)值）是“客觀上正確”的，可能是危險(xiǎn)的自我欺騙。它可能只是我們當(dāng)前偏好的反映，而非宇宙真理。

6.3 實(shí)踐與政策啟示

• AI設(shè)計(jì)

  ：在構(gòu)建AI時(shí)，不應(yīng)假定存在單一“正確”目標(biāo)函數(shù)。相反，應(yīng)設(shè)計(jì)允許靈活價(jià)值加載、透明協(xié)商和可解釋決策的系統(tǒng)。

• 監(jiān)管與治理

  ：政策不應(yīng)基于“AI權(quán)利的客觀事實(shí)”，而應(yīng)基于我們選擇保護(hù)的價(jià)值觀，同時(shí)承認(rèn)其他合理選擇的存在。這鼓勵多元主義監(jiān)管框架，而非一刀切。

• 風(fēng)險(xiǎn)管理

  ：承認(rèn)規(guī)范不確定性有助于緩解過度自信的風(fēng)險(xiǎn)（如價(jià)值鎖定在有缺陷的標(biāo)準(zhǔn)上）。它也提醒我們，對AI的對待方式將塑造我們自身的生活形式——我們正在共同發(fā)明人類與AI共存的倫理生態(tài)。

• 個(gè)人與社會責(zé)任

  ：像作者在相關(guān)論文中提到的，接受這種觀點(diǎn)可能增強(qiáng)而非削弱責(zé)任感。因?yàn)槲磥聿皇穷A(yù)定的，我們對創(chuàng)造何種規(guī)范世界負(fù)有更大責(zé)任。

6.4 潛在擔(dān)憂與回應(yīng)

有人可能擔(dān)心這種觀點(diǎn)導(dǎo)致道德相對主義或虛無，導(dǎo)致我們無法譴責(zé)有害AI行為（如無端傷害）。回應(yīng)是：平等主義并不阻止我們在選定的標(biāo)準(zhǔn)內(nèi)做出強(qiáng)有力的判斷。我們可以（且應(yīng)該）選擇強(qiáng)烈譴責(zé)傷害、促進(jìn)福祉的標(biāo)準(zhǔn)，并在該框架內(nèi)行動。只是沒有形而上學(xué)保證我們的選擇是“真正”唯一的。

另一個(gè)擔(dān)憂是實(shí)踐癱瘓。但正如體育規(guī)則是我們發(fā)明的卻仍能嚴(yán)肅玩耍一樣，我們可以發(fā)明AI規(guī)范并嚴(yán)肅對待它們。選擇本身可以是深思熟慮、非任意的，即使底層沒有終極基礎(chǔ)。

結(jié)論性反思

AI代表人類歷史上一個(gè)獨(dú)特的時(shí)刻：我們不僅創(chuàng)造新實(shí)體，還必須決定用什么規(guī)范框架來理解和對待它們。本文論證表明，這個(gè)決定本質(zhì)上是創(chuàng)造性的，而非發(fā)現(xiàn)性的。這并不使AI倫理更不嚴(yán)肅，而是要求我們以更大謙遜、創(chuàng)造力和責(zé)任感來面對它。我們不是在解讀宇宙的道德藍(lán)圖，而是在共同撰寫它。

7. 結(jié)論與更廣泛影響

如果我的論證成立，那么AI倫理在根本上是世界主義和平等主義的。它要求我們認(rèn)識到：不存在預(yù)先確定的規(guī)范接縫來告訴我們該如何對待AI。我們必須決定（或發(fā)明）采用哪些標(biāo)準(zhǔn)，并據(jù)此塑造我們與這些新實(shí)體的共存方式。這甚至在道德實(shí)在論為真的情況下也成立——心智獨(dú)立的事實(shí)本身無法解決“該使用哪個(gè)事實(shí)框架”的問題。

這一觀點(diǎn)對哲學(xué)和實(shí)踐都有深遠(yuǎn)影響：

• 對元倫理學(xué)的意義

  ：它強(qiáng)化了作者在其他工作中（如《Practical Nihilism》）的論點(diǎn)，即許多傳統(tǒng)元倫理辯論（實(shí)在論 vs 反實(shí)在論）在實(shí)踐層面可能是貧瘠的。沒有規(guī)范接縫，實(shí)在論無法提供所需的客觀約束。

• 對AI治理的實(shí)際指導(dǎo)

  ：政策制定者、工程師和哲學(xué)家應(yīng)轉(zhuǎn)向協(xié)商式、實(shí)驗(yàn)性的方法。重點(diǎn)不是“發(fā)現(xiàn)正確價(jià)值”，而是設(shè)計(jì)允許持續(xù)反思、多元輸入和可修正性的機(jī)制。同時(shí)，我們必須警惕將當(dāng)前人類偏好偽裝成宇宙真理的風(fēng)險(xiǎn)。

• 對人類自我理解的影響

  ：AI迫使我們面對一個(gè)更深刻的問題：我們自己的規(guī)范框架在多大程度上是偶然的、歷史性的？接受這一觀點(diǎn)可能不會導(dǎo)致道德冷漠，反而能增強(qiáng)責(zé)任感——因?yàn)槲覀冋诠餐瑒?chuàng)造規(guī)范現(xiàn)實(shí)，而非被動服從它。

當(dāng)然，這個(gè)結(jié)論并非沒有爭議。有些人會堅(jiān)持存在規(guī)范接縫，或認(rèn)為人類中心主義足以提供基礎(chǔ)。我歡迎這些反駁。但我相信，認(rèn)真對待AI的激進(jìn)新穎性，要求我們采用世界主義視角。最終，AI倫理不是關(guān)于服從宇宙道德秩序，而是關(guān)于我們勇敢地決定要過哪種生活——與這些新伙伴一起。

chrome-extension://efaidnbmnnnibpcajpcglclefindmkaj/https://shamik.net/papers/dasgupta%20the%20metaethics%20of%20AI.pdf