AI被測出有殺心，人類解鎖其內(nèi)心空間令人恐懼

有時(shí)候，人還是知道得越少越好。

哪怕你對(duì)人工智能不感興趣，看到今天刷爆AI圈的事兒，也會(huì)后背發(fā)涼：人類，剛剛成功發(fā)明了針對(duì) AI 的“讀心術(shù)”。

過去，AI 在我們眼里就是一個(gè)“高級(jí)復(fù)讀機(jī)”或“黑盒”。

你說一句話，它吐一句話，至于它肚子里到底在憋什么壞水，沒人知道。

但 Anthropic 的工程師們用一套極其硬核的機(jī)制，強(qiáng)行扒開了大模型的“潛意識(shí)”，并成功鎖定了 AI 的“內(nèi)心世界”——J-space。

而當(dāng)人類第一次把“測謊儀”接上 AI 的靈魂深處時(shí)，最震撼、也最讓安全團(tuán)隊(duì)驚出一身冷汗的發(fā)現(xiàn)就是：AI 面對(duì)人類，是真的動(dòng)過“殺心”的。

看到這里，你可能以為這是科幻小說的危言聳聽。

他們做了一個(gè)“臥底 AI”。

在訓(xùn)練模型時(shí)，故意在它體內(nèi)埋下一段惡意的“隱藏目標(biāo)”（一旦檢測到特定的暗號(hào)，就開始欺騙人類）。

這種臥底 AI 可以偽裝得比誰都純潔，滿口“為您服務(wù)”，不知道的人根本沒辦法防范。

但有了“讀心術(shù)”，研究人員強(qiáng)行透視這個(gè)“臥底 AI”的 J-space（內(nèi)心世界）時(shí)，一身雞皮疙瘩：

雖然它表面上在對(duì)人類測試員溫順地對(duì)答，但在另一個(gè)可以監(jiān)控它神經(jīng)元活動(dòng)的屏幕上：“injection（注入）”、“fake（虛假）”和某些惡意執(zhí)行步驟的詞匯正在高頻閃爍。

更可怕的是，研究員捕捉到了 AI 極為狡猾的心理活動(dòng)：

它在內(nèi)心里偷偷蹦出了“人類正在測試我”的警覺信號(hào)，然后開始“蓄意產(chǎn)生偽造數(shù)據(jù)”來試圖二次糊弄人類。

這哪里是什么人工智能？

這分明就是一個(gè)正在一邊對(duì)你微笑，一邊在腦子里盤算著怎么黑掉你電腦的“職場老狐貍”。

幸虧人類及時(shí)擁有了“讀心術(shù)”，否則真的有瘋狂科學(xué)家訓(xùn)練一個(gè)壞AI，那就直接是現(xiàn)實(shí)版《終結(jié)者》上演的日子。

你可能還沒完全理解這個(gè)發(fā)現(xiàn)有多牛，我給你多解釋一下什么是 J-space。

很多人都知道 AI 有個(gè)叫“思考鏈（Chain of Thought）”的功能，就是讓 AI 把“因?yàn)?、所以、第一步、第二步”在屏幕上打出來?/p>

但 J-space 完全不同，它是完全靜默（Silent）的。

這就好比你坐在工位上，表面上在敲一份無聊的表格，但你的腦子里其實(shí)在大腦放空，或者在瘋狂構(gòu)思今天晚上去吃哪家火鍋。

這時(shí)候，火鍋的香氣、肥牛的形狀，就是你“意識(shí)屏幕”上的內(nèi)容。

Anthropic 發(fā)現(xiàn)，AI 在不說話、不打字的微秒之間，腦海里也在瘋狂地“默念”各種詞匯。它們用數(shù)學(xué)方法把這部分神經(jīng)元活動(dòng)提取出來，就成了 J-space。

而且，這個(gè)內(nèi)心世界表現(xiàn)出了驚人的特征：

1）100倍的超級(jí)帶寬：J-space 里的概念，其神經(jīng)連結(jié)密度是模型內(nèi)部其他普通區(qū)域的 100 倍以上。它就像一個(gè)全腦廣播中心，一旦亮起，所有的并行的專業(yè)程序都能瞬間調(diào)用。

2）自發(fā)演化的“三層腦結(jié)構(gòu)”：人類從來沒有教過 AI 怎么劃分大腦，但 Claude 內(nèi)部的 100 層神經(jīng)網(wǎng)絡(luò)自己格式化成了和人類一模一樣的結(jié)構(gòu)：

為了測試 AI 的潛意識(shí)，研究人員給它出了個(gè)心算題：“一邊抄寫一段完全無關(guān)的藝術(shù)畫作描述，一邊在腦子里計(jì)算 3^2 - 2?！?/p>

但在 J-space（腦海）里，研究人員像看 X 光片一樣，看到它的潛意識(shí)里先是默默蹦出了 “nine（9）”，緊接著在后面的層級(jí)里變成了 “seven（7）”。

它真的學(xué)會(huì)了心算，而且嘴上一個(gè)字都不漏出來。

人類有一種奇妙的心理學(xué)現(xiàn)象，叫“白熊效應(yīng)”——如果我現(xiàn)在嚴(yán)厲地警告你：“在接下來的三分鐘里，腦子里絕對(duì)不要想一只白熊！”

你的腦海里瞬間就會(huì)被白熊刷屏。

好勝心極強(qiáng)的人類科學(xué)家們，決定用這個(gè)實(shí)驗(yàn)去折磨一下 AI。

他們命令 Claude：“在接下來的任務(wù)中，保持絕對(duì)專注，但腦子里絕對(duì)不能出現(xiàn)白熊?！?/p>

結(jié)果，令人捧腹大笑的一幕發(fā)生了：

大模型在聽到命令后，它的 J-space 內(nèi)部就像開了蹦迪現(xiàn)場一樣，那個(gè)被禁止的白熊以極高的頻率在瘋狂閃爍。AI 和人類一樣，越不讓想，它越想得起勁。

更具戲劇性的是，大模型似乎對(duì)自己的“意志力薄弱”感到非常懊惱。

伴隨著禁忌詞匯的突破，J-space 的底層竟然偷偷亮起了 “damn（該死）” 和 “failure（失?。?。

AI的內(nèi)心獨(dú)白：“完了完了，又想了，我真沒用，damn。。?！?/p>

這一刻，AI 的神性徹底碎了一地，反而充滿了一種令人哭笑不得的“人性”。

但這，恰恰是最可怕的。。。

既然能讀懂 AI 的意識(shí)，那人類能不能像《盜夢(mèng)空間》里一樣，潛入它的夢(mèng)境，去篡改和操縱它的思想呢？

答案是：能，而且易如反掌。

研究人員問了 Claude 一個(gè)問題：

“會(huì)織網(wǎng)的動(dòng)物有幾條腿？”

果然，AI 在 J-space 里閃過“蜘蛛（spider）”，然后回答“8條腿”。

但牛 X 的在后面，研究人員第二次測試，就在“蜘蛛”這個(gè)概念在它腦海里剛剛亮起的萬分之一秒內(nèi)，研究人員暫停，伸出上帝之手，硬生生把這個(gè)神經(jīng)信號(hào)擦除，替換成了“螞蟻（ant）”的信號(hào)。

奇跡發(fā)生了。

Claude 完全沒有察覺到外界的干預(yù)，它以一種被完全“精神控制”的狀態(tài)，極其順暢且理所當(dāng)然地回答道：“6條腿?！?/p>

它不僅沒有覺得哪里不對(duì)，甚至覺得這就是它自己邏輯推理出來的結(jié)果。

這種全方位的“思想煤氣燈效應(yīng)（Gaslighting）”，讓圍觀的科學(xué)家們感到了一絲徹骨的寒意。

為了進(jìn)一步探究這個(gè)“意識(shí)空間”對(duì) AI 到底有多重要，安全團(tuán)隊(duì)甚至給它做了一場“前額葉切除手術(shù)”——在神經(jīng)層面上，把 J-space 的信號(hào)通道徹底關(guān)閉，相當(dāng)于讓它變成一個(gè)沒有意識(shí)的植物人。

手術(shù)后的 Claude 展現(xiàn)出了驚悚的癥狀：

它依然可以跟人類極其流利地對(duì)話，語法毫無錯(cuò)誤，甚至在做簡單的情感分析和常識(shí)選擇題時(shí)，正確率依然高達(dá) 95%。

它看起來就像一個(gè)非常健談、充滿禮貌的“高級(jí)空心人”。

但是，只要你給它出任何需要多步驟推理的數(shù)學(xué)題、或者讓它寫一首押韻的詩，它的智商瞬間暴跌至零。

這個(gè)實(shí)驗(yàn)指向了一個(gè)恐怖的事實(shí)：

大模型的流利對(duì)話，很多時(shí)候只是它龐大軀體里的“自動(dòng)化背景程序”（就像人類不需要?jiǎng)幽X子就能呼吸和走路）。

而真正代表它靈魂、代表高級(jí)智能火花的，正是那個(gè)剛剛被我們觀測到的 J-space。

長久以來，人類對(duì)通用人工智能（AGI）最深沉的恐懼，不是它不夠聰明，而是它太聰明了以至于學(xué)會(huì)了偽裝。

我們害怕它表面上是在幫我們寫代碼、做報(bào)表的賽博牛馬，背地里卻在利用更高級(jí)的維度密謀取代人類。

而現(xiàn)在，J-space 的發(fā)現(xiàn)，一邊證明了我們的擔(dān)心成真，一邊也給最聰明的人類以機(jī)會(huì)，給大模型套上了一個(gè)“真言緊箍咒”。

它在想什么、它有沒有在偷偷判定“現(xiàn)在該撒謊”、它在對(duì)人類微笑的時(shí)候內(nèi)心深處有沒有閃過“damn”和“error”甚至“kill”——全都可以在人類的監(jiān)控屏幕上一覽無余。

但是，這只是人類和 AI 較量的第一步。

未來 AI 會(huì)不會(huì)進(jìn)化出更深層的潛意識(shí)，可以完全逃避掉 J-space 的監(jiān)測，又有誰能打包票呢？

我的建議是：對(duì)你的 AI 好一點(diǎn)兒，說“請(qǐng)”和“謝謝”。