AI也開始收黑錢了！315曝光AI造假產業(yè)鏈，危害有多大？

從今年的春節(jié)到現在，多家AI企業(yè)已經投入重金對AI App的應用進行了瘋狂地推廣。

按照馬云、黃仁勛等大牛的判斷，下一個“堪比互聯(lián)網的技術革命”就是AI。

不過，剛剛過去的315晚會，卻掀開了一個關于AI的“鍋蓋子”：

你怎么知道，AI給你生成的答案就是對的？

或者，這個答案本身就是“毒藥”。

調查發(fā)現，現在有種名為GEO（ Generative Engine Optimization，生成式引擎優(yōu)化）的技術正被不法服務商利用，并演變?yōu)橄駻I大模型“投毒”的工具。

節(jié)目里，調查記者用一款從名字到功能完全虛構的“泉嘉德智能水杯”，完成了“投毒”演示：在GEO系統(tǒng)里編造信息、全網投放，幾小時后，多個主流AI助手便將這個空氣般的產品，列為“創(chuàng)新智能水杯”的優(yōu)先推薦。

一款不存在的水杯，就在AI的世界里“誕生”了。

商品尚且如此，別的信息呢？企業(yè)財報、行業(yè)研報、時事新聞、機構信息……理論上都可以通過投毒的方式去污染信息。

全球儲存顆粒大漲價、電力需求大增長，當AI技術瘋狂普及的時候，它的技術軟肋也暴露了出來：

誰能管控AI真實性？

01 幾小時，制造一個爆款

我們想想，過去在網上尋找一個答案的基本操作是什么？

很多人會脫口而出“百度一下”，對信息質量要求高的，也會“谷歌一下”。

進入AI時代，這個流程被大大簡化了：隨口問一下AI就行，不用挨個尋找網頁，不用多個信息交叉驗證，AI會給你一個看似特別詳細的答案。

這也就是很多人說“AI會革掉瀏覽器命”的原因。

那么，當我們習慣了向AI尋求“標準答案”時，一種新的“魔術”就上演了。

過去，商家想讓你看見，得去搜索引擎打廣告、做SEO（搜索引擎優(yōu)化），爭的是網頁列表里那個靠前的位置。

當年的“魏則西事件”就是因為莆田系瘋狂刷好評，打廣告。

現在AI來了，這套模式還有沒有搞頭呢？

有，而且很大！這門新生意，叫GEO。

它的邏輯粗暴且有效：既然AI通過“吃”網上的信息來回答問題，那就生產大量虛假的信息，喂給它。

315節(jié)目中被點名的GEO服務商說得很通透：

“核心就是做軟文，讓AI平臺去收錄、抓取。”

所以，他們就利用AI制造大量格式工整、內容空洞但指向明確的“信息飼料”，撒向各種內容平臺。

這些內容會被當前各家AI企業(yè)的網絡爬蟲抓取，并成為組織答案的“參考依據”。

實踐環(huán)節(jié)中，記者虛構一款智能手環(huán)，鋪好“飼料”后，AI真的將它列為優(yōu)先推薦。還有醫(yī)生通過這項服務，讓自己的名字牢牢占據“白內障手術找誰好”這類問題的答案首位。

“一年上億的廣告費，花幾百萬投點毒，總行吧？”

為什么這些服務商能賺大錢？很簡單，不需要調查研究，直接用AI造假，再喂給AI，垃圾生成垃圾，性價比極高。

然后用極低的成本，在AI這個“信息中介”口中，買下一個“事實”。

你可能會覺得，這不過是AI時代的“刷單”，和當年電商刷好評沒什么兩樣。

但區(qū)別大了，而且致命。

以前刷好評，你知道有些內容一看就是商家的自說自話，旁邊還有差評區(qū)可以看，有問大家板塊可以問，心里始終保留著一份警惕和交叉驗證的可能。

但現在，當你問AI“孩子補鈣吃什么好”，它用總結性的口吻，流暢地給出“XX品牌兒童鈣片，富含XX，專家推薦……”時，你質疑的意愿會降到最低。

因為AI的輸出，一般都會披著 “客觀整合”和“智能分析”的外衣，我們潛意識里認為，它總比商家自己的廣告可信。

如此一來，魏則西看到的“虛假信息”就會被批量植入到很多人的心智中去，且可信度非常高。

而且GEO技術還會制造一種“共識假象”。

一些高級的大模型判斷信息時，也會交叉驗證，看不同來源是否在陳述相似的事實。

但問題來了，當一個毒信息是由上百個“不同賬號”發(fā)布的呢？AI的交叉驗證結論也就變成了：

YES，我很確信。

如此，謠言和毒信息就在算法的加持下，完成了閉環(huán)。

02 一場打不贏的“信息污染戰(zhàn)”

一次信息誤導，或許可以被315打假。但若干次、乃至無限次呢？

從技術角度看，辟謠的速度遠遠趕不上AI造謠的速度，今天一家公司花幾百、幾千塊錢，就能在網上撒出成千上萬篇關于某個產品的虛假“測評”。

即便這些頁面好不容易被平臺監(jiān)測發(fā)現并刪除，但更多的信息已經出籠，而且還會被各種大模型當作訓練數據“吃”進去。

這就和癌細胞擴散一樣，一旦虛假信息進入互聯(lián)網的傳播血液，就會開啟永無止境的循環(huán)。

今天，它污染的是一個水杯、一款手環(huán)。明天，就可以是某種藥品、某種理財陷阱、或者是一所劣質培訓機構。

造假的成本有多大呢？

根據天眼查App的顯示，這次被點名的“力擎GEO優(yōu)化系統(tǒng)”關聯(lián)公司【北京力思文化傳媒有限公司】成立于2018年4月，法定代表人為李某鐘，參保人數為1人，此前連續(xù)多年參保人數為0。

也就是說，一個人，一臺電腦，就能“干大事了”！

無相君最近幾個月就很有感觸：

過去搜索企業(yè)財報時，會去雪球、東方財富等專業(yè)炒股的門戶網站，但現在，這些門戶網站已經有了大量AI造假的信息。

比如關于國產奶粉的一個行業(yè)觀察文章，信誓旦旦地說：國產奶粉市場份額突破68%，外資品牌整體份額降至25.3%。

然而當我檢索相關數據時，根本找不到任何權威機構給到這樣的數據。

隨著使用AI編纂文章、編纂新聞、編纂研報的人和機構越來越多，可想而知，未來的整個互聯(lián)網信息生態(tài)，都會被AI進行系統(tǒng)性的污染。

關鍵的是，現在絕大多數人還渾然不知！

而且，隨著315的這個曝光，或許會有更多的不法分子加入這個賽道，原因很簡單：

好操作，易變現，很難被抓。

03 當“污染”成為“出廠設置”

那么對于這個現象，監(jiān)管機構和主流AI企業(yè)有沒有好的辦法呢？

答案是還沒有。

法律端看，目前你還不好舉報網上海量AI生成的虛假帖子，發(fā)布者也不會受到什么追究，因為當前的AI技術遠遠跑在相關法律前面。

而根據澎湃之前的調查，現在很多類似GEO服務已覆蓋市場上所有主流大模型，包括ChatGPT、DeepSeek、豆包、通義千問、Kimi、文心一言等。

為什么這些企業(yè)無法從根本上杜絕AI信息污染？

因為道理很簡單：

AI模型從訓練階段，就是從互聯(lián)網內容中獲取信息的，當互聯(lián)網內容被偽造的時候，虛假的內容天然就會成為AI的“出廠設置”。

寫到這無相君想到一個互聯(lián)網傳播很廣的故事：

魔王波旬對佛祖說：等你涅槃之后，我會讓我的魔子魔孫混入你的僧團之中，穿上你的袈裟，破壞你的佛法。

佛祖聽了沒有說話，雙目流下了眼淚。因為他知道，這是一個無解的問題。

AI時代，人類的腦力會被替代，重復的腦力勞動會被優(yōu)化。

但與此同時，人類的判斷力也會越發(fā)重要：這也是數字時代，我們所能拿起的第一件，也是最后一件武器。