科技巨頭耗資無數狂熱布局生成式AI，真的值得嗎？

人工智能到底給我們帶來了什么？如果是不斷上升的生活成本，你還愿意為它叫好嗎？

鋪天蓋地的大語言模型，消耗大量資源，科技公司斥巨資買下70%的內存，兩年前，一塊350美元的硬盤現在要800美元，實惠筆記本甚至有可能消失。

我們經歷過計算機技術突飛猛進的時代，即便是那時，電力消耗也沒有增長如此迅猛。人們冷靜下來，開始質問：“生成式AI”值得嗎？

早幾年前，當大語言模型剛爆發時，人們就在問：“如果AI只是寫詩作畫，而我卻在工廠打螺絲？那這樣的AI有什么意義？”幾年過去，這一問題仍然沒有解決。不可否認，AI的成就是驚人的，但這并不意味著它會越來越實用。

當大企業在AI上砸下重金，卻發現并不值得，泡沫可能就會破裂。

《哈佛商業評論》寫道：“在采用生成式 AI 的公司中，一個令人困惑的矛盾正在上演：雖然員工大多都在擁抱這項技術，但很少有人看到它創造真正的價值。”《哈佛商業評論》總結道，許多被創造出來的東西實際上是“工作垃圾（workslop）”。

如果創造的“工作垃圾”不要成本，那還好，但現實卻是成本高得驚人。

參數越大資源消耗越多

2020年時大模型的參數只有1750億個，到了今天已經增至1萬億個。實際上，大語言模型本不應該成為賣點，但業界卻鼓吹說參數越多、模型越大，越是優秀。行業形成一種迷信，似乎只要將模型做得足夠大，一切問題就能迎刃而解。

OpenAI首席執行官奧特曼曾寫道：“或許只需要10吉瓦的算力，人工智能就能找到癌癥治愈辦法?！?/p>

在現實世界的軟件中，規模越大，收益會降低，但人工智能的表現很差勁，再增加一些參數，提升并不明顯。從經濟和工程的角度看，生成式人工智能或許是最糟糕的技術。

當前人工智能的高估值無疑是一個泡沫，公司的盈利遙遙無期，主要是技術成本高昂、效率低下導致的。

從技術角度看，大語言模型的擴展呈二次方增長，稍懂常識的人都知道，這種擴張方式十分糟糕。傳統上，人工智能應該模擬人類思維過程來解決問題，當前的人工智能并不描述人類思維規律，而是向計算機提供無數示例，讓它模仿。

人工智能記不住事實，缺乏常識，與生物大腦毫無相似之處。人工智能專家揚·勒丘恩（Yann LeCun）最近對《紐約時報》表示：“大語言模型并非通向超級智能的正確路徑，連人類水平的智能都做不到。”

我們必須承認，人工智能根本沒有意識。當前的計算機已經遇到瓶頸，堅信大語言模型終將催生出“心智”，這可能只是一種奢望。

高風險行業不敢用

生成式 AI 的設計初衷是“通用”，而非“可問責”。有許多環境是受到嚴格監管的，在這些環境中部署生成式AI時會出現各種問題，使用者面臨法律、監管、財務和聲譽等多種風險。

在受監管領域，通用大語言模型的風險源自于其構建方式。從根本上說，LLMs 的訓練目標就是在海量文本語料庫中進行預測，挑選下一個最可能出現的詞。如果語言流暢，就會得到激勵，從而生成一個看起來正確的答案，它可能違背事實。在后期訓練階段可能會糾正，讓答案看起來符合事實，但這種糾偏并無保證。

事實是否準確、是否可以追溯、是否可復現，這些都沒有保證。正因為存在結構缺陷，生成式AI天生漏洞重重。在法庭或監管審計中，一個無法追溯來源、無法按需復現的答案不會得到支持。

在通用環境中，輕微幻覺只是小麻煩，但在法律和合規領域如果出現錯誤，會引發索賠和法律糾紛。嚴酷的現實告訴我們，生成式模型對證據、風險和合規環境是“盲目”的。如果在現實中大規模推廣生成式AI，引發的后果難以承受。

隨著合規負擔日益加重、數據量爆炸式增長，企業領導者不能只是問：“AI 能幫我們更快完成這件事嗎？”為了保護組織免受聲譽損害和監管制裁，他們更應該問：“在現實業務中，我們的 AI 能否滿足證據、監管和運營要求？”

很明顯，目前的生成式工具無法達標，拋棄單純的對話式套殼應用，轉向為特定場景打造、安全、可審計的系統架構是必然選擇。

AI垃圾內容泛濫

在企業內部，每天都會有提案、報告、合同、郵件，產生的數據已經超出我們的治理能力。當我們大規模使用AI時，內容生成的速度不斷加快，但質量和治理能力卻沒有隨之提升。

泛濫的內容似乎屬于每個人，但又不屬于任何人。當員工離職，他留下的內容成為“孤兒”，重復的內容不斷累積，高價值內容卻被淹沒。

請問：誰負責治理系統內的內容？現實是：無人負責。

生成式AI不知道哪些內容是新的，哪些是權威的。它只知道埋頭推理，根據自己能訪問的內容瘋狂推理。過時的內容會誤導AI，未治理的內容會被AI當成有效信息。

這還只是企業內的內容，如果是社交媒體呢？想想會是怎樣的結果。

現在的社交媒體，“AI垃圾內容（AI slop）”已經呈現出泛濫之勢。有統計顯示，每天用在線AI圖像生成工具生成的圖片高達3400萬張，還在呈指數級增長。社交媒體信息流、新聞推送、網站、瀏覽器搜索，到處都充斥著垃圾內容。

俄亥俄大學贊斯維爾分校（Ohio University Zanesville）小學教育助理教授Jennifer Garrette Lisy稱：“AI垃圾內容可以在瞬間生成，然后立即分享到數十個社交媒體網站上。以前，Pinterest是好地方，你可以尋找園藝或家居裝修靈感?，F在，Pinterest內容約57%是AI內容?！?/p>

AI與數字修辭學助理教授Paul Shovlin博士認為，平臺希望保持用戶的注意力，增強參與度，希望所有人緊緊盯著屏幕，所以海量內容是必不可少的。垃圾內容會激怒人們，抓住他們的注意力，進而推動社交媒體的互動量，所以社交媒體會傾向于鼓勵這種內容。

俄亥俄大學計算機科學助理教授Chad Mourning則說：“在注意力經濟中，平臺需要內容，而垃圾內容可以提供這一點，但它們也需要具有吸引力的內容。在A平臺，如果我必須劃掉四個視頻才能找到有趣的內容；在B平臺上，它卻能直接推送我想要的東西，我肯定會選擇B放棄A?！敝挥杏脩趔w驗變差，企業才會回應。

社交媒體想要的是眼球和點擊量，如果人們對AI垃圾內容的泛濫感到反感，平臺就會想辦法限制其傳播范圍。至于如何管理這些內容，是大家都需要思考的問題。（小刀）