小紅書“AI代寫種草筆記”第一案：何以重塑社會認知的基礎？

近日，央視新聞報道了全國首例AI代寫“種草筆記”不正當競爭案的宣判結果。

據央視報道，國內知名生活分享社交平臺運營方(原告)起訴B公司、C公司(被告)不正當競爭侵權。經浙江省杭州市中級人民法院審理認定，被告B公司和C公司運營的AI寫作工具，以“一鍵生成爆款”為噱頭，定向為用戶提供某社交平臺風格的虛假種草文案，誘導用戶發布非真實體驗內容，破壞了平臺真實內容生態，構成不正當競爭，判決被告賠償原告10萬元。

雖然在報道中用“小某書”的字樣(也就是原告)，但大家都知道這里的小某書就是小紅書。

從絕對金額和影響力來看，這個案子很小，但它的意義很大：作為國內“AI代寫種草筆記”第一案，標志著生成式AI在商業應用上的野蠻生長時代似乎要結束了，即將迎來它的法治時刻。

作為一名長期觀察互聯網內容生態的從業者，有媒體問我怎么看待此事，我說它不僅是一個法律判例，更是一面鏡子，照出了當前AI技術應用中的種種亂象，以及平臺、監管和我們每一個內容消費者所面臨的共同挑戰。

01

判例的意義：

AI不是法外之地，

虛假就是虛假

首先，我們必須為小紅書的這一舉動點贊。

在過去兩年里，AI批量生成“種草筆記”、運營矩陣賬號的現象，可以說是遍地開花。很多平臺對此也是睜一只眼閉一只眼，畢竟海量的內容帶來了可觀的流量。久而久之，我們甚至有點習以為常了，覺得這不過是技術進步的必然代價。

但小紅書打響了這“第一槍”，而且打得有理有據，理直氣壯。

這個案件的典型性在于，它清晰地劃出了一條紅線：工具無罪，但使用工具作惡有罪。

AI本身是個好工具，咱們日常用AI來輔助生成文案、激發靈感，一點問題都沒有。但問題出在哪?以這個案子為例，出在兩個致命環節。

第一，生成虛假內容。這些被代寫的“種草筆記”，往往不是基于真實體驗，而是為了“種草”而編造的。它們可能是夸大其詞，可能是無中生有，其本質就是虛假信息。AI在這里扮演的，不是效率提升者的角色，而是虛假信息的批量生產機器。

第二，引導用戶發布虛假內容。這些提供代寫服務的公司，不僅僅是提供了一個工具，它們還在教唆、引導用戶去發布這些非真實的文案，以此來謀取商業利益。這就從單純的工具提供方，變成了虛假內容產業鏈的共謀者。

所以，這個判決的意義非常重大。它向市場傳遞了一個明確的信號，AI不是法外之地。我們鼓勵AI技術的加速應用，但前提一定是遵規守法。任何試圖利用技術外衣來包裝、放大傳統違法行為(如虛假宣傳、商業詆毀)的嘗試，都將受到法律的嚴懲。

這起案件也意味著，我國將進一步明確生成式AI商業應用的法律邊界。從幾年前的《生成式人工智能服務管理暫行辦法》，到這兩年不斷細化的平臺審核機制，再到如今的司法判例，監管的脈絡越來越清晰，技術可以創新，但底線不能突破。

02

亂象必須治理：

社會認知的基石被動搖

為什么這種種草亂象會如此猖獗?答案很簡單：成本太低，收益太高。

我認識一些做AI批量賬號的公司。他們往往有很多臺機器，大規模操作，一天可能寫幾十幾百篇文案，然后批量地發送到小紅書、抖音等平臺上。一個賬號可能一天哪怕賺幾毛錢，但幾百個幾千個呢?加起來就是一個很可觀的收入。

也就是說，有這種亂象，本質上是商業利益所驅使的。

我周圍也有一些客戶鼓勵我做小公司，承諾給我投放云云。也都在說明，小紅書是一個蘊含商機的平臺，自然會被人盯上。

這種亂象，于內容生態和消費者信用的傷害是巨大的。試想一下，當你滿懷期待地點開一篇“親測好用”的推薦，結果發現背后只是冷冰冰的算法堆砌出來的文字垃圾，那種被欺騙的感覺會極大地消解用戶對平臺的信任。

如果說商業詆毀和虛假宣傳是直接的經濟犯罪，那么AI生成內容所帶來的認知污染，則是一種更隱蔽、更長期的社會危害。

尤其是很多不懂互聯網的老年人，或者是我們的孩子、少年兒童，他們無法分辨這種真實虛假的邊界。他們會以為，用AI生成的這種評測內容和那些種草帶貨內容是真實的。

所以，我們這兩年經常會聽到這樣一種聲音“別相信小紅書，上面很多東西都是騙人的”“小紅書上人均收入100萬，脫離現實”。這種認知發酵，小紅書自身也成為了受害者。

舉個例子，這段時間追覓的創始人俞浩連續多日痛斥小紅書，就是因為追覓長期被大量集中差評 / 黑稿困擾、申訴無效。而這些抹黑追覓的虛假內容，有相當一部分就是不法分子用AI工具生產的，然后發到了小紅書。可是，小紅書在這個過程中得到了什么?他們其實也不愿意看到這種垃圾黑稿發酵。

在追覓控訴小紅書的這個事情中，追覓和小紅書雙方都是受害者。可悲的是，現在小紅書承擔了炮火，掩護了那些不法分子的撤退。

前幾天，我還去參加一個學習機行業的活動，也是被這些AI工具生成的大量虛假文案詆毀抹黑，已經到了不得不治理的企業地步了。所以學習機行業的幾大巨頭聚在北京，探索解決的辦法。

我和媒體朋友說，當我們的青少年看到滿屏的虛假好評或惡意差評時，他們的價值觀會被扭曲，他們對世界的認知會被污染，這是非常非常可怕的。

所以，治理這種亂象，不僅僅是為了保護企業的商譽，更是為了保護我們對社會認知的基石。

03

破局之道：

技術+人工的雙重防線

面對如此洶涌的AI生成內容，治理的難度確實很大。從去年開始，各大平臺其實已經在加大力度治理這個問題了。

以字節跳動為例，它的審核體系既有AI審核，也需要真人審核。光真人審核團隊就有數萬人，分布在頭條、抖音、TikTok等平臺。原因很簡單，虛假內容太多了，光靠技術已經無法完全識別。

所以，當下的策略是“技術加人工”的雙重防線。

首先，法律法規要先行。有關部門要做到有法可依、執法必嚴。這次小紅書的勝訴是一個很好的開端，它確立了判例，讓后來者有例可循。

其次，平臺要強化審核機制。光靠技術識別AI生成的痕跡已經不夠了，必須引入大量人工審核。小紅書內部也有一支龐大的真人內容審核團隊，對內容進行分級分類處理。但是目前看來這個工作不夠，小紅書平臺抹黑追覓等企業的內容依然很多，需要小紅書建立一套完善的審核標準。

最后，要構建事前、事中、事后的全鏈路治理體系。事前有準入機制，事中有實時監控，事后有懲戒措施。對于利用AI生成虛假內容的賬號，要進行封號、限流等處理;對于提供此類服務的第三方公司，要追究法律責任。

總而言之，AI技術的發展不可阻擋，但我們不能任由它成為虛假信息的溫床。這起全國首例AI代寫案的宣判，不僅是對違法者的懲戒，更是對整個行業的警示。只有當技術創新、法律監管與平臺治理同頻共振，我們才能構建一個真實、健康、可持續的內容生態。