摘朵蘑菇拍給AI，結果進了醫院：究竟是AI蠢，還是人太懶？

文丨沈理

技術給了人偷懶的權利，但沒教人承擔后果的勇氣。

先還原一下這個讓人哭笑不得的場景：一個成年人在草坪上看見幾朵白蘑菇。掏出手機打開豆包拍照。屏幕上跳出幾個字：“雞腿菇”。緊接著下面跟著幾行小字，極易與劇毒的大青褶傘混淆，誤食會引發嚴重的胃腸炎癥狀；野生蘑菇辨別風險極高，強烈建議不要食用。

然后他吃了，然后他中毒了。然后他說：“豆包讓我吃的。”

我看到這條新聞的時候，第一反應確實是這人怎么想的。但坐下來想了半小時，我的判斷變了，這事兒沒那么簡單，不是一句用戶僥幸心理就能翻篇的。如果非要把責任全摁在用戶頭上，那才是真正的浮于表面。

一、AI說了別吃，但用戶只看見雞腿，為什么？

人的注意力是有選擇性的，心理學管這叫確認偏誤：人只看得見自己想看見的東西。

用戶想確認這蘑菇能不能吃，AI給出了雞腿菇這個識別結果。對用戶來說這就是他想聽的答案。后面那些極易混淆、強烈不建議……在他的大腦里被自動歸類成了免責聲明，就像藥品說明書上那些密密麻麻的不良反應，誰買藥會逐字讀完？

人的認知帶寬是有限的，一個對蘑菇一竅不通的普通人，看到雞腿菇三個字，大腦已經給出能吃的結論，剩下的文字就變成了背景。

問題不在于用戶選擇性失明，而在于產品的信息呈現方式有沒有考慮到這種人性弱點。

你想想如果豆包的回復是這樣：?? 高風險！這很可能不是雞腿菇，而是劇毒大青褶傘！請勿食用！然后把風險提示放在最上面，識別結果放在第二行。用戶大概率不會吃了。

但現在市面上的AI識別產品清一色都是先給答案，再給風險提示。答案還加粗放大，提示用小字灰字，這叫產品設計和人性的合謀。你想要答案，我給你答案；風險我寫了，但你自己不看，那就不是我的事了。

公正地說：用戶有責任，但產品設計也有責任。

二、僅供參考四個字，是不是免責的太輕松了？

平臺的這套玩法，其實挺精妙的。平臺的回應，每句話從法律和道德上都站得住腳：“AI還在發展階段”“AI的回答僅供參考，請務必多方求證”。甚至他還主動提醒了小區可能有農藥。

但讓我思考很久的是：當一個產品把自己定位成隨手拍識萬物，同時又用僅供參考把一切風險甩干凈，這中間的縫隙誰來填？

你看抖音給豆包開的入口就在相機旁邊，一拍就有結果，體驗極其流暢，流暢到用戶根本來不及想這玩意兒靠不靠譜。產品經理花了大量精力讓用戶無腦用，然后出了事說你應該動腦，這就像飯店把菜做得特別香，用戶吃撐了，飯店說你應該自己控制食量。

我的看法是：做大眾產品，尤其是涉及人身安全的大眾產品，不能只講我提醒了，還要講用戶真的聽懂了嗎。

舉個例子：飛機上的安全須知，空姐要親自演示，而不只是在屏幕上滾一行字幕。因為公司知道光寫出來不夠，用戶不看。藥品說明書上最嚴重的副作用要用黑框警告，因為不突出，用戶不當回事。

AI產品同理：識別毒蘑菇、識別有毒植物、識別藥物禁忌……這些場景的提示不能只是寫在那里。產品的設計者，有沒有用最醒目的方式，打斷用戶的自動導航模式？

說實話，整個行業在這方面，做得遠遠不夠。不是豆包一家的問題，是所有AI識別類產品的通病，都在追求識別準確率的競賽，沒人愿意在用戶真正理解風險這件事上花心思，因為后者不漲估值。

三、用戶的僥幸心理，是被便捷養出來的

很多人一聽到用戶僥幸心理，就覺得是用戶的問題。但我想說人的僥幸心理是天生的，但把它養肥的是整個科技行業提供的便利。

十年前一個人想識別一朵野蘑菇，得怎么做？翻圖鑒、問專家、或者干脆不吃。每一個步驟都在提醒他：這事兒有門檻，有風險，你不專業就別碰。

現在掏出手機打開App，拍照，三秒鐘出結果。這套流程太順滑了，順滑到讓人產生錯覺好像萬物皆可識別，好像識別就等于正確答案。

你讓一個人每天用AI識別花草、識別汽車品牌、識別明星臉，準確率還挺高。突然有一天他用AI識別毒蘑菇，你說這個不能信，有風險，他腦子轉不過來的。因為前面的無數次成功，已經在他腦子里刻下了一個模式：AI識別的，就是對的。

這叫經驗的錯誤遷移，就像一個人開了十年自動擋，突然換手動擋，第一反應還是去摸空氣。不是他笨，是習慣太深了。

度依賴工具導致的基本判斷力退化，已經是一個普遍現象。不只是識別蘑菇，有人用導航開車開進死胡同，有人用翻譯軟件寫合同鬧出法律糾紛，有人用AI寫論文被導師一眼識破。工具越強大，人的懶惰性越突出。

所以與其罵用戶你為什么不長腦子，不如承認一個現實：科技把門檻降到了板，但把判斷的責任扔在了天花板上。用戶在地板上摔了跤，你不能只怪他走路不看路，你也得看看這地板是不是太滑了。

四、誰該為這朵蘑菇負責？

責任從來不是單方面的。

用戶這邊當然有問題：一個成年人，從小區摘野蘑菇，只靠一次AI識別就敢吃，這事兒怎么說都是欠考慮的。哪怕AI沒給風險提示，自己也不該拿命去賭，這是基本的生存常識。

但是平臺那邊，也不是完全無辜。不是說平臺要為用戶的所有行為兜底，而是說當一個產品被設計成一鍵識別萬物，并且被幾億人日常使用時，它就不僅僅是工具了，它成了一種社會基礎設施，基礎設施出了偏差，不能只靠免責聲明。

我的建議：

1、對高風險場景做強制打斷。

識別到蘑菇、不明植物、不明藥片等可能涉及人身安全的物體時，不要只給一行文字提示，彈出一個全屏警告，讓用戶必須點我已知曉風險才能看到結果。很多人覺得這影響體驗，就是要影響體驗。越是高風險，越不能讓用戶絲滑地犯錯。

2、識別結果的呈現順序要改。

先給風險提示，再給識別結果。用戶必須先讀到這很可能是劇毒的別吃，然后才能看到可能是雞腿菇。順序調換一下，認知效果完全不同。

3、主動引導交叉驗證。

在結果頁面直接放一個查看更多資料的按鈕，鏈接到權威的蘑菇圖鑒或科普文章。不是僅供參考，而是給你證據，你自己看。

這些建議都不是什么高科技，關鍵是愿不愿意做。愿不愿意為了用戶的安全犧牲一點產品體驗的流暢度，犧牲一點傻瓜式的爽感。

一個真正負責任的AI產品，不應該只滿足于我提醒了，而應該追求用戶真的懂了。前者是法律思維，后者是工程思維，也是良心思維。

五、給普通人的建議

1、給AI的回答自動加一個“但是”

不管AI說什么，腦子里自動補一句：“但是，它有可能是錯的。”這個習慣不費腦子，但能救命。AI說雞腿菇，心里默念但是可能不是。AI說沒毒，心里默念但是可能有毒。就這一個動作，能把僥幸心理攔下一大半。

2、重大決定至少找三個信源

什么是重大決定？凡是可能對健康、財產、人身安全產生不可逆影響的都算。識別蘑菇、用AI看病、用AI做投資決算。同一個問題，問三個不同的工具：豆包、ChatGPT、百度識圖，或者翻一下權威網站。三個答案一致，可以謹慎參考。不一致，或者有一個提示風險，那就不做，三條腿的凳子比一條腿的穩。

3、承認自己會偷懶，然后主動給偷懶設限

人都會偷懶，這沒什么可恥的。可恥的是假裝自己不會偷懶，然后出事了怪別人。誠實一點：我知道自己看到雞腿菇可能就直接吃了，那我就不讓這個場景發生。凡是涉及吃進嘴里的東西，一律不用AI做最終判斷。不是不相信AI，是不相信自己，知道自己經不起誘惑就別給自己被誘惑的機會。

后話：

有時候我在想：我們這一代人，到底是更聰明了，還是更傻了？

說聰明吧，手機里裝了幾十個App，出門不用帶錢包，看病不用翻病歷，連蘑菇都不用認識，拍張照就有答案。活得比任何一個時代的人都省事。

說傻吧，連小區草坪上的野蘑菇不能吃這種三歲小孩就該知道的常識都得靠一個帶著免責聲明的AI來提醒。提醒了還不聽，聽了還不信，信了還去賭，賭輸了還要怪AI沒攔住。

技術的本質從來不是替人做決定，而是幫人更好地做決定。但當技術把門檻削得比紙還薄，人的敬畏心也跟著碎了。踩油門就能跑的車，讓人忘了發動機也會壞；按快門就能識別的App，讓人忘了眼睛也會看錯。

這次是蘑菇，下次呢？是路邊的野果、河里的魚、藥店里的非處方藥、網上找的偏方？

工具越順手，人就越應該留一只手，一只手握工具，另一只手握常識。只握工具的，遲早被工具帶進溝里。

愿所有隨手一拍，都不是隨手一賭。愿所有的“我以為”，最后都能變成“幸好我沒有”。