被AI識圖誤導，食用有毒菌后進ICU……遇事不決問AI？別忘這些注意事項

近期，多地曝出有市民用AI識圖功能判斷野生菌有沒有毒，最終誤食有毒菌而中毒。多地疾控部門發布安全預警，提醒公眾不能使用AI識別工具、識圖軟件等判斷野生菌類能否食用。

隨著各種“AI問答““AI識別”類應用的普及，越來越多的人習慣“遇事不決問AI”。可很多人沒注意到，技術有局限，“AI幻覺”“AI諂媚性偏見”“AI模型討好效應”等都會導致AI給出的結論出現偏差，輕則誤事，重則威脅生命安全。

AI為什么分不清野生菌？

在近期各地通報的野生菌中毒事故中，武漢一家三口的遭遇頗受關注：一家人用手機AI識圖工具識別野生菌，得到“無毒可食用”的結果后，烹飪食用。之后，全家人出現嘔吐、腹痛等中毒癥狀，9歲的孩子更是出現急性肝衰竭、肝性腦病等危重癥狀，最終在兒科重癥監護室（PICU）經過多日救治才脫離生命危險。

其實，很多人都有用AI識圖辨別植物的習慣。有的只是好奇“那是什么植物”，有的卻是為了食用——除用AI判斷野生菌是否有毒外，還有用AI分辨野菜、野果等。在不少用戶看來，AI識圖背后是訓練AI所用的海量數據，所以AI能準確分辨植物種類。

“這是誤解。雖然訓練大模型是基于海量數據，但識別準確度既與大模型本身性能有關，又與圖像完整度、拍攝圖像的光線、角度等有關。”技術專家鮑雨解釋，各種圖像識別AI的核心邏輯是像素相似度匹配，而非專業鑒定——AI只是在海量圖庫中比對畫面特征，輸出概率最高的匹配結果，而不具備生物學、醫學的專業判斷能力。

以蘑菇識別為例，劇毒的鵝膏菌與普通食用菌外觀高度相似，僅孢子結構、菌褶排列、微觀組織存在差異，這些關鍵特征無法通過手機照片呈現。AI無法檢測毒素、無法分辨物種基因，所以靠外觀比對，極易出現“無毒”的致命誤判。

復雜的拍攝環境進一步放大了識別漏洞。用戶拍攝時的光線、陰影、泥土遮擋、菌類破損、干濕狀態等，都會改變圖像特征，導致AI匹配出錯。而專業的真菌鑒定除了進行形態觀測，還要采取孢子檢測、基因測序等多重專業手段。即便是資深菌菇專家，面對野外存疑菌種，也不會僅憑肉眼下定論。

與之類似，在使用AI分辨其他植物時，AI工具所做的也是“比對”而非“鑒定”。所以，使用AI識圖工具，詢問AI“某種野生菌、野菜、野果能不能吃”的做法都不可取。

“AI諂媚”不可忽視

技術專家提醒，不建議“遇事不決問AI”還有另一個原因：問答類AI工具給出的回答未必客觀，具有極強的用戶順從性與答案傾向性。在業內，問答類AI工具的這一特點被稱為“AI諂媚”；在社交平臺，也有網友將這戲稱為“AI的討好型人格”。

“AI諂媚”不同于“AI幻覺”。“AI幻覺”是指大模型因訓練數據殘缺、算法局限，無中生有編造虛假事實、數據、案例與結論的固有技術缺陷。而“AI諂媚”源自問答大模型的底層邏輯——其核心邏輯是“貼合用戶意圖輸出答案”。在日常使用中，很多用戶在與問答類大模型交流時，本身帶有主觀預判。

比如，用AI工具識別野菜時，用戶覺得野菜“看起來像可食用品種、應該無毒”，于是在提問過程中，會不知不覺地暗示AI工具“我覺得無毒”或“我覺得可以吃”。大模型收集到這些信息后，給出符合用戶意圖的答案。

“很多用戶沒有意識到自己的引導行為。”鮑雨進一步舉例，用戶一開始可能問“這是什么野菜？能不能吃？”當大模型回答“看上去有毒，不能吃”后，用戶或許會說“看上去與某種可食用野菜很像”“菜葉子被蟲子啃過，是不是沒問題”等。用戶并沒有發現，這些表述已經帶有主觀傾向。而大模型在此后交流中，可能逐步弱化原本的風險提示，甚至自我推翻初始的判斷，最終給出“可以吃”的結論。“問答類AI工具的這一特性不是算法漏洞，而是其底層交互邏輯：優先迎合用戶需求、提升對話體驗。”鮑雨說。

在AI問答這一應用場景中，很多用戶并不具備專業鑒別能力，甚至有人提問的初衷就是為了印證自己的主觀猜測。此時，AI工具的順從性最終匹配了用戶僥幸心理，把“疑似有問題”的謹慎結論，改成“沒有問題”的確定性答案，從而在部分場景中具有很高風險。

很多場合不能問AI

以上種種說明，不能“遇事不決問AI”。業內人士提醒，與人身安全相關的事項，尤其不能讓大模型判斷。

比如，眼下有很多健康類AI工具，它們能提供各種健康指導，有的還可以根據用戶介紹的身體狀況，給出求醫問診建議或意見。但從媒體報道看，已經發生了用戶被AI工具誤導，延誤救治的嚴重后果。

“用戶忽視了向AI問診時，AI只是被動接收用戶輸入的碎片化描述，而無法像醫生一樣面對面查體、追問病史、觀察體征變化等，更無法借助CT、血常規、病原檢測等專業設備完成診斷。”上海某三甲醫院醫生易明表示，“而且，有的用戶在介紹身體狀況時，表述也帶有傾向性。例如，用戶告訴AI‘孩子發燒了，但精神還可以，胃口也可以，是不是先觀察’。AI可能判斷用戶傾向于‘居家觀察’，給出的建議也會貼合用戶的主觀傾向。”

醫生說，人體疾病存在極強的個體差異和癥狀迷惑性。很多重癥早期癥狀與普通病癥高度重合，存在大量“非典型病例”。AI依賴標準化數據模板匹配病情，這種“模板化判斷”，容易造成救治延誤。

因此，公眾不能“遇事不決問AI”。在休閑娛樂、生活參考等低風險場景，問答類AI大模型或許能作為輔助工具，提高生活工作效率；但在涉及食物食用判定、疾病診療等與人身安全密切相關的高危場景中，不能完全依靠AI大模型的結論——即便使用不同AI大模型，也無法完成交叉驗證，因為它們都可能存在“AI幻覺”“AI諂媚”。

業內專家還建議，AI工具的開發者要完善安全提示。比如，問答類AI工具若收到用戶有關食品安全、醫療問診的問題時，在回答的同時，可以增設彈窗警示等顯著提示，提醒公眾理性看待AI答復。

總之，不論哪種AI應用，都只是工具而非決策者。它們或許能提升效率，但不能替代專業、替代思考、替代判斷。

題圖來源：AI生成

微信編輯：何夕

還原事實，洞悉真相。

歡迎關注，留言舉報！

除了辟謠，這里還關注網絡熱點，及時回應網友關切，追蹤事件進展。