在滴滴安全開放日現(xiàn)場，我提出了一個倫理問題

前幾天去參加了滴滴在成都舉辦的“預(yù)警風(fēng)險 共建安全”主題安全開放日活動。這次活動，邀請了很多媒體朋友、專家學(xué)者，開放、透明地介紹了滴滴過去幾年安全體系的建設(shè)，與大家共建安全。

活動先是走進(jìn)滴滴成都安全預(yù)警中心，近距離看看安全專家是怎么工作的。我們可以體驗(yàn)和安全員一起聽錄音。

滴滴的安全預(yù)警中心24小時運(yùn)轉(zhuǎn)，先是安全AI模型秒級檢測全量訂單，捕捉路線偏移、車內(nèi)爭執(zhí)錄音、不當(dāng)言語、軌跡異常等風(fēng)險信號，分級推送至全國多個城市的安全職場。安全專家核驗(yàn)信息后，確認(rèn)存在安全隱患即啟動外呼提醒、震懾，必要時直接報警。目前，滴滴有超過4000名安全專家每天處理預(yù)警中心各類案例。

我身邊的安全專家接的一個工單，因?yàn)橛形闯赡耆说穆曇簦珹I判斷有風(fēng)險，然后分配給人工。我聽了一下，跟安全專家說，大白天，交通繁忙的上午十點(diǎn)，一個媽媽帶著一個未成年，坐網(wǎng)約車，我覺得只要確認(rèn)這個情況，就可以不繼續(xù)聽了。因?yàn)榘l(fā)生風(fēng)險的概率已經(jīng)降低到了一個非常小的水平。即便發(fā)生問題，媽媽也會有自保能力，一定會投訴，后續(xù)處理就行了。安全專家說，不行的，我們規(guī)定一定要聽完。我繼續(xù)問安全專家你們怎么考核的。我說你核查一小段錄音，確定類似的情況，你就可以不聽了，結(jié)束這一工單，這樣你的KPI就會很好。

在交流環(huán)節(jié)，滴滴的安全相關(guān)部門的負(fù)責(zé)人講解了平臺常見的典型案例。

有些案例令人感慨，有些令人啼笑皆非。父母幫三個孩子叫車，跨城順風(fēng)車，三個孩子最大10歲，最小的不過兩三歲。父母心大，真叫人嘆為觀止。還有一個女乘客，醉酒上車，身子從后面探到前面，和男司機(jī)發(fā)生肢體接觸。滴滴的安全中心即刻響應(yīng)，打電話給男司機(jī)。男司機(jī)最開始小心翼翼地應(yīng)對女乘客，在最后下車扶女乘客的時候，忍不住親了一下，結(jié)果被封號。

然后是媒體間的討論，滴滴問道于媒體，怎么做能更好地提升安全。認(rèn)識我的人都知道，不管是評論圈的筆會，還是一些專業(yè)會議，我都還是比較有表述欲，還是會講幾句。不過，我不想順著怎么提升安全這個議題走。我覺得，雖然不排除旁觀者清，但一般來說，該怎么做，滴滴的產(chǎn)品經(jīng)理肯定開過無數(shù)次頭腦風(fēng)暴會議了。

上臺我就說，我講點(diǎn)不一樣的。

我說，在實(shí)際生活中，安全并不是第一位的。這是一個誤解。我出去接孩子，我可能不開車，而是騎電瓶車。顯然這沒有開車安全，但開車卻不方便，不好停車。這里安全讓位給方便。這不是我一個人的選擇，很多家庭都是如此。

再比如購車，一般來說，預(yù)算先投入到車型的檔次上，先要面子，然后才是升級安全配置。這就是安全讓位于面子。

不過，人的實(shí)際行為，安全雖然不是第一位的，但一旦出事了，人們就會說安全是“第一位的”，也就是“不講道理的第一位”，比如“人死為大”，不講法律、不講道理。比如，一個大學(xué)生本來成年了，自己到校外去喝酒，意外死亡，學(xué)校本無責(zé)，但還是得負(fù)責(zé)。結(jié)果就是學(xué)校就把大學(xué)生像高中生一樣嚴(yán)管。同樣的，滴滴也要承擔(dān)很多法律之外的責(zé)任，從商譽(yù)、社會責(zé)任的角度去承擔(dān)責(zé)任。

為了盡可能地提升安全，滴滴的具體辦法，就是用安全預(yù)警的系統(tǒng)性去抵消一部分用戶的僥幸心理。

對此，我談到警報系統(tǒng)的兩類錯誤。

任何“報警”系統(tǒng)，比如火警、病毒試紙等，都必然存在兩類錯誤：假陽性（沒發(fā)生但“報警”）和假陰性（發(fā)生但未“報警”）。這兩類錯誤此消彼長，不可同時消除。

比如，地鐵按下緊急停車按鈕，可能是假陽性，虛驚一場，本來不用按。有一段時間，媒體一直宣傳不能亂按“緊急按鈕”，包括電梯和地鐵的，就是為了減少假陽性。這種宣傳其實(shí)是有問題的，結(jié)果就是有一次有人被夾在列車和門之間，沒人敢按，列車啟動，人不幸死亡。“不要亂按”其實(shí)追求的是降低假陽性的成本，但必然導(dǎo)致假陰性（該按未按）的概率上升。

滴滴選擇了承擔(dān)大量的假陽性產(chǎn)生的成本。調(diào)高人工智能的觸發(fā)概率，并且嚴(yán)格要求安全員聽完，支付更多的工資。這就是我前面問安全專家的那些問題。

安全從來都是有巨大成本的，比如滴滴，安全投入每年數(shù)十億，年復(fù)一年。但這些安全投入的成本是很難被外界感知的。

首先，因?yàn)榘踩倪呺H提升的成本很高。

都說安全是最大的奢侈。這話來形容安全的成本也非常貼切。1分錢1分貨，5分錢2分貨，10分錢3分貨。奢侈品就是如此。所以，安全的一丁點(diǎn)提升，就意味著大量的成本，而這個大量的投入的效果，很難被消費(fèi)者感知。

很難被感知，有些是意識問題、觀念問題。有些是因?yàn)樽龅煤芡晟疲呺H提升很小了。

再比如，出租車完全沒有滴滴這樣的實(shí)時檢測，你坐出租車的時候也不會驚恐萬分。因?yàn)榇罅客度耄?dāng)然會帶來提升，但未必是那么明顯。

最后，關(guān)于安全成本，我拋出了一個倫理問題。

我說，按照滴滴現(xiàn)在的安全措施，出事的概率已經(jīng)很小了，假設(shè)每年滴滴再多投5個億，能夠在5年內(nèi)阻止幾樁安全事件發(fā)生。那么，這25億沒人會覺得不該投入，但問題還有另一面。

如果這筆錢不花，成立一個基金，專門針對還未納入醫(yī)保的那部分干細(xì)胞移植費(fèi)用，治療少兒急性白血病。這是一種最令人悲痛的病：得病的都是小孩，且可以治愈。這25億，可以救1萬個小孩。

這就是邊沁的功利主義哲學(xué)。當(dāng)然，康德提出過“人是目的，而不是手段”；羅爾斯提出過 “無知之幕”，批評功利主義。但邊沁的功利主義在法律、政治、經(jīng)濟(jì)等領(lǐng)域都有影響，是很多法律、判決、政策的依據(jù)。比如，個人所得稅，從富人手里拿走給窮人，就是因?yàn)橥瑯拥腻X，給窮人帶來的效用更大。現(xiàn)實(shí)中，很多事情不得不算。

我當(dāng)時沒說，這里補(bǔ)充一些內(nèi)容。像滴滴這樣的公司，還有相關(guān)部門的管理措施，比如，為了防徒步出事，把山圈起來。表面看，這都是他們的選擇，但這背后，是考慮社會輿論做出的選擇。

正如我前面所說，對安全的投入，大家很難感覺得到，不過一旦出了事，平臺所有努力又容易被輿論一筆勾銷。安全是不可窮盡的，每一個副駕駛都派一個人監(jiān)督司機(jī)，也會出現(xiàn)兩個人一起聯(lián)手犯罪的情況。但社會不接受安全問題必然會出現(xiàn)，只要出事，輿論會覺得安全投入不夠，企業(yè)、相關(guān)部門應(yīng)該為投入不夠負(fù)責(zé)，那么，相關(guān)方就只要加大投入。

有些部門，比如高校，它可以不加大投入，它可以通過減少大學(xué)生的自由來換安全。而像滴滴這樣的企業(yè)，就只有加大投入。所以，某種程度上，是社會決定了安全投入的水平，但這種安全投入，其實(shí)是會帶來新的倫理問題的。

所以，我最后總結(jié)說：我們未必一定要朝著一個提升安全的方向去討論，正確認(rèn)識安全的邊界，合理地確定安全的責(zé)任劃分，才能實(shí)現(xiàn)更大程度的社會福利。

講完后，有認(rèn)識的記者朋友也在場，在微信上發(fā)來消息，說我講得很好。會議結(jié)束后，有幾位記者來加我微信，現(xiàn)場也聊了一會兒。我說，現(xiàn)在各行各業(yè)都在討論安全，但往往忽略了安全的成本，安全背后，是有人的利益受損的。社會需要共識安全的邊界，安全責(zé)任的劃分應(yīng)當(dāng)合理界定，而用戶建立起直面風(fēng)險或承擔(dān)風(fēng)險的意識，同樣是這道命題中不可或缺的部分。

劉 遠(yuǎn) 舉

央視網(wǎng)、第一財(cái)經(jīng)、光明日報、騰訊大家、南方周末、新京報、南方都市報、FT中文網(wǎng)、澎湃等特約作家，多家智庫研究員。

關(guān)注財(cái)經(jīng)、科技、時政，以深度、專業(yè)、理性的態(tài)度，去掘現(xiàn)象背后的事實(shí)。

中國科技自媒體50人

第35屆中國新聞獎評論三等獎

第34屆中國經(jīng)濟(jì)新聞獎評論二等獎

第28屆北京新聞獎一等獎

2024年湖南新聞獎一等獎

騰訊大家年度作家獎

新浪最有價值專欄作家獎

紅辣椒評論年度佳作獎

已開快捷轉(zhuǎn)載，歡迎轉(zhuǎn)載

已開過白名單的公眾號，轉(zhuǎn)載請遵循轉(zhuǎn)載規(guī)則

您的關(guān)注是最好的支持！