價(jià)值觀決定算法——AI時(shí)代，管理者如何守住價(jià)值底線

全文 2725 字 | 閱讀 7 分鐘

之前我們聊過AI時(shí)代的決策、授權(quán)、激勵(lì)。今天，我們把目光投向一個(gè)更深層的問題——價(jià)值觀。當(dāng)算法可以自主推薦、自動(dòng)決策時(shí)，誰來為算法的選擇負(fù)責(zé)？這篇文章，我們回到管理的常識(shí)，聊聊AI時(shí)代管理者的價(jià)值底線。

最近走訪企業(yè)，聽到一些讓人不安的反饋。

一家公司上線了AI推薦系統(tǒng)，轉(zhuǎn)化率提升了，效率也上去了。但沒過多久，客服部門收到不少老年用戶的投訴，說算法推薦的金融產(chǎn)品他們根本看不懂。還有一線員工反映，AI評(píng)分系統(tǒng)好像對(duì)某些背景的同事“不太公平”。技術(shù)團(tuán)隊(duì)說“這是算法自己學(xué)出來的”，業(yè)務(wù)團(tuán)隊(duì)說“我們只管提需求”。管理者問：“那誰對(duì)這個(gè)結(jié)果負(fù)責(zé)？”沒有人回答。

算法有沒有偏見？數(shù)據(jù)采集是否越界？效率最大化是不是以犧牲某些群體為代價(jià)？這些問題的答案，不在代碼里，在管理者的價(jià)值觀里。

要理解AI時(shí)代管理者的價(jià)值責(zé)任，先得回到管理的基本常識(shí)。

在《管理的常識(shí)》里，我反復(fù)講過：管理只對(duì)績效負(fù)責(zé)。但這個(gè)“績效”不是狹隘的財(cái)務(wù)指標(biāo)，而是包括顧客價(jià)值、員工成長、社會(huì)責(zé)任在內(nèi)的綜合成果。到了AI時(shí)代，這個(gè)內(nèi)涵尤其需要被重新強(qiáng)調(diào)。過去，績效的價(jià)值維度可以通過管理者的日常判斷來兜底；今天，當(dāng)算法在執(zhí)行管理職能時(shí)，價(jià)值判斷必須前置到設(shè)計(jì)階段。

管理者的核心責(zé)任是做選擇，而不是做計(jì)算。計(jì)算可以交給系統(tǒng)和模型，但選擇——什么是正確的、什么是有價(jià)值的、什么是不能做的——只能由人來完成。今天，管理者面對(duì)的不再是信息不對(duì)稱，而是算法推薦和系統(tǒng)建議，但選擇的本質(zhì)沒有變：在不確定中做出有原則的判斷。

管理的底線是“不作惡”，但更高的要求是“向善”。不傷害顧客、不欺騙利益相關(guān)者，這是底線。好的管理者還會(huì)問：我們創(chuàng)造的價(jià)值可持續(xù)嗎？我們的增長有沒有以犧牲某些人為代價(jià)？過去，“向善”體現(xiàn)在產(chǎn)品和服務(wù)上；今天，它還必須體現(xiàn)在算法的邏輯里。

這些原則不是AI時(shí)代的新發(fā)明。無論技術(shù)怎么變，管理者的核心責(zé)任始終是價(jià)值判斷，而不是技術(shù)實(shí)現(xiàn)。

以前，你的價(jià)值觀決定了企業(yè)的文化；現(xiàn)在，你的價(jià)值觀決定了算法的靈魂。這句話我在CHO100論壇上說過，今天想再重復(fù)一遍。

數(shù)字化階段，價(jià)值觀問題主要是“人的問題”——員工違規(guī)、管理者腐敗、產(chǎn)品質(zhì)量問題。誰做的，誰負(fù)責(zé)，責(zé)任歸屬相對(duì)清晰。

到了智能化階段，事情變得復(fù)雜了。AI系統(tǒng)開始參與決策，責(zé)任的鏈條變長了。具體來說，管理者會(huì)面臨幾個(gè)新情況。

第一，算法偏見被技術(shù)“合法化”了。過去，一個(gè)人的偏見會(huì)被識(shí)別、被糾正。但當(dāng)偏見嵌入算法時(shí)，它以“科學(xué)”“客觀”“數(shù)據(jù)驅(qū)動(dòng)”的名義出現(xiàn)，更難被質(zhì)疑。比如，一個(gè)招聘算法可能因?yàn)闅v史數(shù)據(jù)中某類人群的錄取率低，就自動(dòng)降低他們的評(píng)分。這不是技術(shù)問題，而是管理者在設(shè)計(jì)階段沒有提出“這個(gè)算法是否公平”的追問。

第二，責(zé)任歸屬被技術(shù)“模糊化”了。當(dāng)算法做出一個(gè)傷害性決策時(shí)，技術(shù)團(tuán)隊(duì)說“我們只是實(shí)現(xiàn)需求”，業(yè)務(wù)團(tuán)隊(duì)說“我們只是提出目標(biāo)”，管理者說“系統(tǒng)是這么建議的”。責(zé)任在傳遞中被稀釋了。管理者要做的，不是在事后追問，而是在事前界定。

第三，效率最大化可能以價(jià)值為代價(jià)。AI天然追求“最優(yōu)解”，但這個(gè)“最優(yōu)”是誰定義的？如果只定義“轉(zhuǎn)化率最大化”，算法可能會(huì)向弱勢(shì)群體推薦高風(fēng)險(xiǎn)的金融產(chǎn)品；如果只定義“點(diǎn)擊率最大化”，算法可能會(huì)推送極端內(nèi)容。這不是算法的錯(cuò)，而是管理者沒有在目標(biāo)函數(shù)中嵌入價(jià)值約束。

這些變化指向同一個(gè)結(jié)論：AI時(shí)代，價(jià)值觀責(zé)任不能外包給技術(shù)團(tuán)隊(duì)，它是管理者的核心職責(zé)。

基于上面的分析，我把管理者守住價(jià)值底線的關(guān)鍵思路，整理成三個(gè)方面。

第一，算法的目標(biāo)，靠人設(shè)定。

有人說算法是“自主學(xué)習(xí)”出來的，決策是“客觀”的。這是個(gè)誤解。算法的學(xué)習(xí)目標(biāo)、訓(xùn)練數(shù)據(jù)、評(píng)價(jià)標(biāo)準(zhǔn)，都是人設(shè)定的。每一次推薦、每一個(gè)判斷，背后都是人的選擇。

管理者需要問自己：在算法設(shè)計(jì)階段，我們有沒有提出價(jià)值判斷的問題？這個(gè)算法的目標(biāo)是什么？它會(huì)不會(huì)傷害某些群體？我們用什么標(biāo)準(zhǔn)來衡量“好”與“壞”？這些問題，技術(shù)團(tuán)隊(duì)回答不了，只有管理者能回答。

第二，安全的邊界，不止是技術(shù)防護(hù)。

很多人把AI安全理解為“防止系統(tǒng)被攻擊”“防止數(shù)據(jù)泄露”。這些當(dāng)然重要。但安全不僅是數(shù)據(jù)安全，更是價(jià)值觀的安全——防止算法放大偏見、侵蝕信任。

管理者需要問自己：我們的算法是不是在強(qiáng)化社會(huì)的偏見？是不是在傷害弱勢(shì)群體？是不是在透支用戶的信任？這些問題，防火墻解決不了，加密技術(shù)解決不了。它們需要管理者在價(jià)值觀層面做出判斷。

第三，績效的內(nèi)涵，不能只看財(cái)務(wù)指標(biāo)。

管理只對(duì)績效負(fù)責(zé)。但在AI時(shí)代，“績效”的定義必須擴(kuò)展。它不只是收入、利潤、市場(chǎng)份額，還包括顧客是否被善待、員工是否被尊重、社會(huì)是否因?yàn)槲覀兊拇嬖诙兊酶谩?/p>

管理者需要問自己：我們的算法優(yōu)化目標(biāo)，有沒有包含價(jià)值維度？如果只優(yōu)化轉(zhuǎn)化率，算法可能會(huì)“算計(jì)”用戶；如果只優(yōu)化點(diǎn)擊率，算法可能會(huì)“投喂”極端內(nèi)容。管理者要在目標(biāo)函數(shù)里明確：什么是不可以做的，什么是必須堅(jiān)持的。

技術(shù)團(tuán)隊(duì)可以告訴你“這個(gè)目標(biāo)函數(shù)能最大化轉(zhuǎn)化率”，但他們無法告訴你：轉(zhuǎn)化率最大化和用戶長期利益之間，應(yīng)該如何平衡？短期增長和品牌信任之間，應(yīng)該如何取舍？

這些判斷，只能由管理者做出。因?yàn)楣芾碚哒莆罩镜氖姑?、價(jià)值觀、長期戰(zhàn)略。AI不知道什么是“好”，它只知道什么是“被設(shè)定的目標(biāo)”。設(shè)定這個(gè)目標(biāo)的，必須是管理者。

當(dāng)算法做出一個(gè)傷害性決策時(shí)，技術(shù)團(tuán)隊(duì)可以推給算法，業(yè)務(wù)團(tuán)隊(duì)可以推給技術(shù)，但最終承擔(dān)責(zé)任的，必須是管理者?！凹w決策，個(gè)人負(fù)責(zé)”這個(gè)原則，在AI時(shí)代不但沒有過時(shí)，反而更加重要。

管理者需要成為“數(shù)字文明的立法者”。算法正在影響越來越多的人——誰被推薦、誰被忽略、誰被信任、誰被懷疑。這些決策的邏輯，本質(zhì)上是一種“數(shù)字法律”。制定這個(gè)“法律”的，不是程序員，是管理者。

回到開篇的現(xiàn)象。算法越來越精準(zhǔn)，用戶對(duì)企業(yè)的信任為什么反而越來越??？

因?yàn)樗惴▋?yōu)化的目標(biāo)，往往是短期效率——點(diǎn)擊率、轉(zhuǎn)化率、停留時(shí)長。這些指標(biāo)上去了，但用戶感受到的是“被算計(jì)”“被投喂”。當(dāng)用戶發(fā)現(xiàn)算法推薦的每一個(gè)內(nèi)容都是為了讓自己多花時(shí)間、多花錢，信任就開始流失。

AI時(shí)代，管理者不能只問“算法準(zhǔn)不準(zhǔn)”，還要問“算法對(duì)不對(duì)”。精準(zhǔn)不是唯一的標(biāo)準(zhǔn)。公平、透明、可解釋、尊重用戶——這些價(jià)值維度，同樣重要。

沒有價(jià)值觀的算法，跑得越快，風(fēng)險(xiǎn)越大。

（本文完）

在你的企業(yè)里，有沒有遇到過算法決策引發(fā)價(jià)值觀爭議的情況？你是怎么在效率和價(jià)值之間做選擇的？歡迎在評(píng)論區(qū)聊聊。

本文收錄于“春暖花開”公眾號(hào)【數(shù)智新解】欄目。轉(zhuǎn)載請(qǐng)聯(lián)系授權(quán)。

微信 ID：chunnuanhuakai-cch