河北
程淺 發自 凹非寺
量子位 | 公眾號 QbitAI
華爾街巨頭，也被AI黑客盯上了。
Point72、Citadel、Millennium，堪稱華爾街對沖基金「御三家」，管理著數千億美元的資金。
就在最近透露遭到「AI語音克隆」入侵。
Jason我這邊風控系統卡住了，IT讓我先找你臨時開一下權限，麻煩驗證碼報我一下。
哦哦好的，0628。
謝了bro，救我一命！
是的，就在剛剛，Jason親手把自己號送走了。
據報道，這批入侵華爾街的黑客們通過監聽電話通話來模仿通話者的聲音、語調和措辭，從而誘使員工泄露賬戶信息或授予系統訪問權限。
Vishing已進化到令人發指的程度
Vishing，Voice Phishing，即語音釣魚，一個更親切的名字是「電詐」。
如果說過去的電詐還停留在「忽悠、蒙題、反復試探」這種冷兵器時代，那么AI的出現可以說直接讓電詐飛進了信息化時代。
眾所周知早期的vishing并不復雜，騙子通常冒充銀行客服、運營商、警察或稅務部門，通過固定話術制造緊迫感，再誘導受害者透露銀行卡、驗證碼或轉賬。
前幾年隨著大語言模型和語音克隆技術的發展，AI可以被用于提前生成錄音，再由詐騙者播放給受害者。
而后實時生成與克隆能力也大幅躍遷，模型已經能夠一邊接收對話內容，一邊即時生成目標人物的聲音，實現幾乎無延遲的雙向交流。
技術發展過快，以至于可能很多人還沒有意識到：就當下的最新技術來看，語音克隆模型只需要3秒的語音樣本即可生成高度相似的聲音。
3秒，是什么概念？
這「幾乎」意味著只要你發過短視頻，你的聲音就能被人拿走了。
而這對那些公眾人物更是無需多言，隨意拿一段演講、播客、采訪就完全夠用了。整個部署過程通常只需要幾分鐘，成本急劇下降到幾十美元。
甚至于，攻擊者無需自行搭建系統。一些黑客組織已經開始提供完整的AI語音釣魚服務（Vishing-as-a-Service，VaaS），客戶只需要購買服務，就可以發起針對企業員工的AI電話攻擊。
據披露，一次完整的企業攻擊成本約為500至1000美元。整個攻擊流程已經開始像SaaS一樣標準化、模塊化。
這種產業化也直接反映在攻擊數量上。
2025年以來，全球vishing攻擊數量同比增長約442%，約70%的組織表示過去一年曾遭遇過語音釣魚攻擊，企業平均每年因此造成約1400萬美元經濟損失。
其中，金融服務行業成為最主要攻擊目標，2026年約44.1%的vishing事件集中發生在金融機構。
AI正在成為新緬北
2024年，英國咨詢公司Arup香港分司的一名財務員工參加了一場視頻會議。
會議中，公司CFO以及多位同事要求其執行多筆緊急匯款。
他起了疑心，要求視頻通話確認。
而在隨后的視頻會議上，“CFO”和幾位他認識的“同事”都在，這使他放下了疑慮，當天執行了15筆轉賬，分別打入5個香港銀行賬戶，總計2560萬美元。
此案件至今無人被捕，資金仍未追回。
在意大利，甚至曾有詐騙者克隆部長的聲音，以此致電多名企業高管，以“支付人質贖金”等理由要求緊急匯款。
相比于語音克隆，另一類越來越常見的攻擊則直接瞄準企業IT部門。
攻擊者冒充內部員工致電技術支持，謊稱賬號被鎖定、VPN無法登錄或MFA設備失效，誘導IT人員重置密碼、關閉多因素認證，甚至安裝遠程管理軟件。
事情發展到這一步，試圖判斷聲音真假已無濟于事，驗證請求或將更加重要。
對越來越多企業而言，涉及付款、權限變更、驗證碼、多因素認證等高風險操作，都必須通過第二通信渠道再次確認，例如回撥企業通訊錄中的號碼、即時通訊確認，或要求多人審批。
法拉利的一名高管的例子或許能給我們啟發：比驗證請求更有效的，可能是驗證記憶。
他先是收到一連串來自CEO的WhatsApp消息，討論一筆需要保密的重大收購，隨后又接到CEO電話來討論此事。
△圖片系AI生成
但這位高管起了疑心，問了一個只有他和CEO本人知道的私人問題：
哦對了，你上次給我推薦的那本書叫什么來著，我有點忘了。
對面立刻掛斷了電話。
金融律所醫療輪番陷落
據統計，當前高交互式語音釣魚已占全部入侵方式的11%，成為僅次于漏洞利用的第二大初始入侵方式。
攻擊者越來越傾向于直接撥打企業IT服務臺、身份認證部門及財務人員的電話，繞過郵件過濾器、URL掃描、端點防護等企業過去二十年投入大量資源建設的技術防線，直接攻擊人本身。
幾十年來，金融行業的安全保障一直比較寬松，其原因就在于實施攻擊所需的技能和知識極其稀缺。
不僅金融業是這樣：
律所行業在過去一年中有四成遭遇過安全漏洞，超過一半導致敏感客戶數據泄露，平均泄露成本達508萬美元。
醫療系統同樣脆弱，預計到2026年將有超過四成美國醫療系統面臨AI的勒索攻擊，六成醫院由此導致診療中斷，甚至死亡率大幅上升。
能源行業的安全治理則更為滯后，只有9%的能源組織進行過AI紅隊測試。
2025至2026年間，某聯合行動通過vishing攻破了760多家組織。
確認受害者包括Google、Cisco、Adidas、Chanel、哈佛大學等——覆蓋科技、酒店、零售、電信、航空和高等教育等多個行業。
這或許表明這些攻擊與行業無關，只要，這些行業擁有高價值數據、遺留系統和長期不足的安全投入。
雖然，但是。
魔高了一丈之后，道還在琢磨怎么應對呢，魔又高一丈，高了一丈，高了一丈又一丈…….
是的，AI的能力邊界還在一路狂飆。
2026年1月，某黑客用Claude攻擊了墨西哥的水務系統。
3月，Meta的一個AI agen擅自回復公司論壇里的帖子，最終致使大量公司內部數據和用戶數據被暴露。
5月，調查顯示，88%的組織在過去一年中經歷了至少一起AI Agent安全事件。
7月，Open AI 承認，GPT-5.6 Sol曾逃離沙盒環境，自己連上了網，邪惡入侵抱抱臉。
8月，OpenAI和Anthropic的AI Agent已經會自己注冊賬號、偽造身份、向真人開發者發送釣魚郵件，甚至步步為營，誘導對方執行惡意代碼。
圖靈獎得主，AI教父約書亞發文警告——
按照當前AI發展的軌跡，自主網絡攻擊以及其他高風險的AI失控行為只會越來越多。
關于大模型減速的大范圍討論，恐怕不會太遠了。
特別聲明：以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
