美國企業AI試點失敗率大幅下降，成本成新瓶頸

企業級人工智能正在走到一個關鍵拐點。局部試驗階段已經結束，智能系統如今必須帶來可衡量的業務價值。這讓首席信息官面臨一場高風險的平衡：既要管理架構復雜性和波動的成本，又要滿足嚴格的合規要求。

在最近一場行業網絡研討會上，思科、英特爾和Nutanix的多位負責人共同參與討論。Nutanix首席人工智能官德博·杜塔提出了一套戰略藍圖，幫助企業高管應對這一轉變。其核心信息很明確：早期那種彼此孤立、缺乏擴展設計的人工智能概念驗證項目，已經不再可行。

正如國際數據公司副總裁兼研究主管戴夫·皮爾遜所說，項目失敗率已從2024年的85%降至2025年的50%以下。但要進一步擴展到安全、可投入生產的能力，企業仍需調整混合多云架構，以解決幾個持續存在的障礙。

技能缺口是首要問題。雖然只有2%的組織沒有人工智能戰略，但有46%的組織將技能不足列為實施中的主要挑戰。負責任的人工智能同樣是重點。約75%的企業高管將其視為關鍵優先事項，其中數據隱私、治理和數據主權是最受關注的問題。

當一家企業部署第一個人工智能用例時，例如單一的檢索增強生成系統，或為聊天機器人提供支持，底層基礎設施通常還比較容易維護。德博·杜塔在研討會上表示，單一應用帶來的運維壓力有限，但當企業試圖把一個功能性試點擴展為數十個甚至數百個活躍應用，并將其分布在數據中心、公有云和邊緣環境中時，摩擦會呈指數級上升。

在這種本地化部署不斷累積的壓力下，企業基礎設施團隊很快會面臨沉重的管理負擔。首先是模型蔓延。不同業務部門使用不同模型，導致模型生命周期的跟蹤、配置和更新在管理上變得極為復雜。

其次是數據聚集效應和數據管理問題。企業需要在割裂的混合云環境中，安全連接數據管道并編排工作流，這在執行層面存在明顯的物流和治理難題。再次是專業技能短缺。能夠手動搭建這些復雜框架的內部人才嚴重不足，這一瓶頸影響了超過50%的北美企業。

要彌合這一運營鴻溝，信息技術部門必須擺脫孤島式建設，轉而建立一個能夠無縫管理完整人工智能生命周期的平臺，從單個軟件模型一直覆蓋到底層算力和數據架構。

現代企業基礎設施不應為了部署或驗證一個新模型，就經歷長達6個月、繁瑣且依賴人工的設計階段。這種定制化、傳統式做法，會在企業最需要敏捷性的時候形成嚴重的基礎設施瓶頸。相較之下，走在前面的管理者更需要一種自動化、工業化的框架，也就是一個真正的“按下按鈕即可運行的人工智能工廠”。

要實現這一點，通常需要一個經過強化的軟件編排層。它應能無縫調用分布式企業數據集，支持安全的令牌路由，并以安全、可重復的方式產出洞見。

這一軟件層還必須管理數據和模型的生命周期，同時提供云原生平臺和具備韌性的虛擬化層，以降低底層硬件復雜性帶來的影響。借助經過工程化設計、并已在行業中驗證的參考架構，企業可以在更短時間內搭建起可運行的集群。這種統一架構讓首席信息官能夠更靈活地平衡混合多云戰略。

在公有云側，企業可以利用動態彈性來承載共享模型和面向公眾的用例。在專用本地基礎設施側，企業則可以維持更強的數據保護、隱私和數據主權控制，以支持涉及敏感企業知識產權的合規要求。

如果企業希望以可持續方式擴展人工智能能力，技術管理者就必須優化物理算力分配。推理是指模型在運行中處理請求并生成實時令牌的過程，長期以來都是各類智能體工作負載中資源消耗最高、成本最高的部分。

如果為每一個下游應用都單獨配置專用硬件，算力成本會迅速攀升，同時硬件利用率也會變得非常低效。通過共享推理基礎設施，可以解決這一問題。具體做法是，把分散的應用整合到統一的平臺層上，對推理能力進行池化并動態分配。這樣一來，組織可以獲得三方面的明確收益。

其一，是成本管理機會。通過提升基礎設施效率，企業有可能降低總體擁有成本。其二，是平臺管理簡化。企業無需再為不同部門獨立的硬件孤島分別監控和調優，從而減少運維噪音。其三，是管理能力現代化。標準化工具集可以幫助傳統數據中心管理員更順暢地轉型為未來具備更強能力的人工智能管理員。

Nutanix表示，這一架構已經在其自身業務中得到應用。公司內部部署的一套自動化支持智能體，正在幫助工程團隊提供高可靠性的客戶支持。

這種部署策略也為企業領導者提供了一條清晰路徑：從單一用例起步，設定明確的性能關鍵指標，啟動有針對性的概念驗證項目，并從第一天起同步設計采用共享推理的生產級基礎設施棧。這樣有助于讓系統從測試走向正式生產的過程更加平穩，也更具成本效益。

未來3到5年，企業網絡架構預計將經歷顯著的結構性變化。雖然本地數據中心和公有云仍將是重要支點，但越來越多的算力正在直接遷移到邊緣位置，因為數據原生生成于那里，也需要在那里被立即處理并觸發行動。

企業環境正迅速邁向多智能體協同的時代。企業環境預計將從彼此孤立的軟件實例，演變為龐大而互聯的專業化人工智能智能體網絡。這些智能體將廣泛分布在邊緣、物理系統和云環境中運行。這些智能體預計會與人類員工持續協作，共同執行復雜的業務工作流。

隨著模型變得更加緊湊、邊緣數據量不斷增長，底層算力拓撲預計也將持續演變，并采用硅光子等創新技術來實現大規模吞吐能力。盡管如此，最根本的任務并沒有改變：組織仍然需要一個可靠、安全的平臺層，來運行、編排并保護這些智能系統。

如果企業能夠有效治理這些自主系統，保護它們接觸到的數據，并簡化其底層平臺，就有可能在現有基礎設施規模之上，大幅提升生產率并增加企業價值。

未來10年，從倉促應對人工智能熱潮轉向工業化基礎設施戰略的能力，將把市場領先者與競爭者區分開來。對于具有前瞻性的首席信息官而言，優先事項必須從局部試驗轉向建設統一的、可投入生產的環境，正面應對數據聚集效應、成本波動和運營復雜性等問題。

如果企業把架構藍圖建立在簡潔性、資源效率和穩健治理之上，不僅能夠穩定當前的試點項目，也能幫助員工隊伍和技術體系為未來安全承載自主化、多智能體工作負載做好準備。