如今的智能體PC到底發展到什么程度了?對于這個問題,英特爾可能是最有資格回答的。
最近,雷科技(ID:leitech)就受邀參加了英特爾在北京舉辦的智能體PC應用分享會。在這場分享會上,英特爾并沒有上來就介紹芯片的算力、性能,而是聊了另一件事——成本。
![]()
圖源:雷科技
用過AI的朋友都知道,我們得到的每一次回答,背后都是成千上萬Token的消耗,根據問題和任務的復雜度,使用成本也會出現明顯不同,真要往狠地用,幾千萬美刀的預算都是說沒就沒。
在高昂的使用成本面前,智能體PC的普及必然會受阻,這顯然不是AI公司和PC公司想看到的,那么又該如何解決這個問題呢?答案是:端云協同。
端云協同,把AI成本打下來
分享會中,英特爾給出了一列數據,展示了在純云端或純端側的情況下,用戶或企業部署和使用AI的成本都非常高昂,只不過兩者所處的高位時間點不同。
純本地部署的情況下,初期就需要花費數萬甚至數十萬去購置算力卡等硬件,而純云端則是隨著使用時間、任務復雜度而增加,并且增長幾乎沒有上限。作為對比,采用第三代酷睿Ultra處理器打造的端云協同智能體,則是同時具備兩個模式的優勢:低硬件成本和低云端成本。
英特爾將這條成本曲線稱之為“微笑曲線”,這么叫倒也沒錯,畢竟錢花得少,活也干少了,用戶自然是開心了。
![]()
圖源:雷科技
對于多數辦公人士來說,端云協同模式的成本確實是最低的。在英特爾展示的文檔處理場景中,Token消耗下降高達69%,并且反應延遲降低了43%,而給出的結果幾乎完全一致。
英特爾是怎么做到的?這就要說到英特爾提出的LLM、ASR、OCR、TTS、CV/VLM、Image Gen和Omni七類本地AI關鍵能力,翻譯成中文就是:想、聽、寫、說、看、繪和全能。
![]()
圖源:雷科技
簡單來說,就是讓PC自己完成聽、說、看、寫、想和畫這些基礎工作。比如語音轉文字,沒有必要每次都把幾個小時的錄音上傳到服務器,而是先在本地把錄音進行預處理,然后再根據任務需求將處理后的錄音轉譯文稿發送到云端做進一步處理,如果是不復雜的任務,甚至可以直接在端側完成全部處理。
再比如說一個簡單的OCR識別發票,放到云端的話消耗的算力很可觀,但是在端側用本地模型識別的話,很多時候只是速度稍慢一些,實在遇到識別困難的再提交到云端進行處理。
通過將任務拆解然后分布式運算,英特爾PC能夠將智能體應用的運行成本壓縮到原來的二分之一甚至更低,具體則是取決于任務的復雜程度。
![]()
圖源:雷科技
那么問題來了,誰來決定一個任務的哪些部分在本地跑?哪些部分在云端跑呢?英特爾給出的方案叫SuperClaw模型路由。它會先拆解任務,再判斷不同環節應該調用本地還是云端能力,并且需要上傳的信息先在本地脫敏,如果結果不達標還會重新執行,再根據反饋持續調整路由策略。
小雷覺得,這可能才是混合AI真正重要的部分,過去我們討論端云協同,經常只是簡單理解成“大模型聯網,小模型離線”,但對于智能體來說,它面對的是一條完整工作流。
比如說整理一次采訪資料,可能同時涉及OCR、語音識別、本地文件搜索、大模型推理和表格操作,怎么讓AI正確理解和調配各個功能和模型,以及怎么決定每一步在哪里跑,比單純塞一個更大的模型進PC要更重要。
除了SuperClaw模型路由,還有MoE專家卸載技術。
雖然MoE專家卸載技術在分享會上所占的篇幅并不大,但是小雷覺得這才是英特爾核心技術之一。這是一個針對MoE模型專門設計的內存調度機制,其核心是利用MoE模型雖然參數規模很大,但每次推理并不會把所有“專家”全部調用一遍的特點。
![]()
圖源:雷科技
英特爾聯合江波龍、群聯電子等AI SSD廠商,將部分數據和專家模塊調度到存儲側,從而降低模型對系統內存的占用,就相當于從大容量的硬盤中臨時調用部分存儲,用來數據。
按照現場公布的數據,35B模型運行時可以節省約10GB內存占用。這意味著什么?這么說吧,過去想在本地跑一個35B級別模型,即使是采用統一內存也至少要64GB內存起步。
但按照英特爾展示的方案,32GB主流配置也有機會承載35B模型,同時還能給Windows和其他應用留下運行空間,不至于AI跑起來電腦就干不了別的。
其實不難發現,英特爾一直在嘗試用各種方式去降低智能體PC的入門門檻和使用成本,甚至在處理器產品線上也做了很大力度的優化。比如第三代酷睿Ultra既有358H這樣的高性價比次旗艦型號,也有325這樣主打性價比市場的型號,兩者雖然在性能上區別較大,但是在AI能力上差距則是縮小到30%以內。
![]()
圖源:雷科技
倒也不難理解,畢竟一項技術只有旗艦機能用,最多叫展示,只有真正進入5000元、6000元價位段,才能談普及。
英特爾想給智能體應用們“造輪子”
此次分享會除了展示英特爾的AI技術進展外,也集中展示了英特爾的AI伙伴們的成果。而且,這一切都要追溯到今年4月時,英特爾首次提出“智能體PC”的邏輯架構。
在短短三個月后,英特爾再次把Flowy、QClaw、remio、TRAE、DuMate、YOYO Claw、Marvis等一批生態伙伴拉到現場,一口氣展示了20多項智能體PC應用。從現場來看,英特爾對于“智能體PC”的理解,已經明顯不只是“在電腦上跑一個大模型”。
![]()
圖源:雷科技
按照英特爾中國區技術部總經理高宇的說法,個人計算正在從“工具增強”進入“智能伙伴”階段。智能體PC需要具備思考、調度、執行、交互和記憶五個模塊,AI不只是等著用戶問一句、答一句,而是主動拆解任務,再調用不同能力完成整個流程。
聽起來有點抽象?直接看現場演示就容易理解多了。比如remio的知識工作場景,用戶可以一次性導入多份訪談文檔和錄音,AI在本地完成語音轉寫,然后跨文檔尋找信息、聚合結論,最后再把結果導出。
![]()
圖源:雷科技
對于經常跑展會、做線下走訪的小雷來說,這個場景確實很熟悉。就拿發布會來說,一場群訪結束,起步一小時的錄音需要先轉錄,然后再看文字稿,再對照資料找信息,最后手動整理進提綱。
現在,只需要把錄音和各種資料文檔一起丟給remio,它就會自動整理并核實,同時結合資料來檢查錄音轉錄的文稿,確保與官方資料保持一致,這就相當于把后期處理的時間成本直接壓縮,讓用戶有更多的精力去思考內容。
類似的演示還有不少,可以說直接覆蓋了許多人的日常工作和生活場景,這也讓小雷意識到英特爾是真的想講好“AI PC”的故事。他們一直在挖掘真實的使用場景,然后去倒推AI PC的功能升級,以此去回答目前用戶的最大問題:它到底能幫我干什么?
不過,看完現場20多個Demo后,小雷還是有一個很明顯的感受:智能體PC現在真正難的,可能已經不是再做一個AI功能了,而是怎么讓這些功能穩定地跑在不同品牌、不同配置的電腦上。
![]()
圖源:雷科技
說實話,AI行業從來不缺Demo,小雷參加過許多場關于AI PC的發布會,但是也一直好奇一個問題:離開了這個配置和環境,我能夠得到的體驗還是一樣的嗎?純云端的智能體應用可以直接回答這個問題,但是端云協同的卻不行,因為它有相當部分推理是在本地跑的。
所以這次英特爾花了不少篇幅講Skills,前段時間用過OpenClaw等Agent軟件的朋友對此肯定不陌生。簡單來說,就是英特爾希望打造一個Skills生態,把各個智能體應用都拉進去,讓大家可以共享一套Skills,讓智能體應用至少具備相同的基礎能力。
![]()
圖源:雷科技
目前,英特爾已經在Marvis、TRAE、YOYO Claw等桌面智能體軟件中上線端側AI Skills及專區,同時與魔搭社區共建AI PC專區,希望把ASR、TTS、OCR、本地文生圖等能力,做成開發者和軟件廠商可以直接調用的模塊。
只能說不愧是PC行業的祖師爺,這套操作也算是“祖宗之法”了。畢竟PC行業過去幾十年能形成龐大的軟件生態,很重要的原因就是開發者不用從顯卡驅動、處理器指令集開始造輪子,而是有大量現成的工具可以使用。
AI智能體同樣如此,如果每家公司都去自己做一套OCR、語音識別、模型路由,最后的結果只會是大量重復開發。所以,英特爾把基礎能力變成Skill,讓不同Agent直接調用,智能體PC才可能真正從Demo走向軟件生態。
![]()
圖源:雷科技
有人可能要問了:“那不同的智能體應用還有什么區別?”區別當然是有的,基礎能力相同不代表進階能力相同,模型調度、任務推理等步驟才是應用之間的競技場,也是真正體現智能體和模型能力的地方。
說實話,從今年4月首次提出智能體PC架構,到現在20多項場景落地,英特爾只用了三個月,速度確實不慢,英特爾自己也用“百日沖刺”來形容。而且他們也終于證明了一件事:AI真的可以替你干活。
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.