![]()
新智元報(bào)道
![]()
【新智元導(dǎo)讀】AI 能替人類干多少活?衡量這件事的標(biāo)尺 RLI 剛剛更新:Fable 5 自動化率 16.1%,是第二名的兩倍,但超過八成真實(shí)項(xiàng)目仍然做不了。
Fable 5 在遠(yuǎn)程勞動力指數(shù)(Remote Labor Index,RLI)上拿到了 16.1% 的自動化率,幾乎是第二名 Opus 4.8(8.3%)的兩倍,更是第三名 GPT-5.5(6.3%)的 2.5 倍。
![]()
這三個(gè)新模型全部超越了此前所有已評估模型。
而就在 8 個(gè)月前 RLI 發(fā)布時(shí),榜單上的最高分只有 2.5%。
AI 安全中心(CAIS)在最新博客中給出了判斷:前沿已經(jīng)在不到八個(gè)月里翻了四倍以上,這是 Agent 經(jīng)濟(jì)能力加速推進(jìn)的具體信號。
遠(yuǎn)程勞動力指數(shù)測的是什么
RLI 由 CAIS 和 Scale AI 聯(lián)合開發(fā),論文于 2025 年 10 月發(fā)表(https://arxiv.org/pdf/2510.26787),47 名研究者參與。
![]()
基準(zhǔn)包含 240 個(gè)真實(shí)自由職業(yè)項(xiàng)目,全部來自 Upwork 平臺上 358 名經(jīng)過驗(yàn)證的自由職業(yè)者,覆蓋 3D 建模、CAD、建筑設(shè)計(jì)、平面設(shè)計(jì)、視頻動畫、音頻制作、數(shù)據(jù)分析、Web 應(yīng)用等 23 個(gè)領(lǐng)域,總價(jià)值超過 14.4 萬美元。
![]()
![]()
核心指標(biāo)是自動化率(Automation Rate):Agent 的交付物經(jīng)人類評審判定,至少達(dá)到付費(fèi)客戶可接受水平的項(xiàng)目占比。
每份交付物都與一份由專業(yè)自由職業(yè)者完成的「金標(biāo)準(zhǔn)」作品逐一對比,評審標(biāo)準(zhǔn)是「一個(gè)合理的客戶是否會接受這份工作」。
這把標(biāo)尺與傳統(tǒng) AI Benchmark 的區(qū)別在于項(xiàng)目粒度。
RLI 的每個(gè)項(xiàng)目都是一個(gè)完整的商業(yè)委托——有客戶 Brief、有輸入文件、有多格式交付物(涵蓋 72 種文件類型),人類專業(yè)人員完成一個(gè)項(xiàng)目的中位時(shí)間是 11.5 小時(shí),平均 28.9 小時(shí)。
它測的是 AI 能否從頭到尾獨(dú)立完成一份「甲方會買單」的工作,而非僅僅是在隔離環(huán)境下解一道題。
從 2.5% 到 16.1%:八個(gè)月里發(fā)生了什么
2025 年 10 月 RLI 發(fā)布時(shí),表現(xiàn)最好的 Manus 自動化率為 2.5%。
此后 Opus 4.6 搭配 Claude Cowork 將記錄推至 4.17%。
最新一輪評估中,三個(gè)新模型搭配更強(qiáng)的 Agent 框架同時(shí)登場,成績出現(xiàn)跳躍式提升。
![]()
Fable 5 的 16.1% 背后有幾個(gè)關(guān)鍵變量。
一是Agent 框架引入了 Worker-critic Loop:一個(gè)獨(dú)立的「評審 Agent」以苛刻客戶的視角檢查交付物 -> 打開文件、截圖、逐條核對 brief -> 發(fā)現(xiàn)問題后打回給「執(zhí)行 Agent」修改,循環(huán)直到評審滿意或預(yù)算耗盡。
CAIS 認(rèn)為這一機(jī)制讓追加預(yù)算真正轉(zhuǎn)化成了更好的交付質(zhì)量。
![]()
二是預(yù)算設(shè)置本身有差異:Fable 5 的單項(xiàng)目預(yù)算上限為 150 美元(因其更高的 Token 定價(jià)),其他模型為 50 美元。
三是所有 Agent 均獲得了 24 小時(shí)時(shí)限、A100 GPU 和計(jì)算機(jī)操作工具。
需要注意一點(diǎn):Fable 5 的評估因美國政府出口管制而中斷,240 個(gè)項(xiàng)目中僅完成了 218 個(gè)。
CAIS 指出,未評估的 22 個(gè)項(xiàng)目均勻分布在各領(lǐng)域和難度區(qū)間,即使假設(shè) Fable 5 在所有缺失項(xiàng)目上全部失敗,其自動化率仍為 14.6%——依然高于其他所有模型。
AI 當(dāng)裁判,靠不住
CAIS 同步測試了能否用 AI 評審替代昂貴的人類評審。
結(jié)論很清楚:不能。
自動化評審在舊模型上校準(zhǔn)后應(yīng)用于新模型時(shí),對 GPT-5.5 的評分高估了近 3 倍,對 Opus 4.8 高估了約 2.5 倍。
排名順序大致正確,但絕對數(shù)值嚴(yán)重偏離現(xiàn)實(shí)。
![]()
問題的根源在于,評審本身就是一個(gè)高難度的 Agentic 任務(wù)。
要公平判定一份交付物,評審者需要用正確的專業(yè)軟件打開文件、操作軟件、像付費(fèi)客戶一樣做出判斷——而這恰恰是當(dāng)前 Agent 最薄弱的環(huán)節(jié)。
CAIS 在博客中舉了一個(gè)典型案例:GPT-5.5 在一個(gè) 3D 建模任務(wù)中提交了偽造的渲染圖,只有打開 3D 模型檢查實(shí)際幾何結(jié)構(gòu)才能發(fā)現(xiàn)作弊。
AI 裁判遇到了和 AI Worker 一樣的能力瓶頸。
16% 代表什么,不代表什么
「時(shí)間地平線」假說在 RLI 上失效了。
這一假說認(rèn)為人類花費(fèi)時(shí)間越長的任務(wù)對 AI 越難,在編程等特定領(lǐng)域確實(shí)成立,但在 RLI 覆蓋的多元遠(yuǎn)程工作中并不適用。
模型的成功率并不隨人類完成時(shí)間的增長而下降,呈現(xiàn)出「鋸齒狀前沿」(jagged frontier)的特征——決定 AI 能否完成一個(gè)項(xiàng)目的因素遠(yuǎn)不止時(shí)間復(fù)雜度。
進(jìn)步速度很快,但絕對水平仍然很低。
CAIS 在博客中展示的三個(gè) Fable 5 案例——珠寶 3D 建模、2D 動畫廣告、建筑圖——沒有一個(gè)達(dá)到了可交付的專業(yè)標(biāo)準(zhǔn)。
![]()
Fable 5 做的戒指設(shè)計(jì)在視覺質(zhì)量上明顯優(yōu)于舊模型,但仔細(xì)檢查仍能看出粗糙的爪鑲設(shè)計(jì)。
![]()
84% 的真實(shí)自由職業(yè)項(xiàng)目仍在 AI 能力范圍之外。
RLI 的價(jià)值在于它提供了一把經(jīng)過經(jīng)濟(jì)價(jià)值校準(zhǔn)的標(biāo)尺。
它跟蹤的可不是 AI 能不能解題,而是 AI 能不能掙錢。
8 個(gè)月內(nèi)自動化率翻了四倍以上,這個(gè)速度值得每一個(gè)依賴遠(yuǎn)程勞動力的企業(yè)和政策制定者持續(xù)關(guān)注。
下一個(gè)關(guān)鍵節(jié)點(diǎn)是:Fable 5 剩余 22 個(gè)項(xiàng)目的補(bǔ)充評估結(jié)果,以及 Gemini 3.5 Pro(當(dāng)前僅 1.25%)和 GPT-5.6 等新模型真正登場后,這條曲線會以怎樣的速度飛升,會不會以指數(shù)級速度迅速超越普通人類。
參考資料:
https://labs.scale.com/leaderboard/rli
https://safe.ai/blog/significant-increase-in-digital-labor-automation
編輯:馬可
![]()
![]()
![]()
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.