北京
八年前Meta就有萬億參數(shù)模型了——哦不，今天的話題不是這個。一份來自Anthropic的封閉模型研究，發(fā)現(xiàn)模型中間層藏著一個“方向字典”，能因果性地左右輸出。論文讀完，留下的全是開放問題：這種引導(dǎo)能輻射多遠(yuǎn)？在訓(xùn)練哪一階段成形？跨模型能搬過去嗎？規(guī)模一大又會怎樣？
有個叫Elie的獨(dú)立研究者，沒打算自己一行行跑實(shí)驗。他讓對話代理fable來頭腦風(fēng)暴，又把實(shí)驗設(shè)計丟回去，讓它在集群上幾乎全自動地跑通。Elie說，自己在這個領(lǐng)域不算專家，要不是有代理幫忙，他根本抽不出時間，甚至不會想到做這些實(shí)驗。他要做的，只是回頭理解結(jié)果，再和代理來回打磨實(shí)驗細(xì)節(jié)和可視化。
最終，他給出了針對開放模型的四組測量，以及被結(jié)果倒逼出來的兩個追加實(shí)驗。頁面上每一個數(shù)字，都從提交的結(jié)果文件重新推導(dǎo)；每一張圖表，可交互。他甚至貼心準(zhǔn)備了一份給代理用的提示詞，讓其他研究者可以直接把圖表和問題丟給AI助手去解讀。
如果連實(shí)驗都可以由代理代勞，那人類的角色會不會變?yōu)椤皢栴}發(fā)球機(jī)”和“結(jié)果品鑒師”？Elie的文章形式已經(jīng)給出了他的答案：他不再花幾天寫體面的博客，而是讓代理寫初稿，自己來回刪掉廢話、調(diào)整可視化。讀文章和論文的習(xí)慣也變了——多數(shù)時候直接通過代理提問、只看圖表。
這份輕量報告的意義，或許不在于它填上了Anthropic留下的哪一道空，而在于它示范了一種新的研究發(fā)布節(jié)奏：數(shù)據(jù)、圖表、代理友好的格式、可復(fù)現(xiàn)的倉庫，全部打包推出來，等待別人的AI來咀嚼。
特別聲明：以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布，本平臺僅提供信息存儲服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
