浙江
OpenAI發(fā)布了GPT-4o System Card，這是一份研究文件，概述了該初創(chuàng)公司在發(fā)布最新模型之前采取的安全措施和風(fēng)險評估。
GPT-4o于今年5月公開發(fā)布。在首次亮相之前，OpenAI曾利用一組外部紅隊成員（即試圖找出系統(tǒng)中弱點的安全專家）來查找模型中的關(guān)鍵風(fēng)險（這是一種相當標準的做法）。他們檢查了GPT-4o可能會創(chuàng)建未經(jīng)授權(quán)的某人聲音克隆、色情和暴力內(nèi)容或復(fù)制的受版權(quán)保護的音頻片段等風(fēng)險。現(xiàn)在，結(jié)果正在公布。
根據(jù)OpenAI自己的框架，研究人員發(fā)現(xiàn)GPT-4o具有“中等”風(fēng)險。總體風(fēng)險水平取自四個總體類別中的最高風(fēng)險評級：網(wǎng)絡(luò)安全、生物威脅、說服力和模型自主性。除了說服力之外，所有這些都被認為是低風(fēng)險的，研究人員發(fā)現(xiàn)GPT-4o的一些寫作樣本在影響讀者意見方面可能比人類書寫的文本更好——盡管該模型的樣本總體上并不更具說服力。
OpenAI發(fā)言人Lindsay McCallum Rémy向媒體透露，GPT-4o System Card包括由內(nèi)部團隊創(chuàng)建的準備情況評估，以及OpenAI網(wǎng)站上列出的外部測試人員，即模型評估與威脅研究 (METR) 和阿波羅研究，這兩個機構(gòu)都為人工智能系統(tǒng)建立評估。
這并不是OpenAI發(fā)布的第一份相關(guān)評估報告；GPT-4、帶視覺的 GPT-4和DALL-E 3也進行了類似的測試，并發(fā)布了研究結(jié)果。但 OpenAI是在關(guān)鍵時刻發(fā)布這份報告的。就在GPT-4o System Card發(fā)布的幾分鐘前，有科技媒體報道了參議員伊麗莎白·沃倫(Elizabeth Warren) (D-MA) 和眾議員洛里·特拉漢 (Lori Trahan) (D-MA) 的一封公開信，要求OpenAI解釋如何回應(yīng)舉報人和安全審查。這封信概述了許多公開指出的安全問題，包括首席執(zhí)行官薩姆·奧特曼 (Sam Altman) 于2023年因董事會擔憂而短暫被公司罷免，以及一位安全主管的離職，這位主管聲稱“安全文化和流程已經(jīng)讓位于光鮮的產(chǎn)品”。
此外，該公司在美國總統(tǒng)大選前夕發(fā)布了一款功能強大的多模式模型。該模型顯然存在意外傳播錯誤信息或被惡意行為者劫持的風(fēng)險——即使OpenAI希望強調(diào)該公司正在測試真實場景以防止濫用。
很多人呼吁OpenAI更加透明，不僅是模型的訓(xùn)練數(shù)據(jù)（比如它有在 YouTube上訓(xùn)練嗎？），還包括其安全測試。在OpenAI和許多其他領(lǐng)先人工智能實驗室所在的加利福尼亞州，州參議員斯科特·維納 (Scott Wiener) 正在努力通過一項法案來規(guī)范大型語言模型，其中包括如果公司的人工智能被用于有害用途，將追究公司的法律責任。如果該法案獲得通過，OpenAI 的前沿模型在向公眾開放之前必須遵守當?shù)貜娭埔?guī)定的風(fēng)險評估。然而GPT-4o System Card最大的問題在于，盡管有一群外部紅隊成員和測試人員，但其中很大一部分依賴于 OpenAI自己來評估。
特別聲明：以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布，本平臺僅提供信息存儲服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
