廣東
最近央視曝光的哩布哩布AI涉黃事件，實(shí)在讓人驚掉下巴。記者用網(wǎng)上買的提示詞，幾分鐘就生成了半裸女性跳舞視頻，全程沒觸發(fā)任何限制機(jī)制。
這家叫北京奇點(diǎn)星宇的公司，2023年5月成立，注冊資本才100萬，卻敢做AI生成平臺(tái)，現(xiàn)在看來安全防線形同虛設(shè)。
這事絕不是個(gè)案。現(xiàn)在網(wǎng)上已經(jīng)形成了完整的灰色產(chǎn)業(yè)鏈，有人專門賣規(guī)避審核的提示詞，有人靠生成違規(guī)內(nèi)容牟利。平臺(tái)事后道歉說只是個(gè)別邊界場景問題，但明眼人都清楚，這根本是審核機(jī)制嚴(yán)重缺位。
AI技術(shù)發(fā)展快是好事，但安全底線不能丟。《生成式人工智能服務(wù)管理暫行辦法》都實(shí)施快三年了，還有公司敢這么敷衍安全責(zé)任。注冊資本100萬，抗風(fēng)險(xiǎn)能力本就弱，再把安全當(dāng)兒戲，出事是遲早的事。
我覺得這事得從三方面解決：一是平臺(tái)必須把內(nèi)容安全當(dāng)核心競爭力，而不是成本負(fù)擔(dān)；二是監(jiān)管要加大處罰力度，讓違規(guī)成本遠(yuǎn)高于收益；三是行業(yè)得盡快建立統(tǒng)一的安全標(biāo)準(zhǔn)。AI不是法外之地，狂奔的同時(shí)必須裝好剎車，不然技術(shù)再先進(jìn)，也只會(huì)淪為作惡工具。@營銷頭版
特別聲明：以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶上傳并發(fā)布，本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
喵喵娛樂團(tuán)
