北京
OpenAI 正在把家長監(jiān)護(hù)功能從“防護(hù)罩”升級(jí)為“雙向傳感器”——不光要察覺孩子是否受到傷害，也開始主動(dòng)告訴家長：你的孩子可能正在攻擊別人。
7 月 18 日消息，OpenAI 將進(jìn)一步擴(kuò)大 ChatGPT 的家長通知范圍。只要青少年的賬號(hào)因違反暴力威脅或網(wǎng)絡(luò)暴力行為政策被封，已完成賬號(hào)關(guān)聯(lián)的父母或監(jiān)護(hù)人就會(huì)收到一條“重要更新”提醒。點(diǎn)開詳情后，頁面會(huì)明確告知賬號(hào)是因觸犯“暴力行為”使用政策而被停用。這意味著，家長第一次能系統(tǒng)性獲知子女在 AI 對(duì)話中潛在的攻擊性行為，而不再只是被動(dòng)接收孩子可能自殘的警示。
新功能出自 OpenAI 與網(wǎng)絡(luò)暴力監(jiān)測機(jī)構(gòu) Moonshot 的合作。Moonshot 創(chuàng)始人維迪婭·拉馬林甘解釋，當(dāng)出現(xiàn)嚴(yán)重風(fēng)險(xiǎn)時(shí)及時(shí)通知父母，并讓他們進(jìn)一步了解情況，是幫助家庭盡早介入和尋求援助的關(guān)鍵第一步。同時(shí)她也提醒，要讓年輕人更安全地使用 ChatGPT，還需要后續(xù)配合更多保護(hù)措施。
這輪安全加碼背后，有一段繞不開的現(xiàn)實(shí)推力。2025 年，加拿大不列顛哥倫比亞省坦布勒嶺發(fā)生大規(guī)模槍擊案，調(diào)查發(fā)現(xiàn)嫌疑人曾使用 ChatGPT。盡管 OpenAI 事后封禁了槍手的賬號(hào)，卻未向執(zhí)法部門發(fā)出警報(bào)。加拿大當(dāng)局隨后傳喚 OpenAI，CEO 奧爾特曼為此公開道歉。從那次事件之后，OpenAI 的安全機(jī)制便被反復(fù)審視——孩子的攻擊性風(fēng)險(xiǎn)同樣需要進(jìn)入預(yù)警回路，而不僅僅是事后封號(hào)了事。
此次更新不只是“秋后算賬”式的通知。OpenAI 還悄悄在家長控制頁面里塞進(jìn)了一個(gè)“學(xué)習(xí)模式”開關(guān)。開啟后，ChatGPT 不再直接拋出完整答案，而是先給出提示，引導(dǎo)學(xué)生自己思考和推導(dǎo)。與此同時(shí)，青少年若長時(shí)間停留在對(duì)話頁面，也會(huì)更頻繁地看到休息提醒，幫助養(yǎng)成更克制的數(shù)字設(shè)備使用習(xí)慣。這兩個(gè)動(dòng)作共同劃出一條路線：既要防止 AI 被當(dāng)作宣泄暴力的工具，也不想讓它變成只管吐答案的捷徑。
雙向預(yù)警的到來，等于給家長關(guān)系加了一層新濾鏡——監(jiān)護(hù)不再是單向監(jiān)控，也是一次次對(duì)話和介入的起點(diǎn)。但它還遠(yuǎn)遠(yuǎn)不是終點(diǎn)。
特別聲明：以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶上傳并發(fā)布，本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
