美國(guó)拍下暫停鍵：5年內(nèi)，擬禁止制造&銷(xiāo)售兒童AI玩具

讓AI陪伴產(chǎn)品的定位更明確。

來(lái)源|多知

作者|馮瑋

在美國(guó)，針對(duì)兒童AI產(chǎn)品的監(jiān)管正在進(jìn)一步收緊。

多知整理發(fā)現(xiàn)，近日，美國(guó)紐約州和加利福尼亞州立法機(jī)構(gòu)相繼推進(jìn)針對(duì)AI聊天玩具的限制法案。

兩州提出的方案均涉及“暫停期（moratorium）”，擬在未來(lái)數(shù)年內(nèi)禁止相關(guān)產(chǎn)品的制造和銷(xiāo)售，為監(jiān)管部門(mén)、兒童發(fā)展專(zhuān)家和產(chǎn)業(yè)界爭(zhēng)取時(shí)間，對(duì)這類(lèi)新興產(chǎn)品的安全性展開(kāi)更系統(tǒng)的評(píng)估。

具體來(lái)看：

紐約州議會(huì)正在審議S9408A法案。

其中提到，州內(nèi)將禁止制造、交換、分發(fā)和銷(xiāo)售“聊天機(jī)器人玩具”。

該法案由紐約州參議員Andrew Gounardes發(fā)起，他指出：“我的法案將暫時(shí)中止面向幼兒的人工智能聊天機(jī)器人玩具的銷(xiāo)售，以便專(zhuān)家研究其對(duì)兒童的影響，并在造成更大傷害之前制定有效的保護(hù)措施。這合乎邏輯，公平合理，最重要的是，它明確表明，我們孩子的安全絕非大型科技公司可以拿來(lái)開(kāi)玩笑的事情”。

其中提到的聊天機(jī)器人玩具，具體包括毛絨玩具、機(jī)器人、玩偶和帶有大型語(yǔ)言模型的語(yǔ)音激活設(shè)備，這些設(shè)備可以連接到互聯(lián)網(wǎng)并使用人工智能與兒童互動(dòng)。

在紐約州參議院新聞中心的內(nèi)容中，Andrew Gounardes提到：

“一項(xiàng)研究表明，聊天機(jī)器人玩具旨在通過(guò)持續(xù)在線(xiàn)和個(gè)性化回復(fù)來(lái)建立情感依戀。這對(duì)五歲以下的用戶(hù)來(lái)說(shuō)尤其危險(xiǎn)，因?yàn)樗麄兩袩o(wú)法區(qū)分人工智能和人類(lèi)，而且也使所有兒童難以面對(duì)真實(shí)的人際關(guān)系。”

“過(guò)度使用聊天機(jī)器人玩具，尤其是在這種使用取代了人際互動(dòng)的情況下，會(huì)剝奪兒童培養(yǎng)同理心、適應(yīng)能力和溝通技巧等社交技能的機(jī)會(huì)。 ”

“聊天機(jī)器人玩具不僅收集用戶(hù)主動(dòng)會(huì)話(huà)的數(shù)據(jù)，還會(huì)被動(dòng)錄音，監(jiān)視背景對(duì)話(huà)和家庭討論。至少有些型號(hào)會(huì)將這些數(shù)據(jù)與外部機(jī)構(gòu)共享，用于分析和廣告。這給家庭帶來(lái)了隱私風(fēng)險(xiǎn)：今年2月，兩位美國(guó)參議員發(fā)現(xiàn)了一個(gè)公共網(wǎng)站，訪(fǎng)問(wèn)者可以在該網(wǎng)站下載數(shù)千條關(guān)于Miko與特定兒童互動(dòng)的數(shù)據(jù)。”

“美國(guó)聯(lián)邦貿(mào)易委員會(huì)已對(duì)七家主要的聊天機(jī)器人開(kāi)發(fā)商展開(kāi)調(diào)查，其中幾家已將人工智能助手集成到玩具中。與此同時(shí)，芭比娃娃、風(fēng)火輪、費(fèi)雪、美國(guó)女孩和波莉口袋娃娃的制造商美泰公司宣布與OpenAl合作，將人工智能的魔力帶入玩具領(lǐng)域。然而，OpenAl在其網(wǎng)站上承認(rèn)，ChatGPT對(duì)13歲以下兒童不安全。 ”

按照目前進(jìn)展，該法案已于6月1日在紐約州參議院獲得通過(guò)，并于6月2日在州眾議院獲得通過(guò)。由于眾議院對(duì)法案進(jìn)行了小幅修改，目前法案已返回參議院等待最終確認(rèn)。

五年禁令到期后，立法者可以決定是否延長(zhǎng)禁令，或者允許向兒童銷(xiāo)售人工智能玩具，但可能需要制定相關(guān)法規(guī)來(lái)應(yīng)對(duì)其風(fēng)險(xiǎn)。

同時(shí)，該法案采取的合理步驟是——在允許科技公司不受限制地接觸紐約最年幼、最脆弱的用戶(hù)群體之前，暫時(shí)中止銷(xiāo)售這種幾乎不受監(jiān)管的兒童產(chǎn)品。

在法案支持者看來(lái)，這一暫停期將為政策制定者、兒童發(fā)展專(zhuān)家、家長(zhǎng)、AI開(kāi)發(fā)者和玩具制造商爭(zhēng)取時(shí)間，對(duì)AI聊天玩具可能帶來(lái)的影響進(jìn)行更深入研究，并探索相應(yīng)的監(jiān)管框架。

幾乎在同一時(shí)期，加州也在推進(jìn)類(lèi)似立法。

加州參議員Steve Padilla提出了SB 867法案，該法案是全美首例，對(duì)面向18歲以下兒童銷(xiāo)售和生產(chǎn)具備人工智能聊天機(jī)器人功能的玩具實(shí)施為期四年的禁令。

Steve Padilla指出： “人工智能技術(shù)的應(yīng)用范圍正以驚人的速度擴(kuò)展。我們絕不能允許危險(xiǎn)且未經(jīng)檢驗(yàn)的技術(shù)被推銷(xiāo)給我們的孩子。通過(guò)暫停銷(xiāo)售人工智能聊天機(jī)器人玩具，我們可以投入必要的時(shí)間和精力來(lái)建立一個(gè)健全的監(jiān)管框架，以確保兒童的安全。”

實(shí)際上，加州擁有全美最嚴(yán)格的玩具安全法律，旨在保護(hù)兒童免受各種身體傷害，例如接觸有毒物質(zhì)和窒息危險(xiǎn)等等。

Steve Padilla強(qiáng)調(diào)，SB 867 法案由Children Now組織發(fā)起，并提議暫停向18歲以下兒童銷(xiāo)售和生產(chǎn)具備人工智能聊天機(jī)器人功能的玩具，為期四年。這樣做的目的，是為了“以便我們有時(shí)間更新法律，使其適應(yīng)數(shù)字時(shí)代。”

該法案已于5月28日在加州參議院以39票贊成、0票反對(duì)獲得通過(guò)，目前正在提交眾議院審議。

“技術(shù)發(fā)展的速度已經(jīng)超過(guò)了安全保障機(jī)制建立的速度，兒童不應(yīng)該成為未經(jīng)驗(yàn)證技術(shù)的實(shí)驗(yàn)對(duì)象”，Steve Padilla補(bǔ)充。

多知整理發(fā)現(xiàn)，推動(dòng)兩州立法的重要原因，是AI玩具正在發(fā)生根本變化。

過(guò)去兩年，以生成式AI為核心的新一代兒童硬件開(kāi)始快速涌現(xiàn)：從AI毛絨玩具、AI玩偶到具備陪伴能力的機(jī)器人產(chǎn)品，這些設(shè)備已經(jīng)不再只是按照預(yù)設(shè)程序進(jìn)行簡(jiǎn)單互動(dòng)，而是能夠借助大模型持續(xù)對(duì)話(huà)、記憶用戶(hù)信息，并根據(jù)兒童的情緒和交流習(xí)慣進(jìn)行回應(yīng)。

支持法案的立法者認(rèn)為，這類(lèi)產(chǎn)品使用的底層技術(shù)與ChatGPT等生成式AI系統(tǒng)高度相似，但其進(jìn)入兒童成長(zhǎng)場(chǎng)景后的長(zhǎng)期影響仍缺乏充分驗(yàn)證；在監(jiān)管者看來(lái)，這類(lèi)產(chǎn)品已經(jīng)不再只是傳統(tǒng)意義上的玩具，而正在成為能夠長(zhǎng)期影響兒童認(rèn)知、情緒和社交關(guān)系的新型數(shù)字伙伴。

而自2025年12月以來(lái)，美國(guó)已有超過(guò)30個(gè)州提出了100多項(xiàng)與人工智能相關(guān)的法案，其中許多法案可能會(huì)影響兒童使用的設(shè)備，在前文提到的兩個(gè)州已經(jīng)明確在AI+玩具外，華盛頓等則設(shè)立了適用于所有類(lèi)別人工智能產(chǎn)品的保護(hù)機(jī)制。

例如：

俄勒岡州（SB 1546——法案已通過(guò)，等待州長(zhǎng)蒂娜·科泰克在未來(lái)幾周內(nèi)簽署）。

-需要明確告知用戶(hù)，他們正在與人工智能而非人類(lèi)進(jìn)行交互。

-強(qiáng)制要求制定檢測(cè)自殘或自殺意念的規(guī)程，包括危機(jī)轉(zhuǎn)介和基于臨床最佳實(shí)踐的干預(yù)措施。

-禁止發(fā)布露骨的性?xún)?nèi)容。

-限制聊天機(jī)器人模擬情感依賴(lài)或戀愛(ài)關(guān)系，并禁止基于參與度的獎(jiǎng)勵(lì)機(jī)制。

-需要定期提醒（每三小時(shí)一次）暫停與人工智能的互動(dòng)

-要求每年就危機(jī)干預(yù)和安全規(guī)程提交公開(kāi)報(bào)告。

華盛頓州（HB 2225 – 法案已通過(guò)，待州長(zhǎng)鮑勃·弗格森于3月24日簽署）。

-要求披露人工智能信息，包括每小時(shí)提醒用戶(hù)正在與人工智能交互。

-強(qiáng)制要求采取保障措施，以發(fā)現(xiàn)和應(yīng)對(duì)自殘行為（包括飲食失調(diào)），并提供危機(jī)干預(yù)資源。

-禁止發(fā)布露骨的性?xún)?nèi)容。

-限制操縱性交往策略，包括培養(yǎng)情感依戀、模仿戀愛(ài)關(guān)系或鼓勵(lì)與家人或信任的成年人隔離。

白宮發(fā)布了《國(guó)家人工智能政策框架》，概述了國(guó)會(huì)的立法優(yōu)先事項(xiàng)。

其中提及：

-加強(qiáng)對(duì)未成年人與人工智能系統(tǒng)互動(dòng)時(shí)的保護(hù)。

-賦予家長(zhǎng)管理孩子數(shù)字體驗(yàn)的工具。

-鼓勵(lì)采取安全措施，以降低自殘或被剝削等風(fēng)險(xiǎn)。

-避免出現(xiàn)各自為政、監(jiān)管體系碎片化的局面，同時(shí)保留各州解決地方問(wèn)題的能力。

圍繞未成年人使用AI聊天機(jī)器人、AI陪伴產(chǎn)品和AI玩具，以及在當(dāng)前整個(gè)AI網(wǎng)絡(luò)環(huán)境下的安全及監(jiān)管討論，正在多個(gè)國(guó)家同步升溫。

在中國(guó)，將于2026年7月15日起施行的《人工智能擬人化互動(dòng)服務(wù)管理暫行辦法》（下稱(chēng)《辦法》），意味著以AI玩偶為代表的情感交互行業(yè)，將告別自由生長(zhǎng)的野蠻階段，邁入安全、有序、向善的高質(zhì)量發(fā)展新周期。

2025年，中國(guó)青少年研究中心針對(duì)全國(guó)7個(gè)省份、8500多名未成年人展開(kāi)專(zhuān)項(xiàng)調(diào)研，數(shù)據(jù)顯示：超過(guò)兩成的孩子在接觸AI產(chǎn)品后，漸漸滋生出“只想依賴(lài)AI，不愿獨(dú)立思考”的惰性思維；同樣有兩成多的孩子，愈發(fā)沉迷于和AI玩偶的單向交流，刻意回避與身邊親人、同伴的真人溝通，慢慢陷入虛擬陪伴的社交孤島。

艾媒咨詢(xún)發(fā)布的《2026年中國(guó)AI玩具行業(yè)發(fā)展?fàn)顩r與消費(fèi)行為調(diào)查數(shù)據(jù)》顯示，中國(guó)AI玩具市場(chǎng)由中青年主導(dǎo)，且56.05%的消費(fèi)者每周都會(huì)使用AI玩具3-5次……

《辦法》規(guī)定，擬人化互動(dòng)服務(wù)提供者不得向未成年人提供虛擬親屬、虛擬伴侶等虛擬親密關(guān)系服務(wù)；向不滿(mǎn)14周歲未成年人提供其他擬人化互動(dòng)服務(wù)的，應(yīng)取得父母或其他監(jiān)護(hù)人同意。

此外，擬人化互動(dòng)服務(wù)提供者應(yīng)當(dāng)建立未成年人模式，還應(yīng)在保護(hù)隱私和個(gè)人信息前提下，采取有效措施識(shí)別未成年人身份；識(shí)別為未成年人用戶(hù)的，應(yīng)切換至未成年人模式或采取其他措施。

天翼物聯(lián)云芯AI模組產(chǎn)品線(xiàn)總監(jiān)彭昭在一次媒體對(duì)話(huà)中提到，行業(yè)曾探索“娛樂(lè)化、社交化終端”方向，希望讓玩偶構(gòu)建兒童社交網(wǎng)絡(luò)，在虛擬空間形成獨(dú)立數(shù)字人格。如今，新規(guī)的出臺(tái)，為這條探索之路踩下穩(wěn)健剎車(chē)。

在澳大利亞，負(fù)責(zé)網(wǎng)絡(luò)安全事務(wù)的eSafety Commissioner已連續(xù)對(duì)多家AI陪伴產(chǎn)品展開(kāi)調(diào)查，并要求企業(yè)說(shuō)明如何保護(hù)未成年人免受色情內(nèi)容、自殘誘導(dǎo)等風(fēng)險(xiǎn)影響。今年發(fā)布的一份官方報(bào)告指出，多款主流AI陪伴產(chǎn)品在兒童保護(hù)方面存在明顯缺陷。

英國(guó)也正在討論如何將AI聊天機(jī)器人納入現(xiàn)有未成年人網(wǎng)絡(luò)保護(hù)框架，并針對(duì)AI陪伴產(chǎn)品可能帶來(lái)的風(fēng)險(xiǎn)加強(qiáng)監(jiān)管審查。

過(guò)去二十年，兒童互聯(lián)網(wǎng)監(jiān)管主要圍繞社交媒體、視頻平臺(tái)和網(wǎng)絡(luò)游戲展開(kāi)；而隨著生成式AI開(kāi)始進(jìn)入毛絨玩具、機(jī)器人、兒童陪伴設(shè)備等硬件場(chǎng)景，監(jiān)管對(duì)象也正在從“屏幕里的AI”延伸到“玩具里的AI”。

當(dāng)AI開(kāi)始以朋友、寵物、老師甚至情感陪伴者的身份進(jìn)入兒童世界時(shí)，從世界到國(guó)內(nèi)，不同的政策與方案本質(zhì)上的目的是相似的。

即，讓AI陪伴產(chǎn)品的定位更明確，它不是親情的替代品，不是心理的操控者，而是引導(dǎo)成長(zhǎng)、輔助溝通、增益家庭關(guān)系的工具；也讓AI陪伴孩子時(shí)，可以更安全，更安心。

作者：馮瑋

教育科技媒體多知商務(wù)對(duì)接人：夏女士18614077531(微信同號(hào))

教育從業(yè)者年度必讀丨《教育科技這一年：教育+AI新紀(jì)元》火熱銷(xiāo)售中，點(diǎn)擊小程序購(gòu)買(mǎi)?

掃碼加入多知新書(shū)交流群，共同探討教育+AI的未來(lái)

由肖云著、多知首發(fā)的《價(jià)值：增長(zhǎng)的邏輯》今日開(kāi)售！點(diǎn)擊下方小程序即可搶購(gòu)！