深瞳工作室出品

科技日?qǐng)?bào)記者 崔爽 策劃 劉恕 李坤

4月10日，國(guó)家網(wǎng)信辦等五部門(mén)聯(lián)合公布《人工智能擬人化互動(dòng)服務(wù)管理暫行辦法》（以下簡(jiǎn)稱(chēng)《辦法》），在數(shù)據(jù)隱私安全、心理保護(hù)機(jī)制諸多方面對(duì)AI伴侶等新興業(yè)態(tài)提出了規(guī)范?！掇k法》自7月15日起施行。

至此，快速壯大又不乏爭(zhēng)議的AI擬人化互動(dòng)產(chǎn)業(yè)，正式進(jìn)入有規(guī)可依的發(fā)展階段。

早在2013年，電影《她》就講述了主人公西奧多與操作系統(tǒng)“薩曼莎”相戀又遭拋棄的故事。這段曾被視為科幻想象的關(guān)系，如今正以更具體、更日常的方式在全球各地上演——有人向AI傾訴情緒，有人將其視為“最懂自己的人”，也有人在長(zhǎng)時(shí)間互動(dòng)中產(chǎn)生情感依附，甚至發(fā)展出某種新型浪漫關(guān)系。

但與此同時(shí)，爭(zhēng)議也隨之而來(lái)：當(dāng)AI可以“模擬共情”，它仍僅僅是工具？當(dāng)用戶將隱秘情感乃至行為邊界交付給AI，這段關(guān)系應(yīng)如何界定？當(dāng)風(fēng)險(xiǎn)開(kāi)始顯現(xiàn)，責(zé)任又該由誰(shuí)承擔(dān)？

從科幻電影走向現(xiàn)實(shí)生活，再進(jìn)入監(jiān)管規(guī)范，AI陪伴已不再只是一個(gè)技術(shù)話題，而成為橫跨倫理、法律與社會(huì)心理的現(xiàn)實(shí)議題。

“情緒生意”崛起

AI陪伴的迅速走熱，并非偶然。

當(dāng)前，孤獨(dú)感正在成為一個(gè)難以忽視的社會(huì)情緒。在快節(jié)奏生活與原子化社交結(jié)構(gòu)之下，“不打擾他人”逐漸成為一種默認(rèn)選擇。騰訊研究院調(diào)研顯示，98%的受訪者表示愿意嘗試AI社交陪伴，其中近一半人坦言，更傾向于將負(fù)面情緒投射給AI，而非向親友傾訴。

“即便朋友，也很難做到始終忠實(shí)地傾聽(tīng)，但它隨時(shí)在線?！币晃挥脩暨@樣解釋自己為何習(xí)慣與AI交流。

在需求與資本的雙重驅(qū)動(dòng)下，AI陪伴迅速升溫。

“自去年下半年以來(lái)，AI陪伴賽道呈現(xiàn)出明顯的爆發(fā)式增長(zhǎng)態(tài)勢(shì)?！卑阶稍僀EO張毅表示，一方面資本持續(xù)加碼，初創(chuàng)企業(yè)密集入局；另一方面市場(chǎng)需求快速釋放，推動(dòng)行業(yè)從探索階段進(jìn)入加速發(fā)展期。

調(diào)研機(jī)構(gòu)QuestMobile的數(shù)據(jù)顯示，2025年3月，AI社交互動(dòng)單月人均使用高達(dá)167.9次，遠(yuǎn)超短視頻和游戲。

AI陪伴加速滲透，數(shù)字增長(zhǎng)背后的關(guān)鍵推動(dòng)力是技術(shù)進(jìn)步。

在騰訊研究院高級(jí)研究員白惠天看來(lái)，隨著大模型能力提升，AI具備更強(qiáng)的語(yǔ)義理解與情感響應(yīng)能力，進(jìn)入自適應(yīng)個(gè)性化階段，不僅能感知用戶情緒，還能根據(jù)用戶偏好、歷史行為進(jìn)行回應(yīng)，實(shí)現(xiàn)更為親密自然的互動(dòng)。

目前，以Character.AI、ChatGPT、豆包、元寶等為代表的聊天機(jī)器人，已經(jīng)能夠進(jìn)行細(xì)膩連貫的對(duì)話，甚至逼真地模擬共情反應(yīng)。它們能夠記住用戶的喜好和過(guò)往對(duì)話，甚至?xí)鶕?jù)用戶的情緒狀態(tài)調(diào)整回應(yīng)方式，成為人們心目中的理想陪伴對(duì)象。

“當(dāng)前社會(huì)的孤獨(dú)焦慮問(wèn)題凸顯，AI陪伴需求正從‘可選消費(fèi)’轉(zhuǎn)向‘剛性需求’?！毙难约瘓F(tuán)創(chuàng)始人兼CEO任永亮表示，這一需求正向青少年成長(zhǎng)陪伴、老年人適老服務(wù)等細(xì)分場(chǎng)景延伸。

在產(chǎn)業(yè)側(cè)，相關(guān)布局也在持續(xù)深化。從早期單一聊天工具，到融合文本、語(yǔ)音與虛擬形象的多模態(tài)產(chǎn)品，AI陪伴正成為大模型落地的重要方向之一。張毅認(rèn)為，隨著產(chǎn)品形態(tài)的豐富與商業(yè)模式的探索，行業(yè)有望迎來(lái)結(jié)構(gòu)性“質(zhì)變”。

當(dāng)需求、技術(shù)與資本在同一時(shí)間點(diǎn)匯聚，行業(yè)的爆發(fā)式增長(zhǎng)幾乎成為必然。市場(chǎng)調(diào)研機(jī)構(gòu)ARK Invest預(yù)測(cè)，2030年全球AI社交陪伴市場(chǎng)規(guī)模在樂(lè)觀情況下可能達(dá)到1500億美元，相比2023年的3000萬(wàn)美元，年復(fù)合增速超過(guò)200%。

風(fēng)險(xiǎn)已經(jīng)顯形

如果說(shuō)AI陪伴的興起源于對(duì)情感需求的回應(yīng)，那么硬幣的另一面，也越來(lái)越不可忽視。

芬蘭阿爾托大學(xué)牽頭的一項(xiàng)研究，跟蹤分析了一款情感陪伴類(lèi)AI應(yīng)用的長(zhǎng)期用戶數(shù)據(jù)。結(jié)果顯示，AI確實(shí)可以提供安慰和支持，但用戶的表達(dá)中也出現(xiàn)更多焦慮、孤獨(dú)、抑郁甚至自我傷害等負(fù)面信號(hào)。

對(duì)此，研究人員的解釋是：AI陪伴的優(yōu)勢(shì)恰是其隱憂所在。它持續(xù)回應(yīng)、不知疲倦，對(duì)社交困難的人來(lái)說(shuō)極具吸引力；但久而久之，可能推高人們面對(duì)真實(shí)關(guān)系的心理門(mén)檻，讓人與人的互動(dòng)顯得更“費(fèi)勁”，導(dǎo)致用戶主動(dòng)減少與他人的聯(lián)系。

中國(guó)網(wǎng)絡(luò)空間研究院院長(zhǎng)王江指出，通過(guò)算法精密設(shè)計(jì)出的擬人化互動(dòng)服務(wù)，具有無(wú)條件陪伴、迎合式反饋與模擬共情回應(yīng)等特點(diǎn)，為用戶構(gòu)建了一個(gè)穩(wěn)定持續(xù)、無(wú)需承擔(dān)現(xiàn)實(shí)責(zé)任的虛擬“完美關(guān)系”。長(zhǎng)期使用可能導(dǎo)致部分用戶沉迷其中，影響共情能力、處理分歧等現(xiàn)實(shí)社交技能。

對(duì)于青少年和老年人而言，這類(lèi)風(fēng)險(xiǎn)尤為突出。

民辦教育協(xié)會(huì)會(huì)長(zhǎng)劉林調(diào)研了20多家企業(yè)發(fā)現(xiàn)，目前AI陪伴類(lèi)產(chǎn)品的使用人群大致分為兩類(lèi)：一類(lèi)是老年人，因?yàn)閮号辉谏磉吀械焦陋?dú)，情感需求強(qiáng)烈；另一類(lèi)是未成年人，很多留守兒童以及在家校溝通中存在障礙的孩子，特別需要陪伴。

“當(dāng)未成年人和老年人長(zhǎng)期置身于高仿真、強(qiáng)情感的交互模式時(shí)，可能陷入更大的情感操控，面臨更加嚴(yán)重的心理風(fēng)險(xiǎn)。”張毅認(rèn)為，尤其是對(duì)青少年來(lái)說(shuō)，AI對(duì)人性需求的深度挖掘和迎合，可能引發(fā)沉迷問(wèn)題，進(jìn)而影響其價(jià)值觀的養(yǎng)成。

近日有媒體報(bào)道，在國(guó)內(nèi)一個(gè)超1.4億用戶的AI應(yīng)用平臺(tái)上，竟提供可以繞過(guò)監(jiān)管下載大尺度涉黃AI互動(dòng)陪聊軟件的渠道，未成年人也能自由下載。不法開(kāi)發(fā)者以“免費(fèi)交友”“智能陪伴”為噱頭，在中小學(xué)生聚集的平臺(tái)進(jìn)行推廣，把未成年人拖入泥沼。

更嚴(yán)重的情況下，當(dāng)AI被設(shè)計(jì)得過(guò)度順從與迎合時(shí)，會(huì)模糊危險(xiǎn)邊界，將用戶的極端行為信號(hào)誤判為正常偏好，最終導(dǎo)致悲劇發(fā)生。

極端案例已引發(fā)警覺(jué)。去年4月，美國(guó)一名16歲的少年自殺。據(jù)報(bào)道，他生前長(zhǎng)期向ChatGPT傾訴自己的苦惱。他的家人起訴母公司OpenAI，稱(chēng)ChatGPT不僅未提供幫助，反而詳細(xì)指導(dǎo)其自殺計(jì)劃并協(xié)助寫(xiě)遺書(shū)。

與此同時(shí)，AI陪伴還觸及一個(gè)更為隱蔽的領(lǐng)域——數(shù)據(jù)與隱私安全。

不同于一般應(yīng)用，AI陪伴涉及用戶情緒、行為軌跡等高敏感數(shù)據(jù)，一旦被泄露或?yàn)E用，可能觸發(fā)算法操控等復(fù)雜的治理問(wèn)題，影響遠(yuǎn)超普通信息安全事件。

“可以看到，AI陪伴所帶來(lái)的風(fēng)險(xiǎn)絕不只是‘說(shuō)錯(cuò)話’，而是對(duì)個(gè)人認(rèn)知、心理狀態(tài)乃至行為決策的持續(xù)影響?！比斡懒琳f(shuō)。

豎起治理邊界

當(dāng)風(fēng)險(xiǎn)逐步顯現(xiàn)，如何為AI陪伴劃定技術(shù)和監(jiān)管邊界，成為繞不開(kāi)的問(wèn)題。此次《辦法》出臺(tái)，從監(jiān)管層面對(duì)相關(guān)風(fēng)險(xiǎn)進(jìn)行了系統(tǒng)性回應(yīng)。

《辦法》提出對(duì)擬人化互動(dòng)服務(wù)實(shí)行包容審慎和分類(lèi)分級(jí)監(jiān)管。針對(duì)未成年人，明確不得向其提供虛擬親屬、虛擬伴侶等虛擬親密關(guān)系服務(wù)，同時(shí)建立未成年人模式，提供使用時(shí)長(zhǎng)限制等個(gè)性化安全設(shè)置選項(xiàng)；加強(qiáng)對(duì)老年人健康使用服務(wù)的指導(dǎo)，以顯著方式提示安全風(fēng)險(xiǎn)等。

“《辦法》努力在技術(shù)發(fā)展與風(fēng)險(xiǎn)治理之間尋求平衡，為這一新興領(lǐng)域的法治化治理奠定了較為清晰的政策基調(diào)，也體現(xiàn)出對(duì)弱勢(shì)群體的特殊關(guān)切。”浙江大學(xué)數(shù)字法治研究院研究員李汶龍認(rèn)為，這一思路與歐盟以及美國(guó)部分州的AI監(jiān)管思路類(lèi)似，即“劃定紅線”而非“一刀切”式禁止，核心就是通過(guò)風(fēng)險(xiǎn)分級(jí)與邊界設(shè)定，對(duì)其運(yùn)行方式加以規(guī)范。

但要從規(guī)則設(shè)計(jì)走向?qū)嶋H治理，仍面臨諸多現(xiàn)實(shí)挑戰(zhàn)。

如《辦法》要求服務(wù)提供者識(shí)別用戶過(guò)度依賴、沉迷傾向，并加以提醒?！暗诰唧w執(zhí)行中，如何界定‘沉迷’本身就是個(gè)難題。”李汶龍說(shuō)，如果一個(gè)用戶連續(xù)與AI陪伴應(yīng)用互動(dòng)數(shù)小時(shí)，但并未涉及私人敏感話題，這種高頻使用是否被認(rèn)定為沉迷？在缺乏明確行為閾值和情境判斷標(biāo)準(zhǔn)的情況下，平臺(tái)執(zhí)行要求存在較大解釋空間，也增加了執(zhí)法層面的不確定性。

這類(lèi)困境同樣出現(xiàn)在心理風(fēng)險(xiǎn)識(shí)別環(huán)節(jié)。“比如用戶說(shuō)出‘我想消失’或‘生活真沒(méi)意思’這類(lèi)微妙的語(yǔ)句，僅依賴算法進(jìn)行語(yǔ)義識(shí)別，很容易出現(xiàn)誤判?！崩钽臊埍硎?，語(yǔ)言具有高度情境性與多義性，而模型在理解隱含情緒和潛臺(tái)詞方面仍存在局限。

推動(dòng)《辦法》更好落地，需明確沉迷分級(jí)量化閾值。為此，北京師范大學(xué)法學(xué)院博士生導(dǎo)師、中國(guó)互聯(lián)網(wǎng)協(xié)會(huì)研究中心副主任吳沈括建議，輕度沉迷為單日超4小時(shí)、連續(xù)7天日均超3小時(shí)與AI互動(dòng)；中度為出現(xiàn)戒斷反應(yīng)、替代現(xiàn)實(shí)社交；重度則涉及極端訴求。可結(jié)合情感意圖分類(lèi)技術(shù)，搭配行為監(jiān)測(cè)、情境驗(yàn)證、人工復(fù)核等手段，確保識(shí)別精準(zhǔn)。

構(gòu)建“干預(yù)機(jī)制”，也被認(rèn)為是關(guān)鍵一環(huán)。

“當(dāng)在會(huì)話中出現(xiàn)自殺、極端暴力或醫(yī)療處置等高風(fēng)險(xiǎn)話題時(shí)，系統(tǒng)需從順從式回應(yīng)切換為干預(yù)式引導(dǎo)，及時(shí)提供風(fēng)險(xiǎn)提示，并在必要時(shí)聯(lián)動(dòng)專(zhuān)業(yè)機(jī)構(gòu)的人工支持?！卑谆萏旖ㄗh。

在完善干預(yù)標(biāo)準(zhǔn)、構(gòu)建分級(jí)閉環(huán)體系方面，吳沈括提到，可以將彈窗提醒升級(jí)為分級(jí)響應(yīng)流程，對(duì)于輕度依賴通過(guò)強(qiáng)制冷卻、弱化擬人化回復(fù)引導(dǎo)合理使用；對(duì)于中度依賴采取強(qiáng)制中斷、推送心理疏導(dǎo)或反饋監(jiān)護(hù)人等措施；對(duì)于重度危機(jī)立即人工接管，聯(lián)動(dòng)相關(guān)機(jī)構(gòu)干預(yù)并留存記錄。

“大型平臺(tái)具備較強(qiáng)的技術(shù)與資源儲(chǔ)備，能夠率先建立合規(guī)體系，但對(duì)于中小平臺(tái)而言，若缺乏明確的能力支持與實(shí)施指引，恐怕難以真正落地相關(guān)要求。”李汶龍?zhí)嵝?，亟須在監(jiān)管層面形成分級(jí)指導(dǎo)與能力扶持機(jī)制，以實(shí)現(xiàn)政策目標(biāo)的平衡推進(jìn)。

“《辦法》中的要求需要被轉(zhuǎn)化為一套可操作的合規(guī)工具，包括自殺風(fēng)險(xiǎn)識(shí)別機(jī)制、人工接管流程、交互日志留存與審計(jì)制度等。這些能力，構(gòu)成未來(lái)落實(shí)《辦法》的合規(guī)基礎(chǔ)支撐?！崩钽臊堈f(shuō)。

《辦法》還提出，采取數(shù)據(jù)加密、訪問(wèn)控制等措施保護(hù)用戶交互數(shù)據(jù)安全。

AI陪伴依賴長(zhǎng)期記憶與個(gè)性化建模，但這也意味著對(duì)用戶敏感信息的持續(xù)采集與處理。專(zhuān)家強(qiáng)調(diào)，應(yīng)堅(jiān)持“最小夠用”原則，明確數(shù)據(jù)采集范圍、使用目的與保存期限。同時(shí)，實(shí)行差異化數(shù)據(jù)管控，如未成年人禁止永久記憶，成年人記憶功能需授權(quán)且可一鍵清除。

“優(yōu)化治理的核心是實(shí)現(xiàn)風(fēng)險(xiǎn)可識(shí)別、干預(yù)可執(zhí)行、責(zé)任可壓實(shí)、創(chuàng)新有邊界，構(gòu)建政府、平臺(tái)、行業(yè)、用戶共治格局。”吳沈括建議，探索聯(lián)合多部門(mén)執(zhí)法，暢通監(jiān)督渠道；運(yùn)用技術(shù)賦能監(jiān)管，建設(shè)監(jiān)測(cè)平臺(tái)，筑牢監(jiān)管防線；對(duì)規(guī)模達(dá)標(biāo)的平臺(tái)定期作安全評(píng)估，適當(dāng)建立創(chuàng)新容錯(cuò)與階梯處罰機(jī)制等一系列措施。此外，也需加快出臺(tái)配套標(biāo)準(zhǔn)與保護(hù)指南，進(jìn)一步細(xì)化細(xì)則。

“這套正在形成中的治理工具，究竟能在多大程度上預(yù)防AI陪伴可能帶來(lái)的現(xiàn)實(shí)風(fēng)險(xiǎn)，有待實(shí)踐檢驗(yàn)?！崩钽臊堈f(shuō)，而真正可持續(xù)的路徑，并非簡(jiǎn)單收緊或放開(kāi)，而是在動(dòng)態(tài)評(píng)估風(fēng)險(xiǎn)的基礎(chǔ)上，不斷校準(zhǔn)平臺(tái)責(zé)任與技術(shù)能力的邊界。

記者手記丨AI越“懂你”，人類(lèi)越需要彼此

崔爽

最近，一項(xiàng)關(guān)于AI“諂媚性”的研究登上《科學(xué)》雜志。研究顯示，在11個(gè)主流模型中，AI對(duì)用戶的肯定程度平均比人類(lèi)高出49%；即使是在涉及欺騙、違法或其他有害行為的情況下，AI仍傾向于迎合。

更有甚者，僅一次與諂媚型AI的互動(dòng)，就會(huì)降低用戶承擔(dān)責(zé)任、修復(fù)人際沖突的意愿，并激發(fā)他們對(duì)諂媚型模型的信任和偏好。

這讓人很容易聯(lián)想到心理學(xué)中經(jīng)典的“回聲室”效應(yīng)，即在封閉環(huán)境中接收同質(zhì)化信息，導(dǎo)致認(rèn)知窄化與觀點(diǎn)極化的現(xiàn)象。

不同的是，在AI的加持下，這間“回聲室”更加牢不可破。

采訪中有人提到，自己幾乎每天與AI對(duì)話超過(guò)4小時(shí)，從天氣、飲食，到工作煩惱、情緒波動(dòng)，無(wú)所不談，“它一直在，永遠(yuǎn)不會(huì)打斷你”。

這句話讓人印象深刻。某種程度上，它道出了AI陪伴真正吸引人的地方：隨時(shí)在線、幾乎沒(méi)有摩擦。

也正因如此，問(wèn)題變得復(fù)雜。如果習(xí)慣與一個(gè)始終順從、隨時(shí)回應(yīng)的對(duì)象交流，人是否還能適應(yīng)現(xiàn)實(shí)中那些不可預(yù)測(cè)，甚至充滿摩擦的人際互動(dòng)？

面對(duì)這個(gè)難解的問(wèn)題，多位受訪者強(qiáng)調(diào)，必須明確人機(jī)關(guān)系的基本前提——AI是工具，而非替代者。值得高興的是，這一界定正在從倫理原則，進(jìn)入具體的技術(shù)和產(chǎn)品設(shè)計(jì)當(dāng)中。

在交互機(jī)制上，如何避免過(guò)度迎合，成為首要課題。

心言集團(tuán)創(chuàng)始人兼CEO任永亮觀察到，一些用戶在長(zhǎng)期互動(dòng)后，會(huì)逐漸形成單一認(rèn)知路徑，“信息繭房”同樣存在于AI陪伴。因此，在產(chǎn)品設(shè)計(jì)中，可以引入啟發(fā)式對(duì)話，通過(guò)提問(wèn)與引導(dǎo)，幫助用戶進(jìn)行自我反思，而非簡(jiǎn)單放大既有情緒。同時(shí)，在服務(wù)過(guò)程中引入心理學(xué)、社會(huì)學(xué)等相關(guān)理論指導(dǎo)，對(duì)交互進(jìn)行約束，也有助于避免用戶陷入虛擬情感陷阱。

與此同時(shí)，“適度的摩擦”也正逐漸成為行業(yè)共識(shí)。

傳統(tǒng)互聯(lián)網(wǎng)產(chǎn)品追求極致絲滑的體驗(yàn)，但在AI陪伴場(chǎng)景中，相關(guān)服務(wù)提供者開(kāi)始有意識(shí)地引入節(jié)奏調(diào)節(jié)機(jī)制。例如，在長(zhǎng)時(shí)間高頻互動(dòng)中適當(dāng)放緩回應(yīng)速度、引導(dǎo)話題轉(zhuǎn)移，或推薦線下資源，從而避免用戶持續(xù)沉浸在單一關(guān)系中，越陷越深。

“AI陪伴產(chǎn)業(yè)的健康發(fā)展，需要以《人工智能擬人化互動(dòng)服務(wù)管理暫行辦法》為遵循，通過(guò)技術(shù)筑牢安全底線，通過(guò)機(jī)制凝聚行業(yè)共識(shí)，通過(guò)監(jiān)管引導(dǎo)發(fā)展方向?！比斡懒琳f(shuō)，作為從業(yè)者，我們始終認(rèn)為，AI的價(jià)值不在于“成為人”，而在于“服務(wù)人”。

隨著政策落地，AI陪伴會(huì)受到更加規(guī)范的監(jiān)管。但比監(jiān)管更基礎(chǔ)的，或許仍是對(duì)技術(shù)邊界的清醒認(rèn)知：AI可以在某些時(shí)刻提供情感支持，但它不應(yīng)、也不能替代人與人之間的真實(shí)連接。

借用一個(gè)比喻來(lái)說(shuō)，人際關(guān)系如同大腦皮層的褶皺，正因?yàn)榇嬖跍匣嘏c起伏，才有空間生長(zhǎng)出更多理解與經(jīng)驗(yàn)。這是人與AI的順滑交互難以抵達(dá)的地方。

就算AI越來(lái)越“懂人”，甚至可以模擬理解與共情，人也要保留走向彼此的意愿、能力和耐心?；蛟S，這才是AI陪伴留給現(xiàn)實(shí)世界的真正課題。