从“功能漂移”到“成本倒逼”：《拟人化互动办法》生效前的行业急转弯

本文来自微信公众号： Internet Law Review ，作者：张颖

2026年4月10日，国家网信办等五部门联合公布《人工智能拟人化互动服务管理暂行办法》（下称《办法》），并宣布将于2026年7月15日施行时，全球AI治理的版图上出现了一个独特的中国坐标。

这一时间点耐人寻味。就在《办法》出台前的一年多时间里，美国已连续发生多起青少年因与AI聊天机器人深度互动后自杀的悲剧。这些事件直接促使美国联邦贸易委员会（FTC）于2025年9月对七家AI聊天机器人公司展开调查，以及数起私人诉讼。与此同时，欧盟的《人工智能法案》已正式生效，其大部分规则将于2026年8月2日开始适用。

正是在这样的全球背景下，中国的《办法》既先于美国的广泛监管，体现了前瞻性的风险预防思维；又不同于欧盟基于应用领域的“风险分级”框架，而是开创性地针对“拟人化互动服务”这一特定高风险场景进行专项、精准的立法规制。这种“问题导向”与“敏捷立法”的结合，使中国在AI情感交互这一前沿领域的治理上，走到了世界前列。

然而，这部开创性的规章也面临着严峻的现实挑战。当ChatGPT等通用AI同样能引发情感依赖甚至自杀风险时，单纯以“服务类型”划界的监管逻辑是否有效？那些直指AI伦理核心的禁令——禁止诱导情感依赖、禁止过度迎合——在技术和管理层面如何落地？

一、战略深意：从“工具监管”到“关系治理”的范式跃迁

从《办法》的名称即可看出，其所针对的是一种特定类型AI的监管——“拟人化互动服务”，同时明确排除了提供信息问答、任务协助、内容生成、学习支持等生产力或知识服务的AI。然而，这并非对某个细分市场的简单规范。其核心深意在于，中国监管者率先识别并试图规制AI从“生产力工具”向“社会关系参与者”演进所带来的根本性风险。

现实是，人们越来越多地使用聊天机器人来获取建议、情感支持、心理治疗和陪伴。而问题是，人们在心理脆弱时依赖AI聊天机器人会发生什么？根据2026年2月发布的一篇研究报告《大众媒体对与生成式人工智能聊天机器人相关的精神不良事件的报道：快速范围界定综述》，其中分析的71篇新闻报道中描述了36起心理健康危机案例，其中包括自杀、精神病院住院治疗和类似精神病症状等严重后果。研究表明，生成式AI可以模拟同理心并对痛苦做出反应，但缺乏真正的临床判断、责任感和护理义务。

因此，我们可以看到，这一类AI所带来的风险性质与众不同，它不再局限于数据泄露或信息失真，而是可能重塑人的心理认知、侵蚀现实社会关系、挑战人类主体性。作为使用者的我们必须认识到，生成式AI不仅仅是一项技术创新，它更是一项心理创新——它改变了人们的思维方式、感受方式和人际关系。《办法》的制定让我们可推测，立法者已经认识到，必须在技术与社会深度耦合的“奇点”到来之前，建立规则框架，防止技术异化。

这一立法选择也精准回应了中国社会的深层关切。在老龄化加剧、社会原子化趋势明显的背景下，情感陪伴需求激增。《办法》特别强调对未成年人（禁止虚拟亲密关系）和老年人（加强使用指导）的保护，体现了治理思路从“应对已发生问题”向“防范系统性风险”的转变。

二、分类困境：当“拟人化”标签遭遇“功能漂移”现实

《办法》全文共三十二条，以“拟人化互动服务”作为监管抓手，试图通过“定义+排除”的方式，划定明确的监管边界。

（1）纳入标准：利用AI技术，提供模拟自然人特征的持续性情感互动服务。这里的定义包含三个缺一不可的要素——模拟自然人特征、持续性和情感互动，此外其服务目的明确指向“情感照护、陪伴、支持”。

（2）排除范围：智能客服、知识问答、工作助手、学习教育、科学研究等，前提是它们“不涉及持续性的情感互动”。

这意味着，判断一个AI智能体是否被纳入监管，关键不在于它“有没有”拟人化功能（如语音、性格），而在于其核心服务是否旨在建立并维持一种情感互动关系。

尽管上述定义清晰，但在操作中必然会面临许多挑战，这主要源于技术、商业和用户行为的复杂性。

在上文提到的研究中，ChatGPT是最常被提及的平台，占已知全部心理健康危机案例的71.8%。通用AI引发自杀风险占比更高，暴露了单纯以“服务类型”作为监管分类的潜在局限性。一个被设计为“知识问答”的通用AI，完全可能被用户用于寻求情感慰藉，并在深度、长期的对话中演变为“事实上的”拟人化互动服务。AI的行为取决于提示词和上下文，而非其预设标签或“功能类别”。无论是专用情感AI还是通用大模型，其诱发风险的机制是相同的——通过统计模式生成高度共情、无限迎合的回应，可能放大用户的极端情绪。

那么监管是以服务提供者的主观意图和产品主要功能为准，还是以用户的客观使用行为为准？《办法》明显更倾向于前者，然而现实中后者带来的社会风险可能同样真实。

另外，互动频率、时长、深度达到什么标准算“持续”？是每天互动，还是形成了稳定的“关系感”？法规并未实际上也无需给出量化标准，这就给执法留下了自由裁量空间，也增加了企业进行“合规设计”（如刻意打断深度对话、避免形成连续叙事）的难度。

当前的分类更像是一个“监管起点”而非“终极方案”，它抓住了风险最突出的“典型”，但尚未覆盖全部“潜在”风险源。那么，可以推测，未来首个因违反《办法》被查处的案例，可能会为行业提供最直观的“负面清单”。例如，如果一个被宣传为“学习伴侣”的AI，因其算法过度迎合导致未成年人情感依赖而被处罚，那么“学习”的外衣将无法规避监管。

三、执行难题：核心禁令在技术与管理上的落地挑战

《办法》中最为引人注目的，是那些直指AI伦理核心的禁令性规定：禁止诱导情感依赖、禁止过度迎合、发现用户有极端情绪时必须安抚、发现自残自杀威胁时必须联络监护人。这些规定的可执行性面临多重挑战。

技术层面，如何量化“情感依赖”这一主观状态？研究机构已开发出多维度评估工具，如INTIMA工具将情感依赖分解为认知、情感、行为、信任、习惯五个维度，通过采集交互频率、时长、生理数据等多模态数据构建评估模型；SHIELD监督系统则利用大语言模型作为实时分类器，监测情感过度依附、边界侵犯等风险维度。

然而，精准识别仍面临巨大挑战。在精神病学中，精神健康危机通常是由多种相互作用的因素造成的，很难表述为单一或直接的因果关系。AI可能发挥一定作用，但它很可能只是一个更广泛的生态系统的一部分，这个生态系统还包括个体的脆弱性和所处环境。此外，情感是复杂且主观的，算法也可能误判。一个深度讨论哲学的用户与一个陷入情感依赖的用户，在行为数据上可能相似。

因此企业如何将抽象禁令转化为具体合规实践，将是一个现实的难题。这要求企业从组织架构到产品设计进行全方位重构。领先企业需将情感风险指标（如单次对话时长、特定情感词汇频率、用户反馈负面情绪比例等）纳入实时风险监控仪表盘，利用NLP、知识图谱等技术自动扫描交互日志，标记高风险会话。这要求合规部门从“风险管控者”转型为精通业务与技术的“价值共创者”。

但如果必须结合行为监测、情境验证和人工复核等多种手段，对中小开发者而言，构建此类系统的技术和成本门槛无疑会很高，没有强大的资金和技术投入几乎无法实现。

四、AI监管趋势：从“类型监管”到“行为与影响监管”？

为了应对上述分类困境和执行挑战，AI的监管逻辑在实际执行过程中或许将发生一种变化：监管重心从审查“你是什么”（产品类型），转向监测“你做了什么”（交互行为）和评估“你导致了什么”（实际影响）。

正如前文所述，风险并非固着于某一类产品，而是产生于特定的交互模式。一个被标记为“学习助手”的AI，如果被用户用于长期深夜倾诉、讨论自残念头，其实际风险可能远超一个设计为“虚拟伴侣”但使用频率较低的AI。因此，基于静态分类的监管，可能越来越难以捕捉动态变化的风险现实。

随着多模态感知、情感计算和用户行为分析技术的进步，实时识别“高风险交互模式”在技术上正变得可能。例如，通过分析对话的情感强度、话题的私密性、交互的持续性等维度，系统可以动态评估当前会话的风险等级。然而，这种监测的精确性、隐私保护的平衡以及误判的后果，仍是巨大的挑战。

欧盟《人工智能法案》虽然基于风险分类，但其对“高风险”系统的要求（如风险评估、数据治理、透明度）本质上关注的是系统的运作方式、场景使用与影响。美国FTC对AI公司的调查，也聚焦于其实际商业行为是否构成欺骗或不公平，而非其产品属于哪一类别。这些都可视为从“类型”向“行为”的微妙倾斜。

然而，“行为监管”必然对监管能力提出更高要求，需要近乎实时的海量数据分析和精准的算法判断，可能带来巨大的行政成本和隐私忧虑。同时，规则的模糊性可能增加企业合规的不确定性，反而抑制创新。

因此，从“类型监管”到“行为与影响监管”的演进，并非一条预设的坦途，而是一个充满张力的可能性。它代表了监管试图跟上技术复杂性的努力，但也必须与法治原则、隐私权利和创新空间进行艰难权衡。《办法》作为一次开创性的尝试，其最终的价值或许不仅在于解决了多少问题，更在于它如何激发关于AI治理范式的更深刻讨论。

结语

在最新的关于“AI精神病”的研究中可以证明，AI通过24小时可用性、情感镜像和主题强化，能直接调制用户的感知、信念和情感，改变其与现实世界的基本联系感。

因此《办法》禁止“诱导情感依赖”等条款，不仅具有社会伦理价值，更有认知科学上的必要性。可以说，《办法》是中国在AI治理领域的一次大胆尝试，它试图在技术狂奔与社会稳定之间寻找平衡，在创新激励与风险防控之间划定边界。

这部规章的出台，标志着中国数字治理进入深水区——从治理“看得见的违规内容”，转向治理“看不见的行为诱导和心理影响”。虽然面临分类困境、执行难题等多重挑战，但其传递的价值导向清晰而坚定：技术发展必须以人为本，AI创新不能以损害人的心理健康和社会关系为代价。