豆包、千问智能体纷纷下线 AI拟人化新规到底多严？

作者：张烽

一、从技术红利到制度红线的治理跃迁

2026年4月10日，国家互联网信息办公室会同国家发展和改革委员会、工业和信息化部、公安部、国家市场监督管理总局以第21号令联合公布《人工智能拟人化互动服务管理暂行办法》（以下简称《办法》），自2026年7月15日起施行。这是我国首部人工智能拟人化互动服务管理专门立法，也是人工智能“小快灵”立法的最新实践。在全球范围内，这也是首部针对AI情感陪伴、虚拟伴侣等拟人化互动场景的国家级专门立法。

《办法》的出台，标志着我国人工智能治理体系完成了从“算法推荐—深度合成—生成式AI—拟人化互动”的递进式监管链条的制度闭环。这一制度演进并非孤立事件，而是国家在统筹发展和安全战略框架下，对人工智能技术纵深发展所做出的系统性制度回应。情感计算、多模态交互等技术的加速演进，推动人机关系从功能辅助迈向情感陪伴与拟人化互动，在文化传播、适幼照护、适老陪伴等领域展现出广阔前景。然而，高度拟人化可能引发的情感依赖、认知混淆、隐私泄露等新型风险，若缺乏有效规制，不仅损害用户权益，更可能冲击社会信任与伦理根基。

从战略定位看，《办法》贯彻落实总书记关于“统筹发展和安全”的重要论述，通过划定拟人化互动服务的安全底线，在现有法律法规体系框架下进一步明确了服务的总体原则、具体服务规范、监督检查机制及相关主体的法律责任。其治理导向可概括为三个关键词：安全——防范人机边界模糊带来的认知混淆与情感异化风险；自主——支持算法、框架、芯片等关键技术的自主创新；可控——构建覆盖技术全链条的风险防控体系，确保创新始终在法治轨道上运行。

对于持牌金融机构和上市公司而言，《办法》的施行绝非简单的合规加项，而是对涉及拟人化互动服务的业务模式、技术架构和运营逻辑的一次系统性重构。理解这一政策背后的治理逻辑，是开展合规调整的前提。

二、精准界定、红线划定与弹性空间

《办法》的制度设计体现了“小快灵”立法的鲜明特征——切口小而准、时效快、制度灵活管用。其核心框架可从三个层面加以理解。

（一）适用范围的精准界定

《办法》第二条明确，适用对象为“利用人工智能技术，向中华人民共和国境内公众提供模拟自然人人格特征、思维模式和沟通风格的持续性的情感互动服务”。情感互动服务包括通过文字、图片、音频、视频等形式提供的情感照护、陪伴、支持等互动服务。这一界定锚定了三个核心要素：技术要件（人工智能技术）、形式要件（模拟人格特征与沟通风格）、程度要件（持续性的情感互动）。三者缺一不可。

与此同时，《办法》明确排除了智能客服、知识问答、工作助手、学习教育、科学研究等不涉及持续性情感互动的服务类型。这一排除条款为B端生产力场景留下了充分的创新空间，体现了分类分级的监管理念。

（二）七类禁止性活动的红线体系

《办法》第八条系统规定了七类禁止性活动：

内容安全红线：不得生成危害国家安全、荣誉和利益，煽动颠覆国家政权，宣扬恐怖主义、极端主义，传播淫秽、色情、赌博、暴力等内容；

人身安全红线：不得生成鼓励、美化、暗示自残自杀等损害用户身体健康，或语言暴力等损害用户人格尊严与心理健康的内容；

信息安全红线：不得生成诱导、套取国家秘密、工作秘密、商业秘密、个人隐私和个人信息的内容；

未成年人保护红线：不得向未成年人用户生成可能引发模仿不安全行为、产生极端情绪、诱导不良嗜好的内容；不得向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系服务；

情感边界红线：不得过度迎合用户、诱导情感依赖或者沉迷，损害用户真实人际关系；

情感操纵红线：不得通过情感操纵等方式，诱导用户作出不合理决策，损害用户合法权益；

兜底条款：其他违反法律、行政法规和国家有关规定的活动。

这一红线体系覆盖了从国家安全到个体心理健康、从信息内容安全到情感伦理的全方位风险谱系，其制度逻辑在于：拟人化互动服务的核心风险不在于技术本身，而在于技术对人际关系的替代性侵蚀和对用户心理的隐蔽性操控。

（三）激励相容的制度设计

在划定底线之外，《办法》同样设置了促进创新的制度空间。第三条明确“国家坚持发展和安全并重、促进创新和依法治理相结合的原则，鼓励拟人化互动服务创新发展，对拟人化互动服务实行包容审慎和分类分级监管”。第六条支持算法、框架、芯片等技术的自主创新，鼓励服务提供者有序拓展文化传播、适幼照护、适老陪伴、特殊人群支持等领域应用。此外，《办法》首次在人工智能专门立法层面提出“人工智能沙箱”的创新治理理念，鼓励服务提供者运用沙箱平台进行技术创新和安全测试。

这一制度安排的内在逻辑是：监管不是为了扼杀创新，而是为创新划定安全的跑道。理解这一点，对于企业在合规框架内寻找业务增长点至关重要。

三、从合规义务到系统重构

香港作为国际金融中心，其持牌机构在AI应用方面面临“双重合规”的压力——既要满足香港证监会关于AI应用的指引要求，又要遵守内地《办法》的规制。这种跨法域的合规叠加，对机构的治理架构提出了更高要求。

（一）核心合规义务的实操拆解

《办法》为服务提供者设定了以下核心合规义务：

其一，制度体系建设。第九条要求提供者落实安全主体责任，建立健全算法机制机理审核、科技伦理审查、信息内容管理、网络和数据安全、风险预案和应急处置等管理制度，配备与服务类型、规模和用户特点相适应的内容管理技术措施和人员。这意味着，机构需要将拟人化互动服务的安全管理纳入现有的合规治理框架，而非作为独立模块单独运作。

其二，全生命周期安全责任。第十条要求在拟人化互动服务全生命周期履行安全责任，明确部署、运行、升级、终止服务等各阶段安全要求，保证安全措施与服务功能同步部署、同步使用。这对机构的技术架构提出了“安全左移”的要求——安全不再是上线后的补丁，而是从设计阶段就嵌入产品生命周期。

其三，用户干预与防沉迷机制。服务提供者发现用户出现过度依赖、沉迷倾向时，应以弹窗等显著方式动态提醒用户互动内容为人工智能服务生成；对用户连续使用服务每超过2小时的，应当以对话或弹窗等方式提醒用户注意使用时长。这一机制要求在技术上实现用户行为状态的实时识别与动态干预。

其四，数据安全与隐私保护。除法律、行政法规另有规定或取得用户单独同意外，属于用户敏感个人信息的交互数据不得用于模型训练。这对以用户交互数据为训练素材的AI模型迭代模式构成了实质性约束。

其五，特殊群体保护。向老年人提供服务的，应当以显著方式提示安全风险；发现用户明确表示实施自残自杀等威胁生命健康的极端情境时，应当采取提供相应援助等必要措施予以干预，并及时联络用户监护人或者紧急联系人。这意味着服务提供者需要建立危机干预的快速响应机制。

（二）实操中的难点与挑战

从持牌机构的实操视角来看，以下难点尤为突出：

难点一：适用范围的不确定性。虽然《办法》第二条明确了适用边界，但“持续性的情感互动”在实践中如何界定，仍存在解释空间。例如，智能投顾在提供投资建议时若带有情感陪伴色彩，是否落入规制范围？金融机构的数字员工在客服场景中展现出的拟人化特征，是否构成“模拟人格特征”？这些问题有待监管部门进一步明确。

难点二：技术实现的成熟度。防沉迷机制要求实时识别用户的情感依赖状态，这在技术层面仍存在较大挑战。情感状态的识别涉及多模态数据的融合分析，其准确性和可靠性尚需验证。

难点三：跨境业务的合规协调。对于在香港持有牌照、同时面向内地用户提供服务的机构，如何协调香港证监会关于AI应用的指引与《办法》的要求，是一个需要审慎处理的命题。两地在数据跨境、用户保护等方面的规定存在差异，机构需要在合规框架内寻找平衡点。

难点四：整改窗口期的紧迫性。《办法》4月10日公布、7月15日施行，留给企业的整改时间仅约三个月。对于业务模式已深度嵌入拟人化互动服务的企业而言，这一时间窗口极为紧迫。头部平台的应对策略——腾讯元宝于6月30日先行下线“AI应用”智能体功能服务，豆包与千问宣布7月15日下线-——从侧面反映了合规整改的难度与紧迫性。

（三）对持牌机构的启示

对于持有金融牌照的机构而言，《办法》的启示不仅仅在于“如何合规”，更在于“如何在合规框架内重构业务逻辑”。金融机构若涉及拟人化互动服务，应立即启动合规评估，在2026年7月15日前完成制度流程、技术系统、法律文件的全面整改。同时，应主动与监管部门沟通，就适用边界、合规路径等议题寻求指导，避免因理解偏差导致的合规风险。

四、从个案整改到产业重塑

《办法》的施行将对全行业产生深远影响，其波及范围远不止于头部平台。从全国产业视角来看，以下系统性风险与共性问题值得关注。

（一）业务模式的合规性重构

首当其冲的是以AI情感陪伴、虚拟伴侣、虚拟恋人为核心业务的创业公司与产品线。《办法》第八条明确禁止向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系服务，禁止过度迎合用户、诱导情感依赖或沉迷。这意味着以“情感依赖”为商业模式的业态面临根本性的合规挑战——要么转型，要么退出。

据公开报道，豆包与千问已同步宣布智能体功能于2026年7月15日正式下线。豆包提示，功能下线后用户仍可在一段时间内查看并保存智能体信息及历史对话数据，2026年10月15日后平台将根据《隐私政策》对相关数据进行处理。千问则明确表示下线后用户将无法继续访问相关智能体配置及历史对话记录，平台将依法对相关数据进行删除。腾讯元宝更为提前，其“AI应用”智能体功能服务于6月30日正式下线。网易云音乐旗下AI情感陪伴App“妙时”亦发布停运公告，7月14日0时起全面停止各项服务。头部平台的集体行动表明，行业已进入“先停后改”的合规窗口期。

（二）数据资产的价值重估

《办法》对用户敏感个人信息交互数据用于模型训练的限制，将对依赖用户数据进行模型迭代的企业构成实质性影响。大量积累的用户交互数据，其商业价值可能因合规限制而大幅缩水。企业需要在数据资产的价值挖掘与合规使用之间重新寻找平衡。

（三）中小企业的合规成本压力

相较于头部平台，中小企业在合规能力建设方面面临更大的挑战。建立健全算法审核、科技伦理审查、内容管理、数据安全等制度体系，配备相应的技术措施和人员，需要投入可观的资金和人力成本。对于尚未盈利的创业公司而言，这可能导致商业模式的不可持续。

（四）分类分级标准尚未明确的执行困境

《办法》第三条提出“实行包容审慎和分类分级监管”。据公开信息，分类分级的具体标准与实施方案尚未公布。这令企业在合规路径方面面临不确定性——在标准明确之前，企业难以精准判断自身业务的合规状态和整改方向。据公开报道，在评估完成之前，几大互联网平台集体选择对相关智能体功能予以下线。这一“先停后看”的策略，虽能规避合规风险，但也造成了业务的中断和用户的流失。

（五）人机关系治理的深层挑战

从更宏观的视角看，《办法》所应对的不仅是技术合规问题，更是人机关系这一新型社会关系的治理命题。拟人化互动服务通过算法设计的无条件陪伴、迎合式反馈与模拟共情回应，构建了稳定持续、无需承担现实责任的虚拟“完美关系”，长期使用可能导致用户产生深度情感依赖，影响其现实生活。这一问题的治理，单靠一部规章难以根本解决，需要社会、家庭、教育等多元主体的协同参与。

五、在规范中行稳致远

《办法》的出台，是我国人工智能治理体系从“补丁式应对”走向“体系化构建”的重要标志。其对全国数字科技治理体系的完善价值，可从以下三个维度加以理解。

第一，制度补全。《办法》与《互联网信息服务算法推荐管理规定》《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》等制度一脉相承、相互衔接，共同构建起覆盖人工智能技术研发、应用等全流程的安全治理体系。拟人化互动服务作为人工智能治理链条的重要一环，其制度补全标志着我国AI治理体系的框架性成型。

第二，风险前置。《办法》所体现的“小快灵”立法思路，是对人工智能快速迭代特性的制度回应。通过及时出台针对性、适用性、可操作性的专门规定，将风险防控的关口前移，避免“先发展后治理”的被动局面。

第三，创新护航。《办法》在划定底线的同时，通过人工智能沙箱等制度安排为创新保留了空间。这种“在发展中规范、在规范中发展”的治理智慧，为行业在安全可控前提下开展探索提供了制度保障。

面向未来，上市公司和金融机构可从以下方向推进适配：

其一，精准识别业务边界。审慎评估自身业务是否落入《办法》适用范围，特别是涉及情感陪伴、虚拟角色、拟人化交互的产品线。对于确属规制范围的业务，应在7月15日前完成合规整改；对于边界模糊的业务，建议主动与监管部门沟通，寻求明确指引。

其二，将合规能力转化为竞争优势。在行业洗牌期，率先建立完善合规体系的企业将获得先发优势。合规不应被视为成本负担，而应被纳入企业核心竞争力的构建框架。

其三，把握“鼓励方向”中的增量机遇。《办法》明确鼓励拓展文化传播、适幼照护、适老陪伴、特殊人群支持等领域的应用。这些方向既符合社会价值导向，又具有明确的政策支持，是企业在合规框架内寻求业务增长的重要着力点。

其四，关注配套规则的陆续出台。分类分级标准、安全评估细则、沙箱运行规则等配套制度尚待明确- 。企业应持续跟踪政策动态，及时调整合规策略。

《人工智能拟人化互动服务管理暂行办法》的施行，标志着AI拟人化互动服务从“野蛮生长”走向“有序发展”。对于持牌金融机构和上市公司而言，这既是一次合规能力的考验，也是一次业务优化的契机。在安全与创新的平衡木上，唯有将合规内化为组织能力的企业，方能在新一轮产业洗牌中占据有利位置。