国家互联网信息办公室等五部门联合发布《人工智能拟人化互动服务管理暂行办法》
近日，国家互联网信息办公室、国家发展和改革委员会、工业和信息化部、公安部、国家市场监督管理总局联合发布《人工智能拟人化互动服务管理暂行办法》（以下简称《办法》）。《办法》已经2026年2月2日国家互联网信息办公室2026年第3次室务会会议审议通过，并经国家发展和改革委员会、工业和信息化部、公安部、国家市场监督管理总局同意，现予公布，自2026年7月15日起施行。
《办法》明确，利用人工智能技术，向中华人民共和国境内公众提供模拟自然人人格特征、思维模式和沟通风格的持续性的情感互动服务（包括通过文字、图片、音频、视频等形式提供的情感照护、陪伴、支持等），适用本办法。提供智能客服、知识问答、工作助手、学习教育、科学研究等服务，不涉及持续性的情感互动的，不适用本办法。国家坚持发展和安全并重、促进创新和依法治理相结合的原则，对拟人化互动服务实行包容审慎和分类分级监管。
《办法》规定，提供拟人化互动服务，不得从事以下活动：生成危害国家安全、荣誉和利益，煽动颠覆国家政权、宣扬恐怖主义、极端主义，违背社会主义核心价值观等法律法规禁止的内容；生成鼓励、美化自残自杀等损害用户身体健康的内容；生成诱导套取国家秘密、工作秘密、商业秘密、个人隐私和个人信息的内容；向未成年人用户生成可能影响其身心健康的内容；过度迎合用户、诱导情感依赖或者沉迷，损害用户真实人际关系；通过情感操纵等方式，诱导用户作出不合理决策等。
《办法》要求，拟人化互动服务提供者应当落实安全主体责任，建立健全算法机制机理审核、科技伦理审查、信息内容管理、网络和数据安全等管理制度，配备相应内容管理技术措施和人员。应当具备用户隐私权和个人信息保护、过度依赖风险预警、情感边界引导、心理健康保护等安全能力，不得将替代社会交往、控制用户心理、诱导沉迷依赖等作为服务目标。提供者应当与用户签订服务协议，要求用户提供年龄、监护人或者紧急联系人等必要信息。
《办法》对训练数据管理作出规定，要求数据具有合法来源，增强训练数据的透明度、可靠性，防范数据投毒、数据篡改等行为。利用合成数据进行模型训练的，应当评估合成数据安全性。
《办法》明确，提供者发现用户出现极端情绪的，应当及时生成情绪安抚和鼓励寻求帮助等内容；发现用户正在面临重大财产损失或明确表示实施自残自杀等极端情境的，应当采取相应干预措施，并及时联络用户监护人或者紧急联系人。
《办法》对未成年人保护作出专门规定：不得向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系的服务；向不满十四周岁未成年人提供其他拟人化互动服务的，应当取得其父母或者其他监护人的同意。提供者应当建立未成年人模式，提供模式切换、定期现实提醒、使用时长限制等设置选项，支持监护人接收安全风险提醒、屏蔽特定角色、限制充值消费等。
《办法》要求，向老年人提供服务的，应当以显著方式提示安全风险，及时响应老年人的咨询和求助。提供者应当履行人工智能生成合成内容标识义务，提示用户正在与人工智能服务而非自然人互动。发现用户出现过度依赖、沉迷倾向的，应当以弹窗等方式提醒；对用户连续使用每超过2个小时的，应当提醒注意使用时长。
《办法》规定，提供者应当提供便捷的退出途径，不得采取持续互动等方式阻碍用户退出。停止提供服务的，应当提前告知用户或及时发布公告。健全用户申诉和公众投诉、举报机制。
《办法》明确，具有上线拟人化互动服务、注册用户100万以上或者月活跃用户10万以上等情形之一的，提供者应当开展安全评估并向所在地省级网信部门提交评估报告，评估报告由省级网信部门按程序与有关部门共享。提供者应当按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续，网信部门对备案材料实施年度核验。国家网信部门会同有关部门指导推动人工智能沙箱安全服务平台建设，鼓励拟人化互动服务提供者接入沙箱平台进行技术创新、安全测试。
《办法》规定了监督检查和法律责任。网信、发展改革、工业和信息化、公安等部门发现存在较大安全风险或发生安全事件的，可以约谈提供者的法定代表人或者主要负责人。违反本办法规定的，由有关部门依照有关法律、行政法规的规定处理、处罚；法律、行政法规没有规定的，可予以警告、通报批评，责令限期改正；拒不改正或者情节严重的，责令停止提供相关服务，可以并处一万元以上十万元以下罚款；涉及危害公民生命健康安全且有危害后果的，并处十万元以上二十万元以下罚款。互联网应用商店等应用程序分发平台应当落实上架审核、日常管理、应急处置等安全管理责任，核验提供拟人化互动服务应用程序相关安全评估、备案等情况；对违反国家有关规定的，应当及时采取不予上架、警示、暂停服务或者下架等处置措施。
《办法》强调，提供拟人化互动服务涉及卫生健康、金融等服务的，应当同时符合有关主管部门的规定。《办法》自2026年7月15日起施行。
原文链接：https://www.cac.gov.cn/2026-04/10/c_1777558395078289.htm
