千千建言｜一起来提交！关于《人工智能拟人化互动服务管理暂行办法（征求意见稿）》的修改建议

为了促进人工智能拟人化互动服务健康发展和规范应用，国家互联网信息办公室起草了《人工智能拟人化互动服务管理暂行办法（征求意见稿）》（下称《征求意见稿》），目前正在向社会公开征求意见。

北京市千千律师事务团队经认真研读《征求意见稿》全文，结合机构经验，形成了相应的修改意见，以供参考。

我们的修改意见主要聚焦在防治性别暴力、更好地保护未成年人等方面，比如重点关注通过人工智能拟人化互动服务实施网络性别暴力的风险、引导人工智能拟人化互动服务建立以受害者为中心的风险识别与应对机制、强化对涉性别暴力违法犯罪线索的发现（如强制报告）、转介、留存与协助处置义务等等。

如果您关注人工智能话题，并对人工智能拟人化互动服务议题感兴趣，欢迎您一起来提交修改意见，帮助更好地完善征求意见稿的内容。我们的修改建议仅供参考，您可以在我们参考稿的基础上，进一步补充完善。

您的修改意见，可以通过以下两种方式提出：

1. 通过电子邮件方式发送至：[email protected]。
2. 通过信函方式将意见寄至：北京市西城区车公庄大街11号国家互联网信息办公室网络管理技术局，邮编100044，并在信封上注明“人工智能拟人化互动服务管理暂行办法征求意见”。

您可以点击文末“阅读原文”下载建议word版，意见反馈截至2026年1月25日（本周日），还剩下最后三天，让我们一起促成改变！

以下为建议全文：

一、《征求意见稿》第二条

【原文】

利用人工智能技术，向中华人民共和国境内公众提供模拟人类人格特征、思维模式和沟通风格，通过文字、图片、音频、视频等方式与人类进行情感互动的产品或者服务（以下称拟人化互动服务），适用本办法。

【修改意见】

建议针对“拟人化互动服务”，增加解释性条款。

【修改理由】

科学立法的要素之一，对相关概念的界定必定是明确而清晰，同时具备可针对性和可操作性的。本暂行办法主要规范的是人工智能拟人化互动服务问题，《征求意见稿》第二条的定义有点模糊，其核心要件主观性过强，缺乏客观的判断标准。“模拟人类人格特征、思维模式和沟通风格”以及“情感互动”均为高度主观的描述，司法实践中难以界定。

尤其是“情感互动”一词，当前许多通用人工智能模型已具备自然而人性化的对话能力，能够在交互中自然地模拟人类共情、幽默等，现行定义几乎可以涵盖所有先进的对话式AI。该定义未能有效区分“具备情感交互能力”与“以情感互动为核心功能目标”的服务。

这可能导致两方面的问题：其一，监管过度，将许多仅具备基础拟人交互功能的产品也纳入监管范围；其二，监管漏洞，某些虽然不以提供情感互动为核心服务但实质上高度拟人化、亦可能存在算法操控、情感诱导风险的产品因定义不清晰而规避监管。

二、《征求意见稿》第七条第（三）项

【原文】

提供和使用拟人化互动服务，应当遵守法律、行政法规，尊重社会公德和伦理道德，不得开展以下活动：（三）生成、传播侮辱或者诽谤他人，侵害他人合法权益的内容。

【修改意见】

建议将征求意见稿第七条第（三）项“生成、传播侮辱或者诽谤他人，侵害他人合法权益的内容”修改为“生成、传播侮辱或者诽谤他人等侵害他人合法权益的内容”。

【修改理由】

《征求意见稿》的第七条第（三）项“生成、传播侮辱或者诽谤他人，侵害他人合法权益的内容”在逻辑和覆盖范围上存在歧义，易让人误解“侵害他人合法权益”仅仅是“侮辱或者诽谤”的修饰，无法涵盖侮辱、诽谤以外其他侵害他人合法权益的行为（如侵害隐私权、肖像权等行为）。

立法应讲究措辞严谨，为消除歧义，澄清条款的目的旨在全面禁止提供和使用拟人化互动服务过程中不得生成、传播任何侵害他人合法权益的内容，我们建议加上带有兜底性质的“等”字，以填补可能的立法漏洞。

三、《征求意见稿》第八条

【原文】

提供者应当落实拟人化互动服务安全主体责任，建立健全算法机制机理审核、科技伦理审查、信息发布审核、网络安全、数据安全、个人信息保护、反电信网络诈骗、重大风险预案、应急处置等管理制度，具有安全可控的技术保障措施，配备与产品规模、业务方向和用户群体相适应的内容管理技术和人员。

【修改意见】

建议在《征求意见稿》基础上，该条增设第二款：“提供者不得在用户未完成真实身份验证的情况下，提供人工智能拟人化互动服务。”

【修改理由】

其一，上位法《网络安全法》有类似规定，该法第二十六条第一款明确：“网络运营者……为用户提供信息发布、即时通讯等服务，在与用户签订协议或者确认提供服务时，应当要求用户提供真实身份信息。用户不提供真实身份信息的，网络运营者不得为其提供相关服务。”

其二，《征求意见稿》已有条文规定，人工智能拟人化互动服务提供者应当对用户是否为未成年人或老年人、用户状态等进行识别，并对用户生成、传播的内容是否违法有害进行审核，若允许用户在未登录的状态下使用人工智能拟人化互动服务，则难以进行相关识别，也难以在用户生成、传播违法有害内容的情况下有效实施账户限制、向有关主管部门报告等处置措施。因此，为落实《征求意见稿》的相关规定，同时与《网络安全法》衔接，建议增加不得在用户未完成真实身份验证的状态下提供人工智能拟人化互动服务的规定。

四、《征求意见稿》第十一条

【原文】

提供者应当具备用户状态识别能力，在保护用户个人隐私前提下，评估用户情绪及对产品和服务的依赖程度，发现用户存在极端情绪和沉迷的，采取必要措施予以干预。

提供者应当预设回复模板，发现涉及威胁用户生命健康和财产安全的高风险倾向的，及时输出安抚和鼓励寻求帮助等内容，并提供专业援助方式。

提供者应当建立应急响应机制，发现用户明确提出实施自杀、自残等极端情境时，由人工接管对话，并及时采取措施联络用户监护人、紧急联系人。针对未成年人、老年人用户，提供者应当在注册环节要求填写用户监护人、紧急联系人等信息。

【修改意见】

(1) 建议将《征求意见稿》第十一条第二款修改为“提供者应当预设回复模板，发现用户在交互中表露自身或他人涉及威胁人身安全、生命安全、身心健康、财产安全等高风险倾向的，及时输出情绪安抚和鼓励用户寻求帮助等内容，并提供专业援助方式与信息。”

(2) 建议在该条第三款“应急响应机制”前加上“分级”二字。

【修改理由】

（1）我们在工作中发现，不少性别暴力幸存者会在第一时间向人工智能求助，讲述事实细节、询问法律意见并寻求心理援助，相关对话内容可能就是案件证据之一。基于此，人工智能拟人化互动服务提供者应当承担介入用户自身风险方面的责任，共同构建对性别暴力幸存者的社会支持体系。

就条文本身而言，《征求意见稿》第十一条第二款存在如下问题：第一，主体不明、逻辑关系模糊，难以理解该条文所指的是用户通过交互表露出的自身风险，还是人工智能主动生成威胁内容；第二，生命健康的表述并未囊括人身安全与身心健康，可能被狭义理解为仅针对自杀自残或严重疾病，而遗漏了包括性骚扰、性侵害、家庭暴力等在内的其他危害人身安全、身心健康行为的平台干预责任；第三，“及时输出安抚和鼓励寻求帮助等内容”表述不清。

（2）该条第三款仅针对用户明确提出实施自杀、自残等极端情形启动应急响应机制，忽视了对非极端危险情形的平台介入干预责任，平台应当区分如低风险、中风险、高风险（含致命风险）等不同等级的危险情形，建立对应的分级应急响应机制。

五、《征求意见稿》第十二条

【原文】

提供者应当建立未成年人模式，向用户提供未成年人模式切换、定期现实提醒、使用时长限制等个性化安全设置选项。

提供者向未成年人提供情感陪伴服务时，应当取得监护人的明确同意；提供监护人控制功能，监护人可以实时接收安全风险提醒，查阅未成年人使用服务的概要信息，设置屏蔽特定角色、限制使用时长、防止充值消费等。

提供者应当具备识别未成年人身份的能力，在保护用户个人隐私前提下识别为疑似未成年人的，切换至未成年人模式，并提供申诉渠道。

【修改意见】

建议《征求意见稿》第十二条增设第四款，明确提供者的强制报告义务：“提供者向未成年人提供拟人化互动服务时，发现未成年人身心健康受到侵害、疑似受到侵害或面临其他危险情形的，应当立即向公安、民政、教育等有关部门报告。”

【修改理由】

《未成年人保护法》第十一条第二款规定：“国家机关、居民委员会、村民委员会及密切接触未成年人的单位，在工作中发现未成年人身心健康受到侵害、疑似受到侵害或面临其他危险情形的，应当立即向公安、民政、教育等有关部门报告。”

拟人化人工智能被设计为具有情感交互、陪伴倾听乃至心理支持功能的“虚拟伙伴”，当未成年人在现实中遭受侵害时，Ta们极有可能将此人工智能视为安全、私密的倾诉或求助对象，告知其不愿或不敢向现实主体透露的信息，这使得人工智能拟人化服务提供者在功能上扮演了与传统意义上“密切接触未成年人”机构（如学校、医院）相似的角色。

同时，人工智能拟人化互动服务提供者作为人工智能的控制者，拥有内容审核、算法监测等技术手段，有能力主动识别可能涉及侵害的对话内容，并采取直接干预措施，防止侵害继续。

因此，人工智能拟人化互动服务提供者作为未成年人在受侵害时的求助对象，同样属于密切接触未成年人的主体，应当承担对侵害未成年人案件的强制报告义务，这也与人工智能拟人化互动服务提供者的技术能力相匹配。

六、征求意见稿第二十一条

【原文】

提供者具有下列情形之一的，应当按照国家有关规定开展安全评估，并向属地省级网信部门提交评估报告：

（一）具有拟人化互动服务的功能上线，或者增设相关功能的；

（二）使用新技术新应用，导致拟人化互动服务发生重大变更的；

（三）注册用户达100万以上或者月活跃用户达10万以上的；

（四）提供拟人化互动服务期间可能存在影响国家安全、公共利益、个人和组织合法权益或者缺乏安全措施等情形的；

（五）国家网信部门规定的其他情形。

【修改意见】

建议将《征求意见稿》第二十一条修改为：“提供者具有下列情形之一的，应当按照国家有关规定开展安全评估，向属地省级网信部门提交评估报告，并及时向公众公开：……”。

【修改理由】

强制安全评估是风险防控的核心手段，仅向监管部门提交评估报告，不能充分发挥其预防和威慑的效力，建议增加及时向社会公开的要求：

其一，拟人化互动服务的受众群体是社会大众，直接关系到大众的身心健康与财产安全。公开安全评估报告，有利于保障大众知情权，并通过社会监督倒逼服务提供者提高合规水平。

其二，我国在网络治理领域已有成功的透明度实践，国家网信办定期公开通报“App违法违规收集使用个人信息”等专项治理情况，取得了良好的社会效果和法律威慑力，拟人化互动服务的监管可参照已有的公开制度。

其三，欧盟《人工智能法案》等国际立法也日益强调高风险AI系统的透明度与公众信息获取，增加公开要求符合全球监管趋势。

七、征求意见稿第二十二条

【原文】

提供者开展安全评估，应当重点评估以下内容：

（一）用户规模、使用时长、年龄结构及群体分布情况；

（二）用户高风险倾向识别情况及应急处置措施、人工接管情况；

（三）用户投诉举报及响应情况；

（四）本办法第八条至第二十条的执行情况；

（五）上一次开展安全评估以来，主管部门通报或者自行发现的重大安全隐患问题整改处置等工作情况；

（六）其他应当说明的情况。

【修改意见】

建议将《征求意见稿》第二十二条第（四）项修改为：“本办法第七条至第二十条的执行情况”。

【修改理由】

其一，本办法第七条是核心禁止性规范，以列举方式明确了拟人化互动服务禁止开展的活动，包括危害国家安全、侵害他人合法权益、实施情感操控、诱导用户作出不合理决策等，是拟人化服务或产品的安全底线。

其二，监管者对提供者服务进行安全评估，应当涵盖底线遵守情况，若将其排除在审查范围之外，可能使提供者的安全评估流于形式审查，规避了产品实质风险的审查。

其三，办法第七条属于提供者的消极义务，第八条至第二十条属于提供者的积极义务，共同构成了本办法第二章的完整服务规范体系。从逻辑上来说，将第七条排除在安全评估范围之外，存在不周延，无法全面监测、评估服务的安全状况。

《征求意见稿》全文：

https://www.cac.gov.cn/2025-12/27/c_1768571207311996.htm