Digital Economy & AI
在陪伴类App、AI虚拟恋人或具备情感交互能力的智能陪伴机器人爆火的今天,AI开始模拟人类特征、记忆用户偏好并与用户形成关系羁绊。这种情感陪伴式AI提升了技术温度的同时,也带来了极具挑战的问题,如关系畸形依赖、用户极端行为等心理健康问题。
为规范拟人化互动类AI服务,2026年4月10日,国家网信办联合多部门发布《人工智能拟人化互动服务管理暂行办法》(“《拟人化办法》”)[1],并自2026年7月15日起施行。这意味着企业提供拟人化互动类AI时,不仅要遵循《生成式人工智能服务管理暂行办法》、GB/T 45654-2025等现行AI安全合规要求,还需将产品设计、角色脚本、情感边界与防沉迷、危机干预机制、未成年人保护等议题纳入考虑范畴。
本文结合中国及域外典型的拟人化互动类AI规则与实践案例,探讨拟人化互动AI的合规边界,并结合具体场景给出实务建议。
一、什么是拟人化互动类AI?
根据《拟人化办法》第2条,拟人化互动类AI是指利用AI技术通过文字、图片、音频、视频等形式,模拟自然人人格特征、思维模式和沟通风格,面向用户提供持续性情感照护、陪伴、支持等互动服务。
那么,判断一个AI服务是否落入拟人化互动类范畴,不以“是否具备对话功能”为界定标准,而是从以下几个维度进行综合评估:
- 人格模拟:即AI或设定的角色具有稳定的人设、称谓、记忆、口吻和关系发展机制。如仅按照任务返回事实答案,无稳定的人格或关系线,则不落入规制范畴。
- 持续互动:即系统能够跨多轮会话维持关系,并具备主动召回用户的交互式服务。如基于用户的上一次对话内容主动发送信息进行召回。