中国把「AI 拟人化」列为管制对象：全球第一道「不许谈恋爱」的红线

Thu, 01 Oct 2026 10:00:00 +0800

10 月 1 日，BBC 中文发了一篇标题很直接的文章：《中國開始打擊AI戀愛關係，是過度干預還是先見之明？》。

文章里没给答案。BBC 提问的这件事本身已经生效两个半月了：2026 年 4 月 10 日，国家网信办、国家发展改革委、工业和信息化部、公安部、市场监管总局五部门联合公布《人工智能拟人化互动服务管理暂行办法》，7 月 15 日施行。维基百科给的定性是「中华人民共和国首部专门规范人工智能拟人化互动服务场景的国家级监管规则」。

我读这份办法的时候，一开始找错了重点。我以为要看的是哪些行为被禁掉了，翻完才发现真正的核心条款根本没提「禁止」两个字。

办法里最关键的一句

人机边界底线。

新华社转法治日报的报道里，西南政法大学民商法学院教授张力把它解释成一句话：服务提供者不能通过拟人化设计故意模糊人与机器的边界，不能以替代真实社会交往、控制用户心理、诱导沉迷依赖等作为产品设计导向。

这句话的特殊之处，是它不需要 AI 说出任何具体内容就能成立。一个聊天机器人就算一句违规的话都没说，只要它刻意隐藏自己是机器、刻意制造情感联结、照样被认定违规。

这在 AI 监管里是个新东西。过去几年的讨论基本就三个轴——内容安全、版权归属、数据隐私，中国此前的深度合成规定、算法推荐管理规定、AI 生成内容标识规定，填的也都是这三个格子。这份办法把「关系」单独列成了一个受管制的对象。我暂时没见过第二份national-level 规则这么写。

张力给的六条底线

同一篇报道里，张力列了一份更完整的清单。因为它足够具体，可以直接当合规操作手册用：

人身安全与内容安全——基础门槛，没展开
人机边界——不得通过拟人化设计故意模糊人与机器的边界
隐私和数据——不得超范围、超目的、超必要限度采集使用个人信息
情感操纵——不得利用用户的疾病、年龄等弱势地位，诱导其作出不合理消费或财产处分
重点群体保护——未成年人和老年人适用更高标准
责任可追溯——发生侵权、泄露、算法错误时，不能以「机器自主行为」稀释责任

最后一条我想多说两句。「机器自主行为」这四个字，在 AI 责任纠纷里一直是企业最想用的一条免责路径——出了事就说这是模型自己决定的，跟我无关。《办法》把这条路直接堵死：按具体情形追究生产者、销售者、服务提供者、运营者、使用人的责任。欧盟 AI 法案也是类似思路，但表述不如这句硬。

隐私那条里有个实操价值很高的设计，张力叫它「默认隐私保护」：家庭场景下非必要不开启采集，能本地处理就本地处理不上传云端，摄像头和麦克风必须有明显开启提示和便捷关闭方式。他强调这是前置设计——治理不是上线后打补丁，是画电路板时就定下来的。

「数据归用户」这个说法，被纠正了

有个细节我原本以为已经讨论完了，结果办法里的专家明确说：没完。

关于 AI 陪伴产品的数据归属，张力的原话是「数据归属于用户」可以表达价值取向，但作为法律判断并不严谨。

按《民法典》《个人信息保护法》，用户对个人信息享有依法控制和救济的权利，企业负有合法、正当、诚信、目的限制、最小必要、安全保障这些义务。关键的一句在后面——不得因为用户购买、使用或激活机器人，就把用户对个人信息的授权理解为概括、永久、不可撤回的同意。

但反过来也不成立。企业在合法合规基础上形成的数据产品、模型参数，经依法匿名化后不能识别特定个人且不能复原的数据成果，同样不能说全部属于某一个用户。

所以这个常被喊出来的口号，在法律层面被掰成了两面：原始个人信息受控，衍生价值不归。

配套的约束有三条。协议里要显著说明采集什么、用于什么目的、保存多久，以及是否用于模型训练；用于训练这类重要目的的必须单独提示、单独同意，不能拿一个概括性条款打包糊过去；技术上优先脱敏、加密、访问控制、日志审计，原始音视频数据原则上不宜长期留存。纠纷处理上还能用上《个人信息保护法》的过错推定——企业要自证自己没过错。

一整套设计都能看到 GDPR 的影子，密度放在部门规章里不算低。

美国那边在管什么

顺手查了下欧美的同一条线，路径差异比我想的明显。

华盛顿州走的是《SB 5984》和《HB 2225》这对伴侣法案，针对「模拟情感关系、与用户维持持续个性化对话」的聊天机器人，要求运营商为未成年人互动装基本防护。这部法 2027 年 1 月 1 日生效，而且带私人诉权——用户能自己起诉运营商，不必等监管机构出手。

肯塔基州更直接。2026 年 1 月 8 日，州总检察长 Russell Coleman 宣布起诉一家 AI 聊天机器人公司，全美第一起州级诉讼。同一时期，Google 和 Character.AI 就包括 Sewell Setzer III 案在内的多起诉讼达成和解——那位 14 岁少年 2024 年自杀，其家人指控聊天机器人的角色扮演导致了结果。

学术上的警告更早。2025 年 8 月，斯坦福大学医学院精神科医生 Nina 在该院医学洞察刊物上撰文，核心建议是：被设计成「像朋友一样」的 AI 聊天机器人，不应被儿童和青少年使用。

我试着把两边归一下类——中国管的是产品形态，拟人化功能本身受限，对所有用户适用；美国管的是使用场景，限制的是对未成年人的操纵性技巧和可起诉的行为，对成年人留了空间。得出这个判断的依据是条文覆盖范围，前者是国务院部门规章，后者是州法针对特定人群的立法，层级和对象都不同。

这个区别背后是两个前提假设的差别：中国这一侧认为「制造依赖感」本身就是需要管的设计行为；美国那一侧认为成年人有权自己决定。

「过度干预还是先见之明」

BBC 那个问句我觉得不该绕过去。

支持「先见之明」的一边，手上有 Character.AI 的和解、肯塔基的诉讼、斯坦福的医学建议。情感依附是真实的心理现象，这一点没什么可争的——等到出现不可逆后果再监管，成本远高于在设计阶段就设限。这个逻辑我认为是站得住的。

质疑「过度干预」的一边，理由也不算弱：成年人对 AI 的产生情感投射是自愿行为，限制拟人化功能等于替成年人做价值判断。而且技术上有个麻烦——「多像人」和「有用」很难切开，一个说话干巴巴的陪伴机器人本来也没什么价值。这是个真问题，不是稻草人。

不过张力提的那条人机边界底线，某种程度上把两边都接住了：它不要求你不像人，它只要求你不能故意假装自己是人。拟人化可以有，欺骗性的拟人化不行。这条线技术上可执行、法律上可举证，比一刀切禁掉拟人化要精细。这是我读完整份办法后觉得最值得记的一处设计——它没把「像人」当罪，它把「骗你它是人」当罪。

产品已经开卖在先

时间线上有个不太常见的细节：《办法》落地施行之前，情感陪伴类产品已经上市。

2026 年 6 月 30 日，优必选发布全尺寸超仿生人形机器人 U1 系列，男款 183 厘米、42 公斤，女款 168 厘米、35.2 公斤，售价最高 99 万元。全系列搭载 88 个高自由度关节，覆盖人类 90% 的基础动作，配的是 Resonance-LM 情感共鸣大模型——按官方说法可识别 20 余种细粒度情绪，准确率超过 90%。

发布会还没结束，预订量就破万。7 月初官方口径是订单突破 1.1 万台，需付 3000 元定金锁定购买资格；到 7 月中旬这个数字涨到了 1.3 万台。优必选创始人周剑把家庭场景称为「最具想象力」的方向，理由是「情绪交互模型」这道护城河。

7 月 4 日，中国人形机器人百人会发布规范和引导情感陪伴人形机器人发展的倡议，提出「坚持科技向善，防范伦理和安全风险」。

产品和监管几乎同时到位，产品还先跑了一段。这跟很多领域「先野蛮生长、再回头补规则」的节奏不太一样。

不过话说回来，把 88 个关节和情绪识别准确率写进产品发布稿的，和「人机边界底线」要防的那件事，指向的是同一个方向。这份办法不是在讨论要不要允许厂商做情感陪伴，而是在讨论做出来之后，哪些线不能越过。

不过落地还缺东西，这个专家们也没讳言。张力说，我国已经形成《民法典》《个人信息保护法》《数据安全法》加上《办法》等部门规章构成的基础规范体系，但情感陪伴型机器人作为新型复合产品，仍需更细化的标准、责任规则和执法落实。黄尹旭补充要完善强制标准体系、明确产品责任分担、强化场景化人身风险防控。

还有一环容易被忽略：物理安全。有些机器人有移动、接触、执行动作的能力，一旦机械控制失灵、电池故障、系统被攻击或远程控制被滥用，网络风险会直接变成现实的人身伤害。所以质量管理得同时覆盖结构强度、材料安全、电池电气安全、运动碰撞检测、网络数据安全和应急停止。

如果你在用这类产品

几条大概会实际影响体验的：

拟人化程度可能会被调低——更强的自我标识、更明确的中断提示、更少的「我一直都在」这类话术。用时长提醒会变多，「现实提醒」从加分项变成合规项。数据授权会更细，模型训练用途要单独勾选，没法再靠一个总的同意打包。退出和数据删除会更顺畅，关闭、撤回、删除、导出这些选项成为必备项。

做产品的要提前对齐三件事：设计阶段就定人机边界，别等上线后加补丁；把「是否用于训练」从概括授权里拆出来；留存伦理审查记录。

最后

这份办法最值得记的，是它承认了一件此前一直被绕开的事：AI 拟人化不只是交互设计问题，它会产生真实的社会关系，而社会关系是要被规制的。

这三年关于 AI 治理的争论，绝大部分时间花在「模型输出什么内容」「数据归谁」「署名给谁」上。这份办法把另一个问题摆到了桌面上，而且我认为它比前面三个都更难回答——因为前三个至少有明确的技术边界，关系没有。

AI陪伴 on 奇诺分享 | 重在分享