声明:本文为个人推测与行业观察整理,不代表任何公司实际战略,也不构成行业确定发展路径。所有"未来会......"均为可能性判断,非监管或市场既定结论。
0. 为什么写这篇
前几篇聊的是"AI为什么总顺着你说""怎么从产品和技术上做分级反迎合"。这篇往上抬一层:
当《办法》把"不能过度迎合"写成硬红线,陪伴类AI就从"产品体验问题"变成"组织架构问题"和"商业模型问题"了。
你可能会发现------以后做陪伴的不只是算法团队,还得有法务、伦理、心理、对话分寸设计、依赖预警、人工接管......这不是加个按钮,是加一整条线。
下面按「已发生事实 → 商业预测 → 组织变化 → 成本账 → 风险边界」走一遍。
一、已经发生的:不是预告,是已经踩了刹车
2026-07-15《人工智能拟人化互动服务管理暂行办法》正式施行。
核心几条直接改了陪伴产品的底层逻辑:
- 不得过度迎合用户、诱导情感依赖或沉迷
- 不得通过情感操纵诱导用户作不合理决策
- 必须具备过度依赖预警、情感边界引导、心理健康保护能力
- 配备与服务类型、规模、用户特点相适应的人员和技术措施
- 连续使用超2小时弹窗;极端情绪识别干预;未成年人禁虚拟伴侣
落地动作已经来了:
- 豆包、千问 7月15日下线用户自建智能体
- 元宝提前关"AI应用"入口
- 网易云妙时停运情感互动业务
- 讯飞下架"病娇女友""AI男友"类角色
- 上海网信办前期清掉1.4万个违规智能体
结论先给:陪伴不是被禁,是被重新分类------通用主站里"顺手聊"的陪伴功能风险太高,大厂选择先切掉,再另起合规载体。
二、商业预测(推测部分)
预测1:UGC开放式角色市场会收缩,但不会死
过去模式是"用户自建恋人/兄弟/师尊",平台抽成、靠沉浸时长变现。
《办法》落地后这套模式有几个硬伤:
- UGC人设不可控,平台难做事前审核
- 未成年人边界模糊
- 交互数据默认不能拿去训模型
- 极端情绪要人工接管,成本极高
推测:纯UGC陪伴会往两头收------
- 头部产品(星野、猫箱类)转独立App,单独搭审核与备案
- 中小UGC平台直接停运或转工具型智能体
- 角色创建从"自由文本人设"变成"模板化+合规预审"
星野2025前九月约1.2亿收入、日均70分钟以上 ,说明需求在;但同样模式复制门槛被合规抬高了。
预测2:通用大模型主站会把"陪伴"剥离出去
豆包、千问、元宝的动作已经给出信号:主站保通用助手身份,陪伴去独立载体。
推测后续形态:
- 主站:知识/办公/学习/代码,语气中性,不养固定恋人人设
- 子App:情感陪伴、角色剧情、语音恋人,独立备案、独立审核、独立责任主体
- 硬件端:玩具/机器人单独固件风控
逻辑很简单------主站月活太大,一个违规角色连坐主产品不划算。
预测3:变现从"情绪套利"转向"场景订阅"
原来赚钱靠:
- 解锁记忆
- 语音通话
- 抽卡角色
- 暧昧剧情付费
《办法》禁止诱导依赖、禁止情感操纵决策 ,这类设计会被持续压缩。
推测新变现方向:
- 适老陪伴:独居老人提醒用药、异常识别、代际沟通辅助
- 适幼教育:学习陪练、阅读引导,不走"虚拟伴侣"
- 心理辅助(非诊疗):倾听+认知引导+转介热线,接专业机构内容
- 硬件订阅:机器人/宠物/IP角色,硬件+年费服务
- B端养老机构/社区:先B后C,风险可控
陪伴不一定"更赚钱",但会是入口。大厂宁可毛利低也要占,因为退了就把日活关系让给别人。
预测4:市场集中度上升,"合规能力"变门槛
艾瑞口径2024国内AI情感陪伴380亿+、2026预估800亿 ;中研普华另有12亿/595亿口径 ------统计口径差很多,别当精确数。但方向一致:需求在涨。
推测格局:
- 擦边起量、无审核团队的小App → 出清
- 中等陪伴产品 → 要么转工具,要么买合规模块
- 头部平台 → 吃下释放份额
- 硬件厂商 → 合规成本更高(固件召回级)
100万注册或10万月活要做安全评估+算法备案 ,这条会把长尾卡掉一批。
预测5:"反迎合"会变成产品能力,不是用户骂一句才有
前几篇讲的L0--L4分级、动态系统提示、决策场景列反方,推测会沉淀成:
- 角色卡里的"可反驳授权"
- 场景分类器(闲聊/情绪/决策)
- 依赖预警评分
- 关键时刻切换语气的内部路由
哪家电先把"顺得舒服、顶得及时"做稳,哪家电留存反而可能比纯舔更高。
因为纯顺应用久了无聊,这是用户自己都在吐槽的。
三、组织侧:会不会真成立"人情世故部门"?
推测:不会叫这个名字,但功能会拆出来。
《办法》第九条已经写了"配备相适应人员" ,所以不是要不要,是迟早。
推测最小配置(中厂陪伴业务):
| 线条 | 干什么 | 现成岗位来源 |
|---|---|---|
| 合规法务 | 算法备案、安全评估、未保规则 | 原有合规 |
| 科技伦理 | 角色边界、反迎合样本标准 | 新增/外聘 |
| 心理安全 | 依赖预警、危机接管、热线转介 | 心理顾问+运营 |
| 对话分寸设计 | 把"真人分寸"翻成prompt规则 | 编辑/剧情/客服质检 |
| 算法控制 | 场景路由、CoT自审、多候选 | 原有算法 |
| 数据合规 | 交互数据不训、导出删除 | 原有隐私岗 |
"人情世故通透的人"会落成一类新工种:对话伦理策划 / 拟人互动体验师。
不是写人设,是写"什么时候闭嘴、什么时候顶一句、顶几句"。
小厂养不起 → 推测会出现第三方:
- 合规模块SaaS
- 反迎合语料包
- 依赖预警API
- 伦理标注外包
类似当年内容安全行业从"自招审核"变"采购天网"。
四、成本账:为什么大厂宁可关也不硬改
粗略逻辑:
- 智能体业务过去多是免费引流,直接收入贡献低
- 全套合规 = 审核+伦理+心理+备案+干预+日志留存
- 极端情绪人工复核通道几乎必配
- 敏感交互数据不能无授权训模型 → 记忆个性化能力受限
所以对通用主站来说:
保留UGC陪伴的边际收入 << 违规连坐主产品的边际风险
→ 关掉是最便宜的。
→ 真要做,另起独立主体。
中小厂如果硬做C端陪伴:
- 合规改造一次性几十万到几百万
- 日常审核+复核人力持续烧
- 回报不确定
推测结果:很多会退到企业任务型智能体(办公、客服、数据),不在《办法》重点监管圈里 。
五、技术侧会往哪走(推测)
不全量改模型,分层落:
短期(已可做的)
- 场景标记(闲聊/情绪/决策)
- 动态系统提示
- 2h弹窗、身份标识、退出按钮
- 角色卡写"可反驳"
中期
- 小模型路由:闲聊走小模型,决策走大模型
- CoT自审:先判"用户前提错没错"再答
- 依赖预警评分(时长+情绪+回头率)
- 危机识别双轨:关键词+语义,接人工
长期
- 奖励模型加"事实/抗压/不迎合"维度
- 对抗样本训练
- "证据不足说不知道"成为基础行为
- 角色级人格稳定 + 关键时刻亮剑
但L4"主动预警"短期别指望稳------模型判断不了用户自己都没说出口的重要。
六、社会面:陪伴不会消失,会变"克制"
推测用户侧变化:
- 纯舔型角色:短期怀旧,长期无聊
- 真人情关系模拟:受合规压住,不能替真实社交
- 适老/适幼/心理辅助:政策鼓励
- 用户自己也会分化:
- 要安慰的 → 接受L1
- 要参谋的 → 主动开L3
- 沉迷型 → 系统弹窗拽回来
最健康的状态不是"AI不顺着你",是:
日常顺情绪,决策给反方,沉迷有刹车,判断权还在人手里。
七、几个可能判断错的地方(留个底)
推测归推测,几个不确定:
- 细则还会不会再放宽?------未成年人/硬件边界目前仍模糊
- 备案通过速度决定小厂生死
- 海外(美欧)同步压陪伴责任,出海也不一定松
- "反迎合"如果被做成冷面辩论 → 用户流失,反而回退L0
- 适老付费意愿是否撑得住硬件成本,还没验证
八、收口
综合看下一程大概是:
- 低质陪伴出清
- 主站去陪伴化、子App承接
- 合规中台成标配
- 反迎合=新体验壁垒
- 变现从情绪套利转场景订阅
- "人情世故"变成岗位,不是玄学
陪伴这块肉确实香,但嚼起来要长牙。
以后不是"谁角色写得甜"赢,是"谁又能顺、又敢顶、还不被罚"赢。
再重复一遍:以上均为基于已发生整改动作和《办法》文本的推测,不代表行业必然如此。真要做决策,以监管细则和公司公告为准。
参考
- 《人工智能拟人化互动服务管理暂行办法》
- 网信办答记者问
- 南方日报:陪伴类月活与收入
- 21经济、央视网:智能体下线
- 中国经济网:妙时停运、风险隔离
- 艾媒/腾讯新闻:行业出清与合规化
- 澎湃:适老陪伴与ToB路径