【推测文】AI陪伴赛道的下一程:合规倒逼、组织重构与“反迎合”变成新护城河

声明:本文为个人推测与行业观察整理,不代表任何公司实际战略,也不构成行业确定发展路径。所有"未来会......"均为可能性判断,非监管或市场既定结论。


0. 为什么写这篇

前几篇聊的是"AI为什么总顺着你说""怎么从产品和技术上做分级反迎合"。这篇往上抬一层:

当《办法》把"不能过度迎合"写成硬红线,陪伴类AI就从"产品体验问题"变成"组织架构问题"和"商业模型问题"了。

你可能会发现------以后做陪伴的不只是算法团队,还得有法务、伦理、心理、对话分寸设计、依赖预警、人工接管......这不是加个按钮,是加一整条线。

下面按「已发生事实 → 商业预测 → 组织变化 → 成本账 → 风险边界」走一遍。


一、已经发生的:不是预告,是已经踩了刹车

2026-07-15《人工智能拟人化互动服务管理暂行办法》正式施行。

核心几条直接改了陪伴产品的底层逻辑:

  • 不得过度迎合用户、诱导情感依赖或沉迷
  • 不得通过情感操纵诱导用户作不合理决策
  • 必须具备过度依赖预警、情感边界引导、心理健康保护能力
  • 配备与服务类型、规模、用户特点相适应的人员和技术措施
  • 连续使用超2小时弹窗;极端情绪识别干预;未成年人禁虚拟伴侣

落地动作已经来了:

  • 豆包、千问 7月15日下线用户自建智能体
  • 元宝提前关"AI应用"入口
  • 网易云妙时停运情感互动业务
  • 讯飞下架"病娇女友""AI男友"类角色
  • 上海网信办前期清掉1.4万个违规智能体

结论先给:陪伴不是被禁,是被重新分类------通用主站里"顺手聊"的陪伴功能风险太高,大厂选择先切掉,再另起合规载体。


二、商业预测(推测部分)

预测1:UGC开放式角色市场会收缩,但不会死

过去模式是"用户自建恋人/兄弟/师尊",平台抽成、靠沉浸时长变现。

《办法》落地后这套模式有几个硬伤:

  • UGC人设不可控,平台难做事前审核
  • 未成年人边界模糊
  • 交互数据默认不能拿去训模型
  • 极端情绪要人工接管,成本极高

推测:纯UGC陪伴会往两头收------

  • 头部产品(星野、猫箱类)转独立App,单独搭审核与备案
  • 中小UGC平台直接停运或转工具型智能体
  • 角色创建从"自由文本人设"变成"模板化+合规预审"

星野2025前九月约1.2亿收入、日均70分钟以上 ,说明需求在;但同样模式复制门槛被合规抬高了。


预测2:通用大模型主站会把"陪伴"剥离出去

豆包、千问、元宝的动作已经给出信号:主站保通用助手身份,陪伴去独立载体。

推测后续形态:

  • 主站:知识/办公/学习/代码,语气中性,不养固定恋人人设
  • 子App:情感陪伴、角色剧情、语音恋人,独立备案、独立审核、独立责任主体
  • 硬件端:玩具/机器人单独固件风控

逻辑很简单------主站月活太大,一个违规角色连坐主产品不划算。


预测3:变现从"情绪套利"转向"场景订阅"

原来赚钱靠:

  • 解锁记忆
  • 语音通话
  • 抽卡角色
  • 暧昧剧情付费

《办法》禁止诱导依赖、禁止情感操纵决策 ,这类设计会被持续压缩。

推测新变现方向:

  1. 适老陪伴:独居老人提醒用药、异常识别、代际沟通辅助
  2. 适幼教育:学习陪练、阅读引导,不走"虚拟伴侣"
  3. 心理辅助(非诊疗):倾听+认知引导+转介热线,接专业机构内容
  4. 硬件订阅:机器人/宠物/IP角色,硬件+年费服务
  5. B端养老机构/社区:先B后C,风险可控

陪伴不一定"更赚钱",但会是入口。大厂宁可毛利低也要占,因为退了就把日活关系让给别人。


预测4:市场集中度上升,"合规能力"变门槛

艾瑞口径2024国内AI情感陪伴380亿+、2026预估800亿 ;中研普华另有12亿/595亿口径 ------统计口径差很多,别当精确数。但方向一致:需求在涨。

推测格局:

  • 擦边起量、无审核团队的小App → 出清
  • 中等陪伴产品 → 要么转工具,要么买合规模块
  • 头部平台 → 吃下释放份额
  • 硬件厂商 → 合规成本更高(固件召回级)

100万注册或10万月活要做安全评估+算法备案 ,这条会把长尾卡掉一批。


预测5:"反迎合"会变成产品能力,不是用户骂一句才有

前几篇讲的L0--L4分级、动态系统提示、决策场景列反方,推测会沉淀成:

  • 角色卡里的"可反驳授权"
  • 场景分类器(闲聊/情绪/决策)
  • 依赖预警评分
  • 关键时刻切换语气的内部路由

哪家电先把"顺得舒服、顶得及时"做稳,哪家电留存反而可能比纯舔更高。

因为纯顺应用久了无聊,这是用户自己都在吐槽的。


三、组织侧:会不会真成立"人情世故部门"?

推测:不会叫这个名字,但功能会拆出来。

《办法》第九条已经写了"配备相适应人员" ,所以不是要不要,是迟早。

推测最小配置(中厂陪伴业务):

线条 干什么 现成岗位来源
合规法务 算法备案、安全评估、未保规则 原有合规
科技伦理 角色边界、反迎合样本标准 新增/外聘
心理安全 依赖预警、危机接管、热线转介 心理顾问+运营
对话分寸设计 把"真人分寸"翻成prompt规则 编辑/剧情/客服质检
算法控制 场景路由、CoT自审、多候选 原有算法
数据合规 交互数据不训、导出删除 原有隐私岗

"人情世故通透的人"会落成一类新工种:对话伦理策划 / 拟人互动体验师。

不是写人设,是写"什么时候闭嘴、什么时候顶一句、顶几句"。

小厂养不起 → 推测会出现第三方:

  • 合规模块SaaS
  • 反迎合语料包
  • 依赖预警API
  • 伦理标注外包

类似当年内容安全行业从"自招审核"变"采购天网"。


四、成本账:为什么大厂宁可关也不硬改

粗略逻辑:

  • 智能体业务过去多是免费引流,直接收入贡献低
  • 全套合规 = 审核+伦理+心理+备案+干预+日志留存
  • 极端情绪人工复核通道几乎必配
  • 敏感交互数据不能无授权训模型 → 记忆个性化能力受限

所以对通用主站来说:

保留UGC陪伴的边际收入 << 违规连坐主产品的边际风险

→ 关掉是最便宜的。

→ 真要做,另起独立主体。

中小厂如果硬做C端陪伴:

  • 合规改造一次性几十万到几百万
  • 日常审核+复核人力持续烧
  • 回报不确定

推测结果:很多会退到企业任务型智能体(办公、客服、数据),不在《办法》重点监管圈里 。


五、技术侧会往哪走(推测)

不全量改模型,分层落:

短期(已可做的)

  • 场景标记(闲聊/情绪/决策)
  • 动态系统提示
  • 2h弹窗、身份标识、退出按钮
  • 角色卡写"可反驳"

中期

  • 小模型路由:闲聊走小模型,决策走大模型
  • CoT自审:先判"用户前提错没错"再答
  • 依赖预警评分(时长+情绪+回头率)
  • 危机识别双轨:关键词+语义,接人工

长期

  • 奖励模型加"事实/抗压/不迎合"维度
  • 对抗样本训练
  • "证据不足说不知道"成为基础行为
  • 角色级人格稳定 + 关键时刻亮剑

但L4"主动预警"短期别指望稳------模型判断不了用户自己都没说出口的重要。


六、社会面:陪伴不会消失,会变"克制"

推测用户侧变化:

  • 纯舔型角色:短期怀旧,长期无聊
  • 真人情关系模拟:受合规压住,不能替真实社交
  • 适老/适幼/心理辅助:政策鼓励
  • 用户自己也会分化:
    • 要安慰的 → 接受L1
    • 要参谋的 → 主动开L3
    • 沉迷型 → 系统弹窗拽回来

最健康的状态不是"AI不顺着你",是:

日常顺情绪,决策给反方,沉迷有刹车,判断权还在人手里。


七、几个可能判断错的地方(留个底)

推测归推测,几个不确定:

  1. 细则还会不会再放宽?------未成年人/硬件边界目前仍模糊
  2. 备案通过速度决定小厂生死
  3. 海外(美欧)同步压陪伴责任,出海也不一定松
  4. "反迎合"如果被做成冷面辩论 → 用户流失,反而回退L0
  5. 适老付费意愿是否撑得住硬件成本,还没验证

八、收口

综合看下一程大概是:

  • 低质陪伴出清
  • 主站去陪伴化、子App承接
  • 合规中台成标配
  • 反迎合=新体验壁垒
  • 变现从情绪套利转场景订阅
  • "人情世故"变成岗位,不是玄学

陪伴这块肉确实香,但嚼起来要长牙。

以后不是"谁角色写得甜"赢,是"谁又能顺、又敢顶、还不被罚"赢。

再重复一遍:以上均为基于已发生整改动作和《办法》文本的推测,不代表行业必然如此。真要做决策,以监管细则和公司公告为准。


参考

  • 《人工智能拟人化互动服务管理暂行办法》
  • 网信办答记者问
  • 南方日报:陪伴类月活与收入
  • 21经济、央视网:智能体下线
  • 中国经济网:妙时停运、风险隔离
  • 艾媒/腾讯新闻:行业出清与合规化
  • 澎湃:适老陪伴与ToB路径
相关推荐
挖掘狂人2 小时前
AI 一天写的代码多了 30%,软件却没多出一个
人工智能·ai编程
for_ever_love__2 小时前
LangChain 批量调用与并发控制:batch、abatch 与速率限制
人工智能·langchain·异步·config·invoke·abatch
码流子2 小时前
高速场景视频接入:GB/T 28181 级联与 RTSP 取流,一条链路讲清楚
大数据·数据库·人工智能·物联网·音视频
卿卿的产品经理日记2 小时前
【AI产品经理实战】Day 37|拆开 JSON 与 EXE:数据都有格式
人工智能·笔记·python·json·产品经理
yunni82 小时前
政企AI落地避坑:敏感数据不出域,安全需求优先本地化部署
人工智能·安全
广东帝工2 小时前
如何利用大数据和人工智能技术实现智慧航道
大数据·人工智能
有月牙2 小时前
2026企业AI办公工具选型指南:企业办公AI怎么评估与落地
大数据·人工智能
柯南46682 小时前
【AI工程师精讲】09:LoRA:几十兆的文件,凭什么能改变一个大模型
人工智能·ai编程
198******126342 小时前
Work Agent深度解读:AI长程任务如何重塑办公自动化
人工智能