腾讯混元Hy3深度解析：295B参数只激活21B，推理效率怎么做到提升40%的

7月6日腾讯混元Hy3正式发布，7月20日宣布限时免费延长到8月5日。说实话，295B参数、Apache 2.0开源、API定价输入1元/输出4元/百万token------这些数字单独拿出来都不算特别惊人，但放在一起看，你会发现腾讯这次打了一套组合拳。

我最感兴趣的不是参数规模，而是它那个"快慢思考融合"的架构设计。295B的总参数，一次推理只激活21B------这个7%的激活率在MoE模型里算是相当激进的。更关键的是，它把"快思考"和"慢思考"两个模式融合在同一个模型里，而不是像GPT-5那样需要显式地切换推理模式。

快慢思考融合：Hy3最被低估的设计

"快慢思考"这个概念来自丹尼尔·卡尼曼的《思考，快与慢》。简单说，人脑有两种思考模式：系统1（快思考）是直觉的、自动的、不费力的；系统2（慢思考）是分析的、刻意的、费力的。

在AI领域，这个概念的落地方式是：对于简单问题（比如"今天天气怎么样"），用"快模式"快速回答；对于复杂问题（比如"帮我分析这个代码库的性能瓶颈"），用"慢模式"深度思考。

GPT-5的做法是：用户自己选择用哪个模式。Hy3的做法不一样------它把两个模式融合在同一个模型里，模型自己判断该用哪个模式。
#mermaid-svg-79LtYxrIUK1aD7Cf{font-family:"trebuchet ms",verdana,arial,sans-serif;font-size:16px;fill:#333;}@keyframes edge-animation-frame{from{stroke-dashoffset:0;}}@keyframes dash{to{stroke-dashoffset:0;}}#mermaid-svg-79LtYxrIUK1aD7Cf .edge-animation-slow{stroke-dasharray:9,5!important;stroke-dashoffset:900;animation:dash 50s linear infinite;stroke-linecap:round;}#mermaid-svg-79LtYxrIUK1aD7Cf .edge-animation-fast{stroke-dasharray:9,5!important;stroke-dashoffset:900;animation:dash 20s linear infinite;stroke-linecap:round;}#mermaid-svg-79LtYxrIUK1aD7Cf .error-icon{fill:#552222;}#mermaid-svg-79LtYxrIUK1aD7Cf .error-text{fill:#552222;stroke:#552222;}#mermaid-svg-79LtYxrIUK1aD7Cf .edge-thickness-normal{stroke-width:1px;}#mermaid-svg-79LtYxrIUK1aD7Cf .edge-thickness-thick{stroke-width:3.5px;}#mermaid-svg-79LtYxrIUK1aD7Cf .edge-pattern-solid{stroke-dasharray:0;}#mermaid-svg-79LtYxrIUK1aD7Cf .edge-thickness-invisible{stroke-width:0;fill:none;}#mermaid-svg-79LtYxrIUK1aD7Cf .edge-pattern-dashed{stroke-dasharray:3;}#mermaid-svg-79LtYxrIUK1aD7Cf .edge-pattern-dotted{stroke-dasharray:2;}#mermaid-svg-79LtYxrIUK1aD7Cf .marker{fill:#333333;stroke:#333333;}#mermaid-svg-79LtYxrIUK1aD7Cf .marker.cross{stroke:#333333;}#mermaid-svg-79LtYxrIUK1aD7Cf svg{font-family:"trebuchet ms",verdana,arial,sans-serif;font-size:16px;}#mermaid-svg-79LtYxrIUK1aD7Cf p{margin:0;}#mermaid-svg-79LtYxrIUK1aD7Cf .label{font-family:"trebuchet ms",verdana,arial,sans-serif;color:#333;}#mermaid-svg-79LtYxrIUK1aD7Cf .cluster-label text{fill:#333;}#mermaid-svg-79LtYxrIUK1aD7Cf .cluster-label span{color:#333;}#mermaid-svg-79LtYxrIUK1aD7Cf .cluster-label span p{background-color:transparent;}#mermaid-svg-79LtYxrIUK1aD7Cf .label text,#mermaid-svg-79LtYxrIUK1aD7Cf span{fill:#333;color:#333;}#mermaid-svg-79LtYxrIUK1aD7Cf .node rect,#mermaid-svg-79LtYxrIUK1aD7Cf .node circle,#mermaid-svg-79LtYxrIUK1aD7Cf .node ellipse,#mermaid-svg-79LtYxrIUK1aD7Cf .node polygon,#mermaid-svg-79LtYxrIUK1aD7Cf .node path{fill:#ECECFF;stroke:#9370DB;stroke-width:1px;}#mermaid-svg-79LtYxrIUK1aD7Cf .rough-node .label text,#mermaid-svg-79LtYxrIUK1aD7Cf .node .label text,#mermaid-svg-79LtYxrIUK1aD7Cf .image-shape .label,#mermaid-svg-79LtYxrIUK1aD7Cf .icon-shape .label{text-anchor:middle;}#mermaid-svg-79LtYxrIUK1aD7Cf .node .katex path{fill:#000;stroke:#000;stroke-width:1px;}#mermaid-svg-79LtYxrIUK1aD7Cf .rough-node .label,#mermaid-svg-79LtYxrIUK1aD7Cf .node .label,#mermaid-svg-79LtYxrIUK1aD7Cf .image-shape .label,#mermaid-svg-79LtYxrIUK1aD7Cf .icon-shape .label{text-align:center;}#mermaid-svg-79LtYxrIUK1aD7Cf .node.clickable{cursor:pointer;}#mermaid-svg-79LtYxrIUK1aD7Cf .root .anchor path{fill:#333333!important;stroke-width:0;stroke:#333333;}#mermaid-svg-79LtYxrIUK1aD7Cf .arrowheadPath{fill:#333333;}#mermaid-svg-79LtYxrIUK1aD7Cf .edgePath .path{stroke:#333333;stroke-width:2.0px;}#mermaid-svg-79LtYxrIUK1aD7Cf .flowchart-link{stroke:#333333;fill:none;}#mermaid-svg-79LtYxrIUK1aD7Cf .edgeLabel{background-color:rgba(232,232,232, 0.8);text-align:center;}#mermaid-svg-79LtYxrIUK1aD7Cf .edgeLabel p{background-color:rgba(232,232,232, 0.8);}#mermaid-svg-79LtYxrIUK1aD7Cf .edgeLabel rect{opacity:0.5;background-color:rgba(232,232,232, 0.8);fill:rgba(232,232,232, 0.8);}#mermaid-svg-79LtYxrIUK1aD7Cf .labelBkg{background-color:rgba(232, 232, 232, 0.5);}#mermaid-svg-79LtYxrIUK1aD7Cf .cluster rect{fill:#ffffde;stroke:#aaaa33;stroke-width:1px;}#mermaid-svg-79LtYxrIUK1aD7Cf .cluster text{fill:#333;}#mermaid-svg-79LtYxrIUK1aD7Cf .cluster span{color:#333;}#mermaid-svg-79LtYxrIUK1aD7Cf div.mermaidTooltip{position:absolute;text-align:center;max-width:200px;padding:2px;font-family:"trebuchet ms",verdana,arial,sans-serif;font-size:12px;background:hsl(80, 100%, 96.2745098039%);border:1px solid #aaaa33;border-radius:2px;pointer-events:none;z-index:100;}#mermaid-svg-79LtYxrIUK1aD7Cf .flowchartTitleText{text-anchor:middle;font-size:18px;fill:#333;}#mermaid-svg-79LtYxrIUK1aD7Cf rect.text{fill:none;stroke-width:0;}#mermaid-svg-79LtYxrIUK1aD7Cf .icon-shape,#mermaid-svg-79LtYxrIUK1aD7Cf .image-shape{background-color:rgba(232,232,232, 0.8);text-align:center;}#mermaid-svg-79LtYxrIUK1aD7Cf .icon-shape p,#mermaid-svg-79LtYxrIUK1aD7Cf .image-shape p{background-color:rgba(232,232,232, 0.8);padding:2px;}#mermaid-svg-79LtYxrIUK1aD7Cf .icon-shape .label rect,#mermaid-svg-79LtYxrIUK1aD7Cf .image-shape .label rect{opacity:0.5;background-color:rgba(232,232,232, 0.8);fill:rgba(232,232,232, 0.8);}#mermaid-svg-79LtYxrIUK1aD7Cf .label-icon{display:inline-block;height:1em;overflow:visible;vertical-align:-0.125em;}#mermaid-svg-79LtYxrIUK1aD7Cf .node .label-icon path{fill:currentColor;stroke:revert;stroke-width:revert;}#mermaid-svg-79LtYxrIUK1aD7Cf :root{--mermaid-font-family:"trebuchet ms",verdana,arial,sans-serif;} 简单问题
复杂问题
用户输入
Hy3 路由判断
快思考路径

激活 21B 参数
慢思考路径

激活更多专家
单次推理

延迟 < 500ms
成本低

0.56元/百万token
多步推理

Chain-of-Thought
激活额外专家

如代码/数学专家
成本高

输出 4元/百万token
输出结果

这个设计的巧妙之处在于：用户不需要显式选择模式，模型自己判断任务的复杂度。 你问"1+1等于几"，它自动走快路径；你问"帮我分析这个SQL查询的性能瓶颈并给出优化建议"，它自动走慢路径。

实现这个的关键是Hy3的动态门控机制------一个轻量级的分类器，在推理前先判断token的复杂度，然后决定激活哪些专家。

python 复制代码

# Hy3 快慢思考融合的简化实现
import torch
import torch.nn.functional as F

class FastSlowRouter(torch.nn.Module):
    """Hy3 风格的快慢思考路由器"""
    
    def __init__(self, d_model: int, n_fast_experts: int, n_slow_experts: int):
        super().__init__()
        self.d_model = d_model
        self.n_fast = n_fast_experts
        self.n_slow = n_slow_experts
        
        # 复杂度判断器：预测 token 是否需要慢思考
        self.complexity_gate = torch.nn.Sequential(
            torch.nn.Linear(d_model, d_model // 4),
            torch.nn.GELU(),
            torch.nn.Linear(d_model // 4, 1),
            torch.nn.Sigmoid()
        )
        
        # 专家路由门
        self.fast_gate = torch.nn.Linear(d_model, n_fast_experts, bias=False)
        self.slow_gate = torch.nn.Linear(d_model, n_slow_experts, bias=False)
    
    def forward(self, x: torch.Tensor, fast_experts: list, slow_experts: list):
        """
        x: [batch, seq, d_model]
        """
        # 步骤1: 判断复杂度
        complexity = self.complexity_gate(x)  # [batch, seq, 1]
        
        # 步骤2: 根据复杂度分配专家
        fast_logits = self.fast_gate(x)  # [batch, seq, n_fast]
        slow_logits = self.slow_gate(x)  # [batch, seq, n_slow]
        
        # 复杂度低 → 多用快专家；复杂度高 → 多用慢专家
        fast_weights = F.softmax(fast_logits, dim=-1) * (1 - complexity)
        slow_weights = F.softmax(slow_logits, dim=-1) * complexity
        
        # 步骤3: 加权融合快慢专家输出
        output = torch.zeros_like(x)
        for e, expert in enumerate(fast_experts):
            output += fast_weights[:, :, e:e+1] * expert(x)
        for e, expert in enumerate(slow_experts):
            output += slow_weights[:, :, e:e+1] * expert(x)
        
        return output

为什么只激活21B是个巧妙的设计

Hy3的295B参数中，一次推理只激活21B------也就是7%的激活率。这个数字看起来很小，但背后有个很精妙的计算：

参数多 = 知识容量大。 295B参数意味着模型可以"记住"更多的知识、更多的模式、更多的语言习惯。在需要广博知识的任务上（比如开放域问答、多语言翻译），大参数量的优势很明显。

激活少 = 推理快、成本低。 每次推理只激活21B，意味着计算量和显存占用都只有21B量级。这比全量推理295B少了93%的计算量。

换句话说，Hy3的策略是：用295B的参数来"存储知识"，用21B的激活来"执行推理"。 存储和计算分离，这在MoE架构里是一个经典的优化思路，但Hy3把它做到了一个比较极致的程度。
#mermaid-svg-gfcnxtynNCuaZkwh{font-family:"trebuchet ms",verdana,arial,sans-serif;font-size:16px;fill:#333;}@keyframes edge-animation-frame{from{stroke-dashoffset:0;}}@keyframes dash{to{stroke-dashoffset:0;}}#mermaid-svg-gfcnxtynNCuaZkwh .edge-animation-slow{stroke-dasharray:9,5!important;stroke-dashoffset:900;animation:dash 50s linear infinite;stroke-linecap:round;}#mermaid-svg-gfcnxtynNCuaZkwh .edge-animation-fast{stroke-dasharray:9,5!important;stroke-dashoffset:900;animation:dash 20s linear infinite;stroke-linecap:round;}#mermaid-svg-gfcnxtynNCuaZkwh .error-icon{fill:#552222;}#mermaid-svg-gfcnxtynNCuaZkwh .error-text{fill:#552222;stroke:#552222;}#mermaid-svg-gfcnxtynNCuaZkwh .edge-thickness-normal{stroke-width:1px;}#mermaid-svg-gfcnxtynNCuaZkwh .edge-thickness-thick{stroke-width:3.5px;}#mermaid-svg-gfcnxtynNCuaZkwh .edge-pattern-solid{stroke-dasharray:0;}#mermaid-svg-gfcnxtynNCuaZkwh .edge-thickness-invisible{stroke-width:0;fill:none;}#mermaid-svg-gfcnxtynNCuaZkwh .edge-pattern-dashed{stroke-dasharray:3;}#mermaid-svg-gfcnxtynNCuaZkwh .edge-pattern-dotted{stroke-dasharray:2;}#mermaid-svg-gfcnxtynNCuaZkwh .marker{fill:#333333;stroke:#333333;}#mermaid-svg-gfcnxtynNCuaZkwh .marker.cross{stroke:#333333;}#mermaid-svg-gfcnxtynNCuaZkwh svg{font-family:"trebuchet ms",verdana,arial,sans-serif;font-size:16px;}#mermaid-svg-gfcnxtynNCuaZkwh p{margin:0;}#mermaid-svg-gfcnxtynNCuaZkwh .label{font-family:"trebuchet ms",verdana,arial,sans-serif;color:#333;}#mermaid-svg-gfcnxtynNCuaZkwh .cluster-label text{fill:#333;}#mermaid-svg-gfcnxtynNCuaZkwh .cluster-label span{color:#333;}#mermaid-svg-gfcnxtynNCuaZkwh .cluster-label span p{background-color:transparent;}#mermaid-svg-gfcnxtynNCuaZkwh .label text,#mermaid-svg-gfcnxtynNCuaZkwh span{fill:#333;color:#333;}#mermaid-svg-gfcnxtynNCuaZkwh .node rect,#mermaid-svg-gfcnxtynNCuaZkwh .node circle,#mermaid-svg-gfcnxtynNCuaZkwh .node ellipse,#mermaid-svg-gfcnxtynNCuaZkwh .node polygon,#mermaid-svg-gfcnxtynNCuaZkwh .node path{fill:#ECECFF;stroke:#9370DB;stroke-width:1px;}#mermaid-svg-gfcnxtynNCuaZkwh .rough-node .label text,#mermaid-svg-gfcnxtynNCuaZkwh .node .label text,#mermaid-svg-gfcnxtynNCuaZkwh .image-shape .label,#mermaid-svg-gfcnxtynNCuaZkwh .icon-shape .label{text-anchor:middle;}#mermaid-svg-gfcnxtynNCuaZkwh .node .katex path{fill:#000;stroke:#000;stroke-width:1px;}#mermaid-svg-gfcnxtynNCuaZkwh .rough-node .label,#mermaid-svg-gfcnxtynNCuaZkwh .node .label,#mermaid-svg-gfcnxtynNCuaZkwh .image-shape .label,#mermaid-svg-gfcnxtynNCuaZkwh .icon-shape .label{text-align:center;}#mermaid-svg-gfcnxtynNCuaZkwh .node.clickable{cursor:pointer;}#mermaid-svg-gfcnxtynNCuaZkwh .root .anchor path{fill:#333333!important;stroke-width:0;stroke:#333333;}#mermaid-svg-gfcnxtynNCuaZkwh .arrowheadPath{fill:#333333;}#mermaid-svg-gfcnxtynNCuaZkwh .edgePath .path{stroke:#333333;stroke-width:2.0px;}#mermaid-svg-gfcnxtynNCuaZkwh .flowchart-link{stroke:#333333;fill:none;}#mermaid-svg-gfcnxtynNCuaZkwh .edgeLabel{background-color:rgba(232,232,232, 0.8);text-align:center;}#mermaid-svg-gfcnxtynNCuaZkwh .edgeLabel p{background-color:rgba(232,232,232, 0.8);}#mermaid-svg-gfcnxtynNCuaZkwh .edgeLabel rect{opacity:0.5;background-color:rgba(232,232,232, 0.8);fill:rgba(232,232,232, 0.8);}#mermaid-svg-gfcnxtynNCuaZkwh .labelBkg{background-color:rgba(232, 232, 232, 0.5);}#mermaid-svg-gfcnxtynNCuaZkwh .cluster rect{fill:#ffffde;stroke:#aaaa33;stroke-width:1px;}#mermaid-svg-gfcnxtynNCuaZkwh .cluster text{fill:#333;}#mermaid-svg-gfcnxtynNCuaZkwh .cluster span{color:#333;}#mermaid-svg-gfcnxtynNCuaZkwh div.mermaidTooltip{position:absolute;text-align:center;max-width:200px;padding:2px;font-family:"trebuchet ms",verdana,arial,sans-serif;font-size:12px;background:hsl(80, 100%, 96.2745098039%);border:1px solid #aaaa33;border-radius:2px;pointer-events:none;z-index:100;}#mermaid-svg-gfcnxtynNCuaZkwh .flowchartTitleText{text-anchor:middle;font-size:18px;fill:#333;}#mermaid-svg-gfcnxtynNCuaZkwh rect.text{fill:none;stroke-width:0;}#mermaid-svg-gfcnxtynNCuaZkwh .icon-shape,#mermaid-svg-gfcnxtynNCuaZkwh .image-shape{background-color:rgba(232,232,232, 0.8);text-align:center;}#mermaid-svg-gfcnxtynNCuaZkwh .icon-shape p,#mermaid-svg-gfcnxtynNCuaZkwh .image-shape p{background-color:rgba(232,232,232, 0.8);padding:2px;}#mermaid-svg-gfcnxtynNCuaZkwh .icon-shape .label rect,#mermaid-svg-gfcnxtynNCuaZkwh .image-shape .label rect{opacity:0.5;background-color:rgba(232,232,232, 0.8);fill:rgba(232,232,232, 0.8);}#mermaid-svg-gfcnxtynNCuaZkwh .label-icon{display:inline-block;height:1em;overflow:visible;vertical-align:-0.125em;}#mermaid-svg-gfcnxtynNCuaZkwh .node .label-icon path{fill:currentColor;stroke:revert;stroke-width:revert;}#mermaid-svg-gfcnxtynNCuaZkwh :root{--mermaid-font-family:"trebuchet ms",verdana,arial,sans-serif;} Hy3 MoE 模型
93% 参数不参与计算
295B 参数

知识存储
21B 激活

推理执行
推理
节省显存和算力
传统 Dense 模型
70B 参数
70B 激活
推理

限时免费背后的商业逻辑

腾讯把Hy3的限时免费延长到8月5日，这个操作值得玩味。

从表面上看，这是"让更多用户体验产品"。但往深了想，腾讯在下一盘更大的棋：Hy3不只是一个大模型，它是腾讯整个AI生态的入口。

Hy3背后连着腾讯的多个产品线：微信的AI助手、腾讯云的AI服务、腾讯文档的智能写作、企业微信的智能客服。用户通过Hy3的API进来了，后面自然会被引导到腾讯的整个生态里。

python 复制代码

# 腾讯 AI 生态的模型路由（概念性代码）
class TencentAIRouter:
    """腾讯内部 AI 模型路由"""
    
    MODELS = {
        'hunyuan_hy3': {
            'api': 'https://api.hunyuan.cloud.tencent.com/v1',
            'use_case': '通用对话、代码生成、文档写作',
            'pricing': '输入1元/输出4元/百万token',
        },
        'hunyuan_hy3_free': {
            'api': 'https://api.hunyuan.cloud.tencent.com/v1/free',
            'use_case': '免费试用（限时到8月5日）',
            'pricing': '免费',
        },
    }
    
    def route(self, user_tier: str) -> str:
        if user_tier == 'free_trial':
            return 'hunyuan_hy3_free'
        return 'hunyuan_hy3'

这和OpenAI的策略完全不同。OpenAI的全系产品都是闭源的，你只能通过API用------用多少付多少。腾讯走的是"开源+免费试用+生态绑定"的路线------开源吸引开发者，免费试用降低门槛，生态绑定实现商业变现。

写在最后

腾讯混元Hy3的发布，让我看到了国产大模型在"技术架构创新"上的一个有意思的尝试。快慢思考融合不是一个新的概念，但Hy3把它做到了"模型内自动判断"的程度，这在工程上确实需要不小的勇气。

295B参数只激活21B，推理效率提升40%，Apache 2.0开源，限时免费------这些数字和策略放在一起，腾讯的意图很明确：在AI大模型的牌桌上，既要占技术位，又要占生态位。

对开发者来说，Hy3的免费期到8月5日，现在是体验的最佳时机。用过的都懂，等收费了再想白嫖就来不及了。

标签： 腾讯混元Hy3、MoE架构、快慢思考、开源大模型、AI推理优化