最近Kimi K3上线以后，大家都惊呼，又是一个DeekSeek时刻 ，哈哈，是不是应该叫Kimi时刻更好点儿。
K3的发布并不亚于当初DeepSeek R1发布造成的盛况，我们老板也是第一时间充值上手了（还挺潮，我都没用上，太贵）。
回来就找我：小X啊，咱们也要学习业内先进公司 的经验啊！后面让大家全面使用Kimi K3进行研发。
我说：老板，现在Kimi官方API的定价可不便宜，Kimi官方最便宜的49的套餐不支持K3。
最少需要99的套餐。但是99的套餐上下文窗口是256K的，想要正常用100万Token 的得买699的套餐。
咱们研发这边目前有几十个人，就算买30个也得每个月2万多。
老板：这么贵吗？我觉得那个99的就挺好用的啊。
我说：其实简单试用一下99的就挺好的，但是咱们研发用最好还是699的。
老板：哦哦，那这个成本确实挺高的。这样吧，咱们等等K3开源以后本地化部署，这样就只花一次钱，不用每个月都充钱了。
你回去写一份计划书，算算成本啥的，回头交给我。
于是乎我一脸懵逼的出了门，心里直呼一种植物的名字。
既然你想要那我就给你算算：
Kimi K3 作为一个拥有 2.8 万亿参数的超大规模混合专家（MoE）模型，想要本地化部署完完全全就是一个企业级的工程。
不可能跟之前那个所谓的 DeepSeek 一体机一样，必须得是一个集群。
别的不谈，先说显卡，这是大头。
官方建议至少需要 64张以上加速卡组成的超节点 才能完整部署。
这类超节点通常由 64-1024 张国产加速卡（如华为昇腾910B等）或海外旗舰卡（如 H200、H100）通过高速互联组成，并需要配套 800G/1.6T 高速光模块和液冷散热方案。
咱们这里以 H200 为例，目前来看这个显卡在计算领域绝对领先，141GB显存的H200大概需要64张能够勉强跑通，达到基本可用的状态。
但是因为MoE 模型在推理时需要在专家间进行高频数据同步，网络带宽是决定性能的关键。
所以还需要上NVLink 交换机 / 互联桥，用于实现 GPU 之间的高带宽、低延迟通信。
另外需要至少需要配备 800G 级别的光模块 （若条件允许可上 1.6T），用于机架内或跨机架的高速数据传输。
最后还需要支持 RDMA/RoCE 协议的高速以太网交换机，来确保集群内部数据交换不成为瓶颈。
这些东西需要安装在企业级主板上才能用，需要支持多路 PCIe 5.0 且具备多 GPU 插槽（如 8 卡或 4 卡服务器主板）的定制主板，以8卡主板为例，64张H200需要至少8台顶级服务器机箱。
CPU也不能太差了，得双路企业级 CPU，最起码也得Intel Xeon Sapphire Rapids 或 AMD EPYC Genoa 系列，这样才能够提供充足的 PCIe 通道数，避免 CPU 成为数据调度的瓶颈。
内存也不能太小，毕竟百万计的Token上下文。而且除了 GPU 的 HBM，还需要庞大的系统内存来存放 KV Cache 和中间激活值。
所以每台服务器最起码要配备1TB - 2TB 的 DDR5 内存。
有了内存，还得有存储空间。
得用上企业级的固态硬盘，存储高达 1.4TB 的模型权重文件、数据集以及推理时的缓存盘。
这种得上RAID 阵列，每个服务器不低于8TB，并且太差的盘还不行，因为读写 I/O 带宽不能太小了。
机器的主体基本上已经全了，但这还不是全部。
主体有了，还需要散热。
H200 在高负载 MoE 场景下单卡功耗极高，64 张卡聚集在一个机柜内，传统风冷根本不好使。
所以必须要上 冷板式液冷 或 浸没式液冷。
但是机器还得开机啊，开机就需要电源，单机柜可能得160kW，得拆分。
机柜上必须配备企业级钛金电源 ，这还没说机房改造的事儿哈！（咱们这里默认机房不需要改造。）
好了，到这里基本上都配齐了，杂七杂八的小配件咱们就不算钱了。
总成本需要多少呢？
保守估计3000万！
需要注意的是，这个3000万是一次性投入，并不包含耗材的钱和后续使用。
咱们假设公司有高规格的机房，不需要租专业的 IDC 数据中心，并且公司有自己的高带宽网络专线。
这里只算电费，别的都不算。
单张 H200 显卡在满载运行时的功耗约为 700W（0.7kW）
所以，64 张 H200 显卡本身的总功耗为：64 × 0.7kW = 44.8kW
实际机房中除了显卡本身的耗电，还需要考虑服务器主板、CPU、内存、网络交换机以及空调制冷等配套设施的能耗。
数据中心通常用 PUE（电源使用效率）来衡量，国内数据中心的平均 PUE 约为 1.55。
所以，整个集群的实际取电功率需要乘以 1.55 的系数：44.8kW × 1.55 ≈ 69.44kW。
因为工业用电不是家庭用电，咱们以每度 1.5元 为基准，1小时运行的话，电费为：69.44度电 × 1.5元/度 ≈ 104.16元/小时
咱们以全年365天，24小时满载运行为例：104.16 x 24 x 365 ≈ 91.2万元。
就是说一年光电费就91万，这还不算别的，这仅仅是纯电费成本。
于是乎我兴冲冲的拿着账单去找老板：老板您看，本地化部署需要的费用也不算很多，仅计算设备成本大约是3000万。不包含场地、机房改造等等费用。
然后，后续投入使用每年的电费成本大概是91万多点儿，这里面不包含耗材和其他设备成本，仅包含电费。
我看着老板的脸色由白转红，又有点儿紫，最后有点儿黑，没说一句话。
沉默良久以后老板开口说：小X啊，这个事儿公司需要开会讨论一下，你把材料留下先回去吧。
走出办公室的一刻，我看着老板拿起那份账单，手不知道为什么有点儿哆嗦。