技术栈
大规模ep
ariesjzj
2 小时前
大模型
·
llm
·
deepseek
·
推理优化
·
大规模ep
DeepSeek时代的Large-scale LLM推理
2025年底DeepSeek V3发布炸场，几乎为业界之后的LLM优化方向定了调，尤其是大规模推理优化方面。去年快年底时对LLM的推理优化技术做过一个简单的总结：《LLM时代中的AI推理优化》，现在看来已有很多变化。在DeepSeek V3问世快一年之际，这里简单整理总结一下业界与之相关的推理优化技术。
我是有底线的