技术栈
deepseek-coder
skywalk8163
1 天前
人工智能
·
vllm
·
scnet
·
deepseek-coder
SCNet 双DCU异构卡vllm推理部署DeepSeek-Coder-V2-Lite-Instruct
前面已经测试过了qwen 32b和Qwen3-30B-A3B两个模型的VLLM推理部署，并在Auto-Coder中进行试用。现在开始在SCNet的DCU环境中，尝试vllm推理部署DeepSeek-Coder-V2-Lite-Instruct
我是有底线的