技术栈
671b
szZack
1 个月前
deepseek-r1
·
671b
4*A100 部署 deepseek-r1-671B
使用 4*A100 部署 deepseek-r1-671b-1.58bit 大模型。失败,提示错误:github上面看到vllm暂不支持deepseek-r1-671B,有各种问题,暂时放弃