技术栈
671b
szZack
2 个月前
deepseek-r1
·
671b
4*A100 部署 deepseek-r1-671B
使用 4*A100 部署 deepseek-r1-671b-1.58bit 大模型。失败，提示错误：github上面看到vllm暂不支持deepseek-r1-671B，有各种问题，暂时放弃