技术栈
海光k100
奔跑中的小象
1 天前
服务器
·
人工智能
·
uos
·
vllm
·
统信
·
海光k100
统信UOS V2500服务器操作系统+海光K100 AI卡环境下VLLM服务部署
服务器： 曙光 X7850H0（256 核+ 8张A100+1.5T内存） 服务器操作系统： UOS V2500 DTK版本： 25.04.1 Rocm版本： 6.3.13 VLLM版本： 0.8.5 Python版本： 3.10.16 注：海光vllm安装文件依赖numa库与python3.11版本不兼容，因此python选择3.10版本
我是有底线的