技术栈
v100
容沁风
4 小时前
nccl
·
v100
·
lk_llama.cpp
lk_llama.cpp启用nccl
要下载对应cuda toolkit版本的nccl,到nvidia官方下载 我用的GPU是v100显卡,只能下载legacy的。
我是有底线的