ollama linux下载

实验室服务器(A6000)执行curl -fsSL https://ollama.com/install.sh | sh太慢了。

而sudo snap install ollama,容易爆cudalibrt.so12无法正常使用的bug。

发现 https://www.modelscope.cn/models/modelscope/ollama-linux

使用modelscope进行ollama的下载,网速很稳定,2-3mb/s。

复制代码
pip install modelscope 
modelscope download --model=modelscope/ollama-linux --local_dir ./ollama-linux --revision v0.5.7

并且ollama拉取模型后,正常推理不报错。

相关推荐
2401_826097624 小时前
JavaEE-Linux环境部署
java·linux·java-ee
(:满天星:)6 小时前
第31篇:块设备与字符设备管理深度解析(基于OpenEuler 24.03)
linux·运维·服务器·网络·centos
小陶来咯6 小时前
【仿muduo库实现并发服务器】Acceptor模块
运维·服务器
爱莉希雅&&&6 小时前
shell编程之awk命令详解
linux·服务器·git
笑稀了的野生俊6 小时前
在服务器中下载 HuggingFace 模型:终极指南
linux·服务器·python·bash·gpu算力
cui_hao_nan6 小时前
Docker后端部署
运维·docker·容器
渡我白衣6 小时前
Linux操作系统之文件(四):文件系统(上)
linux
ZZH1120KQ6 小时前
Linux系统安全及应用
linux·运维·系统安全
程序漫游人7 小时前
centos8.5安装jdk21详细安装教程
java·linux
小扎仙森7 小时前
关于服务器宝塔转移wordperss子比主题问题
运维·服务器