ollama linux下载

实验室服务器(A6000)执行curl -fsSL https://ollama.com/install.sh | sh太慢了。

而sudo snap install ollama,容易爆cudalibrt.so12无法正常使用的bug。

发现 https://www.modelscope.cn/models/modelscope/ollama-linux

使用modelscope进行ollama的下载,网速很稳定,2-3mb/s。

pip install modelscope 
modelscope download --model=modelscope/ollama-linux --local_dir ./ollama-linux --revision v0.5.7

并且ollama拉取模型后,正常推理不报错。

相关推荐
在野靡生.40 分钟前
Linux(21)——系统日志
linux·运维·服务器
凤山老林40 分钟前
Docker 部署 GitLab
运维·docker·容器·gitlab
云墨丹青1 小时前
记录安装pdsh中 Linux 系统根目录空间不足导致的编译安装问题
linux·运维·数据库
hi941 小时前
Versal - Petalinux 2024.2(下载与安装+VD100+安装JupyterLab+SD卡分区+SDT流程)
linux·fpga开发·petalinux·versal soc
桂月二二7 小时前
文章标题:深入探索 Rust 中的异步编程:使用 async 和 await 提高开发效率
linux·服务器·rust
Ops菜鸟(Xu JieHao)8 小时前
Linux firewalld开启日志审计功能(2)
linux·运维·shell·脚本·日志·防火墙·firewalld
Golinie8 小时前
【C++高并发服务器WebServer】-13:多线程服务器开发
服务器·c++·linux网络编程·多线程服务器
放飞自我的Coder8 小时前
【非 root 用户下全局使用静态编译的 FFmpeg】
linux·ffmpeg
千羽星弦9 小时前
LVS + KeepAlived 配置HA集群的步骤
运维·服务器·lvs
superman超哥9 小时前
开源堡垒机 JumpServer 社区版实战教程:基于 Ubuntu 22.04 离线安装 JumpServer 社区版 v4.4.1
linux·ubuntu·开源·jumpserver·社区版