ollama linux下载

实验室服务器(A6000)执行curl -fsSL https://ollama.com/install.sh | sh太慢了。

而sudo snap install ollama,容易爆cudalibrt.so12无法正常使用的bug。

发现 https://www.modelscope.cn/models/modelscope/ollama-linux

使用modelscope进行ollama的下载,网速很稳定,2-3mb/s。

复制代码
pip install modelscope 
modelscope download --model=modelscope/ollama-linux --local_dir ./ollama-linux --revision v0.5.7

并且ollama拉取模型后,正常推理不报错。

相关推荐
少妇的美梦7 小时前
logstash教程
运维
chen9458 小时前
k8s集群部署vector日志采集器
运维
chen9458 小时前
aws ec2部署harbor,使用s3存储
运维
轻松Ai享生活12 小时前
5 节课深入学习Linux Cgroups
linux
christine-rr12 小时前
linux常用命令(4)——压缩命令
linux·服务器·redis
三坛海会大神55513 小时前
LVS与Keepalived详解(二)LVS负载均衡实现实操
linux·负载均衡·lvs
東雪蓮☆13 小时前
深入理解 LVS-DR 模式与 Keepalived 高可用集群
linux·运维·服务器·lvs
qq_2642208913 小时前
LVS负载均衡群集和LVS+Keepalived群集
运维·负载均衡·lvs
乌萨奇也要立志学C++13 小时前
【Linux】进程概念(二):进程查看与 fork 初探
linux·运维·服务器
雨落Liy13 小时前
Nginx 从入门到进阶:反向代理、负载均衡与高性能实战指南
运维·nginx·负载均衡