- 官网：
-
安装ollama
curl -fsSL https://ollama.com/install.sh | sh
-
run个3b模型:
-
命令：
ollama run llama3.2
5： run之后样子，使用的是cpu跑的。如果有gpu，脚本应该可以运用到gpu
- 总结：
只是简单跑起来，对于如何部署的其实是黑盒。本文只是通过ollama,启动了llama3 3b
笔记本run个llm, 本地如何启动大模型，大模型ubuntu 3b llm启动，llm部署 ollama 黑盒run大模型
qq_339191142024-11-19 19:39
相关推荐
敢敢のwings36 分钟前
用 GPT‑6 构建可交互 USD 资产：从 USDCraft 到一扇能用于仿真的柜门七牛云行业应用1 天前
MIT “权重空间编程”：GPT-6 Astra 修改 0.016% 的 Qwen 权重，MATH-500 从 7.9% 升至 48.1%一缕82年的清风1 天前
智能体“自适应慢思考”的算力黑洞：当 Claude 5.5 与 GPT-6.1 Sol 陷入推理自旋，为什么高并发架构必须重构“认知预算熔断与快慢推测执行”？AI 编程助手GPT2 天前
GPT 排的日志时间线差一小时？用 zoneinfo 复现夏令时回拨阿愚先生2 天前
【从零手写GPT（一）】：RTX 5080 环境踩坑，我装错了两次 PyTorch一缕82年的清风2 天前
智能体“自主决策”的虚假繁荣：当 Claude 5.5 与 GPT-6.1 深入生产，为什么顶级架构师都在重回“确定性状态机”？AI 编程助手GPT2 天前
GPT 改完配置别直接覆盖：用 git diff 审查两份文件一缕82年的清风3 天前
算力平民化神话破产：当推理成本暴降 90%，为什么生产级 Agentic 架构反而更贵更脆弱了？西索斯coding4 天前
gpt-image-2.5-sunburst 和 gemini-3.1-flash-image 差多少？60 组项目素材的成功成本评测框架一枕槐安4874 天前
大模型 API 调用封装：统一适配 GPT、文心一言、通义千问