笔记本run个llm, 本地如何启动大模型,大模型ubuntu 3b llm启动,llm部署 ollama 黑盒run大模型

  1. 官网:

https://ollama.com/

  1. 安装ollama

    curl -fsSL https://ollama.com/install.sh | sh

  2. run个3b模型:

https://ollama.com/search

  1. 命令:

    ollama run llama3.2

5: run之后样子,使用的是cpu跑的。如果有gpu,脚本应该可以运用到gpu

  1. 总结:

只是简单跑起来,对于如何部署的其实是黑盒。本文只是通过ollama,启动了llama3 3b

相关推荐
小白说大模型4 小时前
从向量嵌入到复杂 Agent:LLM、LangChain、LangGraph 完整科普
java·开发语言·人工智能·gpt·深度学习·langchain
奇牙coding6 小时前
gpt-5.6-sol 接入指南:reasoning_effort 参数配置、推理链验证与常见报错排查
前端·css·gpt·ai
dozenyaoyida12 小时前
GPT-5.6 Sol vs Claude Fable 5:100美元预算下的成本-智能比分析
人工智能·gpt·gpt-5.6·claude fable5
DM今天肝到几点?1 天前
Kimi K3正式发布:宣称开源第一,仅次于 GPT-5.6 和 Fable 5
gpt
在水一缸1 天前
深度解析 GPT-Live:实时语音交互的技术变革与实践指南
gpt·llm·交互·多模态·端到端·实时语音交互·gpt-live
dunge20261 天前
2026年7月更新:ChatGPT Pro、Plus 与 Codex 如何进入事件驱动软件架构(GPT-5.6与AI Agent技术分享)
人工智能·gpt·chatgpt
神奇霸王龙1 天前
Imagen 4 降价 18%: 生图价格战开场
图像处理·人工智能·gpt·ai·ai作画·imagen
ddshub_cc2 天前
理解 Loop Engineering 与 AI 编程成本优化
大数据·人工智能·gpt·prompt·ai编程
且陶陶º2 天前
【LLM】Codex CLI 接入第三方大模型实践:实现 GLM / GPT 等多模型切换
gpt
廋到被风吹走2 天前
【AI】GPT-5.6三模型齐发、世界模型崛起、Anthropic冲刺IPO
大数据·人工智能·gpt