笔记本run个llm, 本地如何启动大模型,大模型ubuntu 3b llm启动,llm部署 ollama 黑盒run大模型

  1. 官网:

https://ollama.com/

  1. 安装ollama

    curl -fsSL https://ollama.com/install.sh | sh

  2. run个3b模型:

https://ollama.com/search

  1. 命令:

    ollama run llama3.2

5: run之后样子,使用的是cpu跑的。如果有gpu,脚本应该可以运用到gpu

  1. 总结:

只是简单跑起来,对于如何部署的其实是黑盒。本文只是通过ollama,启动了llama3 3b

相关推荐
victory04317 小时前
karpathy 4种GPT仓库在做基础LLM研究情况下应该如何选择
gpt
chaofan98010 小时前
拒绝单体模型依赖:从 GPT-5.4 与 Claude 生产力之争看分布式 AI 网关的必要性
人工智能·分布式·gpt
Leinwin10 小时前
Azure 新上架 | GPT-5.4 mini / GPT-5.4 nano 登陆 Microsoft Foundry(国际版)
gpt·microsoft·azure
COMEGy10 小时前
研一下学AI---(大语言模型篇)
gpt·langchain·llm·tranform
zzh9407711 小时前
ChatGPT官网镜像站实战:高并发系统限流与熔断策略设计与演进
人工智能·gpt·chatgpt
zzh940771 天前
2026年ChatGPT镜像技术评测:GPT-5.4与Claude 3.5深度对比
gpt·chatgpt
guoji77881 天前
chatGPT5.4镜像如何重塑复杂问题解决范式:从对话助手到智能体执行者
大数据·人工智能·gpt·chatgpt
ofoxcoding1 天前
GPT-5 API 完全指南:性能实测、成本测算与接入方案(2026)
gpt·ai
JavaPub-rodert1 天前
Codex GPT-5.4 使用教程(命令大全版)
前端·chrome·gpt·codex