笔记本run个llm, 本地如何启动大模型,大模型ubuntu 3b llm启动,llm部署 ollama 黑盒run大模型

  1. 官网:

https://ollama.com/

  1. 安装ollama

    curl -fsSL https://ollama.com/install.sh | sh

  2. run个3b模型:

https://ollama.com/search

  1. 命令:

    ollama run llama3.2

5: run之后样子,使用的是cpu跑的。如果有gpu,脚本应该可以运用到gpu

  1. 总结:

只是简单跑起来,对于如何部署的其实是黑盒。本文只是通过ollama,启动了llama3 3b

相关推荐
奇牙coding12310 小时前
gpt-5.6-sol 调用一直 429 但 gpt-5.5 完全正常怎么办?排查思路与三种应对方案
gpt·ai
ddshub_cc14 小时前
GPT Image 2 Prompt 案例集:可直接套用的出图写法
gpt·ai·prompt·文生图·image2·ai生图·gpt-image-2
YH55269843 天前
如何减少大模型的token消耗?日常使用,可以通过什么方式减少大模型 token 的消耗
gpt·chatgpt·github
Easy_API4 天前
OpenAI三周内第二次降价,GPT-5.6 Sol砍了20%到33
大数据·前端·人工智能·gpt·深度学习
自动化和Linux4 天前
【win11+virtual Box简单安装centos7,不使用GPT分区】
linux·gpt·虚拟现实
yzx9910135 天前
GPT-5.6 Luna 核心应用场景与落地实践大纲
gpt
自律懒人6 天前
Warp 2.0 从零上手:4 步把终端变成 Agentic 开发环境(GitHub 6.4万星)
gpt
天天进步20156 天前
Pixelle-Video 源码解析 #10:多模型适配:GPT、通义千问、DeepSeek、Ollama 如何统一调用?
人工智能·gpt
蒸蒸yyyyzwd7 天前
AI软件开发面试gpt模拟学习笔记
人工智能·gpt·面试
chunmiao30327 天前
GPT-5.6一个月两次降价,大模型API价格战来了
人工智能·gpt