笔记本run个llm, 本地如何启动大模型,大模型ubuntu 3b llm启动,llm部署 ollama 黑盒run大模型

  1. 官网:

https://ollama.com/

  1. 安装ollama

    curl -fsSL https://ollama.com/install.sh | sh

  2. run个3b模型:

https://ollama.com/search

  1. 命令:

    ollama run llama3.2

5: run之后样子,使用的是cpu跑的。如果有gpu,脚本应该可以运用到gpu

  1. 总结:

只是简单跑起来,对于如何部署的其实是黑盒。本文只是通过ollama,启动了llama3 3b

相关推荐
码农耕地人~go2 小时前
一个插件,免费使用所有顶级大模型(Deepseek,Gpt,Grok,Gemini)
gpt
我还没秃,还能学9 小时前
大模型day1 - 什么是GPT
gpt
AIBox36511 小时前
GPT文生图模型新玩法
人工智能·gpt·aigc
风筝超冷1 天前
GPT - 多头注意力机制(Multi-Head Attention)模块
gpt·深度学习·attention
橙色小博1 天前
GPT:Transformer的专精产品
人工智能·python·gpt·深度学习·神经网络·transformer
不搬砖的程序员不是好程序员1 天前
DB-GPT 源码安装部署 0基础
gpt
kfepiza2 天前
硬盘分区格式之GPT(GUID Partition Table)笔记250406
linux·windows·笔记·gpt
zq.xidian2 天前
【开发工具】科研开发中的主流AI工具整理及如何使用GPT润色英文论文
人工智能·gpt
仙人掌_lz2 天前
详解如何从零用 Python复现类似 GPT-4o 的多模态模型
开发语言·python·gpt·llm·gpt-4o·deepseek
仙人掌_lz2 天前
利用python从零实现Byte Pair Encoding(BPE):NLP 中的“变形金刚”
开发语言·python·gpt·自然语言处理·llm·token·deepseek