笔记本run个llm, 本地如何启动大模型,大模型ubuntu 3b llm启动,llm部署 ollama 黑盒run大模型

  1. 官网:

https://ollama.com/

  1. 安装ollama

    curl -fsSL https://ollama.com/install.sh | sh

  2. run个3b模型:

https://ollama.com/search

  1. 命令:

    ollama run llama3.2

5: run之后样子,使用的是cpu跑的。如果有gpu,脚本应该可以运用到gpu

  1. 总结:

只是简单跑起来,对于如何部署的其实是黑盒。本文只是通过ollama,启动了llama3 3b

相关推荐
小桥流水---人工智能19 小时前
我的中英翻译统一GPT指令模板(专业三阶段翻译流程备忘)
gpt
百***243720 小时前
小米MiMo-V2-Flash深度解析:国产开源大模型的轻量化落地革命
java·人工智能·gpt
前端程序猿之路2 天前
AI大模型应用之-RAG 全流程
人工智能·python·gpt·语言模型·aigc·mybatis·ai编程
Lian_Ge_Blog2 天前
GPT 系列学习总结(1-3)
gpt
百***78752 天前
Step-Audio-2 轻量化接入全流程详解
android·java·gpt·php·llama
百***07453 天前
GPT-Image-1.5 极速接入全流程及关键要点
人工智能·gpt·计算机视觉
百***07454 天前
gpt-image-1.5国内API稳定接入全方案(含多模态实操)
开发语言·gpt·php
百***78754 天前
gpt-image-1.5极速接入指南:3步上手+图像核心能力解析+避坑手册
android·java·gpt
徐同保4 天前
n8n+GPT 5.2+Simple Memory + SerpAPI实现向openai提问,机器人可以结合之前提问过的问题回答,支持联网搜索
gpt
百***24374 天前
GPT-Image 1.5 vs Nano Banana Pro 深度对比:国内业务落地的场景适配与避坑指南
java·数据库·gpt