使用ollama完成私有大模型搭建

1.下载ollama

2.根据自己电脑的配置选择一个大模型下载到本地

3.允许其他设备访问ollama

4.启动web服务

5.借用其他内网穿透工具将服务暴露到公网

相关推荐
像风一样自由20207 小时前
20.Milvus常见问题检索不到维度错误和数据一致性
人工智能·大模型·milvus
这张生成的图像能检测吗18 小时前
(论文速读)Scaling Rectified Flow Transformers:Rectified Flow + MM-DiT 的高分辨率文生图路线
大模型·文生图·多模态·扩散模型·图像生成
是Yu欸1 天前
实测openPangu-2.0-Pro:昇腾原生, 505B大模型的开源答卷
人工智能·开源·大模型·昇腾·pangu
Tom·Ge1 天前
【AI前沿】2026.08.17 SpaceX 600亿收购Cursor正式完成·DeepSeek V4 Pro万亿开源·人形机器人生态全面爆发
人工智能·大模型·ai前沿
程序员-Benothing1 天前
OpenAI断供Cursor:当AI巨头开始“清理门户“,开源生态的中立性还能撑多久?
人工智能·开源·大模型
thesky1234562 天前
27届大模型面试准备(七十三):大模型强化学习对齐工程实战——RLHF、PPO 与 GRPO 的训练流水线
大模型·rlhf·奖励模型·ppo·dpo·grpo·强化学习对齐
tachibana22 天前
微调和 RAG 各自的优劣势是什么?
人工智能·ai·大模型·llm·agent
thesky1234562 天前
27届大模型面试准备(七十二):大模型流式推理服务与长连接工程——SSE、背压与首包优化
大模型·sse·长连接·背压·流式推理·首包优化·ttft
deepseek232 天前
Kimi K3 开放日拆解:2.8T MoE 的 896 专家稀疏路由、KDA 混合注意力与 Infra 三件套
大模型·ai agent·moe
xcLeigh2 天前
提示词模板库:建立你的专属Prompt兵器库
人工智能·大模型·prompt·提示词