ollama

更深兼春远

第3篇：给 Dify 接上大模型——云端 API 与本地 Ollama 两种方式承接第 2 篇。上一篇部署完 Dify 后，你还没法真正用它——因为还没给应用接上大模型。给 Dify 接入模型有两种方式：一种是云端 API（省事、要花钱），一种是本地部署 Ollama（免费、私密、离线）。这篇两种都讲清楚，你按需选择。

Dify 本地部署、Ollama 与 Xinference 集成：踩坑与最佳实践指南目标：在本地（以 Windows 为主）搭建一套完全本地化、可离线运行的 AI 应用平台，包含：典型调用链：

Ollama 国内镜像安装 + 下载模型教程Ollama 是一个开源的本地大模型运行工具，主要作用是让你在自己电脑上一键下载、运行和管理开源大模型（如 Gemma、Qwen、DeepSeek 等），无需联网调用云端 API，数据不出本机，还提供 OpenAI 兼容的本地 API 接口。

ubuntu22.04部署完整deepseek局域网web服务全过程（RTX5090安装黑屏+web端多人并发）(1) 制作ubuntu22.04启动优盘后进入启动界面，选项选择第一个但不要进去。（2）键盘按“e”键，进入编辑模型。（3）在原文“splash”后面添加 nomodeset acpi=off noapic，然后按F10。（4）在如下界面耐心等待几秒后成功进入ubuntu22.04安装界面。

福大大架构师每日一题

agno v3.0.10发布：Azure OpenAI Responses、Elasticsearch、MCP 路由与一批关键稳定性修复全解析2026年9月20日，agno 正式发布 v3.0.10 版本。本次更新覆盖模型接入、向量数据库、知识库文档转换、MCP 服务路由、安全限制、工具执行、工作流、文件读取、分块处理、站点地图解析、Slack 事件去重、DynamoDB 存储以及 agnoctl 配置编码等多个方向。

All for pursuit.

FastAPI+Ollama 部署本地AI大模型对话助手用 Python + FastAPI + Ollama，从零搭一个完全跑在自己电脑上的 AI 对话助手：数据不出本机、不需要任何 API Key、不花一分钱。

springboot+Ollama整合最近领导让研究下AI，大模型等，第一次操作，记录下，有需要的小伙伴也可以参考：第一步：下载Ollama，地址链接https://ollama.com/download，对应电脑下载，然后正常双击安装，安装后双击打开，会提示登入/注册；第一次的话正常注册就行

虎虎(_　_)。゜zｚＺ

零基础本地部署Qwen2.5-7B：从环境准备到模型对话的完整实操前言：如果你和我一样，不想把敏感数据上传到云端大模型，又希望在本地拥有一款性能不错的中文对话AI，那么这篇教程就是为你准备的。全程无需GPU，普通笔记本也能跑，而且完全离线可用。

智嵌研习社

Ollama本地大模型部署实战指南：从环境搭建到生产级API调用全解析随着大模型技术从尝鲜走向落地，越来越多的企业与开发者开始面临云端API无法覆盖的场景：企业内部涉密数据不能出域、工厂与政务内网完全离线、高并发调用成本远超硬件投入、实时交互场景对延迟要求极高。在这些需求驱动下，本地部署大模型已经从"技术玩具"变成了"生产刚需"。

每日出拳老爷子

【AI】Ollama 更新后 skipping CUDA 掉回 CPU我这次看到的是 Ollama GitHub issue 里的一组对照日志，不是我在自己 3060 上复现出来的结果。麻烦的地方在于，Ollama 升到 0.32.14 以后，三十系 / sm_86 显卡不是直接报“CUDA 不可用”，而是日志里跳过 CUDA 设备，最后静默掉回 CPU。这篇文章只处理这一件事：看到 skipping CUDA device - compute capability not in compiled architectures 时，先判断是不是 0.32.14 的后端库选

六、LangChain——StrOutputParser和JsonOutputParser以第一次模型的输出结果，拿去第二次询问模型现在需要：chain = prompt | model | model，参与链的构建的组件完全符合要求，但运行会报错 ValueError: Invalid input type <class 'langchain_core.messages.ai.AIMessageChunk'>. Must be a PromptValue, str, or list of BaseMessages.

大模型真好玩

大模型训练全流程实战指南实战篇（十四）——网络安全大模型数据获取上篇文章使用EvalScope完成了从单一数据集单项能力评测，到多数据集综合评测，再到自定义数据集领域评测的完整实战。至此，本专栏的工具篇正式收官——从训练流程总览、OCR 与 EasyDataset 的数据获取处理，到 LLaMAFactory 的使用、参数详解与调优，再到评测方法与实战演练，大家手中已经集齐了大模型训练全链路的“武器库”。

本地搭建 AI 大模型完整实战指南（2026）目标：完全本地运行，不上传数据到外网，隐私优先；分硬件评估、选型、3 种主流部署方案、一键工具、手动代码、性能调优、常见坑。

Dify+Ollama私有化部署方案可以租赁云平台更新软件包索引 sudo apt-get update 安装一些必要的软件包，以便apt能够通过HTTPS使用仓库： sudo apt-get install apt-transport-https ca-certificates curl software-properties-common 添加Docker的官方GPG密钥：这一步是为了确保你从Docker下载的软件是安全可靠的。 curl -fsSL https://download.docker.com/linux/ubuntu/gp

大模型本地部署神器的瘦身进阶原理，就这两招？温馨提示：另有配套视频版，附带图解演示，观感不同，欢迎到各大视频平台搜索同名标题或【蛋先生说识】丹尼尔：蛋兄，本地跑大模型，有啥好工具推荐不？

LangChain1.2学习第二章—— 调用大模型说明：本套资源源于B站尚硅谷教程，视频链接：https://www.bilibili.com/video/BV1rv7A6oEeP?spm_id_from=333.788.videopod.episodes&vd_source=bba5be243325ecee1f55ec265557fedd

weixin_47138303

25 Ollama 本地部署Ollama 是一个本地 LLM 运行时——你在本机启动一个 HTTP 服务，它负责加载模型、推理、返回结果。接口格式与 OpenAI 完全兼容.

DeepSeek Harness 使用 Ollama 本地部署的 AI 大模型（以Qwen3.8-27B为例）DeepSeek Harness 是 DeepSeek AI 推出的开源 Agent 框架，而 Ollama 是最流行的本地大模型运行工具。将两者结合，可以构建一套完全本地化、无需联网、数据不出电脑的 AI Agent 系统。

多模态大模型视听生成本地实战从纯文本交互到跨模态感知，多模态大模型（MLLM）正成为 AI 从语言对话走向全场景智能的关键枢纽。本文从核心分类、对齐机制、任务矩阵到本地部署，系统拆解多模态技术的工程化落地全流程。

Moon上有月亮

Ollama 完全指南：本地大语言模型的“开箱即用”方案从安装到部署，彻底搞懂 Ollama 的核心机制与实战应用一句话定义： Ollama 是一个本地大语言模型（LLM）部署与管理平台，让你可以在自己的电脑上轻松运行各种开源大模型，无需云服务、无需 API 密钥。