ollama

读完一本书

Ollama 跑得慢？我试了 6 个参数，只有 3 个真有用📚 本文是《AIGC 人话系列》第 10 篇系列目录：01 内容理解｜02 RAG｜03 三招选型｜04 工具清单｜05 文档问答｜06 踩坑｜07 行业观察｜08 本地跑模型｜09 Token 计费｜10 推理加速（本篇）

还卿一钵无情泪

PEFT-Transformers、Unsloth、LLaMA-Factory 微调框架横向对比正常和标准内核有关中等取决于 LoRA 秩与 batch size较高需要自行编写训练脚本与 Hugging Face Transformers 生态完全兼容，支持 LoRA、QLoRA、Prefix Tuning 等多种方法

保姆级｜Spring AI 2.0 第一个 Demo：Spring Boot 4 接入大模型（含国内可用方案 + 完整 pom）本文将解决：5 分钟内，用 Spring AI 2.0 的 ChatClient 把第一个大模型回答打印到控制台，并给出 OpenAI / DeepSeek / 通义 / Ollama 四种国内可用接入方案。

黑客用一首诗控制3400台服务器挖矿一首发布在 GitHub 上的诗，成了黑客操控僵尸网络的“遥控器”。Lumen 旗下 Black Lotus Labs 安全研究人员发现的新型僵尸网络 PoeLLM，正是靠这首诗向全球 3400 台服务器下达指令，主要用来挖矿和窃取加密货币。

Spring AI + Ollama 本地模型：数据不出内网的合规方案（落地全流程）本文是《Java 后端 + AI 落地（Spring AI 主线）》系列第 3 篇。前两篇的方案有一个共同前提——数据要出网。但对政企、金融、医疗和涉密单位来说，"把内部制度文档发给第三方 API"这条线本身就是红线，再好的效果也不能用。这篇讲清三件事："合规"其实分三档，只有一档必须私有化；本地模型的能力折扣与显存账要怎么算（不算清这笔账，后面的架构全部白做）；以及怎么用同一份 ChatClient 代码把模型从云端换成本地——这正是第 2 篇选兼容模式的价值兑现时刻。文中还给出一条被严重低估的安全红线

Dify 接入大模型：本地还是云端？实战与选型📝 文章声明：本笔记基于 B 站黑马程序员《零基础玩转 Dify》课程学习整理，融合课程素材与个人理解，由大模型辅助生成，仅作个人学习分享，不作为权威教程。原课程讲解透彻、实操性强，想要完整系统学习，欢迎观看原版课程：《零基础玩转 Dify》

Ollama 是什么、干什么用、怎么用📝 文章声明：本笔记基于 B 站黑马程序员《零基础玩转 Dify》课程学习整理，融合课程素材与个人理解，由大模型辅助生成，仅作个人学习分享，不作为权威教程。原课程讲解透彻、实操性强，想要完整系统学习，欢迎观看原版课程：《零基础玩转 Dify》

1.大模型介绍模型是⼀个从数据中学习规律的“数学函数”或“程序”。旨在处理和⽣成信息的算法，通常模仿⼈类的认知功能。通过从⼤型数据集中学习模式和洞察，这些模型可以进⾏预测、⽣成⽂本、图像或其他输出，从⽽增强各个⾏业的各种应⽤。

Techblog of HaoWANG

Ubuntu 下将 Ollama 服务配置为监听 0.0.0.0:11434 完整实践摘要：本文记录在 Ubuntu 上通过 systemd 将 Ollama 服务从默认监听地址调整为 0.0.0.0:11434 的完整过程，包含推荐配置方式、原始 service 文件修改方式、监听验证、日志排查、防火墙放行与安全注意事项。关键词：Ollama、Ubuntu、systemd、11434、OLLAMA_HOST、端口配置适用环境：Ubuntu + systemd + Ollama 0.40.x（其他版本命令基本一致）

Ollama 本地大模型运行指南：从下载到部署Ollama 是一款强大的本地大模型运行工具，它极大地简化了在本地电脑上部署和运行大语言模型（LLM）的流程。无论是热门的 Llama 3、Qwen，还是 Mistral 等模型，Ollama 都能让你通过简单的命令行操作，轻松完成下载、安装和运行，无需复杂的 Python 环境配置或 GPU 集群支持。

Ollama 长文档问答后半段全空：context 默认值与静默截断的代价本文摘要：Ollama 默认 num_ctx 为 4096，长文档超窗部分被静默截断，后半段无法引用。对比 prompt_eval_count 与预期 token 数即可发现截断，显式调大窗口即可修复。

RAG入门（一）用Qdrant和ollama做一个简单的医学问答软件目录1. 下载医学答问库📊 主要中文医疗数据集对比2. 安装ollama💡 安装时留意一下2.1 ollama + 关键字搜索 + 整理

Guarding and trust

项目拆解（二）：模型输出是‘野‘的——三层兜底+重分析，把AI变成可靠零件研发效能智能助手 · 第 2 个项目第 2 篇 | 上篇拆架构，这篇拆容错上一篇把 AI 代码归档系统的骨架拆完了：FastAPI 四层结构、裸调 Ollama、Prompt 设计、SQLite 归档。评论区很多人在问同一个问题：“你那个模型返回的 JSON 要是坏了怎么办？模型崩了怎么办？”

漂着的圆木

模型本地沙箱MXC：Copilot Agent工具受限与Ollama发现核对Copilot 工具受限时，应先核对执行策略；Ollama 模型接入时，要另查发现条件。换成本地模型，并不自动改变工具权限或离线状态。GitHub 同日公布的本地沙箱与模型发现更新，适合放在一起核对，但不能合并成一个“本地运行就已安全”的结论。

SatVision炼金士

DIFY本地部署开源模型配置ollama，提示修改成功却没有加载模型问题解决场景：Dify（Docker 部署于腾讯云）通过内网隧道连接 AutoDL 实例上的 Ollama（http://10.206.0.15:6006），模型供应商配置保存成功，但模型无法加载/对话。结论速览：与 Ollama、隧道、网络均无关。根因是 plugin_daemon 初始化插件 Python 环境时访问 PyPI 超时，导致 Ollama 插件启动失败；期间"删除 plugin 文件"的误操作造成 Dify 崩溃，本手册同时给出安全修复与恢复流程。使用dify版本：https://gitee

更深兼春远

第3篇：给 Dify 接上大模型——云端 API 与本地 Ollama 两种方式承接第 2 篇。上一篇部署完 Dify 后，你还没法真正用它——因为还没给应用接上大模型。给 Dify 接入模型有两种方式：一种是云端 API（省事、要花钱），一种是本地部署 Ollama（免费、私密、离线）。这篇两种都讲清楚，你按需选择。

Dify 本地部署、Ollama 与 Xinference 集成：踩坑与最佳实践指南目标：在本地（以 Windows 为主）搭建一套完全本地化、可离线运行的 AI 应用平台，包含：典型调用链：

Ollama 国内镜像安装 + 下载模型教程Ollama 是一个开源的本地大模型运行工具，主要作用是让你在自己电脑上一键下载、运行和管理开源大模型（如 Gemma、Qwen、DeepSeek 等），无需联网调用云端 API，数据不出本机，还提供 OpenAI 兼容的本地 API 接口。

ubuntu22.04部署完整deepseek局域网web服务全过程（RTX5090安装黑屏+web端多人并发）(1) 制作ubuntu22.04启动优盘后进入启动界面，选项选择第一个但不要进去。（2）键盘按“e”键，进入编辑模型。（3）在原文“splash”后面添加 nomodeset acpi=off noapic，然后按F10。（4）在如下界面耐心等待几秒后成功进入ubuntu22.04安装界面。

福大大架构师每日一题

agno v3.0.10发布：Azure OpenAI Responses、Elasticsearch、MCP 路由与一批关键稳定性修复全解析2026年9月20日，agno 正式发布 v3.0.10 版本。本次更新覆盖模型接入、向量数据库、知识库文档转换、MCP 服务路由、安全限制、工具执行、工作流、文件读取、分块处理、站点地图解析、Slack 事件去重、DynamoDB 存储以及 agnoctl 配置编码等多个方向。