大模型

Agent 安全：沙箱、权限、Prompt 注入与审计《大模型实战》第 8/10 篇上篇：大模型成本治理下篇预告：本地大模型 + OllamaAgent 能读文档、调 API、改数据库之后，安全边界就从「模型会不会胡说」变成了「系统会不会被带跑偏、被越权、被拖库」。

用 LobeChat 接入 Ace Data Cloud：一个 Token 解锁 GPT、Claude、Gemini 等 60+ 模型如果你正在使用 LobeChat、ChatBox、LibreChat、Cursor 或 Claude Code 这类 AI 客户端/开发工具，一个很常见的痛点是：模型越来越多，供应商越来越分散，Key、额度、接口格式和团队配置都不好管理。

RAG 检索到了正确内容，但模型回答仍然错误，可能是什么原因？🎯 博主简介你好，我是安逸，CSDN「人工智能技术领域新星创作者」，码龄 6 年。博客总访问量 31万+，博客粉丝 1.2万+。

【第10篇】Python 异常处理与调试入门写代码这事儿吧，就跟谈恋爱一样——你以为 print("Hello World") 就能一直岁月静好？天真。真正让代码"长大"的，从来不是那些顺风顺水的逻辑分支，而是你如何处理那些「意料之外的崩塌」。

神经网络是怎么工作的？从神经元到多层感知机🎯 博主简介你好，我是安逸，CSDN「人工智能技术领域新星创作者」，码龄 6 年。博客总访问量 31万+，博客粉丝 1.2万+。

七牛云行业应用

llama.cpp 本地部署完全指南：从安装到 OpenAI 兼容 API 服务发布日期：2026-08-12 | 数据来源：llama.cpp 官方 GitHub（ggml-org/llama.cpp）文档、官方 install.md / build.md / server 文档 | 话题：llama.cpp · 本地大模型 · GGUF · llama-server

RAG 工具怎么选：LangChain、LlamaIndex、Dify 实测对比前些天发现了一个巨牛的人工智能学习网站，通俗易懂，风趣幽默，忍不住分享一下给大家。点击跳转到网站：https://www.captainai.net/dongkelun

小田学Python

RAG和Embedding技术解析：从理论到实践的探索THE END往期推荐RAG知识库搭建大揭秘：原来这么简单，还能这么有趣！大模型到底怎么思考？一篇看懂 Prompt、思维链、思维树

状态栏动态上下文信息追加到Agent --《深入理解 AI Agent ：设计原理与工程实践》实验2-8system-hint 是《深入理解 AI Agent》第 2 章实验 2-8 的配套代码，主题是 Agent 状态栏（System Hint）：在每轮 LLM 调用前，把当前时间、系统状态、TODO 进度、工具调用计数、错误反馈等动态信息，以临时 role=user 消息追加到上下文末尾，帮助模型减少无限循环、提升状态感知和任务管理能力。

Tool Calling 工程化：Schema 设计、鉴权、失败重试《大模型实战》第 5/10 篇上篇：MCP 协议实战（同系列第 4 篇，发布后可替换为正式链接）下篇预告：多 Agent 协作

小七-七牛开发者

Codex 实践系列 Vol.04：用 Goal 和 Plan 管住一个长任务在先前的 Codex 实践中，我们已经跑过 CLI、读过开源项目，也用 /status、/diff、/review、/plan 等 Slash Command 管理过一次完整的开发过程。

熊猫钓鱼>_>

AI 3D 虚拟盲盒工坊：用腾讯云混元3D + TTS Skills 打造会说话的三维收藏品我桌上摆着十几个盲盒——泡泡玛特的 Dimoo、寻找独角兽的 Amy，还有一些叫不上名字但一眼看中的小东西。每次拆盒时那种"不知道会是什么"的期待感，总让我乐此不疲。有天晚上我在整理这些小玩意儿，顺手刷到了腾讯云 AI Skills 最佳实践征集的活动页。

27届大模型面试准备（二十五）：推理服务化与投机解码——vLLM、PagedAttention、Medusa 与连续批处理上一篇《位置编码与长度外推》解决了"模型怎么读懂 128K 上下文"的问题，解决了"能装下"之后，下一个绕不开的工程问题是"怎么把模型高效的往外吐"。这是本系列第二十五篇。一个 70B 模型在单卡上跑不起来、在八卡上吞吐上不去、在百路并发下延迟爆炸，这些都是推理服务化的范畴。2025 年之后，几乎所有大模型团队的面试都会问到 vLLM、PagedAttention、连续批处理（continuous batching），以及越来越火的投机解码（speculative decoding）。本系列 A15 讲的

国产全模态开源潮：从语言模型到视频模型，中国开源生态再升级过去72小时，国内AI圈出现了一种值得记录的现象：密集发布的不只是新模型，而是开源权重正在从语言模型一路延伸到视频、全双工音视频等更复杂的模态。对开发者与企业来说，这意味着「自选、自部署、自定制」的选项以前所未有的速度变多；对从业者来说，理清这条主线，比追单条快讯更有价值。

码字的特恩

微软确认暂不为 Windows 11 加入透明效果自定义功能，建议用户使用第三方工具“微软已经确认，他们不会“立即调整”Windows 11 的透明效果选项，而是建议用户使用 Windhawk 等第三方工具，而不是在操作系统中原生加入类似 macOS “Liquid Glass（液态玻璃）”风格的透明控制功能。

程序猿编码

不用PyTorch，不用CUDA，我用C++手写了一个能跑GPT和Whisper的推理库现在想跑个大模型，大多数人的第一反应是装PyTorch、下HuggingFace权重、调pipeline()。这一套确实方便，但代价是：你的电脑里突然多了几个G的依赖，GPU驱动要配，CUDA版本要对，连跑个Demo都得等半天环境搭建。

AI大佬的小弟

大模型名词精讲06：Top-P（核采样）小伙伴们上次调完Temperature，是不是发现AI确实变得更有创意了，但有时候创意过头，开始说一些不着边际的话。你心想：有没有一种方法，既能保留一定的随机性，又不会让AI彻底放飞自我？

27届大模型面试准备（二十三）：数据工程与合成数据——配方、去重、质量过滤与数据飞轮上一篇《推理时扩展与强化学习新范式》讲的是如何在推理阶段榨取更多能力，这一篇回到源头：模型能力的上限，其实早在数据准备阶段就被决定了。这是本系列第二十三篇。过去两年有个越来越明确的共识——在架构趋同、算力可买的今天，数据是唯一还没有被商品化的差异来源。Llama 3 相比 Llama 2 的主要提升来自 15T token 的数据规模与更严的过滤，而不是架构改动；DeepSeek、Qwen 的技术报告里，数据配方的篇幅普遍超过模型结构。可惜的是，绝大多数候选人对数据的理解停留在"清洗一下、去个重"，一问"

大模型工程化实战（一）：概率坍塌的救赎 - 给LLM输出加锁凌晨 3:07，我被 P0 报警震醒。监控面板上，订单解析服务过去一小时抛出了第 217 次 JSONDecodeError——不是 217 次请求，是 217 次异常。LLM 吐出的"JSON"里混进了一个没闭合的大括号，还带一句"很抱歉，以下是提取结果"。下游订单系统排着队等这份数据，断了整整 11 分钟。我们守着 temperature=0、写了 30 行 prompt 强调"必须输出合法 JSON"，大模型照样随机抽风。