llm

goehou9 小时前
数据库·ai·llm·教程·mcp·function calling
MCP 查数实战:让 LLM 安全地查数据库(只读账号、SQL 校验、参数漂移)LLM 系列又一篇。Function Calling 篇讲了工具调用,MCP 篇讲了协议,安全篇讲了密钥。这篇补上模型查数据库的实战。参数会漂移,账号要限权,限制要放在数据库前面。
桃西西呀12 小时前
人工智能·llm·ai编程
LangGraph4j之一:客服请求分诊既要循环又要分流,我用 LangGraph4j 把控制流抽成了数据我接过一个真实的活:客服请求进来,先分类,账单类走账单专员,其它走通用专员,账单类处理完还要做二次校验再回流。一开始我用一串 if else 加递归硬写,分支一多,循环和回溯的逻辑就糊在业务代码里,谁改谁怕。后来我换成了 LangGraph4j,把这张图当成数据结构来声明,循环和分流都成了图的边。这篇先把整体架构和「它到底是什么」讲清楚,后面的篇章再逐层拆源码。
用户7217465882614 小时前
llm·agent·ai编程
默认校验只覆盖 3.18%:bl dataset validate 抽样窗与 capability 三种返回态的字段级拆解阿里云百炼的 CLI(bl)在微调链路上有两个前置检查,一个管数据集,一个管基座模型。两条命令都不要鉴权,都能在建任务之前跑完,但返回语义都比表面上复杂:bl dataset validate 默认是抽样校验,覆盖率随文件规模非单调变化;bl finetune capability 有三种返回形态,其中一种命令成功、退出码正常、supported 是空数组。
程序员大狐狸15 小时前
llm·ai编程
Ultra X7 358H 笔记本电脑,寻找本地用于编码的最强大模型,实测 21.0 tok/s,上下文 256K我的笔记本电脑,CPU 是 Intel 的 Ultra X7 358H,在之前文章《Ultra X7 358H 笔记本电脑,本地部署当红炸子鸡 Qwen3.8-27B-Q4,实测生成速度 5.6 tok/s》中,已完成 Qwen3.8-27B-Q4 模型的本地部署。 但是实际生成速度太慢了,于是便想寻找一个适用于本机的用于编码的最强大模型,Deepseek Harness Desktop + Deepseek V4.1 Flash 给我选型了 Qwen3.6-35B-A3B,并帮我部署成功。
用户83145509803116 小时前
人工智能·llm
如一 Agent 架构解读(四):异步整理——压缩不该堵住用户上一篇把压缩展开成一架五级成本阶梯,但那架阶梯有一个共同的隐含假设:所有压缩都发生在模型调用边界,同步执行。这篇拆这个假设。上下文超了就必然要等压缩完成吗?不一定——"算"和"换"本来就不是一回事。
feasibility.16 小时前
人工智能·开源·大模型·llm·minimax·deepseek·beam
“美版DeepSeek”等海外开放模型,能夺回生态入口吗?——中国开放权重领先下的2026全球AI分水岭2026年10月的第一周,全球AI产业迎来了一个标志性时刻。10月3日,德国统一日。德国Aleph Alpha以Apache 2.0许可证发布781亿参数的MoE模型Kolibri 1,主打政府与受监管行业的主权部署。10月5日,美国布鲁克林初创公司Reflection AI发布首个开放权重模型Beam,被路透社称为“西方对中国开源AI系统的回应”。次日,法国Mistral AI发布总参数量达1.05万亿的Mistral Large 4(代号“Le Chonk”),官方口径为“美国与欧洲最强开放权重模型”
M--Y18 小时前
python·langchain·大模型·llm·输出解析器·少样本提示
LangChain 提示工程:少样本提示与输出解析器少样本提示是一种通过向 LLM 提供少量具体示例或样本,来教会它它如何执行某项特定任务的技术。提高模型性能的最有效方法之一是给出一个【模型示例】指导大模型你想做什么、怎么做。
桃西西呀19 小时前
人工智能·spring·llm
Spring AI Alibaba 之九:我让 Agent 接着上一轮往下聊,它却只还给我一条消息,多轮记忆到底藏在哪SAA 的 Agent 运行时就两件事,一是把你给的 message 送进一张 StateGraph,图的节点(模型节点、工具节点、钩子节点)轮流往一个叫 OverAllState 的共享黑板上写,最后把整块黑板还给你;二是多轮记忆不靠框架帮你总结摘要,而是把整张黑板按 threadId 存住,下一轮你带着同一个 threadId 再来,它就接着往下聊。stream 和 call 这两条门面方法,只是给你不同粒度的返回:stream 给你会流动的 Flux,call 给你最后那一条助手消息。
海边捡石子19 小时前
人工智能·llm·agent
向量、图谱还是文件:Agent 记忆怎么选做 Agent 记忆,最容易走的一条路是:先上向量库,觉得不够再加图谱,最后发现自己在维护一套比业务还复杂的系统。这篇想回答一个很朴素的问题:选型到底该看什么。
武子康19 小时前
人工智能·llm·agent
LingBot-World 能连续生成一小时,为什么回到原地仍可能变样?一个世界可以持续生成,镜头前的画面也始终自然。但你沿原路返回时,先前打开的门、停放的车和墙上的标记,仍在原位吗?
小易老师AI实战21 小时前
llm·rag·大模型应用·aiagent·智能体工程化
AI Agent 完整实战:记忆机制 + 任务拆解 + 自动执行过去两年,大量AI Agent项目停留在Demo演示:简单调用LLM、一次性prompt完成问答,一旦任务复杂、会话变长、需要跨轮次持续执行就会失效。 到2026年,AI Agent的竞争不再是“能不能跑起来”,而是稳定执行长任务、可控记忆管理、Token成本可控、异常可重试。一套能落地的Agent,离不开三大底座:记忆系统、任务规划器、执行器。
SharpCJ1 天前
llm·agent
Koog(2) —— Koog Agent 的编程模型上一篇文章介绍了 Koog 的核心能力和定位,本篇文章将进入 Koog 编程模型的学习。官方给出的要求是:
桃西西呀2 天前
人工智能·spring·llm
Spring AI Alibaba 之七:我没写一行 tracing 埋点,Agent 每一步却被 Micrometer 看得清清楚楚我接手一个线上 Agent 排障,运营说模型偶尔抽风,但不确定是模型慢还是工具卡。我第一反应是去 SAA 代码里找它的 tracing 实现,心想这套多智能体框架总得自己埋点吧。结果 grep 了一圈 graph-core 模块,一个 Observation 都没有。再顺藤摸瓜,发现 SAA 根本没有自研的链路追踪,它只是把 Spring AI 现成的 Observation API 一路透传下去。这篇就把这条透传链路讲清楚,顺便纠正「SAA 造了一套可观测体系」这个错觉。
桃西西呀2 天前
人工智能·spring·llm
Spring AI Alibaba 之八:我让 Agent 直接执行 shell 命令,它却读到了目录里的密钥,沙箱到底防住了什么一句话结论:SAA 没有给你一个真正的操作系统级容器,它是在「让 Agent 跑 shell」这条最大风险面上,用四层纯 Java 的筛子把伤害拦下来。会话隔离管住进程和工作区,输出治理管住超时和泄露,文件隔离管住路径越界和符号链接,钩子护栏管住 PII 和失控循环。
MoonOut2 天前
llm
LLM | OpenAI 兼容模式 与 Anthropic 协议的区别我们在做一套用 Claude Code 自动解 code 题的系统:在一个容器里跑 cc,使用一个外层框架驱动 cc 一轮轮干活。我们想让它除了 Claude 官方模型,也能用第三方托管或自部署的开源模型(比如 GLM、Qwen),结果第一步就卡住了:Claude Code 这个客户端只支持 Anthropic 的 API 协议,而那些模型对外提供的几乎都是"OpenAI 兼容"端点,两边格式对不上,请求没法直接发。
架构师那点事儿2 天前
llm·agent·ai编程
Agent Skill: 视频/PPT 内容提取 Skill —— 从 0 到 1 诞生记 + 使用指南最近很多网友问我: agent skill长得像什么样子? agent skill 要如何自定义一个符合自己情况的? 发现网上视频好看,但对方不给ppt怎么办,总不能一直收藏吧? 为了一次性能够比较全面的回答问题,专门试验了下最大合集的实验。 第一部分复盘「这个 Skill 是怎么从一次真实任务里被提炼出来的」 —— 一套可迁移的**「把一次性任务沉淀为可复用 Skill」的方法论**; 第二部分告诉别人「怎么用这个 Skill」。 附件会分享skill.md 以及运行记录
lucas_AI2 天前
llm
CPSE:只给 3 篇范文,让 LLM 学会你的 478 字段抽取 schema,还不许动接口💡 一句话总结:中国科大团队的 CPSE 解决一个特别真实的工程痛:schema 设计好了、下游接口也接好了,但 LLM 就是抽不可靠,而你只有三五份已核验的标注。它的做法是把 schema 拆成「冻结的结构契约 + 可变的字段语义」,用文本反馈自动校准提示词和字段描述,再让模型「先列材料清单、再按清单填空」——聚合物论文抽取提升 9.93 分,输出 100% 合法,接口一个字节没动。
AINative软件工程2 天前
后端·llm·ai编程
LLM 应用的 Adaptive Batching 工程实践:动态合批把吞吐提升 3 倍,但延迟的坑你踩过吗上线三个月的 RAG 服务,Embedding 阶段每天凌晨批量处理 10 万条文档,跑了 6 小时,API 账单快到上限。
范中勤2 天前
redis·langchain·llm·缓存架构·多用户隔离
LLM 动态加载与多用户缓存架构技术文档本文档针对 Agent 项目的动态 LLM 模型加载机制、类 / 实例缓存策略、多用户并发隔离方案、本地缓存与 Redis 分层设计做系统性总结。
流浪0012 天前
llm·rag·文本分块·语义完整性
大模型技术全景(二十):RAG 文本分块策略与语义完整性📚 本文收录于「流浪」的系列专栏🏠 博客主页:流浪 | 📝 原创首发于 CSDN篇十九解决的是 「文档怎么变成结构化文本」 ——PDF 的绘图指令被还原成带标题、带表格的 Markdown。文本到手之后还差一步才能入库:一本教材几百页、一份说明书几十页,整篇丢进检索和生成都不现实。本篇拆 RAG 的第二个环节——文本分块:它为什么躲不开,六种策略各自是什么脾气,以及六种放在一张表上该怎么选。