llm

用户460381291949 小时前
llm·agent
ChatMemory 要被弃用了？Spring AI 2.1 用事件溯源重做 Agent 记忆你要是现在去搜"Spring AI 多轮对话记忆怎么实现"，翻出来的教程十有八九还在写这几样东西：ChatMemory、MessageWindowChatMemory、MessageChatMemoryAdvisor，然后配一个 InMemoryChatMemoryRepository 或者 Redis 的仓库，告诉你这样 Agent 就有记忆了。
泯泷11 小时前
llm·aigc·agent
别再死磕提示词了:Anthropic 说,AI Agent 真正的胜负手是“上下文工程”原文：mp.weixin.qq.com/s/ok8ZhGtdc…你有没有遇到过这种情况？跟 AI 聊到第 50 轮，它开始忘记你前面说过的要求。让 Agent 跑一个长任务，做到一半，它开始重复劳动，甚至答非所问。
mCell11 小时前
llm·ai编程·测试
AI 时代，我为什么开始追求 100% 的测试覆盖率？同步更新至个人站点：AI 时代，我为什么开始追求 100% 的测试覆盖率？最近参加了一场公司的黑客松比赛，同时也在推进自己的个人项目。在这两个项目中，我做了一个看似有些“偏执”的决定：将测试覆盖率指标强制提升到 100%。
lucas_AI17 小时前
llm·agent
给 Claude Code 挂上代码地图：token 省了 39%，但先看你的瓶颈在哪💡 一句话总结：约克大学把 5 种代码表示（AST/调用图/依赖图/文档/混合）做成 MCP 工具，在固定 Claude Code 栈上与纯搜索基线跑了 4 个仓库级基准的受控对比。结论：代码地图是省钱工具不是提分工具——定位是瓶颈的任务 token 省 25–39%、召回还在涨；瓶颈在"写对补丁/测试"的任务基本白挂。做 agent 基建的人值得读完。
用户0328240970592 天前
llm
大模型不按指定语言回答怎么办：一次线上事故的修法（脚本检查 → 带规则重问一次 → 翻译兜底，附 Python 代码）说明：文中的服务是作者自己做的（LinkDigest，把小红书、抖音链接读成文字的接口）。数字来自 2026-11-06 当晚的线上日志。
chengzhnag2 天前
llm
用一台旧手机，把 AI 记账搬进微信一句话总结：在微信里发「午饭 18」，账就记好了。 全程没写一行代码——每一步都是跟 AI 说一句话。
wovow_mak3 天前
llm
零基础本地部署大模型完整指南：附一键脚本 + 全踩坑记录，家用电脑就能跑不是"照着做就能成功"的教程，而是"照着做、踩坑、修好"的完整记录。 本文配套代码已开源：github.com/wovow-mak/l…
AI技术新视界3 天前
人工智能·缓存·llm·prompt
LLM 提示词缓存（Prompt Caching）的秘密本报告基于社区讨论及行业数据分析，深入探讨了主要大语言模型（LLM）提供商（Anthropic, Google, OpenAI, Cursor等）在提示词缓存（Prompt Caching）表现上的显著差异。核心发现表明，缓存比例的差异并非单纯反映模型智能水平，而是由应用类型分布（编码智能体 vs. 通用聊天）、提示词结构稳定性以及云端基础设施架构共同决定。对于编码智能体（Coding Agents）等高上下文复用场景，缓存命中率直接决定了运营成本，其重要性远超输入价格本身。
XLYcmy3 天前
数据库·ai·llm·prompt·ssci·deepseek·wos
信息检索报告数字经济赋能城市低碳治理的路径研究——基于“传统数据库 + 生成式人工智能”双轮驱动的检索实践 检索实施与结果分析 Web of ScienceWeb of Science 是国际权威的文摘索引数据库，其核心合集收录了世界领先的科学、社会科学、艺术与人文期刊、图书与会议论文集，并建有独特的引文索引，可按被引作者、出处与出版年代追踪引用关系。就本主题而言，其价值在于呈现国际研究的知识图谱与高影响力成果。
得物技术4 天前
程序员·架构·llm
多 Agent 架构的三次反转：从中心调度到自驱协作｜得物技术当一个任务只需要一次回答时，单个Agent往往已经够用。但任务一旦变成长链路工作，例如先检索资料、再分析、再写代码、最后复核，问题就不再只是“模型够不够聪明”，而是“整个系统怎样组织行动”。
lucas_AI4 天前
llm·agent
ToolSpace：把 804 个真实工具环境打包成 Agent 练级场，35B 小模型暴涨 18 分💡 一句话总结：做 Agent 后训练最头疼的是「没有可信环境」。人大、复旦、上交团队发布的 ToolSpace 把环境合成的顺序整个倒过来——不先造数据库，而是先从真实执行轨迹里挖出工具之间被验证过的依赖关系，让任务复杂度从工具组合空间里自然长出来。Qwen3.6-35B 七个长时程基准均分 23.0 → 41.0，744B 版本 56.6 分追平 Claude Opus 5，代码、模型、数据全部开源。
lyai0075 天前
llm·agent
读完 DeepSeek Harness 源码，我给自己画了一张「最小 CLI Agent」施工图想搞懂 Agent 到底怎么跑起来，网上给的路一般是两个极端。一个是"30 行代码手写 Agent"，你照着抄完，它能跑，但你不知道它为什么能跑——没有日志、没有并发、没有权限，一旦模型行为怪一点，你就只能靠 print 猜。
goehou5 天前
redis·缓存·llm·一致性·系统设计
缓存该删还是该改，LLM 服务里的双写问题给答案加缓存之后，命中率上去了，账单下来了。然后开始出现一类很难查的问题，同一个问题，五分钟后问一次得到新答案，再问一次又回到旧答案。用户以为系统在抽风。
合天网安实验室5 天前
人工智能·llm
从压缩到泄露：KV Cache Compression 的选择性失忆与系统提示词风险前面已经写过三篇跟 AI Cache 安全有关的文章，第一篇是 KV Cache，主要介绍了缓存命中时间侧信道、跨会话错误复用，以及为什么本来只是用来加速推理的缓存，会变成信息泄露的入口，详见www.yijinglab.com/specialized…
程序猿编码5 天前
人工智能·神经网络·机器学习·缓存·llm·大模型推理
解决 LLM 算力浪费，一套统一 KV 管理层实现缓存复用大模型推理服务中，KV Cache 的重复计算正在成为不可忽视的成本瓶颈。Agent 工作流反复检索相同上下文、多轮对话不断重放历史轮次、多模态应用反复处理同一批视觉特征——这些场景下，如果每次都要重新计算 KV Cache，算力浪费惊人。
王小希ww5 天前
llm·agent·opencode
【Agent & RSI】OpenCode离线部署：终端版 & Web 版参考资料OpenCode终端版 - 离线部署完整手册OpenCode 模型配置教程：接入第三方 API 与本地模型-腾讯云开发者社区-腾讯云
程序猿编码6 天前
机器学习·llm·rk3588·大模型推理
RK3588 NPU LLM 推理引擎：自研底层算子，性能碾压原厂 SDK在边缘计算与AIoT领域，瑞芯微RK3588凭借其6TOPS算力的NPU和统一内存架构，成为了众多开发者眼中的"边缘AI神U"。然而，长期以来，在该平台上运行大语言模型（LLM）往往受限于厂商闭源SDK的性能瓶颈与功能限制。这个推理引擎的出现，正是为了解决这一核心痛点。
lucas_AI6 天前
llm
多想 2000 个 token 只涨 1.4 个点：LLM 写代码的「思考开销」终于有人算账了💡 一句话总结：一项 866 任务 × 5 模型 × 5 重复的受控研究发现——推理模式写代码「不一定值」：有的基准白烧 2000+ 思考 token 换不来显著提升，轨迹更长不等于更准，而且已生成的思考轨迹砍掉一半再写答案，正确率几乎不掉。做推理服务、agent 管线、模型评测的人都该看看这套算法。
XLYcmy6 天前
git·llm·cpu·gpu·反编译·反汇编·safetensors
实验报告分析评价文档——《第四次阶段汇报：模型产物的仓库瘦身、云端部署与评测链路打通》评析实验报告分析评价文档——《第四次阶段汇报：模型产物的仓库瘦身、云端部署与评测链路打通》评析评析对象16 页阶段实验报告
Eloudy6 天前
llm·transformer·gpu
全文 - LLaMA v2 - Llama 2: Open Foundation and Fine-Tuned Chat Models这篇论文介绍的是 Llama 2。它的核心并不是重新发明 Transformer，而是将 Llama 1 的 Decoder-only、Pre-RMSNorm、RoPE、SwiGLU 架构延续下来，主要把上下文从 2K 扩展到 4K，并在较大模型上引入 GQA。