llm

weigangwin8 小时前
人工智能·opencv·ai·llm·memory·ai agent·mem0
采用 mem0 之前,先决定 Agent 到底允许记住什么mem0 吸引人的地方很直接:给 AI assistant 和 agent 提供长期记忆层。但真正的采用风险也在这里。Memory 不是一个普通功能,它会变成控制面。第一步不应该问 agent 能不能 add/search memory,而应该问:哪些事实允许被写入,谁以后能读到,过期事实如何降权,删除是否真实生效,以及一次回答被 memory 影响时有没有证据。
元Y亨H13 小时前
llm
深度解析 AI Agent 的记忆系统如果说大语言模型(LLM)是 AI Agent 的逻辑大脑,那么**记忆系统(Memory System)**就是它的知识库与情感纽带。
DogDaoDao14 小时前
人工智能·语言模型·自然语言处理·llm·github
LLM:用一条命令统一所有大语言模型的 CLI 工具深度解析 simonw/llm 项目——12.2k Star、63 个版本迭代、50+ 插件生态,如何成为终端 AI 工具的事实标准。
ZhengEnCi14 小时前
llm
LLM01-大模型API调用平台性价比深度分析本文档基于 2026 年最新市场数据,从价格、模型能力、平台稳定性、合规性等多个维度,深度分析国内外主流大模型 API 调用平台的性价比表现,为个人开发者提供科学的选型指南 🎯
DigitalOcean15 小时前
llm
GLM 5.2 上线 Digitalocean 推理平台GLM-5.2 是 Z.ai(智谱 AI)最新开源的自主软件工程与仓库级推理模型,现在可以通过 DigitalOcean 推理平台直接使用了。众所周知,GLM-5.1 针对长时间运行的代理型编码工作流做了优化,能一口气撑住长达 8 小时的复杂自主任务;而这次的 GLM-5.2 则带来了 100 万 token 的上下文窗口和双推理模式,专为大规模代码分析与重构设计。两款模型都支持工具调用、结构化输出和多语言应用。
元Y亨H16 小时前
llm
深度解析 AI Agent 的 ReAct 模式在人工智能领域,我们曾经历过两个极端:一种是只会“纸上谈兵”的 LLM(逻辑强但无法干预现实),另一种是只会“按部就班”的自动化脚本(执行力强但缺乏逻辑)。
元Y亨H16 小时前
llm
AI Agent 的四大核心模块这是 Agent 的“大脑”逻辑中心,负责将复杂目标拆解为可执行的步骤。记忆模块决定了 Agent 如何存储和检索信息,以保持上下文的连贯性。
元Y亨H16 小时前
llm
大模型训练阶段有哪些大模型的训练过程通常被形象地比作“一个孩子的成长过程”。目前业界公认的主流路径主要分为四个核心阶段。以下是按照先后顺序排列的详细阶段:
七牛开发者17 小时前
llm·agent·工作流引擎
从一次修复到长期记忆:Agent 工作流里的知识沉淀在传统软件工程中,我们推崇“代码复用”;但在 Agent 参与的工程中,能产生复利的东西从“代码复用”变成了“知识复用”。
闲研随记19 小时前
论文阅读·算法·llm·强化学习·rl·icml·grpo
【文献阅读 ICML 2026】RL算法:Critique-GRPOCritique-GRPO:通过自然语言和数值反馈提升LLM推理能力基于数值反馈的在线强化学习使LLM能够通过试错机制(trial-and-error)学习,大幅提升了推理能力。然而,纯数值反馈的RL存在三大核心局限:
元Y亨H19 小时前
llm
Transformer 架构深度详解2017年,谷歌在论文《Attention Is All You Need》中提出了 Transformer 架构。它彻底改变了自然语言处理(NLP)的游戏规则,并为后来的 GPT、BERT、Claude 等大模型的爆发奠定了物理基础。
武子康21 小时前
人工智能·llm·gpu
调查研究-220 Batching 才是 GPU Serving 的第一性原理如果只用一句话解释 GPU Serving 的核心,那就是:把零散请求合成 GPU 喜欢的大任务。这个动作就是 batching。
武子康1 天前
人工智能·llm·gpu
调查研究-219 GPU 为什么能快,也为什么容易被大量小请求拖慢?这篇是整个 GPU Serving 系列的地基。在讨论 vLLM、SGLang、TensorRT-LLM、TGI、PagedAttention、continuous batching 这些框架之前,先回到一个更底层的问题:GPU 到底喜欢什么样的工作负载?LLM 请求为什么和普通 Web 请求不一样?为什么线上来了大量请求后,不能简单地"一个请求开一个线程,然后丢给 GPU"?
元Y亨H1 天前
llm
Token、Prompt、Embedding、Function Calling 概念介绍在当今的大模型(LLM)时代,这四个词——Token、Prompt、Embedding、Function Calling——构成了 AI 开发的核心。如果把大模型比作一个“超级大脑”,那么这四个概念分别代表了它的原材料、指挥棒、理解力和外部触手。
带刺的坐椅1 天前
java·ai·llm·agent·solon·soloncode·harness
代码审查 Agent Harness 实战:AI 自动 Code Review如果你在团队里做过 Reviewer,大概率经历过这些场景:上午打开 GitHub,10 个 PR 等着你,每个 PR 上千行变更,业务逻辑弯弯绕绕,你一个一个文件翻,看到眼睛发酸;好不容易审到一半,业务方过来说"这个 PR 今天必须合",你只能加速扫读,结果低级 bug 溜进了生产环境;更别提那些缩进混乱、命名随意、硬编码密钥的"风格问题"——你说吧显得啰嗦,不说吧又膈应。
元Y亨H1 天前
llm
如何管理大模型的上下文窗口在 LLM 应用的实际工程中,如何分配“上下文窗口(Context Window)”是区分初级开发者与资深架构师的分水岭。这不仅关乎回答的质量,更直接决定了系统的响应速度(Latency)和运行成本(Cost)。
倾颜2 天前
llm·agent·next.js
给 AI Chat 加上长期记忆:模型提取 + 程序把关 + 规则召回本文基于 AI Mind 项目的真实实现整理。 GitHub:github.com/HWYD/ai-min… 对应代码版本:v0.4.5 线上链接:ai.hwyblog.cloud/instant-min…
陳陈陳2 天前
langchain·llm·agent
🤖 Agent开发完全指南:从LLM到智能体的蜕变之旅你的大模型不只能聊天,它还能成为你的"数字员工"!让AI从"纸上谈兵"的顾问,变成"动手实干"的得力助手。
Token炼金师2 天前
人工智能·深度学习·llm
推理部署层:吞吐上不去的显存账本与调度博弈推理服务上线即OOM、首token延迟破秒、吞吐不及压测一半。本文从某智能问答平台真实复盘切入,剖析KV cache膨胀、动态批fill/prefill冲突、量化长尾翻车、冷启动失效、多租户抢算力五个痛点,给出PagedAttention、PD分离、敏感度量化、零拷贝、令牌桶的量化方案。
倾颜2 天前
前端·langchain·llm
AI Mind 的单线程短期记忆设计:如何压缩、整理并控制当前会话上下文本文基于 AI Mind 项目的真实实现整理。 GitHub:github.com/HWYD/ai-min… 对应代码版本:v0.4.2 - v0.4.3 线上链接:ai.hwyblog.cloud/instant-min…