llm

元Y亨H4 小时前
llm
如何管理大模型的上下文窗口在 LLM 应用的实际工程中,如何分配“上下文窗口(Context Window)”是区分初级开发者与资深架构师的分水岭。这不仅关乎回答的质量,更直接决定了系统的响应速度(Latency)和运行成本(Cost)。
倾颜13 小时前
llm·agent·next.js
给 AI Chat 加上长期记忆:模型提取 + 程序把关 + 规则召回本文基于 AI Mind 项目的真实实现整理。 GitHub:github.com/HWYD/ai-min… 对应代码版本:v0.4.5 线上链接:ai.hwyblog.cloud/instant-min…
陳陈陳13 小时前
langchain·llm·agent
🤖 Agent开发完全指南:从LLM到智能体的蜕变之旅你的大模型不只能聊天,它还能成为你的"数字员工"!让AI从"纸上谈兵"的顾问,变成"动手实干"的得力助手。
Token炼金师13 小时前
人工智能·深度学习·llm
推理部署层:吞吐上不去的显存账本与调度博弈推理服务上线即OOM、首token延迟破秒、吞吐不及压测一半。本文从某智能问答平台真实复盘切入,剖析KV cache膨胀、动态批fill/prefill冲突、量化长尾翻车、冷启动失效、多租户抢算力五个痛点,给出PagedAttention、PD分离、敏感度量化、零拷贝、令牌桶的量化方案。
倾颜15 小时前
前端·langchain·llm
AI Mind 的单线程短期记忆设计:如何压缩、整理并控制当前会话上下文本文基于 AI Mind 项目的真实实现整理。 GitHub:github.com/HWYD/ai-min… 对应代码版本:v0.4.2 - v0.4.3 线上链接:ai.hwyblog.cloud/instant-min…
掉鱼的猫16 小时前
java·llm·agent
把 OpenAPI 接入 Agent Harness:零代码让 Agent 听懂你的 REST API在过去两年里,我和团队接手了好几个「上了年纪」的 Java 项目。这些系统有一个共同特征:业务逻辑完整,API 齐全,Swagger 文档也写得规规矩矩,但前端换了一波人,文档却没人维护了。新来的同事要查一个订单接口,得翻好几个 YAML 文件,再对着代码比对字段名。
小月土星16 小时前
langchain·llm·agent
Agent 开发思考笔记:LLM + Memory + Tool + RAG + MCP + SkillsAgent 的本质是给 LLM 补上它天生缺失的五种能力——Memory、Tool、RAG、MCP、Skills——从而把一个"只能聊天的大脑"变成一个"能记住上下文、能动手执行、能检索私有知识、能获取实时信息、能编排复杂任务"的智能体。
带刺的坐椅16 小时前
java·ai·llm·agent·solon·restapi·openapi
把 OpenAPI 接入 Agent Harness:零代码让 Agent 听懂你的 REST API在过去两年里,我和团队接手了好几个「上了年纪」的 Java 项目。这些系统有一个共同特征:业务逻辑完整,API 齐全,Swagger 文档也写得规规矩矩,但前端换了一波人,文档却没人维护了。新来的同事要查一个订单接口,得翻好几个 YAML 文件,再对着代码比对字段名。
GPUStack18 小时前
ai·大模型·llm·gpu集群·gpustack
你的 GPU 算力,到底被谁、用在了哪儿?GPUStack 用量统计上线,一张图说清楚买了一堆 GPU,跑了一堆模型,月底老板问一句"这些卡到底用得值不值",你能答上来吗?如果答不上来,这篇文章你得看完。
先吃饱再说20 小时前
langchain·llm·agent
LangChain 到底帮你干了什么活?——Agent 开发框架完全解读摘要:Agent 开发很火,但手写一个 Agent 需要处理循环调度、记忆管理、输出解析等大量底层逻辑。LangChain 把这些脏活累活全包了。本文从 Agent 的核心组件出发,拆解 LangChain 如何标准化 Tool 编写、封装 ReAct 循环,并深入异步并发优化多 Tool 调用性能。
Darling噜啦啦20 小时前
langchain·llm·agent
从零手写 AI Agent:LLM + Tool + LangChain,打造能干活的大模型为什么 ChatGPT 只能聊天,而 Claude Code 能写代码、改文件、执行命令?答案就是 Agent 架构。本文从 Promise 异步基础出发,用 LangChain 框架手把手构建一个能读取文件、分析代码的 AI Agent,深入理解 Agent = LLM + Memory + Tool + RAG + MCP + Skills 的完整公式。
_冷眸_20 小时前
人工智能·ai·llm·agent
用 OpenAI SDK 统一调用 Claude、Gemini、DeepSeek:聊聊 AI API 聚合网关的实践最近在做一个 AI 辅助编程的项目,需要同时用到 Claude 3.7 Sonnet 做代码审查(Thinking 模式推理能力强)、GPT-4o 做文案生成、DeepSeek 做中文场景的轻量任务。实际开发中遇到几个很头疼的问题:
copyer_xyf1 天前
llm·agent
LangGraph 多 Agent 入门:从流程图到旅行规划助手大模型应用一旦进入真实业务,就很少只是“一问一答”。用户可能会说:这个请求看起来是一句话,实际包含多个任务:
wumingxiaoyao1 天前
人工智能·深度学习·机器学习·ai·大模型·llm
从 0 开始学 AI:第 2 课,AI、机器学习、深度学习和大模型是什么关系?学习 AI 时,经常会看到这些词:这些词不是完全并列的,它们之间有一定的层级关系。可以先记住一句话:AI 是最大范围,机器学习是 AI 的一部分,深度学习是机器学习的一部分,大模型通常属于深度学习,大语言模型是大模型的一种。
掉鱼的猫2 天前
java·llm·aigc
Agent Harness 实战指南:构建生产级 AI Agent 的"马具"框架你有没有想过,一个 AI Agent 除了"会思考",还得"能干活"才能落地?模型负责推理,但谁来负责工具调用、会话管理、上下文压缩、安全审计和沙盒隔离?Solon AI 4.0 的 solon-ai-harness 就是干这个的——它不是一个 ChatModel 封装,而是一个专门为 AI Agent 打造的生产级执行框架。
带刺的坐椅2 天前
java·ai·llm·agent·solon-ai
Agent Harness 实战指南:构建生产级 AI Agent 的"马具"框架你有没有想过,一个 AI Agent 除了"会思考",还得"能干活"才能落地?模型负责推理,但谁来负责工具调用、会话管理、上下文压缩、安全审计和沙盒隔离?Solon AI 4.0 的 solon-ai-harness 就是干这个的——它不是一个 ChatModel 封装,而是一个专门为 AI Agent 打造的生产级执行框架。
武子康2 天前
人工智能·llm·自动驾驶
调查研究-216 Tesla Robotaxi 进了 Miami,但真正的考题才刚开始读 Reuters 2026/7/3 Tesla Robotaxi Miami 上线、Tesla Q1 2026 更新、Reuters 5 月 Texas 三城实测、Cybercab 量产进展,以及 Waymo 同期 fully autonomous 扩张节奏
Token炼金师2 天前
人工智能·深度学习·llm
数据工程层:企业AI项目七成折戟的第一道死亡谷企业AI项目七成在数据工程层夭折。本文从某金融风控项目真实复盘切入,剖析数据质量、血缘、版本、流批断层、标注五个生产级痛点,给出可直接落地的工程方案与量化指标。