llm

长谷深风1111 小时前
java·大数据·ai·llm·ai agent·工具设计·agent设计
为什么你的 Tool 总被模型选错?你给一个 AI Agent 配了十几个 Tool:搜索、查数据库、读文件、发邮件、查天气、创建日程。代码跑起来后,一个很常见的问题出现了。
TechEdu2026061 小时前
人工智能·ai·llm
[人工智能]Claude、GPT、Gemini、Copilot与Llama:概念、架构、应用与评估Claude、GPT、Gemini、Copilot与Llama:概念、架构、应用与评估报告目的。本报告从工程视角介绍五类具有代表性的LLM模型家族和产品生态。内容区分基础模型能力与产品封装,解释预训练、后训练、检索增强和工具调用的关系,并讨论如何从实验性原型走向可靠的生产系统。
boooooooom2 小时前
前端·后端·llm
尝尝咸淡:从朴素 RAG 到 Graph RAG——一个烹饪问答系统的三层检索升级之路一个独立完成的生产级 Graph RAG 应用。后端约 9,000 行 Python、前端约 4,400 行 Vue3,知识图谱 5,760 个节点 / 6,055 条关系 / 323 道菜谱。本文记录它从"切块→向量化→top-k"的朴素 RAG,逐步演进到"知识图谱 + 三路混合检索 + 图多跳推理 + LLM 智能路由"的完整设计与工程权衡。
武子康5 小时前
人工智能·llm·agent
33B 音画模型塞进 Apple Silicon,h3.c 重写了哪些 Runtime 职责很多推理工具把优化收进一个 fast=true。速度变快后,用户只看到总耗时下降,却不知道 程序少算了哪些部分,也不知道画面出错时应该撤回哪个开关。
知几蜗牛5 小时前
llm
一张图看懂AI、机器学习、深度学习和生成式AI之间的关系最近几年,“AI”这个词几乎无处不在。 你可能听过“机器学习”、“深度学习”,还有“生成式 AI”——比如 ChatGPT、Sora、Midjourney…… 但它们到底是同一个东西的不同叫法?还是层层递进的技术升级?
XLYcmy6 小时前
google·meta·llm·负载均衡·token·moe·glam
小红书 算法一面 十一# 基于MoE的模型架构全景解析MoE(混合专家模型)核心思想是**将模型总参数量与单次推理计算量解耦**,通过稀疏激活专家子网络实现高效扩展。以下按时间线与创新维度,系统介绍主流MoE架构的设计特点、核心突破与适用场景。
谢白羽6 小时前
人工智能·llm·论文·agent·mooncake
Mooncake在LLM的kv cache offloadKV Cache 在 AI 服务器里要存,但存哪里?这背后是一个根本性的物理约束——存储器不可能三角:快、大、便宜,三者不可兼得。
牧艺1 天前
llm·agent·deepseek
DeepSeek Harness 上手:一切皆插件的 Agent 运行时,核心流程怎么走发布日期:2026-08-21 标签:DeepSeek / Agent Harness / Cordis / 插件架构 / Tool Calling / 工程实践 项目:deepseek-ai/deepseek-harness
魔术师Grace1 天前
llm·aigc·agent
模型“开源”了,就能直接拿来做 Agent 吗?当我们开始给 Agent 选择底座模型时,“开源还是闭源”几乎是绕不开的问题。但只要你做过模型部署,就会发现一个很有意思的现象:
夫子3961 天前
llm·agent·ai编程
【第三部分:第一个 Agent 应用】10. 不使用框架,手写一个最小 Agent前面的文章,我们已经分别介绍了 Context Engineering、Function Calling、Structured Output 和 RAG。这些能力单独看并不复杂,但真正进入 Agent 开发后,还需要回答一个问题:
武子康1 天前
人工智能·llm·agent
模型分数涨了,它真的学会了吗?LittleLearner 拆开了三种可能给模型加几万条 SFT 数据,再跑一轮 GRPO,数学分数从 30 分涨到 50 分。这个结果通常会 被概括成一句话:模型学会了更多数学。
柒和远方1 天前
llm·agent
V073:SDD 规范驱动开发:文档即代码,两次创造与 proposal/design/task 三份规范Vibe Coding(氛围编程)很上头:打开 AI Coding Agent 的交互面板,不停地给 AI 下任务——"帮我做一个用户认证系统",AI 疯狂生成代码,第一天效率翻倍,第二周开始返工(AI 在猜),第一个月陷入自我怀疑。第六十二天的笔记指出:问题不在 AI 能力,而在我们给大模型的上下文不够。解法是一种新的 AI 协作范式——SDD(Spec-Driven Development,规范驱动开发):先撰写文档、设计好项目,再让 AI 按规范写代码。这篇文章把这套范式拆开讲清楚,并用一个 Chr
要有锋芒_不要疯忙1 天前
llm
Transformer 是什么?--LLM知识(一)一句话回答:Transformer 是一种让模型在处理一句话、一个段落或一张被切分后的图片时,能同时查看所有相关部分,并据此更新每个部分含义的神经网络架构。
武子康1 天前
人工智能·llm·agent
DeepSeek Harness:一次 Prompt 如何变成 Turn、Step 与工具事件用户输入一句“检查这个项目并修复测试”,系统什么时候算接收,什么时候算开始,什么时候算完成?如果把一次 Prompt 直接等同于一次模型请求,工具一出现,边界马上崩掉:模型先请求读文件,工具返回以后还要再调用模型;中途可能插入 steering,也可能取消;一个请求失败后,策略还可能决定重试。最后 SDK 看见 Agent 回到 idle,却不一定能把这次 idle 唯一归因给最早那条消息。
AINative软件工程1 天前
llm
LLM 请求重试耗尽之后:Dead Letter Queue 工程实践你的 LLM 应用加了重试。但重试耗尽之后,那条请求去哪了?凌晨两点,我们的报告生成任务静静地失败了。
孙启超2 天前
人工智能·lora·llm·微调·sft·token·rlhf
【大模型应用开发】LLM 到底是什么,以及它是怎么训练的你有没有想过一个问题:为什么 ChatGPT 能跟你对话?它不是"搜答案"。如果你问它"1+1 等于几",它不是去百度查,而是"算"出来的。更准确地说,是"生成"出来的——它基于你输入的文字,一个 token 一个 token 地预测下一个字该是什么。
DigitalOcean2 天前
llm
2026 LLM 成本计算指南:Token 价格、推理费用与降本方法根据 2026 年 State of FinOps Report 的调查数据,去年接近四分之三的企业都出现了 AI 成本超出预算的情况。造成这一差距的一个重要原因,就是很多团队在工作负载进入生产环境之前,没有先做好准确的 LLM 成本测算。
武子康2 天前
人工智能·llm·agent
DeepSeek Harness、Codex、Claude Code、LangGraph 应该怎么选:先判断你缺的是产品、底盘还是工作流“DeepSeek Harness 和 Codex、Claude Code、LangGraph 谁更强?”
阿弱2 天前
后端·llm·agent
pi 扩展机制:加载、执行与能力pi 的扩展系统解决一个问题:把 agent 内部流程以事件形式暴露出来,让外部代码能观察、拦截、修改它的行为。Claude Code 这类 agent 默认是黑盒——你不知道它中途改了哪些文件、跑了哪些命令、每一轮花了多少 token、有没有切模型。pi 的做法是给一套扩展机制,把内部流程白盒化,挂回调就能拿到这些信息。
vivo互联网技术2 天前
深度学习·计算机视觉·llm
Octopus:基于无历史数据的梯度正交化的学习框架|CVPR 2026作者: vivo BlueImage Lab 本文入选 CVPR 2026 CVPR(IEEE Conference on Computer Vision and Pattern Recognition)IEEE国际计算机视觉与模式识别会议,主要内容是计算机视觉与模式识别技术。CVPR 2026约160920篇投稿,接收率约25.42%。