llm

Briwisdom22 分钟前
llm·attention·mha·mqa·flash attention
Attention 优化全景:FlashAttention 的加速魔法与 MHA/GQA/MLA 的结构演进副标题: Attention 的优化有两个正交方向——FlashAttention 用 Tiling + Online Softmax 省掉了 O(N²) 的中间矩阵;MHA→GQA→MLA 通过减少 KV Head 数量压缩了 KV Cache。两者叠加,才是现代推理引擎的全貌。
拾年2752 小时前
langchain·node.js·llm
RAG 灵魂三问:你的文档是怎么"喂"给大模型的?🔥 本文基于 LangChain + Cheerio 实战,聊聊 RAG 中最容易被忽视却最影响效果的环节——文档切片(Text Splitting)
陳陈陳2 小时前
数据库·langchain·llm
LLM的"消化系统":一文讲透RAG文档加载与智能切割从axios+cheerio手写爬虫到RecursiveCharacterTextSplitter,LangChain文档预处理全链路拆解
武子康3 小时前
人工智能·llm·aigc
HunyuanVideo 全家族选型:原版 13B / I2V / Avatar / Foley / 1.5 8.3B 怎么分工“HunyuanVideo”现在不是一个模型,而是一个家族。搜索结果里同时出现原版 13B、HunyuanVideo-I2V、Avatar、Foley、Custom 和 HunyuanVideo-1.5。它们不是简单的“大、中、小版本”,而是不同时间、不同任务和不同架构的公开项目。
呆呆敲代码的小Y6 小时前
ai·llm·agent·rag·表格解析·xparse
RAG 表格解析完全指南:xParse、PaddleOCR、MinerU 实测对比并接入Agent使用随着AI的发展越来越强大,RAG如今在很多公司中已经开始作为知识库进行使用了。但公司的很多文档和资料都是非常多的,包括文档数量多、内容多、表格复杂等情况。
先吃饱再说11 小时前
langchain·llm
一篇文章被切成 100 块还怎么保持语义:RAG 分块的底层逻辑摘要:RAG 系统的性能,很大程度上取决于你如何切分文档。块太大,检索不精准;块太小,语义不完整。本文拆解 RecursiveCharacterTextSplitter 的递归切割原理、Overlap 重叠窗口机制、五大分块策略的适用场景,以及最佳实践指南。
先吃饱再说18 小时前
人工智能·llm
花 600 万就能复刻百亿模型?蒸馏技术到底是什么摘要:DeepSeek 用 600 万美金训练成本做出了对标 OpenAI 的模型,OpenAI 指控它用了“蒸馏”技术。蒸馏到底是什么?它如何让小模型学会大模型的“思维方式”?本文从师生框架、硬标签/软标签、温度参数 T 等维度,拆解知识蒸馏的核心原理。
带刺的坐椅1 天前
java·llm·solon·react-agent
用 Solon ReActAgent 落地发票识别与智能报销某中型企业财务部每月处理大量报销单,团队疲于奔命:说明:这是典型业务闭环,正确入口是 ReActAgent + 领域工具 + HITL。 不要使用虚构的 implements Tool、Harness.call()、AiInterceptor、memory.search()。
掉鱼的猫1 天前
java·llm·agent
用 Solon ReActAgent 落地发票识别与智能报销某中型企业财务部每月处理大量报销单,团队疲于奔命:说明:这是典型业务闭环,正确入口是 ReActAgent + 领域工具 + HITL。 不要使用虚构的 implements Tool、Harness.call()、AiInterceptor、memory.search()。
千桐科技1 天前
后端·算法·llm
🚀 qModel 算法模型平台v1.2.0 开源版发布!Python 模型接入链路全面升级,告别“能跑但上不了线”的尴尬算法模型从开发到落地,差的往往不是精度,而是一条顺畅的“接入高速路”。 qModel 开源版 v1.2.0 来了——这次把 Python 模型的脚本上传、依赖检测、参数传递、跨语言调用全部串成一条龙,让模型真正“一键可达”生产环境。
cxr8281 天前
人工智能·python·算法·缓存·语言模型·自然语言处理·llm
大语言模型上下文缓存命中率测试全场景清单以下是我们系统梳理过的大语言模型上下文缓存命中率测试全场景清单,按测试目的分为六大类,每个场景包含目的、方法与预期行为。
得物技术1 天前
算法·llm·agent
从"机械应答"到"服务伙伴":得物高可控智能客服的 Agent 工程实践|AICon 演讲整理听不懂人话、自作聪明: 无法准确理解用户意图,频繁答非所问。人工成本高、排队严重: 高并发场景下人力无法覆盖。问题解决能力弱: 只能处理简单 FAQ,复杂多轮问题无能为力。
昵称好难啊1 天前
人工智能·llm·agent
2.SKILL全详解:全面解析SKILLSkill就是扩展Agent能力的技能包,他的本质是按需加载的SOP模块。通俗的说,Skill就是一套能够让AI按照既定计划执行任务的工具包和资源包。是某个任务的说明书。
武子康1 天前
人工智能·llm
LingBot-World 2.0 深度解析:可交互视频为何被称为世界模型LingBot-World 2.0 的全名是 LingBot-World-Infinity。它会生成视频,但不能只把它理解成一个更长的视频生成模型。它的目标不是根据一句提示词一次性完成一段固定视频,而是接收持续的控制输入,让场景、角色和镜头在交互过程中不断演化。
元Y亨H1 天前
llm
多 Agent (Multi-Agent) 架构深度指南如果说单个 Agent(智能体)是一个“全能型自由职业者”,那么**多 Agent 架构(Multi-Agent System, MAS)**就是一家“组织严密的现代化公司”。
元Y亨H2 天前
llm
LangGraph 与状态机架构深度介绍如果说单 Agent 是“个人开发者”,多 Agent 架构是“公司组织”,那么 LangGraph 就是这家公司的**“标准作业程序(SOP)”与“数字化管理系统”**。
元Y亨H2 天前
llm
深度解析 Agent 的 CLI 能力在当前 AI Agent(智能体)的演进过程中,CLI(Command Line Interface,命令行界面)能力被视为连接“思维”与“执行”的核心桥梁。如果说 LLM(大语言模型)是 Agent 的“大脑”,那么 CLI 能力就是它的“双手”,让它能够直接操作系统、管理软件基础设施并执行复杂的研发任务。
冬奇Lab2 天前
人工智能·llm·mcp
MCP 系列(07):企业级部署——安全、认证与版本管理本地 MCP Server 一条命令就能跑:python server.py。进入企业生产环境,三个问题必须解决:
树獭非懒2 天前
人工智能·llm·agent
七、智能体的Reflection机制:让AI学会三省吾身让大模型学会在执行任务后主动反思,是构建高质量 Agent 的关键一步。如果你使用过基于 ReAct 模式的 AI Agent,你一定熟悉这样的流程:思考 → 行动 → 观察 → 再思考 → 再行动。这种范式在许多场景下效果不错,但它有一个显著的局限——Agent 只能依赖外部环境给出的反馈来调整行为。如果外部工具返回了错误信息,Agent 可以纠正;但如果 Agent 犯了逻辑错误、采用了低效策略、或者遗漏了关键约束,而外部环境并没有指出这些——这个错误就会悄无声息地留在最终结果中。
先吃饱再说2 天前
langchain·llm
从零构建 RAG:用 LangChain 实现检索增强生成摘要:RAG 让 LLM 从“闭卷考试”变为“开卷考试”——先检索相关资料,再基于资料生成答案。本文用 LangChain 从零搭建一个完整的 RAG 系统,涵盖 Document 设计、Embedding 向量化、MemoryVectorStore 存储、Retriever 检索,以及 Augment + Generate 的全流程。