llm

cxr82843 分钟前
人工智能·python·算法·缓存·语言模型·自然语言处理·llm
大语言模型上下文缓存命中率测试全场景清单以下是我们系统梳理过的大语言模型上下文缓存命中率测试全场景清单,按测试目的分为六大类,每个场景包含目的、方法与预期行为。
得物技术3 小时前
算法·llm·agent
从"机械应答"到"服务伙伴":得物高可控智能客服的 Agent 工程实践|AICon 演讲整理听不懂人话、自作聪明: 无法准确理解用户意图,频繁答非所问。人工成本高、排队严重: 高并发场景下人力无法覆盖。问题解决能力弱: 只能处理简单 FAQ,复杂多轮问题无能为力。
昵称好难啊3 小时前
人工智能·llm·agent
2.SKILL全详解:全面解析SKILLSkill就是扩展Agent能力的技能包,他的本质是按需加载的SOP模块。通俗的说,Skill就是一套能够让AI按照既定计划执行任务的工具包和资源包。是某个任务的说明书。
武子康4 小时前
人工智能·llm
LingBot-World 2.0 深度解析:可交互视频为何被称为世界模型LingBot-World 2.0 的全名是 LingBot-World-Infinity。它会生成视频,但不能只把它理解成一个更长的视频生成模型。它的目标不是根据一句提示词一次性完成一段固定视频,而是接收持续的控制输入,让场景、角色和镜头在交互过程中不断演化。
元Y亨H5 小时前
llm
多 Agent (Multi-Agent) 架构深度指南如果说单个 Agent(智能体)是一个“全能型自由职业者”,那么**多 Agent 架构(Multi-Agent System, MAS)**就是一家“组织严密的现代化公司”。
元Y亨H13 小时前
llm
LangGraph 与状态机架构深度介绍如果说单 Agent 是“个人开发者”,多 Agent 架构是“公司组织”,那么 LangGraph 就是这家公司的**“标准作业程序(SOP)”与“数字化管理系统”**。
元Y亨H14 小时前
llm
深度解析 Agent 的 CLI 能力在当前 AI Agent(智能体)的演进过程中,CLI(Command Line Interface,命令行界面)能力被视为连接“思维”与“执行”的核心桥梁。如果说 LLM(大语言模型)是 Agent 的“大脑”,那么 CLI 能力就是它的“双手”,让它能够直接操作系统、管理软件基础设施并执行复杂的研发任务。
冬奇Lab16 小时前
人工智能·llm·mcp
MCP 系列(07):企业级部署——安全、认证与版本管理本地 MCP Server 一条命令就能跑:python server.py。进入企业生产环境,三个问题必须解决:
树獭非懒17 小时前
人工智能·llm·agent
七、智能体的Reflection机制:让AI学会三省吾身让大模型学会在执行任务后主动反思,是构建高质量 Agent 的关键一步。如果你使用过基于 ReAct 模式的 AI Agent,你一定熟悉这样的流程:思考 → 行动 → 观察 → 再思考 → 再行动。这种范式在许多场景下效果不错,但它有一个显著的局限——Agent 只能依赖外部环境给出的反馈来调整行为。如果外部工具返回了错误信息,Agent 可以纠正;但如果 Agent 犯了逻辑错误、采用了低效策略、或者遗漏了关键约束,而外部环境并没有指出这些——这个错误就会悄无声息地留在最终结果中。
先吃饱再说19 小时前
langchain·llm
从零构建 RAG:用 LangChain 实现检索增强生成摘要:RAG 让 LLM 从“闭卷考试”变为“开卷考试”——先检索相关资料,再基于资料生成答案。本文用 LangChain 从零搭建一个完整的 RAG 系统,涵盖 Document 设计、Embedding 向量化、MemoryVectorStore 存储、Retriever 检索,以及 Augment + Generate 的全流程。
lhxcc_fly1 天前
python·langchain·llm·langgraph
LangGraph基础知识点知识点:所有节点共享 State。Annotated + operator.add 实现列表追加/数值累加,而非覆盖。
元Y亨H1 天前
llm
Skills vs MCP vs Function Calling 的介绍在当前大模型(LLM)应用开发的语境下,Skills(技能)、MCP(Model Context Protocol,模型上下文协议) 和 Function Calling(函数调用) 是三个核心概念。它们共同解决了同一个问题:如何让“只会聊天”的 AI 变成“能干实事”的智能体(Agent)?
武子康1 天前
人工智能·llm·agent
LingBot 四线全拆:Video / World / VLA / VA 按最终输出选型 + 开源许可证避坑表LingBot 最近连续发布了 VLA 2.0、Video、World 2.0 和 VA 2.0。名称相似、发布时间接近,又都涉及视觉、视频、世界模型和机器人动作,最容易出现的误解是把它们看成同一模型的连续版本。
爱好曙光2 天前
llm·llmops·a/b测试·模型评测·自动化回归
LLM在线评测:A/B测试与回归自动化实战离线评测依赖固定测试集(如 MMLU、HumanEval)计算 BLEU、ROUGE、GPT-4 评分等指标,优点是成本低、可重复,但存在两大天然鸿沟:静态数据集永远无法覆盖线上长尾分布(用户真实提问的风格、上下文长度、领域混合度),指标本身与用户体验弱相关(高分未必意味着用户喜欢)。例如一个回答 BLEU 得分 0.85 但带有事实性错误,用户可能直接点踩;而另一个回答虽然转述略有不同但正确且友好,用户会点赞。
为你学会写情书1 天前
llm·agent
RAG 性能总卡在检索?先搞懂 Milvus 向量数据库再说在构建 Agent 记忆模块时,我完整走了一遍 Milvus 的接入流程。本文以 AI 日记项目为例,梳理其中的关键技术点。
Token炼金师1 天前
人工智能·深度学习·llm
千卡月崩五次:loss spike、硬件故障、checkpoint 与断点续训 —— 训练可靠性的生死线大模型训练故障不可避免,1000 卡月故障率 5-10%。本文从 loss spike 处置、硬件故障检测、checkpoint 策略、断点续训、故障根因分析、自动化恢复六个切口,给出源码级实现与企业级训练可靠性决策框架。
Token炼金师1 天前
人工智能·深度学习·llm
指令的塑形:从野生语言模型到听话助手 —— 监督微调 SFT 全链路监督微调(SFT)将预训练语言模型转化为指令遵循的对话模型。本文从 SFT 数据构造(人工标注/Self-Instruct/Evol-Instruct)、ChatML 格式、损失掩码、全参数 vs 参数高效微调、SFT 超参数、数据质量与多样性六个切口,给出源码级实现与企业级 SFT 决策框架。
武子康1 天前
人工智能·llm·claude
🔥 codex-plugin-cc 原理全拆:四层桥接 + JSON-RPC 2.0 + JSONL + 后台任务状态机事实核验: 本稿按 openai/codex-plugin-cc v1.0.6(2026-07-08)与官方 README 核对。插件命令、参数和实现细节属于版本敏感信息,发布前仍需重新检查最新 release。
qcx231 天前
人工智能·gpt·安全·ai·机器人·llm·agent
SpaCellAgent:用 LLM 多智能体怎么用于单细胞轨迹分析的?效率提升了多少?来源:arXiv · 2026年7月8日 论文:SpaCellAgent (arXiv:2607.07467) 核心标签:#多智能体 #单细胞转录组 #轨迹推断 #自进化 #LLM自动化
AndrewHZ1 天前
人工智能·分布式·深度学习·算法·ai·语言模型·llm
【LLM技术全景】混合精度与分布式训练:训练大模型的工程奥秘摘要训练一个 175B 参数的 GPT-3,若用 FP32 单卡(按第14篇 KV Cache 的显存估算方法类比),仅模型参数就需要约 700GB 显存,而单张 A100 仅 80GB。更现实地看: