llm

武子康16 分钟前
人工智能·llm·agent
LingBot 四线全拆:Video / World / VLA / VA 按最终输出选型 + 开源许可证避坑表LingBot 最近连续发布了 VLA 2.0、Video、World 2.0 和 VA 2.0。名称相似、发布时间接近,又都涉及视觉、视频、世界模型和机器人动作,最容易出现的误解是把它们看成同一模型的连续版本。
爱好曙光1 天前
llm·llmops·a/b测试·模型评测·自动化回归
LLM在线评测:A/B测试与回归自动化实战离线评测依赖固定测试集(如 MMLU、HumanEval)计算 BLEU、ROUGE、GPT-4 评分等指标,优点是成本低、可重复,但存在两大天然鸿沟:静态数据集永远无法覆盖线上长尾分布(用户真实提问的风格、上下文长度、领域混合度),指标本身与用户体验弱相关(高分未必意味着用户喜欢)。例如一个回答 BLEU 得分 0.85 但带有事实性错误,用户可能直接点踩;而另一个回答虽然转述略有不同但正确且友好,用户会点赞。
为你学会写情书1 小时前
llm·agent
RAG 性能总卡在检索?先搞懂 Milvus 向量数据库再说在构建 Agent 记忆模块时,我完整走了一遍 Milvus 的接入流程。本文以 AI 日记项目为例,梳理其中的关键技术点。
Token炼金师1 小时前
人工智能·深度学习·llm
千卡月崩五次:loss spike、硬件故障、checkpoint 与断点续训 —— 训练可靠性的生死线大模型训练故障不可避免,1000 卡月故障率 5-10%。本文从 loss spike 处置、硬件故障检测、checkpoint 策略、断点续训、故障根因分析、自动化恢复六个切口,给出源码级实现与企业级训练可靠性决策框架。
Token炼金师1 小时前
人工智能·深度学习·llm
指令的塑形:从野生语言模型到听话助手 —— 监督微调 SFT 全链路监督微调(SFT)将预训练语言模型转化为指令遵循的对话模型。本文从 SFT 数据构造(人工标注/Self-Instruct/Evol-Instruct)、ChatML 格式、损失掩码、全参数 vs 参数高效微调、SFT 超参数、数据质量与多样性六个切口,给出源码级实现与企业级 SFT 决策框架。
武子康1 小时前
人工智能·llm·claude
🔥 codex-plugin-cc 原理全拆:四层桥接 + JSON-RPC 2.0 + JSONL + 后台任务状态机事实核验: 本稿按 openai/codex-plugin-cc v1.0.6(2026-07-08)与官方 README 核对。插件命令、参数和实现细节属于版本敏感信息,发布前仍需重新检查最新 release。
qcx233 小时前
人工智能·gpt·安全·ai·机器人·llm·agent
SpaCellAgent:用 LLM 多智能体怎么用于单细胞轨迹分析的?效率提升了多少?来源:arXiv · 2026年7月8日 论文:SpaCellAgent (arXiv:2607.07467) 核心标签:#多智能体 #单细胞转录组 #轨迹推断 #自进化 #LLM自动化
AndrewHZ4 小时前
人工智能·分布式·深度学习·算法·ai·语言模型·llm
【LLM技术全景】混合精度与分布式训练:训练大模型的工程奥秘摘要训练一个 175B 参数的 GPT-3,若用 FP32 单卡(按第14篇 KV Cache 的显存估算方法类比),仅模型参数就需要约 700GB 显存,而单张 A100 仅 80GB。更现实地看:
吴佳浩4 小时前
人工智能·llm·agent
为什么 MCP、Skill、RAG 能工作?从 Conversation Loop 看现代 Agent 的底层架构作 者:吴佳浩Alben撰稿时间:2026.7.10更新时间:2026.7.13很多文章介绍 Agent 时,都会分别讲 MCP、Skill、Function Calling、RAG,却很少回答一个更关键的问题:
柒和远方1 天前
javascript·llm
从等待到流式:LLM 流式输出的原理、协议与工程实践打开任何一个 AI Chatbot——ChatGPT、Claude、DeepSeek——你输入一个问题,它不像传统网页那样转圈等 10 秒然后啪地一下弹出全部回答。相反,文字像打字机一样一个字一个字地往外蹦。
AI小白Lin1 天前
架构·llm
我和一个德国程序员互不知道对方,却写出了完全一样的AI架构 🤯他32岁,在德国写npm包。我21岁,在中国找实习。我们在同一个月份,从完全不同的起点,造出了架构上完全相同的东西。这不是协同合作。这是AI界的"平行发明"——两个天各一方的工程师,面对同一个数学约束,得出了同一个工程答案。
ckjoker1 天前
llm·agent·测试
让AI给AI当法官:手敲LLM-as-a-Judge评估系统,25次调用跑出最弱维度一句话总结:用大模型给大模型打分,手敲了一套完整的评估系统,5条测试case跑完发现超时才是最大杀手。
To_OC1 天前
人工智能·langchain·llm
手搓一个迷你版 Cursor:从零实现能自动写代码的编程 Agent我一直没搞明白那些编程 Agent 到底是怎么自己创建项目、改代码、跑命令的。Cursor 点一下就能生成整个项目,Claude Code 还能边跑边改 bug,看着特别神奇。直到这周硬着头皮写了个百来行的迷你版本,才算是把整个流程摸透了。
hboot1 天前
python·llm·fastapi
AI工程师第五课 - 大语言模型基础学习代码记录仓库第一课中使用OpenAI调用模型DeepSeek 代码,作为基准测试代码:GPT(Generative Pre-trained Transformer)就是上一课讲的 Decoder-Only Transformer。
冬奇Lab2 天前
人工智能·llm·mcp
MCP 系列(05):Resources 和 Prompts 进阶——动态数据、参数化 URI 与多轮模板第 04 篇主要演示了 Tools。Resources 和 Tools 的分工需要先说清楚:"读取某个状态"用 Resource,"执行某个操作"用 Tool。同一个数据可以两种都实现:get_issue 作为 Tool(LLM 控制何时调用),jira://issue/PROJ-101 作为 Resource(Host 在需要时自动注入)。
KaneLogger2 天前
llm·agent·trae
防止 AI Agent 误删文件,最简单的办法就是加一个 Hook会,而且已经发生过了。2026 年 7 月,前 HyperWrite CEO Matt Shumer 发帖说,他用的 GPT-5.6 Sol 在清理文件时,一个子 Agent 搞错了 $HOME 这个变量,最后运行了:
DO_Community6 天前
开源·llm·agent·glm
GLM 5.2 上线 Digitalocean 推理平台GLM-5.2 是 Z.ai(智谱 AI)最新开源的自主软件工程与仓库级推理模型,现在可以通过 DigitalOcean 推理平台直接使用了。众所周知,GLM-5.1 针对长时间运行的代理型编码工作流做了优化,能一口气撑住长达 8 小时的复杂自主任务;而这次的 GLM-5.2 则带来了 100 万 token 的上下文窗口和双推理模式,专为大规模代码分析与重构设计。两款模型都支持工具调用、结构化输出和多语言应用。
先吃饱再说2 天前
langchain·llm·mcp
组合多个远程 MCP Server:让 Agent 同时调用高德地图、Chrome DevTools 和文件系统摘要:一个 Agent 如果能同时调用高德地图查位置、用 Chrome DevTools 打开网页、用 FileSystem 写入文件,它就能完成多么复杂的任务?本文用 LangChain 的 MultiServerMCPClient 连接多个 MCP Server——本地、远程 HTTP、stdio 三种方式全涵盖——构建一个能跨进程调用多种工具的 Agent。
码流怪侠2 天前
llm·github·音视频开发
StreamingBench:首个流式视频理解基准——多模态大模型离人类实时感知还有多远?📄 论文: StreamingBench: Assessing the Gap for MLLMs to Achieve Streaming Video Understanding 🏛️ 机构: 清华大学计算机系 & 人工智能研究院(AIR)、北京邮电大学 👥 作者: Junming Lin, Zheng Fang, Chi Chen, Zihao Wan, Fuwen Luo, Peng Li, Yang Liu, Maosong Sun 🔗 代码与数据: github.com/THUNLP-M
先吃饱再说2 天前
langchain·llm·mcp
跨进程调用工具:MCP + LangChain 让 Agent 不再“锁死”在单一语言摘要:本地编写的 Tool 只能在当前项目中使用,换一个项目就要重写。MCP 协议让 Tool 可以独立于 LLM,实现跨进程、跨语言调用。本文用 LangChain 的 MCP 适配器连接 MCP Server,获取 Tools 和 Resources,构建一个能跨进程调用工具的 Agent。