llm

掰头战士4 小时前
typescript·llm·agent
MCP、Skill、Plugin,都是给agent拓展能力,到底有何区别?我在开发我的agent时,遇到这样的场景:我的 Agent 内置写死了十几个工具,可以读写文件了,现在我想让它给我提交代码,推送到远程仓库。
DigitalOcean6 小时前
llm·agent
Kimi K3 + Claude:AI Agent 多模型路由实战在实际使用 AI 编程 Agent 时,经常会出现这样一种情况::修复配置文件里的一个拼写错误,花费竟然和开发一个耗费整个下午的新功能差不多。
武子康8 小时前
人工智能·llm·agent
SGLang 一加并发就出问题,先查显存还是队列场景:SGLang 接进应用后多人同时提问,有人等很久、有人直接失败,团队准备先降并发。结论:92% 显存占用不等于 OOM;要先按"是否在排队/哪个阶段失败"分诊,再考虑 --chunked-prefill-size / --max-running-requests / --mem-fraction-static 等单项参数。产出:5 步分诊法 + 教学 20 请求对照表 + 16 行错误速查卡。 适用版本:SGLang v0.5.19(2026-09-05),资料复核于 2026-09-12;教学数据
挖掘狂人8 小时前
llm·agent·ai编程
从 LLM 到 Agent Skill:9 个底层概念,一次理清整个 AI 技术栈AI 圈像个永远在造新词的工厂。前脚 LLM,后脚 token、context、prompt、MCP、Agent、Agent Skill…… 词儿你都眼熟,真要挨个说清确切含义,很多人就卡壳了。
dong_junshuai8 小时前
开源·llm·github
每天一个开源项目#97 LLM Wiki:把RAG结果变成可维护知识资产Trending 排名:#8|快照日期:2026-09-12|Stars:18,739|今日新增:647|Forks:2,134|主语言:TypeScript|License:GPL-3.0
ProbeX8 小时前
llm
一文搞懂 AI 里的 Harness:它和 Agent、Skill、LLM 到底啥关系?最近在学 AI 相关内容,越看越乱:刚觉得搞懂了 AI agent,又冒出个 harness;还没记住 harness,agent skill、LLM 又搅在一起。几个名词来回绕,头都大了。
桃西西呀12 小时前
人工智能·机器学习·llm
诈骗短信刚发来就被拦截?支持向量机靠的是最宽的那条分界线上周我同事的手机连收 5 条短信,从"您中奖了"到"医保账户异常"一应俱全。他发现这些短信并没有挤进收件箱顶部,而是安静躺在"垃圾短信"文件夹里。这让我好奇:手机里的反诈模型到底是按什么规则把邮件分成两堆的?
星核0penstarry12 小时前
人工智能·测试工具·llm·函数调用·数据合成·文本调用
ToolGrad:把数据生成倒过来,工具调用样本通过率提到 99.8%声明:基于论文 arXiv:2508.04086 v3(ACL 2026 Findings)整理,数据对照原文核对。
tachibana212 小时前
网络·人工智能·websocket·网络协议·ai·llm·agent
WebSocket 和 SSE 通信的区别及局限性在传统的 Web 开发中,HTTP 是典型的“请求-响应(Request-Response)”半双工通信协议。为了打破“客户端不发请求,服务端就无法主动通知”的限制,工业界先后经历了短轮询(Polling)、长轮询(Long-Polling/Comet)、WebSocket 到 SSE 的演进历程。
Warson_L1 天前
python·langchain·llm
Python的TypedDict在 Python 中,TypedDict 是官方在 Python 3.8 引入的一个类型注解工具(位于 typing 模块中)。
XLYcmy1 天前
网络安全·llm·sft·cve·cot·对齐·漏洞检测
面向安全领域决策的大型语言模型漏洞价值评估对齐机制与智能化评级系统研发 研究方向与核心内容三、 研究方向与核心内容根据项目总体规划,研究工作将分为多个紧密衔接的战略阶段开展 。核心研究方向与内容矩阵如下:
程序猿编码1 天前
大模型·llm·agent·推理
LLM+Agent 全栈推理底座:Triton 算子优化・语义级缓存・分布式调度这是一套从算子层到服务层全链路自主研发的大语言模型推理引擎,底层基于自定义CUDA内核、Triton算子与纯C++ CPU运行时构建,不依赖vLLM、llama.cpp等第三方推理框架,仅以PyTorch为基础依赖,整体遵循「最小依赖、按需加载、明确降级」的设计原则。
小白跃升坊1 天前
ai·大模型·llm·推理优化
大模型推理入门:从原理到实践写给谁看的? 听说过 ChatGPT、DeepSeek、通义千问,想搞明白"大模型到底是怎么回答问题的"、想了解本地部署和推理框架区别的同学。不要求你有 AI 背景,我尽量用人话讲清楚。
武子康1 天前
人工智能·llm·agent
把 SGLang 接进 Agent,查一次订单要走几步用户问:"我的 ORDER-A 到哪里了?"模型能读懂问题,却不知道此刻的物流状态。它需要先提出查订单请求,让业务程序验证权限、查询订单,再把结果交回模型组织回答。
demo007x1 天前
macos·程序员·llm
让大模型活在你的鼠标旁:我用 Tauri 2 + Rust 打造了一款“反直觉”的 AI 全局划词效率神器作为开发者,我们每天都要高频面对海量的英文技术文档、GitHub Issue 以及复杂的 API 参考。在这个过程中,你一定经历过以下几个崩溃瞬间:
孙启超1 天前
开发语言·人工智能·后端·rust·llm·transformer
【AI开发之Rust】第 3 课:字符串与复合类型 —— 数据怎么放预计时间:75-90 分钟 | 难度:⭐⭐ | 前置:第 1-2 课(变量、类型、函数、控制流)写程序 80% 的时间在处理"数据往哪放、怎么取"。Rust 对数据容器的设计分得很清楚,它不像 Python 那样"字符串就是字符串,列表就是列表",而是把两个问题拆开:
不好听6131 天前
llm
从朴素到智能:RAG 为什么需要 Agent 化——Agentic RAG 系列之一一句话价值:大模型会思考,但不知道你公司内部的文档;RAG 就是"喂资料"的办法。但最朴素的 RAG 是条死板的流水线——不管问题多简单,都硬走一遍检索生成。本文用五个"卡壳的瞬间",讲清楚为什么固定流程不够用,以及"智能 RAG"到底在智能什么。
掰头战士1 天前
typescript·llm·agent
三道保险丝,最后只能放弃治疗? 一文聊聊我的agent是怎么做死循环检测的设想这样一个场景。你给 Agent 派了个任务:「把项目里所有的 console.log 换成 logger.info」。
不好听6131 天前
llm
Advanced RAG:把检索流水线打磨到极致——Agentic RAG 系列之二一句话价值:在跳到 Agentic 之前,先把 Advanced RAG 搞清楚——它是工程上最成熟、最主流的一档优化,核心思路是"检索前 → 检索中 → 检索后"三段打磨。它的那些优化手段,到了 Agentic RAG 里会变成 LLM 按需调用的"工具"。所以它既是通往 Agentic 的必经之路,也是一套会被复用的组件库。
掰头战士1 天前
typescript·llm·agent
AgentLoop: 从 while(true) 到生产级循环Agent Loop - agent的心脏。从6行代码的while循环说起,跟你聊聊写一个agent最底层、必不可少的部分。