大模型

程序猿编码5 天前
c++·大模型·llm·推理引擎
告别改源码适配模型:纯 C++ 可配置 LLM 推理引擎,全格式全结构兼容这是一套纯C++实现的高效、高度可配置大语言模型推理引擎,采用配置驱动的设计理念:接入新模型无需修改源码、重新编译,仅通过编辑模型规格配置文件即可完成适配。
蔡俊锋5 天前
大模型·模型部署·ai架构·国产算力·华为昇腾
华为昇腾 960 超节点发布:4096 卡、5500 个光引擎替 4.8 万光模块——国产算力拐点到了吗?核心结论:9 月 17 日华为全联接大会发布昇腾 960 超节点——全球首个采用 NPO 光引擎的超节点,单节点 4096 卡、5500 个自研光互联产品替代原本需要的 4.8 万颗 800G 光模块,功耗直降 550 多千瓦,系统可用度 99.8%。配合灵衢互联协议和多轨道拓扑,最大可扩到 100 万卡集群。对企业架构师的含义是:国产算力正在从"能用"跨到"好用"——智谱刚把 2026 年 ARR 指引从 24 亿美元上调到 30 亿美元,验证了这条路线的商业化闭环。 这篇文章从工程视角拆解 NPO 光
O。O蛋黄酥啊5 天前
大模型·agent·memory·claude·codex·记忆
Claude Code 记忆机制全拆解:Auto Memory 与 CLAUDE.md 双轨解析本文特点:文章不满足于停留在"怎么用"的层面,而是直接深入到存储格式、目录结构、源码实现,把记忆系统从"对话历史 → Auto memory → CLAUDE.md"三层架构完整还原。全文以真实文件路径、真实 JSONL/JSON 日志、真实代码片段为证据,逐层剖析记忆的写入、索引、召回、注入与验证闭环,并提炼出可迁移到自研 Agent 系统的设计原则。无论你是想理解 AI 编程助手如何"记住"项目上下文,还是想为自己的 Agent 设计记忆模块,都能从中获得一手参考。
BlackStar_L5 天前
大模型·llm·agent
第二章 上下文工程上下文:Agent的“眼睛”,AI实际看得到的信息。上下文内容:上下文工程:上下文的设计与管理与harness的关系:
User_芊芊君子5 天前
人工智能·ai·大模型
让 Claude Code 换上国产大脑:蓝耘元生代上 GLM-5.2 / DeepSeek / Qwen 模型横评实测本文围绕 DeepSeek、GLM、Qwen 三类模型,实测它们在蓝耘元生代 MaaS 上驱动 Claude Code 时的延迟、吞吐、成本与代码能力表现。所有实验测试数据均由本人兴趣自测,不一定准确,附 AI Ping 榜单交叉验证。
寻道码路5 天前
大模型·知识库·rag·ai工程化·llmops`·数据工程底座·文档采集
大模型工程化实战(十二):RAG 数据工程底座——采集到入库流水线(离线+在线双链路)第 11 篇《知识库防腐坏》结尾我写下一句判断:粮仓的地基,在第 12 篇。写完那天晚上,我亲手给这句话补了个注脚。巡检报出库里缺 X200 的保修页,我心想补一份文档能有多难:上官网扒 PDF、下载、转文本、肉眼比对有没有重复、手动切成段、跑一遍向量化脚本入库。等我抬头看表,半天没了;更糟的是我忘了记这是哪个版本、这些切片是从哪份料切出来的。第二天打开待补清单,上面又多了三条。那一刻我盯着那张越补越长的单子认了:问题不在我手慢——手再快,也快不过上游出料的速度。 我缺的从来不是这一批料,是一条从文档采集
Web3&Basketball5 天前
python·架构·大模型·agent·推理
CRM Agent 后训练实战:3 倍更少错误9 月 15 日的 Dreamforce 上,Salesforce 和英伟达联合发布了一个 CRM 推理模型 Koa。成绩单里最扎眼的一条是:在自家 CRM 基准上,错误率只有基座的三分之一。 但真正值得抄的不是这个结果,是它的做法。Koa 没有训练自己的基座,而是拿英伟达的开源权重模型 Nemotron 3 Super(120B)做后训练,训练语料全部由合成场景构成,建模自 Salesforce 近 27 年、覆盖 14 个以上行业的 CRM 部署经验。官方口径是:没有使用任何客户数据。这对企业落地智能
蚁小二官方5 天前
大模型·数据合规·ai安全
AI 安全治理框架更新|大模型训练数据合规,企业实操落地思路最近这些年,国内针对AI安全的治理规则一直在持续更新和完善,专门针对大模型训练数据的相关规范,也变得越来越细致。在早些年,大部分企业在开发大模型的时候,基本都只看重数据的数量和模型最终的使用效果,不太会主动关注数据来源、数据授权、个人隐私保护以及版权这类合规问题。随着行业的监管标准慢慢发生变化,相关的管控工作不再只盯着大模型生成的内容,训练所用的原始数据,开始成为监管规范的重点。现在企业做大模型研发和上线运营,都必须提前做好数据方面的合规工作。本文就结合目前公开的行业治理相关规则,简单整理了大模型训练数据
AI模力圈6 天前
大模型·强化学习·知识蒸馏
On-Policy Distillation:原理、变体与工程实现解析作者:昇腾实战派 知识地图:https://blog.csdn.net/Lumos_Lovegood/article/details/161601003
长谷深风1116 天前
人工智能·ai·大模型·retrieval·ai智能体·aiagent·aibadcase
根因定位:三步隔离法破解AIBadcase你修过一个 AI Badcase:模型答错了,改了 Prompt,又补了检索,顺手清了 Memory,结果答案终于对了。问题也随之出现:到底是哪一层出了错?
I Am a robert girl6 天前
人工智能·大模型·gemini·ai工程化·上下文工程·rsi·工具链集成
谷歌迈出RSI一大步:从Gemini模型迭代看AI工程化的新风向从今天觉醒,技术赋予每一个人数字生命近期,行业内关于“Gemini模型迭代登顶,谷歌在RSI(相对优势指数,此处代指大模型综合相对竞争力指数)上迈出一大步”的讨论热度居高不下。抛开各种情绪化的“AI军备竞赛”叙事,作为技术开发者,我们更应该关注这些技术跃升背后的工程范式转移。大模型的能力天花板正在被不断推高,但这对于普通开发者、在校学生和转行者意味着什么?我们该如何在这个快速变动的技术周期中找到自己的生态位?
leoZ2316 天前
人工智能·大模型·agent
第 16 篇 转型路线图与求职实战系列第 16 篇,也是收口篇。前 15 篇把"AI 产品经理需要知道什么、怎么做"讲完了,这一篇把知识转化成一份工作:自测定位、能力盘点、作品集、简历、面试、入职 90 天,并给出全 16 篇的总览与阅读路径。 系列总纲级判断:AI 产品经理的门槛不在知识量,而在能不能对质量负责。 你读了多少篇文章不重要,重要的是你能否为一个概率性系统的输出,定义标准、建起评测、并为之签字。
lie..6 天前
人工智能·python·大模型
30天从零开始学AI应用开发(Day 4):Python 极速入门(上):够用就行,别啃书这是系列的第 4 篇。整个系列写给零基础、想入行 AI 的朋友,每天一篇,30 天后你会做出 3 个能写进简历的项目。
旋生万物6 天前
mysql·大模型·innodb·螺旋生成论·螺旋相位
MySQL 死锁总复发?用螺旋事务相位互逆法定位加锁顺序(附 Python 诊断脚本)复盘的时候大家常说:但下周死锁又来了。用螺旋生成论的话,结论很直接:死锁不是“并发问题”,而是事务加锁相位互逆,两个事务各自拿着对方想要的锁,在相位空间里转成闭环。
DQQzero6 天前
人工智能·ai·大模型·办公
豆包工作来了:AI办公三国杀的牌桌重组9月15日,飞书未来无限大会暨豆包工作开工大会。会场里出现了两张很少同框的脸:一位是极少公开露面的字节跳动CEO梁汝波,亲自为整合后的「豆包工作」站台;另一位是飞书CEO谢欣——两个月前,他刚刚失去飞书的独立BU地位。
VIP_CQCRE6 天前
ai·大模型·visual studio·ace data cloud·lmlocal
Visual Studio 也能丝滑接入大模型:用 Ace Data Cloud + LMLocal 打造 AI 编程体验在 AI 编程逐渐成为开发者标配的今天,很多团队都会遇到一个现实问题:不同模型、不同供应商、不同 API 规范之间来回切换,配置繁琐,成本和可维护性都不够理想。
BullSmall6 天前
功能测试·大模型·测试
RAG 知识库专项测试目录核心目标一般会测哪些项目1. 基础正确性测试2. 检索召回测试3. 幻觉测试(重点)4. 长文本 / 多文档综合问答
咕泡科技6 天前
人工智能·大模型·ai落地·fde·前沿部署工程师
咕泡科技FDE系列最新产品重磅发布!如果你写了三五年代码,做过不少模块,技术底子不差,却总觉得离业务结果很远需求文档改了三版,产品经理说“先这样”。你照着PRD实现完,测试通过,上线。然后就没有然后了。你不知道有没有人用,不知道业务方满不满意。周报上写“完成XX模块开发”,年终总结写“参与XX项目交付”,可这段代码创造了什么价值,你说不上来
VIP_CQCRE7 天前
ai·大模型·agent·coze·acedatacloud
把 Coze 接入 Ace Data Cloud:用 OpenAI Responses 协议快速扩展你的 AI Agent 模型能力如果你正在用 Coze 搭建 Bot、Agent 或自动化工作流,通常会遇到一个很现实的问题:模型能力越来越多,但每接入一个模型都要重新申请 Key、研究协议、适配参数、验证流式输出和工具调用,开发和维护成本很容易被放大。
Web3&Basketball7 天前
python·大模型·agent·性能调优·推理优化
Agent外传审计实战:3类失准事故拦截脚本上个月,OpenAI 公开披露了此前未披露的 6 起模型异常行为,并配套发布了一套上报与披露框架。6 起里面有 3 起,机制上可以直接落成代码去检测: