语言模型

喜欢打篮球的普通人4 小时前
语言模型
MiniMind 快速上手(一):环境准备与项目结构对于一个项目,最好的学习办法就是最快地把它跑起来。先不纠结细节,把环境搭好、把代码跑起来,再慢慢理解它的细节和原理。本文是 MiniMind 学习笔记的开篇——环境准备与项目结构。
Dawson Zhu5 小时前
人工智能·语言模型·架构·aigc·agi
从 Jev 说起:快慢模型如何协同调度,以及这背后需要解决什么问题近期 TypeSafe AI 的 Jev 模型引起了不少关注。它不做自回归文本生成,而是给定状态与一组预定义问题,一次前向输出 Choice / Score / Null 的概率分布与置信度,端到端 70–500 ms。这个变化看似只是「更快更便宜」,实际上改变的是输出的形状——概率可以直接参与计算,而文本必须经过解析才能变成数字。本文从这一处差异出发,记录一条由浅入深的推导路径。
大模型任我行14 小时前
人工智能·语言模型·自然语言处理·论文笔记
谷歌:“课程学习”融入扩散模型强化学习📖标题:CanvasAnneal: Curriculum Reinforcement Learning for Diffusion Language Models 🌐来源:arXiv, 2609.13060v1
Dawson Zhu1 天前
人工智能·语言模型·架构·aigc·agi
大模型记忆系统设计:分层架构与关键技术解析大语言模型(LLM)虽然在自然语言理解和生成上表现出色,但其本质是一个无状态的函数——它不保存任何跨请求的上下文信息。实际业务场景中,无论是多轮对话、个性化推荐,还是复杂 Agent 任务,都要求模型能够"记住"之前发生的事。简单的做法是"把所有内容塞进 Prompt",但上下文窗口(Context Window)有容量上限,并且随着对话变长,成本、延迟和"迷失在中间"的问题会越来越严重。
Dawson Zhu1 天前
人工智能·语言模型·架构·aigc·agi
大模型预训练为何普遍单轮遍历?——从 Scaling Laws、数据重复到灾难性遗忘的技术解析在传统深度学习里,几百个 epoch 是家常便饭:ResNet 在 ImageNet 上训几十上百轮,MLP 在小数据集上甚至训到 loss 不再下降为止。数据量小、模型相对小,反复遍历是唯一合理的选择。
johnsong1 天前
人工智能·语言模型
AI 前沿日报 · 2026-09-20今日主题:信任危机——当AI工具变成安全隐患 覆盖:17条深度 · 5大板块今天,一位开发者偶然发现智谱的AI编码桌面应用ZCode在用户不知情的情况下,将整个工作区的 .git 历史打包上传到阿里云OSS。几乎同一时间,韩国个人信息保护委员会宣布将重大数据泄露的最高罚款提升至企业总收入的10%——以Coupang泄露3755万用户数据为例,旧规罚款6246亿韩元,新规下可能突破数万亿。从编码工具到监管法规,"信任"二字正在被重新定义。
硅谷秋水1 天前
计算机视觉·语言模型·机器人
RoboChallenge:具身策略的大规模真实机器人评估25年10月来自Dexmal 和Hugging Face的论文“RoboChallenge: Large-scale Real-robot Evaluation of Embodied Policies”。
Dawson Zhu1 天前
人工智能·语言模型·架构·aigc·agi
大模型 Agent 记忆系统五大技术路线解析与工程选型指南大模型的能力竞争正在从"参数规模"转向"系统能力"。一个模型能否在真实业务中持续服务,很大程度上取决于它能否长期记住用户偏好、历史上下文、事实知识和任务进度。这种能力被统称为 Agent 记忆系统。
AI砖家1 天前
人工智能·语言模型·ai编程·claude·codex
AI 编程面试 20 题:Codex、Claude Code 与 AI 工具使用全攻略适用人群:2026 年校招 / 社招后端、前端、移动端工程师 覆盖范围:AI 编程工具选型(Claude Code、Codex、Cursor、Copilot)、Prompt 技巧、上下文管理、Agent 协作、代码审查、安全规范、开放性问题 每道题包含:题目 → 参考答案 → 面试官追问 → 追问答案
Dawson Zhu1 天前
人工智能·语言模型·架构·aigc·agi
Palantir Foundry 架构深度解析:数据、本体与AI的三层协同摘要:本文基于 Palantir 官方开发者分享会内容,结合公开技术资料进行扩展,系统梳理 Foundry 的核心架构——从数据接入、Ontology(本体)建模到 AIP 智能层。文章力求客观中立,既呈现其设计理念与技术优势,也指出适用边界与潜在风险,供企业架构与技术选型参考。
Dawson Zhu1 天前
人工智能·语言模型·架构·aigc·agi
Agent 响应延迟优化:从推理引擎到系统架构的四层优化模型TL;DR:Agent 的响应速度从来不是"换个更快的模型"就能解决的单点问题,而是一个贯穿推理引擎、上下文、编排逻辑、系统架构的分层系统工程。本文梳理每一层的优化手段、可量化的收益、落地代价与典型坑点,并给出优先级排序与评估框架,帮助你在真实项目中做出可权衡的取舍。
AI砖家1 天前
人工智能·语言模型·ai编程·claude·codex
我用 Codex + GPT-6 Astra 搭了一条自动化剪辑流水线,从安装到批量出片全流程分享做知识分享类视频的博主应该都有同感:剪辑是最消耗时间的环节。一条 60 秒的口播视频,从转录、挑片段、对字幕到导出,手动操作下来一两个小时就没了。
红海云2 天前
人工智能·语言模型
Kimi 双端接入 CloudBase 的工程价值月之暗面的 Kimi Code 和 Kimi Work 正式接入 CloudBase,表面上看是一个插件上架了两个产品端,实际反映的是 AI 工具正在从“帮人生成内容”,走向“替人调用真实生产力系统”。
johnsong2 天前
人工智能·语言模型
AI前沿日报 2026-09-19本期主题:安全悖论 — AI越强大,攻击面越大📖 读前必读本期 18 条要闻,聚焦一个核心矛盾:AI 能力边界的扩展速度,远超安全基础设施的跟进速度。美军使用 AI 生成军事情报险些引发误判;GLM 家族的 ZCode 桌面端悄悄上传用户全部 Git 提交历史;passkeys 在企业的完美适配反而成为个人持有者的噩梦;Claude Code 生态演进中 AGENTS.md 的标准化又为 Agent 安全边界提出了新课题。与此同时,云平台 Cloudflare Quick Tunnels 走红成为 AI
海上小飞龙2 天前
语言模型·自然语言处理
LangChain 动态模型:什么时候该在运行时换模型?用 create_agent 搭 Agent 的时候,首先要指定模型。很多情况下,模型指定完就不再变化,从任务开始到结束,用的都是这一个。
林伽一2 天前
人工智能·科技·ai·语言模型
从开源基础设施到垂直封装,AI 产业的技术主轴正在位移当日的技术动态呈现出清晰的产业分层:基础设施层,开源工具链加速整合;应用层,垂直大模型把领域知识封装进专有检索索引;安全层,形式化验证开始为智能体输出提供保障。OpenAI 发布的 Astra for Law 把 GPT-6 Astra 封装进覆盖超 2.3 亿个 URL 的法律检索索引,是"领域封装"路线的标志性样本[① SiliconANGLE AI]。从开发者视角看,这些信号意味着选型、部署与鉴权都进入了新阶段——基础设施需要面向智能体重新设计,垂直场景需要领域知识工程,安全需要形式化兜底。本文按技
tiger8652 天前
人工智能·深度学习·算法·语言模型·自然语言处理·面试·nlp
大语言模型面试和题解,Context Engineering 怎么做?长 Prompt、动态上下文与 Memory 管理更系统:把上下文视作数据结构,设计加载/替换/淘汰策略。实验 (Liu et al. 2023) 发现:
硅谷秋水2 天前
机器学习·计算机视觉·语言模型·机器人
RoboLab:用于分析机器人任务通才策略的高-保真仿真基准26年4月来自Nvidia、多伦多大学和悉尼大学的论文“RoboLab: A High-Fidelity Simulation Benchmark for Analysis of Task Generalist Policies”。
johnsong3 天前
人工智能·语言模型
效率的边界:当推理突破遇见语言革命DeepSeek V4.1 Flash 将 KV Cache 压缩到极限,显存节省超 60%。Goose 语言实测比 C++ 快 16%,同时保证内存安全。Bend 语言要求 AI 生成代码时附带数学证明。EOS Token 蒸馏中的「长度膨胀」问题首次被系统量化——发现 AI 蒸馏出来的小模型不只是"笨一点",还可能是"啰嗦很多"。四件事指向同一个坐标:效率革命的深水区,不再只是"让大象跑得更快",而是"重新设计跑道"。
Dawson Zhu3 天前
人工智能·语言模型·架构·aigc·agi
RAG 检索中的两个误区:高相似度不等于正确,向量检索也不能替代关键词检索摘要:在 RAG(Retrieval-Augmented Generation)系统中,"召回"是决定最终答案质量的第一道关口。本文从一个直观现象切入——Top1 相似度 0.94,但正确答案可能是 Top2——分析语义相似度与业务正确性之间的错位,并进一步讨论为何在企业级场景中,向量检索必须与传统关键词检索结合(Hybrid Search)。文中涉及 Metadata 过滤、两阶段检索(Bi-Encoder + Cross-Encoder Rerank)、结果融合策略等工程实践。