语言模型

硅谷秋水13 小时前
人工智能·机器学习·语言模型·机器人
AgenticRoboRL:将“编程智能体”后训练引入智能体化机器人领域论文:AgenticRoboRL: Bringing Coding-Agent Post-Training to Agentic Robotics,2026年10月来自中佛罗里达大学、南加州大学和密歇根州立大学。
硅谷秋水16 小时前
人工智能·机器学习·语言模型
DiscoveryRSI:通过递归学习发现有价值的假设26年10月,论文“DiscoveryRSI: Recursively Learning to Discover Valuable Hypotheses”,来自PhAI Labs、香港中文大学、密歇根大学、新加坡国立大学、复旦大学、北京大学人民医院、北京大学、斯坦福大学、香港科技大学、加州大学圣塔芭芭拉分校、东南大学、哈佛医学院、圣保罗联邦大学、伊利诺伊大学厄巴纳-香槟分校 (UIUC)、麻省理工学院 、牛津大学和普林斯顿大学。
xiaoye-duck19 小时前
网络·c++·语言模型·chatgpt
《C++ 项目:手写大模型接入 SDK》ChatGPT接口设计(下):流式响应实现和测试🔥小叶-duck:个人主页❄️个人专栏:《Data-Structure-Learning》《C++入门到进阶&自我学习过程记录》 《Linux系统从入门到实践》《Linux网络从入门到实践》 《Qt 方寸极境》 《MySQL》
lisw0520 小时前
人工智能·学习·语言模型
作为人类代理的大语言模型及其角色分类!首先需要明确一个核心概念:“人类代理”在这里通常指代的是“智能体”或“Agent”,即LLM不仅仅是一个被动的问答机器,而是能够主动感知环境、进行规划、调用工具并执行任务来完成用户目标的自主实体。
xiaoye-duck1 天前
开发语言·网络·c++·语言模型
《C++ 项目:手写大模型接入 SDK》DeepSeek接口设计(下):流式响应实现和测试🔥小叶-duck:个人主页❄️个人专栏:《Data-Structure-Learning》《C++入门到进阶&自我学习过程记录》 《Linux系统从入门到实践》《Linux网络从入门到实践》 《Qt 方寸极境》 《MySQL》
飞猫的边缘AI2 天前
人工智能·语言模型·cnn·transformer·边缘ai
边缘AI芯片的规则变了:从跑CNN到跑LLM和VLM如果你关注边缘AI芯片,最近有个明显变化:边缘设备跑的东西跟几年前不一样了,以前跑CNN(卷积神经网络),现在跑LLM(大语言模型)和VLM(视觉语言模型)。
xiaoye-duck2 天前
网络·c++·语言模型·chatgpt
《C++ 项目:手写大模型接入 SDK》ChatGPT接口设计(中):全量响应实现和测试🔥小叶-duck:个人主页❄️个人专栏:《Data-Structure-Learning》《C++入门到进阶&自我学习过程记录》 《Linux系统从入门到实践》《Linux网络从入门到实践》 《Qt 方寸极境》 《MySQL》
隔窗听雨眠2 天前
人工智能·语言模型·自然语言处理
大语言模型推理效率的多维优化与部署取舍大语言模型的推理成本,正在成为决定其能否从演示走向规模化部署的核心变量。一个参数规模达到数百亿的模型,单次生成可能涉及数十次前向传播,每一次都需要将全部权重从显存搬运到计算单元。当并发请求数量上升时,这种重复的权重搬运会迅速耗尽显存带宽,使图形处理器的计算单元陷入饥饿状态。推理慢的根源,在多数情况下不是算力不够,而是数据搬运的速度跟不上计算的速度。
Dawson Zhu3 天前
人工智能·语言模型·架构·aigc·agi
【Runtime推理引擎④】多流并发执行:用Stream+Event让计算与通信重叠本系列是推理引擎 Runtime 模块的深度拆解,面向对 LLM 推理系统感兴趣的开发者。 上一篇我们聊了 CUDA Graph 如何消除 Kernel Launch 开销,今天来看看多流并发怎么让 GPU"不闲着"。
BioTender3 天前
人工智能·语言模型·自然语言处理
Hugging Face 发布 Carbon-X:一个能够直接理解 DNA 的大语言模型148 亿参数的大语言模型,可以接过一段 DNA,再用英语解释突变可能带来的影响。**Hugging Face 发布的 Carbon-X,把原始序列带进了聊天窗口。**但能对话,距离可靠地解释生命,还有多远?
阡陌数智3 天前
人工智能·语言模型·自然语言处理
通过特化小型语言模型的词表将推理成本降低百分之七十七在大规模部署大型语言模型时,企业常常面临沉重的财务压力。尽管拥有数万亿参数的尖端模型在复杂推理任务中表现出色,但如果将常规的信息提取、文本分类或格式化任务全部交给它们处理,将会迅速耗尽企业的预算。这种经济上的压力加速了小型语言模型(SLM)的普及。然而,由于继承了庞大父代模型的臃肿分词器,即便是标准的小型语言模型也会带来不必要的计算开销。通过定制和特化小型语言模型的词表,开发者可以实现显著的推理加速,并将推理成本惊人地降低百分之七十七。在这篇深度评测中,我们将剖析词表剪枝的技术原理,提供详细的实现指南,并
大模型任我行3 天前
人工智能·语言模型·自然语言处理·论文笔记
英伟达:双重采样修正强化学习奖励📖标题:Double-Rollout Reinforcement Learning with Sampling-based Reward Estimation 🌐来源:arXiv, 2610.16593v1
ai_coder_ai3 天前
语言模型·自动化·dubbo
在自动化脚本中调用大语言模型自动化脚本擅长做确定的事:点击固定的坐标、读取稳定的控件、按预设分支执行。但现实里的自动化流程往往卡在“不确定”上——通知文本千变万化、用户意图需要理解、页面结构偶尔漂移。把大语言模型嵌进脚本,解决的就是这类需要语义判断的环节。冰狐平台提供了原生的 BigModel 对象,调用方式比手动拼 HTTP 请求、处理签名要直接得多。下面从接口本身出发,写清楚在冰狐自动化脚本中怎样调用大模型,代码会给出几个不同层次的样例,最后讨论几个实际跑起来才会遇到的问题。
Zzj_tju3 天前
人工智能·语言模型
一个温度参数,能修复多少过度自信?系列:可信预测实验室:从模型置信度到可检验的拒答前面的实验已经说明,同一组分类答案可以保持完全不变,同时具有不同的概率质量。但把几个温度都试一遍,再挑出最好看的结果,并没有回答真正的研究问题:如果只允许使用一份事先隔离的校准数据,学到的温度能否改善另一份数据上的概率?本篇只改变这一个环节。模型权重、分词器、标签映射和推理配置全部冻结,新增的可审查产物是校准池预测、温度优化轨迹和审计池上的配对指标。
Zzj_tju3 天前
人工智能·深度学习·机器学习·语言模型
智能体该向哪段经验学习?Routed CL 在混合任务中探索记忆分流封面为 AI 生成的概念示意,装置和存储空间仅作比喻,不是论文架构、真实设备或实验结果。北京时间 10 月 29 日 04:03,Meta FAIR 的 Michael Philip 等研究者提交了 Routed Continual Learning 预印本,探索让智能体自己选择经验的保存方式和共享范围。本文解读这项近三天公开的研究,不将其写成今天的新发布。它值得关注的问题很实际:一个助手交替处理多类任务时,过去的经验究竟应该送给谁?论文与提交记录
海盗12344 天前
人工智能·microsoft·语言模型·机器人·人工智能aigc
微软技术日报 2026-11-01:语言模型 API 免申请、8 个威胁组织被分四档从这里开始,五分钟看完微软技术圈一夜之间的变化。10 月 27 日发的 Windows App SDK 2.6.4 没有发布会,也没有配大张旗鼓的博文,但里面有一个改动会直接改到所有想在 WinUI 里调用本地模型的团队:Language Model API 不再要求应用先解锁 Language Model Limited Access Feature。变更标识写在发布说明里,LanguageModel_RemoveLimitedAccessFeatureRequirement。
eric-sjq5 天前
人工智能·python·深度学习·语言模型
小思框架 · 30M 级长上下文新架构对比技术报告对象:我们的 RWKVMLATransformer(rwkv4_mla_s6uw256) vs. Kimi K3(mini 缩放版) vs. DeepSeek V4(mini 缩放版)
Dawson Zhu5 天前
人工智能·语言模型·架构·aigc·agi
【Runtime推理引擎①】Runtime架构设计:从Session到Graph Executor的完整骨架本文是「Runtime推理引擎」系列的第一篇,带你从零理解推理Runtime的核心架构。如果你以为Runtime只是"调kernel的for循环",那这篇文章一定会刷新你的认知。
Zzj_tju5 天前
人工智能·深度学习·机器学习·语言模型
准确率不变,概率质量也不变吗?系列:可信预测实验室:从模型置信度到可检验的拒答前一篇固定模型预测,只改变分箱方式,发现校准误差会随测量口径变化。这一次把问题再往前推进:如果每条样本的预测类别完全不变,概率质量是否也应该不变?这不是文字游戏。准确率只记录答案是否命中标签,无法区分一次谨慎的错误和一次几乎不给正确答案留余地的错误。科研报告若只保留一个准确率数字,就可能把这部分差异全部丢掉。
Zzj_tju5 天前
人工智能·机器学习·语言模型·自然语言处理
长期记忆让智能体更可靠,还是让错误持续累积?假设科研助手曾经用某种清洗规则处理一份数据,并得到正确结果。它把规则写入长期笔记,下次遇到字段相似的数据便照搬,却忽略了单位已经改变。更麻烦的是,新结果又被总结为“成功经验”,进入下一次检索。这是说明问题的假设场景,不是本次实验。