语言模型

Dawson Zhu1 小时前
人工智能·语言模型·架构·aigc·agi
【AI编译器入门②】TVM架构拆解:Relay、Relax、TIR与Runtime四层结构本文是「AI编译器」系列的第二篇。TVM是学术界和工业界最成熟的AI编译器之一。很多人学TVM时容易被一堆名词搞晕:Relay、Relax、TIR、TE、Schedule、Runtime……它们都是什么?有什么关系?本文把TVM的四层架构拆开讲清楚,帮你建立整体认知。
mjhcsp2 小时前
ai·语言模型·ai编程
DeepSeek V4.1 Flash 快速上手与实战指南在本地运行大语言模型曾经是一件门槛极高的事情,需要复杂的依赖管理、庞大的显存资源以及晦涩的命令行操作。但随着推理引擎的迭代和 Python 生态的完善,如今开发者只需几行代码就能在自己的笔记本电脑上启动一个智能对话助手。这种变化不仅让技术验证变得触手可及,更为隐私敏感型应用提供了全新的解决方案——数据无需离开本地,完全在可控环境中完成计算。
Dawson Zhu2 小时前
人工智能·语言模型·架构·aigc·agi
【AI编译器入门③】编译前端:ONNX、TorchScript与动态shape处理本文是「AI编译器」系列的第三篇。前端是AI编译器的入口——把各种格式的模型变成统一的IR。听起来像"格式转换"这么简单?才不是!前端还要处理算子映射、动态shape、自定义算子注册……稍有不慎,整个编译链路就会失败。本文把前端的三大核心问题逐一拆解。
街头便衣3 小时前
android·java·开发语言·人工智能·语言模型·开源
OpenRouter周榜复算:164万亿token,输出2.55%,DeepSeek账单占1.4%每周一榜单更新,转发的话术都差不多:“前五全是中国模型”“调用量再创新高”。这周的总量是 164 万亿 token。
长不大的杨瑞杰17 小时前
人工智能·安全·语言模型·软件工程·1024程序员节
OpenCode v2 MCP 与插件体系实战:把数据库、工单和内部 API 安全接入 Agent这是《OpenCode v2 实战:从零搭建企业级 AI 编程助手》专题第 8 篇。上一篇完成了 Skills、Commands 与 Instructions 的分层,本篇继续解决“怎样让 Agent 可靠地连接实时系统”:用 MCP 接入数据库、工单、知识库和内部 API,用 Plugin 承载工具、钩子与集成逻辑,再用权限、鉴权、超时和审计守住生产边界。
王吉伟1 天前
人工智能·ai·语言模型·自动化
Anthropic 官方指南:多智能体不等于更强大Anthropic 官方指南:多智能体不等于更强大多智能体不等于更强大:Anthropic 官方指南完整中译
Dawson Zhu1 天前
人工智能·语言模型·架构·aigc·agi
【CUDA编程入门⑧】性能分析工具链:Nsight、Profiler与Roofline模型本文是「CUDA编程与HPC高性能计算」系列的第八篇。性能优化不能靠猜,得靠数据——这是HPC工程师的基本素养。CUDA领域有一套成熟的性能分析工具链,从系统级到kernel级、从CPU-GPU交互到指令级,层层递进。本文带你认识最核心的几个工具:Nsight Systems、Nsight Compute、PyTorch Profiler,以及性能分析的"指南针"——Roofline模型。
吃鱼的灰太狼1 天前
人工智能·语言模型·开源
Qwen-image-2.1 本地部署保姆级教程 | 首页技术教程很多人部署 ComfyUI,卡住的并不是模型下载,而是最后那一步:模型明明在目录里,节点也能拖出来,运行时却接连报错。
DreamLife☼1 天前
windows·python·语言模型
Agent与大语言模型的集成本文深入探讨Agent与大语言模型(LLM)的集成方法,包括API调用、上下文管理、提示词工程和工具调用。通过理论讲解和代码示例,帮助读者理解如何将LLM的强大能力融入Agent系统。
程序猿编码2 天前
c++·学习·语言模型·llama·vllm·大模型推理
不依赖 vLLM/llama.cpp:一套面向学习的 DeepSeek-R1 CUDA 推理实现如果你是一个对大模型推理底层原理感兴趣的后端工程师,大概率有过这样的困惑:用 vLLM 部署很快,用 llama.cpp 量化推理也很方便,但你对"每一个 token 到底在 GPU 上经历了什么"依然是一头雾水。框架帮你封装了太多东西——算子怎么调度、内存怎么管理、kernel 怎么 launch,这些全被藏在 C++ 模板和 CUDA 核函数里面,你只能看到输入输出,看不到中间过程。
STLearner2 天前
大数据·人工智能·python·深度学习·机器学习·语言模型·数据挖掘
KDD 2026 | (2月轮)时空数据(Spatial-Temporal)论文总结时空【下】(人群移动,城市科学(资源调度,)KDD 2026于2026年8月9日至13日于韩国济州(Jeju, Korea )正在举行。本文总结了KDD 2026(February Cycle)上有关时空数据(Spatial-Temporal)的相关论文。
Solange__3 天前
人工智能·3d·语言模型·自然语言处理·材质·贴图·1024程序员节
文旅景区怎么用AI生成3D导览?从航拍采集、地标重建到网页漫游的完整方案文旅景区可以用 AI 辅助整理航拍和地面素材、生成三维重建草稿、制作讲解热点,并把复杂场景派生为网页漫游版本。但航拍视频能恢复出空间画面,不等于已经形成可信导览。
Dawson Zhu3 天前
人工智能·语言模型·架构·aigc·agi
【CUDA编程入门⑥】CPU多线程并行优化:OpenMP、NUMA与SIMD向量化本文是「CUDA编程与HPC高性能计算」系列的第六篇。说到HPC,大家第一反应都是GPU。但你知道吗?在很多AI场景中,CPU仍然是关键角色——数据预处理、后处理、EmbeddingLookup、NMS、控制流……这些算子在CPU上跑反而更高效。本文带你补全CPU侧的并行优化知识:OpenMP、NUMA、SIMD——一个都不能少。
硅谷秋水3 天前
人工智能·机器学习·语言模型·机器人
AdaRSI 论文分析论文:AdaRSI: On-Demand Recursive Self-Improvement for Embodied Agents(Northeastern Univ. / AgiBot / UCAS,2026.10)
Dawson Zhu3 天前
人工智能·语言模型·架构·aigc·agi
【CUDA编程入门③】经典算子实战:Reduce归约——从朴素实现到高性能优化的演进之路本文是「CUDA编程与HPC高性能计算」系列的第三篇。Reduce(归约)是深度学习中最基础也最常用的算子之一——Softmax需要它,LayerNorm需要它,Loss计算也需要它。别看Reduce的功能很简单(就是求和/求最大值),但要写得快,里面的门道可不少。本文带你一步步演进,从最朴素的实现到接近硬件极限的高性能版本。
xiaoye-duck3 天前
开发语言·c++·语言模型
《C++ 项目:手写大模型接入 SDK》Provider分析与实现🔥小叶-duck:个人主页❄️个人专栏:《Data-Structure-Learning》《C++入门到进阶&自我学习过程记录》 《Linux系统从入门到实践》《Linux网络从入门到实践》 《Qt 方寸极境》 《MySQL》
Dawson Zhu3 天前
人工智能·语言模型·架构·aigc·agi
【CUDA编程入门⑦】HPC算子开发实战:从优化方法论到业务落地本文是「CUDA编程与HPC高性能计算」系列的第七篇。前面我们学了CUDA编程、性能优化、经典算子实现、CPU并行……但这些都是"单点技能"。真实的HPC算子开发是怎样的?核心优化技术有哪些?不同平台有什么差异?业务算子怎么优化?训练算子和推理算子又有什么不同?本文把这些串起来,给你一个完整的HPC算子开发全景。
Zzj_tju4 天前
人工智能·机器学习·语言模型·自然语言处理
32 分钟不是完成科研:多智能体读脑图谱,突破在哪里?封面为 AI 生成的概念示意,不是论文原图、真实脑组织影像或实验结果。如果数千个 AI 智能体只用 32 分钟,就能梳理一份庞大的脑科学数据,我们应该惊讶什么?是模型终于能“独立做科研”,还是科研流程中的某个环节开始出现新的组织方式?
Dawson Zhu4 天前
人工智能·语言模型·架构·aigc·agi
【CUDA编程入门②】CUDA性能优化基础:内存访问、Warp Shuffle与Occupancy调优本文是「CUDA编程与HPC高性能计算」系列的第二篇。会写CUDA kernel只是第一步,写得快才是真本事。CUDA性能优化说复杂也复杂,说简单也简单——核心就是两件事:内存和计算。本文把最基础、最常用的优化技术一网打尽,掌握这些,你的kernel性能就能上一个大台阶。
DFT计算杂谈4 天前
人工智能·语言模型·自然语言处理
基于大语言模型的用户画像提取与修正操作以 Kimi 平台为例的系统级交互指令规范在长文本交互与复杂任务处理场景中,大语言模型(LLM)的系统记忆机制决定了输出结果的精确度与风格。由于平台默认的“记忆摘要”往往偏向宽泛且包含大量无意义修饰语,用户需通过特定指令对系统画像进行重写与固化。