transformer

老唐7774 小时前
人工智能·python·深度学习·神经网络·计算机视觉·ai·transformer
Transformer原理大白话讲解想象你有一个全自动翻译机:左边塞一句中文进去,右边吐出一句英文出来。这就是 Transformer 最初被设计出来的目的——做机器翻译。但别小看它,今天所有大语言模型(LLM)本质上都在做同一件事:给一段文字,预测下一个最可能出现的词。
kyrie_sakura2 天前
学习·自然语言处理·transformer
大模型学习15 - npl自然语言处理16 - Transformer模型API(PyTorch)PyTorch 提供了对 Transformer 的官方实现,该模块封装了完整的编码器-解码器结构,可直接应用于机器翻译、文本生成等典型的序列建模任务。
老唐7772 天前
人工智能·深度学习·opencv·目标检测·计算机视觉·ai·transformer
(附代码)使用OpenCV和关键点检测计算瓶子角度计算机视觉中的关键点检测是一种用于识别图像中独特点或位置的技术,可用作进一步分析的参考,例如对象识别、姿态估计或运动跟踪等。
高洁012 天前
人工智能·深度学习·机器学习·transformer·tornado
世界模型环境预测与内在表征基础原理世界模型环境预测与内在表征基础原理一、世界模型的定义:智能体内部的环境预测表征 二、世界模型的三大基础模块:编码、表征、预测 三、概率预测:世界模型不确定性表达原理 四、世界模型辅助智能体规划推理的底层机制 五、世界模型底层原理带来的能力约束 #世界模型 #数字孪生 #大模型 #人工智能
朝朝辞暮i3 天前
人工智能·pytorch·深度学习·transformer·vla
第 22 课:Conditional 1D U-Net——Diffusion Policy 怎样理解一整段未来动作?上一课我们已经完成了 Diffusion Policy 最重要的一段数学基础:从前向加噪的概率模型出发,理解网络如何预测噪声,以及 DDPM 如何逐步生成动作。
147API3 天前
深度学习·架构·transformer
AWS Priming 怎样用层级蒸馏,把 Transformer 改造成混合架构如果只是拿到一个模型的 API,我们通常只能收集它的输出,让学生学习回答或动作。拿得到权重和中间层时,能力迁移还有另一条路:保留大部分已有结构,替换部分计算模块,再让新模块对齐原模块。
Uncertainty!!3 天前
人工智能·深度学习·transformer
大模型基础架构之Transformer(1)Encoder-Decoder架构 (2)Decoder-only架构 (3)Encoder-only架构
Phoenixtree_DongZhao3 天前
人工智能·rnn·transformer
[CVPR2026] 视觉 Mamba:RNN 与线性 Transformer 的统一视角论文:RNN as Linear Transformer: A Closer Investigation into Representational Potentials of Visual Mamba Models 作者:Timing Yang、Feng Wang、Guoyizhe Wei,Johns Hopkins University;CVPR 2026。 本文将正文与附录的理论、实验和实现细节合并介绍。标为“阅读理解”或“公式核查”的段落是基于原文的解读;其余结论均对应原论文。配图沿用原论文编号。
朝朝辞暮i3 天前
人工智能·深度学习·神经网络·transformer·vla
VLA 系统学习第 21 课——DDPM 与 Noise Scheduler:扩散模型究竟怎样从随机噪声生成机器人动作?想先说明一下,ddpm这里讲的并不好,比如说为什么系数要用根号值,为什么没有用条件概率表示却突然用epsilon去逼近神经网络最优参数等等,其中包含一些概率论与数理统计/马尔科夫决策链/詹森不等式/KL散度知识,我找了一个讲的最好的动画,公式推导的很牛逼;听一遍,整个人都通畅了;[动画] 扩散模型DDPM全解析_哔哩哔哩_bilibili;
高洁014 天前
人工智能·python·深度学习·机器学习·transformer
AI赋能产业升级与中美未来经济赛道博弈AI赋能产业升级与中美未来经济赛道博弈一、深耕智能制造,夯实实体经济核心根基二、赋能全域业态,激活传统产业全新活力三、培育新兴业态,抢占未来产业竞争赛道四、优化产业结构,推动经济高质量转型五、坚守实体为本,构建良性产业竞争格局#大模型 #大国博弈 #人工智能 #世界模型
田里的水稻4 天前
人工智能·深度学习·神经网络·机器学习·transformer
LLM_Transformer的神经网络LLM:Large Language Mode先澄清一个关键点:Transformer 依然是人工神经网络,但它不是传统感知机那种单个神经元堆叠的视角,它的基础单元是向量、矩阵运算、多头注意力、MLP;但里面依然包含神经元、权重连接、激活函数。
python与大数据分析4 天前
cnn·开源·transformer
CNN+Transformer+Mamba 16 模型全景对比|DeepGlobe 遥感土地覆盖分割最全开源工程基于 DeepGlobe 土地覆盖数据集,用一套统一协议训练并对比 16 个分割模型(15 个主线模型:CNN、Transformer、Mamba、混合架构;外加 4090 实验线 wangbq-net)。文后提供gitee代码地址,也算是这段时间的学习告一段落了
朝朝辞暮i4 天前
人工智能·python·深度学习·transformer·vla
VLA 系统学习第 20 课——Diffusion Policy 为什么要先给动作加噪,再学习把噪声去掉?原论文:Diffusion Policy: Visuomotor Policy Learning via Action Diffusion;官方实现:real-stanford/diffusion_policy。论文提出将机器人动作策略建模为条件去噪扩散过程,并结合视觉条件与滚动时域控制。
朝朝辞暮i4 天前
人工智能·pytorch·深度学习·transformer·vla
第一部分:ACT 阶段总结——从 Behavior Cloning 到完整的 Transformer Action Policy经过第 1~19 课,我们已经从最简单的神经网络训练,逐步走到了第一个完整的机器人操作学习模型:ACT(Action Chunking with Transformers)。
杀生丸学AI4 天前
深度学习·3d·transformer·三维重建·自回归·高斯泼贱
【三维重建】GaussianGPT:迈向自回归三维高斯场景生成图 1:GaussianGPT 是一种用于三维高斯场景生成的纯自回归方法。本方法仅需单一模型,即可实现无条件场景生成、场景补全以及大规模场景合成。
TechWayfarer5 天前
人工智能·网络协议·tcp/ip·transformer
精度极限的突破:AI与IPv6如何重塑高精度IP查询IP定位查询长期受困于精度不足,移动网络误差动辄上百公里。2026年,IPv6结构化分配、Graph Transformer等AI算法以及低轨卫星互联网,正从三个方向突破这一瓶颈。本文梳理技术原理、实测数据与工程落地路径,回答一个核心问题:精度天花板到底被打破到了什么程度。
hunteritself5 天前
大数据·前端·人工智能·深度学习·transformer
10 层 4K 实时剪辑,国产工作站进入广电制作核心电影散场,观众记住的是故事和画面。对制作行业来说,支撑这些画面的技术变化同样值得关注:超高清素材越来越多,剪辑、字幕、特效叠加之后,设备能否保持实时响应,直接影响内容生产的效率。
Gigavision5 天前
深度学习·算法·transformer
DEAP数据集 2026最新Transformer算法 DEAP 数据集 下载DEAP数据集下载:https://gitee.com/CodeStoreHub/deap-fatTransformer算法下载:https://gitee.com/CodeStoreHub/deap-fat
song5015 天前
分布式·react native·react.js·transformer·harmonyos
React Native for OpenHarmony 实战:三方库 react-native-parallax-scroll-view 的鸿蒙化适配指南本文记录把 react-native-parallax-scroll-view 适配到 HarmonyOS 的完整过程。
song5015 天前
css·深度学习·react native·react.js·transformer·harmonyos
React Native for OpenHarmony 实战:三方库 react-native-popup-menu 的鸿蒙化适配指南本文记录把 react-native-popup-menu 适配到 HarmonyOS 的完整过程。这个库是目前遇到的最省事的一个:纯 JS、零运行时依赖、没有 prepare、main 指向的 rollup 产物与上游逐字节一致。接入几乎不需要动脑。