onnx

不用上传服务器！用 Vue3 + ONNX Runtime Web 在浏览器本地实现智能抠图做在线工具站这段时间，被问得最多的一个问题是：你的图片处理为什么不上传服务器？起因其实很朴素。平时经常要压个图、转个格式、从 PDF 里抠个表格，每次都要临时找网站。有的要注册，有的限制次数，有的传上去要等半天——更关键的是，你永远不知道自己的文件会不会就留在别人服务器上了。但这些事技术上并不难，为什么非得经过别人的服务器？于是自己做了一个在线工具箱（38 款工具），核心设计原则只有一条：能在浏览器本地跑完的，绝不上传。目前 38 款工具里，37 款的处理逻辑完全在浏览器本地，文件不离开用户设备。

大鹏的NLP博客

ONNX Runtime CUDA 推理优化实战：破解 C++ 比 Python 慢 28 倍的假象在深度学习模型部署落地过程中，工程师常会遇到“推理速度不达预期”的问题。面对性能瓶颈，常见的直觉是盲目调整线程数、频繁开关各种硬件选项，甚至怀疑 C++ 包装层或框架本身的性能。

在 Oracle APEX 中用 BGE_BASE 生成向量：从模型导入到历史数据更新向量检索的第一步，是把文本转成向量。笔者这里使用 Oracle 数据库中的 ONNX 模型 BGE_BASE，并在 APEX 调用匿名块，为历史内容生成或更新向量。

从 PyTorch 权重到 RK3588 板端推理：ResNet18 二分类模型完整部署教程在边缘 AI 项目中，模型训练（PyTorch）与最终部署（RK35xx 系列 NPU 板卡）之间隔着一条"格式鸿沟"：RKNN 工具链不能直接读取 *.pth，必须经过 ONNX 中间表示才能进入 Rockchip 的专有格式。这条链路看似只有两个转换命令，真正决定成败的却是预处理一致性、量化标定、运行库版本配套这些细节。

ONNX生态简介与实战：ONNX Runtime官网，ONNX是Open Neural Network Exchange的缩写，作为一种开放开源（GitHub，21.2K Star，4K Fork）的神经网络交换格式，能够实现不同深度学习框架间的模型转换与共享，使得基于ONNX的模型可以在多种环境下高效运行。

大鹏的NLP博客

深度学习模型PyTorch与ONNX数值一致性校验通用技术报告（工业级技术规范 / R&D Engineering Guideline）在深度学习模型工程化部署流程中，将 PyTorch 训练完成的模型导出为 ONNX（Open Neural Network Exchange）通用中间格式，进而开展模型量化、端侧推理适配等后续工作，是模型落地部署的标准链路。在 PyTorch 模型向 ONNX 格式转换的核心环节，框架运行模式差异、算子底层实现不一致、数据预处理逻辑拆分、浮点计算精度不统一、随机计算分支生效等诸多因素，均会引入数值计算偏差。此类偏差在深度网络中会逐步

阿钱真强道

13 YOLOv8的ONNX输出结构——9个张量如何变成检测框一句话总结：YOLOv8 导出为 ONNX 后，输出 9 个张量——3 个检测头 × 3 个分支（box、cls、DFL）。每个张量是一个 4 维数组，6400+1600+400 个网格各装一个"信息包"，解码后得到框坐标和类别置信度。

神经网络模型导出及开放标准格式ONNX本文在上一篇文章的基础上，继续深入的分析模型格式及导出，重点分析PyTorch导出格式pt及开放标准格式ONNX。

再一次等风来

YOLO26 实测记录：从模型下载、预测验证到 ONNX Runtime 推理部署本文记录一次 YOLO26 模型的完整测试流程，主要包括环境验证、官方模型下载、测试模型预测、自定义数据集训练、模型导出为 ONNX、.pt 与 .onnx 推理结果对比，以及使用 ONNX Runtime 手动验证导出的 ONNX 模型。

慢慢向上的蜗牛

Qwen3-0.6B ONNX（KV-Cache）模型部署本项目演示 Qwen3-0.6B ONNX 模型通过 onnxruntime 加载并进行自回归推理的完整实现。

指尖在键盘上舞动

RKNN 模型部署：onnx转rknn后精度下降 —— 精度调优与问题排查问题：pytorch->onnx(sim)->rknn转换，rknn跑在RK3588 Ubuntu Arm Npu架构上，精度断崖式下降，20%~30%甚至更大。

PaddleDetection转ONNX 填坑Git PaddleDetection 版本为最新2.9教程地址 https://github.com/PaddlePaddle/PaddleDetection/blob/release/2.9/deploy/EXPORT_ONNX_MODEL.md PP-YOLOE OP11 = py3.11 仅支持batch=1推理；模型导出需固定shape

字幕视频合成音频 + 背景图 + 字幕合成硬/软字幕 MP4 视频。基于 Eclipse RCP 技术框架开发,企业级应用的技术。核心组件

语音识别 (ASR)集成 Paraformer 模型，WAV 音频精准转写为带标点文本。基于 Eclipse RCP 技术框架开发,企业级应用的技术。核心组件

java调用yolo26n.onnx模型输出图像推理检测是通过ultralytics-yolo的源码将yolo26n.pt的模型转换成onnx格式，将pt格式的模型转换成onnx，ONNX Runtime 支持各种平台，例如 Windows、macOS 和 Linux，可以使用 ONNX Runtime 运行，java貌似支持。ONNX Runtime 可以提供高达 3 倍的 CPU 加速。

模型部署优化：ONNX与TensorRT实战——从训练到推理的完整优化链路深度学习模型从实验室到生产环境的部署过程中，推理性能往往是最大的瓶颈。本文系统讲解ONNX（Open Neural Network Exchange）和TensorRT两大核心工具，详细介绍模型转换、推理优化、量化压缩、结构剪枝等关键技术。通过ResNet图像分类模型的完整实战案例，演示如何将模型推理速度提升5-10倍，同时保持精度损失在可接受范围内。读者将掌握模型部署优化的完整方法论，能够在实际项目中实现高效、低成本的模型推理服务。

Techblog of HaoWANG

目标检测与跟踪（10）-- Jetson Xavier NX刷机、移植&部署YOLOv8量化模型（中）Run CMD Task:[dpkg --print-architecture] [-][0.01s] CMD Result:success

weixin_46846685

PyTorch导出ONNX格式分割模型及在C#中调用预测ONNX（Open Neural Network Exchange）是一种开放的神经网络交换格式，旨在促进不同深度学习框架之间的互操作性。它使用protobuf二进制格式来序列化模型，从而提供更好的传输性能。

从零实现一个生产级 RAG 语义搜索系统：C++ + ONNX + FAISS 实战既然是“从零实现”，本文暂不深入探讨繁复的理论背景，而是先聚焦一个核心问题：语义化搜索中的“语义化”到底是什么意思？

ultralytics.utils.export——engine.py、imx.py、tensorflow.py各模型导出子模块代码详读这个export模块实现了Ultralytics YOLO项目的模型多种不同格式导出功能，主要包含：engine.py：核心格式转换引擎