nvidia

扫地的小何尚

NVIDIA RTX 系统上使用 llama.cpp 加速 LLM适用于 Windows PC 的 NVIDIA RTX AI 平台提供了一个蓬勃发展的生态系统，其中包含数千种开源模型，供应用程序开发人员利用并集成到 Windows 应用程序中。值得注意的是，llama.cpp 是一款流行的工具，在撰写本文时拥有超过 65,000 个 GitHub 星标。这个开源存储库最初于 2023 年发布，是一个轻量级、高效的大型语言模型 (LLM) 推理框架，可在包括 RTX PC 在内的一系列硬件平台上运行。

布鲁格若门

AMD CPU下pytorch 多GPU运行卡死和死锁解决https://medium.com/@amitparekh/solving-ddp-deadlock-with-multiple-gpus-and-amd-cpus-442186632034

【一文搞懂】GPU硬件拓扑与传输速度今天查询华为昇腾算力卡的时候发现了一个非常好的博客，讲述了英伟达GPU与华为NPU的一些基础概念，特分享如下。

moffee模型部署教程moffee 是一个开源幻灯片制作工具，可以将 markdown 文档转换为干净、专业的幻灯片。基础环境最低要求说明：

Ubuntu20.04 更新Nvidia驱动 + 安装CUDA12.1 + cudnn8.9.7最近客户给了几台GPU服务器，长期放置落灰那种，然后想利用起来，所以上去看看了配置，系统是Ubuntu20.04，相关的驱动版本稍嫌老一些，所以需要更新Nvidia驱动，同时在安装CUDA和CUDNN，查看了显卡型号之后，打算使用onnxruntime进行推理，对比了版本，最后选择了CUDA12.1 + CUDNN8.9.7。

NVIDIA 发布适用于网络安全的 NIM Blueprint德勤使用适用于容器安全的 NVIDIA NIM Agent Blueprint 帮助企业利用开源软件构建安全的 AI。

Ubuntu安装nvidia显卡驱动一、安装依赖1、更新sudo apt updatesudo apt upgrade -y2、基础工具sudo apt install -y build-essential cmake

麒麟系统离线安装英伟达驱动进入显卡驱动查询页面，下载对应的显卡驱动，页面如下：进入CUDA-Toolkit页面，下载对应的CUDA-Toolkit，页面如下：

【DIY小记】新手小白超频i9-12900kf和3070ti经验分享最近cs2更新了之后，因为总是解决fps过高的问题，导致游戏性能降的非常明显。笔者组的老土机子先前一直没有搞超频，现在也不得不睿一下保证游戏能够稍微流畅的运作，最终比以前稍微提升了50fps左右，cs2的dust2-benchmark地图能勉强达到平均400fps。本文就分享一下笔者在这块的粗浅经验，有什么技术概念性问题也麻烦大家指正。

大模型生成PPT大纲优化方案：基于 nVidia NIM 平台的递归结构化生成大模型生成PPT大纲优化方案：基于 nVidia NIM 平台的递归结构化生成生成PPT大纲是一种大模型在办公场景下应用的常见需求。

Windows 环境搭建 CUDA 和 cuDNN 详细教程CUDA（Compute Unified Device Architecture）是由NVIDIA公司推出的一个并行计算平台和编程模型，它允许开发者使用NVIDIA GPU进行通用计算（即GPGPU），从而加速各种计算密集型任务。CUDA提供了一套基于C/C++的编程语言扩展，使得开发者能够编写在GPU上运行的代码，利用GPU的并行处理能力来提升程序性能。

英伟达NVIDIA数字IC后端笔试真题（ASIC Physical Design Engineer）今天小编给大家分享下英伟达NVIDIA近两年数字IC后端笔试真题（ASIC Physical Design）

读书,代码与猫

【裸机装机系列】10.kali(ubuntu)-安装nvidia独立显卡步骤裸机安装linux，其中一个原因可能就是要用nvidia显卡，之前已经安装好了内核头linux kernel，就可以继续安装nvidia显卡驱动了。

完整指南：CNStream流处理多路并发框架适配到NVIDIA Jetson Orin (四) 运行、调试、各种问题解决目录1 调试jetson-mpeg视频解码模块1.1 修改config.json1.2 Picture size 0x0 is invalid

白云千载尽

nvidia-cuda-tensorrt-cudnn下载网站tensorrt:https://developer.nvidia.com/tensorrt/download cudnn:https://developer.nvidia.com/rdp/cudnn-archive cuda:https://developer.nvidia.com/cuda-toolkit-archive

「bug」nvitop ERROR: Failed to initialize cursesnvitop 作为一个优秀个 Nvidia显卡查询库，简单易用且显示信息十分丰富，相比 Nvidia-smi 更方便，简直是每个开发人员必备的库，安装也十分方便，直接采用 pip install nvitop 即可，调用的时候也是直接在 Terminal 中输入 nvitop 即可，按 Q 键即可退出 nvitop

flypig哗啦啦

nvidia系列教程-AGX-Orin linux源码下载编译目录前言一、准备工作二、源码下载三、源码编译配置总结NVIDIA AGX Orin 是一款高性能的嵌入式计算平台，广泛应用于人工智能、自动驾驶、机器人等领域。为 AGX Orin 编译定制的 Linux 内核，可以更好地适应特定应用需求，增强系统的灵活性。本文将详细介绍如何下载、配置和编译适用于 AGX Orin 的 Linux 内核源码。

NullPointerExpection

windows 使用 ffmpeg + cuda 进行视频压缩测试

小李飞刀李寻欢

NVIDIA-SMI couldn‘t find libnvidia-ml.so library in your systemNVIDIA-SMI couldn't find libnvidia-ml.so library in your system. Please make sure that the NVIDIA Display Driver is properly installed and present in your system. Please also try adding directory that contains libnvidia-ml.so to your system PATH.

扫地的小何尚

NVIDIA 全面转向开源 GPU 内核模块借助 R515 驱动程序，NVIDIA 于 2022 年 5 月发布了一组 Linux GPU 内核模块，作为具有双重 GPL 和 MIT 许可的开源模块。初始版本针对数据中心计算 GPU，GeForce 和 Workstation GPU 处于 alpha 状态。