在Windows平台上,用你的RTX 5060 Ti 16GB显卡搭建本地Whisper语音转文字服务,主要有几种方式:从开箱即用的图形界面,到追求极致速度的命令行,再到能集成其他AI应用的API服务。我整理了详细的步骤,你可以根据自己的技术背景和需求来选择。
🚀 核心方案速览
| 特性 | 方案一:Whisper-WebUI 图形界面 | 方案二:OpenAI-Whisper 命令行 | 方案三:Faster-Whisper API 服务 |
|---|---|---|---|
| 易用性 | ⭐⭐⭐⭐⭐ 非常容易 | ⭐⭐⭐ 需要熟悉命令行 | ⭐⭐ 需要一些开发知识 |
| 核心优势 | 开箱即用,有字幕翻译等高级功能 | 最通用的方案,便于学习和测试 | 性能最强,显存占用少,适合处理大量文件 |
| 性能表现 | 取决于后端 | 基础速度 | 约55倍 实时速度,1小时音频仅需65秒 |
| 适合场景 | 日常快速转写、字幕制作 | 学习Whisper、进行简单脚本开发 | 搭建本地API、批量转写、与其他AI应用联动 |
🛠️ 通用前置准备 (方案一和方案二)
- 安装 Python :去官网下载并安装 Python (推荐3.8-3.10版本)。安装时一定要勾选"Add Python to PATH"。
- 安装 FFmpeg :这是一个处理音视频的必备工具。
- 去 FFmpeg 官网下载 Windows 版本,解压后,将
bin文件夹的路径添加到系统的环境变量PATH中。
- 去 FFmpeg 官网下载 Windows 版本,解压后,将
💎 方案详解
方案一:图形界面(最简单)
如果你不想接触命令行,这是最好的选择。
- 获取并安装 Whisper-WebUI:这是一个带界面的整合包,可以直接下载。你可以在B站等平台搜索"Whisper-WebUI"找到教程和下载链接。
- 配置与运行 :下载解压后,启动程序,在设置里确保模型推理设备选择了你的 NVIDIA GeForce RTX 5060 Ti。之后就可以在界面上传音视频文件进行转写了,它还支持直接提取字幕和翻译。
方案二:命令行(最经典)
适合想通过几行命令快速体验,或编写Python脚本的开发者。
-
安装核心库 :打开 CMD 或 PowerShell,输入以下命令安装 OpenAI 的 Whisper 库:
bashpip install openai-whisper -
命令行直接转写 :安装好后,一行命令就能开始转写。这里会使用到
large-v3模型,它是目前准确率最高的模型之一。bash# 转写中文音频,并直接生成SRT字幕文件 whisper 你的音频文件.wav --model large-v3 --language Chinese --output_format srt关键参数说明:
--model: 模型选择,large-v3精度最高,需要16GB显存支持。--language: 源语言,指定Chinese可大幅提升中文识别准确率。--output_format: 输出格式,如txt、srt、vtt等。
方案三:高性能 API 服务(最强大)
这是最能发挥你RTX 5060 Ti性能的方案,适合需要高吞吐量、批量处理或想为其他程序提供转写服务的开发者。
这个方案的核心是使用 Faster-Whisper ,它利用 CTranslate2 库,能将模型重写为更高效的格式,实现比原版快4倍的速度,同时只占用一半的显存 。例如,large-v3-turbo模型在INT8量化后,仅需约1.6GB 显存就能达到55倍的实时速度。
部署步骤:
-
使用 Docker 部署(推荐) :
如果你安装了Docker,这是最快捷的方式。下面这条命令会启动一个和OpenAI API接口兼容的服务。
bashdocker run --gpus all -p 8000:8000 \ -e WHISPER__MODEL=large-v3-turbo \ -e WHISPER__COMPUTE_TYPE=int8_float16 \ fedirz/faster-whisper-server:latest-cuda服务启动后,你就可以像调用OpenAI API一样来调用它了:
pythonfrom openai import OpenAI client = OpenAI(api_key="none", base_url="http://localhost:8000/v1") with open("meeting.mp3", "rb") as f: result = client.audio.transcriptions.create(model="whisper-1", file=f) print(result.text) -
使用 FastAPI 手动搭建 :
如果你偏好用Python直接控制,可以先安装依赖库:
bashpip install faster-whisper fastapi uvicorn然后创建一个Python脚本,内容如下:
pythonfrom fastapi import FastAPI, UploadFile from faster_whisper import WhisperModel import io app = FastAPI() # 初始化模型,显存占用会非常小 model = WhisperModel("large-v3-turbo", device="cuda", compute_type="int8_float16") @app.post("/v1/audio/transcriptions") async def transcribe(file: UploadFile): segments, info = model.transcribe(io.BytesIO(await file.read()), beam_size=5) return { "text": " ".join(s.text for s in segments), "language": info.language, }保存后用以下命令运行服务:
bashuvicorn your_script_name:app --port 8000
🚀 更高级的玩法:进阶应用场景
你的RTX 5060 Ti 16GB显存不仅能轻松跑Whisper,甚至有余力搭建更复杂的应用:
- 完整的语音助手:将Whisper (语音识别) + Llama 3.1 8B (对话模型) + Kokoro TTS (语音合成) 串联,打造一套端到端延迟仅约630毫秒的本地语音助手。
- 会议/研讨会纪要生成:先用Whisper转写,再结合说话人分离模型和语言模型,自动生成带发言人标签和章节摘要的会议记录,一段60分钟的音频大约15分钟就能处理完。