小电影字幕的生成(Whisper)和翻译(ChatGPT)

一. 字幕对于不同语言的电影来说都是非常重要的。

对于观看非母语电影的人群,字幕能够帮助观众更好地理解对话和情节发展。

二. 电影字幕的生成

电影字幕的生成,依赖语音转文本(Speech-to-Text,STT)的技术。

随着语音技术和机器学习的发展,语音转文本技术也取得了长足的进步。

而OpenAI的Whisper是目前识别率较高的模型。下面讲展示如何调用Whisper来得到电影的字幕.

Whisper是一种自动语音识别(ASR)系统,它是基于680,000小时的多语言和多任务监督数据进行训练的,使用了大量的多样化音频数据进行训练,并且具有多任务的能力。

Whisper可以识别的语言包括但不限于中文、英语、日语、西班牙语、法语、德语、意大利语、葡萄牙语、荷兰语、俄语和韩语等。

1. 生成电影的字幕文件

Whisper文件上传目前限制为25 MB,支持以下输入文件类型:mp3、mp4、mpeg、mpga、m4a、wav和webm。为了减少上传文件的体积,可以先提取电影的声音到mp3文件。

FFmpeg是一个开源的跨平台音视频处理工具集,它提供了丰富的功能和命令行工具,用于处理、转码、编辑和流媒体处理等任务

1.1 使用FFmpeg把视频转换成音频:

css 复制代码
ffmpeg -i input.mp4 -vn -acodec libmp3lame -q:a 6 output.mp3

这将从 input.mp4 的文件中提取音频,并将其保存为output.mp3文件。

在这个命令中,使用了libmp3lame编解码器来编码音频为MP3格式,并且通过-q:a参数指定了音频质量,值越小质量越低,一般取值范围为0-9,其中0为最高质量。

1.2 调用Whisper生成字幕文件

ini 复制代码
curl https://api.openai.com/v1/audio/transcriptions \
  -H "Authorization: Bearer {替换成你的OpenAI API KEY}" \
  -H "Content-Type: multipart/form-data" \
  -F file="@output.mp3" \
  -F model="whisper-1" \
  -F response_format="srt" > output.srt

output.mp3 是上一步生成的音频文件,output.srt 是语音识别出来的字幕文件.

如果在内网连不上OpenAI,可以通过添加 -x proxyHost:proxyProxy 参数来处理.

另外还可以通过指定语音的语言和使用ChatGPT修正字幕的错别字和标点符号.

2. 使用ChatGPT翻译电影字幕

ChatGPT不支持直接翻译文件,可以考虑通过第三方工具来翻译. 例如:

如何使用ChatGPT翻译文档(PDF/EPUB/Word/Excel/PowerPoint/SRT)?

CahtGPT翻译的优势主要在于关联上下文,就是可以根据字幕文本相邻句子来优化翻译的效果, 比起机器翻译要更精确和流程一些.

相关推荐
汤姆宝库4 小时前
BPE分词器的完整实现:字节对合并与词表构建
开发语言·人工智能·c#
岁月宁静4 小时前
从零拆解 AI 语音模拟面试系统
人工智能·python·agent
武子康5 小时前
H3-World 接入 Game Agent:谁来判断门真的打开了?
人工智能·算法·机器学习
可乐ea5 小时前
MCP 和 CLI 差 42 倍:一次 GitHub 任务的上下文成本实测
人工智能·github·工具调用·ai智能体·openrouter·mcp协议·上下文优化
kyriewen6 小时前
编辑弹窗点了取消,列表里的数据怎么还是变了?
前端·javascript·人工智能
泯泷6 小时前
Multica 真正打动我的,不是更多 Agent,而是一种新的团队协作方式
人工智能·llm·agent
电科_银尘6 小时前
【深度学习项目实战·22】灰度图像着色:用小型U-Net学习从灰度到RGB
人工智能·深度学习·学习
阿里云大数据AI技术6 小时前
云栖实录|倍思科技 × 阿里云:让VOC洞察从“生成报告”走向“业务可用”
人工智能·elasticsearch·agent
AllData公司负责人7 小时前
第九篇:AI大模型数据开发底座系列说明书:AllData集成BISHENG开源项目建设大模型应用开发底座,涵盖可视化编排/智能助手/一键API/模型接入!
人工智能·云原生·数据分析·视觉检测·知识图谱·大模型应用·bisheng
数字新视界7 小时前
数据中心DCIM管理系统助力提升机房管理效率与安全性
大数据·人工智能·物联网·信息与通信·动环监控系统