免费和开源的机器翻译软件LibreTranslate

什么是 LibreTranslate ?

LibreTranslate 免费开源机器翻译 API,完全自托管。与其他 API 不同,它不依赖于 Google 或 Azure 等专有提供商来执行翻译。它的翻译引擎由开源 Argos Translate 库提供支持。

这个软件在 2022 年 3 月的时候折腾过,但当时容器会停止,从下面的文章看,应该可能是内存不够。

https://www.reddit.com/r/selfhosted/comments/yrdeyc/libretranslate_free_and_open_source_machine

毕竟翻译模型和语言模型都是很耗资源的,当然除了内存,最好还有 GPU 的支持。

今年 618 买了根内存条,所以又把它翻出来了,虽然才 8G,但确实跑起来了,也有可能是老苏选择的语言模型少的缘故。

文中部分截图还是使用的老图,但不会影响您的理解;

如果你不想自己搭建,可以去官方搭建的站点看看,网址:https://libretranslate.com

安装

在群晖上以 Docker 方式安装。

在注册表中搜索 libretranslate ,选择第一个 libretranslate/libretranslate,版本选择 latest。

  1. 本次折腾,latest 对应的版本是 v1.3.11;
  2. 如果你的主机带 nvidia 显卡,可以选择 latest-cuda 试试;

端口

本地端口不冲突就行,不确定的话可以用命令查一下

bash 复制代码
# 查看端口占用
netstat -tunlp | grep 端口号
本地端口 容器端口
5353 5000

环境

LibreTranslate 有很多命令行参数,可以参考官方的文档:https://github.com/LibreTranslate/LibreTranslate#arguments

【注意】:每个参数都有一个可以替代使用的等效环境变量。环境。变量会覆盖默认值,但优先级低于命令参数,并且在与 Docker 一起使用时特别有用。环境变量名称是等效命令参数名称的大写字母,带有LT前缀。

老苏没有使用环境变量,而是在命令行中输入了 --load-only en,zh,意思是只加载中文和英文。如果要使用环境变量,可以用 LT_LOAD_ONLY

命令行运行

命令行方式中,老苏对容器的最大内存使用量和 CPU 占用做了限制;当然机器够强的话,可以不做限制的;

docker cli 安装

如果你熟悉命令行,可能用 docker cli 更快捷

bash 复制代码
# 运行容器(低调内敛模式)
docker run -d \
   --restart unless-stopped \
   --name libretranslate \
   --cpu-shares="700" \
   --memory 4096m \
   -p 5353:5000 \
   libretranslate/libretranslate \
   --load-only en,zh

# 运行容器(火力全开模式)
docker run -d \
   --restart unless-stopped \
   --name libretranslate \
   -p 5353:5000 \
   libretranslate/libretranslate \
   --load-only en,zh

参数说明:

  • --cpus-shares="700":为容器提供更少比例的 CPU 周期,默认为 1024;
  • --memory 4096m;为容器的内存使用设置一个无法超越的硬限制;

从上图可以看到,第一次运行时,会下载我们设定的语言模型

docker-compose 安装

不推荐这种方式安装,会看不到容器的日志,原因不明;这会导致你不知道语言模型是否下载成功,因而不知道什么时候才能正常访问

也可以用 docker-compose 安装,将下面的内容保存为 docker-compose.yml 文件

yaml 复制代码
version: '3'

services:
  libretranslate:
    image: libretranslate/libretranslate
    container_name: libretranslate
    restart: unless-stopped
    # mem_limit: 4096m
    # cpu_shares: 700
    ports:
      - 5353:5000
    healthcheck:
      test: ['CMD-SHELL', './venv/bin/python scripts/healthcheck.py']
    command: --load-only en,zh

如果你想启用资源限制,可以去掉 # 号的注释;

然后执行下面的命令

bash 复制代码
# 新建文件夹 libretranslate 
mkdir -p /volume1/docker/libretranslate

# 进入 libretranslate 目录
cd /volume1/docker/libretranslate

# 将 docker-compose.yml 放入当前目录

# 一键启动
docker-compose up -d

运行

第一次运行会需要下载语言模型

当你在日志中看到 Running on http://0.0.0.0:5000 时,就可以在浏览器中输入 http://群晖IP:5353 ,并看到主界面了

复制了下面这段英文,试了下 英翻中

text 复制代码
Free and Open Source Machine Translation API. Self-hosted, offline capable and easy to setup.

又用下面这段中文,试了下 中翻英

text 复制代码
Plane 是一个简单的、可扩展的、开源的项目和产品管理工具。

LibreTranslate 翻译的

text 复制代码
Plane is a simple, expanded, open-source project and product management tool

百度翻译的

text 复制代码
Plane is a simple, scalable, open-source project and product management tool.

似乎看起来效果还可以对吧,此外还支持翻译文件,格式也比较丰富

至于 API 一般人也用不上,就不提了

参考文档

LibreTranslate/LibreTranslate: Free and Open Source Machine Translation API. 100% self-hosted, offline capable and easy to setup.

地址:https://github.com/LibreTranslate/LibreTranslate
Docker Container Memory & CPU Limit: Set Up and Manage Resources

地址:https://phoenixnap.com/kb/docker-memory-and-cpu-limit

相关推荐
EterNity_TiMe_39 分钟前
Docker服务越装越多记不住端口?我用Fenrus把NAS里的常用入口整理成一个导航页
运维·人工智能·docker·ai·容器·cpolar
吴声子夜歌1 小时前
Docker入门与实战——libnetwork插件化网络功能
网络·docker·容器
江湖有缘2 小时前
Docker实战 | 使用Docker部署HarborGuard容器安全扫描平台
安全·docker·容器
江湖有缘2 小时前
Docker实战 | 使用Docker部署Reubah文件转换器和图像处理器
docker·容器·eureka
for_ever_love__2 小时前
检索工具化封装:把 Elasticsearch、SQL、Confluence 包装成 Agent 的统一工具
agent·工具·封装·调用·rag·检索·做成
骑着蜗牛撵大象3273 小时前
ToolJet + PostgreSQL:后台表格、查询和流程,一次搭成可远程访问的业务系统
数据库·低代码·docker·postgresql·内部工具·tooljet
flytalei4 小时前
从 Docker Compose 到 K3s:逐浪笔记首次完整部署与故障排查实战
笔记·docker·容器
吴声子夜歌5 小时前
Docker入门与实战——高级网络功能
网络·docker
JavaPub-rodert14 小时前
Docker 日志为什么能把磁盘写爆?讲透 json-file、local、journald、日志轮转与 docker logs
docker·eureka·json
人生匆匆15 小时前
docker部署ceph集群
ceph·docker·容器