如何让后台运行llamafactory-cli webui 即使关掉了ssh远程连接 也在运行

要在关闭 SSH 远程连接后继续运行 llamafactory-cli webui,可以使用以下几种方法将进程放入后台运行:


方法 1:使用 nohup

nohup 是一个常用的工具,可以让进程在关闭终端后继续运行。

步骤:
  1. 运行以下命令:

    bash 复制代码
    nohup llamafactory-cli webui > webui.log 2>&1 &
    • nohup:让进程忽略挂断信号(SIGHUP),即使关闭终端也不会终止。
    • > webui.log:将标准输出重定向到 webui.log 文件。
    • 2>&1:将标准错误输出也重定向到 webui.log 文件。
    • &:将进程放入后台运行。
  2. 关闭 SSH 连接后,进程会继续运行。日志会保存在 webui.log 中。

  3. 如果需要查看日志,可以使用:

    bash 复制代码
    tail -f webui.log
  4. 如果需要终止进程,可以先找到进程 ID:

    bash 复制代码
    ps aux | grep llamafactory-cli

    然后使用 kill 命令终止:

    bash 复制代码
    kill <PID>

方法 2:使用 tmux

tmux 是一个终端复用工具,可以创建持久化的会话,即使关闭 SSH 连接也不会中断。

步骤:
  1. 安装 tmux(如果未安装):

    bash 复制代码
    sudo apt-get install tmux  # Ubuntu/Debian
    sudo yum install tmux      # CentOS/RHEL
  2. 创建一个新的 tmux 会话:

    bash 复制代码
    tmux new -s webui_session
  3. tmux 会话中运行 llamafactory-cli webui

    bash 复制代码
    llamafactory-cli webui
  4. 按下 Ctrl + B,然后按 D 分离会话(detach),程序会在后台继续运行。

  5. 关闭 SSH 连接后,重新连接时可以使用以下命令恢复会话:

    bash 复制代码
    tmux attach -t webui_session
  6. 如果需要终止会话,可以在恢复会话后按 Ctrl + C 停止程序,然后输入 exit 退出会话。


方法 3:使用 screen

screen 是另一个终端复用工具,功能类似于 tmux

步骤:
  1. 安装 screen(如果未安装):

    bash 复制代码
    sudo apt-get install screen  # Ubuntu/Debian
    sudo yum install screen      # CentOS/RHEL
  2. 创建一个新的 screen 会话:

    bash 复制代码
    screen -S webui_session
  3. screen 会话中运行 llamafactory-cli webui

    bash 复制代码
    llamafactory-cli webui
  4. 按下 Ctrl + A,然后按 D 分离会话(detach),程序会在后台继续运行。

  5. 关闭 SSH 连接后,重新连接时可以使用以下命令恢复会话:

    bash 复制代码
    screen -r webui_session
  6. 如果需要终止会话,可以在恢复会话后按 Ctrl + C 停止程序,然后输入 exit 退出会话。


方法 4:使用 systemd 服务

如果希望将 llamafactory-cli webui 作为一个系统服务运行,可以使用 systemd

步骤:
  1. 创建一个服务文件:

    bash 复制代码
    sudo nano /etc/systemd/system/llamafactory-webui.service
  2. 在文件中添加以下内容:

    ini 复制代码
    [Unit]
    Description=LLaMAFactory WebUI Service
    After=network.target
    
    [Service]
    ExecStart=/path/to/llamafactory-cli webui
    WorkingDirectory=/path/to/working/directory
    Restart=always
    User=your_username
    
    [Install]
    WantedBy=multi-user.target
    • /path/to/llamafactory-cli 替换为 llamafactory-cli 的实际路径。
    • /path/to/working/directory 替换为工作目录。
    • your_username 替换为运行服务的用户。
  3. 保存并退出编辑器。

  4. 重新加载 systemd 配置:

    bash 复制代码
    sudo systemctl daemon-reload
  5. 启动服务:

    bash 复制代码
    sudo systemctl start llamafactory-webui
  6. 设置开机自启动:

    bash 复制代码
    sudo systemctl enable llamafactory-webui
  7. 查看服务状态:

    bash 复制代码
    sudo systemctl status llamafactory-webui
  8. 如果需要停止服务:

    bash 复制代码
    sudo systemctl stop llamafactory-webui

总结

  • 如果只是临时运行,推荐使用 nohuptmux
  • 如果需要长期运行并管理,推荐使用 systemd 服务。
  • 选择适合你的方法,确保 llamafactory-cli webui 在关闭 SSH 后继续运行。
相关推荐
SilentSamsara1 分钟前
类型注解进阶:Union、Optional、Any 与 Callable
开发语言·python·青少年编程
爱喝热水的呀哈喽1 分钟前
gpt:RAG步骤
人工智能·python·机器学习
历程里程碑1 分钟前
56 . 高效ET非阻塞IO服务器设计指南
java·运维·服务器·开发语言·数据结构·c++·排序算法
ViiTor_AI2 分钟前
AI短剧译制Pipeline实战
人工智能
feng14564 分钟前
OpenSREClaw - 混沌工程驱动的风险防控利器
人工智能
Fleshy数模5 分钟前
课堂教学质量评估系统:基于加权欧氏距离的评分实现
python·llm
QiZhang | UESTC6 分钟前
InstructGPT_论文精读笔记
人工智能·笔记·深度学习
恣艺6 分钟前
Python 游戏开发与文件处理:PyGame + Turtle + openpyxl + python-docx + PyPDF2
开发语言·python·pygame
侃谈科技圈8 分钟前
模型之外,声网定义了AI交互新标准
人工智能
weixin_5536544810 分钟前
ChatGPT好用还是Gemini好用?
人工智能·chatgpt·大模型