如何让后台运行llamafactory-cli webui 即使关掉了ssh远程连接 也在运行

要在关闭 SSH 远程连接后继续运行 llamafactory-cli webui,可以使用以下几种方法将进程放入后台运行:


方法 1:使用 nohup

nohup 是一个常用的工具,可以让进程在关闭终端后继续运行。

步骤:
  1. 运行以下命令:

    bash 复制代码
    nohup llamafactory-cli webui > webui.log 2>&1 &
    • nohup:让进程忽略挂断信号(SIGHUP),即使关闭终端也不会终止。
    • > webui.log:将标准输出重定向到 webui.log 文件。
    • 2>&1:将标准错误输出也重定向到 webui.log 文件。
    • &:将进程放入后台运行。
  2. 关闭 SSH 连接后,进程会继续运行。日志会保存在 webui.log 中。

  3. 如果需要查看日志,可以使用:

    bash 复制代码
    tail -f webui.log
  4. 如果需要终止进程,可以先找到进程 ID:

    bash 复制代码
    ps aux | grep llamafactory-cli

    然后使用 kill 命令终止:

    bash 复制代码
    kill <PID>

方法 2:使用 tmux

tmux 是一个终端复用工具,可以创建持久化的会话,即使关闭 SSH 连接也不会中断。

步骤:
  1. 安装 tmux(如果未安装):

    bash 复制代码
    sudo apt-get install tmux  # Ubuntu/Debian
    sudo yum install tmux      # CentOS/RHEL
  2. 创建一个新的 tmux 会话:

    bash 复制代码
    tmux new -s webui_session
  3. tmux 会话中运行 llamafactory-cli webui

    bash 复制代码
    llamafactory-cli webui
  4. 按下 Ctrl + B,然后按 D 分离会话(detach),程序会在后台继续运行。

  5. 关闭 SSH 连接后,重新连接时可以使用以下命令恢复会话:

    bash 复制代码
    tmux attach -t webui_session
  6. 如果需要终止会话,可以在恢复会话后按 Ctrl + C 停止程序,然后输入 exit 退出会话。


方法 3:使用 screen

screen 是另一个终端复用工具,功能类似于 tmux

步骤:
  1. 安装 screen(如果未安装):

    bash 复制代码
    sudo apt-get install screen  # Ubuntu/Debian
    sudo yum install screen      # CentOS/RHEL
  2. 创建一个新的 screen 会话:

    bash 复制代码
    screen -S webui_session
  3. screen 会话中运行 llamafactory-cli webui

    bash 复制代码
    llamafactory-cli webui
  4. 按下 Ctrl + A,然后按 D 分离会话(detach),程序会在后台继续运行。

  5. 关闭 SSH 连接后,重新连接时可以使用以下命令恢复会话:

    bash 复制代码
    screen -r webui_session
  6. 如果需要终止会话,可以在恢复会话后按 Ctrl + C 停止程序,然后输入 exit 退出会话。


方法 4:使用 systemd 服务

如果希望将 llamafactory-cli webui 作为一个系统服务运行,可以使用 systemd

步骤:
  1. 创建一个服务文件:

    bash 复制代码
    sudo nano /etc/systemd/system/llamafactory-webui.service
  2. 在文件中添加以下内容:

    ini 复制代码
    [Unit]
    Description=LLaMAFactory WebUI Service
    After=network.target
    
    [Service]
    ExecStart=/path/to/llamafactory-cli webui
    WorkingDirectory=/path/to/working/directory
    Restart=always
    User=your_username
    
    [Install]
    WantedBy=multi-user.target
    • /path/to/llamafactory-cli 替换为 llamafactory-cli 的实际路径。
    • /path/to/working/directory 替换为工作目录。
    • your_username 替换为运行服务的用户。
  3. 保存并退出编辑器。

  4. 重新加载 systemd 配置:

    bash 复制代码
    sudo systemctl daemon-reload
  5. 启动服务:

    bash 复制代码
    sudo systemctl start llamafactory-webui
  6. 设置开机自启动:

    bash 复制代码
    sudo systemctl enable llamafactory-webui
  7. 查看服务状态:

    bash 复制代码
    sudo systemctl status llamafactory-webui
  8. 如果需要停止服务:

    bash 复制代码
    sudo systemctl stop llamafactory-webui

总结

  • 如果只是临时运行,推荐使用 nohuptmux
  • 如果需要长期运行并管理,推荐使用 systemd 服务。
  • 选择适合你的方法,确保 llamafactory-cli webui 在关闭 SSH 后继续运行。
相关推荐
毒爪的小新5 分钟前
Linux 环境极速部署 vLLM:从零搭建生产级大模型推理服务
linux·人工智能·ai·语言模型·vllm
老大白菜6 分钟前
25美元,DIY开源可穿戴智能AI眼镜:Arduino+乐鑫ESP32+DeepSeek项目
人工智能
鹤落晴春13 分钟前
RH124问答3:从命令行管理文件
linux·运维·服务器
guslegend41 分钟前
大模型驱动大数据SRE智能运维
大数据·运维
遇见火星1 小时前
Docker Compose 完全入门:一键启动所有容器
运维·docker·容器·docker compose
岁月宁静1 小时前
RAG 文档摄入全链路,从原理到生产落地
vue.js·人工智能·python
小和尚同志1 小时前
AI 自动化测试探索(一):Playwright MCP
前端·人工智能·aigc
硅谷秋水1 小时前
面向长上下文自动驾驶的规划对齐Token压缩
人工智能·深度学习·机器学习·计算机视觉·自动驾驶
JaydenAI1 小时前
[对比学习LangChain和MAF-07]如何引入人机交互的审批流程
python·ai·langchain·c#·agent·hitl·maf