如何让后台运行llamafactory-cli webui 即使关掉了ssh远程连接 也在运行

要在关闭 SSH 远程连接后继续运行 llamafactory-cli webui,可以使用以下几种方法将进程放入后台运行:


方法 1:使用 nohup

nohup 是一个常用的工具,可以让进程在关闭终端后继续运行。

步骤:
  1. 运行以下命令:

    bash 复制代码
    nohup llamafactory-cli webui > webui.log 2>&1 &
    • nohup:让进程忽略挂断信号(SIGHUP),即使关闭终端也不会终止。
    • > webui.log:将标准输出重定向到 webui.log 文件。
    • 2>&1:将标准错误输出也重定向到 webui.log 文件。
    • &:将进程放入后台运行。
  2. 关闭 SSH 连接后,进程会继续运行。日志会保存在 webui.log 中。

  3. 如果需要查看日志,可以使用:

    bash 复制代码
    tail -f webui.log
  4. 如果需要终止进程,可以先找到进程 ID:

    bash 复制代码
    ps aux | grep llamafactory-cli

    然后使用 kill 命令终止:

    bash 复制代码
    kill <PID>

方法 2:使用 tmux

tmux 是一个终端复用工具,可以创建持久化的会话,即使关闭 SSH 连接也不会中断。

步骤:
  1. 安装 tmux(如果未安装):

    bash 复制代码
    sudo apt-get install tmux  # Ubuntu/Debian
    sudo yum install tmux      # CentOS/RHEL
  2. 创建一个新的 tmux 会话:

    bash 复制代码
    tmux new -s webui_session
  3. tmux 会话中运行 llamafactory-cli webui

    bash 复制代码
    llamafactory-cli webui
  4. 按下 Ctrl + B,然后按 D 分离会话(detach),程序会在后台继续运行。

  5. 关闭 SSH 连接后,重新连接时可以使用以下命令恢复会话:

    bash 复制代码
    tmux attach -t webui_session
  6. 如果需要终止会话,可以在恢复会话后按 Ctrl + C 停止程序,然后输入 exit 退出会话。


方法 3:使用 screen

screen 是另一个终端复用工具,功能类似于 tmux

步骤:
  1. 安装 screen(如果未安装):

    bash 复制代码
    sudo apt-get install screen  # Ubuntu/Debian
    sudo yum install screen      # CentOS/RHEL
  2. 创建一个新的 screen 会话:

    bash 复制代码
    screen -S webui_session
  3. screen 会话中运行 llamafactory-cli webui

    bash 复制代码
    llamafactory-cli webui
  4. 按下 Ctrl + A,然后按 D 分离会话(detach),程序会在后台继续运行。

  5. 关闭 SSH 连接后,重新连接时可以使用以下命令恢复会话:

    bash 复制代码
    screen -r webui_session
  6. 如果需要终止会话,可以在恢复会话后按 Ctrl + C 停止程序,然后输入 exit 退出会话。


方法 4:使用 systemd 服务

如果希望将 llamafactory-cli webui 作为一个系统服务运行,可以使用 systemd

步骤:
  1. 创建一个服务文件:

    bash 复制代码
    sudo nano /etc/systemd/system/llamafactory-webui.service
  2. 在文件中添加以下内容:

    ini 复制代码
    [Unit]
    Description=LLaMAFactory WebUI Service
    After=network.target
    
    [Service]
    ExecStart=/path/to/llamafactory-cli webui
    WorkingDirectory=/path/to/working/directory
    Restart=always
    User=your_username
    
    [Install]
    WantedBy=multi-user.target
    • /path/to/llamafactory-cli 替换为 llamafactory-cli 的实际路径。
    • /path/to/working/directory 替换为工作目录。
    • your_username 替换为运行服务的用户。
  3. 保存并退出编辑器。

  4. 重新加载 systemd 配置:

    bash 复制代码
    sudo systemctl daemon-reload
  5. 启动服务:

    bash 复制代码
    sudo systemctl start llamafactory-webui
  6. 设置开机自启动:

    bash 复制代码
    sudo systemctl enable llamafactory-webui
  7. 查看服务状态:

    bash 复制代码
    sudo systemctl status llamafactory-webui
  8. 如果需要停止服务:

    bash 复制代码
    sudo systemctl stop llamafactory-webui

总结

  • 如果只是临时运行,推荐使用 nohuptmux
  • 如果需要长期运行并管理,推荐使用 systemd 服务。
  • 选择适合你的方法,确保 llamafactory-cli webui 在关闭 SSH 后继续运行。
相关推荐
PokiFighting2 分钟前
【大模型+本地自建知识图谱/GraphRAG/neo4j/ollama+Qwen千问(或llama3)】 python实战(中)
人工智能·大模型·知识图谱·neo4j
jiayoushijie-泽宣9 分钟前
VITA-1.5接近GPT4o水平的多模态模型:理解和跑通这套多模态实时交互系统
人工智能·算法·交互
一心只为学12 分钟前
pgpool配置安装之服务器的配置
运维·数据库·postgresql·pgpool
Stark、17 分钟前
【Linux】文件系统--文件存储/软硬链接/inode/dentry
linux·运维·服务器·c语言·后端
大智晚成19 分钟前
eNSP之家----ACL实验入门实例详解(Access Control List访问控制列表)(重要重要重要的事说三遍)
运维·服务器·网络·网络协议·tcp/ip·网络安全·智能路由器
杰克崔20 分钟前
linux上对于so库的调试——包含通过vs2019远程ssh调试so库
linux·运维·服务器
摸鱼仙人~27 分钟前
Deep Learning Meets Hyperspectral Image Analysis: A Multidisciplinary 参考文献翻译
人工智能·深度学习
思通数科多模态大模型29 分钟前
开源AI视频监控系统,助力公租房廉租房管理,打击倒卖行为
人工智能·深度学习·目标检测·机器学习·目标跟踪·自然语言处理·数据挖掘
weixin_3499105030 分钟前
机器学习在智能外呼机器人中的作用
人工智能·机器学习·机器人
2013crazy33 分钟前
Python 基于 opencv 的人脸识别监控打卡系统(源码+部署)
开发语言·python·opencv·python 人脸识别·python 人脸识别打卡