【ln -s】Linux 软链接在大模型部署中的应用

一、背景与场景

在大模型推理服务部署中，我们通常会使用预训练模型。例如，将模型存放在宿主机的根目录 /model 下，以便统一管理。

在部署阶段，为了方便服务访问和目录统一，我们往往在当前工作目录下创建一个指向宿主机模型的软链接：

bash 复制代码

宿主机路径：/model
部署路径：  ./model  → 指向 /model

这样，推理服务可以直接通过 ./model 访问模型，而无需知道实际存储路径，也便于切换不同版本模型。

二、软链接概念

2.1 什么是软链接

软链接（Symbolic Link）可以理解为文件或目录的快捷方式，它保存的是目标文件的路径，而不是内容本身。

特点：
- 可以跨文件系统
- 可以指向文件或目录
- 访问软链接时，系统会自动解析到目标文件

2.2 软链接 vs 硬链接

在部署大模型时，你可能会遇到这样的问题：你希望在不同目录下访问同一个模型，有两种方式：

(1) 硬链接（hard link）

就像在硬盘上多放了一个"文件别名"，系统直接指向文件内容本身。

优点：删除其中一个名字，文件内容依然存在。
缺点：不能跨文件系统，也很少用于目录。

(2) 软链接（symbolic link）

更像是 Windows 上的快捷方式，保存的是目标路径。

优点：可以跨文件系统，也可以指向目录。
缺点：如果原模型被删除或移动，软链接就失效了。

(3) 对比

硬链接依赖内容，软链接依赖路径。如果你的模型目录可能不在同一个磁盘或分区，用软链接最安全。

特性	软链接 (symlink)	硬链接 (hard link)
指向内容	指向路径	指向内容
跨文件系统	可以	不可以
删除源文件影响	删除后软链接失效	不影响硬链接
可指向目录	可以	一般不允许
适用性	适合跨分区、跨挂载点、甚至跨容器部署	只能在同一个分区使用，一般用于备份或同目录内的多文件引用

在大模型部署中，我们更常用软链接。原因很简单，模型文件可能在宿主机的根目录，而部署目录可能在容器内或不同分区，用软链接可以灵活指向不同位置，同时也方便做模型版本切换。

2.3 什么是跨文件系统

在 Linux 下，文件系统 就是磁盘上管理文件的逻辑结构。常见的有：

根分区 /（ext4、xfs 等）
挂载的磁盘 /data
网络挂载目录 /mnt/nfs

每个文件系统都有自己的一套 inode 表 来管理文件内容。

跨文件系统指的是：你想让一个文件在不同的文件系统之间有一个"引用/链接"。

假设你的大模型存放在宿主机 /model，这个目录在 根分区 / ，而你的推理服务工作目录在 /mnt/data/service（另一个磁盘分区）。

(1) 硬链接报错

硬链接直接依赖 inode，而 / 和 /mnt/data 在不同文件系统，inode 不能共享。

bash 复制代码

ln /model/bert.pt /mnt/data/service/bert.pt
# 错误！硬链接无法跨文件系统

(2) 可以使用软链接

软链接只是保存了 /model/bert.pt 的路径，访问时系统会去解析路径，不管目标文件在哪个分区。

bash 复制代码

ln -s /model/bert.pt /mnt/data/service/bert.pt
# 成功！软链接保存路径，不依赖 inode

三、创建与管理软链接

参数	功能	示例	说明
`-s`	创建软链接	`ln -s /model ./model`	必须使用，表示创建符号链接
`-f`	强制覆盖已有文件或软链接	`ln -sf /model ./model`	如果 `./model` 已存在，会直接覆盖
`-n`	与 `-f` 配合使用，避免覆盖目录内容	`ln -sfn /model ./model`	避免误删目录中的内容
`-v`	显示操作过程	`ln -sv /model ./model`	输出创建的链接信息
`-i`	交互式，删除前提示	`ln -si /model ./model`	安全选项，适合批量操作时确认

3.1 创建软链接

例如，创建软链接./model指向/model

bash 复制代码

ln -s /model ./model

说明：

-s 表示创建软链接
第一个参数 /model 是目标路径
第二个参数 ./model 是软链接路径

3.2 查看软链接

bash 复制代码

ls -l

输出示例：

bash 复制代码

lrwxrwxrwx 1 user user    6 May 21 13:00 model -> /model

l 开头表示这是一个软链接
-> 后面是指向的目标路径

3.3 删除软链接

复制代码

rm ./model

注意：删除软链接不会删除目标文件。

四、大模型部署中的最佳实践

4.1 使用绝对路径 vs 相对路径

容器部署推荐使用绝对路径 /model，避免路径解析错误
在本地测试或开发环境，可用相对路径 ../model 灵活切换

4.2 模型版本管理

使用软链接可以快速切换模型版本。

假设你有宿主机模型 /model/v2，想在当前目录创建软链接，并覆盖已有链接：

bash 复制代码

ln -sfn /model/v2 ./model

-s：创建软链接
-f：覆盖已有 ./model 链接
-n：确保如果 ./model 是目录不会误删

这样就可以安全、快速地切换模型版本。

4.3 避免断链

软链接本质上是保存了 目标文件或目录的路径，当你访问软链接时，系统会去解析这个路径。

正常：软链接指向的目标存在→ 访问成功
断链：软链接指向的目标不存在或路径错误→ 访问失败

例如：

bash 复制代码

ln -s /model/v2 ./model
# 假设 /model/v2 被删除或移动

ls -l ./model
# 输出类似：model -> /model/v2 (不存在)

如果部署推理服务直接读取 ./model，就会报错。

(1) Step1：检查目标是否存在

bash 复制代码

if [ -e /model ]; then
    echo "模型存在"
else
    echo "模型不存在或路径错误"
fi

-e：检查文件或目录是否存在

在部署脚本中用它，可以提前发现路径问题

(2) Step2：检查软链接本身是否有效

bash 复制代码

if [ -L ./model ]; then
    target=$(readlink ./model)
    if [ -e "$target" ]; then
        echo "软链接正常，指向 $target"
    else
        echo "断链！软链接指向 $target 不存在"
    fi
fi

-L：判断 ./model 是不是软链接
readlink：获取软链接实际指向的路径
-e "$target"：判断目标路径是否存在

它能区分 软链接本身存在但目标不存在 的情况。

因此，在大模型部署时，建议在启动推理服务前加一段软链接检查逻辑：

bash 复制代码

check_model_link() {
    local link_path=$1
    if [ -L "$link_path" ]; then
        local target=$(readlink "$link_path")
        if [ -e "$target" ]; then
            echo "✅ 软链接 $link_path 指向 $target 正常"
        else
            echo "❌ 软链接 $link_path 指向 $target 已断链"
            exit 1
        fi
    else
        echo "❌ $link_path 不是软链接"
        exit 1
    fi
}

# 检查当前部署目录的模型链接
check_model_link ./model

特点：

安全：防止推理服务启动失败
可扩展：可以检查多个模型版本或目录
自动化：适合 CI/CD 或容器启动脚本

4.4 节省存储空间

假设你有一个大模型文件 bert.pt，大小 5GB，存放在宿主机 /model 下。

(1) 如果每个部署目录都复制模型

有两个服务需要访问模型：

bash 复制代码

服务A目录：/serviceA/model/bert.pt
服务B目录：/serviceB/model/bert.pt

如果你直接复制文件，每个目录都有一份独立的 5GB 文件：

占用存储：5GB × 2 = 10GB
如果模型更新，需要在每个目录都重新替换
管理麻烦

(2) 使用软链接共享模型

可以在每个部署目录创建 软链接 指向宿主机模型：

bash 复制代码

cd /serviceA
ln -s /model/bert.pt ./model

cd /serviceB
ln -s /model/bert.pt ./model

软链接本身几 KB 大小，几乎不占空间
所有服务访问的都是 同一份原始模型
升级模型只需要替换 /model/bert.pt，所有软链接自动生效

这样做，不仅节省了大量存储空间，而且管理更方便，支持多个部署环境共享同一个模型。

五、总结

在大模型部署中，软链接是管理模型的利器。它可以 快速切换版本、节省存储、保持目录整洁 ，配合路径检查还能 降低误删和断链风险。掌握软链接的使用，让部署更安全、高效、可维护。