alma8.10中使用gcc13并安装vllm

其实初衷是想在alma中使用vllm。

但是安装编译时提示出错,因为alma中是安装的gcc8.4,所以要想办法解决这个问题。

1、此版本不能再使用crb了,这个已经弃用了,使用powertools。

bash 复制代码
dnf config-manager --set-enabled powertools

2、尝试安装

bash 复制代码
dnf install gcc-toolset-13-gcc gcc-toolset-13-gcc-c++

3、激活环境

bash 复制代码
scl enable gcc-toolset-13 bash

4、版本已经正确了

bash 复制代码
(base) [root@localhost yum.repos.d]# gcc --version
gcc (GCC) 13.3.1 20240611 (Red Hat 13.3.1-2)
Copyright (C) 2023 Free Software Foundation, Inc.
This is free software; see the source for copying conditions.  There is NO
warranty; not even for MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.

5、登录生效

bash 复制代码
echo "source /opt/rh/gcc-toolset-13/enable" >> ~/.bashrc
source ~/.bashrc

6、安装vllm

bash 复制代码
pip install vllm
相关推荐
张忠琳3 小时前
【vllm】(四)vLLM v1 Worker — 模块超深度逐行分析之三
ai·架构·vllm
张忠琳4 小时前
【vllm】(三)vLLM v1 Core — 模块超深度逐行分析之二
ai·架构·vllm
张忠琳5 小时前
【vllm】(三)vLLM v1 Core — 模块超深度逐行分析之三
ai·架构·vllm
张忠琳6 小时前
【vllm】(四)vLLM v1 Worker — 模块超深度逐行分析之二
ai·架构·vllm
张忠琳15 小时前
【vllm】vLLM v1 KV Offload — 模块超深度逐行分析之一(七)
ai·架构·vllm
张忠琳17 小时前
【vllm】vLLM v1 Attention — 系统级架构深度分析(五)
ai·架构·vllm
张忠琳1 天前
【openclaw】OpenClaw Flows 模块超深度架构分析
ai·架构·vllm
张忠琳1 天前
【openclaw】OpenClaw Daemon 模块超深度架构分析
ai·架构·vllm
Shining05961 天前
QEMU 编译开发环境搭建
人工智能·语言模型·自然语言处理·云原生·qemu·vllm·华为昇腾
张忠琳2 天前
【vllm】vLLM v1 Core — 系统级架构深度分析(四)
ai·架构·vllm