alma8.10中使用gcc13并安装vllm

其实初衷是想在alma中使用vllm。

但是安装编译时提示出错,因为alma中是安装的gcc8.4,所以要想办法解决这个问题。

1、此版本不能再使用crb了,这个已经弃用了,使用powertools。

bash 复制代码
dnf config-manager --set-enabled powertools

2、尝试安装

bash 复制代码
dnf install gcc-toolset-13-gcc gcc-toolset-13-gcc-c++

3、激活环境

bash 复制代码
scl enable gcc-toolset-13 bash

4、版本已经正确了

bash 复制代码
(base) [root@localhost yum.repos.d]# gcc --version
gcc (GCC) 13.3.1 20240611 (Red Hat 13.3.1-2)
Copyright (C) 2023 Free Software Foundation, Inc.
This is free software; see the source for copying conditions.  There is NO
warranty; not even for MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.

5、登录生效

bash 复制代码
echo "source /opt/rh/gcc-toolset-13/enable" >> ~/.bashrc
source ~/.bashrc

6、安装vllm

bash 复制代码
pip install vllm
相关推荐
Suryxin.5 小时前
从0开始复现nano-vllm「model_runner.py」上半篇之初始化分布式推理环境
人工智能·python·深度学习·机器学习·vllm
Boxsc_midnight1 天前
【vLLM服务器并发能力测试程序】写一个python小程序来进行并发测试
服务器·python·vllm
Suryxin.1 天前
从0开始复现nano-vllm「 utils/contex.py」
深度学习·ai·vllm
百度智能云技术站1 天前
百度百舸 Day0 完成昆仑芯和智谱 GLM-5 适配,实现「发布即可用」
人工智能·开源·vllm·百度百舸
钱彬 (Qian Bin)2 天前
基于Qwen3-VL-Embedding-2B与vLLM构建高精度多模态图像检索系统
embedding·vllm·多模态检索·qwen3-vl
Sonhhxg_柒2 天前
【AI实战教程】Nanobot实战教程:基于vLLM部署的智能QQ聊天机器人
人工智能·语言模型·vllm
Suryxin.3 天前
从0开始复现nano-vllm「scheduler.py」
人工智能·python·深度学习·ai·vllm
‎Melody.4 天前
如何进行AI大模型测试
人工智能·python·功能测试·算法·自动化·vllm
HyperAI超神经4 天前
【vLLM 学习】Structured Outputs
人工智能·深度学习·神经网络·学习·机器学习·创业创新·vllm