技术栈
xpu
月光技术杂谈
2 个月前
人工智能
·
python
·
llama
·
intel
·
llama.cpp
·
xpu
·
集成显卡
llama.cpp 利用intel集成显卡xpu加速推理
用 llama.cpp 调用 Intel 的集成显卡 XPU 来提升推理效率.安装 Intel oneAPI Base Toolkit，确保显卡驱动支持 SYCL 和 oneAPI。