新版本 llama-cpp 构建/下载 webui 导致build 失败 解决

解决办法:先安装 Node.js 环境库,最新版本即可。确保 npm 命令全局可用后,然后自行构建 WebUI。

WebUI 手动构建的方法,藏在这个 README-dev.md 文件里面:
llama.cpp根目录\tools\server\README-dev.md

构建方法:

shell 复制代码
cd llama.cpp根目录/tools/server/webui
npm i
npm run build

然后网页的 bundle 文件就生成了。

然后,照常构建 llama.cpp 就行了。

shell 复制代码
cmake -B build -DGGML_CUDA=ON -DLLAMA_BUILD_WEBUI=ON -DLLAMA_BUILD_TESTS=OFF -DLLAMA_USE_PREBUILT_WEBUI=OFF -DLLAMA_BUILD_EXAMPLES=OFF
cmake --build build --config Release -j 16

问题解决。

相关推荐
程序猿编码2 天前
告别 GPU 空转!token 级调度,Qwen/Llama 高并发推理引擎
人工智能·机器学习·llm·llama·大模型推理
还卿一钵无情泪4 天前
PEFT-Transformers、Unsloth、LLaMA-Factory 微调框架 横向对比
深度学习·大模型·llama·ollama
程序猿编码4 天前
不依赖 vLLM/llama.cpp:一套面向学习的 DeepSeek-R1 CUDA 推理实现
c++·学习·语言模型·llama·vllm·大模型推理
天燹5 天前
本地部署大模型ollama
人工智能·llama
骑着蜗牛撵大象3276 天前
N1 小盒子撑起 AI 接口中转层:New-API 接管本地 Ollama,用 Token 分发模型能力
docker·llama·1024程序员节·api网关·飞牛nas·new-api
言简行敏,心静致远。7 天前
llama-bench使用说明及其应用
llama
AI_Gump7 天前
模型篇|llama.cpp 推理引擎深度解读:从一人练手到 LLM 端侧的事实标准
llama·llama.cpp
星野云联AIoT技术洞察10 天前
设备手册离线 RAG:先管住版本、权限和引文,再谈本地大模型
llama·rag·设备告警·rag知识库·设备运维·设备离线·设备手册
晚风吹北巷12 天前
基于LLama-Factory 进行Lora微调
llama
你都会上树?12 天前
本地部署模型 llama + opencode + Qwen3.8-32b
llama