新版本 llama-cpp 构建/下载 webui 导致build 失败 解决

解决办法:先安装 Node.js 环境库,最新版本即可。确保 npm 命令全局可用后,然后自行构建 WebUI。

WebUI 手动构建的方法,藏在这个 README-dev.md 文件里面:
llama.cpp根目录\tools\server\README-dev.md

构建方法:

shell 复制代码
cd llama.cpp根目录/tools/server/webui
npm i
npm run build

然后网页的 bundle 文件就生成了。

然后,照常构建 llama.cpp 就行了。

shell 复制代码
cmake -B build -DGGML_CUDA=ON -DLLAMA_BUILD_WEBUI=ON -DLLAMA_BUILD_TESTS=OFF -DLLAMA_USE_PREBUILT_WEBUI=OFF -DLLAMA_BUILD_EXAMPLES=OFF
cmake --build build --config Release -j 16

问题解决。

相关推荐
头茬韭菜10 小时前
Kronos 模型推理性能基准测试报告
llama
亮亮在江湖13 小时前
# 手写原生Transformers SFT脚本 vs LLaMA Factory 训练 核心完整对比
llama
染指111015 小时前
61.RAG-RAG存在的问题
人工智能·llama·rag·llama_index·llamaindex
CClaris5 天前
大模型量化从0到1(九):用 llama.cpp 把模型转成 GGUF 并跑本地推理
人工智能·pytorch·python·深度学习·llama
染指11105 天前
56.llama_index-查询引擎
人工智能·llama·rag·llama_index·llamaindex
_codemonster5 天前
从零手搓大模型(七)GPT 转 Llama:从教学版 GPT 走向现代 LLM 架构
人工智能·gpt·大模型·llama
SLD_Allen6 天前
Purple Llama:Meta开源的LLM安全“紫队”工具箱
安全·开源·llama
俊俊谢7 天前
从零搭建:本地LangChain Agent调用远程LLaMA-Factory模型服务
langchain·llama
liming4957 天前
Ubuntu + Docker + NVIDIA 显卡 上部署 Ollama
llama
heroboyluck8 天前
AI工程师第四课 - 深度学习入门
人工智能·python·深度学习·llama