解决办法:先安装 Node.js 环境库,最新版本即可。确保 npm 命令全局可用后,然后自行构建 WebUI。
WebUI 手动构建的方法,藏在这个 README-dev.md 文件里面:
llama.cpp根目录\tools\server\README-dev.md
构建方法:
shell
cd llama.cpp根目录/tools/server/webui
npm i
npm run build
然后网页的 bundle 文件就生成了。
然后,照常构建 llama.cpp 就行了。
shell
cmake -B build -DGGML_CUDA=ON -DLLAMA_BUILD_WEBUI=ON -DLLAMA_BUILD_TESTS=OFF -DLLAMA_USE_PREBUILT_WEBUI=OFF -DLLAMA_BUILD_EXAMPLES=OFF
cmake --build build --config Release -j 16
问题解决。