llama服务器正常运行,llmam-cli和curl测试,模型正常输出。
但是通过浏览器访问 http://0.0.0.0:8086,返回结果404 。
自己编译的,从github release下载的预编译,都不行。
百度说llama-server默认是不集成的,需要编译tools\ui后使用-DGGML-WEBUI=ON参数。
在bing上搜了一下有个llama.ui,使用--path指定到它的html代码,打开看看界面也没什么特点。
按照百度的命令编译:
bash
cd /d H:\llama.cpp\llama.cpp-0.6.0\tools\ui
npm install
npm run build
会生成 dist目录

win10 批处理文件(llama.cpp.bat)如下:
bash
@echo off
echo 正在启动Llama服务器...
set path=%PATH%;D:\llama.cpp-0.6.0\Release
llama-server ^
-m D:\models\gemma-4-12b-it-Q4_K_S.gguf ^
--host 0.0.0.0 --port 8086 --no-warmup --jinja ^
--path "H:\llama.cpp\llama.cpp-0.6.0\tools\ui\dist"
pause

win下换行符用"^",linux下用"" 。