llama.cpp浏览器访问404

llama服务器正常运行,llmam-cli和curl测试,模型正常输出。

但是通过浏览器访问 http://0.0.0.0:8086,返回结果404 。

自己编译的,从github release下载的预编译,都不行。

百度说llama-server默认是不集成的,需要编译tools\ui后使用-DGGML-WEBUI=ON参数。

在bing上搜了一下有个llama.ui,使用--path指定到它的html代码,打开看看界面也没什么特点。

按照百度的命令编译:

bash 复制代码
cd /d H:\llama.cpp\llama.cpp-0.6.0\tools\ui
npm install
npm run build

会生成 dist目录

win10 批处理文件(llama.cpp.bat)如下:

bash 复制代码
@echo off
echo 正在启动Llama服务器...
set path=%PATH%;D:\llama.cpp-0.6.0\Release
llama-server ^
	-m D:\models\gemma-4-12b-it-Q4_K_S.gguf  ^
	--host 0.0.0.0 --port 8086 --no-warmup --jinja ^
	--path "H:\llama.cpp\llama.cpp-0.6.0\tools\ui\dist"

pause

win下换行符用"^",linux下用"" 。

相关推荐
n112129 天前
4G 显存老显卡怎么跑模型:llama.cpp 加 GGUF 配置
llama·llama.cpp·本地大模型·gguf
半甜柠檬12 天前
llama.cpp 部署 Qwen3.8-27B:无独显轻薄本实测
大模型·qwen·量化·本地部署·llama.cpp
智码看视界16 天前
开源大模型前沿:Baichuan 5 :单卡 H100 跑国产,长上下文 + 中文 Agentic 硬刚海外同档
开源·中文·llama.cpp·百川智能·国产大模型·baichuan 5
李小白杂货铺25 天前
从 macOS 免密 SSH 到 Windows 10 完整配置指南
windows·win10·openssh·踩坑·ssh服务器·免密连接·安装和配置
阆遤1 个月前
llama.cpp 0.4.0-dev 本地编译指南
ai·编译·llama.cpp
JiMoKuangXiangQu1 个月前
在 AllWinner T507 上部署 Qwen2.5-0.5B 大语言模型
人工智能·llama.cpp·推理引擎
智码看视界1 个月前
.NET 10 推理大模型TensorSharp 3.3.0 部署实测:纯.NET推理引擎反超llama.cpp 1.5倍,DFlash2提速62%
c#·.net·llama.cpp·.net 10·tensorsharp·本地大模型推理·开源推理引擎
_平凡之路_1 个月前
win10从1903升级到21h2之后nvme固态频繁掉盘问题的一种解决方法
win10·bios·nvme硬盘
容沁风2 个月前
使用ninja编译llama.cpp
llama.cpp·2080ti·gemma4·vbr