相关推荐
renzao_ai4 小时前
本地 35B 大模型部署实战:Ollama 跑 Ornith-35B 全流程Είναι η κοπέλα4 小时前
本地大模型部署完全指南:Ollama / vLLM / llama.cpp / MLX 四大引擎横评与选型实战小饕7 小时前
RK3588 NPU 跑大模型实测:rknn-llm 解码 25.9 tok/s,是 llama.cpp 的 4 倍!附三天完整踩坑记录一航jason18 小时前
Android平台推理框架及试用场景模型对比一航jason18 小时前
Android 端侧大模型推理框架对比零依赖极客1 天前
Day 8·1 自注意力机制:Q·K^T/softmax/V的在线计算微软技术分享3 天前
LLama-Factory 实现大模型LoRA-SFT微调指南七牛云行业应用4 天前
OpenCode 跑本地 Llama:编程 Agent 接入本地大模型的完整思路一航jason5 天前
GPU 推荐用吗?——8295 上 Adreno 695 的现实评估小饕7 天前
llama.cpp 参数调优指南:Jetson 8GB 实战手记