技术栈

本地大模型推理

智码看视界
2 小时前
c#·.net·llama.cpp·.net 10·tensorsharp·本地大模型推理·开源推理引擎
.NET 10 推理大模型TensorSharp 3.3.0 部署实测:纯.NET推理引擎反超llama.cpp 1.5倍,DFlash2提速62%TensorSharp 是开发者傅忠恺打造的原生 .NET 10 大模型推理引擎,直接加载 GGUF,跨 Windows/macOS/Linux 运行,自带 CLI、Web 聊天界面与 Ollama/OpenAI 双兼容 API。2026-08-30 发布的 3.3.0.0 版本合入约 40 个 PR:首发 Wan 视频生成、落地 GLM-5.2 与 Muse-Glimmer、推出 DFlash2 投机解码并补齐服务端安全。社区背靠背实测显示其 prefill 吞吐较 llama.cpp 最高快 1.50
我是有底线的