一键测算!一款筛选本机可流畅运行的大模型终端工具!

大家好,我是 Java陈序员

在如今的 AI 时代,各种开源大模型层出不穷。当我们想要在本地部署大模型时,既要熟悉模型运行参数,还要了解自己本地机器的硬件参数,普通开发者很难依靠零散的参数表格精准判断模型和硬件的适配性。往往是耗时下载了一个个大模型,结果却与本地机器不适配!

今天,给大家分享一款大模型检测终端工具,在数百种模型与提供商中,通过一条命令找出你的硬件能运行哪些模型!

项目介绍

llmfit ------ 一款根据你系统的 RAM、CPU 和 GPU 为 LLM 模型匹配合适规格的终端工具。支持自动检测硬件,从质量、速度、适配度和上下文四个维度为每个模型打分,告诉你哪些模型能在你的机器上流畅运行。

功能特色

  • 全自动智能探测:依托系统底层接口自动采集整机硬件信息,无需手动填写任何配置参数,打开工具即可完成整机硬件盘点
  • 全平台无缝兼容:Windows、macOS、Linux 三大系统全覆盖,同时支持在 Docker 环境中使用
  • 内置海量模型库:内置持续更新的模型数据库,收录百余家厂商、五百余款主流开源 LLM, 囊括 Qwen、Llama、DeepSeek 等热门模型
  • 多维智能打分:通过模型能力质量、硬件适配程度、推理生成速度、上下文窗口长度等维度自动对所有可用模型打分分级
  • 双交互模式:提供终端可视化面板、 CLI 命令两种模式,还支持 Web 仪表盘查看,既方便小白使用,又方便开发者二开对接使用

快速上手

安装

llmfit 支持通过下载安装包 安装和使用命令安装两种方式。推荐使用命令安装,无需进行额外的配置。

  • Windows

需先安装 Scoop, 如果尚未安装,参考如下方式进行安装。

1、在 Windows 中打开 PowerShell

2、在命令行窗口中,粘贴如下命令并回车运行

bash 复制代码
Set-ExecutionPolicy -ExecutionPolicy RemoteSigned -Scope CurrentUser
Invoke-RestMethod -Uri https://get.scoop.sh | Invoke-Expression

3、安装 llmfit

bash 复制代码
scoop install llmfit
  • Linux

1、从 GitHub 下载最新发布的二进制文件并安装到 /usr/local/bin(如果没有 sudo 则安装到 ~/.local/bin

bash 复制代码
curl -fsSL https://llmfit.axjns.dev/install.sh | sh

2、或者安装到 ~/.local/bin(无需 sudo

bash 复制代码
curl -fsSL https://llmfit.axjns.dev/install.sh | sh -s -- --local
  • macOS / Linux
bash 复制代码
brew install llmfit
  • MacPorts
bash 复制代码
port install llmfit
  • Docker / Podman
bash 复制代码
docker run ghcr.io/alexsjones/llmfit

使用

1、llmfit 安装成功后,在命令行窗口中输入如下命令一键启动交互式终端 UI

bash 复制代码
llmfit

2、交互式终端 UI 界面说明

  • 系统配置(CPU、RAM、GPU 名称、VRAM、后端)显示在顶部
  • 模型按综合评分排序,以可滚动的表格列出
  • 每行显示模型的评分、预估 tok/s、最佳量化方案、运行模式、内存占用和用途分类

3、常用快捷键

功能体验

  • TUI Plan 模式

p 可查看这个模型需要什么硬件配置。

  • 硬件模拟

S 打开硬件模拟弹窗,通过不同的 RAM、VRAM 和 CPU 核心数,查看有哪些适配的大模型。

  • 主题

t 可在 10 种内置颜色主题间切换。

  • Web 仪表盘

当运行 llmfit 时,会自动在后台启动 Web 仪表盘,默认地址:

bash 复制代码
http://localhost:8787

可以说,在如今大模型遍地开花的当下,llmfit 解决了硬件与模型信息不对称的痛点,通过一行命令,即可从上百种模型中快速检测出与机器适配的大模型。无论你是入门新手、本地 AI 爱好者,还是 AI 开发从业者,都可以安装试用,省下大量试错成本。快去安装体验吧~

bash 复制代码
项目地址:https://github.com/AlexsJones/llmfit

最后

推荐的开源项目已经收录到 GitHub 项目,欢迎 Star

bash 复制代码
https://github.com/chenyl8848/great-open-source-project

或者访问网站,进行在线浏览:

bash 复制代码
https://chencoding.top:8090/#/

大家的点赞、收藏和评论都是对作者的支持,如文章对你有帮助还请点赞转发支持下,谢谢!


相关推荐
Together_CZ2 小时前
OpenCV 5.0 重磅发布:全面技术深度解析
图像处理·人工智能·opencv·计算机视觉·llm·dnn·推理
阿正的梦工坊2 小时前
【Rust】03-所有权、移动与复制
开发语言·算法·rust
小小龙学IT3 小时前
Rust Web 框架 Axum:轻量级异步的下一代后端利器
前端·驱动开发·rust
呆呆敲代码的小Y3 小时前
CodeGraph 使用教程:专为代码库打造的知识图谱
人工智能·ai·llm·知识图谱·代码库·codegraph·代码知识库
qcx233 小时前
【AI daily 2026-06-10】RAG 2026 已进入“Agentic RAG“时代
人工智能·ai·llm·agent·agi
海棠AI实验室3 小时前
AI 时代文献综述:从检索到成稿的 RAG 五步法
windows·算法·自动化·llm·rag
星栈独行3 小时前
用 Rust + Makepad 做一个 JSON 查看器:从零到能用的全过程
开发语言·程序人生·ui·rust·json
阿正的梦工坊3 小时前
【Rust】01-认识 Rust:语言定位、工具链与第一个程序
开发语言·后端·rust
特立独行的猫a13 小时前
Tauri 应用移植到 OpenHarmony/鸿蒙PC完整指南
华为·rust·harmonyos·tauri·移植·鸿蒙pc