LLM - 命令行与Python库的大语言模型交互工具

一、关于 LLM

1、项目概览

一个用于与OpenAI 、Anthropic Claude 、Google Gemini 、Meta Llama等数十种大语言模型交互的CLI工具和Python库，支持远程API调用和本地安装运行的模型。

2、相关链接资源

Github：https://github.com/simonw/llm
PyPI：https://pypi.org/project/llm/
官方文档：https://llm.datasette.io/en/stable/
变更日志：https://llm.datasette.io/en/stable/changelog.html
演示视频：https://www.youtube.com/watch?v=QUXQNi6jQ30
技术博客：https://simonwillison.net/tags/llm/
Discord社区：https://datasette.io/discord-llm
Homebrew：https://formulae.brew.sh/formula/llm
License：Apache 2.0

3、功能特性

多模型支持
- 支持OpenAI、Claude、Gemini、Llama等主流大模型
- 可通过插件扩展支持更多模型
核心功能
- 命令行直接运行提示词
- 将提示和响应存储在SQLite中
- 生成和存储嵌入向量
- 从文本和图像中提取结构化内容

二、安装配置

bash 复制代码

# 通过pip安装
pip install llm

# 或使用Homebrew
brew install llm

# 或使用pipx
pipx install llm

# 或使用uv
uv tool install llm

三、快速开始

1、基础使用

bash 复制代码

# 设置OpenAI API密钥
llm keys set openai

# 运行提示词
llm "十个有趣的鹈鹕宠物名字"

# 从图片提取文本
llm "extract text" -a scanned-document.jpg

# 对文件使用系统提示
cat myfile.py | llm -s "解释这段代码"

2、多模型支持

bash 复制代码

# 使用Gemini模型
llm install llm-gemini
llm keys set gemini
llm -m gemini-2.0-flash '告诉我关于山景城的有趣事实'

# 使用Claude模型
llm install llm-anthropic
llm keys set anthropic
llm -m claude-4-opus '告诉我关于萝卜的惊人事实'

3、本地模型

bash 复制代码

# 安装Ollama插件
llm install llm-ollama

# 下载并运行本地模型
ollama pull llama3.2:latest
llm -m llama3.2:latest '法国的首都是哪里?'

4、交互式聊天

bash 复制代码

llm chat -m gpt-4.1

default 复制代码

正在与gpt-4.1聊天
输入'exit'或'quit'退出
输入'!multi'输入多行，'!end'结束
输入'!edit'在编辑器中修改提示
> 讲个关于鹈鹕的笑话
为什么鹈鹕不喜欢给小费？

因为它们总是有大账单(指鹈鹕的大嘴)！

四、技术文档目录

伊织 xAI 2025-05-27（二）