LangChain大模型服务集成指南：面向AI应用开发者

LangChain 大模型服务集成指南：面向 AI 应用开发者

引言

作为 AI 应用开发者，选择合适的大模型服务是构建高质量应用的关键。本文将详细介绍如何接入主流大模型，包括免费额度、注册方式和完整的代码示例。

---

一、主流大模型服务对比

服务商	代表模型	免费额度	是否需要 API Key	注册地址
OpenAI	GPT-4o, GPT-3.5	新用户 $5 信用额度（限时）	是	https://platform.openai.com
Anthropic Claude	Claude 3.5 Sonnet	新用户免费试用（有限）	是	https://console.anthropic.com
Cohere	Command R, Command R+	$100 免费信用额度	是	https://cohere.com
通义千问（DashScope）	qwen-max, qwen-plus	新用户免费额度	是	https://dashscope.console.aliyun.com
百川智能	Baichuan2-13B-Chat	按活动政策	是	https://platform.baichuan-ai.com
智谱 AI	glm-4, glm-3	新用户免费额度	是	https://open.bigmodel.cn
Ollama（本地）	qwen3.5:4b, llama3.2	完全免费	否	https://ollama.com
GPT4All（本地）	多种开源模型	完全免费	否	https://gpt4all.io

---

二、国际主流模型

2.1 OpenAI

费用说明：按 token 计费，GPT-4o 约 $5/1M tokens（输入）

获取 API Key：

1. 访问 https://platform.openai.com
2. 注册账号并登录
3. 进入 API Keys 页面 → Create new secret key
4. 复制生成的 key（sk-开头）

配置环境变量（Windows）：

setx OPENAI_API_KEY "sk-xxxxxxxxxxxxxxxxxxxxxxxx"

代码示例：

import os
from langchain_openai import ChatOpenAI

# 从环境变量读取 key（推荐）
llm = ChatOpenAI(
    model="gpt-4o",
    api_key=os.environ.get("OPENAI_API_KEY"),
    temperature=0.7
)

# 或直接传入（不推荐，避免硬编码）
# llm = ChatOpenAI(model="gpt-4o", api_key="sk-...")

response = llm.invoke("你好，请用一句话介绍自己")
print(response.content)

2.2 Anthropic Claude

费用说明：Claude 3.5 Sonnet 约 $3/1M tokens（输入）

获取 API Key：

1. 访问 https://console.anthropic.com
2. 注册账号并完成身份验证
3. 在 API Keys 页面创建新 key

配置环境变量：

setx ANTHROPIC_API_KEY "sk-ant-xxxxxxxxxxxxxxxx"

代码示例：

import os
from langchain_anthropic import ChatAnthropic

llm = ChatAnthropic(
    model="claude-3-5-sonnet-20240620",
    api_key=os.environ.get("ANTHROPIC_API_KEY"),
    max_tokens=2048
)

response = llm.invoke("请用中文解释什么是 RAG")
print(response.content)

2.3 Cohere

费用说明：新用户 $100 免费额度

获取 API Key：

1. 访问 https://cohere.com
2. 注册账号
3. 进入 API Settings 获取 key

代码示例：

import os
from langchain_cohere import ChatCohere

llm = ChatCohere(
    model="command-r",
    cohere_api_key=os.environ.get("COHERE_API_KEY"),
    temperature=0.7
)

response = llm.invoke("Hello, 介绍一下你自己")
print(response.content)

---

三、国产大模型

3.1 通义千问（阿里云 DashScope）

费用说明：新用户有免费额度，超量后按 token 计费

获取 API Key：

1. 访问 https://dashscope.console.aliyun.com
2. 使用阿里云账号登录
3. 进入 API-KEY 管理页面 → 创建新 key
4. 复制生成的 key（sk-开头）

配置环境变量：

setx DASHSCOPE_API_KEY "sk-xxxxxxxxxxxxxxxxxxxxxxxx"

代码示例：

import os
from langchain_openai import ChatOpenAI

# 通过 OpenAI 兼容接口调用通义千问
llm = ChatOpenAI(
    model="qwen-plus",
    api_key=os.environ.get("DASHSCOPE_API_KEY"),
    base_url="https://dashscope.aliyuncs.com/compatible-mode/v1",
    temperature=0.7
)

response = llm.invoke("你好，请用中文介绍大模型技术")
print(response.content)

3.2 百川智能

费用说明：按活动政策提供免费额度

获取 API Key：

1. 访问 https://platform.baichuan-ai.com
2. 注册并登录
3. 创建 API Key

代码示例：

import os
from langchain_community.chat_models import ChatBaichuan

llm = ChatBaichuan(
    model="Baichuan2-13B-Chat",
    baichuan_api_key=os.environ.get("BAICHUAN_API_KEY"),
    temperature=0.7
)

response = llm.invoke("你好，请介绍一下自己")
print(response.content)

3.3 智谱 AI

获取 API Key：

1. 访问 https://open.bigmodel.cn
2. 注册并登录
3. 进入 API Keys 管理页面创建 key

代码示例：

import os
from langchain_community.chat_models import ChatZhipuAI

llm = ChatZhipuAI(
    model="glm-4",
    api_key=os.environ.get("ZHIPU_API_KEY"),
    temperature=0.7
)

response = llm.invoke("你好，介绍一下你的能力")
print(response.content)

---

四、本地部署模型（免费方案）

4.1 Ollama（推荐）

特点：完全免费，本地运行，无需 API Key

安装步骤：

1. 访问 https://ollama.com 下载安装包
2. 安装后运行 Ollama
3. 下载模型：在命令行执行 ollama pull qwen3.5:4b
4. 其他可选模型：ollama pull llama3.2，ollama pull phi3.5

代码示例：

from langchain_openai import ChatOpenAI

# 本地 Ollama 模型，无需真实 API Key
llm = ChatOpenAI(
    model="qwen3.5:4b",
    base_url="http://localhost:11434/v1/",
    api_key="ollama"  # 任意字符串即可，不需要真实 key
)

response = llm.invoke("你好，介绍一下你自己")
print(response.content)

4.2 GPT4All

特点：开源免费，本地运行，支持多种模型

安装步骤：

1. 访问 https://gpt4all.io 下载客户端
2. 在应用中下载模型文件
3. 将模型文件放到项目目录

代码示例：

from langchain_community.chat_models import ChatGPT4All

llm = ChatGPT4All(
    model="./models/你的模型文件.bin",
    max_tokens=2048,
    temp=0.7
)

response = llm.invoke("Hello, 介绍一下你自己")
print(response.content)

---

五、实战：多模型切换管理器

import os
from langchain_openai import ChatOpenAI
from langchain_anthropic import ChatAnthropic

class MultiModelManager:
    """统一管理多个大模型服务"""
    
    def __init__(self):
        self.models = {
            # 云端服务（需要 API Key）
            "openai": ChatOpenAI(
                model="gpt-4o",
                api_key=os.environ.get("OPENAI_API_KEY"),
                temperature=0.7
            ) if os.environ.get("OPENAI_API_KEY") else None,
            
            "anthropic": ChatAnthropic(
                model="claude-3-5-sonnet-20240620",
                api_key=os.environ.get("ANTHROPIC_API_KEY"),
                temperature=0.7
            ) if os.environ.get("ANTHROPIC_API_KEY") else None,
            
            # 本地服务（免费，无需 API Key）
            "ollama": ChatOpenAI(
                model="qwen3.5:4b",
                base_url="http://localhost:11434/v1/",
                api_key="ollama"
            ),
        }
    
    def chat(self, message, model_name="ollama"):
        """使用指定模型对话"""
        if model_name not in self.models or self.models[model_name] is None:
            return f"模型 {model_name} 未配置，请检查 API Key"
        
        llm = self.models[model_name]
        return llm.invoke(message).content

# 使用示例
if __name__ == "__main__":
    manager = MultiModelManager()
    
    # 免费本地模型
    print("=== 使用 Ollama（本地，免费）===")
    print(manager.chat("你好！用中文自我介绍", model_name="ollama"))
    
    # 云端模型（需要配置 API Key）
    if os.environ.get("OPENAI_API_KEY"):
        print("\n=== 使用 OpenAI（云端，按用量付费）===")
        print(manager.chat("Hello! Introduce yourself", model_name="openai"))

---

六、快速选择指南

场景	推荐方案	是否免费	是否需要 API Key
本地开发测试	Ollama + qwen3.5:4b	免费	否
生产环境高质量输出	OpenAI GPT-4o / Claude 3.5	付费	是
超长上下文处理	Claude 3.5 Sonnet	付费	是
中文场景优先	通义千问 / 智谱 AI	有免费额度	是
预算敏感项目	Ollama + 开源模型	完全免费	否
企业级应用	Cohere Command R+	有免费额度	是

---

七、常见问题

Q: 如何安全地管理 API Key？

A: 永远不要把 API Key 硬编码在代码中。推荐使用环境变量或配置文件。

Q: Ollama 的 api_key="ollama" 是什么意思？

A: Ollama 不需要真实的 API Key，但 LangChain 的 OpenAI 兼容接口要求这个参数，所以传任意字符串即可。

Q: 本地模型速度慢怎么办？

A: 可以考虑：使用更小的模型（如 qwen3.5:1.8b）、升级 GPU、使用云服务。

Q: 如何监控 API 用量？

A: 每个服务商的控制台都有用量统计页面，可以实时查看 token 消耗和费用。

---

LangChain 的大模型集成让开发者可以：

1. 灵活切换：一行代码切换不同模型
2. 本地与云端：同时支持免费本地部署和付费云服务
3. 统一接口：所有模型使用相同的 API 设计
4. 生态丰富：覆盖国内外主流模型

推荐入门路径：先用 Ollama 本地模型免费开发，根据业务需求再考虑接入云服务。