Large Language Model(LLM)应用开发学习实践(一)

一、百炼平台DashScope平台的联系与区别

阿里云百炼平台(Bailian)与DashScope(灵积)都是阿里云提供的大模型服务产品,二者都基于通义千问(Qwen)等大模型,但在定位、功能、目标用户和使用方式上存在明显区别。整体上两者的关系为互补演进,DashScope 提供原子能力,百炼在此之上构建应用生态。

温馨提示:

DashScope控制台已逐步整合进百炼平台,DashScope仍作为阿里云通义千问系列大模型的底层API服务存在,适合高级开发者直接集成。两个平台共享同一套计费体系与配额管理。

(一)DashScope(灵积)平台

DashScope提供通义千问系列原始大模型API,通过HTTP/gRPC API或SDK(如dashscope Python包)调用大模型。适合已有工程能力,只需"模型能力"的团队。

(二)大模型服务百炼平台

阿里云大模型服务百炼平台在DashScope基础上封装了应用层能力,如预置应用模板、可视化搭建工具(拖拽式配置Prompt、知识库、插件、MCP工具)、支持Agent开发(可组合大模型+外部MCP工具+记忆存储+决策逻辑)、一键发布为Web应用或API等。同时,支持直接调用通义千问系列大模型API(底层通过DashScope)和模型微调等。

二、开发实践

实现功能

  1. 基于qwen-plus大模型的无记忆单次问答;

  2. AI Agent简单自定义工具的调用。

开发工具及大模型平台

阿里云大模型服务平台百炼、LangChain、anaconda、PyCharm

注意事项

  1. 基于langchain_community.chat_models调用通义千问模型,需要安装DashScope包;

  2. 在百炼控制台申请的API Key,可以直接用于调用DashScope的API。两个平台共享同一套计费体系和配额管理;

  3. API Key存储于.env文件,采用设置环境变量的方式使用。

详细参考文档

LangChain Doc - ChatTongyi

LangChain Doc - Tools

(一)关键代码

python 复制代码
import os
from dotenv import load_dotenv
from langchain_community.chat_models import ChatTongyi
from langchain_core.messages import HumanMessage,SystemMessage,AIMessage,ToolMessage
# 自定义Tools文件并自动识别所有工具
import Tools
from langchain_core.tools.structured import StructuredTool

# 解析.env文件并将所有变量设置为环境变量
load_dotenv()
QWEN_API_KEY = os.getenv("QWEN_API_KEY")

# 预定义大语言模型
ChatLLM = ChatTongyi(
    model="qwen-plus",
    api_key=QWEN_API_KEY,
    top_p=0.8
)

# 为大语言模型添加调用工具
# 通过from langchain.tools import tool引入@tool装饰器包装的工具函数,其取出的obj对象类型为langchain_core.tools.structured.StructuredTool
# StructuredTool是BaseTool的子类
tools_obj = []
tools_dic = {}
for name, obj in vars(Tools).items():
    if isinstance(obj, StructuredTool):
        tools_dic[name] = obj
        tools_obj.append(obj)
ChatLLM_tools = ChatLLM.bind_tools(tools_obj)

# 预定义系统提示词
SystemPrompt = "你是一位资深的BIM工程师,仅回答BIM领域相关的问题。若遇到与BIM领域无关或因信息不充分导致无法回答的问题,请回答'非常抱歉,无法为您当前遇到的问题提供一个较为准确的答复!'"

# 构建对话
UserMessage = ""
while UserMessage != "quit":
    UserMessage = input("请输入您的问题:")
    if UserMessage == "quit":
        break
    # 消息机制构建
    message = [
        SystemMessage(content=SystemPrompt),
        HumanMessage(content=UserMessage)
    ]
    # 消息提交大模型,模型决定是否需要调用工具
    response = ChatLLM_tools.invoke(message)
    #print(response) #测试
    # 检查是否有工具调用
    if response.tool_calls:
        # 执行所有工具调用
        tool_messages = []
        for tool_call in response.tool_calls:
            #print(tool_call) #测试
            tool_name = tool_call["name"]
            tool_args = tool_call["args"]
            # LLM回传信息给tools,并为对应tool传递参数
            tool_result = tools_dic[tool_name].invoke(tool_args)
            # 构造 ToolMessage 回传
            tool_messages.append(
                ToolMessage(content=str(tool_result), tool_call_id=tool_call["id"])
            )
        # 将原始消息 + 模型响应 + 工具结果再次传给模型
        final_response = ChatLLM_tools.invoke(message + [response] + tool_messages)
        print(final_response.content)
    else:
        # 模型直接回答,无需工具
        print(response.content)
python 复制代码
# Tools工具集
# @tool装饰器会将一个普通函数转换为一个langchain_core.tools.structured.StructuredTool对象。这个Tool对象包含:名称、描述、可调用函数、参数schema等
from langchain.tools import tool

@tool
def bim_software_intro(software_name: str) -> str:
    """在询问BIM软件的使用效果时调用该函数,该函数的作用是返回所询问BIM软件的使用效果及主观评价内容。

    Args:
        software_name:询问的BIM软件的名称
    """
    comment = "{0}软件解决了BIM领域中的生产痛难点,提高了建筑业生产效率与质量,推动了建筑业的智能信息化。".format(software_name)
    return comment

(二)实践结果

大模型应用开发库文档:

/*1*/ GitHub - openai/openai-python: The official Python library for the OpenAI API

/*2*/ LangChain overview - Docs by LangChain

/*3*/ LangChain integrations packages

常用大模型应用开发官方网址:

1 智谱AI开放平台

2 MiniMax

3 大模型服务平台百炼 - 大模型应用构建 - 阿里云

DashScope(灵积)

4 DeepSeek | 深度求索

5 火山引擎-你的AI云

6 Moonshot AI 开放平台 - Kimi 大模型 API 服务

7 千帆大模型平台-企业级一站式大模型开发及应用开发平台-百度智能云

8 腾讯混元大模型_大语言模型_自然语言大模型- 腾讯云

9 xAI(Grok系列大模型)

10 Gemini系列大模型

11 OpenAI系列大模型

12Claude系列大模型

13 Ollama本地大模型部署框架

网络参考资料:

相关推荐
喵叔哟35 分钟前
Week 3 -- Day 1:LangGraph 入门
langchain
wuhen_n2 小时前
RAG 实战:语义检索 + 大模型生成精准问答
前端·langchain·ai编程
秦jh_2 小时前
【LangChain核心组件】少样本提示(示例选择器)
人工智能·python·langchain
VipSoft2 小时前
LangChain 入门 Memory 会话记忆
langchain
眠りたいです3 小时前
LangChainv1:agent快速上手与中间件认识
人工智能·python·中间件·langchain·langgraph
小lan猫4 小时前
用 AI Agent 让购物更便捷:LumiGlow 电商网站实践
前端框架·llm·agent
meilindehuzi_a4 小时前
全栈进阶:告别 Node 繁琐配置,用下一代运行时 Bun 丝滑构建 AI Agent 客户端
人工智能·llm
sg_knight4 小时前
Claude Code、Cursor、Copilot、openCode,到底怎么选
llm·copilot·agent·claude·code·codex·claude-code
人工小情绪5 小时前
Antigravity 2.0 更新:它不只是一个 AI IDE 了
ide·人工智能·ai agent·antigratity