Large Language Model(LLM)应用开发学习实践(一)

一、百炼平台DashScope平台的联系与区别

阿里云百炼平台(Bailian)与DashScope(灵积)都是阿里云提供的大模型服务产品,二者都基于通义千问(Qwen)等大模型,但在定位、功能、目标用户和使用方式上存在明显区别。整体上两者的关系为互补演进,DashScope 提供原子能力,百炼在此之上构建应用生态。

温馨提示:

DashScope控制台已逐步整合进百炼平台,DashScope仍作为阿里云通义千问系列大模型的底层API服务存在,适合高级开发者直接集成。两个平台共享同一套计费体系与配额管理。

(一)DashScope(灵积)平台

DashScope提供通义千问系列原始大模型API,通过HTTP/gRPC API或SDK(如dashscope Python包)调用大模型。适合已有工程能力,只需"模型能力"的团队。

(二)大模型服务百炼平台

阿里云大模型服务百炼平台在DashScope基础上封装了应用层能力,如预置应用模板、可视化搭建工具(拖拽式配置Prompt、知识库、插件、MCP工具)、支持Agent开发(可组合大模型+外部MCP工具+记忆存储+决策逻辑)、一键发布为Web应用或API等。同时,支持直接调用通义千问系列大模型API(底层通过DashScope)和模型微调等。

二、开发实践

实现功能

  1. 基于qwen-plus大模型的无记忆单次问答;

  2. AI Agent简单自定义工具的调用。

开发工具及大模型平台

阿里云大模型服务平台百炼、LangChain、anaconda、PyCharm

注意事项

  1. 基于langchain_community.chat_models调用通义千问模型,需要安装DashScope包;

  2. 在百炼控制台申请的API Key,可以直接用于调用DashScope的API。两个平台共享同一套计费体系和配额管理;

  3. API Key存储于.env文件,采用设置环境变量的方式使用。

详细参考文档

LangChain Doc - ChatTongyi

LangChain Doc - Tools

(一)关键代码

python 复制代码
import os
from dotenv import load_dotenv
from langchain_community.chat_models import ChatTongyi
from langchain_core.messages import HumanMessage,SystemMessage,AIMessage,ToolMessage
# 自定义Tools文件并自动识别所有工具
import Tools
from langchain_core.tools.structured import StructuredTool

# 解析.env文件并将所有变量设置为环境变量
load_dotenv()
QWEN_API_KEY = os.getenv("QWEN_API_KEY")

# 预定义大语言模型
ChatLLM = ChatTongyi(
    model="qwen-plus",
    api_key=QWEN_API_KEY,
    top_p=0.8
)

# 为大语言模型添加调用工具
# 通过from langchain.tools import tool引入@tool装饰器包装的工具函数,其取出的obj对象类型为langchain_core.tools.structured.StructuredTool
# StructuredTool是BaseTool的子类
tools_obj = []
tools_dic = {}
for name, obj in vars(Tools).items():
    if isinstance(obj, StructuredTool):
        tools_dic[name] = obj
        tools_obj.append(obj)
ChatLLM_tools = ChatLLM.bind_tools(tools_obj)

# 预定义系统提示词
SystemPrompt = "你是一位资深的BIM工程师,仅回答BIM领域相关的问题。若遇到与BIM领域无关或因信息不充分导致无法回答的问题,请回答'非常抱歉,无法为您当前遇到的问题提供一个较为准确的答复!'"

# 构建对话
UserMessage = ""
while UserMessage != "quit":
    UserMessage = input("请输入您的问题:")
    if UserMessage == "quit":
        break
    # 消息机制构建
    message = [
        SystemMessage(content=SystemPrompt),
        HumanMessage(content=UserMessage)
    ]
    # 消息提交大模型,模型决定是否需要调用工具
    response = ChatLLM_tools.invoke(message)
    #print(response) #测试
    # 检查是否有工具调用
    if response.tool_calls:
        # 执行所有工具调用
        tool_messages = []
        for tool_call in response.tool_calls:
            #print(tool_call) #测试
            tool_name = tool_call["name"]
            tool_args = tool_call["args"]
            # LLM回传信息给tools,并为对应tool传递参数
            tool_result = tools_dic[tool_name].invoke(tool_args)
            # 构造 ToolMessage 回传
            tool_messages.append(
                ToolMessage(content=str(tool_result), tool_call_id=tool_call["id"])
            )
        # 将原始消息 + 模型响应 + 工具结果再次传给模型
        final_response = ChatLLM_tools.invoke(message + [response] + tool_messages)
        print(final_response.content)
    else:
        # 模型直接回答,无需工具
        print(response.content)
python 复制代码
# Tools工具集
# @tool装饰器会将一个普通函数转换为一个langchain_core.tools.structured.StructuredTool对象。这个Tool对象包含:名称、描述、可调用函数、参数schema等
from langchain.tools import tool

@tool
def bim_software_intro(software_name: str) -> str:
    """在询问BIM软件的使用效果时调用该函数,该函数的作用是返回所询问BIM软件的使用效果及主观评价内容。

    Args:
        software_name:询问的BIM软件的名称
    """
    comment = "{0}软件解决了BIM领域中的生产痛难点,提高了建筑业生产效率与质量,推动了建筑业的智能信息化。".format(software_name)
    return comment

(二)实践结果

大模型应用开发库文档:

/*1*/ GitHub - openai/openai-python: The official Python library for the OpenAI API

/*2*/ LangChain overview - Docs by LangChain

/*3*/ LangChain integrations packages

常用大模型应用开发官方网址:

1 智谱AI开放平台

2 MiniMax

3 大模型服务平台百炼 - 大模型应用构建 - 阿里云

DashScope(灵积)

4 DeepSeek | 深度求索

5 火山引擎-你的AI云

6 Moonshot AI 开放平台 - Kimi 大模型 API 服务

7 千帆大模型平台-企业级一站式大模型开发及应用开发平台-百度智能云

8 腾讯混元大模型_大语言模型_自然语言大模型- 腾讯云

9 xAI(Grok系列大模型)

10 Gemini系列大模型

11 OpenAI系列大模型

12Claude系列大模型

13 Ollama本地大模型部署框架

网络参考资料:

相关推荐
lincats4 小时前
Claude Code项目越写越乱?这套清理流程能救你
ai·ai agent·claude code
MomentYY5 小时前
Temperature:AI 的“脑洞旋钮”
前端·llm·ai编程
Darling噜啦啦11 小时前
上下文工程实战:从 Prompt 到 Harness 的三次 AI 工程化浪潮
llm·ai编程
doiito15 小时前
【Agent Harness】Gliding Horse 核心设计理念,不跟风开发自己的AI Agent
ai·rust·架构设计·系统设计·ai agent
lincats1 天前
Claude Code再强,也有这7件事做不了
ai agent·deepseek·claude code
Hyyy1 天前
Function Calling / Tool Use的原理和实现模式
前端·llm·ai编程
智泊AI1 天前
Loop Engineering 为什么会出现?一个 Loop 的组成部分有哪些?
llm
凌奕1 天前
别用文档约束你的 Agent:聊聊 Agent 开发流程的思想
llm·github·agent
doiito2 天前
【Agent Harness】Gliding Horse 的 L2 作战地图:让多 Agent 协作从“摸黑”变成“透明”
ai·rust·架构设计·系统设计·ai agent
Java之美2 天前
vLLM 是怎么工作的?
llm