Milvus单机模式安装和试用

1.安装ollama的package包;

复制代码
# install package
pip install -U langchain-ollama

2.我们直接使用ChatOllama实例化模型,并通过invoke进行调用;

复制代码
from langchain_ollama import ChatOllama

llm = ChatOllama(model="deepseek-r1")
messages = [
    ("system", "你是一个很有用的翻译助手,请将以下句子翻译成英语。"),
    ("human", "我爱编程。")
]
message = llm.invoke(messages)
print(message.content)

3.通过流式方式调用大模型;

复制代码
from langchain_ollama import ChatOllama

msgs = [
    ("human", "LLM是什么?")
]
llm = ChatOllama(model="deepseek-r1")
for chunk in llm.stream(msgs):
    print(chunk.content, end='')

4.我们可以直接使用chain链接prompt和llm进行调用;

复制代码
from langchain_ollama.chat_models import ChatOllama
from langchain_core.prompts import ChatPromptTemplate

prompt = ChatPromptTemplate.from_messages(
    [
        (
            "system",
            "你是一个很有帮助的翻译助手,请将用户的输入从{input_language}成{output_language}"
        ),
        (
            "human",
            "{input}"
        )
    ]
)

llm = ChatOllama(model="deepseek-r1")
chain = prompt | llm
msg = chain.invoke(
    {
        "input_language":"中文",
        "output_language":"英文",
        "input":"我爱编程。"
    }
)
print(msg.content)

5.通过tool标记函数,并使用bind_tools来绑定函数,来实现tools的调用;

复制代码
from typing import List

from langchain_ollama import ChatOllama
from langchain_core.tools import tool

    # """校验用户的历史住址.

    # Args:
    #     user_id (int): 用户的id.
    #     addresses (List[str]): 以前居住的地址列表.
    # """

@tool
def validate_user(user_id: int, addresses: List[str]) -> bool:
    """Validate user using historical addresses.

    Args:
        user_id (int): the user ID.
        addresses (List[str]): Previous addresses as a list of strings.
    """

    return True

llm = ChatOllama(model="qwen3:0.6b").bind_tools([validate_user])
result = llm.invoke(
    "请校验一下用户123,他以前在"
    "河南省郑州市和"
    "北京市西城区住过"
)
print(result.tool_calls)
相关推荐
SEO_juper1 小时前
企业级 AI 工具选型报告:9 个技术平台的 ROI 对比与部署策略
人工智能·搜索引擎·百度·llm·工具·geo·数字营销
同志们3 小时前
LiteLLM Go: 多平台LLM客户端统一接口实现
llm·go
Q同学3 小时前
SciMaster:无需微调,在人类最后考试上刷新 SOTA
人工智能·llm·agent
alex1004 小时前
AI Agent开发学习系列 - langchain之LCEL(5):如何创建一个Agent?
人工智能·python·语言模型·langchain·prompt·向量数据库·ai agent
聚客AI4 小时前
🚀深度解析Agentic RAG:如何突破模型的知识边界
人工智能·llm·掘金·日新计划
青Cheng序员石头7 小时前
【转译】Agentic AI 与 AI Agent:五大差异及其重要性
llm·aigc·agent
青Cheng序员石头7 小时前
Prompt Engineering vs Vibe Coding vs Context Engineering
langchain·llm·aigc
数据智能老司机8 小时前
构建由 LLM 驱动的 Neo4j 应用程序——使用 Neo4j 和 Haystack 实现强大搜索功能
langchain·llm·aigc
胡耀超8 小时前
我们如何写好提示词、发挥LLM能力、写作指南:从认知分析到动态构建的思维方法
人工智能·python·学习·大模型·llm·提示词·八要素思维
文浩(楠搏万)20 小时前
XTTS实现语音克隆:精确控制音频格式与生成流程【TTS的实战指南】
大模型·tts·克隆·语音·声音克隆·音色·xtts