🔥🔥🔥一文搞懂 Langchain Models (三)

接上文《🔥🔥🔥一文搞懂 Langchain Models (二)》

Chat Models

聊天模型使用LLM(大型语言模型)进行操作,但具有不同的接口,使用"消息"而不是原始文本输入/输出。LangChain 提供了与这些模型轻松交互的功能。

在聊天模型中,支持三种类型的消息:

  • SystemMessage(系统消息) - 这设置了LLM的行为和目标。您可以在这里给出具体的指示,如:"扮演市场经理。" 或 "只返回JSON响应,不返回说明文本"
  • HumanMessage(人类消息) - 这是您将用户提示输入并发送给LLM的地方
  • AIMessage(AI消息) - 当将聊天记录传回LLM以供将来请求时,您可以在这里存储来自LLM的响应。

还有一个通用的 ChatMessage,它接受一个任意的"角色"输入,可以在需要除系统/人类/AI之外的其他内容的情况下使用。但通常情况下,您会使用上面提到的三种类型。

要使用它,您需要导入所使用集成的聊天模型。

python 复制代码
from langchain.chat_models import ChatOpenAI
from langchain.schema import (
    AIMessage,
    HumanMessage,
    SystemMessage
)

然后,您需要初始化聊天代理。这个示例使用了 OpenAI 的聊天模型。

python 复制代码
chat = ChatOpenAI(temperature=0)

与LLM模型一样,这也有多个可以调整的设置,例如:

  • model(模型) - 默认为 "gpt-3.5-turbo"
  • temperature(温度) - 参见上面的解释
  • max_tokens(最大令牌数) - 设置LLM在响应中生成的令牌数量的限制 然后,您需要将一系列消息传递给聊天代理以生成响应。在关于LangChain的"Memory"(记忆)的未来文章中,我们将讨论用于存储和应用聊天记录的ChatMessageHistory类,它可以使代理记住聊天的上下文并在未来的响应中使用它,从而产生"对话"的好处。
python 复制代码
messages = [
	SystemMessage(content="Return only a JSON object as a response with no explanation text"),
	HumanMessage(content="Generate a JSON response object containing a brief description and release year for the movie 'Inception'")
]

chat(messages)

# AIMessage(content='{\\n  "title": "Inception",\\n  "description": "A skilled thief is given a final chance at redemption which involves executing his toughest job yet: Inception. The idea of planting an idea into someone\\'s mind is deemed impossible by most, but Cobb and his team of specialists must accomplish this task to save their lives.",\\n  "release_year": 2010\\n}', additional_kwargs={})

聊天模型(Chat Model)和LLM模型一样,也有一个生成函数,您可以在其中传入多个消息集合。与前述类似,它还包括有用的信息,如令牌使用情况。

python 复制代码
batch_messages = [
    [
        SystemMessage(content="Return only a JSON object as a response with no explanation text"),
        HumanMessage(content="Generate a JSON response object containing a brief description and release year for the movie 'Inception'")
    ],
    [
        SystemMessage(content="Return only a JSON object as a response with no explanation text"),
        HumanMessage(content="Generate a JSON response object containing a brief description and release year for the movie 'Avatar'")
    ]
]
result = chat.generate(batch_messages)

print(result.generations[1])
# ChatGeneration(text='{\\n  "title": "Avatar",\\n  "description": "A paraplegic marine dispatched to the moon Pandora on a unique mission becomes torn between following his orders and protecting the world he feels is his home.",\\n  "release_year": 2009\\n}', generation_info=None, message=AIMessage(content='{\\n  "title": "Avatar",\\n  "description": "A paraplegic marine dispatched to the moon Pandora on a unique mission becomes torn between following his orders and protecting the world he feels is his home.",\\n  "release_year": 2009\\n}', additional_kwargs={}))

print(result.llm_outout)
# {'token_usage': {'prompt_tokens': 91, 'completion_tokens': 151, 'total_tokens': 242}, 'model_name': 'gpt-3.5-turbo'}
相关推荐
迪三达25 分钟前
GPT-1 技术报告
gpt
fanstuck9 小时前
AI辅助数学建模有哪些优势?
人工智能·数学建模·语言模型·aigc
墨风如雪10 小时前
MiniMax Speech 2.6:告别“慢半拍”,AI语音新纪元!
aigc
DO_Community13 小时前
利用腾讯开源 Hunyuan3D 2.1:在 DigitalOcean GPU Droplet 上快速搭建 3D 模型
人工智能·3d·开源·llm·aigc·大语言模型
_张一凡14 小时前
【AIGC面试面经第四期】LLM-Qwen相关问答
面试·职场和发展·aigc
机器之心14 小时前
刚刚,智源悟界·Emu3.5登场,原生具备世界建模能力
人工智能·openai
沉迷单车的追风少年18 小时前
Diffusion Model与视频超分(2):解读字节开源视频增强模型SeedVR2
人工智能·深度学习·aigc·音视频·强化学习·视频生成·视频超分
后端小肥肠18 小时前
又一AI爆款神器!n8n一键生成10w+治愈老奶奶图文到本地磁盘,公号/小红书/抖音都能用!
aigc·openai·agent
战神数科20 小时前
AI IN ALL峰会|百度阿里揭秘智能营销与出海的AI实战
ai·ai作画·aigc·ai编程·ai写作
AI大牛21 小时前
AI智能客服机器人是怎么做出来的?
aigc