构建多模型协同的Ollama智能对话系统

构建多模型协同的Ollama智能对话系统

在人工智能应用中，单一模型往往难以满足复杂场景的需求。本文将介绍如何整合多个Ollama模型，构建一个智能对话系统，实现情感分析、危机评估和智能回复的协同功能。

系统架构

该系统采用多模型pipeline架构，包含三个核心组件：

• 情感分析模型 (Qwen-7B)
• 危机评估模型 (MindPal)
• 主对话模型 (PsychologistV2)

技术实现

1. 基础架构设计

首先，我们定义了一个OllamaModelPipeline类来管理多个模型的调用：

class OllamaModelPipeline:
    def __init__(self):
        self.endpoints = {
            'emotion': 'http://localhost:11435',  # qwen:7b
            'main': 'http://localhost:11436',     # psychologistv2
            'crisis': 'http://localhost:11437'    # mindpal
        }

2. 模型调用接口

实现统一的模型调用接口，确保与不同模型的交互一致性：

def call_model(self, model_name: str, prompt: str) -> Dict[Any, Any]:
    endpoint = self.endpoints[model_name]
    model_map = {
        'emotion': 'qwen:7b',
        'main': 'ALIENTELLIGENCE/psychologistv2:latest',
        'crisis': 'ALIENTELLIGENCE/mindpal:latest'
    }
    
    response = requests.post(
        f"{endpoint}/api/generate",
        json={
            "model": model_map[model_name],
            "prompt": prompt
        }
    )
    return response.json()

3. 多模型协同处理流程

系统采用瀑布式的处理流程：

1. 情感分析阶段

   emotion_prompt = f"分析以下文本的情绪状态，用简短的关键词回答: {user_input}"
   emotion_result = self.call_model('emotion', emotion_prompt)

2. 条件式危机评估

   if "悲伤" in emotion_result['response'] or "焦虑" in emotion_result['response']:
       crisis_prompt = f"以下是用户的输入，请评估是否需要危机干预，给出建议：{user_input}"
       crisis_result = self.call_model('crisis', crisis_prompt)

3. 上下文感知的回应生成

   context = f"""
   用户输入: {user_input}
   情绪分析: {emotion_result['response']}
   危机评估: {crisis_result['response']}
   请根据以上信息，生成适当的回应。
   """
   main_result = self.call_model('main', context)

系统特点

1. 模块化设计

   • 各模型独立部署
   • 统一的接口封装
   • 易于扩展和维护

2. 智能流程控制

   • 基于情绪触发危机评估
   • 上下文信息传递
   • 错误处理机制

3. 资源优化

   • 按需调用模型
   • 并行部署提升性能
   • 独立端口避免冲突

使用示例

pipeline = OllamaModelPipeline()
result = pipeline.analyze_user_input("我最近感觉很困扰，工作压力很大")

print("\n分析结果:")
print(f"情绪分析: {result['emotion_analysis']}")
print(f"危机评估: {result['crisis_assessment']}")
print(f"AI回应: {result['response']}")

实际应用场景

1. 心理咨询辅助

   • 快速情绪识别
   • 及时危机干预
   • 个性化回应生成

2. 客服系统增强

   • 情绪感知服务
   • 智能话术调整
   • 多层次响应机制

3. 社交媒体监控

   • 情绪趋势分析
   • 危机预警系统
   • 智能回复建议

未来优化方向

1. 模型优化

   • 引入更专业的情感分析模型
   • 优化危机评估准确度
   • 增强回复个性化程度

2. 系统增强

   • 添加会话历史记忆
   • 实现多轮对话管理
   • 引入更多专业领域模型

3. 性能提升

   • 实现模型结果缓存
   • 优化请求并发处理
   • 添加负载均衡机制

完整代码

import requests
import json
from typing import Dict, Any

class OllamaModelPipeline:
    def __init__(self):
        # 定义模型端点
        self.endpoints = {
            'emotion': 'http://localhost:11435',  # qwen:7b
            'main': 'http://localhost:11436',     # psychologistv2
            'crisis': 'http://localhost:11437'    # mindpal
        }
    
    def call_model(self, model_name: str, prompt: str) -> Dict[Any, Any]:
        """调用指定的模型"""
        endpoint = self.endpoints[model_name]
        model_map = {
            'emotion': 'qwen:7b',
            'main': 'ALIENTELLIGENCE/psychologistv2:latest',
            'crisis': 'ALIENTELLIGENCE/mindpal:latest'
        }
        
        response = requests.post(
            f"{endpoint}/api/generate",
            json={
                "model": model_map[model_name],
                "prompt": prompt
            }
        )
        return response.json()

    def analyze_user_input(self, user_input: str) -> Dict[str, Any]:
        """使用多个模型分析用户输入"""
        # 1. 使用情感分析模型评估情绪
        emotion_prompt = f"分析以下文本的情绪状态，用简短的关键词回答: {user_input}"
        emotion_result = self.call_model('emotion', emotion_prompt)
        
        # 2. 根据情绪状态决定是否需要危机干预
        if "悲伤" in emotion_result['response'] or "焦虑" in emotion_result['response']:
            crisis_prompt = f"以下是用户的输入，请评估是否需要危机干预，给出建议：{user_input}"
            crisis_result = self.call_model('crisis', crisis_prompt)
        else:
            crisis_result = {"response": "无需危机干预"}
        
        # 3. 使用主模型生成回应
        context = f"""
        用户输入: {user_input}
        情绪分析: {emotion_result['response']}
        危机评估: {crisis_result['response']}
        请根据以上信息，生成适当的回应。
        """
        main_result = self.call_model('main', context)
        
        return {
            "emotion_analysis": emotion_result['response'],
            "crisis_assessment": crisis_result['response'],
            "response": main_result['response']
        }

def main():
    pipeline = OllamaModelPipeline()
    
    print("欢迎使用多模型分析系统！输入 'quit' 退出")
    while True:
        user_input = input("\n请输入您想说的话: ")
        if user_input.lower() == 'quit':
            break
            
        try:
            result = pipeline.analyze_user_input(user_input)
            print("\n分析结果:")
            print(f"情绪分析: {result['emotion_analysis']}")
            print(f"危机评估: {result['crisis_assessment']}")
            print(f"AI回应: {result['response']}")
        except Exception as e:
            print(f"发生错误: {str(e)}")

if __name__ == "__main__":
    main()