趣玩-Ollama-Llm-Chatrbot

软件说明

  1. 这个软件本人是从零开始实现的聊天机器人。基于Ollama(PythonApi )+ Pyside,实现了聊天机器的基本功能,还有一些个性化的功能比如模型管理,敏感词过滤,个性化主题设置,头像设置等功能。在此开源出来与大家一起学期。
  2. 这个软件适合想开发私有LLM聊天机器人的用户,可以基于此软件方便的进行二次开发。也适合想体验如何从零开始实现一个LLM聊天机器人的用户。

软件demo演示

llm_chat_robot_release_v_1_0_0

llm_chat_robot_v1.0.0版本发布说明

  1. Ollama + 本地LLM + Pyside6,从零开始的实现本地LLM聊天机器人,

  2. 支持多轮对话,支持上下文记忆,Ollama模型管理等功能(模型的增删查改/运行/停止全部APP内完成)
    目前已经测试模型有:
    deepseek-r1:1.5b/deepseek-r1:7b/deepseek-r1:8b/llama3.2:3b/qwen2.5-coder:3b/phi4-mini:3.8b/mistral:7b
    针对不同的需求可以自由切换模型,比如要进行代码编写qwen2.5-coder:3b这种模型效果就会更好
    可以自由添加更多Ollama支持的模型

  3. 支持模型回复Markdown文本渲染/代码渲染/支持结果部分复制/全部复制

  4. 敏感词过滤,支持自定义敏感词库,支持敏感词替换

  5. 系统信息实时显示,Token速率实时显示, CPU/内存/GPU/模型信息实时显示

  6. UI个性化设置,多种主题设置/头像自定义/APP图标自定义

  7. 开放模型模型参数,可以自由修改测试不同模型参数,体验不同的效果,目前已经开放了以下参数:

    temperature/top_p/num_predict/repeat_penalty/presence_penalty/frequency_penalty
    mirostat/mirostat_eta/mirostat_tau/seed/stop/n_ctx/num_thread/response_mode
    stream_on/save_context/save_context_length/keep_alive/system_role_desc/ollama_host/ollama_port

源码下载链接

llm-chat-robot完整Python工程

软件的使用文档

在上面压缩包中的llm_chat_robot_v_1_0_0_使用说明.pdf,里面详细介绍了软件的使用方法及python代码如何运行。

大家有相关的问题,欢迎在评论留言,期待你们的反馈~

相关推荐
熊猫钓鱼>_>8 小时前
免费域名的隐秘陷阱与网站稳定部署实战:火山引擎到底行不行?
人工智能·ai·llm·域名·火山引擎·引擎·火山
冬奇Lab9 小时前
DeepSeek Harness 系列(03):工具系统——给 Agent 装上手
人工智能·deepseek
阿祖zu10 小时前
训练师 Agent 小程序产品上线啦
微信小程序·llm·agent
slacker-kian10 小时前
[实践]-本地大模型Agent使用自定义MCP服务实现与SAP系统集成(二)
ai·llm·sap·agent·mcp·odata·qwen-agent
七牛开发者12 小时前
告别反复调参,一个 Skill 让 AI 掌握论文图的视觉语法:以 DeepSeek V4.1 Flash 论文图为例
github·agent·deepseek
一只小bit12 小时前
LlamaIndex框架:简单RAG框架的全过程实现手册
llm·milvus·rag·llamaindex·deepseek
CBeann14 小时前
如何设计CLAUDE.md
大模型·llm·微调
桃西西呀15 小时前
GPT-6 Astra 强到被锁起来:拆开它的 computer-use 架构、可搜索记忆与计费悬崖
人工智能·gpt·llm
浅安的邂逅17 小时前
260910-DeepSeek 发布 V4.1 Flash:1M 上下文、552B MoE,KV 缓存降到上一代 1/4,同步开源
人工智能·开源·ai大模型·deepseek·ai日报
DO_Community18 小时前
RAG 的 Embedding 模型需要微调吗?什么时候值得自己训练?
人工智能·llm·aigc·agent·ai编程