技术栈

llmunity

dzj2021
2 天前
unity·向量数据库·向量搜索·duckdb·llmunity
Unity中使用LLMUnity遇到的问题(五)——主要脚本的继承关系+用DuckDB对知识库升级的思考本文部分内容为GPT问答生成, 肯定有错漏的地方,人老体衰,还请轻拍指正~~在构建 RAG(检索增强生成)系统或 AI NPC 时,选择合适的检索组件至关重要。下表对比了 LLMUnity 的原生组件与目前流行的 DuckDB 方案。
dzj2021
7 天前
unity·llmunity·知识库大模型
Unity中使用LLMUnity遇到的问题(三)——如何配置和使用知识库以【KnowledgeBaseGame】案例为准进行分析,探索一下知识库的使用方法以butler为例:
dzj2021
8 天前
unity·llmunity
Unity中使用LLMUnity遇到的问题(二)——LLMUnity脚本学习和探索- LLM脚本的作用 LLM 是 LLMUnity 的“核心服务节点”,负责在 Unity 内部启动、管理并桥接一个本地/远程的大语言模型推理服务(llama.cpp 系系),并向 Unity 层暴露统一的 API(Completion / Embedding / Tokenize / Slot / LoRA / Server)。
dzj2021
21 天前
unity·llm·llmunity
Unity中使用LLMUnity遇到的问题(一)设置[Num GPU Layers]参数的值,官方说-1代表全用GPU,实测后发现设置成-1时,CPU满载,GPU貌似没有忙碌。
我是有底线的