Unity中使用LLMUnity遇到的问题(一)

一、工程文件中已经指定了模型文件,发布运行后仍然联网下载大模型文件

1、原因:Product name包含中文名,改成全英文后正常了。

2、模型配置参考

  • (1)模型文件的位置:如下所示,把模型文件拷贝到StreamingAssets根目录

    -(2)模型关联设置
    通过[LoadModel]按钮,把模型指定到StreamingAssets下的gguf模型文件

二、如何让LLM使用GPU而不是全部依赖CPU

1、修改LLM脚本的配置参数

设置[Num GPU Layers]参数的值,官方说-1代表全用GPU,实测后发现设置成-1时,CPU满载,GPU貌似没有忙碌。

(1)Num GPU Layers = -1 时的实测

  • 回答的时候,吐文本速度慢,像个七老八十的老倌吃饭的样子
  • 查看CPU和GPU,发现CPU哼哧哼哧的满载,GPU则是清闲无比

(2)你可以设置【Num GPU Layers】 = 2-4-6-16-32-64-128然后测试

我这里直接设置 Num GPU Layers = 1024

  • 我让它介绍一下Unity,吐文本的速度确实非常快
  • CPU占用明显下降,GPU的话,只是抖动一下,峰值也就是4%

三、附录

1、LLMUnity在哪里?

https://github.com/undreamai/LLMUnity

相关推荐
我寄人间雪满头丶13 小时前
Unity中对于数值游戏的大数显示
游戏·unity·游戏引擎
游乐码14 小时前
unity基础 (三)坐标系
unity·游戏引擎
qq_2052790514 小时前
Unity 避免Text组件每行开头不是字符和空格,适配不同分辨率
unity·游戏引擎
游乐码14 小时前
Unity基础(二)游戏中的角度及三角函数
游戏·unity·游戏引擎
xrz5785pixel14 小时前
▎ 让本地模型在 Codex 里调用工具:我把两个不兼容的 API 翻译了
llm
花千树-01015 小时前
SubAgent 基础:拥有自主工具的子代理
java·langchain·llm·agent·langgraph·subagent·harness
qcx2316 小时前
【AI Daily】每日AI日报
人工智能·llm·agent·daily
真鬼12316 小时前
Cesium、Cmake、Dotnet快捷下载
unity·游戏引擎
真鬼12316 小时前
【Unity安卓】Unity 嵌入 Android Studio 完整流程
android·unity·android studio
qcx2317 小时前
【AI Daily】每日Arxiv论文研读Top5 | 2026-05-19(周2)
人工智能·llm·agi·arxiv