在树莓派上运行 LLaMA:廉价高效微调 | 开源日报 No.263

cloudwu/skynet

skynet 是一个轻量级的在线游戏框架。 该项目主要功能、关键特性、核心优势包括:

  • 支持 Lua 框架
  • 使用 actor 模型
  • 广泛应用于中国游戏行业,正在向其他行业和英语开发人员扩散
  • 提供了详细的文档和常见问题解答(FAQ)页面

asweigart/pyautogui

pyautogui 是一个跨平台的 GUI 自动化 Python 模块,用于以编程方式控制鼠标和键盘。

  • 可以通过编程控制鼠标和键盘
  • 跨平台支持
  • 提供简体中文文档
  • 无需安装 Win32 扩展(Windows)
  • 支持 Python 2 和 3 版本

KindXiaoming/pykan

pykan 是 Kolmogorov Arnold Networks 的 Python 实现。 KANs 是基于 Kolmogorov-Arnold 表示定理的神经网络,比多层感知器(MLPs)更准确且具有更好的可解释性。 其主要功能和优势包括:

  • 快速扩展和较少参数下获得更高准确度
  • 可直观可视化和提供解释性
  • 安装简便,支持 PyPI 和 GitHub 安装方式
  • 文档齐全,并提供快速入门教程以及超参数调整建议。

emmett-framework/granian

Granian 是为 Python 应用程序设计的 Rust HTTP 服务器。

  • 支持 ASGI/3、RSGI 和 WSGI 接口应用程序
  • 实现了 HTTP/1 和 HTTP/2 协议
  • 支持 HTTPS
  • 支持 Websockets
  • 提供单一包在多个平台上运行,避免了在 Unix 系统上使用 Gunicorn + uvicorn + http-tools 的依赖组合问题,并且相比现有替代方案具有稳定的性能。

tloen/alpaca-lora

alpaca-lora 是一个用于在消费级硬件上调整 LLaMA 模型的项目。 该项目主要功能、关键特性、核心优势包括:

  • 提供了可以在树莓派上运行的 Instruct 模型,质量类似于 text-davinci-003,并且代码易于扩展到 13b、30b 和 65b 模型。
  • 训练代码可在单个 RTX 4090 上几小时内运行,同时发布了用于下载和推理基础模型和 LoRA 的脚本以及 LoRA 权重本身。
  • 使用 Hugging Face 的 PEFT 和 Tim Dettmers' bitsandbytes 进行廉价高效的微调。
  • Docker 支持,用户可以构建容器镜像并进行推理。
相关推荐
Easy_API6 小时前
2.8万亿参数,编程反超GPT-6 Astra:Kimi K3.1 Pro把开源模型推到了哪一步
大数据·人工智能·gpt·深度学习
GlobalInfo6 小时前
2026年机器人多指灵巧手市场分析报告——涵盖行业调查、趋势分析与发展前景
大数据·人工智能·microsoft·微服务·机器人
紧跟先前的步伐7 小时前
Go AI Agent 实战 24|工具系统工程化收尾与阶段验收
人工智能·ai·golang·1024程序员节
释厄6237 小时前
AI学习层更新与跨体转移律——人类社会同构·不缺理解缺 U
人工智能·学习
老金带你玩AI8 小时前
集万家所长,一键复制的Agent.md!
人工智能
ZhuoAIStage8 小时前
舞台工艺多专业审图提速:用 AI 智能体编排 A+B+C+G 四段读图流水线
人工智能·自动化·工作流编排·舞台工艺·审图智能体
小奶包他干奶奶8 小时前
AI学习——1、机器学习概念
人工智能·机器学习
展讯快报9 小时前
悬浮提词器免费App评估报告:说得AI的免费策略与可用性分析
人工智能
Yuzhiyuxia9 小时前
【AI Agent面试系列】AI Agent记忆机制知识点1
人工智能·面试·职场和发展
2601_965448879 小时前
AI视频制作:做系列历史人物视频音色不搭,AI 音色克隆的方法实测
人工智能·音视频