在树莓派上运行 LLaMA:廉价高效微调 | 开源日报 No.263

cloudwu/skynet

skynet 是一个轻量级的在线游戏框架。 该项目主要功能、关键特性、核心优势包括:

  • 支持 Lua 框架
  • 使用 actor 模型
  • 广泛应用于中国游戏行业,正在向其他行业和英语开发人员扩散
  • 提供了详细的文档和常见问题解答(FAQ)页面

asweigart/pyautogui

pyautogui 是一个跨平台的 GUI 自动化 Python 模块,用于以编程方式控制鼠标和键盘。

  • 可以通过编程控制鼠标和键盘
  • 跨平台支持
  • 提供简体中文文档
  • 无需安装 Win32 扩展(Windows)
  • 支持 Python 2 和 3 版本

KindXiaoming/pykan

pykan 是 Kolmogorov Arnold Networks 的 Python 实现。 KANs 是基于 Kolmogorov-Arnold 表示定理的神经网络,比多层感知器(MLPs)更准确且具有更好的可解释性。 其主要功能和优势包括:

  • 快速扩展和较少参数下获得更高准确度
  • 可直观可视化和提供解释性
  • 安装简便,支持 PyPI 和 GitHub 安装方式
  • 文档齐全,并提供快速入门教程以及超参数调整建议。

emmett-framework/granian

Granian 是为 Python 应用程序设计的 Rust HTTP 服务器。

  • 支持 ASGI/3、RSGI 和 WSGI 接口应用程序
  • 实现了 HTTP/1 和 HTTP/2 协议
  • 支持 HTTPS
  • 支持 Websockets
  • 提供单一包在多个平台上运行,避免了在 Unix 系统上使用 Gunicorn + uvicorn + http-tools 的依赖组合问题,并且相比现有替代方案具有稳定的性能。

tloen/alpaca-lora

alpaca-lora 是一个用于在消费级硬件上调整 LLaMA 模型的项目。 该项目主要功能、关键特性、核心优势包括:

  • 提供了可以在树莓派上运行的 Instruct 模型,质量类似于 text-davinci-003,并且代码易于扩展到 13b、30b 和 65b 模型。
  • 训练代码可在单个 RTX 4090 上几小时内运行,同时发布了用于下载和推理基础模型和 LoRA 的脚本以及 LoRA 权重本身。
  • 使用 Hugging Face 的 PEFT 和 Tim Dettmers' bitsandbytes 进行廉价高效的微调。
  • Docker 支持,用户可以构建容器镜像并进行推理。
相关推荐
悟空聊架构6 分钟前
从 0 到 1:Jenkins 对接企微机器人避坑指南(附可下载 Pipeline 模板)
后端·架构·github
cwn_15 分钟前
牛津大学xDeepMind 自然语言处理(1)
人工智能·深度学习·机器学习·自然语言处理
前端双越老师22 分钟前
【干货】使用 langChian.js 实现掘金“智能总结” 考虑大文档和 token 限制
人工智能·langchain·node.js
leiya_16339 分钟前
私有化部署本地大模型+function Calling+本地数据库
人工智能·ai·大模型
HelloGitHub1 小时前
直击痛点的开源项目「GitHub 热点速览」
开源·github
Dajiaonew1 小时前
Spring AI RAG 检索增强 应用
java·人工智能·spring·ai·langchain
z千鑫1 小时前
【OpenAI】 GPT-4o-realtime-preview 多模态、实时交互模型介绍+API的使用教程!
人工智能·gpt·语言模型·aigc
之歆1 小时前
大模型微调分布式训练-大模型压缩训练(知识蒸馏)-大模型推理部署(分布式推理与量化部署)-大模型评估测试(OpenCompass)
人工智能·笔记·python
爆改模型2 小时前
【Trans2025】计算机视觉|UMFormer:即插即用!让遥感图像分割更精准!
人工智能·计算机视觉
小五1272 小时前
机器学习实例应用
人工智能·机器学习