在树莓派上运行 LLaMA:廉价高效微调 | 开源日报 No.263

cloudwu/skynet

skynet 是一个轻量级的在线游戏框架。 该项目主要功能、关键特性、核心优势包括:

  • 支持 Lua 框架
  • 使用 actor 模型
  • 广泛应用于中国游戏行业,正在向其他行业和英语开发人员扩散
  • 提供了详细的文档和常见问题解答(FAQ)页面

asweigart/pyautogui

pyautogui 是一个跨平台的 GUI 自动化 Python 模块,用于以编程方式控制鼠标和键盘。

  • 可以通过编程控制鼠标和键盘
  • 跨平台支持
  • 提供简体中文文档
  • 无需安装 Win32 扩展(Windows)
  • 支持 Python 2 和 3 版本

KindXiaoming/pykan

pykan 是 Kolmogorov Arnold Networks 的 Python 实现。 KANs 是基于 Kolmogorov-Arnold 表示定理的神经网络,比多层感知器(MLPs)更准确且具有更好的可解释性。 其主要功能和优势包括:

  • 快速扩展和较少参数下获得更高准确度
  • 可直观可视化和提供解释性
  • 安装简便,支持 PyPI 和 GitHub 安装方式
  • 文档齐全,并提供快速入门教程以及超参数调整建议。

emmett-framework/granian

Granian 是为 Python 应用程序设计的 Rust HTTP 服务器。

  • 支持 ASGI/3、RSGI 和 WSGI 接口应用程序
  • 实现了 HTTP/1 和 HTTP/2 协议
  • 支持 HTTPS
  • 支持 Websockets
  • 提供单一包在多个平台上运行,避免了在 Unix 系统上使用 Gunicorn + uvicorn + http-tools 的依赖组合问题,并且相比现有替代方案具有稳定的性能。

tloen/alpaca-lora

alpaca-lora 是一个用于在消费级硬件上调整 LLaMA 模型的项目。 该项目主要功能、关键特性、核心优势包括:

  • 提供了可以在树莓派上运行的 Instruct 模型,质量类似于 text-davinci-003,并且代码易于扩展到 13b、30b 和 65b 模型。
  • 训练代码可在单个 RTX 4090 上几小时内运行,同时发布了用于下载和推理基础模型和 LoRA 的脚本以及 LoRA 权重本身。
  • 使用 Hugging Face 的 PEFT 和 Tim Dettmers' bitsandbytes 进行廉价高效的微调。
  • Docker 支持,用户可以构建容器镜像并进行推理。
相关推荐
CV实验室22 分钟前
TIP 2025 | 哈工大&哈佛等提出 TripleMixer:攻克雨雪雾干扰的3D点云去噪网络!
人工智能·计算机视觉·3d·论文
纵有疾風起1 小时前
C++——类和对象(3)
开发语言·c++·经验分享·开源
余俊晖1 小时前
一套针对金融领域多模态问答的自适应多层级RAG框架-VeritasFi
人工智能·金融·rag
码农阿树2 小时前
视频解析转换耗时—OpenCV优化摸索路
人工智能·opencv·音视频
伏小白白白3 小时前
【论文精度-2】求解车辆路径问题的神经组合优化算法:综合展望(Yubin Xiao,2025)
人工智能·算法·机器学习
应用市场3 小时前
OpenCV编程入门:从零开始的计算机视觉之旅
人工智能·opencv·计算机视觉
草梅友仁3 小时前
草梅 Auth 1.10.1 发布与浏览器自动化工具 | 2025 年第 42 周草梅周报
开源·github·自动化运维
星域智链3 小时前
宠物智能用品:当毛孩子遇上 AI,是便利还是过度?
人工智能·科技·学习·宠物
taxunjishu3 小时前
DeviceNet 转 MODBUS TCP罗克韦尔 ControlLogix PLC 与上位机在汽车零部件涂装生产线漆膜厚度精准控制的通讯配置案例
人工智能·区块链·工业物联网·工业自动化·总线协议
惘嘫、冋渞3 小时前
Centos7 自建Umami-开源免费的网站访问流量统计分析平台
开源