在树莓派上运行 LLaMA:廉价高效微调 | 开源日报 No.263

cloudwu/skynet

skynet 是一个轻量级的在线游戏框架。 该项目主要功能、关键特性、核心优势包括:

  • 支持 Lua 框架
  • 使用 actor 模型
  • 广泛应用于中国游戏行业,正在向其他行业和英语开发人员扩散
  • 提供了详细的文档和常见问题解答(FAQ)页面

asweigart/pyautogui

pyautogui 是一个跨平台的 GUI 自动化 Python 模块,用于以编程方式控制鼠标和键盘。

  • 可以通过编程控制鼠标和键盘
  • 跨平台支持
  • 提供简体中文文档
  • 无需安装 Win32 扩展(Windows)
  • 支持 Python 2 和 3 版本

KindXiaoming/pykan

pykan 是 Kolmogorov Arnold Networks 的 Python 实现。 KANs 是基于 Kolmogorov-Arnold 表示定理的神经网络,比多层感知器(MLPs)更准确且具有更好的可解释性。 其主要功能和优势包括:

  • 快速扩展和较少参数下获得更高准确度
  • 可直观可视化和提供解释性
  • 安装简便,支持 PyPI 和 GitHub 安装方式
  • 文档齐全,并提供快速入门教程以及超参数调整建议。

emmett-framework/granian

Granian 是为 Python 应用程序设计的 Rust HTTP 服务器。

  • 支持 ASGI/3、RSGI 和 WSGI 接口应用程序
  • 实现了 HTTP/1 和 HTTP/2 协议
  • 支持 HTTPS
  • 支持 Websockets
  • 提供单一包在多个平台上运行,避免了在 Unix 系统上使用 Gunicorn + uvicorn + http-tools 的依赖组合问题,并且相比现有替代方案具有稳定的性能。

tloen/alpaca-lora

alpaca-lora 是一个用于在消费级硬件上调整 LLaMA 模型的项目。 该项目主要功能、关键特性、核心优势包括:

  • 提供了可以在树莓派上运行的 Instruct 模型,质量类似于 text-davinci-003,并且代码易于扩展到 13b、30b 和 65b 模型。
  • 训练代码可在单个 RTX 4090 上几小时内运行,同时发布了用于下载和推理基础模型和 LoRA 的脚本以及 LoRA 权重本身。
  • 使用 Hugging Face 的 PEFT 和 Tim Dettmers' bitsandbytes 进行廉价高效的微调。
  • Docker 支持,用户可以构建容器镜像并进行推理。
相关推荐
ajassi20002 小时前
开源 C++ QT Widget 开发(十五)多媒体--音频播放
linux·c++·qt·开源
兆龙电子单片机设计3 小时前
【STM32项目开源】STM32单片机智能恒温箱控制系统
stm32·单片机·物联网·开源·毕业设计
大写-凌祁3 小时前
零基础入门深度学习:从理论到实战,GitHub+开源资源全指南(2025最新版)
人工智能·深度学习·开源·github
焦耳加热3 小时前
阿德莱德大学Nat. Commun.:盐模板策略实现废弃塑料到单原子催化剂的高值转化,推动环境与能源催化应用
人工智能·算法·机器学习·能源·材料工程
深空数字孪生3 小时前
储能调峰新实践:智慧能源平台如何保障风电消纳与电网稳定?
大数据·人工智能·物联网
悟乙己3 小时前
Github | MoneyPrinterTurbo:自动化视频内容生成系统
自动化·github·音视频
wan5555cn3 小时前
多张图片生成视频模型技术深度解析
人工智能·笔记·深度学习·算法·音视频
格林威4 小时前
机器视觉检测的光源基础知识及光源选型
人工智能·深度学习·数码相机·yolo·计算机视觉·视觉检测
今天也要学习吖5 小时前
谷歌nano banana官方Prompt模板发布,解锁六大图像生成风格
人工智能·学习·ai·prompt·nano banana·谷歌ai
Hello123网站5 小时前
glean-企业级AI搜索和知识发现平台
人工智能·产品运营·ai工具