在树莓派上运行 LLaMA:廉价高效微调 | 开源日报 No.263

cloudwu/skynet

skynet 是一个轻量级的在线游戏框架。 该项目主要功能、关键特性、核心优势包括:

  • 支持 Lua 框架
  • 使用 actor 模型
  • 广泛应用于中国游戏行业,正在向其他行业和英语开发人员扩散
  • 提供了详细的文档和常见问题解答(FAQ)页面

asweigart/pyautogui

pyautogui 是一个跨平台的 GUI 自动化 Python 模块,用于以编程方式控制鼠标和键盘。

  • 可以通过编程控制鼠标和键盘
  • 跨平台支持
  • 提供简体中文文档
  • 无需安装 Win32 扩展(Windows)
  • 支持 Python 2 和 3 版本

KindXiaoming/pykan

pykan 是 Kolmogorov Arnold Networks 的 Python 实现。 KANs 是基于 Kolmogorov-Arnold 表示定理的神经网络,比多层感知器(MLPs)更准确且具有更好的可解释性。 其主要功能和优势包括:

  • 快速扩展和较少参数下获得更高准确度
  • 可直观可视化和提供解释性
  • 安装简便,支持 PyPI 和 GitHub 安装方式
  • 文档齐全,并提供快速入门教程以及超参数调整建议。

emmett-framework/granian

Granian 是为 Python 应用程序设计的 Rust HTTP 服务器。

  • 支持 ASGI/3、RSGI 和 WSGI 接口应用程序
  • 实现了 HTTP/1 和 HTTP/2 协议
  • 支持 HTTPS
  • 支持 Websockets
  • 提供单一包在多个平台上运行,避免了在 Unix 系统上使用 Gunicorn + uvicorn + http-tools 的依赖组合问题,并且相比现有替代方案具有稳定的性能。

tloen/alpaca-lora

alpaca-lora 是一个用于在消费级硬件上调整 LLaMA 模型的项目。 该项目主要功能、关键特性、核心优势包括:

  • 提供了可以在树莓派上运行的 Instruct 模型,质量类似于 text-davinci-003,并且代码易于扩展到 13b、30b 和 65b 模型。
  • 训练代码可在单个 RTX 4090 上几小时内运行,同时发布了用于下载和推理基础模型和 LoRA 的脚本以及 LoRA 权重本身。
  • 使用 Hugging Face 的 PEFT 和 Tim Dettmers' bitsandbytes 进行廉价高效的微调。
  • Docker 支持,用户可以构建容器镜像并进行推理。
相关推荐
月眠老师几秒前
拓展AI超级智能后的人类生活场景
人工智能·生活
是十一月末29 分钟前
Opencv实现图片的边界填充和阈值处理
人工智能·python·opencv·计算机视觉
机智的叉烧1 小时前
前沿重器[57] | sigir24:大模型推荐系统的文本ID对齐学习
人工智能·学习·机器学习
凳子花❀1 小时前
强化学习与深度学习以及相关芯片之间的区别
人工智能·深度学习·神经网络·ai·强化学习
泰迪智能科技013 小时前
高校深度学习视觉应用平台产品介绍
人工智能·深度学习
盛派网络小助手3 小时前
微信 SDK 更新 Sample,NCF 文档和模板更新,更多更新日志,欢迎解锁
开发语言·人工智能·后端·架构·c#
Eric.Lee20214 小时前
Paddle OCR 中英文检测识别 - python 实现
人工智能·opencv·计算机视觉·ocr检测
cd_farsight4 小时前
nlp初学者怎么入门?需要学习哪些?
人工智能·自然语言处理
AI明说4 小时前
评估大语言模型在药物基因组学问答任务中的表现:PGxQA
人工智能·语言模型·自然语言处理·数智药师·数智药学
Focus_Liu4 小时前
NLP-UIE(Universal Information Extraction)
人工智能·自然语言处理