在树莓派上运行 LLaMA：廉价高效微调 | 开源日报 No.263

picture

tloen/alpaca-lorahttps://github.com/tloen/alpaca-lora

Stars: 18.2k License: Apache-2.0

alpaca-lora 是一个用于在消费级硬件上调整 LLaMA 模型的项目。 该项目主要功能、关键特性、核心优势包括：

• 提供了可以在树莓派上运行的 Instruct 模型，质量类似于 text-davinci-003，并且代码易于扩展到 13b、30b 和 65b 模型。
• 训练代码可在单个 RTX 4090 上几小时内运行，同时发布了用于下载和推理基础模型和 LoRA 的脚本以及 LoRA 权重本身。
• 使用 Hugging Face 的 PEFT 和 Tim Dettmers' bitsandbytes 进行廉价高效的微调。
• Docker 支持，用户可以构建容器镜像并进行推理。

cloudwu/skynethttps://github.com/cloudwu/skynet

Stars: 13.0k License: MIT

picture

skynet 是一个轻量级的在线游戏框架。 该项目主要功能、关键特性、核心优势包括：

• 支持 Lua 框架
• 使用 actor 模型
• 广泛应用于中国游戏行业，正在向其他行业和英语开发人员扩散
• 提供了详细的文档和常见问题解答（FAQ）页面

KindXiaoming/pykanhttps://github.com/KindXiaoming/pykan

Stars: 10.3k License: MIT

picture

pykan 是 Kolmogorov Arnold Networks 的 Python 实现。 KANs 是基于 Kolmogorov-Arnold 表示定理的神经网络，比多层感知器（MLPs）更准确且具有更好的可解释性。 其主要功能和优势包括：

• 快速扩展和较少参数下获得更高准确度
• 可直观可视化和提供解释性
• 安装简便，支持 PyPI 和 GitHub 安装方式
• 文档齐全，并提供快速入门教程以及超参数调整建议。

asweigart/pyautoguihttps://github.com/asweigart/pyautogui

Stars: 9.7k License: BSD-3-Clause

pyautogui 是一个跨平台的 GUI 自动化 Python 模块，用于以编程方式控制鼠标和键盘。

• 可以通过编程控制鼠标和键盘
• 跨平台支持
• 提供简体中文文档
• 无需安装 Win32 扩展（Windows）
• 支持 Python 2 和 3 版本

emmett-framework/granianhttps://github.com/emmett-framework/granian

Stars: 2.1k License: BSD-3-Clause

Granian 是为 Python 应用程序设计的 Rust HTTP 服务器。

• 支持 ASGI/3、RSGI 和 WSGI 接口应用程序
• 实现了 HTTP/1 和 HTTP/2 协议
• 支持 HTTPS
• 支持 Websockets
• 提供单一包在多个平台上运行，避免了在 Unix 系统上使用 Gunicorn + uvicorn + http-tools 的依赖组合问题，并且相比现有替代方案具有稳定的性能。