MakazhanAlpamys/Soup

开源 LLM 微调命令行工具，一个 YAML 配置即可完成本地大模型训练与部署

开源 LLM 微调命令行工具，一个 YAML 配置即可完成本地大模型训练与部署

产品定位

Soup 的定位差异在于把微调流程压缩为“一个配置、一条命令”，并以本地优先的方式运行，无需云端和 SSH。选型时需注意：仅支持 Python 3.10–3.12，3.13+ 暂不可用；CPU 训练为实验性且很慢，推荐 CUDA GPU（也支持 Apple Silicon MPS）；QLoRA 训练 7B 模型建议 8 GB 以上显存。Layer streaming 低显存训练为 opt-in 的 BETA 功能，可在 4 GB 笔记本 GPU 上训练 8B 模型。项目由 MakazhanAlpamys 及社区贡献者维护，接受自愿捐赠但保持免费。

适合用户

  • LLM 研究者与工程师
  • 本地/消费级 GPU 用户
  • 开源社区开发者

功能亮点

  • 单 YAML 配置微调

    通过一个 soup.yaml 配置文件和 soup train 命令完成微调，LoRA、量化、批大小等自动处理。

  • Layer streaming 低显存训练（BETA）

    将冻结的基础模型逐层送入 GPU，可在 4 GB 笔记本 GPU 上训练 8B 模型；需显式开启 stream_layers: true，仍为 BETA。

  • 多种训练任务支持

    支持 SFT、DPO、GRPO、PPO、KTO、ORPO、SimPO、IPO、BCO、工具调用、预训练、蒸馏、分类、视觉/音频/TTS、遗忘学习（unlearning）等。

  • HuggingFace 模型兼容

    兼容 HuggingFace Hub 上任何可用 AutoModelForCausalLM 加载的文本生成模型，并提供 100+ 现成配方。

  • 导出与部署

    支持导出 GGUF（Ollama/llama.cpp）、ONNX、TensorRT、AWQ、GPTQ、BitNet 等格式，并提供 OpenAI 兼容服务器。

访问与价格

可用状态: 当前可用

价格信息: 开源

支持平台: macOS, 自托管

价格说明: Apache-2.0 开源许可，免费使用；项目通过 Stripe 接受一次性捐赠（由维护者公司 MePlay, Inc. 处理），捐赠非使用条件。

官方入口

来源核验

资料核验于 2026-09-01