已发布集合

Soup 用 layer streaming 在本地微调8B 模型

它降低了本地微调大参数模型的硬件门槛，方便个人设备尝试训练。

已发布证据

每条内容都保留摘要，并提供回到来源语境的路径。

X2026-08-19

作者称开源 CLI 工具 Soup 使用 layer streaming，将基础模型放在系统 RAM 中并逐层送入 GPU，可在 4 GB GPU 笔记本上本地微调 8B 模型。

为什么重要它降低了本地微调大参数模型的硬件门槛，方便个人设备尝试训练。