1-bit Bonsai 8B 在 M4 Pro 上本地运行，内存更低、吞吐更高。

1-bit Bonsai 8B 在 M4 Pro (MLX) 上本地运行，旁边是一个标准 16-bit 8B 模型。同一类模型，部署特性截然不同：内存占用低得多，吞吐量显著提高。