强调开源MoE模型的重要性，并关注模型尺寸对开发者硬件的适配。

很高兴看到越来越多的大型MoE模型被开源——推动前沿绝对重要。我们也在构建这些模型。
但我们一直同样关心一个实际问题：有多少开发者能真正运行这个模型？
当我们考虑模型大小时，我们想到的是普通人真正拥有的机器：
能在T4上运行的小模型——在Colab上免费微调
~30B参数能放在单个48G~64G GPU上
~90B参数能在Mac Studio上运行
每个尺寸都是实实在在的工作——单独的训练流程、评估管线、发布周期。
我们相信很多开发者需要更小的模型来完成实际工作。而且看到小型模型进步如此之快，如今紧凑的模型能完成以往需要大型模型才能做到的事情，这真是令人难以置信。
非常高兴看到大家喜欢我们的小型模型。
那么……你的硬盘准备好迎接下一个了吗？(｡•̀ᴗ-)✧