ReMix：防止路由权重崩溃的新方法

ReMix: 混合LoRA的强化路由

一种新方法，通过使用不可学习的路由权重和RLOO梯度估计器来防止Mixture-of-LoRAs模型中的路由权重崩溃，确保所有活跃的LoRA同等贡献以提升表达能力。