转推讨论AI模型蒸馏,实验室通过蒸馏训练模型
转推 @ClementDelangue:我认为这个说法是“抽梯子”!所有实验室都通过蒸馏(至少是蒸馏)来训练他们的模型…… https://x.com/dzhang50/status/dzhang50/status/2049995599207100575…
还有人记得 Jacob Devlin 是如何向媒体爆料 Google 据称从 ShareGPT 中蒸馏(其实并没有)以及随后引发的反弹吗?时代真是变了 😅 https://t.co/4kZb8cGLjf