评论BiT和nfnet的扩展性和内存问题

这不就是我们在BiT中做的吗？效果类似，但扩展更麻烦、更耗内存，因此在相同硬件上无法扩展太多。

然后Sam/Andy/Soham不久前用nfnet又做了一次：
https://arxiv.org/pdf/2310.16764