介绍深度自监督和多模态分词器两种算法方案

我们还引入了两种算法解决方案：
- 深度自监督：在多个中间编码器层应用损失，使局部信息流遍整个网络。
- 多模态分词器：对图像/视频使用可学习模态标记分离2D/3D卷积。