Transformers 引入连续批处理功能

我们一直在悄悄地向 transformers 推送提交，现在该聊聊过去几个月我们在做什么了：

⚡️ Transformers 中加入了连续批处理 ⚡️

这将极大地简化评估和训练循环：无需额外依赖或基础设施即可获得快速推理，也无需复杂的代码来更新权重。

请注意，目前速度尚不能与最佳推理框架和服务器相媲美，而且可能永远也无法达到。

目标不是追求极致速度：我们希望用这些功能补充现有生态，让 transformers 成为模型调试和构建的工具箱。