动态

Thinking Machines组建vLLM团队推进开源推理

Woosuk Kwon
在Thinking Machines,我们的工作包括与更广泛的研究社区合作。今天,我们很高兴地分享,我们正在@thinkymachines组建一个vLLM团队,以推进开源的vLLM并服务前沿模型。如果你感兴趣,请私信我或@barret_zoph!

以下是一些示例角色/项目:
* 分布式推理工程师,支持Blackwell GPU上的大规模模型
* PyTorch与模型优化工程师,支持并优化最新的开源模型
* MLSys通才,负责vLLM的各个方面
动态Woosuk Kwon2025-09-11原文

相关内容