Thinking Machines组建vLLM团队推进开源推理
在Thinking Machines,我们的工作包括与更广泛的研究社区合作。今天,我们很高兴地分享,我们正在@thinkymachines组建一个vLLM团队,以推进开源的vLLM并服务前沿模型。如果你感兴趣,请私信我或@barret_zoph!
以下是一些示例角色/项目:
* 分布式推理工程师,支持Blackwell GPU上的大规模模型
* PyTorch与模型优化工程师,支持并优化最新的开源模型
* MLSys通才,负责vLLM的各个方面
以下是一些示例角色/项目:
* 分布式推理工程师,支持Blackwell GPU上的大规模模型
* PyTorch与模型优化工程师,支持并优化最新的开源模型
* MLSys通才,负责vLLM的各个方面