OpenAI自研推理芯片Jalapeño测试结果,性能大幅提升

转发 @OpenAI: 自宣布我们的首款定制推理芯片Jalapeño以来,我们一直在测试它及其周边系统。结果显示重大进展:每瓦特带来更多智能,响应更快,在单一架构中实现更高吞吐量和更低延迟,同时不牺牲效率。