探讨大型AI应用中GPU热/冷运行策略

大型AI应用面临的一个非常现实的问题：

你的GPU是“热”运行还是“冷”运行？

GPU会发热，当超过阈值时，时钟频率会降低（寿命也可能缩短）。你是让它们继续运行还是停下来冷却？

来自OpenAI工程团队：