Hugging Face Hub推理提供商提升生活质量

Hugging Face Hub 上的推理提供商极大地提升了生活质量（QoL）

1/ 经过数周探索模型部署选项，我将发现记录在两篇文章中。我的第一个方法是使用 Hugging Face Space 上的 transformers API + FastAPI。

优点：任意模型，部署极快
缺点：模型未完全针对生产优化；可考虑 vLLM 或 TGI。