onnxruntime
跨平台高性能 ML 推理与训练加速引擎，直接运行 ONNX 格式模型，兼容 PyTorch、TensorFlow 等主流框架导出。核心价值在于统一的模型部署层，通过图优化、算子融合和硬件加速（CPU/GPU/NPU）显著降低推理延迟与成本，并支持分布式训练加速。微软主导，社区活跃，是生产环境中模型落地的关键基础设施，值得关注。
README
ONNX Runtime 是一个跨平台的推理与训练机器学习加速器。
ONNX Runtime 推理 可以带来更快的用户体验和更低的成本，支持来自 PyTorch、TensorFlow/Keras 等深度学习框架以及 scikit-learn、LightGBM、XGBoost 等经典机器学习库的模型。ONNX Runtime 兼容不同的硬件、驱动程序和操作系统，并通过利用适用的硬件加速器以及图优化和变换来提供最佳性能。了解更多 →
ONNX Runtime 训练 可通过为现有 PyTorch 训练脚本增加一行代码，在多节点 NVIDIA GPU 上加速 Transformer（自注意力架构）模型的训练时间。了解更多 →
开始使用与资源
通用信息：onnxruntime.ai
使用文档和教程：onnxruntime.ai/docs
YouTube 视频教程：youtube.com/@ONNXRuntime
配套示例代码仓库：
- ONNX Runtime 推理：microsoft/onnxruntime-inference-examples
- ONNX Runtime 训练：microsoft/onnxruntime-training-examples
插件 EP 仓库：
- ONNX Runtime QNN 插件 EP：onnxruntime/onnxruntime-qnn
版本发布
当前版本和过往版本可在此处找到：https://github.com/microsoft/onnxruntime/releases。
有关即将发布版本的详细信息，包括发布日期、公告、功能以及提交功能请求的指南，请访问版本路线图：https://onnxruntime.ai/roadmap。
数据/遥测
本项目可能会收集使用数据并将其发送给 Microsoft，以帮助我们改进产品和服务。有关更多详细信息，请参阅隐私声明。
贡献与反馈
我们欢迎贡献！请参阅贡献指南。
如需提交功能请求或错误报告，请在 GitHub Issues 中提交。
如需进行一般性讨论或提问，请使用 GitHub Discussions。
行为准则
本项目已采用 Microsoft 开源行为准则。 如需了解更多信息，请参阅行为准则常见问题 或通过 opencode@microsoft.com 联系我们提出任何其他问题或评论。
许可证
本项目采用 MIT 许可证 授权。