小米MiMo模型与TileRT合作实现1T模型每秒1000+ tokens输出

🚀 1T模型每秒1000+ tokens！🚀 我们激动地发布小米MiMo-V2.5-Pro-UltraSpeed，与@TileRT_AI合作，首次在1万亿参数模型上突破1000 tokens/s的输出速度！不是Cerebras的晶圆级集成，也不是Groq的纯片上SRAM芯片。我们仅使用单一标准8-GPGPU节点，在1T MoE模型上实现1000 tps。阅读完整技术深度解析：https://t.co/MX0kjHKdKi 想体验实时AI的未来？👉 立即申请UltraSpeed: https://t.co/aeWAxyhwVk ⏳限时访问：基于申请 · 6月8日至6月23日（PDT）💬聊天体验：限时完全免费——试试极速网页聊天。⚡ UltraSpeed API：仅3倍价格，获得约10倍输出体验提升。🤝企业及大规模需求：business-mimo@xiaomi.com