Step 5 Preview Step 5 Preview 是 StepFun 开源的 600B MoE 大模型，面向编程、金融研究与长时智能体任务，供开发者部署使用。 热门评论 PH 用户大家好！StepFun 已发布 Step 5 Preview 的权重。它之前已经可以通过 API 使用；现在这个 600B MoE 上 HF 了。每个 token 只激活 27B 参数，上下文窗口有 1M token。他们的技术文章详细讲了如何针对长时间运行的智能体任务进行训练。他们用了 92 层 transformer、为超大上下文采用稀疏注意力，甚至把 context compaction 纳入 RL 训练，让智能体学会在上下文空间不够时该保留什么。在一次测试中，他们给了它 24 小时来优化一个 H100 GPU kernel。它最佳的一次运行达到 508 TFLOPS，而在 StepFun 的测试中 Opus 5 是 493。他们还让它玩 Pokémon Red 超过 3,000 个回合、600 万 token。拿到三枚 Gym Badges，进度仍只有大约三分之一！提供 FP8、BF16 和 NVFP4 权重，还有 vLLM 和 SGLang 部署指南。PH 用户600B 里只激活 27B，意味着我有一天可能真能跑起来……开放权重还配了 vLLM 和 SGLang 指南，是一大加分项。PH 用户智能体连续处理一个任务好几个小时时，它还能记住早先的决策吗？PH 用户支持 vLLM、SGLang 和 Transformers 是个不错的加分项，这样大家试起来选择更多。PH 用户和其他开放权重模型相比，Step 5 Preview 在编程任务上的表现如何？PH 用户我很喜欢权重是开放的。这让开发者可以更自由地测试模型，并在自己的环境里运行。 热门产品Zac Zuo2026-10-17原文 打开互动版
StepFun 已发布 Step 5 Preview 的权重。它之前已经可以通过 API 使用；现在这个 600B MoE 上 HF 了。每个 token 只激活 27B 参数，上下文窗口有 1M token。
他们的技术文章详细讲了如何针对长时间运行的智能体任务进行训练。他们用了 92 层 transformer、为超大上下文采用稀疏注意力，甚至把 context compaction 纳入 RL 训练，让智能体学会在上下文空间不够时该保留什么。
在一次测试中，他们给了它 24 小时来优化一个 H100 GPU kernel。它最佳的一次运行达到 508 TFLOPS，而在 StepFun 的测试中 Opus 5 是 493。
他们还让它玩 Pokémon Red 超过 3,000 个回合、600 万 token。拿到三枚 Gym Badges，进度仍只有大约三分之一！
提供 FP8、BF16 和 NVFP4 权重，还有 vLLM 和 SGLang 部署指南。