行业新闻

科大讯飞发布星火Token Factory,统一企业大模型接入与治理

科大讯飞发布星火Token Factory,统一企业大模型接入与治理

星火Token Factory通过智能路由和全链路治理,解决企业AI规模化部署中的成本、管理与安全挑战。

科大讯飞推出星火Token Factory,这是一个企业级AI模型智能路由平台,解决大模型规模化落地中的多模型管理、成本控制和安全治理难题。它通过智能路由将简单任务分配给性价比高的模型,复杂任务给强模型,同时提供推理优化、安全审计和成本归因,帮助企业高效运营AI。

正文摘录

- title: 科大讯飞发布星火 Token Factory,打造企业级 AI 模型智能路由与治理新底座 - sourcecompany: 新智元 - bodymarkdown: AI 产业澎湃,越来越多企业开始将人工智能深度融入研发、生产、客服、营销等核心业务场景。在大模型应用规模快速增长的同时,企业也面临新的挑战:模型种类不断增加、调用成本持续攀升、系统稳定性要求不断提高,而跨模型管理、成本控制、安全治理和运行监控等能力建设却相对滞后。 面对企业 AI 规模化落地过程中普遍存在的运营管理难题,科大讯飞 7 月 19 日正式推出星火 Token Factory,通过统一接入、智能路由、全链路治理与成本优化能力,为企业构建面向未来的大模型基础设施底座。 聚焦企业 AI 规模化落地挑战 当前,大模型应用正从单点试点走向多业务、多场景、多团队协同应用的新阶段。 企业往往需要同时接入多个模型服务,支撑代码助手、智能客服、知识问答、内容生成、文档处理等不同业务场景。随着调用规模增长,企业面临的管理压力也在持续加大。 一方面,不同任务复杂度差异显著,但实际应用中往往采用统一模型处理,导致资源利用效率不高,Token 成本持续增长;另一方面,多模型并行运行也对系统稳定性、安全治理以及运营管理提出更高要求。 与此同时,企业 AI 建设正逐步从“模型能力建设”迈向“AI 基础设施建设”阶段。企业关注的重点,不再仅仅是模型本身能力是否足够强大,而是如何让模型能力真正融入业务体系,实现稳定运行、统一治理和持续优化。如何在保障业务效果的同时降低成本、提升稳定性、实现统一管理,正在成为企业推进 AI 规模化应用的重要课题。

阅读原文(aiera.com.cn)→

行业新闻新智元2026-07-23原文

相关内容