AI公司面临可靠性、成本等工程挑战

为什么会发生这种情况？

• 推理支出增长快于员工人数

• 模型有停机时间（如@karpathy所称的“智能停电”）且数据政策不一致

• CTO需要可靠性，CFO需要成本可见性，CISO需要路由控制

AI公司正在成为事实上的模型路由器……